toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
   4  *    2000, 2001, 2002, 2003, 2004, 2005, 2006, by Larry Wall and others
   5  *
   6  *    You may distribute under the terms of either the GNU General Public
   7  *    License or the Artistic License, as specified in the README file.
   8  *
   9  */
  10
  11 /*
  12  *   "It all comes from here, the stench and the peril."  --Frodo
  13  */
  14
  15 /*
  16  * This file is the lexer for Perl.  It's closely linked to the
  17  * parser, perly.y.
  18  *
  19  * The main routine is yylex(), which returns the next token.
  20  */
  21
  22 #include "EXTERN.h"
  23 #define PERL_IN_TOKE_C
  24 #include "perl.h"
  25
  26 #define yychar  (*PL_yycharp)
  27 #define yylval  (*PL_yylvalp)
  28
  29 static const char ident_too_long[] = "Identifier too long";
  30 static const char commaless_variable_list[] = "comma-less variable list";
  31
  32 static void restore_rsfp(pTHX_ void *f);
  33 #ifndef PERL_NO_UTF16_FILTER
  34 static I32 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen);
  35 static I32 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen);
  36 #endif
  37
  38 #ifdef PERL_MAD
  39 #  define CURMAD(slot,sv) if (PL_madskills) { curmad(slot,sv); sv = 0; }
  40 #  define NEXTVAL_NEXTTOKE PL_nexttoke[PL_curforce].next_val
  41 #else
  42 #  define CURMAD(slot,sv)
  43 #  define NEXTVAL_NEXTTOKE PL_nextval[PL_nexttoke]
  44 #endif
  45
  46 #define XFAKEBRACK 128
  47 #define XENUMMASK 127
  48
  49 #ifdef USE_UTF8_SCRIPTS
  50 #   define UTF (!IN_BYTES)
  51 #else
  52 #   define UTF ((PL_linestr && DO_UTF8(PL_linestr)) || (PL_hints & HINT_UTF8))
  53 #endif
  54
  55 /* In variables named $^X, these are the legal values for X.
  56  * 1999-02-27 mjd-perl-patch@plover.com */
  57 #define isCONTROLVAR(x) (isUPPER(x) || strchr("[\\]^_?", (x)))
  58
  59 /* On MacOS, respect nonbreaking spaces */
  60 #ifdef MACOS_TRADITIONAL
  61 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\312'||(c)=='\t')
  62 #else
  63 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\t')
  64 #endif
  65
  66 /* LEX_* are values for PL_lex_state, the state of the lexer.
  67  * They are arranged oddly so that the guard on the switch statement
  68  * can get by with a single comparison (if the compiler is smart enough).
  69  */
  70
  71 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  72
  73 #define LEX_NORMAL              10 /* normal code (ie not within "...")     */
  74 #define LEX_INTERPNORMAL         9 /* code within a string, eg "$foo[$x+1]" */
  75 #define LEX_INTERPCASEMOD        8 /* expecting a \U, \Q or \E etc          */
  76 #define LEX_INTERPPUSH           7 /* starting a new sublex parse level     */
  77 #define LEX_INTERPSTART          6 /* expecting the start of a $var         */
  78
  79                                    /* at end of code, eg "$x" followed by:  */
  80 #define LEX_INTERPEND            5 /* ... eg not one of [, { or ->          */
  81 #define LEX_INTERPENDMAYBE       4 /* ... eg one of [, { or ->              */
  82
  83 #define LEX_INTERPCONCAT         3 /* expecting anything, eg at start of
  84                                         string or after \E, $foo, etc       */
  85 #define LEX_INTERPCONST          2 /* NOT USED */
  86 #define LEX_FORMLINE             1 /* expecting a format line               */
  87 #define LEX_KNOWNEXT             0 /* next token known; just return it      */
  88
  89
  90 #ifdef DEBUGGING
  91 static const char* const lex_state_names[] = {
  92     "KNOWNEXT",
  93     "FORMLINE",
  94     "INTERPCONST",
  95     "INTERPCONCAT",
  96     "INTERPENDMAYBE",
  97     "INTERPEND",
  98     "INTERPSTART",
  99     "INTERPPUSH",
 100     "INTERPCASEMOD",
 101     "INTERPNORMAL",
 102     "NORMAL"
 103 };
 104 #endif
 105
 106 #ifdef ff_next
 107 #undef ff_next
 108 #endif
 109
 110 #include "keywords.h"
 111
 112 /* CLINE is a macro that ensures PL_copline has a sane value */
 113
 114 #ifdef CLINE
 115 #undef CLINE
 116 #endif
 117 #define CLINE (PL_copline = (CopLINE(PL_curcop) < PL_copline ? CopLINE(PL_curcop) : PL_copline))
 118
 119 #ifdef PERL_MAD
 120 #  define SKIPSPACE0(s) skipspace0(s)
 121 #  define SKIPSPACE1(s) skipspace1(s)
 122 #  define SKIPSPACE2(s,tsv) skipspace2(s,&tsv)
 123 #  define PEEKSPACE(s) skipspace2(s,0)
 124 #else
 125 #  define SKIPSPACE0(s) skipspace(s)
 126 #  define SKIPSPACE1(s) skipspace(s)
 127 #  define SKIPSPACE2(s,tsv) skipspace(s)
 128 #  define PEEKSPACE(s) skipspace(s)
 129 #endif
 130
 131 /*
 132  * Convenience functions to return different tokens and prime the
 133  * lexer for the next token.  They all take an argument.
 134  *
 135  * TOKEN        : generic token (used for '(', DOLSHARP, etc)
 136  * OPERATOR     : generic operator
 137  * AOPERATOR    : assignment operator
 138  * PREBLOCK     : beginning the block after an if, while, foreach, ...
 139  * PRETERMBLOCK : beginning a non-code-defining {} block (eg, hash ref)
 140  * PREREF       : *EXPR where EXPR is not a simple identifier
 141  * TERM         : expression term
 142  * LOOPX        : loop exiting command (goto, last, dump, etc)
 143  * FTST         : file test operator
 144  * FUN0         : zero-argument function
 145  * FUN1         : not used, except for not, which isn't a UNIOP
 146  * BOop         : bitwise or or xor
 147  * BAop         : bitwise and
 148  * SHop         : shift operator
 149  * PWop         : power operator
 150  * PMop         : pattern-matching operator
 151  * Aop          : addition-level operator
 152  * Mop          : multiplication-level operator
 153  * Eop          : equality-testing operator
 154  * Rop          : relational operator <= != gt
 155  *
 156  * Also see LOP and lop() below.
 157  */
 158
 159 #ifdef DEBUGGING /* Serve -DT. */
 160 #   define REPORT(retval) tokereport((I32)retval)
 161 #else
 162 #   define REPORT(retval) (retval)
 163 #endif
 164
 165 #define TOKEN(retval) return ( PL_bufptr = s, REPORT(retval))
 166 #define OPERATOR(retval) return (PL_expect = XTERM, PL_bufptr = s, REPORT(retval))
 167 #define AOPERATOR(retval) return ao((PL_expect = XTERM, PL_bufptr = s, REPORT(retval)))
 168 #define PREBLOCK(retval) return (PL_expect = XBLOCK,PL_bufptr = s, REPORT(retval))
 169 #define PRETERMBLOCK(retval) return (PL_expect = XTERMBLOCK,PL_bufptr = s, REPORT(retval))
 170 #define PREREF(retval) return (PL_expect = XREF,PL_bufptr = s, REPORT(retval))
 171 #define TERM(retval) return (CLINE, PL_expect = XOPERATOR, PL_bufptr = s, REPORT(retval))
 172 #define LOOPX(f) return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)LOOPEX))
 173 #define FTST(f)  return (yylval.ival=f, PL_expect=XTERMORDORDOR, PL_bufptr=s, REPORT((int)UNIOP))
 174 #define FUN0(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC0))
 175 #define FUN1(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC1))
 176 #define BOop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITOROP)))
 177 #define BAop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITANDOP)))
 178 #define SHop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)SHIFTOP)))
 179 #define PWop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)POWOP)))
 180 #define PMop(f)  return(yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MATCHOP))
 181 #define Aop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)ADDOP)))
 182 #define Mop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MULOP)))
 183 #define Eop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)EQOP))
 184 #define Rop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)RELOP))
 185
 186 /* This bit of chicanery makes a unary function followed by
 187  * a parenthesis into a function with one argument, highest precedence.
 188  * The UNIDOR macro is for unary functions that can be followed by the //
 189  * operator (such as C<shift // 0>).
 190  */
 191 #define UNI2(f,x) { \
 192         yylval.ival = f; \
 193         PL_expect = x; \
 194         PL_bufptr = s; \
 195         PL_last_uni = PL_oldbufptr; \
 196         PL_last_lop_op = f; \
 197         if (*s == '(') \
 198             return REPORT( (int)FUNC1 ); \
 199         s = PEEKSPACE(s); \
 200         return REPORT( *s=='(' ? (int)FUNC1 : (int)UNIOP ); \
 201         }
 202 #define UNI(f)    UNI2(f,XTERM)
 203 #define UNIDOR(f) UNI2(f,XTERMORDORDOR)
 204
 205 #define UNIBRACK(f) { \
 206         yylval.ival = f; \
 207         PL_bufptr = s; \
 208         PL_last_uni = PL_oldbufptr; \
 209         if (*s == '(') \
 210             return REPORT( (int)FUNC1 ); \
 211         s = PEEKSPACE(s); \
 212         return REPORT( (*s == '(') ? (int)FUNC1 : (int)UNIOP ); \
 213         }
 214
 215 /* grandfather return to old style */
 216 #define OLDLOP(f) return(yylval.ival=f,PL_expect = XTERM,PL_bufptr = s,(int)LSTOP)
 217
 218 #ifdef DEBUGGING
 219
 220 /* how to interpret the yylval associated with the token */
 221 enum token_type {
 222     TOKENTYPE_NONE,
 223     TOKENTYPE_IVAL,
 224     TOKENTYPE_OPNUM, /* yylval.ival contains an opcode number */
 225     TOKENTYPE_PVAL,
 226     TOKENTYPE_OPVAL,
 227     TOKENTYPE_GVVAL
 228 };
 229
 230 static struct debug_tokens {
 231     const int token;
 232     enum token_type type;
 233     const char *name;
 234 } const debug_tokens[] =
 235 {
 236     { ADDOP,            TOKENTYPE_OPNUM,        "ADDOP" },
 237     { ANDAND,           TOKENTYPE_NONE,         "ANDAND" },
 238     { ANDOP,            TOKENTYPE_NONE,         "ANDOP" },
 239     { ANONSUB,          TOKENTYPE_IVAL,         "ANONSUB" },
 240     { ARROW,            TOKENTYPE_NONE,         "ARROW" },
 241     { ASSIGNOP,         TOKENTYPE_OPNUM,        "ASSIGNOP" },
 242     { BITANDOP,         TOKENTYPE_OPNUM,        "BITANDOP" },
 243     { BITOROP,          TOKENTYPE_OPNUM,        "BITOROP" },
 244     { COLONATTR,        TOKENTYPE_NONE,         "COLONATTR" },
 245     { CONTINUE,         TOKENTYPE_NONE,         "CONTINUE" },
 246     { DEFAULT,          TOKENTYPE_NONE,         "DEFAULT" },
 247     { DO,               TOKENTYPE_NONE,         "DO" },
 248     { DOLSHARP,         TOKENTYPE_NONE,         "DOLSHARP" },
 249     { DORDOR,           TOKENTYPE_NONE,         "DORDOR" },
 250     { DOROP,            TOKENTYPE_OPNUM,        "DOROP" },
 251     { DOTDOT,           TOKENTYPE_IVAL,         "DOTDOT" },
 252     { ELSE,             TOKENTYPE_NONE,         "ELSE" },
 253     { ELSIF,            TOKENTYPE_IVAL,         "ELSIF" },
 254     { EQOP,             TOKENTYPE_OPNUM,        "EQOP" },
 255     { FOR,              TOKENTYPE_IVAL,         "FOR" },
 256     { FORMAT,           TOKENTYPE_NONE,         "FORMAT" },
 257     { FUNC,             TOKENTYPE_OPNUM,        "FUNC" },
 258     { FUNC0,            TOKENTYPE_OPNUM,        "FUNC0" },
 259     { FUNC0SUB,         TOKENTYPE_OPVAL,        "FUNC0SUB" },
 260     { FUNC1,            TOKENTYPE_OPNUM,        "FUNC1" },
 261     { FUNCMETH,         TOKENTYPE_OPVAL,        "FUNCMETH" },
 262     { GIVEN,            TOKENTYPE_IVAL,         "GIVEN" },
 263     { HASHBRACK,        TOKENTYPE_NONE,         "HASHBRACK" },
 264     { IF,               TOKENTYPE_IVAL,         "IF" },
 265     { LABEL,            TOKENTYPE_PVAL,         "LABEL" },
 266     { LOCAL,            TOKENTYPE_IVAL,         "LOCAL" },
 267     { LOOPEX,           TOKENTYPE_OPNUM,        "LOOPEX" },
 268     { LSTOP,            TOKENTYPE_OPNUM,        "LSTOP" },
 269     { LSTOPSUB,         TOKENTYPE_OPVAL,        "LSTOPSUB" },
 270     { MATCHOP,          TOKENTYPE_OPNUM,        "MATCHOP" },
 271     { METHOD,           TOKENTYPE_OPVAL,        "METHOD" },
 272     { MULOP,            TOKENTYPE_OPNUM,        "MULOP" },
 273     { MY,               TOKENTYPE_IVAL,         "MY" },
 274     { MYSUB,            TOKENTYPE_NONE,         "MYSUB" },
 275     { NOAMP,            TOKENTYPE_NONE,         "NOAMP" },
 276     { NOTOP,            TOKENTYPE_NONE,         "NOTOP" },
 277     { OROP,             TOKENTYPE_IVAL,         "OROP" },
 278     { OROR,             TOKENTYPE_NONE,         "OROR" },
 279     { PACKAGE,          TOKENTYPE_NONE,         "PACKAGE" },
 280     { PMFUNC,           TOKENTYPE_OPVAL,        "PMFUNC" },
 281     { POSTDEC,          TOKENTYPE_NONE,         "POSTDEC" },
 282     { POSTINC,          TOKENTYPE_NONE,         "POSTINC" },
 283     { POWOP,            TOKENTYPE_OPNUM,        "POWOP" },
 284     { PREDEC,           TOKENTYPE_NONE,         "PREDEC" },
 285     { PREINC,           TOKENTYPE_NONE,         "PREINC" },
 286     { PRIVATEREF,       TOKENTYPE_OPVAL,        "PRIVATEREF" },
 287     { REFGEN,           TOKENTYPE_NONE,         "REFGEN" },
 288     { RELOP,            TOKENTYPE_OPNUM,        "RELOP" },
 289     { SHIFTOP,          TOKENTYPE_OPNUM,        "SHIFTOP" },
 290     { SUB,              TOKENTYPE_NONE,         "SUB" },
 291     { THING,            TOKENTYPE_OPVAL,        "THING" },
 292     { UMINUS,           TOKENTYPE_NONE,         "UMINUS" },
 293     { UNIOP,            TOKENTYPE_OPNUM,        "UNIOP" },
 294     { UNIOPSUB,         TOKENTYPE_OPVAL,        "UNIOPSUB" },
 295     { UNLESS,           TOKENTYPE_IVAL,         "UNLESS" },
 296     { UNTIL,            TOKENTYPE_IVAL,         "UNTIL" },
 297     { USE,              TOKENTYPE_IVAL,         "USE" },
 298     { WHEN,             TOKENTYPE_IVAL,         "WHEN" },
 299     { WHILE,            TOKENTYPE_IVAL,         "WHILE" },
 300     { WORD,             TOKENTYPE_OPVAL,        "WORD" },
 301     { 0,                TOKENTYPE_NONE,         0 }
 302 };
 303
 304 /* dump the returned token in rv, plus any optional arg in yylval */
 305
 306 STATIC int
 307 S_tokereport(pTHX_ I32 rv)
 308 {
 309     dVAR;
 310     if (DEBUG_T_TEST) {
 311         const char *name = NULL;
 312         enum token_type type = TOKENTYPE_NONE;
 313         const struct debug_tokens *p;
 314         SV* const report = newSVpvs("<== ");
 315
 316         for (p = debug_tokens; p->token; p++) {
 317             if (p->token == (int)rv) {
 318                 name = p->name;
 319                 type = p->type;
 320                 break;
 321             }
 322         }
 323         if (name)
 324             Perl_sv_catpv(aTHX_ report, name);
 325         else if ((char)rv > ' ' && (char)rv < '~')
 326             Perl_sv_catpvf(aTHX_ report, "'%c'", (char)rv);
 327         else if (!rv)
 328             sv_catpvs(report, "EOF");
 329         else
 330             Perl_sv_catpvf(aTHX_ report, "?? %"IVdf, (IV)rv);
 331         switch (type) {
 332         case TOKENTYPE_NONE:
 333         case TOKENTYPE_GVVAL: /* doesn't appear to be used */
 334             break;
 335         case TOKENTYPE_IVAL:
 336             Perl_sv_catpvf(aTHX_ report, "(ival=%"IVdf")", (IV)yylval.ival);
 337             break;
 338         case TOKENTYPE_OPNUM:
 339             Perl_sv_catpvf(aTHX_ report, "(ival=op_%s)",
 340                                     PL_op_name[yylval.ival]);
 341             break;
 342         case TOKENTYPE_PVAL:
 343             Perl_sv_catpvf(aTHX_ report, "(pval=\"%s\")", yylval.pval);
 344             break;
 345         case TOKENTYPE_OPVAL:
 346             if (yylval.opval) {
 347                 Perl_sv_catpvf(aTHX_ report, "(opval=op_%s)",
 348                                     PL_op_name[yylval.opval->op_type]);
 349                 if (yylval.opval->op_type == OP_CONST) {
 350                     Perl_sv_catpvf(aTHX_ report, " %s",
 351                         SvPEEK(cSVOPx_sv(yylval.opval)));
 352                 }
 353
 354             }
 355             else
 356                 sv_catpvs(report, "(opval=null)");
 357             break;
 358         }
 359         PerlIO_printf(Perl_debug_log, "### %s\n\n", SvPV_nolen_const(report));
 360     };
 361     return (int)rv;
 362 }
 363
 364
 365 /* print the buffer with suitable escapes */
 366
 367 STATIC void
 368 S_printbuf(pTHX_ const char* fmt, const char* s)
 369 {
 370     SV* const tmp = newSVpvs("");
 371     PerlIO_printf(Perl_debug_log, fmt, pv_display(tmp, s, strlen(s), 0, 60));
 372     SvREFCNT_dec(tmp);
 373 }
 374
 375 #endif
 376
 377 /*
 378  * S_ao
 379  *
 380  * This subroutine detects &&=, ||=, and //= and turns an ANDAND, OROR or DORDOR
 381  * into an OP_ANDASSIGN, OP_ORASSIGN, or OP_DORASSIGN
 382  */
 383
 384 STATIC int
 385 S_ao(pTHX_ int toketype)
 386 {
 387     dVAR;
 388     if (*PL_bufptr == '=') {
 389         PL_bufptr++;
 390         if (toketype == ANDAND)
 391             yylval.ival = OP_ANDASSIGN;
 392         else if (toketype == OROR)
 393             yylval.ival = OP_ORASSIGN;
 394         else if (toketype == DORDOR)
 395             yylval.ival = OP_DORASSIGN;
 396         toketype = ASSIGNOP;
 397     }
 398     return toketype;
 399 }
 400
 401 /*
 402  * S_no_op
 403  * When Perl expects an operator and finds something else, no_op
 404  * prints the warning.  It always prints "<something> found where
 405  * operator expected.  It prints "Missing semicolon on previous line?"
 406  * if the surprise occurs at the start of the line.  "do you need to
 407  * predeclare ..." is printed out for code like "sub bar; foo bar $x"
 408  * where the compiler doesn't know if foo is a method call or a function.
 409  * It prints "Missing operator before end of line" if there's nothing
 410  * after the missing operator, or "... before <...>" if there is something
 411  * after the missing operator.
 412  */
 413
 414 STATIC void
 415 S_no_op(pTHX_ const char *what, char *s)
 416 {
 417     dVAR;
 418     char * const oldbp = PL_bufptr;
 419     const bool is_first = (PL_oldbufptr == PL_linestart);
 420
 421     if (!s)
 422         s = oldbp;
 423     else
 424         PL_bufptr = s;
 425     yywarn(Perl_form(aTHX_ "%s found where operator expected", what));
 426     if (ckWARN_d(WARN_SYNTAX)) {
 427         if (is_first)
 428             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 429                     "\t(Missing semicolon on previous line?)\n");
 430         else if (PL_oldoldbufptr && isIDFIRST_lazy_if(PL_oldoldbufptr,UTF)) {
 431             const char *t;
 432             for (t = PL_oldoldbufptr; *t && (isALNUM_lazy_if(t,UTF) || *t == ':'); t++)
 433                 /**/;
 434             if (t < PL_bufptr && isSPACE(*t))
 435                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 436                         "\t(Do you need to predeclare %.*s?)\n",
 437                     (int)(t - PL_oldoldbufptr), PL_oldoldbufptr);
 438         }
 439         else {
 440             assert(s >= oldbp);
 441             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 442                     "\t(Missing operator before %.*s?)\n", (int)(s - oldbp), oldbp);
 443         }
 444     }
 445     PL_bufptr = oldbp;
 446 }
 447
 448 /*
 449  * S_missingterm
 450  * Complain about missing quote/regexp/heredoc terminator.
 451  * If it's called with NULL then it cauterizes the line buffer.
 452  * If we're in a delimited string and the delimiter is a control
 453  * character, it's reformatted into a two-char sequence like ^C.
 454  * This is fatal.
 455  */
 456
 457 STATIC void
 458 S_missingterm(pTHX_ char *s)
 459 {
 460     dVAR;
 461     char tmpbuf[3];
 462     char q;
 463     if (s) {
 464         char * const nl = strrchr(s,'\n');
 465         if (nl)
 466             *nl = '\0';
 467     }
 468     else if (
 469 #ifdef EBCDIC
 470         iscntrl(PL_multi_close)
 471 #else
 472         PL_multi_close < 32 || PL_multi_close == 127
 473 #endif
 474         ) {
 475         *tmpbuf = '^';
 476         tmpbuf[1] = (char)toCTRL(PL_multi_close);
 477         tmpbuf[2] = '\0';
 478         s = tmpbuf;
 479     }
 480     else {
 481         *tmpbuf = (char)PL_multi_close;
 482         tmpbuf[1] = '\0';
 483         s = tmpbuf;
 484     }
 485     q = strchr(s,'"') ? '\'' : '"';
 486     Perl_croak(aTHX_ "Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 487 }
 488
 489 #define FEATURE_IS_ENABLED(name)                                        \
 490         ((0 != (PL_hints & HINT_LOCALIZE_HH))                           \
 491             && S_feature_is_enabled(aTHX_ STR_WITH_LEN(name)))
 492 /*
 493  * S_feature_is_enabled
 494  * Check whether the named feature is enabled.
 495  */
 496 STATIC bool
 497 S_feature_is_enabled(pTHX_ const char *name, STRLEN namelen)
 498 {
 499     dVAR;
 500     HV * const hinthv = GvHV(PL_hintgv);
 501     char he_name[32] = "feature_";
 502     (void) strncpy(&he_name[8], name, 24);
 503
 504     return (hinthv && hv_exists(hinthv, he_name, 8 + namelen));
 505 }
 506
 507 /*
 508  * Perl_deprecate
 509  */
 510
 511 void
 512 Perl_deprecate(pTHX_ const char *s)
 513 {
 514     if (ckWARN(WARN_DEPRECATED))
 515         Perl_warner(aTHX_ packWARN(WARN_DEPRECATED), "Use of %s is deprecated", s);
 516 }
 517
 518 void
 519 Perl_deprecate_old(pTHX_ const char *s)
 520 {
 521     /* This function should NOT be called for any new deprecated warnings */
 522     /* Use Perl_deprecate instead                                         */
 523     /*                                                                    */
 524     /* It is here to maintain backward compatibility with the pre-5.8     */
 525     /* warnings category hierarchy. The "deprecated" category used to     */
 526     /* live under the "syntax" category. It is now a top-level category   */
 527     /* in its own right.                                                  */
 528
 529     if (ckWARN2(WARN_DEPRECATED, WARN_SYNTAX))
 530         Perl_warner(aTHX_ packWARN2(WARN_DEPRECATED, WARN_SYNTAX),
 531                         "Use of %s is deprecated", s);
 532 }
 533
 534 /*
 535  * experimental text filters for win32 carriage-returns, utf16-to-utf8 and
 536  * utf16-to-utf8-reversed.
 537  */
 538
 539 #ifdef PERL_CR_FILTER
 540 static void
 541 strip_return(SV *sv)
 542 {
 543     register const char *s = SvPVX_const(sv);
 544     register const char * const e = s + SvCUR(sv);
 545     /* outer loop optimized to do nothing if there are no CR-LFs */
 546     while (s < e) {
 547         if (*s++ == '\r' && *s == '\n') {
 548             /* hit a CR-LF, need to copy the rest */
 549             register char *d = s - 1;
 550             *d++ = *s++;
 551             while (s < e) {
 552                 if (*s == '\r' && s[1] == '\n')
 553                     s++;
 554                 *d++ = *s++;
 555             }
 556             SvCUR(sv) -= s - d;
 557             return;
 558         }
 559     }
 560 }
 561
 562 STATIC I32
 563 S_cr_textfilter(pTHX_ int idx, SV *sv, int maxlen)
 564 {
 565     const I32 count = FILTER_READ(idx+1, sv, maxlen);
 566     if (count > 0 && !maxlen)
 567         strip_return(sv);
 568     return count;
 569 }
 570 #endif
 571
 572 /*
 573  * Perl_lex_start
 574  * Initialize variables.  Uses the Perl save_stack to save its state (for
 575  * recursive calls to the parser).
 576  */
 577
 578 void
 579 Perl_lex_start(pTHX_ SV *line)
 580 {
 581     dVAR;
 582     const char *s;
 583     STRLEN len;
 584
 585     SAVEI32(PL_lex_dojoin);
 586     SAVEI32(PL_lex_brackets);
 587     SAVEI32(PL_lex_casemods);
 588     SAVEI32(PL_lex_starts);
 589     SAVEI32(PL_lex_state);
 590     SAVEVPTR(PL_lex_inpat);
 591     SAVEI32(PL_lex_inwhat);
 592 #ifdef PERL_MAD
 593     if (PL_lex_state == LEX_KNOWNEXT) {
 594         I32 toke = PL_lasttoke;
 595         while (--toke >= 0) {
 596             SAVEI32(PL_nexttoke[toke].next_type);
 597             SAVEVPTR(PL_nexttoke[toke].next_val);
 598             if (PL_madskills)
 599                 SAVEVPTR(PL_nexttoke[toke].next_mad);
 600         }
 601         SAVEI32(PL_lasttoke);
 602     }
 603     if (PL_madskills) {
 604         SAVESPTR(PL_thistoken);
 605         SAVESPTR(PL_thiswhite);
 606         SAVESPTR(PL_nextwhite);
 607         SAVESPTR(PL_thisopen);
 608         SAVESPTR(PL_thisclose);
 609         SAVESPTR(PL_thisstuff);
 610         SAVEVPTR(PL_thismad);
 611         SAVEI32(PL_realtokenstart);
 612         SAVEI32(PL_faketokens);
 613     }
 614     SAVEI32(PL_curforce);
 615 #else
 616     if (PL_lex_state == LEX_KNOWNEXT) {
 617         I32 toke = PL_nexttoke;
 618         while (--toke >= 0) {
 619             SAVEI32(PL_nexttype[toke]);
 620             SAVEVPTR(PL_nextval[toke]);
 621         }
 622         SAVEI32(PL_nexttoke);
 623     }
 624 #endif
 625     SAVECOPLINE(PL_curcop);
 626     SAVEPPTR(PL_bufptr);
 627     SAVEPPTR(PL_bufend);
 628     SAVEPPTR(PL_oldbufptr);
 629     SAVEPPTR(PL_oldoldbufptr);
 630     SAVEPPTR(PL_last_lop);
 631     SAVEPPTR(PL_last_uni);
 632     SAVEPPTR(PL_linestart);
 633     SAVESPTR(PL_linestr);
 634     SAVEGENERICPV(PL_lex_brackstack);
 635     SAVEGENERICPV(PL_lex_casestack);
 636     SAVEDESTRUCTOR_X(restore_rsfp, PL_rsfp);
 637     SAVESPTR(PL_lex_stuff);
 638     SAVEI32(PL_lex_defer);
 639     SAVEI32(PL_sublex_info.sub_inwhat);
 640     SAVESPTR(PL_lex_repl);
 641     SAVEINT(PL_expect);
 642     SAVEINT(PL_lex_expect);
 643
 644     PL_lex_state = LEX_NORMAL;
 645     PL_lex_defer = 0;
 646     PL_expect = XSTATE;
 647     PL_lex_brackets = 0;
 648     Newx(PL_lex_brackstack, 120, char);
 649     Newx(PL_lex_casestack, 12, char);
 650     PL_lex_casemods = 0;
 651     *PL_lex_casestack = '\0';
 652     PL_lex_dojoin = 0;
 653     PL_lex_starts = 0;
 654     PL_lex_stuff = NULL;
 655     PL_lex_repl = NULL;
 656     PL_lex_inpat = 0;
 657 #ifdef PERL_MAD
 658     PL_lasttoke = 0;
 659 #else
 660     PL_nexttoke = 0;
 661 #endif
 662     PL_lex_inwhat = 0;
 663     PL_sublex_info.sub_inwhat = 0;
 664     PL_linestr = line;
 665     if (SvREADONLY(PL_linestr))
 666         PL_linestr = sv_2mortal(newSVsv(PL_linestr));
 667     s = SvPV_const(PL_linestr, len);
 668     if (!len || s[len-1] != ';') {
 669         if (!(SvFLAGS(PL_linestr) & SVs_TEMP))
 670             PL_linestr = sv_2mortal(newSVsv(PL_linestr));
 671         sv_catpvs(PL_linestr, "\n;");
 672     }
 673     SvTEMP_off(PL_linestr);
 674     PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
 675     PL_bufend = PL_bufptr + SvCUR(PL_linestr);
 676     PL_last_lop = PL_last_uni = NULL;
 677     PL_rsfp = 0;
 678 }
 679
 680 /*
 681  * Perl_lex_end
 682  * Finalizer for lexing operations.  Must be called when the parser is
 683  * done with the lexer.
 684  */
 685
 686 void
 687 Perl_lex_end(pTHX)
 688 {
 689     dVAR;
 690     PL_doextract = FALSE;
 691 }
 692
 693 /*
 694  * S_incline
 695  * This subroutine has nothing to do with tilting, whether at windmills
 696  * or pinball tables.  Its name is short for "increment line".  It
 697  * increments the current line number in CopLINE(PL_curcop) and checks
 698  * to see whether the line starts with a comment of the form
 699  *    # line 500 "foo.pm"
 700  * If so, it sets the current line number and file to the values in the comment.
 701  */
 702
 703 STATIC void
 704 S_incline(pTHX_ char *s)
 705 {
 706     dVAR;
 707     char *t;
 708     char *n;
 709     char *e;
 710     char ch;
 711
 712     CopLINE_inc(PL_curcop);
 713     if (*s++ != '#')
 714         return;
 715     while (SPACE_OR_TAB(*s))
 716         s++;
 717     if (strnEQ(s, "line", 4))
 718         s += 4;
 719     else
 720         return;
 721     if (SPACE_OR_TAB(*s))
 722         s++;
 723     else
 724         return;
 725     while (SPACE_OR_TAB(*s))
 726         s++;
 727     if (!isDIGIT(*s))
 728         return;
 729
 730     n = s;
 731     while (isDIGIT(*s))
 732         s++;
 733     while (SPACE_OR_TAB(*s))
 734         s++;
 735     if (*s == '"' && (t = strchr(s+1, '"'))) {
 736         s++;
 737         e = t + 1;
 738     }
 739     else {
 740         for (t = s; !isSPACE(*t); t++) ;
 741         e = t;
 742     }
 743     while (SPACE_OR_TAB(*e) || *e == '\r' || *e == '\f')
 744         e++;
 745     if (*e != '\n' && *e != '\0')
 746         return;         /* false alarm */
 747
 748     ch = *t;
 749     *t = '\0';
 750     if (t - s > 0) {
 751 #ifndef USE_ITHREADS
 752         const char * const cf = CopFILE(PL_curcop);
 753         STRLEN tmplen = cf ? strlen(cf) : 0;
 754         if (tmplen > 7 && strnEQ(cf, "(eval ", 6)) {
 755             /* must copy *{"::_<(eval N)[oldfilename:L]"}
 756              * to *{"::_<newfilename"} */
 757             char smallbuf[256], smallbuf2[256];
 758             char *tmpbuf, *tmpbuf2;
 759             GV **gvp, *gv2;
 760             STRLEN tmplen2 = strlen(s);
 761             if (tmplen + 3 < sizeof smallbuf)
 762                 tmpbuf = smallbuf;
 763             else
 764                 Newx(tmpbuf, tmplen + 3, char);
 765             if (tmplen2 + 3 < sizeof smallbuf2)
 766                 tmpbuf2 = smallbuf2;
 767             else
 768                 Newx(tmpbuf2, tmplen2 + 3, char);
 769             tmpbuf[0] = tmpbuf2[0] = '_';
 770             tmpbuf[1] = tmpbuf2[1] = '<';
 771             memcpy(tmpbuf + 2, cf, ++tmplen);
 772             memcpy(tmpbuf2 + 2, s, ++tmplen2);
 773             ++tmplen; ++tmplen2;
 774             gvp = (GV**)hv_fetch(PL_defstash, tmpbuf, tmplen, FALSE);
 775             if (gvp) {
 776                 gv2 = *(GV**)hv_fetch(PL_defstash, tmpbuf2, tmplen2, TRUE);
 777                 if (!isGV(gv2))
 778                     gv_init(gv2, PL_defstash, tmpbuf2, tmplen2, FALSE);
 779                 /* adjust ${"::_<newfilename"} to store the new file name */
 780                 GvSV(gv2) = newSVpvn(tmpbuf2 + 2, tmplen2 - 2);
 781                 GvHV(gv2) = (HV*)SvREFCNT_inc(GvHV(*gvp));
 782                 GvAV(gv2) = (AV*)SvREFCNT_inc(GvAV(*gvp));
 783             }
 784             if (tmpbuf != smallbuf) Safefree(tmpbuf);
 785             if (tmpbuf2 != smallbuf2) Safefree(tmpbuf2);
 786         }
 787 #endif
 788         CopFILE_free(PL_curcop);
 789         CopFILE_set(PL_curcop, s);
 790     }
 791     *t = ch;
 792     CopLINE_set(PL_curcop, atoi(n)-1);
 793 }
 794
 795 #ifdef PERL_MAD
 796 /* skip space before PL_thistoken */
 797
 798 STATIC char *
 799 S_skipspace0(pTHX_ register char *s)
 800 {
 801     s = skipspace(s);
 802     if (!PL_madskills)
 803         return s;
 804     if (PL_skipwhite) {
 805         if (!PL_thiswhite)
 806             PL_thiswhite = newSVpvn("",0);
 807         sv_catsv(PL_thiswhite, PL_skipwhite);
 808         sv_free(PL_skipwhite);
 809         PL_skipwhite = 0;
 810     }
 811     PL_realtokenstart = s - SvPVX(PL_linestr);
 812     return s;
 813 }
 814
 815 /* skip space after PL_thistoken */
 816
 817 STATIC char *
 818 S_skipspace1(pTHX_ register char *s)
 819 {
 820     const char *start = s;
 821     I32 startoff = start - SvPVX(PL_linestr);
 822
 823     s = skipspace(s);
 824     if (!PL_madskills)
 825         return s;
 826     start = SvPVX(PL_linestr) + startoff;
 827     if (!PL_thistoken && PL_realtokenstart >= 0) {
 828         const char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
 829         PL_thistoken = newSVpvn(tstart, start - tstart);
 830     }
 831     PL_realtokenstart = -1;
 832     if (PL_skipwhite) {
 833         if (!PL_nextwhite)
 834             PL_nextwhite = newSVpvn("",0);
 835         sv_catsv(PL_nextwhite, PL_skipwhite);
 836         sv_free(PL_skipwhite);
 837         PL_skipwhite = 0;
 838     }
 839     return s;
 840 }
 841
 842 STATIC char *
 843 S_skipspace2(pTHX_ register char *s, SV **svp)
 844 {
 845     char *start = s;
 846     I32 bufptroff = PL_bufptr - SvPVX(PL_linestr);
 847     I32 startoff = start - SvPVX(PL_linestr);
 848     s = skipspace(s);
 849     PL_bufptr = SvPVX(PL_linestr) + bufptroff;
 850     if (!PL_madskills || !svp)
 851         return s;
 852     start = SvPVX(PL_linestr) + startoff;
 853     if (!PL_thistoken && PL_realtokenstart >= 0) {
 854         char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
 855         PL_thistoken = newSVpvn(tstart, start - tstart);
 856         PL_realtokenstart = -1;
 857     }
 858     if (PL_skipwhite) {
 859         if (!*svp)
 860             *svp = newSVpvn("",0);
 861         sv_setsv(*svp, PL_skipwhite);
 862         sv_free(PL_skipwhite);
 863         PL_skipwhite = 0;
 864     }
 865
 866     return s;
 867 }
 868 #endif
 869
 870 /*
 871  * S_skipspace
 872  * Called to gobble the appropriate amount and type of whitespace.
 873  * Skips comments as well.
 874  */
 875
 876 STATIC char *
 877 S_skipspace(pTHX_ register char *s)
 878 {
 879     dVAR;
 880 #ifdef PERL_MAD
 881     int curoff;
 882     int startoff = s - SvPVX(PL_linestr);
 883
 884     if (PL_skipwhite) {
 885         sv_free(PL_skipwhite);
 886         PL_skipwhite = 0;
 887     }
 888 #endif
 889
 890     if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
 891         while (s < PL_bufend && SPACE_OR_TAB(*s))
 892             s++;
 893 #ifdef PERL_MAD
 894         goto done;
 895 #else
 896         return s;
 897 #endif
 898     }
 899     for (;;) {
 900         STRLEN prevlen;
 901         SSize_t oldprevlen, oldoldprevlen;
 902         SSize_t oldloplen = 0, oldunilen = 0;
 903         while (s < PL_bufend && isSPACE(*s)) {
 904             if (*s++ == '\n' && PL_in_eval && !PL_rsfp)
 905                 incline(s);
 906         }
 907
 908         /* comment */
 909         if (s < PL_bufend && *s == '#') {
 910             while (s < PL_bufend && *s != '\n')
 911                 s++;
 912             if (s < PL_bufend) {
 913                 s++;
 914                 if (PL_in_eval && !PL_rsfp) {
 915                     incline(s);
 916                     continue;
 917                 }
 918             }
 919         }
 920
 921         /* only continue to recharge the buffer if we're at the end
 922          * of the buffer, we're not reading from a source filter, and
 923          * we're in normal lexing mode
 924          */
 925         if (s < PL_bufend || !PL_rsfp || PL_sublex_info.sub_inwhat ||
 926                 PL_lex_state == LEX_FORMLINE)
 927 #ifdef PERL_MAD
 928             goto done;
 929 #else
 930             return s;
 931 #endif
 932
 933         /* try to recharge the buffer */
 934 #ifdef PERL_MAD
 935         curoff = s - SvPVX(PL_linestr);
 936 #endif
 937
 938         if ((s = filter_gets(PL_linestr, PL_rsfp,
 939                              (prevlen = SvCUR(PL_linestr)))) == NULL)
 940         {
 941 #ifdef PERL_MAD
 942             if (PL_madskills && curoff != startoff) {
 943                 if (!PL_skipwhite)
 944                     PL_skipwhite = newSVpvn("",0);
 945                 sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
 946                                         curoff - startoff);
 947             }
 948
 949             /* mustn't throw out old stuff yet if madpropping */
 950             SvCUR(PL_linestr) = curoff;
 951             s = SvPVX(PL_linestr) + curoff;
 952             *s = 0;
 953             if (curoff && s[-1] == '\n')
 954                 s[-1] = ' ';
 955 #endif
 956
 957             /* end of file.  Add on the -p or -n magic */
 958             /* XXX these shouldn't really be added here, can't set PL_faketokens */
 959             if (PL_minus_p) {
 960 #ifdef PERL_MAD
 961                 sv_catpv(PL_linestr,
 962                          ";}continue{print or die qq(-p destination: $!\\n);}");
 963 #else
 964                 sv_setpv(PL_linestr,
 965                          ";}continue{print or die qq(-p destination: $!\\n);}");
 966 #endif
 967                 PL_minus_n = PL_minus_p = 0;
 968             }
 969             else if (PL_minus_n) {
 970 #ifdef PERL_MAD
 971                 sv_catpvn(PL_linestr, ";}", 2);
 972 #else
 973                 sv_setpvn(PL_linestr, ";}", 2);
 974 #endif
 975                 PL_minus_n = 0;
 976             }
 977             else
 978 #ifdef PERL_MAD
 979                 sv_catpvn(PL_linestr,";", 1);
 980 #else
 981                 sv_setpvn(PL_linestr,";", 1);
 982 #endif
 983
 984             /* reset variables for next time we lex */
 985             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart
 986                 = SvPVX(PL_linestr)
 987 #ifdef PERL_MAD
 988                 + curoff
 989 #endif
 990                 ;
 991             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
 992             PL_last_lop = PL_last_uni = NULL;
 993
 994             /* Close the filehandle.  Could be from -P preprocessor,
 995              * STDIN, or a regular file.  If we were reading code from
 996              * STDIN (because the commandline held no -e or filename)
 997              * then we don't close it, we reset it so the code can
 998              * read from STDIN too.
 999              */
1000
1001             if (PL_preprocess && !PL_in_eval)
1002                 (void)PerlProc_pclose(PL_rsfp);
1003             else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
1004                 PerlIO_clearerr(PL_rsfp);
1005             else
1006                 (void)PerlIO_close(PL_rsfp);
1007             PL_rsfp = NULL;
1008             return s;
1009         }
1010
1011         /* not at end of file, so we only read another line */
1012         /* make corresponding updates to old pointers, for yyerror() */
1013         oldprevlen = PL_oldbufptr - PL_bufend;
1014         oldoldprevlen = PL_oldoldbufptr - PL_bufend;
1015         if (PL_last_uni)
1016             oldunilen = PL_last_uni - PL_bufend;
1017         if (PL_last_lop)
1018             oldloplen = PL_last_lop - PL_bufend;
1019         PL_linestart = PL_bufptr = s + prevlen;
1020         PL_bufend = s + SvCUR(PL_linestr);
1021         s = PL_bufptr;
1022         PL_oldbufptr = s + oldprevlen;
1023         PL_oldoldbufptr = s + oldoldprevlen;
1024         if (PL_last_uni)
1025             PL_last_uni = s + oldunilen;
1026         if (PL_last_lop)
1027             PL_last_lop = s + oldloplen;
1028         incline(s);
1029
1030         /* debugger active and we're not compiling the debugger code,
1031          * so store the line into the debugger's array of lines
1032          */
1033         if (PERLDB_LINE && PL_curstash != PL_debstash) {
1034             SV * const sv = newSV(0);
1035
1036             sv_upgrade(sv, SVt_PVMG);
1037             sv_setpvn(sv,PL_bufptr,PL_bufend-PL_bufptr);
1038             (void)SvIOK_on(sv);
1039             SvIV_set(sv, 0);
1040             av_store(CopFILEAVx(PL_curcop),(I32)CopLINE(PL_curcop),sv);
1041         }
1042     }
1043
1044 #ifdef PERL_MAD
1045   done:
1046     if (PL_madskills) {
1047         if (!PL_skipwhite)
1048             PL_skipwhite = newSVpvn("",0);
1049         curoff = s - SvPVX(PL_linestr);
1050         if (curoff - startoff)
1051             sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
1052                                 curoff - startoff);
1053     }
1054     return s;
1055 #endif
1056 }
1057
1058 /*
1059  * S_check_uni
1060  * Check the unary operators to ensure there's no ambiguity in how they're
1061  * used.  An ambiguous piece of code would be:
1062  *     rand + 5
1063  * This doesn't mean rand() + 5.  Because rand() is a unary operator,
1064  * the +5 is its argument.
1065  */
1066
1067 STATIC void
1068 S_check_uni(pTHX)
1069 {
1070     dVAR;
1071     const char *s;
1072     const char *t;
1073
1074     if (PL_oldoldbufptr != PL_last_uni)
1075         return;
1076     while (isSPACE(*PL_last_uni))
1077         PL_last_uni++;
1078     for (s = PL_last_uni; isALNUM_lazy_if(s,UTF) || *s == '-'; s++)
1079         /**/;
1080     if ((t = strchr(s, '(')) && t < PL_bufptr)
1081         return;
1082
1083     if (ckWARN_d(WARN_AMBIGUOUS)){
1084         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
1085                    "Warning: Use of \"%.*s\" without parentheses is ambiguous",
1086                    (int)(s - PL_last_uni), PL_last_uni);
1087     }
1088 }
1089
1090 /*
1091  * LOP : macro to build a list operator.  Its behaviour has been replaced
1092  * with a subroutine, S_lop() for which LOP is just another name.
1093  */
1094
1095 #define LOP(f,x) return lop(f,x,s)
1096
1097 /*
1098  * S_lop
1099  * Build a list operator (or something that might be one).  The rules:
1100  *  - if we have a next token, then it's a list operator [why?]
1101  *  - if the next thing is an opening paren, then it's a function
1102  *  - else it's a list operator
1103  */
1104
1105 STATIC I32
1106 S_lop(pTHX_ I32 f, int x, char *s)
1107 {
1108     dVAR;
1109     yylval.ival = f;
1110     CLINE;
1111     PL_expect = x;
1112     PL_bufptr = s;
1113     PL_last_lop = PL_oldbufptr;
1114     PL_last_lop_op = (OPCODE)f;
1115 #ifdef PERL_MAD
1116     if (PL_lasttoke)
1117         return REPORT(LSTOP);
1118 #else
1119     if (PL_nexttoke)
1120         return REPORT(LSTOP);
1121 #endif
1122     if (*s == '(')
1123         return REPORT(FUNC);
1124     s = PEEKSPACE(s);
1125     if (*s == '(')
1126         return REPORT(FUNC);
1127     else
1128         return REPORT(LSTOP);
1129 }
1130
1131 #ifdef PERL_MAD
1132  /*
1133  * S_start_force
1134  * Sets up for an eventual force_next().  start_force(0) basically does
1135  * an unshift, while start_force(-1) does a push.  yylex removes items
1136  * on the "pop" end.
1137  */
1138
1139 STATIC void
1140 S_start_force(pTHX_ int where)
1141 {
1142     int i;
1143
1144     if (where < 0)      /* so people can duplicate start_force(PL_curforce) */
1145         where = PL_lasttoke;
1146     assert(PL_curforce < 0 || PL_curforce == where);
1147     if (PL_curforce != where) {
1148         for (i = PL_lasttoke; i > where; --i) {
1149             PL_nexttoke[i] = PL_nexttoke[i-1];
1150         }
1151         PL_lasttoke++;
1152     }
1153     if (PL_curforce < 0)        /* in case of duplicate start_force() */
1154         Zero(&PL_nexttoke[where], 1, NEXTTOKE);
1155     PL_curforce = where;
1156     if (PL_nextwhite) {
1157         if (PL_madskills)
1158             curmad('^', newSVpvn("",0));
1159         CURMAD('_', PL_nextwhite);
1160     }
1161 }
1162
1163 STATIC void
1164 S_curmad(pTHX_ char slot, SV *sv)
1165 {
1166     MADPROP **where;
1167
1168     if (!sv)
1169         return;
1170     if (PL_curforce < 0)
1171         where = &PL_thismad;
1172     else
1173         where = &PL_nexttoke[PL_curforce].next_mad;
1174
1175     if (PL_faketokens)
1176         sv_setpvn(sv, "", 0);
1177     else {
1178         if (!IN_BYTES) {
1179             if (UTF && is_utf8_string((U8*)SvPVX(sv), SvCUR(sv)))
1180                 SvUTF8_on(sv);
1181             else if (PL_encoding) {
1182                 sv_recode_to_utf8(sv, PL_encoding);
1183             }
1184         }
1185     }
1186
1187     /* keep a slot open for the head of the list? */
1188     if (slot != '_' && *where && (*where)->mad_key == '^') {
1189         (*where)->mad_key = slot;
1190         sv_free((*where)->mad_val);
1191         (*where)->mad_val = (void*)sv;
1192     }
1193     else
1194         addmad(newMADsv(slot, sv), where, 0);
1195 }
1196 #else
1197 #  define start_force(where)    NOOP
1198 #  define curmad(slot, sv)      NOOP
1199 #endif
1200
1201 /*
1202  * S_force_next
1203  * When the lexer realizes it knows the next token (for instance,
1204  * it is reordering tokens for the parser) then it can call S_force_next
1205  * to know what token to return the next time the lexer is called.  Caller
1206  * will need to set PL_nextval[] (or PL_nexttoke[].next_val with PERL_MAD),
1207  * and possibly PL_expect to ensure the lexer handles the token correctly.
1208  */
1209
1210 STATIC void
1211 S_force_next(pTHX_ I32 type)
1212 {
1213     dVAR;
1214 #ifdef PERL_MAD
1215     if (PL_curforce < 0)
1216         start_force(PL_lasttoke);
1217     PL_nexttoke[PL_curforce].next_type = type;
1218     if (PL_lex_state != LEX_KNOWNEXT)
1219         PL_lex_defer = PL_lex_state;
1220     PL_lex_state = LEX_KNOWNEXT;
1221     PL_lex_expect = PL_expect;
1222     PL_curforce = -1;
1223 #else
1224     PL_nexttype[PL_nexttoke] = type;
1225     PL_nexttoke++;
1226     if (PL_lex_state != LEX_KNOWNEXT) {
1227         PL_lex_defer = PL_lex_state;
1228         PL_lex_expect = PL_expect;
1229         PL_lex_state = LEX_KNOWNEXT;
1230     }
1231 #endif
1232 }
1233
1234 STATIC SV *
1235 S_newSV_maybe_utf8(pTHX_ const char *start, STRLEN len)
1236 {
1237     dVAR;
1238     SV * const sv = newSVpvn(start,len);
1239     if (UTF && !IN_BYTES && is_utf8_string((const U8*)start, len))
1240         SvUTF8_on(sv);
1241     return sv;
1242 }
1243
1244 /*
1245  * S_force_word
1246  * When the lexer knows the next thing is a word (for instance, it has
1247  * just seen -> and it knows that the next char is a word char, then
1248  * it calls S_force_word to stick the next word into the PL_next lookahead.
1249  *
1250  * Arguments:
1251  *   char *start : buffer position (must be within PL_linestr)
1252  *   int token   : PL_next will be this type of bare word (e.g., METHOD,WORD)
1253  *   int check_keyword : if true, Perl checks to make sure the word isn't
1254  *       a keyword (do this if the word is a label, e.g. goto FOO)
1255  *   int allow_pack : if true, : characters will also be allowed (require,
1256  *       use, etc. do this)
1257  *   int allow_initial_tick : used by the "sub" lexer only.
1258  */
1259
1260 STATIC char *
1261 S_force_word(pTHX_ register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
1262 {
1263     dVAR;
1264     register char *s;
1265     STRLEN len;
1266
1267     start = SKIPSPACE1(start);
1268     s = start;
1269     if (isIDFIRST_lazy_if(s,UTF) ||
1270         (allow_pack && *s == ':') ||
1271         (allow_initial_tick && *s == '\'') )
1272     {
1273         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, allow_pack, &len);
1274         if (check_keyword && keyword(PL_tokenbuf, len))
1275             return start;
1276         start_force(PL_curforce);
1277         if (PL_madskills)
1278             curmad('X', newSVpvn(start,s-start));
1279         if (token == METHOD) {
1280             s = SKIPSPACE1(s);
1281             if (*s == '(')
1282                 PL_expect = XTERM;
1283             else {
1284                 PL_expect = XOPERATOR;
1285             }
1286         }
1287         NEXTVAL_NEXTTOKE.opval
1288             = (OP*)newSVOP(OP_CONST,0,
1289                            S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
1290         NEXTVAL_NEXTTOKE.opval->op_private |= OPpCONST_BARE;
1291         force_next(token);
1292     }
1293     return s;
1294 }
1295
1296 /*
1297  * S_force_ident
1298  * Called when the lexer wants $foo *foo &foo etc, but the program
1299  * text only contains the "foo" portion.  The first argument is a pointer
1300  * to the "foo", and the second argument is the type symbol to prefix.
1301  * Forces the next token to be a "WORD".
1302  * Creates the symbol if it didn't already exist (via gv_fetchpv()).
1303  */
1304
1305 STATIC void
1306 S_force_ident(pTHX_ register const char *s, int kind)
1307 {
1308     dVAR;
1309     if (s && *s) {
1310         const STRLEN len = strlen(s);
1311         OP* const o = (OP*)newSVOP(OP_CONST, 0, newSVpvn(s, len));
1312         start_force(PL_curforce);
1313         NEXTVAL_NEXTTOKE.opval = o;
1314         force_next(WORD);
1315         if (kind) {
1316             o->op_private = OPpCONST_ENTERED;
1317             /* XXX see note in pp_entereval() for why we forgo typo
1318                warnings if the symbol must be introduced in an eval.
1319                GSAR 96-10-12 */
1320             gv_fetchpvn_flags(s, len,
1321                               PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL)
1322                               : GV_ADD,
1323                               kind == '$' ? SVt_PV :
1324                               kind == '@' ? SVt_PVAV :
1325                               kind == '%' ? SVt_PVHV :
1326                               SVt_PVGV
1327                               );
1328         }
1329     }
1330 }
1331
1332 NV
1333 Perl_str_to_version(pTHX_ SV *sv)
1334 {
1335     NV retval = 0.0;
1336     NV nshift = 1.0;
1337     STRLEN len;
1338     const char *start = SvPV_const(sv,len);
1339     const char * const end = start + len;
1340     const bool utf = SvUTF8(sv) ? TRUE : FALSE;
1341     while (start < end) {
1342         STRLEN skip;
1343         UV n;
1344         if (utf)
1345             n = utf8n_to_uvchr((U8*)start, len, &skip, 0);
1346         else {
1347             n = *(U8*)start;
1348             skip = 1;
1349         }
1350         retval += ((NV)n)/nshift;
1351         start += skip;
1352         nshift *= 1000;
1353     }
1354     return retval;
1355 }
1356
1357 /*
1358  * S_force_version
1359  * Forces the next token to be a version number.
1360  * If the next token appears to be an invalid version number, (e.g. "v2b"),
1361  * and if "guessing" is TRUE, then no new token is created (and the caller
1362  * must use an alternative parsing method).
1363  */
1364
1365 STATIC char *
1366 S_force_version(pTHX_ char *s, int guessing)
1367 {
1368     dVAR;
1369     OP *version = NULL;
1370     char *d;
1371 #ifdef PERL_MAD
1372     I32 startoff = s - SvPVX(PL_linestr);
1373 #endif
1374
1375     s = SKIPSPACE1(s);
1376
1377     d = s;
1378     if (*d == 'v')
1379         d++;
1380     if (isDIGIT(*d)) {
1381         while (isDIGIT(*d) || *d == '_' || *d == '.')
1382             d++;
1383 #ifdef PERL_MAD
1384         if (PL_madskills) {
1385             start_force(PL_curforce);
1386             curmad('X', newSVpvn(s,d-s));
1387         }
1388 #endif
1389         if (*d == ';' || isSPACE(*d) || *d == '}' || !*d) {
1390             SV *ver;
1391             s = scan_num(s, &yylval);
1392             version = yylval.opval;
1393             ver = cSVOPx(version)->op_sv;
1394             if (SvPOK(ver) && !SvNIOK(ver)) {
1395                 SvUPGRADE(ver, SVt_PVNV);
1396                 SvNV_set(ver, str_to_version(ver));
1397                 SvNOK_on(ver);          /* hint that it is a version */
1398             }
1399         }
1400         else if (guessing) {
1401 #ifdef PERL_MAD
1402             if (PL_madskills) {
1403                 sv_free(PL_nextwhite);  /* let next token collect whitespace */
1404                 PL_nextwhite = 0;
1405                 s = SvPVX(PL_linestr) + startoff;
1406             }
1407 #endif
1408             return s;
1409         }
1410     }
1411
1412 #ifdef PERL_MAD
1413     if (PL_madskills && !version) {
1414         sv_free(PL_nextwhite);  /* let next token collect whitespace */
1415         PL_nextwhite = 0;
1416         s = SvPVX(PL_linestr) + startoff;
1417     }
1418 #endif
1419     /* NOTE: The parser sees the package name and the VERSION swapped */
1420     start_force(PL_curforce);
1421     NEXTVAL_NEXTTOKE.opval = version;
1422     force_next(WORD);
1423
1424     return s;
1425 }
1426
1427 /*
1428  * S_tokeq
1429  * Tokenize a quoted string passed in as an SV.  It finds the next
1430  * chunk, up to end of string or a backslash.  It may make a new
1431  * SV containing that chunk (if HINT_NEW_STRING is on).  It also
1432  * turns \\ into \.
1433  */
1434
1435 STATIC SV *
1436 S_tokeq(pTHX_ SV *sv)
1437 {
1438     dVAR;
1439     register char *s;
1440     register char *send;
1441     register char *d;
1442     STRLEN len = 0;
1443     SV *pv = sv;
1444
1445     if (!SvLEN(sv))
1446         goto finish;
1447
1448     s = SvPV_force(sv, len);
1449     if (SvTYPE(sv) >= SVt_PVIV && SvIVX(sv) == -1)
1450         goto finish;
1451     send = s + len;
1452     while (s < send && *s != '\\')
1453         s++;
1454     if (s == send)
1455         goto finish;
1456     d = s;
1457     if ( PL_hints & HINT_NEW_STRING ) {
1458         pv = sv_2mortal(newSVpvn(SvPVX_const(pv), len));
1459         if (SvUTF8(sv))
1460             SvUTF8_on(pv);
1461     }
1462     while (s < send) {
1463         if (*s == '\\') {
1464             if (s + 1 < send && (s[1] == '\\'))
1465                 s++;            /* all that, just for this */
1466         }
1467         *d++ = *s++;
1468     }
1469     *d = '\0';
1470     SvCUR_set(sv, d - SvPVX_const(sv));
1471   finish:
1472     if ( PL_hints & HINT_NEW_STRING )
1473        return new_constant(NULL, 0, "q", sv, pv, "q");
1474     return sv;
1475 }
1476
1477 /*
1478  * Now come three functions related to double-quote context,
1479  * S_sublex_start, S_sublex_push, and S_sublex_done.  They're used when
1480  * converting things like "\u\Lgnat" into ucfirst(lc("gnat")).  They
1481  * interact with PL_lex_state, and create fake ( ... ) argument lists
1482  * to handle functions and concatenation.
1483  * They assume that whoever calls them will be setting up a fake
1484  * join call, because each subthing puts a ',' after it.  This lets
1485  *   "lower \luPpEr"
1486  * become
1487  *  join($, , 'lower ', lcfirst( 'uPpEr', ) ,)
1488  *
1489  * (I'm not sure whether the spurious commas at the end of lcfirst's
1490  * arguments and join's arguments are created or not).
1491  */
1492
1493 /*
1494  * S_sublex_start
1495  * Assumes that yylval.ival is the op we're creating (e.g. OP_LCFIRST).
1496  *
1497  * Pattern matching will set PL_lex_op to the pattern-matching op to
1498  * make (we return THING if yylval.ival is OP_NULL, PMFUNC otherwise).
1499  *
1500  * OP_CONST and OP_READLINE are easy--just make the new op and return.
1501  *
1502  * Everything else becomes a FUNC.
1503  *
1504  * Sets PL_lex_state to LEX_INTERPPUSH unless (ival was OP_NULL or we
1505  * had an OP_CONST or OP_READLINE).  This just sets us up for a
1506  * call to S_sublex_push().
1507  */
1508
1509 STATIC I32
1510 S_sublex_start(pTHX)
1511 {
1512     dVAR;
1513     register const I32 op_type = yylval.ival;
1514
1515     if (op_type == OP_NULL) {
1516         yylval.opval = PL_lex_op;
1517         PL_lex_op = NULL;
1518         return THING;
1519     }
1520     if (op_type == OP_CONST || op_type == OP_READLINE) {
1521         SV *sv = tokeq(PL_lex_stuff);
1522
1523         if (SvTYPE(sv) == SVt_PVIV) {
1524             /* Overloaded constants, nothing fancy: Convert to SVt_PV: */
1525             STRLEN len;
1526             const char * const p = SvPV_const(sv, len);
1527             SV * const nsv = newSVpvn(p, len);
1528             if (SvUTF8(sv))
1529                 SvUTF8_on(nsv);
1530             SvREFCNT_dec(sv);
1531             sv = nsv;
1532         }
1533         yylval.opval = (OP*)newSVOP(op_type, 0, sv);
1534         PL_lex_stuff = NULL;
1535         /* Allow <FH> // "foo" */
1536         if (op_type == OP_READLINE)
1537             PL_expect = XTERMORDORDOR;
1538         return THING;
1539     }
1540
1541     PL_sublex_info.super_state = PL_lex_state;
1542     PL_sublex_info.sub_inwhat = op_type;
1543     PL_sublex_info.sub_op = PL_lex_op;
1544     PL_lex_state = LEX_INTERPPUSH;
1545
1546     PL_expect = XTERM;
1547     if (PL_lex_op) {
1548         yylval.opval = PL_lex_op;
1549         PL_lex_op = NULL;
1550         return PMFUNC;
1551     }
1552     else
1553         return FUNC;
1554 }
1555
1556 /*
1557  * S_sublex_push
1558  * Create a new scope to save the lexing state.  The scope will be
1559  * ended in S_sublex_done.  Returns a '(', starting the function arguments
1560  * to the uc, lc, etc. found before.
1561  * Sets PL_lex_state to LEX_INTERPCONCAT.
1562  */
1563
1564 STATIC I32
1565 S_sublex_push(pTHX)
1566 {
1567     dVAR;
1568     ENTER;
1569
1570     PL_lex_state = PL_sublex_info.super_state;
1571     SAVEI32(PL_lex_dojoin);
1572     SAVEI32(PL_lex_brackets);
1573     SAVEI32(PL_lex_casemods);
1574     SAVEI32(PL_lex_starts);
1575     SAVEI32(PL_lex_state);
1576     SAVEVPTR(PL_lex_inpat);
1577     SAVEI32(PL_lex_inwhat);
1578     SAVECOPLINE(PL_curcop);
1579     SAVEPPTR(PL_bufptr);
1580     SAVEPPTR(PL_bufend);
1581     SAVEPPTR(PL_oldbufptr);
1582     SAVEPPTR(PL_oldoldbufptr);
1583     SAVEPPTR(PL_last_lop);
1584     SAVEPPTR(PL_last_uni);
1585     SAVEPPTR(PL_linestart);
1586     SAVESPTR(PL_linestr);
1587     SAVEGENERICPV(PL_lex_brackstack);
1588     SAVEGENERICPV(PL_lex_casestack);
1589
1590     PL_linestr = PL_lex_stuff;
1591     PL_lex_stuff = NULL;
1592
1593     PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart
1594         = SvPVX(PL_linestr);
1595     PL_bufend += SvCUR(PL_linestr);
1596     PL_last_lop = PL_last_uni = NULL;
1597     SAVEFREESV(PL_linestr);
1598
1599     PL_lex_dojoin = FALSE;
1600     PL_lex_brackets = 0;
1601     Newx(PL_lex_brackstack, 120, char);
1602     Newx(PL_lex_casestack, 12, char);
1603     PL_lex_casemods = 0;
1604     *PL_lex_casestack = '\0';
1605     PL_lex_starts = 0;
1606     PL_lex_state = LEX_INTERPCONCAT;
1607     CopLINE_set(PL_curcop, (line_t)PL_multi_start);
1608
1609     PL_lex_inwhat = PL_sublex_info.sub_inwhat;
1610     if (PL_lex_inwhat == OP_MATCH || PL_lex_inwhat == OP_QR || PL_lex_inwhat == OP_SUBST)
1611         PL_lex_inpat = PL_sublex_info.sub_op;
1612     else
1613         PL_lex_inpat = NULL;
1614
1615     return '(';
1616 }
1617
1618 /*
1619  * S_sublex_done
1620  * Restores lexer state after a S_sublex_push.
1621  */
1622
1623 STATIC I32
1624 S_sublex_done(pTHX)
1625 {
1626     dVAR;
1627     if (!PL_lex_starts++) {
1628         SV * const sv = newSVpvs("");
1629         if (SvUTF8(PL_linestr))
1630             SvUTF8_on(sv);
1631         PL_expect = XOPERATOR;
1632         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1633         return THING;
1634     }
1635
1636     if (PL_lex_casemods) {              /* oops, we've got some unbalanced parens */
1637         PL_lex_state = LEX_INTERPCASEMOD;
1638         return yylex();
1639     }
1640
1641     /* Is there a right-hand side to take care of? (s//RHS/ or tr//RHS/) */
1642     if (PL_lex_repl && (PL_lex_inwhat == OP_SUBST || PL_lex_inwhat == OP_TRANS)) {
1643         PL_linestr = PL_lex_repl;
1644         PL_lex_inpat = 0;
1645         PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart = SvPVX(PL_linestr);
1646         PL_bufend += SvCUR(PL_linestr);
1647         PL_last_lop = PL_last_uni = NULL;
1648         SAVEFREESV(PL_linestr);
1649         PL_lex_dojoin = FALSE;
1650         PL_lex_brackets = 0;
1651         PL_lex_casemods = 0;
1652         *PL_lex_casestack = '\0';
1653         PL_lex_starts = 0;
1654         if (SvEVALED(PL_lex_repl)) {
1655             PL_lex_state = LEX_INTERPNORMAL;
1656             PL_lex_starts++;
1657             /*  we don't clear PL_lex_repl here, so that we can check later
1658                 whether this is an evalled subst; that means we rely on the
1659                 logic to ensure sublex_done() is called again only via the
1660                 branch (in yylex()) that clears PL_lex_repl, else we'll loop */
1661         }
1662         else {
1663             PL_lex_state = LEX_INTERPCONCAT;
1664             PL_lex_repl = NULL;
1665         }
1666         return ',';
1667     }
1668     else {
1669 #ifdef PERL_MAD
1670         if (PL_madskills) {
1671             if (PL_thiswhite) {
1672                 if (!PL_endwhite)
1673                     PL_endwhite = newSVpvn("",0);
1674                 sv_catsv(PL_endwhite, PL_thiswhite);
1675                 PL_thiswhite = 0;
1676             }
1677             if (PL_thistoken)
1678                 sv_setpvn(PL_thistoken,"",0);
1679             else
1680                 PL_realtokenstart = -1;
1681         }
1682 #endif
1683         LEAVE;
1684         PL_bufend = SvPVX(PL_linestr);
1685         PL_bufend += SvCUR(PL_linestr);
1686         PL_expect = XOPERATOR;
1687         PL_sublex_info.sub_inwhat = 0;
1688         return ')';
1689     }
1690 }
1691
1692 /*
1693   scan_const
1694
1695   Extracts a pattern, double-quoted string, or transliteration.  This
1696   is terrifying code.
1697
1698   It looks at lex_inwhat and PL_lex_inpat to find out whether it's
1699   processing a pattern (PL_lex_inpat is true), a transliteration
1700   (lex_inwhat & OP_TRANS is true), or a double-quoted string.
1701
1702   Returns a pointer to the character scanned up to. Iff this is
1703   advanced from the start pointer supplied (ie if anything was
1704   successfully parsed), will leave an OP for the substring scanned
1705   in yylval. Caller must intuit reason for not parsing further
1706   by looking at the next characters herself.
1707
1708   In patterns:
1709     backslashes:
1710       double-quoted style: \r and \n
1711       regexp special ones: \D \s
1712       constants: \x3
1713       backrefs: \1 (deprecated in substitution replacements)
1714       case and quoting: \U \Q \E
1715     stops on @ and $, but not for $ as tail anchor
1716
1717   In transliterations:
1718     characters are VERY literal, except for - not at the start or end
1719     of the string, which indicates a range.  scan_const expands the
1720     range to the full set of intermediate characters.
1721
1722   In double-quoted strings:
1723     backslashes:
1724       double-quoted style: \r and \n
1725       constants: \x3
1726       backrefs: \1 (deprecated)
1727       case and quoting: \U \Q \E
1728     stops on @ and $
1729
1730   scan_const does *not* construct ops to handle interpolated strings.
1731   It stops processing as soon as it finds an embedded $ or @ variable
1732   and leaves it to the caller to work out what's going on.
1733
1734   @ in pattern could be: @foo, @{foo}, @$foo, @'foo, @::foo.
1735
1736   $ in pattern could be $foo or could be tail anchor.  Assumption:
1737   it's a tail anchor if $ is the last thing in the string, or if it's
1738   followed by one of ")| \n\t"
1739
1740   \1 (backreferences) are turned into $1
1741
1742   The structure of the code is
1743       while (there's a character to process) {
1744           handle transliteration ranges
1745           skip regexp comments
1746           skip # initiated comments in //x patterns
1747           check for embedded @foo
1748           check for embedded scalars
1749           if (backslash) {
1750               leave intact backslashes from leave (below)
1751               deprecate \1 in strings and sub replacements
1752               handle string-changing backslashes \l \U \Q \E, etc.
1753               switch (what was escaped) {
1754                   handle - in a transliteration (becomes a literal -)
1755                   handle \132 octal characters
1756                   handle 0x15 hex characters
1757                   handle \cV (control V)
1758                   handle printf backslashes (\f, \r, \n, etc)
1759               } (end switch)
1760           } (end if backslash)
1761     } (end while character to read)
1762
1763 */
1764
1765 STATIC char *
1766 S_scan_const(pTHX_ char *start)
1767 {
1768     dVAR;
1769     register char *send = PL_bufend;            /* end of the constant */
1770     SV *sv = newSV(send - start);               /* sv for the constant */
1771     register char *s = start;                   /* start of the constant */
1772     register char *d = SvPVX(sv);               /* destination for copies */
1773     bool dorange = FALSE;                       /* are we in a translit range? */
1774     bool didrange = FALSE;                      /* did we just finish a range? */
1775     I32  has_utf8 = FALSE;                      /* Output constant is UTF8 */
1776     I32  this_utf8 = UTF;                       /* The source string is assumed to be UTF8 */
1777     UV uv;
1778 #ifdef EBCDIC
1779     UV literal_endpoint = 0;
1780 #endif
1781
1782     const char * const leaveit = /* set of acceptably-backslashed characters */
1783         PL_lex_inpat
1784             ? "\\.^$@AGZdDwWsSbBpPXC+*?|()-nrtfeaxz0123456789[{]} \t\n\r\f\v#"
1785             : "";
1786
1787     if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
1788         /* If we are doing a trans and we know we want UTF8 set expectation */
1789         has_utf8   = PL_sublex_info.sub_op->op_private & (OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF);
1790         this_utf8  = PL_sublex_info.sub_op->op_private & (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
1791     }
1792
1793
1794     while (s < send || dorange) {
1795         /* get transliterations out of the way (they're most literal) */
1796         if (PL_lex_inwhat == OP_TRANS) {
1797             /* expand a range A-Z to the full set of characters.  AIE! */
1798             if (dorange) {
1799                 I32 i;                          /* current expanded character */
1800                 I32 min;                        /* first character in range */
1801                 I32 max;                        /* last character in range */
1802
1803                 if (has_utf8) {
1804                     char * const c = (char*)utf8_hop((U8*)d, -1);
1805                     char *e = d++;
1806                     while (e-- > c)
1807                         *(e + 1) = *e;
1808                     *c = (char)UTF_TO_NATIVE(0xff);
1809                     /* mark the range as done, and continue */
1810                     dorange = FALSE;
1811                     didrange = TRUE;
1812                     continue;
1813                 }
1814
1815                 i = d - SvPVX_const(sv);                /* remember current offset */
1816                 SvGROW(sv, SvLEN(sv) + 256);    /* never more than 256 chars in a range */
1817                 d = SvPVX(sv) + i;              /* refresh d after realloc */
1818                 d -= 2;                         /* eat the first char and the - */
1819
1820                 min = (U8)*d;                   /* first char in range */
1821                 max = (U8)d[1];                 /* last char in range  */
1822
1823                 if (min > max) {
1824                     Perl_croak(aTHX_
1825                                "Invalid range \"%c-%c\" in transliteration operator",
1826                                (char)min, (char)max);
1827                 }
1828
1829 #ifdef EBCDIC
1830                 if (literal_endpoint == 2 &&
1831                     ((isLOWER(min) && isLOWER(max)) ||
1832                      (isUPPER(min) && isUPPER(max)))) {
1833                     if (isLOWER(min)) {
1834                         for (i = min; i <= max; i++)
1835                             if (isLOWER(i))
1836                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1837                     } else {
1838                         for (i = min; i <= max; i++)
1839                             if (isUPPER(i))
1840                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1841                     }
1842                 }
1843                 else
1844 #endif
1845                     for (i = min; i <= max; i++)
1846                         *d++ = (char)i;
1847
1848                 /* mark the range as done, and continue */
1849                 dorange = FALSE;
1850                 didrange = TRUE;
1851 #ifdef EBCDIC
1852                 literal_endpoint = 0;
1853 #endif
1854                 continue;
1855             }
1856
1857             /* range begins (ignore - as first or last char) */
1858             else if (*s == '-' && s+1 < send  && s != start) {
1859                 if (didrange) {
1860                     Perl_croak(aTHX_ "Ambiguous range in transliteration operator");
1861                 }
1862                 if (has_utf8) {
1863                     *d++ = (char)UTF_TO_NATIVE(0xff);   /* use illegal utf8 byte--see pmtrans */
1864                     s++;
1865                     continue;
1866                 }
1867                 dorange = TRUE;
1868                 s++;
1869             }
1870             else {
1871                 didrange = FALSE;
1872 #ifdef EBCDIC
1873                 literal_endpoint = 0;
1874 #endif
1875             }
1876         }
1877
1878         /* if we get here, we're not doing a transliteration */
1879
1880         /* skip for regexp comments /(?#comment)/ and code /(?{code})/,
1881            except for the last char, which will be done separately. */
1882         else if (*s == '(' && PL_lex_inpat && s[1] == '?') {
1883             if (s[2] == '#') {
1884                 while (s+1 < send && *s != ')')
1885                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1886             }
1887             else if (s[2] == '{' /* This should match regcomp.c */
1888                      || ((s[2] == 'p' || s[2] == '?') && s[3] == '{'))
1889             {
1890                 I32 count = 1;
1891                 char *regparse = s + (s[2] == '{' ? 3 : 4);
1892                 char c;
1893
1894                 while (count && (c = *regparse)) {
1895                     if (c == '\\' && regparse[1])
1896                         regparse++;
1897                     else if (c == '{')
1898                         count++;
1899                     else if (c == '}')
1900                         count--;
1901                     regparse++;
1902                 }
1903                 if (*regparse != ')')
1904                     regparse--;         /* Leave one char for continuation. */
1905                 while (s < regparse)
1906                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1907             }
1908         }
1909
1910         /* likewise skip #-initiated comments in //x patterns */
1911         else if (*s == '#' && PL_lex_inpat &&
1912           ((PMOP*)PL_lex_inpat)->op_pmflags & PMf_EXTENDED) {
1913             while (s+1 < send && *s != '\n')
1914                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1915         }
1916
1917         /* check for embedded arrays
1918            (@foo, @::foo, @'foo, @{foo}, @$foo, @+, @-)
1919            */
1920         else if (*s == '@' && s[1]
1921                  && (isALNUM_lazy_if(s+1,UTF) || strchr(":'{$+-", s[1])))
1922             break;
1923
1924         /* check for embedded scalars.  only stop if we're sure it's a
1925            variable.
1926         */
1927         else if (*s == '$') {
1928             if (!PL_lex_inpat)  /* not a regexp, so $ must be var */
1929                 break;
1930             if (s + 1 < send && !strchr("()| \r\n\t", s[1]))
1931                 break;          /* in regexp, $ might be tail anchor */
1932         }
1933
1934         /* End of else if chain - OP_TRANS rejoin rest */
1935
1936         /* backslashes */
1937         if (*s == '\\' && s+1 < send) {
1938             s++;
1939
1940             /* some backslashes we leave behind */
1941             if (*leaveit && *s && strchr(leaveit, *s)) {
1942                 *d++ = NATIVE_TO_NEED(has_utf8,'\\');
1943                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1944                 continue;
1945             }
1946
1947             /* deprecate \1 in strings and substitution replacements */
1948             if (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat &&
1949                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
1950             {
1951                 if (ckWARN(WARN_SYNTAX))
1952                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "\\%c better written as $%c", *s, *s);
1953                 *--s = '$';
1954                 break;
1955             }
1956
1957             /* string-change backslash escapes */
1958             if (PL_lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
1959                 --s;
1960                 break;
1961             }
1962
1963             /* if we get here, it's either a quoted -, or a digit */
1964             switch (*s) {
1965
1966             /* quoted - in transliterations */
1967             case '-':
1968                 if (PL_lex_inwhat == OP_TRANS) {
1969                     *d++ = *s++;
1970                     continue;
1971                 }
1972                 /* FALL THROUGH */
1973             default:
1974                 {
1975                     if (isALNUM(*s) &&
1976                         *s != '_' &&
1977                         ckWARN(WARN_MISC))
1978                         Perl_warner(aTHX_ packWARN(WARN_MISC),
1979                                "Unrecognized escape \\%c passed through",
1980                                *s);
1981                     /* default action is to copy the quoted character */
1982                     goto default_action;
1983                 }
1984
1985             /* \132 indicates an octal constant */
1986             case '0': case '1': case '2': case '3':
1987             case '4': case '5': case '6': case '7':
1988                 {
1989                     I32 flags = 0;
1990                     STRLEN len = 3;
1991                     uv = grok_oct(s, &len, &flags, NULL);
1992                     s += len;
1993                 }
1994                 goto NUM_ESCAPE_INSERT;
1995
1996             /* \x24 indicates a hex constant */
1997             case 'x':
1998                 ++s;
1999                 if (*s == '{') {
2000                     char* const e = strchr(s, '}');
2001                     I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2002                       PERL_SCAN_DISALLOW_PREFIX;
2003                     STRLEN len;
2004
2005                     ++s;
2006                     if (!e) {
2007                         yyerror("Missing right brace on \\x{}");
2008                         continue;
2009                     }
2010                     len = e - s;
2011                     uv = grok_hex(s, &len, &flags, NULL);
2012                     s = e + 1;
2013                 }
2014                 else {
2015                     {
2016                         STRLEN len = 2;
2017                         I32 flags = PERL_SCAN_DISALLOW_PREFIX;
2018                         uv = grok_hex(s, &len, &flags, NULL);
2019                         s += len;
2020                     }
2021                 }
2022
2023               NUM_ESCAPE_INSERT:
2024                 /* Insert oct or hex escaped character.
2025                  * There will always enough room in sv since such
2026                  * escapes will be longer than any UTF-8 sequence
2027                  * they can end up as. */
2028
2029                 /* We need to map to chars to ASCII before doing the tests
2030                    to cover EBCDIC
2031                 */
2032                 if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(uv))) {
2033                     if (!has_utf8 && uv > 255) {
2034                         /* Might need to recode whatever we have
2035                          * accumulated so far if it contains any
2036                          * hibit chars.
2037                          *
2038                          * (Can't we keep track of that and avoid
2039                          *  this rescan? --jhi)
2040                          */
2041                         int hicount = 0;
2042                         U8 *c;
2043                         for (c = (U8 *) SvPVX(sv); c < (U8 *)d; c++) {
2044                             if (!NATIVE_IS_INVARIANT(*c)) {
2045                                 hicount++;
2046                             }
2047                         }
2048                         if (hicount) {
2049                             const STRLEN offset = d - SvPVX_const(sv);
2050                             U8 *src, *dst;
2051                             d = SvGROW(sv, SvLEN(sv) + hicount + 1) + offset;
2052                             src = (U8 *)d - 1;
2053                             dst = src+hicount;
2054                             d  += hicount;
2055                             while (src >= (const U8 *)SvPVX_const(sv)) {
2056                                 if (!NATIVE_IS_INVARIANT(*src)) {
2057                                     const U8 ch = NATIVE_TO_ASCII(*src);
2058                                     *dst-- = (U8)UTF8_EIGHT_BIT_LO(ch);
2059                                     *dst-- = (U8)UTF8_EIGHT_BIT_HI(ch);
2060                                 }
2061                                 else {
2062                                     *dst-- = *src;
2063                                 }
2064                                 src--;
2065                             }
2066                         }
2067                     }
2068
2069                     if (has_utf8 || uv > 255) {
2070                         d = (char*)uvchr_to_utf8((U8*)d, uv);
2071                         has_utf8 = TRUE;
2072                         if (PL_lex_inwhat == OP_TRANS &&
2073                             PL_sublex_info.sub_op) {
2074                             PL_sublex_info.sub_op->op_private |=
2075                                 (PL_lex_repl ? OPpTRANS_FROM_UTF
2076                                              : OPpTRANS_TO_UTF);
2077                         }
2078                     }
2079                     else {
2080                         *d++ = (char)uv;
2081                     }
2082                 }
2083                 else {
2084                     *d++ = (char) uv;
2085                 }
2086                 continue;
2087
2088             /* \N{LATIN SMALL LETTER A} is a named character */
2089             case 'N':
2090                 ++s;
2091                 if (*s == '{') {
2092                     char* e = strchr(s, '}');
2093                     SV *res;
2094                     STRLEN len;
2095                     const char *str;
2096
2097                     if (!e) {
2098                         yyerror("Missing right brace on \\N{}");
2099                         e = s - 1;
2100                         goto cont_scan;
2101                     }
2102                     if (e > s + 2 && s[1] == 'U' && s[2] == '+') {
2103                         /* \N{U+...} */
2104                         I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2105                           PERL_SCAN_DISALLOW_PREFIX;
2106                         s += 3;
2107                         len = e - s;
2108                         uv = grok_hex(s, &len, &flags, NULL);
2109                         s = e + 1;
2110                         goto NUM_ESCAPE_INSERT;
2111                     }
2112                     res = newSVpvn(s + 1, e - s - 1);
2113                     res = new_constant( NULL, 0, "charnames",
2114                                         res, NULL, "\\N{...}" );
2115                     if (has_utf8)
2116                         sv_utf8_upgrade(res);
2117                     str = SvPV_const(res,len);
2118 #ifdef EBCDIC_NEVER_MIND
2119                     /* charnames uses pack U and that has been
2120                      * recently changed to do the below uni->native
2121                      * mapping, so this would be redundant (and wrong,
2122                      * the code point would be doubly converted).
2123                      * But leave this in just in case the pack U change
2124                      * gets revoked, but the semantics is still
2125                      * desireable for charnames. --jhi */
2126                     {
2127                          UV uv = utf8_to_uvchr((const U8*)str, 0);
2128
2129                          if (uv < 0x100) {
2130                               U8 tmpbuf[UTF8_MAXBYTES+1], *d;
2131
2132                               d = uvchr_to_utf8(tmpbuf, UNI_TO_NATIVE(uv));
2133                               sv_setpvn(res, (char *)tmpbuf, d - tmpbuf);
2134                               str = SvPV_const(res, len);
2135                          }
2136                     }
2137 #endif
2138                     if (!has_utf8 && SvUTF8(res)) {
2139                         const char * const ostart = SvPVX_const(sv);
2140                         SvCUR_set(sv, d - ostart);
2141                         SvPOK_on(sv);
2142                         *d = '\0';
2143                         sv_utf8_upgrade(sv);
2144                         /* this just broke our allocation above... */
2145                         SvGROW(sv, (STRLEN)(send - start));
2146                         d = SvPVX(sv) + SvCUR(sv);
2147                         has_utf8 = TRUE;
2148                     }
2149                     if (len > (STRLEN)(e - s + 4)) { /* I _guess_ 4 is \N{} --jhi */
2150                         const char * const odest = SvPVX_const(sv);
2151
2152                         SvGROW(sv, (SvLEN(sv) + len - (e - s + 4)));
2153                         d = SvPVX(sv) + (d - odest);
2154                     }
2155                     Copy(str, d, len, char);
2156                     d += len;
2157                     SvREFCNT_dec(res);
2158                   cont_scan:
2159                     s = e + 1;
2160                 }
2161                 else
2162                     yyerror("Missing braces on \\N{}");
2163                 continue;
2164
2165             /* \c is a control character */
2166             case 'c':
2167                 s++;
2168                 if (s < send) {
2169                     U8 c = *s++;
2170 #ifdef EBCDIC
2171                     if (isLOWER(c))
2172                         c = toUPPER(c);
2173 #endif
2174                     *d++ = NATIVE_TO_NEED(has_utf8,toCTRL(c));
2175                 }
2176                 else {
2177                     yyerror("Missing control char name in \\c");
2178                 }
2179                 continue;
2180
2181             /* printf-style backslashes, formfeeds, newlines, etc */
2182             case 'b':
2183                 *d++ = NATIVE_TO_NEED(has_utf8,'\b');
2184                 break;
2185             case 'n':
2186                 *d++ = NATIVE_TO_NEED(has_utf8,'\n');
2187                 break;
2188             case 'r':
2189                 *d++ = NATIVE_TO_NEED(has_utf8,'\r');
2190                 break;
2191             case 'f':
2192                 *d++ = NATIVE_TO_NEED(has_utf8,'\f');
2193                 break;
2194             case 't':
2195                 *d++ = NATIVE_TO_NEED(has_utf8,'\t');
2196                 break;
2197             case 'e':
2198                 *d++ = ASCII_TO_NEED(has_utf8,'\033');
2199                 break;
2200             case 'a':
2201                 *d++ = ASCII_TO_NEED(has_utf8,'\007');
2202                 break;
2203             } /* end switch */
2204
2205             s++;
2206             continue;
2207         } /* end if (backslash) */
2208 #ifdef EBCDIC
2209         else
2210             literal_endpoint++;
2211 #endif
2212
2213     default_action:
2214         /* If we started with encoded form, or already know we want it
2215            and then encode the next character */
2216         if ((has_utf8 || this_utf8) && !NATIVE_IS_INVARIANT((U8)(*s))) {
2217             STRLEN len  = 1;
2218             const UV nextuv   = (this_utf8) ? utf8n_to_uvchr((U8*)s, send - s, &len, 0) : (UV) ((U8) *s);
2219             const STRLEN need = UNISKIP(NATIVE_TO_UNI(nextuv));
2220             s += len;
2221             if (need > len) {
2222                 /* encoded value larger than old, need extra space (NOTE: SvCUR() not set here) */
2223                 const STRLEN off = d - SvPVX_const(sv);
2224                 d = SvGROW(sv, SvLEN(sv) + (need-len)) + off;
2225             }
2226             d = (char*)uvchr_to_utf8((U8*)d, nextuv);
2227             has_utf8 = TRUE;
2228         }
2229         else {
2230             *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2231         }
2232     } /* while loop to process each character */
2233
2234     /* terminate the string and set up the sv */
2235     *d = '\0';
2236     SvCUR_set(sv, d - SvPVX_const(sv));
2237     if (SvCUR(sv) >= SvLEN(sv))
2238         Perl_croak(aTHX_ "panic: constant overflowed allocated space");
2239
2240     SvPOK_on(sv);
2241     if (PL_encoding && !has_utf8) {
2242         sv_recode_to_utf8(sv, PL_encoding);
2243         if (SvUTF8(sv))
2244             has_utf8 = TRUE;
2245     }
2246     if (has_utf8) {
2247         SvUTF8_on(sv);
2248         if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
2249             PL_sublex_info.sub_op->op_private |=
2250                     (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
2251         }
2252     }
2253
2254     /* shrink the sv if we allocated more than we used */
2255     if (SvCUR(sv) + 5 < SvLEN(sv)) {
2256         SvPV_shrink_to_cur(sv);
2257     }
2258
2259     /* return the substring (via yylval) only if we parsed anything */
2260     if (s > PL_bufptr) {
2261         if ( PL_hints & ( PL_lex_inpat ? HINT_NEW_RE : HINT_NEW_STRING ) )
2262             sv = new_constant(start, s - start, (PL_lex_inpat ? "qr" : "q"),
2263                               sv, NULL,
2264                               ( PL_lex_inwhat == OP_TRANS
2265                                 ? "tr"
2266                                 : ( (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat)
2267                                     ? "s"
2268                                     : "qq")));
2269         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2270     } else
2271         SvREFCNT_dec(sv);
2272     return s;
2273 }
2274
2275 /* S_intuit_more
2276  * Returns TRUE if there's more to the expression (e.g., a subscript),
2277  * FALSE otherwise.
2278  *
2279  * It deals with "$foo[3]" and /$foo[3]/ and /$foo[0123456789$]+/
2280  *
2281  * ->[ and ->{ return TRUE
2282  * { and [ outside a pattern are always subscripts, so return TRUE
2283  * if we're outside a pattern and it's not { or [, then return FALSE
2284  * if we're in a pattern and the first char is a {
2285  *   {4,5} (any digits around the comma) returns FALSE
2286  * if we're in a pattern and the first char is a [
2287  *   [] returns FALSE
2288  *   [SOMETHING] has a funky algorithm to decide whether it's a
2289  *      character class or not.  It has to deal with things like
2290  *      /$foo[-3]/ and /$foo[$bar]/ as well as /$foo[$\d]+/
2291  * anything else returns TRUE
2292  */
2293
2294 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
2295
2296 STATIC int
2297 S_intuit_more(pTHX_ register char *s)
2298 {
2299     dVAR;
2300     if (PL_lex_brackets)
2301         return TRUE;
2302     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
2303         return TRUE;
2304     if (*s != '{' && *s != '[')
2305         return FALSE;
2306     if (!PL_lex_inpat)
2307         return TRUE;
2308
2309     /* In a pattern, so maybe we have {n,m}. */
2310     if (*s == '{') {
2311         s++;
2312         if (!isDIGIT(*s))
2313             return TRUE;
2314         while (isDIGIT(*s))
2315             s++;
2316         if (*s == ',')
2317             s++;
2318         while (isDIGIT(*s))
2319             s++;
2320         if (*s == '}')
2321             return FALSE;
2322         return TRUE;
2323
2324     }
2325
2326     /* On the other hand, maybe we have a character class */
2327
2328     s++;
2329     if (*s == ']' || *s == '^')
2330         return FALSE;
2331     else {
2332         /* this is terrifying, and it works */
2333         int weight = 2;         /* let's weigh the evidence */
2334         char seen[256];
2335         unsigned char un_char = 255, last_un_char;
2336         const char * const send = strchr(s,']');
2337         char tmpbuf[sizeof PL_tokenbuf * 4];
2338
2339         if (!send)              /* has to be an expression */
2340             return TRUE;
2341
2342         Zero(seen,256,char);
2343         if (*s == '$')
2344             weight -= 3;
2345         else if (isDIGIT(*s)) {
2346             if (s[1] != ']') {
2347                 if (isDIGIT(s[1]) && s[2] == ']')
2348                     weight -= 10;
2349             }
2350             else
2351                 weight -= 100;
2352         }
2353         for (; s < send; s++) {
2354             last_un_char = un_char;
2355             un_char = (unsigned char)*s;
2356             switch (*s) {
2357             case '@':
2358             case '&':
2359             case '$':
2360                 weight -= seen[un_char] * 10;
2361                 if (isALNUM_lazy_if(s+1,UTF)) {
2362                     int len;
2363                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
2364                     len = (int)strlen(tmpbuf);
2365                     if (len > 1 && gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PV))
2366                         weight -= 100;
2367                     else
2368                         weight -= 10;
2369                 }
2370                 else if (*s == '$' && s[1] &&
2371                   strchr("[#!%*<>()-=",s[1])) {
2372                     if (/*{*/ strchr("])} =",s[2]))
2373                         weight -= 10;
2374                     else
2375                         weight -= 1;
2376                 }
2377                 break;
2378             case '\\':
2379                 un_char = 254;
2380                 if (s[1]) {
2381                     if (strchr("wds]",s[1]))
2382                         weight += 100;
2383                     else if (seen['\''] || seen['"'])
2384                         weight += 1;
2385                     else if (strchr("rnftbxcav",s[1]))
2386                         weight += 40;
2387                     else if (isDIGIT(s[1])) {
2388                         weight += 40;
2389                         while (s[1] && isDIGIT(s[1]))
2390                             s++;
2391                     }
2392                 }
2393                 else
2394                     weight += 100;
2395                 break;
2396             case '-':
2397                 if (s[1] == '\\')
2398                     weight += 50;
2399                 if (strchr("aA01! ",last_un_char))
2400                     weight += 30;
2401                 if (strchr("zZ79~",s[1]))
2402                     weight += 30;
2403                 if (last_un_char == 255 && (isDIGIT(s[1]) || s[1] == '$'))
2404                     weight -= 5;        /* cope with negative subscript */
2405                 break;
2406             default:
2407                 if (!isALNUM(last_un_char)
2408                     && !(last_un_char == '$' || last_un_char == '@'
2409                          || last_un_char == '&')
2410                     && isALPHA(*s) && s[1] && isALPHA(s[1])) {
2411                     char *d = tmpbuf;
2412                     while (isALPHA(*s))
2413                         *d++ = *s++;
2414                     *d = '\0';
2415                     if (keyword(tmpbuf, d - tmpbuf))
2416                         weight -= 150;
2417                 }
2418                 if (un_char == last_un_char + 1)
2419                     weight += 5;
2420                 weight -= seen[un_char];
2421                 break;
2422             }
2423             seen[un_char]++;
2424         }
2425         if (weight >= 0)        /* probably a character class */
2426             return FALSE;
2427     }
2428
2429     return TRUE;
2430 }
2431
2432 /*
2433  * S_intuit_method
2434  *
2435  * Does all the checking to disambiguate
2436  *   foo bar
2437  * between foo(bar) and bar->foo.  Returns 0 if not a method, otherwise
2438  * FUNCMETH (bar->foo(args)) or METHOD (bar->foo args).
2439  *
2440  * First argument is the stuff after the first token, e.g. "bar".
2441  *
2442  * Not a method if bar is a filehandle.
2443  * Not a method if foo is a subroutine prototyped to take a filehandle.
2444  * Not a method if it's really "Foo $bar"
2445  * Method if it's "foo $bar"
2446  * Not a method if it's really "print foo $bar"
2447  * Method if it's really "foo package::" (interpreted as package->foo)
2448  * Not a method if bar is known to be a subroutine ("sub bar; foo bar")
2449  * Not a method if bar is a filehandle or package, but is quoted with
2450  *   =>
2451  */
2452
2453 STATIC int
2454 S_intuit_method(pTHX_ char *start, GV *gv, CV *cv)
2455 {
2456     dVAR;
2457     char *s = start + (*start == '$');
2458     char tmpbuf[sizeof PL_tokenbuf];
2459     STRLEN len;
2460     GV* indirgv;
2461 #ifdef PERL_MAD
2462     int soff;
2463 #endif
2464
2465     if (gv) {
2466         if (SvTYPE(gv) == SVt_PVGV && GvIO(gv))
2467             return 0;
2468         if (cv) {
2469             if (SvPOK(cv)) {
2470                 const char *proto = SvPVX_const(cv);
2471                 if (proto) {
2472                     if (*proto == ';')
2473                         proto++;
2474                     if (*proto == '*')
2475                         return 0;
2476                 }
2477             }
2478         } else
2479             gv = 0;
2480     }
2481     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2482     /* start is the beginning of the possible filehandle/object,
2483      * and s is the end of it
2484      * tmpbuf is a copy of it
2485      */
2486
2487     if (*start == '$') {
2488         if (gv || PL_last_lop_op == OP_PRINT || isUPPER(*PL_tokenbuf))
2489             return 0;
2490 #ifdef PERL_MAD
2491         len = start - SvPVX(PL_linestr);
2492 #endif
2493         s = PEEKSPACE(s);
2494 #ifdef PERLMAD
2495         start = SvPVX(PL_linestr) + len;
2496 #endif
2497         PL_bufptr = start;
2498         PL_expect = XREF;
2499         return *s == '(' ? FUNCMETH : METHOD;
2500     }
2501     if (!keyword(tmpbuf, len)) {
2502         if (len > 2 && tmpbuf[len - 2] == ':' && tmpbuf[len - 1] == ':') {
2503             len -= 2;
2504             tmpbuf[len] = '\0';
2505 #ifdef PERL_MAD
2506             soff = s - SvPVX(PL_linestr);
2507 #endif
2508             goto bare_package;
2509         }
2510         indirgv = gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PVCV);
2511         if (indirgv && GvCVu(indirgv))
2512             return 0;
2513         /* filehandle or package name makes it a method */
2514         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
2515 #ifdef PERL_MAD
2516             soff = s - SvPVX(PL_linestr);
2517 #endif
2518             s = PEEKSPACE(s);
2519             if ((PL_bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
2520                 return 0;       /* no assumptions -- "=>" quotes bearword */
2521       bare_package:
2522             start_force(PL_curforce);
2523             NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0,
2524                                                    newSVpvn(tmpbuf,len));
2525             NEXTVAL_NEXTTOKE.opval->op_private = OPpCONST_BARE;
2526             if (PL_madskills)
2527                 curmad('X', newSVpvn(start,SvPVX(PL_linestr) + soff - start));
2528             PL_expect = XTERM;
2529             force_next(WORD);
2530             PL_bufptr = s;
2531 #ifdef PERL_MAD
2532             PL_bufptr = SvPVX(PL_linestr) + soff; /* restart before space */
2533 #endif
2534             return *s == '(' ? FUNCMETH : METHOD;
2535         }
2536     }
2537     return 0;
2538 }
2539
2540 /*
2541  * S_incl_perldb
2542  * Return a string of Perl code to load the debugger.  If PERL5DB
2543  * is set, it will return the contents of that, otherwise a
2544  * compile-time require of perl5db.pl.
2545  */
2546
2547 STATIC const char*
2548 S_incl_perldb(pTHX)
2549 {
2550     dVAR;
2551     if (PL_perldb) {
2552         const char * const pdb = PerlEnv_getenv("PERL5DB");
2553
2554         if (pdb)
2555             return pdb;
2556         SETERRNO(0,SS_NORMAL);
2557         return "BEGIN { require 'perl5db.pl' }";
2558     }
2559     return "";
2560 }
2561
2562
2563 /* Encoded script support. filter_add() effectively inserts a
2564  * 'pre-processing' function into the current source input stream.
2565  * Note that the filter function only applies to the current source file
2566  * (e.g., it will not affect files 'require'd or 'use'd by this one).
2567  *
2568  * The datasv parameter (which may be NULL) can be used to pass
2569  * private data to this instance of the filter. The filter function
2570  * can recover the SV using the FILTER_DATA macro and use it to
2571  * store private buffers and state information.
2572  *
2573  * The supplied datasv parameter is upgraded to a PVIO type
2574  * and the IoDIRP/IoANY field is used to store the function pointer,
2575  * and IOf_FAKE_DIRP is enabled on datasv to mark this as such.
2576  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
2577  * private use must be set using malloc'd pointers.
2578  */
2579
2580 SV *
2581 Perl_filter_add(pTHX_ filter_t funcp, SV *datasv)
2582 {
2583     dVAR;
2584     if (!funcp)
2585         return NULL;
2586
2587     if (!PL_rsfp_filters)
2588         PL_rsfp_filters = newAV();
2589     if (!datasv)
2590         datasv = newSV(0);
2591     SvUPGRADE(datasv, SVt_PVIO);
2592     IoANY(datasv) = FPTR2DPTR(void *, funcp); /* stash funcp into spare field */
2593     IoFLAGS(datasv) |= IOf_FAKE_DIRP;
2594     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_add func %p (%s)\n",
2595                           FPTR2DPTR(void *, IoANY(datasv)),
2596                           SvPV_nolen(datasv)));
2597     av_unshift(PL_rsfp_filters, 1);
2598     av_store(PL_rsfp_filters, 0, datasv) ;
2599     return(datasv);
2600 }
2601
2602
2603 /* Delete most recently added instance of this filter function. */
2604 void
2605 Perl_filter_del(pTHX_ filter_t funcp)
2606 {
2607     dVAR;
2608     SV *datasv;
2609
2610 #ifdef DEBUGGING
2611     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_del func %p",
2612                           FPTR2DPTR(void*, funcp)));
2613 #endif
2614     if (!PL_rsfp_filters || AvFILLp(PL_rsfp_filters)<0)
2615         return;
2616     /* if filter is on top of stack (usual case) just pop it off */
2617     datasv = FILTER_DATA(AvFILLp(PL_rsfp_filters));
2618     if (IoANY(datasv) == FPTR2DPTR(void *, funcp)) {
2619         IoFLAGS(datasv) &= ~IOf_FAKE_DIRP;
2620         IoANY(datasv) = (void *)NULL;
2621         sv_free(av_pop(PL_rsfp_filters));
2622
2623         return;
2624     }
2625     /* we need to search for the correct entry and clear it     */
2626     Perl_die(aTHX_ "filter_del can only delete in reverse order (currently)");
2627 }
2628
2629
2630 /* Invoke the idxth filter function for the current rsfp.        */
2631 /* maxlen 0 = read one text line */
2632 I32
2633 Perl_filter_read(pTHX_ int idx, SV *buf_sv, int maxlen)
2634 {
2635     dVAR;
2636     filter_t funcp;
2637     SV *datasv = NULL;
2638     /* This API is bad. It should have been using unsigned int for maxlen.
2639        Not sure if we want to change the API, but if not we should sanity
2640        check the value here.  */
2641     const unsigned int correct_length
2642         = maxlen < 0 ?
2643 #ifdef PERL_MICRO
2644         0x7FFFFFFF
2645 #else
2646         INT_MAX
2647 #endif
2648         : maxlen;
2649
2650     if (!PL_rsfp_filters)
2651         return -1;
2652     if (idx > AvFILLp(PL_rsfp_filters)) {       /* Any more filters?    */
2653         /* Provide a default input filter to make life easy.    */
2654         /* Note that we append to the line. This is handy.      */
2655         DEBUG_P(PerlIO_printf(Perl_debug_log,
2656                               "filter_read %d: from rsfp\n", idx));
2657         if (correct_length) {
2658             /* Want a block */
2659             int len ;
2660             const int old_len = SvCUR(buf_sv);
2661
2662             /* ensure buf_sv is large enough */
2663             SvGROW(buf_sv, (STRLEN)(old_len + correct_length)) ;
2664             if ((len = PerlIO_read(PL_rsfp, SvPVX(buf_sv) + old_len,
2665                                    correct_length)) <= 0) {
2666                 if (PerlIO_error(PL_rsfp))
2667                     return -1;          /* error */
2668                 else
2669                     return 0 ;          /* end of file */
2670             }
2671             SvCUR_set(buf_sv, old_len + len) ;
2672         } else {
2673             /* Want a line */
2674             if (sv_gets(buf_sv, PL_rsfp, SvCUR(buf_sv)) == NULL) {
2675                 if (PerlIO_error(PL_rsfp))
2676                     return -1;          /* error */
2677                 else
2678                     return 0 ;          /* end of file */
2679             }
2680         }
2681         return SvCUR(buf_sv);
2682     }
2683     /* Skip this filter slot if filter has been deleted */
2684     if ( (datasv = FILTER_DATA(idx)) == &PL_sv_undef) {
2685         DEBUG_P(PerlIO_printf(Perl_debug_log,
2686                               "filter_read %d: skipped (filter deleted)\n",
2687                               idx));
2688         return FILTER_READ(idx+1, buf_sv, correct_length); /* recurse */
2689     }
2690     /* Get function pointer hidden within datasv        */
2691     funcp = DPTR2FPTR(filter_t, IoANY(datasv));
2692     DEBUG_P(PerlIO_printf(Perl_debug_log,
2693                           "filter_read %d: via function %p (%s)\n",
2694                           idx, (void*)datasv, SvPV_nolen_const(datasv)));
2695     /* Call function. The function is expected to       */
2696     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
2697     /* Return: <0:error, =0:eof, >0:not eof             */
2698     return (*funcp)(aTHX_ idx, buf_sv, correct_length);
2699 }
2700
2701 STATIC char *
2702 S_filter_gets(pTHX_ register SV *sv, register PerlIO *fp, STRLEN append)
2703 {
2704     dVAR;
2705 #ifdef PERL_CR_FILTER
2706     if (!PL_rsfp_filters) {
2707         filter_add(S_cr_textfilter,NULL);
2708     }
2709 #endif
2710     if (PL_rsfp_filters) {
2711         if (!append)
2712             SvCUR_set(sv, 0);   /* start with empty line        */
2713         if (FILTER_READ(0, sv, 0) > 0)
2714             return ( SvPVX(sv) ) ;
2715         else
2716             return NULL ;
2717     }
2718     else
2719         return (sv_gets(sv, fp, append));
2720 }
2721
2722 STATIC HV *
2723 S_find_in_my_stash(pTHX_ const char *pkgname, I32 len)
2724 {
2725     dVAR;
2726     GV *gv;
2727
2728     if (len == 11 && *pkgname == '_' && strEQ(pkgname, "__PACKAGE__"))
2729         return PL_curstash;
2730
2731     if (len > 2 &&
2732         (pkgname[len - 2] == ':' && pkgname[len - 1] == ':') &&
2733         (gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVHV)))
2734     {
2735         return GvHV(gv);                        /* Foo:: */
2736     }
2737
2738     /* use constant CLASS => 'MyClass' */
2739     if ((gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVCV))) {
2740         SV *sv;
2741         if (GvCV(gv) && (sv = cv_const_sv(GvCV(gv)))) {
2742             pkgname = SvPV_nolen_const(sv);
2743         }
2744     }
2745
2746     return gv_stashpv(pkgname, FALSE);
2747 }
2748
2749 #ifdef PERL_MAD
2750  /*
2751  * Perl_madlex
2752  * The intent of this yylex wrapper is to minimize the changes to the
2753  * tokener when we aren't interested in collecting madprops.  It remains
2754  * to be seen how successful this strategy will be...
2755  */
2756
2757 int
2758 Perl_madlex(pTHX)
2759 {
2760     int optype;
2761     char *s = PL_bufptr;
2762
2763     /* make sure PL_thiswhite is initialized */
2764     PL_thiswhite = 0;
2765     PL_thismad = 0;
2766
2767     /* just do what yylex would do on pending identifier; leave PL_thiswhite alone */
2768     if (PL_pending_ident)
2769         return S_pending_ident(aTHX);
2770
2771     /* previous token ate up our whitespace? */
2772     if (!PL_lasttoke && PL_nextwhite) {
2773         PL_thiswhite = PL_nextwhite;
2774         PL_nextwhite = 0;
2775     }
2776
2777     /* isolate the token, and figure out where it is without whitespace */
2778     PL_realtokenstart = -1;
2779     PL_thistoken = 0;
2780     optype = yylex();
2781     s = PL_bufptr;
2782     assert(PL_curforce < 0);
2783
2784     if (!PL_thismad || PL_thismad->mad_key == '^') {    /* not forced already? */
2785         if (!PL_thistoken) {
2786             if (PL_realtokenstart < 0 || !CopLINE(PL_curcop))
2787                 PL_thistoken = newSVpvn("",0);
2788             else {
2789                 char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
2790                 PL_thistoken = newSVpvn(tstart, s - tstart);
2791             }
2792         }
2793         if (PL_thismad) /* install head */
2794             CURMAD('X', PL_thistoken);
2795     }
2796
2797     /* last whitespace of a sublex? */
2798     if (optype == ')' && PL_endwhite) {
2799         CURMAD('X', PL_endwhite);
2800     }
2801
2802     if (!PL_thismad) {
2803
2804         /* if no whitespace and we're at EOF, bail.  Otherwise fake EOF below. */
2805         if (!PL_thiswhite && !PL_endwhite && !optype) {
2806             sv_free(PL_thistoken);
2807             PL_thistoken = 0;
2808             return 0;
2809         }
2810
2811         /* put off final whitespace till peg */
2812         if (optype == ';' && !PL_rsfp) {
2813             PL_nextwhite = PL_thiswhite;
2814             PL_thiswhite = 0;
2815         }
2816         else if (PL_thisopen) {
2817             CURMAD('q', PL_thisopen);
2818             if (PL_thistoken)
2819                 sv_free(PL_thistoken);
2820             PL_thistoken = 0;
2821         }
2822         else {
2823             /* Store actual token text as madprop X */
2824             CURMAD('X', PL_thistoken);
2825         }
2826
2827         if (PL_thiswhite) {
2828             /* add preceding whitespace as madprop _ */
2829             CURMAD('_', PL_thiswhite);
2830         }
2831
2832         if (PL_thisstuff) {
2833             /* add quoted material as madprop = */
2834             CURMAD('=', PL_thisstuff);
2835         }
2836
2837         if (PL_thisclose) {
2838             /* add terminating quote as madprop Q */
2839             CURMAD('Q', PL_thisclose);
2840         }
2841     }
2842
2843     /* special processing based on optype */
2844
2845     switch (optype) {
2846
2847     /* opval doesn't need a TOKEN since it can already store mp */
2848     case WORD:
2849     case METHOD:
2850     case FUNCMETH:
2851     case THING:
2852     case PMFUNC:
2853     case PRIVATEREF:
2854     case FUNC0SUB:
2855     case UNIOPSUB:
2856     case LSTOPSUB:
2857         if (yylval.opval)
2858             append_madprops(PL_thismad, yylval.opval, 0);
2859         PL_thismad = 0;
2860         return optype;
2861
2862     /* fake EOF */
2863     case 0:
2864         optype = PEG;
2865         if (PL_endwhite) {
2866             addmad(newMADsv('p', PL_endwhite), &PL_thismad, 0);
2867             PL_endwhite = 0;
2868         }
2869         break;
2870
2871     case ']':
2872     case '}':
2873         if (PL_faketokens)
2874             break;
2875         /* remember any fake bracket that lexer is about to discard */
2876         if (PL_lex_brackets == 1 &&
2877             ((expectation)PL_lex_brackstack[0] & XFAKEBRACK))
2878         {
2879             s = PL_bufptr;
2880             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
2881                 s++;
2882             if (*s == '}') {
2883                 PL_thiswhite = newSVpvn(PL_bufptr, ++s - PL_bufptr);
2884                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
2885                 PL_thiswhite = 0;
2886                 PL_bufptr = s - 1;
2887                 break;  /* don't bother looking for trailing comment */
2888             }
2889             else
2890                 s = PL_bufptr;
2891         }
2892         if (optype == ']')
2893             break;
2894         /* FALLTHROUGH */
2895
2896     /* attach a trailing comment to its statement instead of next token */
2897     case ';':
2898         if (PL_faketokens)
2899             break;
2900         if (PL_bufptr > PL_oldbufptr && PL_bufptr[-1] == optype) {
2901             s = PL_bufptr;
2902             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
2903                 s++;
2904             if (*s == '\n' || *s == '#') {
2905                 while (s < PL_bufend && *s != '\n')
2906                     s++;
2907                 if (s < PL_bufend)
2908                     s++;
2909                 PL_thiswhite = newSVpvn(PL_bufptr, s - PL_bufptr);
2910                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
2911                 PL_thiswhite = 0;
2912                 PL_bufptr = s;
2913             }
2914         }
2915         break;
2916
2917     /* pval */
2918     case LABEL:
2919         break;
2920
2921     /* ival */
2922     default:
2923         break;
2924
2925     }
2926
2927     /* Create new token struct.  Note: opvals return early above. */
2928     yylval.tkval = newTOKEN(optype, yylval, PL_thismad);
2929     PL_thismad = 0;
2930     return optype;
2931 }
2932 #endif
2933
2934 STATIC char *
2935 S_tokenize_use(pTHX_ int is_use, char *s) {
2936     dVAR;
2937     if (PL_expect != XSTATE)
2938         yyerror(Perl_form(aTHX_ "\"%s\" not allowed in expression",
2939                     is_use ? "use" : "no"));
2940     s = SKIPSPACE1(s);
2941     if (isDIGIT(*s) || (*s == 'v' && isDIGIT(s[1]))) {
2942         s = force_version(s, TRUE);
2943         if (*s == ';' || (s = SKIPSPACE1(s), *s == ';')) {
2944             start_force(PL_curforce);
2945             NEXTVAL_NEXTTOKE.opval = NULL;
2946             force_next(WORD);
2947         }
2948         else if (*s == 'v') {
2949             s = force_word(s,WORD,FALSE,TRUE,FALSE);
2950             s = force_version(s, FALSE);
2951         }
2952     }
2953     else {
2954         s = force_word(s,WORD,FALSE,TRUE,FALSE);
2955         s = force_version(s, FALSE);
2956     }
2957     yylval.ival = is_use;
2958     return s;
2959 }
2960 #ifdef DEBUGGING
2961     static const char* const exp_name[] =
2962         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "ATTRBLOCK",
2963           "ATTRTERM", "TERMBLOCK", "TERMORDORDOR"
2964         };
2965 #endif
2966
2967 /*
2968   yylex
2969
2970   Works out what to call the token just pulled out of the input
2971   stream.  The yacc parser takes care of taking the ops we return and
2972   stitching them into a tree.
2973
2974   Returns:
2975     PRIVATEREF
2976
2977   Structure:
2978       if read an identifier
2979           if we're in a my declaration
2980               croak if they tried to say my($foo::bar)
2981               build the ops for a my() declaration
2982           if it's an access to a my() variable
2983               are we in a sort block?
2984                   croak if my($a); $a <=> $b
2985               build ops for access to a my() variable
2986           if in a dq string, and they've said @foo and we can't find @foo
2987               croak
2988           build ops for a bareword
2989       if we already built the token before, use it.
2990 */
2991
2992
2993 #ifdef __SC__
2994 #pragma segment Perl_yylex
2995 #endif
2996 int
2997 Perl_yylex(pTHX)
2998 {
2999     dVAR;
3000     register char *s = PL_bufptr;
3001     register char *d;
3002     STRLEN len;
3003     bool bof = FALSE;
3004
3005     DEBUG_T( {
3006         SV* tmp = newSVpvs("");
3007         PerlIO_printf(Perl_debug_log, "### %"IVdf":LEX_%s/X%s %s\n",
3008             (IV)CopLINE(PL_curcop),
3009             lex_state_names[PL_lex_state],
3010             exp_name[PL_expect],
3011             pv_display(tmp, s, strlen(s), 0, 60));
3012         SvREFCNT_dec(tmp);
3013     } );
3014     /* check if there's an identifier for us to look at */
3015     if (PL_pending_ident)
3016         return REPORT(S_pending_ident(aTHX));
3017
3018     /* no identifier pending identification */
3019
3020     switch (PL_lex_state) {
3021 #ifdef COMMENTARY
3022     case LEX_NORMAL:            /* Some compilers will produce faster */
3023     case LEX_INTERPNORMAL:      /* code if we comment these out. */
3024         break;
3025 #endif
3026
3027     /* when we've already built the next token, just pull it out of the queue */
3028     case LEX_KNOWNEXT:
3029 #ifdef PERL_MAD
3030         PL_lasttoke--;
3031         yylval = PL_nexttoke[PL_lasttoke].next_val;
3032         if (PL_madskills) {
3033             PL_thismad = PL_nexttoke[PL_lasttoke].next_mad;
3034             PL_nexttoke[PL_lasttoke].next_mad = 0;
3035             if (PL_thismad && PL_thismad->mad_key == '_') {
3036                 PL_thiswhite = (SV*)PL_thismad->mad_val;
3037                 PL_thismad->mad_val = 0;
3038                 mad_free(PL_thismad);
3039                 PL_thismad = 0;
3040             }
3041         }
3042         if (!PL_lasttoke) {
3043             PL_lex_state = PL_lex_defer;
3044             PL_expect = PL_lex_expect;
3045             PL_lex_defer = LEX_NORMAL;
3046             if (!PL_nexttoke[PL_lasttoke].next_type)
3047                 return yylex();
3048         }
3049 #else
3050         PL_nexttoke--;
3051         yylval = PL_nextval[PL_nexttoke];
3052         if (!PL_nexttoke) {
3053             PL_lex_state = PL_lex_defer;
3054             PL_expect = PL_lex_expect;
3055             PL_lex_defer = LEX_NORMAL;
3056         }
3057 #endif
3058 #ifdef PERL_MAD
3059         /* FIXME - can these be merged?  */
3060         return(PL_nexttoke[PL_lasttoke].next_type);
3061 #else
3062         return REPORT(PL_nexttype[PL_nexttoke]);
3063 #endif
3064
3065     /* interpolated case modifiers like \L \U, including \Q and \E.
3066        when we get here, PL_bufptr is at the \
3067     */
3068     case LEX_INTERPCASEMOD:
3069 #ifdef DEBUGGING
3070         if (PL_bufptr != PL_bufend && *PL_bufptr != '\\')
3071             Perl_croak(aTHX_ "panic: INTERPCASEMOD");
3072 #endif
3073         /* handle \E or end of string */
3074         if (PL_bufptr == PL_bufend || PL_bufptr[1] == 'E') {
3075             /* if at a \E */
3076             if (PL_lex_casemods) {
3077                 const char oldmod = PL_lex_casestack[--PL_lex_casemods];
3078                 PL_lex_casestack[PL_lex_casemods] = '\0';
3079
3080                 if (PL_bufptr != PL_bufend
3081                     && (oldmod == 'L' || oldmod == 'U' || oldmod == 'Q')) {
3082                     PL_bufptr += 2;
3083                     PL_lex_state = LEX_INTERPCONCAT;
3084 #ifdef PERL_MAD
3085                     if (PL_madskills)
3086                         PL_thistoken = newSVpvn("\\E",2);
3087 #endif
3088                 }
3089                 return REPORT(')');
3090             }
3091 #ifdef PERL_MAD
3092             while (PL_bufptr != PL_bufend &&
3093               PL_bufptr[0] == '\\' && PL_bufptr[1] == 'E') {
3094                 if (!PL_thiswhite)
3095                     PL_thiswhite = newSVpvn("",0);
3096                 sv_catpvn(PL_thiswhite, PL_bufptr, 2);
3097                 PL_bufptr += 2;
3098             }
3099 #else
3100             if (PL_bufptr != PL_bufend)
3101                 PL_bufptr += 2;
3102 #endif
3103             PL_lex_state = LEX_INTERPCONCAT;
3104             return yylex();
3105         }
3106         else {
3107             DEBUG_T({ PerlIO_printf(Perl_debug_log,
3108               "### Saw case modifier\n"); });
3109             s = PL_bufptr + 1;
3110             if (s[1] == '\\' && s[2] == 'E') {
3111 #ifdef PERL_MAD
3112                 if (!PL_thiswhite)
3113                     PL_thiswhite = newSVpvn("",0);
3114                 sv_catpvn(PL_thiswhite, PL_bufptr, 4);
3115 #endif
3116                 PL_bufptr = s + 3;
3117                 PL_lex_state = LEX_INTERPCONCAT;
3118                 return yylex();
3119             }
3120             else {
3121                 I32 tmp;
3122                 if (!PL_madskills) /* when just compiling don't need correct */
3123                     if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
3124                         tmp = *s, *s = s[2], s[2] = (char)tmp;  /* misordered... */
3125                 if ((*s == 'L' || *s == 'U') &&
3126                     (strchr(PL_lex_casestack, 'L') || strchr(PL_lex_casestack, 'U'))) {
3127                     PL_lex_casestack[--PL_lex_casemods] = '\0';
3128                     return REPORT(')');
3129                 }
3130                 if (PL_lex_casemods > 10)
3131                     Renew(PL_lex_casestack, PL_lex_casemods + 2, char);
3132                 PL_lex_casestack[PL_lex_casemods++] = *s;
3133                 PL_lex_casestack[PL_lex_casemods] = '\0';
3134                 PL_lex_state = LEX_INTERPCONCAT;
3135                 start_force(PL_curforce);
3136                 NEXTVAL_NEXTTOKE.ival = 0;
3137                 force_next('(');
3138                 start_force(PL_curforce);
3139                 if (*s == 'l')
3140                     NEXTVAL_NEXTTOKE.ival = OP_LCFIRST;
3141                 else if (*s == 'u')
3142                     NEXTVAL_NEXTTOKE.ival = OP_UCFIRST;
3143                 else if (*s == 'L')
3144                     NEXTVAL_NEXTTOKE.ival = OP_LC;
3145                 else if (*s == 'U')
3146                     NEXTVAL_NEXTTOKE.ival = OP_UC;
3147                 else if (*s == 'Q')
3148                     NEXTVAL_NEXTTOKE.ival = OP_QUOTEMETA;
3149                 else
3150                     Perl_croak(aTHX_ "panic: yylex");
3151                 if (PL_madskills) {
3152                     SV* const tmpsv = newSVpvn("",0);
3153                     Perl_sv_catpvf(aTHX_ tmpsv, "\\%c", *s);
3154                     curmad('_', tmpsv);
3155                 }
3156                 PL_bufptr = s + 1;
3157             }
3158             force_next(FUNC);
3159             if (PL_lex_starts) {
3160                 s = PL_bufptr;
3161                 PL_lex_starts = 0;
3162 #ifdef PERL_MAD
3163                 if (PL_madskills) {
3164                     if (PL_thistoken)
3165                         sv_free(PL_thistoken);
3166                     PL_thistoken = newSVpvn("",0);
3167                 }
3168 #endif
3169                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3170                 if (PL_lex_casemods == 1 && PL_lex_inpat)
3171                     OPERATOR(',');
3172                 else
3173                     Aop(OP_CONCAT);
3174             }
3175             else
3176                 return yylex();
3177         }
3178
3179     case LEX_INTERPPUSH:
3180         return REPORT(sublex_push());
3181
3182     case LEX_INTERPSTART:
3183         if (PL_bufptr == PL_bufend)
3184             return REPORT(sublex_done());
3185         DEBUG_T({ PerlIO_printf(Perl_debug_log,
3186               "### Interpolated variable\n"); });
3187         PL_expect = XTERM;
3188         PL_lex_dojoin = (*PL_bufptr == '@');
3189         PL_lex_state = LEX_INTERPNORMAL;
3190         if (PL_lex_dojoin) {
3191             start_force(PL_curforce);
3192             NEXTVAL_NEXTTOKE.ival = 0;
3193             force_next(',');
3194             start_force(PL_curforce);
3195             force_ident("\"", '$');
3196             start_force(PL_curforce);
3197             NEXTVAL_NEXTTOKE.ival = 0;
3198             force_next('$');
3199             start_force(PL_curforce);
3200             NEXTVAL_NEXTTOKE.ival = 0;
3201             force_next('(');
3202             start_force(PL_curforce);
3203             NEXTVAL_NEXTTOKE.ival = OP_JOIN;    /* emulate join($", ...) */
3204             force_next(FUNC);
3205         }
3206         if (PL_lex_starts++) {
3207             s = PL_bufptr;
3208 #ifdef PERL_MAD
3209             if (PL_madskills) {
3210                 if (PL_thistoken)
3211                     sv_free(PL_thistoken);
3212                 PL_thistoken = newSVpvn("",0);
3213             }
3214 #endif
3215             /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3216             if (!PL_lex_casemods && PL_lex_inpat)
3217                 OPERATOR(',');
3218             else
3219                 Aop(OP_CONCAT);
3220         }
3221         return yylex();
3222
3223     case LEX_INTERPENDMAYBE:
3224         if (intuit_more(PL_bufptr)) {
3225             PL_lex_state = LEX_INTERPNORMAL;    /* false alarm, more expr */
3226             break;
3227         }
3228         /* FALL THROUGH */
3229
3230     case LEX_INTERPEND:
3231         if (PL_lex_dojoin) {
3232             PL_lex_dojoin = FALSE;
3233             PL_lex_state = LEX_INTERPCONCAT;
3234 #ifdef PERL_MAD
3235             if (PL_madskills) {
3236                 if (PL_thistoken)
3237                     sv_free(PL_thistoken);
3238                 PL_thistoken = newSVpvn("",0);
3239             }
3240 #endif
3241             return REPORT(')');
3242         }
3243         if (PL_lex_inwhat == OP_SUBST && PL_linestr == PL_lex_repl
3244             && SvEVALED(PL_lex_repl))
3245         {
3246             if (PL_bufptr != PL_bufend)
3247                 Perl_croak(aTHX_ "Bad evalled substitution pattern");
3248             PL_lex_repl = NULL;
3249         }
3250         /* FALLTHROUGH */
3251     case LEX_INTERPCONCAT:
3252 #ifdef DEBUGGING
3253         if (PL_lex_brackets)
3254             Perl_croak(aTHX_ "panic: INTERPCONCAT");
3255 #endif
3256         if (PL_bufptr == PL_bufend)
3257             return REPORT(sublex_done());
3258
3259         if (SvIVX(PL_linestr) == '\'') {
3260             SV *sv = newSVsv(PL_linestr);
3261             if (!PL_lex_inpat)
3262                 sv = tokeq(sv);
3263             else if ( PL_hints & HINT_NEW_RE )
3264                 sv = new_constant(NULL, 0, "qr", sv, sv, "q");
3265             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
3266             s = PL_bufend;
3267         }
3268         else {
3269             s = scan_const(PL_bufptr);
3270             if (*s == '\\')
3271                 PL_lex_state = LEX_INTERPCASEMOD;
3272             else
3273                 PL_lex_state = LEX_INTERPSTART;
3274         }
3275
3276         if (s != PL_bufptr) {
3277             start_force(PL_curforce);
3278             if (PL_madskills) {
3279                 curmad('X', newSVpvn(PL_bufptr,s-PL_bufptr));
3280             }
3281             NEXTVAL_NEXTTOKE = yylval;
3282             PL_expect = XTERM;
3283             force_next(THING);
3284             if (PL_lex_starts++) {
3285 #ifdef PERL_MAD
3286                 if (PL_madskills) {
3287                     if (PL_thistoken)
3288                         sv_free(PL_thistoken);
3289                     PL_thistoken = newSVpvn("",0);
3290                 }
3291 #endif
3292                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3293                 if (!PL_lex_casemods && PL_lex_inpat)
3294                     OPERATOR(',');
3295                 else
3296                     Aop(OP_CONCAT);
3297             }
3298             else {
3299                 PL_bufptr = s;
3300                 return yylex();
3301             }
3302         }
3303
3304         return yylex();
3305     case LEX_FORMLINE:
3306         PL_lex_state = LEX_NORMAL;
3307         s = scan_formline(PL_bufptr);
3308         if (!PL_lex_formbrack)
3309             goto rightbracket;
3310         OPERATOR(';');
3311     }
3312
3313     s = PL_bufptr;
3314     PL_oldoldbufptr = PL_oldbufptr;
3315     PL_oldbufptr = s;
3316
3317   retry:
3318 #ifdef PERL_MAD
3319     if (PL_thistoken) {
3320         sv_free(PL_thistoken);
3321         PL_thistoken = 0;
3322     }
3323     PL_realtokenstart = s - SvPVX(PL_linestr);  /* assume but undo on ws */
3324 #endif
3325     switch (*s) {
3326     default:
3327         if (isIDFIRST_lazy_if(s,UTF))
3328             goto keylookup;
3329         Perl_croak(aTHX_ "Unrecognized character \\x%02X", *s & 255);
3330     case 4:
3331     case 26:
3332         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
3333     case 0:
3334 #ifdef PERL_MAD
3335         if (PL_madskills)
3336             PL_faketokens = 0;
3337 #endif
3338         if (!PL_rsfp) {
3339             PL_last_uni = 0;
3340             PL_last_lop = 0;
3341             if (PL_lex_brackets) {
3342                 yyerror(PL_lex_formbrack
3343                     ? "Format not terminated"
3344                     : "Missing right curly or square bracket");
3345             }
3346             DEBUG_T( { PerlIO_printf(Perl_debug_log,
3347                         "### Tokener got EOF\n");
3348             } );
3349             TOKEN(0);
3350         }
3351         if (s++ < PL_bufend)
3352             goto retry;                 /* ignore stray nulls */
3353         PL_last_uni = 0;
3354         PL_last_lop = 0;
3355         if (!PL_in_eval && !PL_preambled) {
3356             PL_preambled = TRUE;
3357 #ifdef PERL_MAD
3358             if (PL_madskills)
3359                 PL_faketokens = 1;
3360 #endif
3361             sv_setpv(PL_linestr,incl_perldb());
3362             if (SvCUR(PL_linestr))
3363                 sv_catpvs(PL_linestr,";");
3364             if (PL_preambleav){
3365                 while(AvFILLp(PL_preambleav) >= 0) {
3366                     SV *tmpsv = av_shift(PL_preambleav);
3367                     sv_catsv(PL_linestr, tmpsv);
3368                     sv_catpvs(PL_linestr, ";");
3369                     sv_free(tmpsv);
3370                 }
3371                 sv_free((SV*)PL_preambleav);
3372                 PL_preambleav = NULL;
3373             }
3374             if (PL_minus_n || PL_minus_p) {
3375                 sv_catpvs(PL_linestr, "LINE: while (<>) {");
3376                 if (PL_minus_l)
3377                     sv_catpvs(PL_linestr,"chomp;");
3378                 if (PL_minus_a) {
3379                     if (PL_minus_F) {
3380                         if ((*PL_splitstr == '/' || *PL_splitstr == '\''
3381                              || *PL_splitstr == '"')
3382                               && strchr(PL_splitstr + 1, *PL_splitstr))
3383                             Perl_sv_catpvf(aTHX_ PL_linestr, "our @F=split(%s);", PL_splitstr);
3384                         else {
3385                             /* "q\0${splitstr}\0" is legal perl. Yes, even NUL
3386                                bytes can be used as quoting characters.  :-) */
3387                             const char *splits = PL_splitstr;
3388                             sv_catpvs(PL_linestr, "our @F=split(q\0");
3389                             do {
3390                                 /* Need to \ \s  */
3391                                 if (*splits == '\\')
3392                                     sv_catpvn(PL_linestr, splits, 1);
3393                                 sv_catpvn(PL_linestr, splits, 1);
3394                             } while (*splits++);
3395                             /* This loop will embed the trailing NUL of
3396                                PL_linestr as the last thing it does before
3397                                terminating.  */
3398                             sv_catpvs(PL_linestr, ");");
3399                         }
3400                     }
3401                     else
3402                         sv_catpvs(PL_linestr,"our @F=split(' ');");
3403                 }
3404             }
3405             if (PL_minus_E)
3406                 sv_catpvs(PL_linestr,"use feature ':5.10';");
3407             sv_catpvs(PL_linestr, "\n");
3408             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3409             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3410             PL_last_lop = PL_last_uni = NULL;
3411             if (PERLDB_LINE && PL_curstash != PL_debstash) {
3412                 SV * const sv = newSV(0);
3413
3414                 sv_upgrade(sv, SVt_PVMG);
3415                 sv_setsv(sv,PL_linestr);
3416                 (void)SvIOK_on(sv);
3417                 SvIV_set(sv, 0);
3418                 av_store(CopFILEAVx(PL_curcop),(I32)CopLINE(PL_curcop),sv);
3419             }
3420             goto retry;
3421         }
3422         do {
3423             bof = PL_rsfp ? TRUE : FALSE;
3424             if ((s = filter_gets(PL_linestr, PL_rsfp, 0)) == NULL) {
3425               fake_eof:
3426 #ifdef PERL_MAD
3427                 PL_realtokenstart = -1;
3428 #endif
3429                 if (PL_rsfp) {
3430                     if (PL_preprocess && !PL_in_eval)
3431                         (void)PerlProc_pclose(PL_rsfp);
3432                     else if ((PerlIO *)PL_rsfp == PerlIO_stdin())
3433                         PerlIO_clearerr(PL_rsfp);
3434                     else
3435                         (void)PerlIO_close(PL_rsfp);
3436                     PL_rsfp = NULL;
3437                     PL_doextract = FALSE;
3438                 }
3439                 if (!PL_in_eval && (PL_minus_n || PL_minus_p)) {
3440 #ifdef PERL_MAD
3441                     if (PL_madskills)
3442                         PL_faketokens = 1;
3443 #endif
3444                     sv_setpv(PL_linestr,PL_minus_p
3445                              ? ";}continue{print;}" : ";}");
3446                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3447                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3448                     PL_last_lop = PL_last_uni = NULL;
3449                     PL_minus_n = PL_minus_p = 0;
3450                     goto retry;
3451                 }
3452                 PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3453                 PL_last_lop = PL_last_uni = NULL;
3454                 sv_setpvn(PL_linestr,"",0);
3455                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
3456             }
3457             /* If it looks like the start of a BOM or raw UTF-16,
3458              * check if it in fact is. */
3459             else if (bof &&
3460                      (*s == 0 ||
3461                       *(U8*)s == 0xEF ||
3462                       *(U8*)s >= 0xFE ||
3463                       s[1] == 0)) {
3464 #ifdef PERLIO_IS_STDIO
3465 #  ifdef __GNU_LIBRARY__
3466 #    if __GNU_LIBRARY__ == 1 /* Linux glibc5 */
3467 #      define FTELL_FOR_PIPE_IS_BROKEN
3468 #    endif
3469 #  else
3470 #    ifdef __GLIBC__
3471 #      if __GLIBC__ == 1 /* maybe some glibc5 release had it like this? */
3472 #        define FTELL_FOR_PIPE_IS_BROKEN
3473 #      endif
3474 #    endif
3475 #  endif
3476 #endif
3477 #ifdef FTELL_FOR_PIPE_IS_BROKEN
3478                 /* This loses the possibility to detect the bof
3479                  * situation on perl -P when the libc5 is being used.
3480                  * Workaround?  Maybe attach some extra state to PL_rsfp?
3481                  */
3482                 if (!PL_preprocess)
3483                     bof = PerlIO_tell(PL_rsfp) == SvCUR(PL_linestr);
3484 #else
3485                 bof = PerlIO_tell(PL_rsfp) == (Off_t)SvCUR(PL_linestr);
3486 #endif
3487                 if (bof) {
3488                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3489                     s = swallow_bom((U8*)s);
3490                 }
3491             }
3492             if (PL_doextract) {
3493                 /* Incest with pod. */
3494 #ifdef PERL_MAD
3495                 if (PL_madskills)
3496                     sv_catsv(PL_thiswhite, PL_linestr);
3497 #endif
3498                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
3499                     sv_setpvn(PL_linestr, "", 0);
3500                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3501                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3502                     PL_last_lop = PL_last_uni = NULL;
3503                     PL_doextract = FALSE;
3504                 }
3505             }
3506             incline(s);
3507         } while (PL_doextract);
3508         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = s;
3509         if (PERLDB_LINE && PL_curstash != PL_debstash) {
3510             SV * const sv = newSV(0);
3511
3512             sv_upgrade(sv, SVt_PVMG);
3513             sv_setsv(sv,PL_linestr);
3514             (void)SvIOK_on(sv);
3515             SvIV_set(sv, 0);
3516             av_store(CopFILEAVx(PL_curcop),(I32)CopLINE(PL_curcop),sv);
3517         }
3518         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3519         PL_last_lop = PL_last_uni = NULL;
3520         if (CopLINE(PL_curcop) == 1) {
3521             while (s < PL_bufend && isSPACE(*s))
3522                 s++;
3523             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
3524                 s++;
3525 #ifdef PERL_MAD
3526             if (PL_madskills)
3527                 PL_thiswhite = newSVpvn(PL_linestart, s - PL_linestart);
3528 #endif
3529             d = NULL;
3530             if (!PL_in_eval) {
3531                 if (*s == '#' && *(s+1) == '!')
3532                     d = s + 2;
3533 #ifdef ALTERNATE_SHEBANG
3534                 else {
3535                     static char const as[] = ALTERNATE_SHEBANG;
3536                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
3537                         d = s + (sizeof(as) - 1);
3538                 }
3539 #endif /* ALTERNATE_SHEBANG */
3540             }
3541             if (d) {
3542                 char *ipath;
3543                 char *ipathend;
3544
3545                 while (isSPACE(*d))
3546                     d++;
3547                 ipath = d;
3548                 while (*d && !isSPACE(*d))
3549                     d++;
3550                 ipathend = d;
3551
3552 #ifdef ARG_ZERO_IS_SCRIPT
3553                 if (ipathend > ipath) {
3554                     /*
3555                      * HP-UX (at least) sets argv[0] to the script name,
3556                      * which makes $^X incorrect.  And Digital UNIX and Linux,
3557                      * at least, set argv[0] to the basename of the Perl
3558                      * interpreter. So, having found "#!", we'll set it right.
3559                      */
3560                     SV * const x = GvSV(gv_fetchpvs("\030", GV_ADD|GV_NOTQUAL,
3561                                                     SVt_PV)); /* $^X */
3562                     assert(SvPOK(x) || SvGMAGICAL(x));
3563                     if (sv_eq(x, CopFILESV(PL_curcop))) {
3564                         sv_setpvn(x, ipath, ipathend - ipath);
3565                         SvSETMAGIC(x);
3566                     }
3567                     else {
3568                         STRLEN blen;
3569                         STRLEN llen;
3570                         const char *bstart = SvPV_const(CopFILESV(PL_curcop),blen);
3571                         const char * const lstart = SvPV_const(x,llen);
3572                         if (llen < blen) {
3573                             bstart += blen - llen;
3574                             if (strnEQ(bstart, lstart, llen) && bstart[-1] == '/') {
3575                                 sv_setpvn(x, ipath, ipathend - ipath);
3576                                 SvSETMAGIC(x);
3577                             }
3578                         }
3579                     }
3580                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
3581                 }
3582 #endif /* ARG_ZERO_IS_SCRIPT */
3583
3584                 /*
3585                  * Look for options.
3586                  */
3587                 d = instr(s,"perl -");
3588                 if (!d) {
3589                     d = instr(s,"perl");
3590 #if defined(DOSISH)
3591                     /* avoid getting into infinite loops when shebang
3592                      * line contains "Perl" rather than "perl" */
3593                     if (!d) {
3594                         for (d = ipathend-4; d >= ipath; --d) {
3595                             if ((*d == 'p' || *d == 'P')
3596                                 && !ibcmp(d, "perl", 4))
3597                             {
3598                                 break;
3599                             }
3600                         }
3601                         if (d < ipath)
3602                             d = NULL;
3603                     }
3604 #endif
3605                 }
3606 #ifdef ALTERNATE_SHEBANG
3607                 /*
3608                  * If the ALTERNATE_SHEBANG on this system starts with a
3609                  * character that can be part of a Perl expression, then if
3610                  * we see it but not "perl", we're probably looking at the
3611                  * start of Perl code, not a request to hand off to some
3612                  * other interpreter.  Similarly, if "perl" is there, but
3613                  * not in the first 'word' of the line, we assume the line
3614                  * contains the start of the Perl program.
3615                  */
3616                 if (d && *s != '#') {
3617                     const char *c = ipath;
3618                     while (*c && !strchr("; \t\r\n\f\v#", *c))
3619                         c++;
3620                     if (c < d)
3621                         d = NULL;       /* "perl" not in first word; ignore */
3622                     else
3623                         *s = '#';       /* Don't try to parse shebang line */
3624                 }
3625 #endif /* ALTERNATE_SHEBANG */
3626 #ifndef MACOS_TRADITIONAL
3627                 if (!d &&
3628                     *s == '#' &&
3629                     ipathend > ipath &&
3630                     !PL_minus_c &&
3631                     !instr(s,"indir") &&
3632                     instr(PL_origargv[0],"perl"))
3633                 {
3634                     dVAR;
3635                     char **newargv;
3636
3637                     *ipathend = '\0';
3638                     s = ipathend + 1;
3639                     while (s < PL_bufend && isSPACE(*s))
3640                         s++;
3641                     if (s < PL_bufend) {
3642                         Newxz(newargv,PL_origargc+3,char*);
3643                         newargv[1] = s;
3644                         while (s < PL_bufend && !isSPACE(*s))
3645                             s++;
3646                         *s = '\0';
3647                         Copy(PL_origargv+1, newargv+2, PL_origargc+1, char*);
3648                     }
3649                     else
3650                         newargv = PL_origargv;
3651                     newargv[0] = ipath;
3652                     PERL_FPU_PRE_EXEC
3653                     PerlProc_execv(ipath, EXEC_ARGV_CAST(newargv));
3654                     PERL_FPU_POST_EXEC
3655                     Perl_croak(aTHX_ "Can't exec %s", ipath);
3656                 }
3657 #endif
3658                 if (d) {
3659                     while (*d && !isSPACE(*d)) d++;
3660                     while (SPACE_OR_TAB(*d)) d++;
3661
3662                     if (*d++ == '-') {
3663                         const bool switches_done = PL_doswitches;
3664                         const U32 oldpdb = PL_perldb;
3665                         const bool oldn = PL_minus_n;
3666                         const bool oldp = PL_minus_p;
3667
3668                         do {
3669                             if (*d == 'M' || *d == 'm' || *d == 'C') {
3670                                 const char * const m = d;
3671                                 while (*d && !isSPACE(*d))
3672                                     d++;
3673                                 Perl_croak(aTHX_ "Too late for \"-%.*s\" option",
3674                                       (int)(d - m), m);
3675                             }
3676                             d = moreswitches(d);
3677                         } while (d);
3678                         if (PL_doswitches && !switches_done) {
3679                             int argc = PL_origargc;
3680                             char **argv = PL_origargv;
3681                             do {
3682                                 argc--,argv++;
3683                             } while (argc && argv[0][0] == '-' && argv[0][1]);
3684                             init_argv_symbols(argc,argv);
3685                         }
3686                         if ((PERLDB_LINE && !oldpdb) ||
3687                             ((PL_minus_n || PL_minus_p) && !(oldn || oldp)))
3688                               /* if we have already added "LINE: while (<>) {",
3689                                  we must not do it again */
3690                         {
3691                             sv_setpvn(PL_linestr, "", 0);
3692                             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3693                             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3694                             PL_last_lop = PL_last_uni = NULL;
3695                             PL_preambled = FALSE;
3696                             if (PERLDB_LINE)
3697                                 (void)gv_fetchfile(PL_origfilename);
3698                             goto retry;
3699                         }
3700                     }
3701                 }
3702             }
3703         }
3704         if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
3705             PL_bufptr = s;
3706             PL_lex_state = LEX_FORMLINE;
3707             return yylex();
3708         }
3709         goto retry;
3710     case '\r':
3711 #ifdef PERL_STRICT_CR
3712         Perl_warn(aTHX_ "Illegal character \\%03o (carriage return)", '\r');
3713         Perl_croak(aTHX_
3714       "\t(Maybe you didn't strip carriage returns after a network transfer?)\n");
3715 #endif
3716     case ' ': case '\t': case '\f': case 013:
3717 #ifdef MACOS_TRADITIONAL
3718     case '\312':
3719 #endif
3720 #ifdef PERL_MAD
3721         PL_realtokenstart = -1;
3722         s = SKIPSPACE0(s);
3723 #else
3724         s++;
3725 #endif
3726         goto retry;
3727     case '#':
3728     case '\n':
3729 #ifdef PERL_MAD
3730         PL_realtokenstart = -1;
3731         if (PL_madskills)
3732             PL_faketokens = 0;
3733 #endif
3734         if (PL_lex_state != LEX_NORMAL || (PL_in_eval && !PL_rsfp)) {
3735             if (*s == '#' && s == PL_linestart && PL_in_eval && !PL_rsfp) {
3736                 /* handle eval qq[#line 1 "foo"\n ...] */
3737                 CopLINE_dec(PL_curcop);
3738                 incline(s);
3739             }
3740             if (PL_madskills && !PL_lex_formbrack && !PL_in_eval) {
3741                 s = SKIPSPACE0(s);
3742                 if (!PL_in_eval || PL_rsfp)
3743                     incline(s);
3744             }
3745             else {
3746                 d = s;
3747                 while (d < PL_bufend && *d != '\n')
3748                     d++;
3749                 if (d < PL_bufend)
3750                     d++;
3751                 else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
3752                   Perl_croak(aTHX_ "panic: input overflow");
3753 #ifdef PERL_MAD
3754                 if (PL_madskills)
3755                     PL_thiswhite = newSVpvn(s, d - s);
3756 #endif
3757                 s = d;
3758                 incline(s);
3759             }
3760             if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
3761                 PL_bufptr = s;
3762                 PL_lex_state = LEX_FORMLINE;
3763                 return yylex();
3764             }
3765         }
3766         else {
3767 #ifdef PERL_MAD
3768             if (PL_madskills && CopLINE(PL_curcop) >= 1 && !PL_lex_formbrack) {
3769                 if (CopLINE(PL_curcop) == 1 && s[0] == '#' && s[1] == '!') {
3770                     PL_faketokens = 0;
3771                     s = SKIPSPACE0(s);
3772                     TOKEN(PEG); /* make sure any #! line is accessible */
3773                 }
3774                 s = SKIPSPACE0(s);
3775             }
3776             else {
3777 /*              if (PL_madskills && PL_lex_formbrack) { */
3778                     d = s;
3779                     while (d < PL_bufend && *d != '\n')
3780                         d++;
3781                     if (d < PL_bufend)
3782                         d++;
3783                     else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
3784                       Perl_croak(aTHX_ "panic: input overflow");
3785                     if (PL_madskills && CopLINE(PL_curcop) >= 1) {
3786                         if (!PL_thiswhite)
3787                             PL_thiswhite = newSVpvn("",0);
3788                         if (CopLINE(PL_curcop) == 1) {
3789                             sv_setpvn(PL_thiswhite, "", 0);
3790                             PL_faketokens = 0;
3791                         }
3792                         sv_catpvn(PL_thiswhite, s, d - s);
3793                     }
3794                     s = d;
3795 /*              }
3796                 *s = '\0';
3797                 PL_bufend = s; */
3798             }
3799 #else
3800             *s = '\0';
3801             PL_bufend = s;
3802 #endif
3803         }
3804         goto retry;
3805     case '-':
3806         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
3807             I32 ftst = 0;
3808             char tmp;
3809
3810             s++;
3811             PL_bufptr = s;
3812             tmp = *s++;
3813
3814             while (s < PL_bufend && SPACE_OR_TAB(*s))
3815                 s++;
3816
3817             if (strnEQ(s,"=>",2)) {
3818                 s = force_word(PL_bufptr,WORD,FALSE,FALSE,FALSE);
3819                 DEBUG_T( { printbuf("### Saw unary minus before =>, forcing word %s\n", s); } );
3820                 OPERATOR('-');          /* unary minus */
3821             }
3822             PL_last_uni = PL_oldbufptr;
3823             switch (tmp) {
3824             case 'r': ftst = OP_FTEREAD;        break;
3825             case 'w': ftst = OP_FTEWRITE;       break;
3826             case 'x': ftst = OP_FTEEXEC;        break;
3827             case 'o': ftst = OP_FTEOWNED;       break;
3828             case 'R': ftst = OP_FTRREAD;        break;
3829             case 'W': ftst = OP_FTRWRITE;       break;
3830             case 'X': ftst = OP_FTREXEC;        break;
3831             case 'O': ftst = OP_FTROWNED;       break;
3832             case 'e': ftst = OP_FTIS;           break;
3833             case 'z': ftst = OP_FTZERO;         break;
3834             case 's': ftst = OP_FTSIZE;         break;
3835             case 'f': ftst = OP_FTFILE;         break;
3836             case 'd': ftst = OP_FTDIR;          break;
3837             case 'l': ftst = OP_FTLINK;         break;
3838             case 'p': ftst = OP_FTPIPE;         break;
3839             case 'S': ftst = OP_FTSOCK;         break;
3840             case 'u': ftst = OP_FTSUID;         break;
3841             case 'g': ftst = OP_FTSGID;         break;
3842             case 'k': ftst = OP_FTSVTX;         break;
3843             case 'b': ftst = OP_FTBLK;          break;
3844             case 'c': ftst = OP_FTCHR;          break;
3845             case 't': ftst = OP_FTTTY;          break;
3846             case 'T': ftst = OP_FTTEXT;         break;
3847             case 'B': ftst = OP_FTBINARY;       break;
3848             case 'M': case 'A': case 'C':
3849                 gv_fetchpvs("\024", GV_ADD|GV_NOTQUAL, SVt_PV);
3850                 switch (tmp) {
3851                 case 'M': ftst = OP_FTMTIME;    break;
3852                 case 'A': ftst = OP_FTATIME;    break;
3853                 case 'C': ftst = OP_FTCTIME;    break;
3854                 default:                        break;
3855                 }
3856                 break;
3857             default:
3858                 break;
3859             }
3860             if (ftst) {
3861                 PL_last_lop_op = (OPCODE)ftst;
3862                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
3863                         "### Saw file test %c\n", (int)tmp);
3864                 } );
3865                 FTST(ftst);
3866             }
3867             else {
3868                 /* Assume it was a minus followed by a one-letter named
3869                  * subroutine call (or a -bareword), then. */
3870                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
3871                         "### '-%c' looked like a file test but was not\n",
3872                         (int) tmp);
3873                 } );
3874                 s = --PL_bufptr;
3875             }
3876         }
3877         {
3878             const char tmp = *s++;
3879             if (*s == tmp) {
3880                 s++;
3881                 if (PL_expect == XOPERATOR)
3882                     TERM(POSTDEC);
3883                 else
3884                     OPERATOR(PREDEC);
3885             }
3886             else if (*s == '>') {
3887                 s++;
3888                 s = SKIPSPACE1(s);
3889                 if (isIDFIRST_lazy_if(s,UTF)) {
3890                     s = force_word(s,METHOD,FALSE,TRUE,FALSE);
3891                     TOKEN(ARROW);
3892                 }
3893                 else if (*s == '$')
3894                     OPERATOR(ARROW);
3895                 else
3896                     TERM(ARROW);
3897             }
3898             if (PL_expect == XOPERATOR)
3899                 Aop(OP_SUBTRACT);
3900             else {
3901                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
3902                     check_uni();
3903                 OPERATOR('-');          /* unary minus */
3904             }
3905         }
3906
3907     case '+':
3908         {
3909             const char tmp = *s++;
3910             if (*s == tmp) {
3911                 s++;
3912                 if (PL_expect == XOPERATOR)
3913                     TERM(POSTINC);
3914                 else
3915                     OPERATOR(PREINC);
3916             }
3917             if (PL_expect == XOPERATOR)
3918                 Aop(OP_ADD);
3919             else {
3920                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
3921                     check_uni();
3922                 OPERATOR('+');
3923             }
3924         }
3925
3926     case '*':
3927         if (PL_expect != XOPERATOR) {
3928             s = scan_ident(s, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
3929             PL_expect = XOPERATOR;
3930             force_ident(PL_tokenbuf, '*');
3931             if (!*PL_tokenbuf)
3932                 PREREF('*');
3933             TERM('*');
3934         }
3935         s++;
3936         if (*s == '*') {
3937             s++;
3938             PWop(OP_POW);
3939         }
3940         Mop(OP_MULTIPLY);
3941
3942     case '%':
3943         if (PL_expect == XOPERATOR) {
3944             ++s;
3945             Mop(OP_MODULO);
3946         }
3947         PL_tokenbuf[0] = '%';
3948         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1, TRUE);
3949         if (!PL_tokenbuf[1]) {
3950             PREREF('%');
3951         }
3952         PL_pending_ident = '%';
3953         TERM('%');
3954
3955     case '^':
3956         s++;
3957         BOop(OP_BIT_XOR);
3958     case '[':
3959         PL_lex_brackets++;
3960         /* FALL THROUGH */
3961     case '~':
3962         if (s[1] == '~'
3963         && (PL_expect == XOPERATOR || PL_expect == XTERMORDORDOR)
3964         && FEATURE_IS_ENABLED("~~"))
3965         {
3966             s += 2;
3967             Eop(OP_SMARTMATCH);
3968         }
3969     case ',':
3970         {
3971             const char tmp = *s++;
3972             OPERATOR(tmp);
3973         }
3974     case ':':
3975         if (s[1] == ':') {
3976             len = 0;
3977             goto just_a_word_zero_gv;
3978         }
3979         s++;
3980         switch (PL_expect) {
3981             OP *attrs;
3982 #ifdef PERL_MAD
3983             I32 stuffstart;
3984 #endif
3985         case XOPERATOR:
3986             if (!PL_in_my || PL_lex_state != LEX_NORMAL)
3987                 break;
3988             PL_bufptr = s;      /* update in case we back off */
3989             goto grabattrs;
3990         case XATTRBLOCK:
3991             PL_expect = XBLOCK;
3992             goto grabattrs;
3993         case XATTRTERM:
3994             PL_expect = XTERMBLOCK;
3995          grabattrs:
3996 #ifdef PERL_MAD
3997             stuffstart = s - SvPVX(PL_linestr) - 1;
3998 #endif
3999             s = PEEKSPACE(s);
4000             attrs = NULL;
4001             while (isIDFIRST_lazy_if(s,UTF)) {
4002                 I32 tmp;
4003                 SV *sv;
4004                 d = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
4005                 if (isLOWER(*s) && (tmp = keyword(PL_tokenbuf, len))) {
4006                     if (tmp < 0) tmp = -tmp;
4007                     switch (tmp) {
4008                     case KEY_or:
4009                     case KEY_and:
4010                     case KEY_err:
4011                     case KEY_for:
4012                     case KEY_unless:
4013                     case KEY_if:
4014                     case KEY_while:
4015                     case KEY_until:
4016                         goto got_attrs;
4017                     default:
4018                         break;
4019                     }
4020                 }
4021                 sv = newSVpvn(s, len);
4022                 if (*d == '(') {
4023                     d = scan_str(d,TRUE,TRUE);
4024                     if (!d) {
4025                         /* MUST advance bufptr here to avoid bogus
4026                            "at end of line" context messages from yyerror().
4027                          */
4028                         PL_bufptr = s + len;
4029                         yyerror("Unterminated attribute parameter in attribute list");
4030                         if (attrs)
4031                             op_free(attrs);
4032                         sv_free(sv);
4033                         return REPORT(0);       /* EOF indicator */
4034                     }
4035                 }
4036                 if (PL_lex_stuff) {
4037                     sv_catsv(sv, PL_lex_stuff);
4038                     attrs = append_elem(OP_LIST, attrs,
4039                                         newSVOP(OP_CONST, 0, sv));
4040                     SvREFCNT_dec(PL_lex_stuff);
4041                     PL_lex_stuff = NULL;
4042                 }
4043                 else {
4044                     if (len == 6 && strnEQ(SvPVX(sv), "unique", len)) {
4045                         sv_free(sv);
4046                         if (PL_in_my == KEY_our) {
4047 #ifdef USE_ITHREADS
4048                             GvUNIQUE_on(cGVOPx_gv(yylval.opval));
4049 #else
4050                             /* skip to avoid loading attributes.pm */
4051 #endif
4052                             deprecate(":unique");
4053                         }
4054                         else
4055                             Perl_croak(aTHX_ "The 'unique' attribute may only be applied to 'our' variables");
4056                     }
4057
4058                     /* NOTE: any CV attrs applied here need to be part of
4059                        the CVf_BUILTIN_ATTRS define in cv.h! */
4060                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "lvalue", len)) {
4061                         sv_free(sv);
4062                         CvLVALUE_on(PL_compcv);
4063                     }
4064                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "locked", len)) {
4065                         sv_free(sv);
4066                         CvLOCKED_on(PL_compcv);
4067                     }
4068                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "method", len)) {
4069                         sv_free(sv);
4070                         CvMETHOD_on(PL_compcv);
4071                     }
4072                     else if (!PL_in_my && len == 9 && strnEQ(SvPVX(sv), "assertion", len)) {
4073                         sv_free(sv);
4074                         CvASSERTION_on(PL_compcv);
4075                     }
4076                     /* After we've set the flags, it could be argued that
4077                        we don't need to do the attributes.pm-based setting
4078                        process, and shouldn't bother appending recognized
4079                        flags.  To experiment with that, uncomment the
4080                        following "else".  (Note that's already been
4081                        uncommented.  That keeps the above-applied built-in
4082                        attributes from being intercepted (and possibly
4083                        rejected) by a package's attribute routines, but is
4084                        justified by the performance win for the common case
4085                        of applying only built-in attributes.) */
4086                     else
4087                         attrs = append_elem(OP_LIST, attrs,
4088                                             newSVOP(OP_CONST, 0,
4089                                                     sv));
4090                 }
4091                 s = PEEKSPACE(d);
4092                 if (*s == ':' && s[1] != ':')
4093                     s = PEEKSPACE(s+1);
4094                 else if (s == d)
4095                     break;      /* require real whitespace or :'s */
4096                 /* XXX losing whitespace on sequential attributes here */
4097             }
4098             {
4099                 const char tmp
4100                     = (PL_expect == XOPERATOR ? '=' : '{'); /*'}(' for vi */
4101                 if (*s != ';' && *s != '}' && *s != tmp
4102                     && (tmp != '=' || *s != ')')) {
4103                     const char q = ((*s == '\'') ? '"' : '\'');
4104                     /* If here for an expression, and parsed no attrs, back
4105                        off. */
4106                     if (tmp == '=' && !attrs) {
4107                         s = PL_bufptr;
4108                         break;
4109                     }
4110                     /* MUST advance bufptr here to avoid bogus "at end of line"
4111                        context messages from yyerror().
4112                     */
4113                     PL_bufptr = s;
4114                     yyerror( *s
4115                              ? Perl_form(aTHX_ "Invalid separator character "
4116                                          "%c%c%c in attribute list", q, *s, q)
4117                              : "Unterminated attribute list" );
4118                     if (attrs)
4119                         op_free(attrs);
4120                     OPERATOR(':');
4121                 }
4122             }
4123         got_attrs:
4124             if (attrs) {
4125                 start_force(PL_curforce);
4126                 NEXTVAL_NEXTTOKE.opval = attrs;
4127                 CURMAD('_', PL_nextwhite);
4128                 force_next(THING);
4129             }
4130 #ifdef PERL_MAD
4131             if (PL_madskills) {
4132                 PL_thistoken = newSVpvn(SvPVX(PL_linestr) + stuffstart,
4133                                      (s - SvPVX(PL_linestr)) - stuffstart);
4134             }
4135 #endif
4136             TOKEN(COLONATTR);
4137         }
4138         OPERATOR(':');
4139     case '(':
4140         s++;
4141         if (PL_last_lop == PL_oldoldbufptr || PL_last_uni == PL_oldoldbufptr)
4142             PL_oldbufptr = PL_oldoldbufptr;             /* allow print(STDOUT 123) */
4143         else
4144             PL_expect = XTERM;
4145         s = SKIPSPACE1(s);
4146         TOKEN('(');
4147     case ';':
4148         CLINE;
4149         {
4150             const char tmp = *s++;
4151             OPERATOR(tmp);
4152         }
4153     case ')':
4154         {
4155             const char tmp = *s++;
4156             s = SKIPSPACE1(s);
4157             if (*s == '{')
4158                 PREBLOCK(tmp);
4159             TERM(tmp);
4160         }
4161     case ']':
4162         s++;
4163         if (PL_lex_brackets <= 0)
4164             yyerror("Unmatched right square bracket");
4165         else
4166             --PL_lex_brackets;
4167         if (PL_lex_state == LEX_INTERPNORMAL) {
4168             if (PL_lex_brackets == 0) {
4169                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
4170                     PL_lex_state = LEX_INTERPEND;
4171             }
4172         }
4173         TERM(']');
4174     case '{':
4175       leftbracket:
4176         s++;
4177         if (PL_lex_brackets > 100) {
4178             Renew(PL_lex_brackstack, PL_lex_brackets + 10, char);
4179         }
4180         switch (PL_expect) {
4181         case XTERM:
4182             if (PL_lex_formbrack) {
4183                 s--;
4184                 PRETERMBLOCK(DO);
4185             }
4186             if (PL_oldoldbufptr == PL_last_lop)
4187                 PL_lex_brackstack[PL_lex_brackets++] = XTERM;
4188             else
4189                 PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4190             OPERATOR(HASHBRACK);
4191         case XOPERATOR:
4192             while (s < PL_bufend && SPACE_OR_TAB(*s))
4193                 s++;
4194             d = s;
4195             PL_tokenbuf[0] = '\0';
4196             if (d < PL_bufend && *d == '-') {
4197                 PL_tokenbuf[0] = '-';
4198                 d++;
4199                 while (d < PL_bufend && SPACE_OR_TAB(*d))
4200                     d++;
4201             }
4202             if (d < PL_bufend && isIDFIRST_lazy_if(d,UTF)) {
4203                 d = scan_word(d, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1,
4204                               FALSE, &len);
4205                 while (d < PL_bufend && SPACE_OR_TAB(*d))
4206                     d++;
4207                 if (*d == '}') {
4208                     const char minus = (PL_tokenbuf[0] == '-');
4209                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
4210                     if (minus)
4211                         force_next('-');
4212                 }
4213             }
4214             /* FALL THROUGH */
4215         case XATTRBLOCK:
4216         case XBLOCK:
4217             PL_lex_brackstack[PL_lex_brackets++] = XSTATE;
4218             PL_expect = XSTATE;
4219             break;
4220         case XATTRTERM:
4221         case XTERMBLOCK:
4222             PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4223             PL_expect = XSTATE;
4224             break;
4225         default: {
4226                 const char *t;
4227                 if (PL_oldoldbufptr == PL_last_lop)
4228                     PL_lex_brackstack[PL_lex_brackets++] = XTERM;
4229                 else
4230                     PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4231                 s = SKIPSPACE1(s);
4232                 if (*s == '}') {
4233                     if (PL_expect == XREF && PL_lex_state == LEX_INTERPNORMAL) {
4234                         PL_expect = XTERM;
4235                         /* This hack is to get the ${} in the message. */
4236                         PL_bufptr = s+1;
4237                         yyerror("syntax error");
4238                         break;
4239                     }
4240                     OPERATOR(HASHBRACK);
4241                 }
4242                 /* This hack serves to disambiguate a pair of curlies
4243                  * as being a block or an anon hash.  Normally, expectation
4244                  * determines that, but in cases where we're not in a
4245                  * position to expect anything in particular (like inside
4246                  * eval"") we have to resolve the ambiguity.  This code
4247                  * covers the case where the first term in the curlies is a
4248                  * quoted string.  Most other cases need to be explicitly
4249                  * disambiguated by prepending a "+" before the opening
4250                  * curly in order to force resolution as an anon hash.
4251                  *
4252                  * XXX should probably propagate the outer expectation
4253                  * into eval"" to rely less on this hack, but that could
4254                  * potentially break current behavior of eval"".
4255                  * GSAR 97-07-21
4256                  */
4257                 t = s;
4258                 if (*s == '\'' || *s == '"' || *s == '`') {
4259                     /* common case: get past first string, handling escapes */
4260                     for (t++; t < PL_bufend && *t != *s;)
4261                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
4262                             t++;
4263                     t++;
4264                 }
4265                 else if (*s == 'q') {
4266                     if (++t < PL_bufend
4267                         && (!isALNUM(*t)
4268                             || ((*t == 'q' || *t == 'x') && ++t < PL_bufend
4269                                 && !isALNUM(*t))))
4270                     {
4271                         /* skip q//-like construct */
4272                         const char *tmps;
4273                         char open, close, term;
4274                         I32 brackets = 1;
4275
4276                         while (t < PL_bufend && isSPACE(*t))
4277                             t++;
4278                         /* check for q => */
4279                         if (t+1 < PL_bufend && t[0] == '=' && t[1] == '>') {
4280                             OPERATOR(HASHBRACK);
4281                         }
4282                         term = *t;
4283                         open = term;
4284                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4285                             term = tmps[5];
4286                         close = term;
4287                         if (open == close)
4288                             for (t++; t < PL_bufend; t++) {
4289                                 if (*t == '\\' && t+1 < PL_bufend && open != '\\')
4290                                     t++;
4291                                 else if (*t == open)
4292                                     break;
4293                             }
4294                         else {
4295                             for (t++; t < PL_bufend; t++) {
4296                                 if (*t == '\\' && t+1 < PL_bufend)
4297                                     t++;
4298                                 else if (*t == close && --brackets <= 0)
4299                                     break;
4300                                 else if (*t == open)
4301                                     brackets++;
4302                             }
4303                         }
4304                         t++;
4305                     }
4306                     else
4307                         /* skip plain q word */
4308                         while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
4309                              t += UTF8SKIP(t);
4310                 }
4311                 else if (isALNUM_lazy_if(t,UTF)) {
4312                     t += UTF8SKIP(t);
4313                     while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
4314                          t += UTF8SKIP(t);
4315                 }
4316                 while (t < PL_bufend && isSPACE(*t))
4317                     t++;
4318                 /* if comma follows first term, call it an anon hash */
4319                 /* XXX it could be a comma expression with loop modifiers */
4320                 if (t < PL_bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
4321                                    || (*t == '=' && t[1] == '>')))
4322                     OPERATOR(HASHBRACK);
4323                 if (PL_expect == XREF)
4324                     PL_expect = XTERM;
4325                 else {
4326                     PL_lex_brackstack[PL_lex_brackets-1] = XSTATE;
4327                     PL_expect = XSTATE;
4328                 }
4329             }
4330             break;
4331         }
4332         yylval.ival = CopLINE(PL_curcop);
4333         if (isSPACE(*s) || *s == '#')
4334             PL_copline = NOLINE;   /* invalidate current command line number */
4335         TOKEN('{');
4336     case '}':
4337       rightbracket:
4338         s++;
4339         if (PL_lex_brackets <= 0)
4340             yyerror("Unmatched right curly bracket");
4341         else
4342             PL_expect = (expectation)PL_lex_brackstack[--PL_lex_brackets];
4343         if (PL_lex_brackets < PL_lex_formbrack && PL_lex_state != LEX_INTERPNORMAL)
4344             PL_lex_formbrack = 0;
4345         if (PL_lex_state == LEX_INTERPNORMAL) {
4346             if (PL_lex_brackets == 0) {
4347                 if (PL_expect & XFAKEBRACK) {
4348                     PL_expect &= XENUMMASK;
4349                     PL_lex_state = LEX_INTERPEND;
4350                     PL_bufptr = s;
4351 #if 0
4352                     if (PL_madskills) {
4353                         if (!PL_thiswhite)
4354                             PL_thiswhite = newSVpvn("",0);
4355                         sv_catpvn(PL_thiswhite,"}",1);
4356                     }
4357 #endif
4358                     return yylex();     /* ignore fake brackets */
4359                 }
4360                 if (*s == '-' && s[1] == '>')
4361                     PL_lex_state = LEX_INTERPENDMAYBE;
4362                 else if (*s != '[' && *s != '{')
4363                     PL_lex_state = LEX_INTERPEND;
4364             }
4365         }
4366         if (PL_expect & XFAKEBRACK) {
4367             PL_expect &= XENUMMASK;
4368             PL_bufptr = s;
4369             return yylex();             /* ignore fake brackets */
4370         }
4371         start_force(PL_curforce);
4372         if (PL_madskills) {
4373             curmad('X', newSVpvn(s-1,1));
4374             CURMAD('_', PL_thiswhite);
4375         }
4376         force_next('}');
4377 #ifdef PERL_MAD
4378         if (!PL_thistoken)
4379             PL_thistoken = newSVpvn("",0);
4380 #endif
4381         TOKEN(';');
4382     case '&':
4383         s++;
4384         if (*s++ == '&')
4385             AOPERATOR(ANDAND);
4386         s--;
4387         if (PL_expect == XOPERATOR) {
4388             if (PL_bufptr == PL_linestart && ckWARN(WARN_SEMICOLON)
4389                 && isIDFIRST_lazy_if(s,UTF))
4390             {
4391                 CopLINE_dec(PL_curcop);
4392                 Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
4393                 CopLINE_inc(PL_curcop);
4394             }
4395             BAop(OP_BIT_AND);
4396         }
4397
4398         s = scan_ident(s - 1, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
4399         if (*PL_tokenbuf) {
4400             PL_expect = XOPERATOR;
4401             force_ident(PL_tokenbuf, '&');
4402         }
4403         else
4404             PREREF('&');
4405         yylval.ival = (OPpENTERSUB_AMPER<<8);
4406         TERM('&');
4407
4408     case '|':
4409         s++;
4410         if (*s++ == '|')
4411             AOPERATOR(OROR);
4412         s--;
4413         BOop(OP_BIT_OR);
4414     case '=':
4415         s++;
4416         {
4417             const char tmp = *s++;
4418             if (tmp == '=')
4419                 Eop(OP_EQ);
4420             if (tmp == '>')
4421                 OPERATOR(',');
4422             if (tmp == '~')
4423                 PMop(OP_MATCH);
4424             if (tmp && isSPACE(*s) && ckWARN(WARN_SYNTAX)
4425                 && strchr("+-*/%.^&|<",tmp))
4426                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4427                             "Reversed %c= operator",(int)tmp);
4428             s--;
4429             if (PL_expect == XSTATE && isALPHA(tmp) &&
4430                 (s == PL_linestart+1 || s[-2] == '\n') )
4431                 {
4432                     if (PL_in_eval && !PL_rsfp) {
4433                         d = PL_bufend;
4434                         while (s < d) {
4435                             if (*s++ == '\n') {
4436                                 incline(s);
4437                                 if (strnEQ(s,"=cut",4)) {
4438                                     s = strchr(s,'\n');
4439                                     if (s)
4440                                         s++;
4441                                     else
4442                                         s = d;
4443                                     incline(s);
4444                                     goto retry;
4445                                 }
4446                             }
4447                         }
4448                         goto retry;
4449                     }
4450 #ifdef PERL_MAD
4451                     if (PL_madskills) {
4452                         if (!PL_thiswhite)
4453                             PL_thiswhite = newSVpvn("",0);
4454                         sv_catpvn(PL_thiswhite, PL_linestart,
4455                                   PL_bufend - PL_linestart);
4456                     }
4457 #endif
4458                     s = PL_bufend;
4459                     PL_doextract = TRUE;
4460                     goto retry;
4461                 }
4462         }
4463         if (PL_lex_brackets < PL_lex_formbrack) {
4464             const char *t;
4465 #ifdef PERL_STRICT_CR
4466             for (t = s; SPACE_OR_TAB(*t); t++) ;
4467 #else
4468             for (t = s; SPACE_OR_TAB(*t) || *t == '\r'; t++) ;
4469 #endif
4470             if (*t == '\n' || *t == '#') {
4471                 s--;
4472                 PL_expect = XBLOCK;
4473                 goto leftbracket;
4474             }
4475         }
4476         yylval.ival = 0;
4477         OPERATOR(ASSIGNOP);
4478     case '!':
4479         s++;
4480         {
4481             const char tmp = *s++;
4482             if (tmp == '=') {
4483                 /* was this !=~ where !~ was meant?
4484                  * warn on m:!=~\s+([/?]|[msy]\W|tr\W): */
4485
4486                 if (*s == '~' && ckWARN(WARN_SYNTAX)) {
4487                     const char *t = s+1;
4488
4489                     while (t < PL_bufend && isSPACE(*t))
4490                         ++t;
4491
4492                     if (*t == '/' || *t == '?' ||
4493                         ((*t == 'm' || *t == 's' || *t == 'y')
4494                          && !isALNUM(t[1])) ||
4495                         (*t == 't' && t[1] == 'r' && !isALNUM(t[2])))
4496                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4497                                     "!=~ should be !~");
4498                 }
4499                 Eop(OP_NE);
4500             }
4501             if (tmp == '~')
4502                 PMop(OP_NOT);
4503         }
4504         s--;
4505         OPERATOR('!');
4506     case '<':
4507         if (PL_expect != XOPERATOR) {
4508             if (s[1] != '<' && !strchr(s,'>'))
4509                 check_uni();
4510             if (s[1] == '<')
4511                 s = scan_heredoc(s);
4512             else
4513                 s = scan_inputsymbol(s);
4514             TERM(sublex_start());
4515         }
4516         s++;
4517         {
4518             char tmp = *s++;
4519             if (tmp == '<')
4520                 SHop(OP_LEFT_SHIFT);
4521             if (tmp == '=') {
4522                 tmp = *s++;
4523                 if (tmp == '>')
4524                     Eop(OP_NCMP);
4525                 s--;
4526                 Rop(OP_LE);
4527             }
4528         }
4529         s--;
4530         Rop(OP_LT);
4531     case '>':
4532         s++;
4533         {
4534             const char tmp = *s++;
4535             if (tmp == '>')
4536                 SHop(OP_RIGHT_SHIFT);
4537             else if (tmp == '=')
4538                 Rop(OP_GE);
4539         }
4540         s--;
4541         Rop(OP_GT);
4542
4543     case '$':
4544         CLINE;
4545
4546         if (PL_expect == XOPERATOR) {
4547             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4548                 PL_expect = XTERM;
4549                 deprecate_old(commaless_variable_list);
4550                 return REPORT(','); /* grandfather non-comma-format format */
4551             }
4552         }
4553
4554         if (s[1] == '#' && (isIDFIRST_lazy_if(s+2,UTF) || strchr("{$:+-", s[2]))) {
4555             PL_tokenbuf[0] = '@';
4556             s = scan_ident(s + 1, PL_bufend, PL_tokenbuf + 1,
4557                            sizeof PL_tokenbuf - 1, FALSE);
4558             if (PL_expect == XOPERATOR)
4559                 no_op("Array length", s);
4560             if (!PL_tokenbuf[1])
4561                 PREREF(DOLSHARP);
4562             PL_expect = XOPERATOR;
4563             PL_pending_ident = '#';
4564             TOKEN(DOLSHARP);
4565         }
4566
4567         PL_tokenbuf[0] = '$';
4568         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1,
4569                        sizeof PL_tokenbuf - 1, FALSE);
4570         if (PL_expect == XOPERATOR)
4571             no_op("Scalar", s);
4572         if (!PL_tokenbuf[1]) {
4573             if (s == PL_bufend)
4574                 yyerror("Final $ should be \\$ or $name");
4575             PREREF('$');
4576         }
4577
4578         /* This kludge not intended to be bulletproof. */
4579         if (PL_tokenbuf[1] == '[' && !PL_tokenbuf[2]) {
4580             yylval.opval = newSVOP(OP_CONST, 0,
4581                                    newSViv(CopARYBASE_get(&PL_compiling)));
4582             yylval.opval->op_private = OPpCONST_ARYBASE;
4583             TERM(THING);
4584         }
4585
4586         d = s;
4587         {
4588             const char tmp = *s;
4589             if (PL_lex_state == LEX_NORMAL)
4590                 s = SKIPSPACE1(s);
4591
4592             if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop)
4593                 && intuit_more(s)) {
4594                 if (*s == '[') {
4595                     PL_tokenbuf[0] = '@';
4596                     if (ckWARN(WARN_SYNTAX)) {
4597                         char *t;
4598                         for(t = s + 1;
4599                             isSPACE(*t) || isALNUM_lazy_if(t,UTF) || *t == '$';
4600                             t++) ;
4601                         if (*t++ == ',') {
4602                             PL_bufptr = PEEKSPACE(PL_bufptr); /* XXX can realloc */
4603                             while (t < PL_bufend && *t != ']')
4604                                 t++;
4605                             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4606                                         "Multidimensional syntax %.*s not supported",
4607                                     (int)((t - PL_bufptr) + 1), PL_bufptr);
4608                         }
4609                     }
4610                 }
4611                 else if (*s == '{') {
4612                     char *t;
4613                     PL_tokenbuf[0] = '%';
4614                     if (strEQ(PL_tokenbuf+1, "SIG")  && ckWARN(WARN_SYNTAX)
4615                         && (t = strchr(s, '}')) && (t = strchr(t, '=')))
4616                         {
4617                             char tmpbuf[sizeof PL_tokenbuf];
4618                             for (t++; isSPACE(*t); t++) ;
4619                             if (isIDFIRST_lazy_if(t,UTF)) {
4620                                 STRLEN dummylen;
4621                                 t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE,
4622                                               &dummylen);
4623                                 for (; isSPACE(*t); t++) ;
4624                                 if (*t == ';' && get_cv(tmpbuf, FALSE))
4625                                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4626                                                 "You need to quote \"%s\"",
4627                                                 tmpbuf);
4628                             }
4629                         }
4630                 }
4631             }
4632
4633             PL_expect = XOPERATOR;
4634             if (PL_lex_state == LEX_NORMAL && isSPACE((char)tmp)) {
4635                 const bool islop = (PL_last_lop == PL_oldoldbufptr);
4636                 if (!islop || PL_last_lop_op == OP_GREPSTART)
4637                     PL_expect = XOPERATOR;
4638                 else if (strchr("$@\"'`q", *s))
4639                     PL_expect = XTERM;          /* e.g. print $fh "foo" */
4640                 else if (strchr("&*<%", *s) && isIDFIRST_lazy_if(s+1,UTF))
4641                     PL_expect = XTERM;          /* e.g. print $fh &sub */
4642                 else if (isIDFIRST_lazy_if(s,UTF)) {
4643                     char tmpbuf[sizeof PL_tokenbuf];
4644                     int t2;
4645                     scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
4646                     if ((t2 = keyword(tmpbuf, len))) {
4647                         /* binary operators exclude handle interpretations */
4648                         switch (t2) {
4649                         case -KEY_x:
4650                         case -KEY_eq:
4651                         case -KEY_ne:
4652                         case -KEY_gt:
4653                         case -KEY_lt:
4654                         case -KEY_ge:
4655                         case -KEY_le:
4656                         case -KEY_cmp:
4657                             break;
4658                         default:
4659                             PL_expect = XTERM;  /* e.g. print $fh length() */
4660                             break;
4661                         }
4662                     }
4663                     else {
4664                         PL_expect = XTERM;      /* e.g. print $fh subr() */
4665                     }
4666                 }
4667                 else if (isDIGIT(*s))
4668                     PL_expect = XTERM;          /* e.g. print $fh 3 */
4669                 else if (*s == '.' && isDIGIT(s[1]))
4670                     PL_expect = XTERM;          /* e.g. print $fh .3 */
4671                 else if ((*s == '?' || *s == '-' || *s == '+')
4672                          && !isSPACE(s[1]) && s[1] != '=')
4673                     PL_expect = XTERM;          /* e.g. print $fh -1 */
4674                 else if (*s == '/' && !isSPACE(s[1]) && s[1] != '='
4675                          && s[1] != '/')
4676                     PL_expect = XTERM;          /* e.g. print $fh /.../
4677                                                    XXX except DORDOR operator
4678                                                 */
4679                 else if (*s == '<' && s[1] == '<' && !isSPACE(s[2])
4680                          && s[2] != '=')
4681                     PL_expect = XTERM;          /* print $fh <<"EOF" */
4682             }
4683         }
4684         PL_pending_ident = '$';
4685         TOKEN('$');
4686
4687     case '@':
4688         if (PL_expect == XOPERATOR)
4689             no_op("Array", s);
4690         PL_tokenbuf[0] = '@';
4691         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1, FALSE);
4692         if (!PL_tokenbuf[1]) {
4693             PREREF('@');
4694         }
4695         if (PL_lex_state == LEX_NORMAL)
4696             s = SKIPSPACE1(s);
4697         if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop) && intuit_more(s)) {
4698             if (*s == '{')
4699                 PL_tokenbuf[0] = '%';
4700
4701             /* Warn about @ where they meant $. */
4702             if (*s == '[' || *s == '{') {
4703                 if (ckWARN(WARN_SYNTAX)) {
4704                     const char *t = s + 1;
4705                     while (*t && (isALNUM_lazy_if(t,UTF) || strchr(" \t$#+-'\"", *t)))
4706                         t++;
4707                     if (*t == '}' || *t == ']') {
4708                         t++;
4709                         PL_bufptr = PEEKSPACE(PL_bufptr); /* XXX can realloc */
4710                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4711                             "Scalar value %.*s better written as $%.*s",
4712                             (int)(t-PL_bufptr), PL_bufptr,
4713                             (int)(t-PL_bufptr-1), PL_bufptr+1);
4714                     }
4715                 }
4716             }
4717         }
4718         PL_pending_ident = '@';
4719         TERM('@');
4720
4721      case '/':                  /* may be division, defined-or, or pattern */
4722         if (PL_expect == XTERMORDORDOR && s[1] == '/') {
4723             s += 2;
4724             AOPERATOR(DORDOR);
4725         }
4726      case '?':                  /* may either be conditional or pattern */
4727          if(PL_expect == XOPERATOR) {
4728              char tmp = *s++;
4729              if(tmp == '?') {
4730                   OPERATOR('?');
4731              }
4732              else {
4733                  tmp = *s++;
4734                  if(tmp == '/') {
4735                      /* A // operator. */
4736                     AOPERATOR(DORDOR);
4737                  }
4738                  else {
4739                      s--;
4740                      Mop(OP_DIVIDE);
4741                  }
4742              }
4743          }
4744          else {
4745              /* Disable warning on "study /blah/" */
4746              if (PL_oldoldbufptr == PL_last_uni
4747               && (*PL_last_uni != 's' || s - PL_last_uni < 5
4748                   || memNE(PL_last_uni, "study", 5)
4749                   || isALNUM_lazy_if(PL_last_uni+5,UTF)
4750               ))
4751                  check_uni();
4752              s = scan_pat(s,OP_MATCH);
4753              TERM(sublex_start());
4754          }
4755
4756     case '.':
4757         if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack
4758 #ifdef PERL_STRICT_CR
4759             && s[1] == '\n'
4760 #else
4761             && (s[1] == '\n' || (s[1] == '\r' && s[2] == '\n'))
4762 #endif
4763             && (s == PL_linestart || s[-1] == '\n') )
4764         {
4765             PL_lex_formbrack = 0;
4766             PL_expect = XSTATE;
4767             goto rightbracket;
4768         }
4769         if (PL_expect == XOPERATOR || !isDIGIT(s[1])) {
4770             char tmp = *s++;
4771             if (*s == tmp) {
4772                 s++;
4773                 if (*s == tmp) {
4774                     s++;
4775                     yylval.ival = OPf_SPECIAL;
4776                 }
4777                 else
4778                     yylval.ival = 0;
4779                 OPERATOR(DOTDOT);
4780             }
4781             if (PL_expect != XOPERATOR)
4782                 check_uni();
4783             Aop(OP_CONCAT);
4784         }
4785         /* FALL THROUGH */
4786     case '0': case '1': case '2': case '3': case '4':
4787     case '5': case '6': case '7': case '8': case '9':
4788         s = scan_num(s, &yylval);
4789         DEBUG_T( { printbuf("### Saw number in %s\n", s); } );
4790         if (PL_expect == XOPERATOR)
4791             no_op("Number",s);
4792         TERM(THING);
4793
4794     case '\'':
4795         s = scan_str(s,!!PL_madskills,FALSE);
4796         DEBUG_T( { printbuf("### Saw string before %s\n", s); } );
4797         if (PL_expect == XOPERATOR) {
4798             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4799                 PL_expect = XTERM;
4800                 deprecate_old(commaless_variable_list);
4801                 return REPORT(','); /* grandfather non-comma-format format */
4802             }
4803             else
4804                 no_op("String",s);
4805         }
4806         if (!s)
4807             missingterm(NULL);
4808         yylval.ival = OP_CONST;
4809         TERM(sublex_start());
4810
4811     case '"':
4812         s = scan_str(s,!!PL_madskills,FALSE);
4813         DEBUG_T( { printbuf("### Saw string before %s\n", s); } );
4814         if (PL_expect == XOPERATOR) {
4815             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4816                 PL_expect = XTERM;
4817                 deprecate_old(commaless_variable_list);
4818                 return REPORT(','); /* grandfather non-comma-format format */
4819             }
4820             else
4821                 no_op("String",s);
4822         }
4823         if (!s)
4824             missingterm(NULL);
4825         yylval.ival = OP_CONST;
4826         /* FIXME. I think that this can be const if char *d is replaced by
4827            more localised variables.  */
4828         for (d = SvPV(PL_lex_stuff, len); len; len--, d++) {
4829             if (*d == '$' || *d == '@' || *d == '\\' || !UTF8_IS_INVARIANT((U8)*d)) {
4830                 yylval.ival = OP_STRINGIFY;
4831                 break;
4832             }
4833         }
4834         TERM(sublex_start());
4835
4836     case '`':
4837         s = scan_str(s,!!PL_madskills,FALSE);
4838         DEBUG_T( { printbuf("### Saw backtick string before %s\n", s); } );
4839         if (PL_expect == XOPERATOR)
4840             no_op("Backticks",s);
4841         if (!s)
4842             missingterm(NULL);
4843         yylval.ival = OP_BACKTICK;
4844         set_csh();
4845         TERM(sublex_start());
4846
4847     case '\\':
4848         s++;
4849         if (PL_lex_inwhat && isDIGIT(*s) && ckWARN(WARN_SYNTAX))
4850             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),"Can't use \\%c to mean $%c in expression",
4851                         *s, *s);
4852         if (PL_expect == XOPERATOR)
4853             no_op("Backslash",s);
4854         OPERATOR(REFGEN);
4855
4856     case 'v':
4857         if (isDIGIT(s[1]) && PL_expect != XOPERATOR) {
4858             char *start = s + 2;
4859             while (isDIGIT(*start) || *start == '_')
4860                 start++;
4861             if (*start == '.' && isDIGIT(start[1])) {
4862                 s = scan_num(s, &yylval);
4863                 TERM(THING);
4864             }
4865             /* avoid v123abc() or $h{v1}, allow C<print v10;> */
4866             else if (!isALPHA(*start) && (PL_expect == XTERM
4867                         || PL_expect == XREF || PL_expect == XSTATE
4868                         || PL_expect == XTERMORDORDOR)) {
4869                 /* XXX Use gv_fetchpvn rather than stomping on a const string */
4870                 const char c = *start;
4871                 GV *gv;
4872                 *start = '\0';
4873                 gv = gv_fetchpv(s, 0, SVt_PVCV);
4874                 *start = c;
4875                 if (!gv) {
4876                     s = scan_num(s, &yylval);
4877                     TERM(THING);
4878                 }
4879             }
4880         }
4881         goto keylookup;
4882     case 'x':
4883         if (isDIGIT(s[1]) && PL_expect == XOPERATOR) {
4884             s++;
4885             Mop(OP_REPEAT);
4886         }
4887         goto keylookup;
4888
4889     case '_':
4890     case 'a': case 'A':
4891     case 'b': case 'B':
4892     case 'c': case 'C':
4893     case 'd': case 'D':
4894     case 'e': case 'E':
4895     case 'f': case 'F':
4896     case 'g': case 'G':
4897     case 'h': case 'H':
4898     case 'i': case 'I':
4899     case 'j': case 'J':
4900     case 'k': case 'K':
4901     case 'l': case 'L':
4902     case 'm': case 'M':
4903     case 'n': case 'N':
4904     case 'o': case 'O':
4905     case 'p': case 'P':
4906     case 'q': case 'Q':
4907     case 'r': case 'R':
4908     case 's': case 'S':
4909     case 't': case 'T':
4910     case 'u': case 'U':
4911               case 'V':
4912     case 'w': case 'W':
4913               case 'X':
4914     case 'y': case 'Y':
4915     case 'z': case 'Z':
4916
4917       keylookup: {
4918         I32 tmp;
4919         I32 orig_keyword = 0;
4920         GV *gv = NULL;
4921         GV **gvp = NULL;
4922
4923         PL_bufptr = s;
4924         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
4925
4926         /* Some keywords can be followed by any delimiter, including ':' */
4927         tmp = ((len == 1 && strchr("msyq", PL_tokenbuf[0])) ||
4928                (len == 2 && ((PL_tokenbuf[0] == 't' && PL_tokenbuf[1] == 'r') ||
4929                              (PL_tokenbuf[0] == 'q' &&
4930                               strchr("qwxr", PL_tokenbuf[1])))));
4931
4932         /* x::* is just a word, unless x is "CORE" */
4933         if (!tmp && *s == ':' && s[1] == ':' && strNE(PL_tokenbuf, "CORE"))
4934             goto just_a_word;
4935
4936         d = s;
4937         while (d < PL_bufend && isSPACE(*d))
4938                 d++;    /* no comments skipped here, or s### is misparsed */
4939
4940         /* Is this a label? */
4941         if (!tmp && PL_expect == XSTATE
4942               && d < PL_bufend && *d == ':' && *(d + 1) != ':') {
4943             s = d + 1;
4944             yylval.pval = savepv(PL_tokenbuf);
4945             CLINE;
4946             TOKEN(LABEL);
4947         }
4948
4949         /* Check for keywords */
4950         tmp = keyword(PL_tokenbuf, len);
4951
4952         /* Is this a word before a => operator? */
4953         if (*d == '=' && d[1] == '>') {
4954             CLINE;
4955             yylval.opval
4956                 = (OP*)newSVOP(OP_CONST, 0,
4957                                S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
4958             yylval.opval->op_private = OPpCONST_BARE;
4959             TERM(WORD);
4960         }
4961
4962         if (tmp < 0) {                  /* second-class keyword? */
4963             GV *ogv = NULL;     /* override (winner) */
4964             GV *hgv = NULL;     /* hidden (loser) */
4965             if (PL_expect != XOPERATOR && (*s != ':' || s[1] != ':')) {
4966                 CV *cv;
4967                 if ((gv = gv_fetchpvn_flags(PL_tokenbuf, len, 0, SVt_PVCV)) &&
4968                     (cv = GvCVu(gv)))
4969                 {
4970                     if (GvIMPORTED_CV(gv))
4971                         ogv = gv;
4972                     else if (! CvMETHOD(cv))
4973                         hgv = gv;
4974                 }
4975                 if (!ogv &&
4976                     (gvp = (GV**)hv_fetch(PL_globalstash,PL_tokenbuf,len,FALSE)) &&
4977                     (gv = *gvp) != (GV*)&PL_sv_undef &&
4978                     GvCVu(gv) && GvIMPORTED_CV(gv))
4979                 {
4980                     ogv = gv;
4981                 }
4982             }
4983             if (ogv) {
4984                 orig_keyword = tmp;
4985                 tmp = 0;                /* overridden by import or by GLOBAL */
4986             }
4987             else if (gv && !gvp
4988                      && -tmp==KEY_lock  /* XXX generalizable kludge */
4989                      && GvCVu(gv)
4990                      && !hv_fetchs(GvHVn(PL_incgv), "Thread.pm", FALSE))
4991             {
4992                 tmp = 0;                /* any sub overrides "weak" keyword */
4993             }
4994             else {                      /* no override */
4995                 tmp = -tmp;
4996                 if (tmp == KEY_dump && ckWARN(WARN_MISC)) {
4997                     Perl_warner(aTHX_ packWARN(WARN_MISC),
4998                             "dump() better written as CORE::dump()");
4999                 }
5000                 gv = NULL;
5001                 gvp = 0;
5002                 if (hgv && tmp != KEY_x && tmp != KEY_CORE
5003                         && ckWARN(WARN_AMBIGUOUS))      /* never ambiguous */
5004                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5005                         "Ambiguous call resolved as CORE::%s(), %s",
5006                          GvENAME(hgv), "qualify as such or use &");
5007             }
5008         }
5009
5010       reserved_word:
5011         switch (tmp) {
5012
5013         default:                        /* not a keyword */
5014             /* Trade off - by using this evil construction we can pull the
5015                variable gv into the block labelled keylookup. If not, then
5016                we have to give it function scope so that the goto from the
5017                earlier ':' case doesn't bypass the initialisation.  */
5018             if (0) {
5019             just_a_word_zero_gv:
5020                 gv = NULL;
5021                 gvp = NULL;
5022                 orig_keyword = 0;
5023             }
5024           just_a_word: {
5025                 SV *sv;
5026                 int pkgname = 0;
5027                 const char lastchar = (PL_bufptr == PL_oldoldbufptr ? 0 : PL_bufptr[-1]);
5028                 CV *cv;
5029 #ifdef PERL_MAD
5030                 SV *nextPL_nextwhite = 0;
5031 #endif
5032
5033
5034                 /* Get the rest if it looks like a package qualifier */
5035
5036                 if (*s == '\'' || (*s == ':' && s[1] == ':')) {
5037                     STRLEN morelen;
5038                     s = scan_word(s, PL_tokenbuf + len, sizeof PL_tokenbuf - len,
5039                                   TRUE, &morelen);
5040                     if (!morelen)
5041                         Perl_croak(aTHX_ "Bad name after %s%s", PL_tokenbuf,
5042                                 *s == '\'' ? "'" : "::");
5043                     len += morelen;
5044                     pkgname = 1;
5045                 }
5046
5047                 if (PL_expect == XOPERATOR) {
5048                     if (PL_bufptr == PL_linestart) {
5049                         CopLINE_dec(PL_curcop);
5050                         Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
5051                         CopLINE_inc(PL_curcop);
5052                     }
5053                     else
5054                         no_op("Bareword",s);
5055                 }
5056
5057                 /* Look for a subroutine with this name in current package,
5058                    unless name is "Foo::", in which case Foo is a bearword
5059                    (and a package name). */
5060
5061                 if (len > 2 && !PL_madskills &&
5062                     PL_tokenbuf[len - 2] == ':' && PL_tokenbuf[len - 1] == ':')
5063                 {
5064                     if (ckWARN(WARN_BAREWORD)
5065                         && ! gv_fetchpvn_flags(PL_tokenbuf, len, 0, SVt_PVHV))
5066                         Perl_warner(aTHX_ packWARN(WARN_BAREWORD),
5067                             "Bareword \"%s\" refers to nonexistent package",
5068                              PL_tokenbuf);
5069                     len -= 2;
5070                     PL_tokenbuf[len] = '\0';
5071                     gv = NULL;
5072                     gvp = 0;
5073                 }
5074                 else {
5075                     if (!gv) {
5076                         /* Mustn't actually add anything to a symbol table.
5077                            But also don't want to "initialise" any placeholder
5078                            constants that might already be there into full
5079                            blown PVGVs with attached PVCV.  */
5080                         gv = gv_fetchpvn_flags(PL_tokenbuf, len,
5081                                                GV_NOADD_NOINIT, SVt_PVCV);
5082                     }
5083                     len = 0;
5084                 }
5085
5086                 /* if we saw a global override before, get the right name */
5087
5088                 if (gvp) {
5089                     sv = newSVpvs("CORE::GLOBAL::");
5090                     sv_catpv(sv,PL_tokenbuf);
5091                 }
5092                 else {
5093                     /* If len is 0, newSVpv does strlen(), which is correct.
5094                        If len is non-zero, then it will be the true length,
5095                        and so the scalar will be created correctly.  */
5096                     sv = newSVpv(PL_tokenbuf,len);
5097                 }
5098 #ifdef PERL_MAD
5099                 if (PL_madskills && !PL_thistoken) {
5100                     char *start = SvPVX(PL_linestr) + PL_realtokenstart;
5101                     PL_thistoken = newSVpv(start,s - start);
5102                     PL_realtokenstart = s - SvPVX(PL_linestr);
5103                 }
5104 #endif
5105
5106                 /* Presume this is going to be a bareword of some sort. */
5107
5108                 CLINE;
5109                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
5110                 yylval.opval->op_private = OPpCONST_BARE;
5111                 /* UTF-8 package name? */
5112                 if (UTF && !IN_BYTES &&
5113                     is_utf8_string((U8*)SvPVX_const(sv), SvCUR(sv)))
5114                     SvUTF8_on(sv);
5115
5116                 /* And if "Foo::", then that's what it certainly is. */
5117
5118                 if (len)
5119                     goto safe_bareword;
5120
5121                 /* Do the explicit type check so that we don't need to force
5122                    the initialisation of the symbol table to have a real GV.
5123                    Beware - gv may not really be a PVGV, cv may not really be
5124                    a PVCV, (because of the space optimisations that gv_init
5125                    understands) But they're true if for this symbol there is
5126                    respectively a typeglob and a subroutine.
5127                 */
5128                 cv = gv ? ((SvTYPE(gv) == SVt_PVGV)
5129                     /* Real typeglob, so get the real subroutine: */
5130                            ? GvCVu(gv)
5131                     /* A proxy for a subroutine in this package? */
5132                            : SvOK(gv) ? (CV *) gv : NULL)
5133                     : NULL;
5134
5135                 /* See if it's the indirect object for a list operator. */
5136
5137                 if (PL_oldoldbufptr &&
5138                     PL_oldoldbufptr < PL_bufptr &&
5139                     (PL_oldoldbufptr == PL_last_lop
5140                      || PL_oldoldbufptr == PL_last_uni) &&
5141                     /* NO SKIPSPACE BEFORE HERE! */
5142                     (PL_expect == XREF ||
5143                      ((PL_opargs[PL_last_lop_op] >> OASHIFT)& 7) == OA_FILEREF))
5144                 {
5145                     bool immediate_paren = *s == '(';
5146
5147                     /* (Now we can afford to cross potential line boundary.) */
5148                     s = SKIPSPACE2(s,nextPL_nextwhite);
5149 #ifdef PERL_MAD
5150                     PL_nextwhite = nextPL_nextwhite;    /* assume no & deception */
5151 #endif
5152
5153                     /* Two barewords in a row may indicate method call. */
5154
5155                     if ((isIDFIRST_lazy_if(s,UTF) || *s == '$') &&
5156                         (tmp = intuit_method(s, gv, cv)))
5157                         return REPORT(tmp);
5158
5159                     /* If not a declared subroutine, it's an indirect object. */
5160                     /* (But it's an indir obj regardless for sort.) */
5161                     /* Also, if "_" follows a filetest operator, it's a bareword */
5162
5163                     if (
5164                         ( !immediate_paren && (PL_last_lop_op == OP_SORT ||
5165                          ((!gv || !cv) &&
5166                         (PL_last_lop_op != OP_MAPSTART &&
5167                          PL_last_lop_op != OP_GREPSTART))))
5168                        || (PL_tokenbuf[0] == '_' && PL_tokenbuf[1] == '\0'
5169                             && ((PL_opargs[PL_last_lop_op] & OA_CLASS_MASK) == OA_FILESTATOP))
5170                        )
5171                     {
5172                         PL_expect = (PL_last_lop == PL_oldoldbufptr) ? XTERM : XOPERATOR;
5173                         goto bareword;
5174                     }
5175                 }
5176
5177                 PL_expect = XOPERATOR;
5178 #ifdef PERL_MAD
5179                 if (isSPACE(*s))
5180                     s = SKIPSPACE2(s,nextPL_nextwhite);
5181                 PL_nextwhite = nextPL_nextwhite;
5182 #else
5183                 s = skipspace(s);
5184 #endif
5185
5186                 /* Is this a word before a => operator? */
5187                 if (*s == '=' && s[1] == '>' && !pkgname) {
5188                     CLINE;
5189                     sv_setpv(((SVOP*)yylval.opval)->op_sv, PL_tokenbuf);
5190                     if (UTF && !IN_BYTES && is_utf8_string((U8*)PL_tokenbuf, len))
5191                       SvUTF8_on(((SVOP*)yylval.opval)->op_sv);
5192                     TERM(WORD);
5193                 }
5194
5195                 /* If followed by a paren, it's certainly a subroutine. */
5196                 if (*s == '(') {
5197                     CLINE;
5198                     if (cv) {
5199                         for (d = s + 1; SPACE_OR_TAB(*d); d++) ;
5200                         if (*d == ')' && (sv = gv_const_sv(gv))) {
5201                             s = d + 1;
5202 #ifdef PERL_MAD
5203                             if (PL_madskills) {
5204                                 char *par = SvPVX(PL_linestr) + PL_realtokenstart;
5205                                 sv_catpvn(PL_thistoken, par, s - par);
5206                                 if (PL_nextwhite) {
5207                                     sv_free(PL_nextwhite);
5208                                     PL_nextwhite = 0;
5209                                 }
5210                             }
5211 #endif
5212                             goto its_constant;
5213                         }
5214                     }
5215 #ifdef PERL_MAD
5216                     if (PL_madskills) {
5217                         PL_nextwhite = PL_thiswhite;
5218                         PL_thiswhite = 0;
5219                     }
5220                     start_force(PL_curforce);
5221 #endif
5222                     NEXTVAL_NEXTTOKE.opval = yylval.opval;
5223                     PL_expect = XOPERATOR;
5224 #ifdef PERL_MAD
5225                     if (PL_madskills) {
5226                         PL_nextwhite = nextPL_nextwhite;
5227                         curmad('X', PL_thistoken);
5228                         PL_thistoken = newSVpvn("",0);
5229                     }
5230 #endif
5231                     force_next(WORD);
5232                     yylval.ival = 0;
5233                     TOKEN('&');
5234                 }
5235
5236                 /* If followed by var or block, call it a method (unless sub) */
5237
5238                 if ((*s == '$' || *s == '{') && (!gv || !cv)) {
5239                     PL_last_lop = PL_oldbufptr;
5240                     PL_last_lop_op = OP_METHOD;
5241                     PREBLOCK(METHOD);
5242                 }
5243
5244                 /* If followed by a bareword, see if it looks like indir obj. */
5245
5246                 if (!orig_keyword
5247                         && (isIDFIRST_lazy_if(s,UTF) || *s == '$')
5248                         && (tmp = intuit_method(s, gv, cv)))
5249                     return REPORT(tmp);
5250
5251                 /* Not a method, so call it a subroutine (if defined) */
5252
5253                 if (cv) {
5254                     if (lastchar == '-' && ckWARN_d(WARN_AMBIGUOUS))
5255                         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5256                                 "Ambiguous use of -%s resolved as -&%s()",
5257                                 PL_tokenbuf, PL_tokenbuf);
5258                     /* Check for a constant sub */
5259                     if ((sv = gv_const_sv(gv))) {
5260                   its_constant:
5261                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
5262                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc_simple(sv);
5263                         yylval.opval->op_private = 0;
5264                         TOKEN(WORD);
5265                     }
5266
5267                     /* Resolve to GV now. */
5268                     if (SvTYPE(gv) != SVt_PVGV) {
5269                         gv = gv_fetchpv(PL_tokenbuf, 0, SVt_PVCV);
5270                         assert (SvTYPE(gv) == SVt_PVGV);
5271                         /* cv must have been some sort of placeholder, so
5272                            now needs replacing with a real code reference.  */
5273                         cv = GvCV(gv);
5274                     }
5275
5276                     op_free(yylval.opval);
5277                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
5278                     yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
5279                     PL_last_lop = PL_oldbufptr;
5280                     PL_last_lop_op = OP_ENTERSUB;
5281                     /* Is there a prototype? */
5282                     if (
5283 #ifdef PERL_MAD
5284                         cv &&
5285 #endif
5286                         SvPOK(cv)) {
5287                         STRLEN protolen;
5288                         const char *proto = SvPV_const((SV*)cv, protolen);
5289                         if (!protolen)
5290                             TERM(FUNC0SUB);
5291                         if (*proto == '$' && proto[1] == '\0')
5292                             OPERATOR(UNIOPSUB);
5293                         while (*proto == ';')
5294                             proto++;
5295                         if (*proto == '&' && *s == '{') {
5296                             sv_setpv(PL_subname, PL_curstash ?
5297                                         "__ANON__" : "__ANON__::__ANON__");
5298                             PREBLOCK(LSTOPSUB);
5299                         }
5300                     }
5301 #ifdef PERL_MAD
5302                     {
5303                         if (PL_madskills) {
5304                             PL_nextwhite = PL_thiswhite;
5305                             PL_thiswhite = 0;
5306                         }
5307                         start_force(PL_curforce);
5308                         NEXTVAL_NEXTTOKE.opval = yylval.opval;
5309                         PL_expect = XTERM;
5310                         if (PL_madskills) {
5311                             PL_nextwhite = nextPL_nextwhite;
5312                             curmad('X', PL_thistoken);
5313                             PL_thistoken = newSVpvn("",0);
5314                         }
5315                         force_next(WORD);
5316                         TOKEN(NOAMP);
5317                     }
5318                 }
5319
5320                 /* Guess harder when madskills require "best effort". */
5321                 if (PL_madskills && (!gv || !GvCVu(gv))) {
5322                     int probable_sub = 0;
5323                     if (strchr("\"'`$@%0123456789!*+{[<", *s))
5324                         probable_sub = 1;
5325                     else if (isALPHA(*s)) {
5326                         char tmpbuf[1024];
5327                         STRLEN tmplen;
5328                         d = s;
5329                         d = scan_word(d, tmpbuf, sizeof tmpbuf, TRUE, &tmplen);
5330                         if (!keyword(tmpbuf,tmplen))
5331                             probable_sub = 1;
5332                         else {
5333                             while (d < PL_bufend && isSPACE(*d))
5334                                 d++;
5335                             if (*d == '=' && d[1] == '>')
5336                                 probable_sub = 1;
5337                         }
5338                     }
5339                     if (probable_sub) {
5340                         gv = gv_fetchpv(PL_tokenbuf, TRUE, SVt_PVCV);
5341                         op_free(yylval.opval);
5342                         yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
5343                         yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
5344                         PL_last_lop = PL_oldbufptr;
5345                         PL_last_lop_op = OP_ENTERSUB;
5346                         PL_nextwhite = PL_thiswhite;
5347                         PL_thiswhite = 0;
5348                         start_force(PL_curforce);
5349                         NEXTVAL_NEXTTOKE.opval = yylval.opval;
5350                         PL_expect = XTERM;
5351                         PL_nextwhite = nextPL_nextwhite;
5352                         curmad('X', PL_thistoken);
5353                         PL_thistoken = newSVpvn("",0);
5354                         force_next(WORD);
5355                         TOKEN(NOAMP);
5356                     }
5357 #else
5358                     NEXTVAL_NEXTTOKE.opval = yylval.opval;
5359                     PL_expect = XTERM;
5360                     force_next(WORD);
5361                     TOKEN(NOAMP);
5362 #endif
5363                 }
5364
5365                 /* Call it a bare word */
5366
5367                 if (PL_hints & HINT_STRICT_SUBS)
5368                     yylval.opval->op_private |= OPpCONST_STRICT;
5369                 else {
5370                 bareword:
5371                     if (lastchar != '-') {
5372                         if (ckWARN(WARN_RESERVED)) {
5373                             for (d = PL_tokenbuf; *d && isLOWER(*d); d++) ;
5374                             if (!*d && !gv_stashpv(PL_tokenbuf,FALSE))
5375                                 Perl_warner(aTHX_ packWARN(WARN_RESERVED), PL_warn_reserved,
5376                                        PL_tokenbuf);
5377                         }
5378                     }
5379                 }
5380
5381             safe_bareword:
5382                 if ((lastchar == '*' || lastchar == '%' || lastchar == '&')
5383                     && ckWARN_d(WARN_AMBIGUOUS)) {
5384                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5385                         "Operator or semicolon missing before %c%s",
5386                         lastchar, PL_tokenbuf);
5387                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5388                         "Ambiguous use of %c resolved as operator %c",
5389                         lastchar, lastchar);
5390                 }
5391                 TOKEN(WORD);
5392             }
5393
5394         case KEY___FILE__:
5395             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5396                                         newSVpv(CopFILE(PL_curcop),0));
5397             TERM(THING);
5398
5399         case KEY___LINE__:
5400             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5401                                     Perl_newSVpvf(aTHX_ "%"IVdf, (IV)CopLINE(PL_curcop)));
5402             TERM(THING);
5403
5404         case KEY___PACKAGE__:
5405             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5406                                         (PL_curstash
5407                                          ? newSVhek(HvNAME_HEK(PL_curstash))
5408                                          : &PL_sv_undef));
5409             TERM(THING);
5410
5411         case KEY___DATA__:
5412         case KEY___END__: {
5413             GV *gv;
5414             if (PL_rsfp && (!PL_in_eval || PL_tokenbuf[2] == 'D')) {
5415                 const char *pname = "main";
5416                 if (PL_tokenbuf[2] == 'D')
5417                     pname = HvNAME_get(PL_curstash ? PL_curstash : PL_defstash);
5418                 gv = gv_fetchpv(Perl_form(aTHX_ "%s::DATA", pname), GV_ADD,
5419                                 SVt_PVIO);
5420                 GvMULTI_on(gv);
5421                 if (!GvIO(gv))
5422                     GvIOp(gv) = newIO();
5423                 IoIFP(GvIOp(gv)) = PL_rsfp;
5424 #if defined(HAS_FCNTL) && defined(F_SETFD)
5425                 {
5426                     const int fd = PerlIO_fileno(PL_rsfp);
5427                     fcntl(fd,F_SETFD,fd >= 3);
5428                 }
5429 #endif
5430                 /* Mark this internal pseudo-handle as clean */
5431                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
5432                 if (PL_preprocess)
5433                     IoTYPE(GvIOp(gv)) = IoTYPE_PIPE;
5434                 else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
5435                     IoTYPE(GvIOp(gv)) = IoTYPE_STD;
5436                 else
5437                     IoTYPE(GvIOp(gv)) = IoTYPE_RDONLY;
5438 #if defined(WIN32) && !defined(PERL_TEXTMODE_SCRIPTS)
5439                 /* if the script was opened in binmode, we need to revert
5440                  * it to text mode for compatibility; but only iff it has CRs
5441                  * XXX this is a questionable hack at best. */
5442                 if (PL_bufend-PL_bufptr > 2
5443                     && PL_bufend[-1] == '\n' && PL_bufend[-2] == '\r')
5444                 {
5445                     Off_t loc = 0;
5446                     if (IoTYPE(GvIOp(gv)) == IoTYPE_RDONLY) {
5447                         loc = PerlIO_tell(PL_rsfp);
5448                         (void)PerlIO_seek(PL_rsfp, 0L, 0);
5449                     }
5450 #ifdef NETWARE
5451                         if (PerlLIO_setmode(PL_rsfp, O_TEXT) != -1) {
5452 #else
5453                     if (PerlLIO_setmode(PerlIO_fileno(PL_rsfp), O_TEXT) != -1) {
5454 #endif  /* NETWARE */
5455 #ifdef PERLIO_IS_STDIO /* really? */
5456 #  if defined(__BORLANDC__)
5457                         /* XXX see note in do_binmode() */
5458                         ((FILE*)PL_rsfp)->flags &= ~_F_BIN;
5459 #  endif
5460 #endif
5461                         if (loc > 0)
5462                             PerlIO_seek(PL_rsfp, loc, 0);
5463                     }
5464                 }
5465 #endif
5466 #ifdef PERLIO_LAYERS
5467                 if (!IN_BYTES) {
5468                     if (UTF)
5469                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL, ":utf8");
5470                     else if (PL_encoding) {
5471                         SV *name;
5472                         dSP;
5473                         ENTER;
5474                         SAVETMPS;
5475                         PUSHMARK(sp);
5476                         EXTEND(SP, 1);
5477                         XPUSHs(PL_encoding);
5478                         PUTBACK;
5479                         call_method("name", G_SCALAR);
5480                         SPAGAIN;
5481                         name = POPs;
5482                         PUTBACK;
5483                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL,
5484                                             Perl_form(aTHX_ ":encoding(%"SVf")",
5485                                                       (void*)name));
5486                         FREETMPS;
5487                         LEAVE;
5488                     }
5489                 }
5490 #endif
5491 #ifdef PERL_MAD
5492                 if (PL_madskills) {
5493                     if (PL_realtokenstart >= 0) {
5494                         char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
5495                         if (!PL_endwhite)
5496                             PL_endwhite = newSVpvn("",0);
5497                         sv_catsv(PL_endwhite, PL_thiswhite);
5498                         PL_thiswhite = 0;
5499                         sv_catpvn(PL_endwhite, tstart, PL_bufend - tstart);
5500                         PL_realtokenstart = -1;
5501                     }
5502                     while ((s = filter_gets(PL_endwhite, PL_rsfp,
5503                                  SvCUR(PL_endwhite))) != Nullch) ;
5504                 }
5505 #endif
5506                 PL_rsfp = NULL;
5507             }
5508             goto fake_eof;
5509         }
5510
5511         case KEY_AUTOLOAD:
5512         case KEY_DESTROY:
5513         case KEY_BEGIN:
5514         case KEY_CHECK:
5515         case KEY_INIT:
5516         case KEY_END:
5517             if (PL_expect == XSTATE) {
5518                 s = PL_bufptr;
5519                 goto really_sub;
5520             }
5521             goto just_a_word;
5522
5523         case KEY_CORE:
5524             if (*s == ':' && s[1] == ':') {
5525                 s += 2;
5526                 d = s;
5527                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
5528                 if (!(tmp = keyword(PL_tokenbuf, len)))
5529                     Perl_croak(aTHX_ "CORE::%s is not a keyword", PL_tokenbuf);
5530                 if (tmp < 0)
5531                     tmp = -tmp;
5532                 else if (tmp == KEY_require || tmp == KEY_do)
5533                     /* that's a way to remember we saw "CORE::" */
5534                     orig_keyword = tmp;
5535                 goto reserved_word;
5536             }
5537             goto just_a_word;
5538
5539         case KEY_abs:
5540             UNI(OP_ABS);
5541
5542         case KEY_alarm:
5543             UNI(OP_ALARM);
5544
5545         case KEY_accept:
5546             LOP(OP_ACCEPT,XTERM);
5547
5548         case KEY_and:
5549             OPERATOR(ANDOP);
5550
5551         case KEY_atan2:
5552             LOP(OP_ATAN2,XTERM);
5553
5554         case KEY_bind:
5555             LOP(OP_BIND,XTERM);
5556
5557         case KEY_binmode:
5558             LOP(OP_BINMODE,XTERM);
5559
5560         case KEY_bless:
5561             LOP(OP_BLESS,XTERM);
5562
5563         case KEY_break:
5564             FUN0(OP_BREAK);
5565
5566         case KEY_chop:
5567             UNI(OP_CHOP);
5568
5569         case KEY_continue:
5570             /* When 'use switch' is in effect, continue has a dual
5571                life as a control operator. */
5572             {
5573                 if (!FEATURE_IS_ENABLED("switch"))
5574                     PREBLOCK(CONTINUE);
5575                 else {
5576                     /* We have to disambiguate the two senses of
5577                       "continue". If the next token is a '{' then
5578                       treat it as the start of a continue block;
5579                       otherwise treat it as a control operator.
5580                      */
5581                     s = skipspace(s);
5582                     if (*s == '{')
5583             PREBLOCK(CONTINUE);
5584                     else
5585                         FUN0(OP_CONTINUE);
5586                 }
5587             }
5588
5589         case KEY_chdir:
5590             /* may use HOME */
5591             (void)gv_fetchpvs("ENV", GV_ADD|GV_NOTQUAL, SVt_PVHV);
5592             UNI(OP_CHDIR);
5593
5594         case KEY_close:
5595             UNI(OP_CLOSE);
5596
5597         case KEY_closedir:
5598             UNI(OP_CLOSEDIR);
5599
5600         case KEY_cmp:
5601             Eop(OP_SCMP);
5602
5603         case KEY_caller:
5604             UNI(OP_CALLER);
5605
5606         case KEY_crypt:
5607 #ifdef FCRYPT
5608             if (!PL_cryptseen) {
5609                 PL_cryptseen = TRUE;
5610                 init_des();
5611             }
5612 #endif
5613             LOP(OP_CRYPT,XTERM);
5614
5615         case KEY_chmod:
5616             LOP(OP_CHMOD,XTERM);
5617
5618         case KEY_chown:
5619             LOP(OP_CHOWN,XTERM);
5620
5621         case KEY_connect:
5622             LOP(OP_CONNECT,XTERM);
5623
5624         case KEY_chr:
5625             UNI(OP_CHR);
5626
5627         case KEY_cos:
5628             UNI(OP_COS);
5629
5630         case KEY_chroot:
5631             UNI(OP_CHROOT);
5632
5633         case KEY_default:
5634             PREBLOCK(DEFAULT);
5635
5636         case KEY_do:
5637             s = SKIPSPACE1(s);
5638             if (*s == '{')
5639                 PRETERMBLOCK(DO);
5640             if (*s != '\'')
5641                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
5642             if (orig_keyword == KEY_do) {
5643                 orig_keyword = 0;
5644                 yylval.ival = 1;
5645             }
5646             else
5647                 yylval.ival = 0;
5648             OPERATOR(DO);
5649
5650         case KEY_die:
5651             PL_hints |= HINT_BLOCK_SCOPE;
5652             LOP(OP_DIE,XTERM);
5653
5654         case KEY_defined:
5655             UNI(OP_DEFINED);
5656
5657         case KEY_delete:
5658             UNI(OP_DELETE);
5659
5660         case KEY_dbmopen:
5661             gv_fetchpvs("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
5662             LOP(OP_DBMOPEN,XTERM);
5663
5664         case KEY_dbmclose:
5665             UNI(OP_DBMCLOSE);
5666
5667         case KEY_dump:
5668             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5669             LOOPX(OP_DUMP);
5670
5671         case KEY_else:
5672             PREBLOCK(ELSE);
5673
5674         case KEY_elsif:
5675             yylval.ival = CopLINE(PL_curcop);
5676             OPERATOR(ELSIF);
5677
5678         case KEY_eq:
5679             Eop(OP_SEQ);
5680
5681         case KEY_exists:
5682             UNI(OP_EXISTS);
5683
5684         case KEY_exit:
5685             if (PL_madskills)
5686                 UNI(OP_INT);
5687             UNI(OP_EXIT);
5688
5689         case KEY_eval:
5690             s = SKIPSPACE1(s);
5691             PL_expect = (*s == '{') ? XTERMBLOCK : XTERM;
5692             UNIBRACK(OP_ENTEREVAL);
5693
5694         case KEY_eof:
5695             UNI(OP_EOF);
5696
5697         case KEY_err:
5698             OPERATOR(DOROP);
5699
5700         case KEY_exp:
5701             UNI(OP_EXP);
5702
5703         case KEY_each:
5704             UNI(OP_EACH);
5705
5706         case KEY_exec:
5707             set_csh();
5708             LOP(OP_EXEC,XREF);
5709
5710         case KEY_endhostent:
5711             FUN0(OP_EHOSTENT);
5712
5713         case KEY_endnetent:
5714             FUN0(OP_ENETENT);
5715
5716         case KEY_endservent:
5717             FUN0(OP_ESERVENT);
5718
5719         case KEY_endprotoent:
5720             FUN0(OP_EPROTOENT);
5721
5722         case KEY_endpwent:
5723             FUN0(OP_EPWENT);
5724
5725         case KEY_endgrent:
5726             FUN0(OP_EGRENT);
5727
5728         case KEY_for:
5729         case KEY_foreach:
5730             yylval.ival = CopLINE(PL_curcop);
5731             s = SKIPSPACE1(s);
5732             if (PL_expect == XSTATE && isIDFIRST_lazy_if(s,UTF)) {
5733                 char *p = s;
5734 #ifdef PERL_MAD
5735                 int soff = s - SvPVX(PL_linestr); /* for skipspace realloc */
5736 #endif
5737
5738                 if ((PL_bufend - p) >= 3 &&
5739                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
5740                     p += 2;
5741                 else if ((PL_bufend - p) >= 4 &&
5742                     strnEQ(p, "our", 3) && isSPACE(*(p + 3)))
5743                     p += 3;
5744                 p = PEEKSPACE(p);
5745                 if (isIDFIRST_lazy_if(p,UTF)) {
5746                     p = scan_ident(p, PL_bufend,
5747                         PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
5748                     p = PEEKSPACE(p);
5749                 }
5750                 if (*p != '$')
5751                     Perl_croak(aTHX_ "Missing $ on loop variable");
5752 #ifdef PERL_MAD
5753                 s = SvPVX(PL_linestr) + soff;
5754 #endif
5755             }
5756             OPERATOR(FOR);
5757
5758         case KEY_formline:
5759             LOP(OP_FORMLINE,XTERM);
5760
5761         case KEY_fork:
5762             FUN0(OP_FORK);
5763
5764         case KEY_fcntl:
5765             LOP(OP_FCNTL,XTERM);
5766
5767         case KEY_fileno:
5768             UNI(OP_FILENO);
5769
5770         case KEY_flock:
5771             LOP(OP_FLOCK,XTERM);
5772
5773         case KEY_gt:
5774             Rop(OP_SGT);
5775
5776         case KEY_ge:
5777             Rop(OP_SGE);
5778
5779         case KEY_grep:
5780             LOP(OP_GREPSTART, XREF);
5781
5782         case KEY_goto:
5783             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5784             LOOPX(OP_GOTO);
5785
5786         case KEY_gmtime:
5787             UNI(OP_GMTIME);
5788
5789         case KEY_getc:
5790             UNIDOR(OP_GETC);
5791
5792         case KEY_getppid:
5793             FUN0(OP_GETPPID);
5794
5795         case KEY_getpgrp:
5796             UNI(OP_GETPGRP);
5797
5798         case KEY_getpriority:
5799             LOP(OP_GETPRIORITY,XTERM);
5800
5801         case KEY_getprotobyname:
5802             UNI(OP_GPBYNAME);
5803
5804         case KEY_getprotobynumber:
5805             LOP(OP_GPBYNUMBER,XTERM);
5806
5807         case KEY_getprotoent:
5808             FUN0(OP_GPROTOENT);
5809
5810         case KEY_getpwent:
5811             FUN0(OP_GPWENT);
5812
5813         case KEY_getpwnam:
5814             UNI(OP_GPWNAM);
5815
5816         case KEY_getpwuid:
5817             UNI(OP_GPWUID);
5818
5819         case KEY_getpeername:
5820             UNI(OP_GETPEERNAME);
5821
5822         case KEY_gethostbyname:
5823             UNI(OP_GHBYNAME);
5824
5825         case KEY_gethostbyaddr:
5826             LOP(OP_GHBYADDR,XTERM);
5827
5828         case KEY_gethostent:
5829             FUN0(OP_GHOSTENT);
5830
5831         case KEY_getnetbyname:
5832             UNI(OP_GNBYNAME);
5833
5834         case KEY_getnetbyaddr:
5835             LOP(OP_GNBYADDR,XTERM);
5836
5837         case KEY_getnetent:
5838             FUN0(OP_GNETENT);
5839
5840         case KEY_getservbyname:
5841             LOP(OP_GSBYNAME,XTERM);
5842
5843         case KEY_getservbyport:
5844             LOP(OP_GSBYPORT,XTERM);
5845
5846         case KEY_getservent:
5847             FUN0(OP_GSERVENT);
5848
5849         case KEY_getsockname:
5850             UNI(OP_GETSOCKNAME);
5851
5852         case KEY_getsockopt:
5853             LOP(OP_GSOCKOPT,XTERM);
5854
5855         case KEY_getgrent:
5856             FUN0(OP_GGRENT);
5857
5858         case KEY_getgrnam:
5859             UNI(OP_GGRNAM);
5860
5861         case KEY_getgrgid:
5862             UNI(OP_GGRGID);
5863
5864         case KEY_getlogin:
5865             FUN0(OP_GETLOGIN);
5866
5867         case KEY_given:
5868             yylval.ival = CopLINE(PL_curcop);
5869             OPERATOR(GIVEN);
5870
5871         case KEY_glob:
5872             set_csh();
5873             LOP(OP_GLOB,XTERM);
5874
5875         case KEY_hex:
5876             UNI(OP_HEX);
5877
5878         case KEY_if:
5879             yylval.ival = CopLINE(PL_curcop);
5880             OPERATOR(IF);
5881
5882         case KEY_index:
5883             LOP(OP_INDEX,XTERM);
5884
5885         case KEY_int:
5886             UNI(OP_INT);
5887
5888         case KEY_ioctl:
5889             LOP(OP_IOCTL,XTERM);
5890
5891         case KEY_join:
5892             LOP(OP_JOIN,XTERM);
5893
5894         case KEY_keys:
5895             UNI(OP_KEYS);
5896
5897         case KEY_kill:
5898             LOP(OP_KILL,XTERM);
5899
5900         case KEY_last:
5901             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5902             LOOPX(OP_LAST);
5903
5904         case KEY_lc:
5905             UNI(OP_LC);
5906
5907         case KEY_lcfirst:
5908             UNI(OP_LCFIRST);
5909
5910         case KEY_local:
5911             yylval.ival = 0;
5912             OPERATOR(LOCAL);
5913
5914         case KEY_length:
5915             UNI(OP_LENGTH);
5916
5917         case KEY_lt:
5918             Rop(OP_SLT);
5919
5920         case KEY_le:
5921             Rop(OP_SLE);
5922
5923         case KEY_localtime:
5924             UNI(OP_LOCALTIME);
5925
5926         case KEY_log:
5927             UNI(OP_LOG);
5928
5929         case KEY_link:
5930             LOP(OP_LINK,XTERM);
5931
5932         case KEY_listen:
5933             LOP(OP_LISTEN,XTERM);
5934
5935         case KEY_lock:
5936             UNI(OP_LOCK);
5937
5938         case KEY_lstat:
5939             UNI(OP_LSTAT);
5940
5941         case KEY_m:
5942             s = scan_pat(s,OP_MATCH);
5943             TERM(sublex_start());
5944
5945         case KEY_map:
5946             LOP(OP_MAPSTART, XREF);
5947
5948         case KEY_mkdir:
5949             LOP(OP_MKDIR,XTERM);
5950
5951         case KEY_msgctl:
5952             LOP(OP_MSGCTL,XTERM);
5953
5954         case KEY_msgget:
5955             LOP(OP_MSGGET,XTERM);
5956
5957         case KEY_msgrcv:
5958             LOP(OP_MSGRCV,XTERM);
5959
5960         case KEY_msgsnd:
5961             LOP(OP_MSGSND,XTERM);
5962
5963         case KEY_our:
5964         case KEY_my:
5965         case KEY_state:
5966             PL_in_my = tmp;
5967             s = SKIPSPACE1(s);
5968             if (isIDFIRST_lazy_if(s,UTF)) {
5969 #ifdef PERL_MAD
5970                 char* start = s;
5971 #endif
5972                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, TRUE, &len);
5973                 if (len == 3 && strnEQ(PL_tokenbuf, "sub", 3))
5974                     goto really_sub;
5975                 PL_in_my_stash = find_in_my_stash(PL_tokenbuf, len);
5976                 if (!PL_in_my_stash) {
5977                     char tmpbuf[1024];
5978                     PL_bufptr = s;
5979 #ifdef USE_SNPRINTF
5980                     snprintf(tmpbuf, sizeof(tmpbuf), "No such class %.1000s", PL_tokenbuf);
5981 #else
5982                     sprintf(tmpbuf, "No such class %.1000s", PL_tokenbuf);
5983 #endif /* #ifdef USE_SNPRINTF */
5984                     yyerror(tmpbuf);
5985                 }
5986 #ifdef PERL_MAD
5987                 if (PL_madskills) {     /* just add type to declarator token */
5988                     sv_catsv(PL_thistoken, PL_nextwhite);
5989                     PL_nextwhite = 0;
5990                     sv_catpvn(PL_thistoken, start, s - start);
5991                 }
5992 #endif
5993             }
5994             yylval.ival = 1;
5995             OPERATOR(MY);
5996
5997         case KEY_next:
5998             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5999             LOOPX(OP_NEXT);
6000
6001         case KEY_ne:
6002             Eop(OP_SNE);
6003
6004         case KEY_no:
6005             s = tokenize_use(0, s);
6006             OPERATOR(USE);
6007
6008         case KEY_not:
6009             if (*s == '(' || (s = SKIPSPACE1(s), *s == '('))
6010                 FUN1(OP_NOT);
6011             else
6012                 OPERATOR(NOTOP);
6013
6014         case KEY_open:
6015             s = SKIPSPACE1(s);
6016             if (isIDFIRST_lazy_if(s,UTF)) {
6017                 const char *t;
6018                 for (d = s; isALNUM_lazy_if(d,UTF); d++) ;
6019                 for (t=d; *t && isSPACE(*t); t++) ;
6020                 if ( *t && strchr("|&*+-=!?:.", *t) && ckWARN_d(WARN_PRECEDENCE)
6021                     /* [perl #16184] */
6022                     && !(t[0] == '=' && t[1] == '>')
6023                 ) {
6024                     int parms_len = (int)(d-s);
6025                     Perl_warner(aTHX_ packWARN(WARN_PRECEDENCE),
6026                            "Precedence problem: open %.*s should be open(%.*s)",
6027                             parms_len, s, parms_len, s);
6028                 }
6029             }
6030             LOP(OP_OPEN,XTERM);
6031
6032         case KEY_or:
6033             yylval.ival = OP_OR;
6034             OPERATOR(OROP);
6035
6036         case KEY_ord:
6037             UNI(OP_ORD);
6038
6039         case KEY_oct:
6040             UNI(OP_OCT);
6041
6042         case KEY_opendir:
6043             LOP(OP_OPEN_DIR,XTERM);
6044
6045         case KEY_print:
6046             checkcomma(s,PL_tokenbuf,"filehandle");
6047             LOP(OP_PRINT,XREF);
6048
6049         case KEY_printf:
6050             checkcomma(s,PL_tokenbuf,"filehandle");
6051             LOP(OP_PRTF,XREF);
6052
6053         case KEY_prototype:
6054             UNI(OP_PROTOTYPE);
6055
6056         case KEY_push:
6057             LOP(OP_PUSH,XTERM);
6058
6059         case KEY_pop:
6060             UNIDOR(OP_POP);
6061
6062         case KEY_pos:
6063             UNIDOR(OP_POS);
6064
6065         case KEY_pack:
6066             LOP(OP_PACK,XTERM);
6067
6068         case KEY_package:
6069             s = force_word(s,WORD,FALSE,TRUE,FALSE);
6070             OPERATOR(PACKAGE);
6071
6072         case KEY_pipe:
6073             LOP(OP_PIPE_OP,XTERM);
6074
6075         case KEY_q:
6076             s = scan_str(s,!!PL_madskills,FALSE);
6077             if (!s)
6078                 missingterm(NULL);
6079             yylval.ival = OP_CONST;
6080             TERM(sublex_start());
6081
6082         case KEY_quotemeta:
6083             UNI(OP_QUOTEMETA);
6084
6085         case KEY_qw:
6086             s = scan_str(s,!!PL_madskills,FALSE);
6087             if (!s)
6088                 missingterm(NULL);
6089             PL_expect = XOPERATOR;
6090             force_next(')');
6091             if (SvCUR(PL_lex_stuff)) {
6092                 OP *words = NULL;
6093                 int warned = 0;
6094                 d = SvPV_force(PL_lex_stuff, len);
6095                 while (len) {
6096                     for (; isSPACE(*d) && len; --len, ++d)
6097                         /**/;
6098                     if (len) {
6099                         SV *sv;
6100                         const char *b = d;
6101                         if (!warned && ckWARN(WARN_QW)) {
6102                             for (; !isSPACE(*d) && len; --len, ++d) {
6103                                 if (*d == ',') {
6104                                     Perl_warner(aTHX_ packWARN(WARN_QW),
6105                                         "Possible attempt to separate words with commas");
6106                                     ++warned;
6107                                 }
6108                                 else if (*d == '#') {
6109                                     Perl_warner(aTHX_ packWARN(WARN_QW),
6110                                         "Possible attempt to put comments in qw() list");
6111                                     ++warned;
6112                                 }
6113                             }
6114                         }
6115                         else {
6116                             for (; !isSPACE(*d) && len; --len, ++d)
6117                                 /**/;
6118                         }
6119                         sv = newSVpvn(b, d-b);
6120                         if (DO_UTF8(PL_lex_stuff))
6121                             SvUTF8_on(sv);
6122                         words = append_elem(OP_LIST, words,
6123                                             newSVOP(OP_CONST, 0, tokeq(sv)));
6124                     }
6125                 }
6126                 if (words) {
6127                     start_force(PL_curforce);
6128                     NEXTVAL_NEXTTOKE.opval = words;
6129                     force_next(THING);
6130                 }
6131             }
6132             if (PL_lex_stuff) {
6133                 SvREFCNT_dec(PL_lex_stuff);
6134                 PL_lex_stuff = NULL;
6135             }
6136             PL_expect = XTERM;
6137             TOKEN('(');
6138
6139         case KEY_qq:
6140             s = scan_str(s,!!PL_madskills,FALSE);
6141             if (!s)
6142                 missingterm(NULL);
6143             yylval.ival = OP_STRINGIFY;
6144             if (SvIVX(PL_lex_stuff) == '\'')
6145                 SvIV_set(PL_lex_stuff, 0);      /* qq'$foo' should intepolate */
6146             TERM(sublex_start());
6147
6148         case KEY_qr:
6149             s = scan_pat(s,OP_QR);
6150             TERM(sublex_start());
6151
6152         case KEY_qx:
6153             s = scan_str(s,!!PL_madskills,FALSE);
6154             if (!s)
6155                 missingterm(NULL);
6156             yylval.ival = OP_BACKTICK;
6157             set_csh();
6158             TERM(sublex_start());
6159
6160         case KEY_return:
6161             OLDLOP(OP_RETURN);
6162
6163         case KEY_require:
6164             s = SKIPSPACE1(s);
6165             if (isDIGIT(*s)) {
6166                 s = force_version(s, FALSE);
6167             }
6168             else if (*s != 'v' || !isDIGIT(s[1])
6169                     || (s = force_version(s, TRUE), *s == 'v'))
6170             {
6171                 *PL_tokenbuf = '\0';
6172                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
6173                 if (isIDFIRST_lazy_if(PL_tokenbuf,UTF))
6174                     gv_stashpvn(PL_tokenbuf, strlen(PL_tokenbuf), TRUE);
6175                 else if (*s == '<')
6176                     yyerror("<> should be quotes");
6177             }
6178             if (orig_keyword == KEY_require) {
6179                 orig_keyword = 0;
6180                 yylval.ival = 1;
6181             }
6182             else
6183                 yylval.ival = 0;
6184             PL_expect = XTERM;
6185             PL_bufptr = s;
6186             PL_last_uni = PL_oldbufptr;
6187             PL_last_lop_op = OP_REQUIRE;
6188             s = skipspace(s);
6189             return REPORT( (int)REQUIRE );
6190
6191         case KEY_reset:
6192             UNI(OP_RESET);
6193
6194         case KEY_redo:
6195             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6196             LOOPX(OP_REDO);
6197
6198         case KEY_rename:
6199             LOP(OP_RENAME,XTERM);
6200
6201         case KEY_rand:
6202             UNI(OP_RAND);
6203
6204         case KEY_rmdir:
6205             UNI(OP_RMDIR);
6206
6207         case KEY_rindex:
6208             LOP(OP_RINDEX,XTERM);
6209
6210         case KEY_read:
6211             LOP(OP_READ,XTERM);
6212
6213         case KEY_readdir:
6214             UNI(OP_READDIR);
6215
6216         case KEY_readline:
6217             set_csh();
6218             UNIDOR(OP_READLINE);
6219
6220         case KEY_readpipe:
6221             set_csh();
6222             UNI(OP_BACKTICK);
6223
6224         case KEY_rewinddir:
6225             UNI(OP_REWINDDIR);
6226
6227         case KEY_recv:
6228             LOP(OP_RECV,XTERM);
6229
6230         case KEY_reverse:
6231             LOP(OP_REVERSE,XTERM);
6232
6233         case KEY_readlink:
6234             UNIDOR(OP_READLINK);
6235
6236         case KEY_ref:
6237             UNI(OP_REF);
6238
6239         case KEY_s:
6240             s = scan_subst(s);
6241             if (yylval.opval)
6242                 TERM(sublex_start());
6243             else
6244                 TOKEN(1);       /* force error */
6245
6246         case KEY_say:
6247             checkcomma(s,PL_tokenbuf,"filehandle");
6248             LOP(OP_SAY,XREF);
6249
6250         case KEY_chomp:
6251             UNI(OP_CHOMP);
6252
6253         case KEY_scalar:
6254             UNI(OP_SCALAR);
6255
6256         case KEY_select:
6257             LOP(OP_SELECT,XTERM);
6258
6259         case KEY_seek:
6260             LOP(OP_SEEK,XTERM);
6261
6262         case KEY_semctl:
6263             LOP(OP_SEMCTL,XTERM);
6264
6265         case KEY_semget:
6266             LOP(OP_SEMGET,XTERM);
6267
6268         case KEY_semop:
6269             LOP(OP_SEMOP,XTERM);
6270
6271         case KEY_send:
6272             LOP(OP_SEND,XTERM);
6273
6274         case KEY_setpgrp:
6275             LOP(OP_SETPGRP,XTERM);
6276
6277         case KEY_setpriority:
6278             LOP(OP_SETPRIORITY,XTERM);
6279
6280         case KEY_sethostent:
6281             UNI(OP_SHOSTENT);
6282
6283         case KEY_setnetent:
6284             UNI(OP_SNETENT);
6285
6286         case KEY_setservent:
6287             UNI(OP_SSERVENT);
6288
6289         case KEY_setprotoent:
6290             UNI(OP_SPROTOENT);
6291
6292         case KEY_setpwent:
6293             FUN0(OP_SPWENT);
6294
6295         case KEY_setgrent:
6296             FUN0(OP_SGRENT);
6297
6298         case KEY_seekdir:
6299             LOP(OP_SEEKDIR,XTERM);
6300
6301         case KEY_setsockopt:
6302             LOP(OP_SSOCKOPT,XTERM);
6303
6304         case KEY_shift:
6305             UNIDOR(OP_SHIFT);
6306
6307         case KEY_shmctl:
6308             LOP(OP_SHMCTL,XTERM);
6309
6310         case KEY_shmget:
6311             LOP(OP_SHMGET,XTERM);
6312
6313         case KEY_shmread:
6314             LOP(OP_SHMREAD,XTERM);
6315
6316         case KEY_shmwrite:
6317             LOP(OP_SHMWRITE,XTERM);
6318
6319         case KEY_shutdown:
6320             LOP(OP_SHUTDOWN,XTERM);
6321
6322         case KEY_sin:
6323             UNI(OP_SIN);
6324
6325         case KEY_sleep:
6326             UNI(OP_SLEEP);
6327
6328         case KEY_socket:
6329             LOP(OP_SOCKET,XTERM);
6330
6331         case KEY_socketpair:
6332             LOP(OP_SOCKPAIR,XTERM);
6333
6334         case KEY_sort:
6335             checkcomma(s,PL_tokenbuf,"subroutine name");
6336             s = SKIPSPACE1(s);
6337             if (*s == ';' || *s == ')')         /* probably a close */
6338                 Perl_croak(aTHX_ "sort is now a reserved word");
6339             PL_expect = XTERM;
6340             s = force_word(s,WORD,TRUE,TRUE,FALSE);
6341             LOP(OP_SORT,XREF);
6342
6343         case KEY_split:
6344             LOP(OP_SPLIT,XTERM);
6345
6346         case KEY_sprintf:
6347             LOP(OP_SPRINTF,XTERM);
6348
6349         case KEY_splice:
6350             LOP(OP_SPLICE,XTERM);
6351
6352         case KEY_sqrt:
6353             UNI(OP_SQRT);
6354
6355         case KEY_srand:
6356             UNI(OP_SRAND);
6357
6358         case KEY_stat:
6359             UNI(OP_STAT);
6360
6361         case KEY_study:
6362             UNI(OP_STUDY);
6363
6364         case KEY_substr:
6365             LOP(OP_SUBSTR,XTERM);
6366
6367         case KEY_format:
6368         case KEY_sub:
6369           really_sub:
6370             {
6371                 char tmpbuf[sizeof PL_tokenbuf];
6372                 SSize_t tboffset = 0;
6373                 expectation attrful;
6374                 bool have_name, have_proto, bad_proto;
6375                 const int key = tmp;
6376
6377 #ifdef PERL_MAD
6378                 SV *tmpwhite = 0;
6379
6380                 char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
6381                 SV *subtoken = newSVpvn(tstart, s - tstart);
6382                 PL_thistoken = 0;
6383
6384                 d = s;
6385                 s = SKIPSPACE2(s,tmpwhite);
6386 #else
6387                 s = skipspace(s);
6388 #endif
6389
6390                 if (isIDFIRST_lazy_if(s,UTF) || *s == '\'' ||
6391                     (*s == ':' && s[1] == ':'))
6392                 {
6393 #ifdef PERL_MAD
6394                     SV *nametoke;
6395 #endif
6396
6397                     PL_expect = XBLOCK;
6398                     attrful = XATTRBLOCK;
6399                     /* remember buffer pos'n for later force_word */
6400                     tboffset = s - PL_oldbufptr;
6401                     d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
6402 #ifdef PERL_MAD
6403                     if (PL_madskills)
6404                         nametoke = newSVpvn(s, d - s);
6405 #endif
6406                     if (strchr(tmpbuf, ':'))
6407                         sv_setpv(PL_subname, tmpbuf);
6408                     else {
6409                         sv_setsv(PL_subname,PL_curstname);
6410                         sv_catpvs(PL_subname,"::");
6411                         sv_catpvn(PL_subname,tmpbuf,len);
6412                     }
6413                     have_name = TRUE;
6414
6415 #ifdef PERL_MAD
6416
6417                     start_force(0);
6418                     CURMAD('X', nametoke);
6419                     CURMAD('_', tmpwhite);
6420                     (void) force_word(PL_oldbufptr + tboffset, WORD,
6421                                       FALSE, TRUE, TRUE);
6422
6423                     s = SKIPSPACE2(d,tmpwhite);
6424 #else
6425                     s = skipspace(d);
6426 #endif
6427                 }
6428                 else {
6429                     if (key == KEY_my)
6430                         Perl_croak(aTHX_ "Missing name in \"my sub\"");
6431                     PL_expect = XTERMBLOCK;
6432                     attrful = XATTRTERM;
6433                     sv_setpvn(PL_subname,"?",1);
6434                     have_name = FALSE;
6435                 }
6436
6437                 if (key == KEY_format) {
6438                     if (*s == '=')
6439                         PL_lex_formbrack = PL_lex_brackets + 1;
6440 #ifdef PERL_MAD
6441                     PL_thistoken = subtoken;
6442                     s = d;
6443 #else
6444                     if (have_name)
6445                         (void) force_word(PL_oldbufptr + tboffset, WORD,
6446                                           FALSE, TRUE, TRUE);
6447 #endif
6448                     OPERATOR(FORMAT);
6449                 }
6450
6451                 /* Look for a prototype */
6452                 if (*s == '(') {
6453                     char *p;
6454
6455                     s = scan_str(s,!!PL_madskills,FALSE);
6456                     if (!s)
6457                         Perl_croak(aTHX_ "Prototype not terminated");
6458                     /* strip spaces and check for bad characters */
6459                     d = SvPVX(PL_lex_stuff);
6460                     tmp = 0;
6461                     bad_proto = FALSE;
6462                     for (p = d; *p; ++p) {
6463                         if (!isSPACE(*p)) {
6464                             d[tmp++] = *p;
6465                             if (!strchr("$@%*;[]&\\", *p))
6466                                 bad_proto = TRUE;
6467                         }
6468                     }
6469                     d[tmp] = '\0';
6470                     if (bad_proto && ckWARN(WARN_SYNTAX))
6471                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
6472                                     "Illegal character in prototype for %"SVf" : %s",
6473                                     (void*)PL_subname, d);
6474                     SvCUR_set(PL_lex_stuff, tmp);
6475                     have_proto = TRUE;
6476
6477 #ifdef PERL_MAD
6478                     start_force(0);
6479                     CURMAD('q', PL_thisopen);
6480                     CURMAD('_', tmpwhite);
6481                     CURMAD('=', PL_thisstuff);
6482                     CURMAD('Q', PL_thisclose);
6483                     NEXTVAL_NEXTTOKE.opval =
6484                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
6485                     PL_lex_stuff = Nullsv;
6486                     force_next(THING);
6487
6488                     s = SKIPSPACE2(s,tmpwhite);
6489 #else
6490                     s = skipspace(s);
6491 #endif
6492                 }
6493                 else
6494                     have_proto = FALSE;
6495
6496                 if (*s == ':' && s[1] != ':')
6497                     PL_expect = attrful;
6498                 else if (*s != '{' && key == KEY_sub) {
6499                     if (!have_name)
6500                         Perl_croak(aTHX_ "Illegal declaration of anonymous subroutine");
6501                     else if (*s != ';')
6502                         Perl_croak(aTHX_ "Illegal declaration of subroutine %"SVf, (void*)PL_subname);
6503                 }
6504
6505 #ifdef PERL_MAD
6506                 start_force(0);
6507                 if (tmpwhite) {
6508                     if (PL_madskills)
6509                         curmad('^', newSVpvn("",0));
6510                     CURMAD('_', tmpwhite);
6511                 }
6512                 force_next(0);
6513
6514                 PL_thistoken = subtoken;
6515 #else
6516                 if (have_proto) {
6517                     NEXTVAL_NEXTTOKE.opval =
6518                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
6519                     PL_lex_stuff = NULL;
6520                     force_next(THING);
6521                 }
6522 #endif
6523                 if (!have_name) {
6524                     sv_setpv(PL_subname,
6525                         PL_curstash ? "__ANON__" : "__ANON__::__ANON__");
6526                     TOKEN(ANONSUB);
6527                 }
6528 #ifndef PERL_MAD
6529                 (void) force_word(PL_oldbufptr + tboffset, WORD,
6530                                   FALSE, TRUE, TRUE);
6531 #endif
6532                 if (key == KEY_my)
6533                     TOKEN(MYSUB);
6534                 TOKEN(SUB);
6535             }
6536
6537         case KEY_system:
6538             set_csh();
6539             LOP(OP_SYSTEM,XREF);
6540
6541         case KEY_symlink:
6542             LOP(OP_SYMLINK,XTERM);
6543
6544         case KEY_syscall:
6545             LOP(OP_SYSCALL,XTERM);
6546
6547         case KEY_sysopen:
6548             LOP(OP_SYSOPEN,XTERM);
6549
6550         case KEY_sysseek:
6551             LOP(OP_SYSSEEK,XTERM);
6552
6553         case KEY_sysread:
6554             LOP(OP_SYSREAD,XTERM);
6555
6556         case KEY_syswrite:
6557             LOP(OP_SYSWRITE,XTERM);
6558
6559         case KEY_tr:
6560             s = scan_trans(s);
6561             TERM(sublex_start());
6562
6563         case KEY_tell:
6564             UNI(OP_TELL);
6565
6566         case KEY_telldir:
6567             UNI(OP_TELLDIR);
6568
6569         case KEY_tie:
6570             LOP(OP_TIE,XTERM);
6571
6572         case KEY_tied:
6573             UNI(OP_TIED);
6574
6575         case KEY_time:
6576             FUN0(OP_TIME);
6577
6578         case KEY_times:
6579             FUN0(OP_TMS);
6580
6581         case KEY_truncate:
6582             LOP(OP_TRUNCATE,XTERM);
6583
6584         case KEY_uc:
6585             UNI(OP_UC);
6586
6587         case KEY_ucfirst:
6588             UNI(OP_UCFIRST);
6589
6590         case KEY_untie:
6591             UNI(OP_UNTIE);
6592
6593         case KEY_until:
6594             yylval.ival = CopLINE(PL_curcop);
6595             OPERATOR(UNTIL);
6596
6597         case KEY_unless:
6598             yylval.ival = CopLINE(PL_curcop);
6599             OPERATOR(UNLESS);
6600
6601         case KEY_unlink:
6602             LOP(OP_UNLINK,XTERM);
6603
6604         case KEY_undef:
6605             UNIDOR(OP_UNDEF);
6606
6607         case KEY_unpack:
6608             LOP(OP_UNPACK,XTERM);
6609
6610         case KEY_utime:
6611             LOP(OP_UTIME,XTERM);
6612
6613         case KEY_umask:
6614             UNIDOR(OP_UMASK);
6615
6616         case KEY_unshift:
6617             LOP(OP_UNSHIFT,XTERM);
6618
6619         case KEY_use:
6620             s = tokenize_use(1, s);
6621             OPERATOR(USE);
6622
6623         case KEY_values:
6624             UNI(OP_VALUES);
6625
6626         case KEY_vec:
6627             LOP(OP_VEC,XTERM);
6628
6629         case KEY_when:
6630             yylval.ival = CopLINE(PL_curcop);
6631             OPERATOR(WHEN);
6632
6633         case KEY_while:
6634             yylval.ival = CopLINE(PL_curcop);
6635             OPERATOR(WHILE);
6636
6637         case KEY_warn:
6638             PL_hints |= HINT_BLOCK_SCOPE;
6639             LOP(OP_WARN,XTERM);
6640
6641         case KEY_wait:
6642             FUN0(OP_WAIT);
6643
6644         case KEY_waitpid:
6645             LOP(OP_WAITPID,XTERM);
6646
6647         case KEY_wantarray:
6648             FUN0(OP_WANTARRAY);
6649
6650         case KEY_write:
6651 #ifdef EBCDIC
6652         {
6653             char ctl_l[2];
6654             ctl_l[0] = toCTRL('L');
6655             ctl_l[1] = '\0';
6656             gv_fetchpvn_flags(ctl_l, 1, GV_ADD|GV_NOTQUAL, SVt_PV);
6657         }
6658 #else
6659             /* Make sure $^L is defined */
6660             gv_fetchpvs("\f", GV_ADD|GV_NOTQUAL, SVt_PV);
6661 #endif
6662             UNI(OP_ENTERWRITE);
6663
6664         case KEY_x:
6665             if (PL_expect == XOPERATOR)
6666                 Mop(OP_REPEAT);
6667             check_uni();
6668             goto just_a_word;
6669
6670         case KEY_xor:
6671             yylval.ival = OP_XOR;
6672             OPERATOR(OROP);
6673
6674         case KEY_y:
6675             s = scan_trans(s);
6676             TERM(sublex_start());
6677         }
6678     }}
6679 }
6680 #ifdef __SC__
6681 #pragma segment Main
6682 #endif
6683
6684 static int
6685 S_pending_ident(pTHX)
6686 {
6687     dVAR;
6688     register char *d;
6689     register PADOFFSET tmp = 0;
6690     /* pit holds the identifier we read and pending_ident is reset */
6691     char pit = PL_pending_ident;
6692     PL_pending_ident = 0;
6693
6694     /* PL_realtokenstart = realtokenend = PL_bufptr - SvPVX(PL_linestr); */
6695     DEBUG_T({ PerlIO_printf(Perl_debug_log,
6696           "### Pending identifier '%s'\n", PL_tokenbuf); });
6697
6698     /* if we're in a my(), we can't allow dynamics here.
6699        $foo'bar has already been turned into $foo::bar, so
6700        just check for colons.
6701
6702        if it's a legal name, the OP is a PADANY.
6703     */
6704     if (PL_in_my) {
6705         if (PL_in_my == KEY_our) {      /* "our" is merely analogous to "my" */
6706             if (strchr(PL_tokenbuf,':'))
6707                 yyerror(Perl_form(aTHX_ "No package name allowed for "
6708                                   "variable %s in \"our\"",
6709                                   PL_tokenbuf));
6710             tmp = allocmy(PL_tokenbuf);
6711         }
6712         else {
6713             if (strchr(PL_tokenbuf,':'))
6714                 yyerror(Perl_form(aTHX_ PL_no_myglob,
6715                             PL_in_my == KEY_my ? "my" : "state", PL_tokenbuf));
6716
6717             yylval.opval = newOP(OP_PADANY, 0);
6718             yylval.opval->op_targ = allocmy(PL_tokenbuf);
6719             return PRIVATEREF;
6720         }
6721     }
6722
6723     /*
6724        build the ops for accesses to a my() variable.
6725
6726        Deny my($a) or my($b) in a sort block, *if* $a or $b is
6727        then used in a comparison.  This catches most, but not
6728        all cases.  For instance, it catches
6729            sort { my($a); $a <=> $b }
6730        but not
6731            sort { my($a); $a < $b ? -1 : $a == $b ? 0 : 1; }
6732        (although why you'd do that is anyone's guess).
6733     */
6734
6735     if (!strchr(PL_tokenbuf,':')) {
6736         if (!PL_in_my)
6737             tmp = pad_findmy(PL_tokenbuf);
6738         if (tmp != NOT_IN_PAD) {
6739             /* might be an "our" variable" */
6740             if (PAD_COMPNAME_FLAGS_isOUR(tmp)) {
6741                 /* build ops for a bareword */
6742                 HV *  const stash = PAD_COMPNAME_OURSTASH(tmp);
6743                 HEK * const stashname = HvNAME_HEK(stash);
6744                 SV *  const sym = newSVhek(stashname);
6745                 sv_catpvs(sym, "::");
6746                 sv_catpv(sym, PL_tokenbuf+1);
6747                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sym);
6748                 yylval.opval->op_private = OPpCONST_ENTERED;
6749                 gv_fetchsv(sym,
6750                     (PL_in_eval
6751                         ? (GV_ADDMULTI | GV_ADDINEVAL)
6752                         : GV_ADDMULTI
6753                     ),
6754                     ((PL_tokenbuf[0] == '$') ? SVt_PV
6755                      : (PL_tokenbuf[0] == '@') ? SVt_PVAV
6756                      : SVt_PVHV));
6757                 return WORD;
6758             }
6759
6760             /* if it's a sort block and they're naming $a or $b */
6761             if (PL_last_lop_op == OP_SORT &&
6762                 PL_tokenbuf[0] == '$' &&
6763                 (PL_tokenbuf[1] == 'a' || PL_tokenbuf[1] == 'b')
6764                 && !PL_tokenbuf[2])
6765             {
6766                 for (d = PL_in_eval ? PL_oldoldbufptr : PL_linestart;
6767                      d < PL_bufend && *d != '\n';
6768                      d++)
6769                 {
6770                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
6771                         Perl_croak(aTHX_ "Can't use \"my %s\" in sort comparison",
6772                               PL_tokenbuf);
6773                     }
6774                 }
6775             }
6776
6777             yylval.opval = newOP(OP_PADANY, 0);
6778             yylval.opval->op_targ = tmp;
6779             return PRIVATEREF;
6780         }
6781     }
6782
6783     /*
6784        Whine if they've said @foo in a doublequoted string,
6785        and @foo isn't a variable we can find in the symbol
6786        table.
6787     */
6788     if (pit == '@' && PL_lex_state != LEX_NORMAL && !PL_lex_brackets) {
6789         GV *gv = gv_fetchpv(PL_tokenbuf+1, 0, SVt_PVAV);
6790         if ((!gv || ((PL_tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
6791              && ckWARN(WARN_AMBIGUOUS))
6792         {
6793             /* Downgraded from fatal to warning 20000522 mjd */
6794             Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
6795                         "Possible unintended interpolation of %s in string",
6796                          PL_tokenbuf);
6797         }
6798     }
6799
6800     /* build ops for a bareword */
6801     yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(PL_tokenbuf+1, 0));
6802     yylval.opval->op_private = OPpCONST_ENTERED;
6803     gv_fetchpv(
6804             PL_tokenbuf+1,
6805             /* If the identifier refers to a stash, don't autovivify it.
6806              * Change 24660 had the side effect of causing symbol table
6807              * hashes to always be defined, even if they were freshly
6808              * created and the only reference in the entire program was
6809              * the single statement with the defined %foo::bar:: test.
6810              * It appears that all code in the wild doing this actually
6811              * wants to know whether sub-packages have been loaded, so
6812              * by avoiding auto-vivifying symbol tables, we ensure that
6813              * defined %foo::bar:: continues to be false, and the existing
6814              * tests still give the expected answers, even though what
6815              * they're actually testing has now changed subtly.
6816              */
6817             (*PL_tokenbuf == '%' && *(d = PL_tokenbuf + strlen(PL_tokenbuf) - 1) == ':' && d[-1] == ':'
6818              ? 0
6819              : PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL) : GV_ADD),
6820             ((PL_tokenbuf[0] == '$') ? SVt_PV
6821              : (PL_tokenbuf[0] == '@') ? SVt_PVAV
6822              : SVt_PVHV));
6823     return WORD;
6824 }
6825
6826 /*
6827  *  The following code was generated by perl_keyword.pl.
6828  */
6829
6830 I32
6831 Perl_keyword (pTHX_ const char *name, I32 len)
6832 {
6833     dVAR;
6834   switch (len)
6835   {
6836     case 1: /* 5 tokens of length 1 */
6837       switch (name[0])
6838       {
6839         case 'm':
6840           {                                       /* m          */
6841             return KEY_m;
6842           }
6843
6844         case 'q':
6845           {                                       /* q          */
6846             return KEY_q;
6847           }
6848
6849         case 's':
6850           {                                       /* s          */
6851             return KEY_s;
6852           }
6853
6854         case 'x':
6855           {                                       /* x          */
6856             return -KEY_x;
6857           }
6858
6859         case 'y':
6860           {                                       /* y          */
6861             return KEY_y;
6862           }
6863
6864         default:
6865           goto unknown;
6866       }
6867
6868     case 2: /* 18 tokens of length 2 */
6869       switch (name[0])
6870       {
6871         case 'd':
6872           if (name[1] == 'o')
6873           {                                       /* do         */
6874             return KEY_do;
6875           }
6876
6877           goto unknown;
6878
6879         case 'e':
6880           if (name[1] == 'q')
6881           {                                       /* eq         */
6882             return -KEY_eq;
6883           }
6884
6885           goto unknown;
6886
6887         case 'g':
6888           switch (name[1])
6889           {
6890             case 'e':
6891               {                                   /* ge         */
6892                 return -KEY_ge;
6893               }
6894
6895             case 't':
6896               {                                   /* gt         */
6897                 return -KEY_gt;
6898               }
6899
6900             default:
6901               goto unknown;
6902           }
6903
6904         case 'i':
6905           if (name[1] == 'f')
6906           {                                       /* if         */
6907             return KEY_if;
6908           }
6909
6910           goto unknown;
6911
6912         case 'l':
6913           switch (name[1])
6914           {
6915             case 'c':
6916               {                                   /* lc         */
6917                 return -KEY_lc;
6918               }
6919
6920             case 'e':
6921               {                                   /* le         */
6922                 return -KEY_le;
6923               }
6924
6925             case 't':
6926               {                                   /* lt         */
6927                 return -KEY_lt;
6928               }
6929
6930             default:
6931               goto unknown;
6932           }
6933
6934         case 'm':
6935           if (name[1] == 'y')
6936           {                                       /* my         */
6937             return KEY_my;
6938           }
6939
6940           goto unknown;
6941
6942         case 'n':
6943           switch (name[1])
6944           {
6945             case 'e':
6946               {                                   /* ne         */
6947                 return -KEY_ne;
6948               }
6949
6950             case 'o':
6951               {                                   /* no         */
6952                 return KEY_no;
6953               }
6954
6955             default:
6956               goto unknown;
6957           }
6958
6959         case 'o':
6960           if (name[1] == 'r')
6961           {                                       /* or         */
6962             return -KEY_or;
6963           }
6964
6965           goto unknown;
6966
6967         case 'q':
6968           switch (name[1])
6969           {
6970             case 'q':
6971               {                                   /* qq         */
6972                 return KEY_qq;
6973               }
6974
6975             case 'r':
6976               {                                   /* qr         */
6977                 return KEY_qr;
6978               }
6979
6980             case 'w':
6981               {                                   /* qw         */
6982                 return KEY_qw;
6983               }
6984
6985             case 'x':
6986               {                                   /* qx         */
6987                 return KEY_qx;
6988               }
6989
6990             default:
6991               goto unknown;
6992           }
6993
6994         case 't':
6995           if (name[1] == 'r')
6996           {                                       /* tr         */
6997             return KEY_tr;
6998           }
6999
7000           goto unknown;
7001
7002         case 'u':
7003           if (name[1] == 'c')
7004           {                                       /* uc         */
7005             return -KEY_uc;
7006           }
7007
7008           goto unknown;
7009
7010         default:
7011           goto unknown;
7012       }
7013
7014     case 3: /* 29 tokens of length 3 */
7015       switch (name[0])
7016       {
7017         case 'E':
7018           if (name[1] == 'N' &&
7019               name[2] == 'D')
7020           {                                       /* END        */
7021             return KEY_END;
7022           }
7023
7024           goto unknown;
7025
7026         case 'a':
7027           switch (name[1])
7028           {
7029             case 'b':
7030               if (name[2] == 's')
7031               {                                   /* abs        */
7032                 return -KEY_abs;
7033               }
7034
7035               goto unknown;
7036
7037             case 'n':
7038               if (name[2] == 'd')
7039               {                                   /* and        */
7040                 return -KEY_and;
7041               }
7042
7043               goto unknown;
7044
7045             default:
7046               goto unknown;
7047           }
7048
7049         case 'c':
7050           switch (name[1])
7051           {
7052             case 'h':
7053               if (name[2] == 'r')
7054               {                                   /* chr        */
7055                 return -KEY_chr;
7056               }
7057
7058               goto unknown;
7059
7060             case 'm':
7061               if (name[2] == 'p')
7062               {                                   /* cmp        */
7063                 return -KEY_cmp;
7064               }
7065
7066               goto unknown;
7067
7068             case 'o':
7069               if (name[2] == 's')
7070               {                                   /* cos        */
7071                 return -KEY_cos;
7072               }
7073
7074               goto unknown;
7075
7076             default:
7077               goto unknown;
7078           }
7079
7080         case 'd':
7081           if (name[1] == 'i' &&
7082               name[2] == 'e')
7083           {                                       /* die        */
7084             return -KEY_die;
7085           }
7086
7087           goto unknown;
7088
7089         case 'e':
7090           switch (name[1])
7091           {
7092             case 'o':
7093               if (name[2] == 'f')
7094               {                                   /* eof        */
7095                 return -KEY_eof;
7096               }
7097
7098               goto unknown;
7099
7100             case 'r':
7101               if (name[2] == 'r')
7102               {                                   /* err        */
7103                 return (FEATURE_IS_ENABLED("err") ? -KEY_err : 0);
7104               }
7105
7106               goto unknown;
7107
7108             case 'x':
7109               if (name[2] == 'p')
7110               {                                   /* exp        */
7111                 return -KEY_exp;
7112               }
7113
7114               goto unknown;
7115
7116             default:
7117               goto unknown;
7118           }
7119
7120         case 'f':
7121           if (name[1] == 'o' &&
7122               name[2] == 'r')
7123           {                                       /* for        */
7124             return KEY_for;
7125           }
7126
7127           goto unknown;
7128
7129         case 'h':
7130           if (name[1] == 'e' &&
7131               name[2] == 'x')
7132           {                                       /* hex        */
7133             return -KEY_hex;
7134           }
7135
7136           goto unknown;
7137
7138         case 'i':
7139           if (name[1] == 'n' &&
7140               name[2] == 't')
7141           {                                       /* int        */
7142             return -KEY_int;
7143           }
7144
7145           goto unknown;
7146
7147         case 'l':
7148           if (name[1] == 'o' &&
7149               name[2] == 'g')
7150           {                                       /* log        */
7151             return -KEY_log;
7152           }
7153
7154           goto unknown;
7155
7156         case 'm':
7157           if (name[1] == 'a' &&
7158               name[2] == 'p')
7159           {                                       /* map        */
7160             return KEY_map;
7161           }
7162
7163           goto unknown;
7164
7165         case 'n':
7166           if (name[1] == 'o' &&
7167               name[2] == 't')
7168           {                                       /* not        */
7169             return -KEY_not;
7170           }
7171
7172           goto unknown;
7173
7174         case 'o':
7175           switch (name[1])
7176           {
7177             case 'c':
7178               if (name[2] == 't')
7179               {                                   /* oct        */
7180                 return -KEY_oct;
7181               }
7182
7183               goto unknown;
7184
7185             case 'r':
7186               if (name[2] == 'd')
7187               {                                   /* ord        */
7188                 return -KEY_ord;
7189               }
7190
7191               goto unknown;
7192
7193             case 'u':
7194               if (name[2] == 'r')
7195               {                                   /* our        */
7196                 return KEY_our;
7197               }
7198
7199               goto unknown;
7200
7201             default:
7202               goto unknown;
7203           }
7204
7205         case 'p':
7206           if (name[1] == 'o')
7207           {
7208             switch (name[2])
7209             {
7210               case 'p':
7211                 {                                 /* pop        */
7212                   return -KEY_pop;
7213                 }
7214
7215               case 's':
7216                 {                                 /* pos        */
7217                   return KEY_pos;
7218                 }
7219
7220               default:
7221                 goto unknown;
7222             }
7223           }
7224
7225           goto unknown;
7226
7227         case 'r':
7228           if (name[1] == 'e' &&
7229               name[2] == 'f')
7230           {                                       /* ref        */
7231             return -KEY_ref;
7232           }
7233
7234           goto unknown;
7235
7236         case 's':
7237           switch (name[1])
7238           {
7239             case 'a':
7240               if (name[2] == 'y')
7241               {                                   /* say        */
7242                 return (FEATURE_IS_ENABLED("say") ? -KEY_say : 0);
7243               }
7244
7245               goto unknown;
7246
7247             case 'i':
7248               if (name[2] == 'n')
7249               {                                   /* sin        */
7250                 return -KEY_sin;
7251               }
7252
7253               goto unknown;
7254
7255             case 'u':
7256               if (name[2] == 'b')
7257               {                                   /* sub        */
7258                 return KEY_sub;
7259               }
7260
7261               goto unknown;
7262
7263             default:
7264               goto unknown;
7265           }
7266
7267         case 't':
7268           if (name[1] == 'i' &&
7269               name[2] == 'e')
7270           {                                       /* tie        */
7271             return KEY_tie;
7272           }
7273
7274           goto unknown;
7275
7276         case 'u':
7277           if (name[1] == 's' &&
7278               name[2] == 'e')
7279           {                                       /* use        */
7280             return KEY_use;
7281           }
7282
7283           goto unknown;
7284
7285         case 'v':
7286           if (name[1] == 'e' &&
7287               name[2] == 'c')
7288           {                                       /* vec        */
7289             return -KEY_vec;
7290           }
7291
7292           goto unknown;
7293
7294         case 'x':
7295           if (name[1] == 'o' &&
7296               name[2] == 'r')
7297           {                                       /* xor        */
7298             return -KEY_xor;
7299           }
7300
7301           goto unknown;
7302
7303         default:
7304           goto unknown;
7305       }
7306
7307     case 4: /* 41 tokens of length 4 */
7308       switch (name[0])
7309       {
7310         case 'C':
7311           if (name[1] == 'O' &&
7312               name[2] == 'R' &&
7313               name[3] == 'E')
7314           {                                       /* CORE       */
7315             return -KEY_CORE;
7316           }
7317
7318           goto unknown;
7319
7320         case 'I':
7321           if (name[1] == 'N' &&
7322               name[2] == 'I' &&
7323               name[3] == 'T')
7324           {                                       /* INIT       */
7325             return KEY_INIT;
7326           }
7327
7328           goto unknown;
7329
7330         case 'b':
7331           if (name[1] == 'i' &&
7332               name[2] == 'n' &&
7333               name[3] == 'd')
7334           {                                       /* bind       */
7335             return -KEY_bind;
7336           }
7337
7338           goto unknown;
7339
7340         case 'c':
7341           if (name[1] == 'h' &&
7342               name[2] == 'o' &&
7343               name[3] == 'p')
7344           {                                       /* chop       */
7345             return -KEY_chop;
7346           }
7347
7348           goto unknown;
7349
7350         case 'd':
7351           if (name[1] == 'u' &&
7352               name[2] == 'm' &&
7353               name[3] == 'p')
7354           {                                       /* dump       */
7355             return -KEY_dump;
7356           }
7357
7358           goto unknown;
7359
7360         case 'e':
7361           switch (name[1])
7362           {
7363             case 'a':
7364               if (name[2] == 'c' &&
7365                   name[3] == 'h')
7366               {                                   /* each       */
7367                 return -KEY_each;
7368               }
7369
7370               goto unknown;
7371
7372             case 'l':
7373               if (name[2] == 's' &&
7374                   name[3] == 'e')
7375               {                                   /* else       */
7376                 return KEY_else;
7377               }
7378
7379               goto unknown;
7380
7381             case 'v':
7382               if (name[2] == 'a' &&
7383                   name[3] == 'l')
7384               {                                   /* eval       */
7385                 return KEY_eval;
7386               }
7387
7388               goto unknown;
7389
7390             case 'x':
7391               switch (name[2])
7392               {
7393                 case 'e':
7394                   if (name[3] == 'c')
7395                   {                               /* exec       */
7396                     return -KEY_exec;
7397                   }
7398
7399                   goto unknown;
7400
7401                 case 'i':
7402                   if (name[3] == 't')
7403                   {                               /* exit       */
7404                     return -KEY_exit;
7405                   }
7406
7407                   goto unknown;
7408
7409                 default:
7410                   goto unknown;
7411               }
7412
7413             default:
7414               goto unknown;
7415           }
7416
7417         case 'f':
7418           if (name[1] == 'o' &&
7419               name[2] == 'r' &&
7420               name[3] == 'k')
7421           {                                       /* fork       */
7422             return -KEY_fork;
7423           }
7424
7425           goto unknown;
7426
7427         case 'g':
7428           switch (name[1])
7429           {
7430             case 'e':
7431               if (name[2] == 't' &&
7432                   name[3] == 'c')
7433               {                                   /* getc       */
7434                 return -KEY_getc;
7435               }
7436
7437               goto unknown;
7438
7439             case 'l':
7440               if (name[2] == 'o' &&
7441                   name[3] == 'b')
7442               {                                   /* glob       */
7443                 return KEY_glob;
7444               }
7445
7446               goto unknown;
7447
7448             case 'o':
7449               if (name[2] == 't' &&
7450                   name[3] == 'o')
7451               {                                   /* goto       */
7452                 return KEY_goto;
7453               }
7454
7455               goto unknown;
7456
7457             case 'r':
7458               if (name[2] == 'e' &&
7459                   name[3] == 'p')
7460               {                                   /* grep       */
7461                 return KEY_grep;
7462               }
7463
7464               goto unknown;
7465
7466             default:
7467               goto unknown;
7468           }
7469
7470         case 'j':
7471           if (name[1] == 'o' &&
7472               name[2] == 'i' &&
7473               name[3] == 'n')
7474           {                                       /* join       */
7475             return -KEY_join;
7476           }
7477
7478           goto unknown;
7479
7480         case 'k':
7481           switch (name[1])
7482           {
7483             case 'e':
7484               if (name[2] == 'y' &&
7485                   name[3] == 's')
7486               {                                   /* keys       */
7487                 return -KEY_keys;
7488               }
7489
7490               goto unknown;
7491
7492             case 'i':
7493               if (name[2] == 'l' &&
7494                   name[3] == 'l')
7495               {                                   /* kill       */
7496                 return -KEY_kill;
7497               }
7498
7499               goto unknown;
7500
7501             default:
7502               goto unknown;
7503           }
7504
7505         case 'l':
7506           switch (name[1])
7507           {
7508             case 'a':
7509               if (name[2] == 's' &&
7510                   name[3] == 't')
7511               {                                   /* last       */
7512                 return KEY_last;
7513               }
7514
7515               goto unknown;
7516
7517             case 'i':
7518               if (name[2] == 'n' &&
7519                   name[3] == 'k')
7520               {                                   /* link       */
7521                 return -KEY_link;
7522               }
7523
7524               goto unknown;
7525
7526             case 'o':
7527               if (name[2] == 'c' &&
7528                   name[3] == 'k')
7529               {                                   /* lock       */
7530                 return -KEY_lock;
7531               }
7532
7533               goto unknown;
7534
7535             default:
7536               goto unknown;
7537           }
7538
7539         case 'n':
7540           if (name[1] == 'e' &&
7541               name[2] == 'x' &&
7542               name[3] == 't')
7543           {                                       /* next       */
7544             return KEY_next;
7545           }
7546
7547           goto unknown;
7548
7549         case 'o':
7550           if (name[1] == 'p' &&
7551               name[2] == 'e' &&
7552               name[3] == 'n')
7553           {                                       /* open       */
7554             return -KEY_open;
7555           }
7556
7557           goto unknown;
7558
7559         case 'p':
7560           switch (name[1])
7561           {
7562             case 'a':
7563               if (name[2] == 'c' &&
7564                   name[3] == 'k')
7565               {                                   /* pack       */
7566                 return -KEY_pack;
7567               }
7568
7569               goto unknown;
7570
7571             case 'i':
7572               if (name[2] == 'p' &&
7573                   name[3] == 'e')
7574               {                                   /* pipe       */
7575                 return -KEY_pipe;
7576               }
7577
7578               goto unknown;
7579
7580             case 'u':
7581               if (name[2] == 's' &&
7582                   name[3] == 'h')
7583               {                                   /* push       */
7584                 return -KEY_push;
7585               }
7586
7587               goto unknown;
7588
7589             default:
7590               goto unknown;
7591           }
7592
7593         case 'r':
7594           switch (name[1])
7595           {
7596             case 'a':
7597               if (name[2] == 'n' &&
7598                   name[3] == 'd')
7599               {                                   /* rand       */
7600                 return -KEY_rand;
7601               }
7602
7603               goto unknown;
7604
7605             case 'e':
7606               switch (name[2])
7607               {
7608                 case 'a':
7609                   if (name[3] == 'd')
7610                   {                               /* read       */
7611                     return -KEY_read;
7612                   }
7613
7614                   goto unknown;
7615
7616                 case 'c':
7617                   if (name[3] == 'v')
7618                   {                               /* recv       */
7619                     return -KEY_recv;
7620                   }
7621
7622                   goto unknown;
7623
7624                 case 'd':
7625                   if (name[3] == 'o')
7626                   {                               /* redo       */
7627                     return KEY_redo;
7628                   }
7629
7630                   goto unknown;
7631
7632                 default:
7633                   goto unknown;
7634               }
7635
7636             default:
7637               goto unknown;
7638           }
7639
7640         case 's':
7641           switch (name[1])
7642           {
7643             case 'e':
7644               switch (name[2])
7645               {
7646                 case 'e':
7647                   if (name[3] == 'k')
7648                   {                               /* seek       */
7649                     return -KEY_seek;
7650                   }
7651
7652                   goto unknown;
7653
7654                 case 'n':
7655                   if (name[3] == 'd')
7656                   {                               /* send       */
7657                     return -KEY_send;
7658                   }
7659
7660                   goto unknown;
7661
7662                 default:
7663                   goto unknown;
7664               }
7665
7666             case 'o':
7667               if (name[2] == 'r' &&
7668                   name[3] == 't')
7669               {                                   /* sort       */
7670                 return KEY_sort;
7671               }
7672
7673               goto unknown;
7674
7675             case 'q':
7676               if (name[2] == 'r' &&
7677                   name[3] == 't')
7678               {                                   /* sqrt       */
7679                 return -KEY_sqrt;
7680               }
7681
7682               goto unknown;
7683
7684             case 't':
7685               if (name[2] == 'a' &&
7686                   name[3] == 't')
7687               {                                   /* stat       */
7688                 return -KEY_stat;
7689               }
7690
7691               goto unknown;
7692
7693             default:
7694               goto unknown;
7695           }
7696
7697         case 't':
7698           switch (name[1])
7699           {
7700             case 'e':
7701               if (name[2] == 'l' &&
7702                   name[3] == 'l')
7703               {                                   /* tell       */
7704                 return -KEY_tell;
7705               }
7706
7707               goto unknown;
7708
7709             case 'i':
7710               switch (name[2])
7711               {
7712                 case 'e':
7713                   if (name[3] == 'd')
7714                   {                               /* tied       */
7715                     return KEY_tied;
7716                   }
7717
7718                   goto unknown;
7719
7720                 case 'm':
7721                   if (name[3] == 'e')
7722                   {                               /* time       */
7723                     return -KEY_time;
7724                   }
7725
7726                   goto unknown;
7727
7728                 default:
7729                   goto unknown;
7730               }
7731
7732             default:
7733               goto unknown;
7734           }
7735
7736         case 'w':
7737           switch (name[1])
7738           {
7739             case 'a':
7740               switch (name[2])
7741               {
7742                 case 'i':
7743                   if (name[3] == 't')
7744                   {                               /* wait       */
7745                     return -KEY_wait;
7746                   }
7747
7748                   goto unknown;
7749
7750                 case 'r':
7751                   if (name[3] == 'n')
7752                   {                               /* warn       */
7753                     return -KEY_warn;
7754                   }
7755
7756                   goto unknown;
7757
7758                 default:
7759                   goto unknown;
7760               }
7761
7762             case 'h':
7763               if (name[2] == 'e' &&
7764                   name[3] == 'n')
7765               {                                   /* when       */
7766                 return (FEATURE_IS_ENABLED("switch") ? KEY_when : 0);
7767               }
7768
7769               goto unknown;
7770
7771             default:
7772               goto unknown;
7773           }
7774
7775         default:
7776           goto unknown;
7777       }
7778
7779     case 5: /* 39 tokens of length 5 */
7780       switch (name[0])
7781       {
7782         case 'B':
7783           if (name[1] == 'E' &&
7784               name[2] == 'G' &&
7785               name[3] == 'I' &&
7786               name[4] == 'N')
7787           {                                       /* BEGIN      */
7788             return KEY_BEGIN;
7789           }
7790
7791           goto unknown;
7792
7793         case 'C':
7794           if (name[1] == 'H' &&
7795               name[2] == 'E' &&
7796               name[3] == 'C' &&
7797               name[4] == 'K')
7798           {                                       /* CHECK      */
7799             return KEY_CHECK;
7800           }
7801
7802           goto unknown;
7803
7804         case 'a':
7805           switch (name[1])
7806           {
7807             case 'l':
7808               if (name[2] == 'a' &&
7809                   name[3] == 'r' &&
7810                   name[4] == 'm')
7811               {                                   /* alarm      */
7812                 return -KEY_alarm;
7813               }
7814
7815               goto unknown;
7816
7817             case 't':
7818               if (name[2] == 'a' &&
7819                   name[3] == 'n' &&
7820                   name[4] == '2')
7821               {                                   /* atan2      */
7822                 return -KEY_atan2;
7823               }
7824
7825               goto unknown;
7826
7827             default:
7828               goto unknown;
7829           }
7830
7831         case 'b':
7832           switch (name[1])
7833           {
7834             case 'l':
7835               if (name[2] == 'e' &&
7836                   name[3] == 's' &&
7837                   name[4] == 's')
7838               {                                   /* bless      */
7839                 return -KEY_bless;
7840               }
7841
7842               goto unknown;
7843
7844             case 'r':
7845               if (name[2] == 'e' &&
7846                   name[3] == 'a' &&
7847                   name[4] == 'k')
7848               {                                   /* break      */
7849                 return (FEATURE_IS_ENABLED("switch") ? -KEY_break : 0);
7850               }
7851
7852               goto unknown;
7853
7854             default:
7855               goto unknown;
7856           }
7857
7858         case 'c':
7859           switch (name[1])
7860           {
7861             case 'h':
7862               switch (name[2])
7863               {
7864                 case 'd':
7865                   if (name[3] == 'i' &&
7866                       name[4] == 'r')
7867                   {                               /* chdir      */
7868                     return -KEY_chdir;
7869                   }
7870
7871                   goto unknown;
7872
7873                 case 'm':
7874                   if (name[3] == 'o' &&
7875                       name[4] == 'd')
7876                   {                               /* chmod      */
7877                     return -KEY_chmod;
7878                   }
7879
7880                   goto unknown;
7881
7882                 case 'o':
7883                   switch (name[3])
7884                   {
7885                     case 'm':
7886                       if (name[4] == 'p')
7887                       {                           /* chomp      */
7888                         return -KEY_chomp;
7889                       }
7890
7891                       goto unknown;
7892
7893                     case 'w':
7894                       if (name[4] == 'n')
7895                       {                           /* chown      */
7896                         return -KEY_chown;
7897                       }
7898
7899                       goto unknown;
7900
7901                     default:
7902                       goto unknown;
7903                   }
7904
7905                 default:
7906                   goto unknown;
7907               }
7908
7909             case 'l':
7910               if (name[2] == 'o' &&
7911                   name[3] == 's' &&
7912                   name[4] == 'e')
7913               {                                   /* close      */
7914                 return -KEY_close;
7915               }
7916
7917               goto unknown;
7918
7919             case 'r':
7920               if (name[2] == 'y' &&
7921                   name[3] == 'p' &&
7922                   name[4] == 't')
7923               {                                   /* crypt      */
7924                 return -KEY_crypt;
7925               }
7926
7927               goto unknown;
7928
7929             default:
7930               goto unknown;
7931           }
7932
7933         case 'e':
7934           if (name[1] == 'l' &&
7935               name[2] == 's' &&
7936               name[3] == 'i' &&
7937               name[4] == 'f')
7938           {                                       /* elsif      */
7939             return KEY_elsif;
7940           }
7941
7942           goto unknown;
7943
7944         case 'f':
7945           switch (name[1])
7946           {
7947             case 'c':
7948               if (name[2] == 'n' &&
7949                   name[3] == 't' &&
7950                   name[4] == 'l')
7951               {                                   /* fcntl      */
7952                 return -KEY_fcntl;
7953               }
7954
7955               goto unknown;
7956
7957             case 'l':
7958               if (name[2] == 'o' &&
7959                   name[3] == 'c' &&
7960                   name[4] == 'k')
7961               {                                   /* flock      */
7962                 return -KEY_flock;
7963               }
7964
7965               goto unknown;
7966
7967             default:
7968               goto unknown;
7969           }
7970
7971         case 'g':
7972           if (name[1] == 'i' &&
7973               name[2] == 'v' &&
7974               name[3] == 'e' &&
7975               name[4] == 'n')
7976           {                                       /* given      */
7977             return (FEATURE_IS_ENABLED("switch") ? KEY_given : 0);
7978           }
7979
7980           goto unknown;
7981
7982         case 'i':
7983           switch (name[1])
7984           {
7985             case 'n':
7986               if (name[2] == 'd' &&
7987                   name[3] == 'e' &&
7988                   name[4] == 'x')
7989               {                                   /* index      */
7990                 return -KEY_index;
7991               }
7992
7993               goto unknown;
7994
7995             case 'o':
7996               if (name[2] == 'c' &&
7997                   name[3] == 't' &&
7998                   name[4] == 'l')
7999               {                                   /* ioctl      */
8000                 return -KEY_ioctl;
8001               }
8002
8003               goto unknown;
8004
8005             default:
8006               goto unknown;
8007           }
8008
8009         case 'l':
8010           switch (name[1])
8011           {
8012             case 'o':
8013               if (name[2] == 'c' &&
8014                   name[3] == 'a' &&
8015                   name[4] == 'l')
8016               {                                   /* local      */
8017                 return KEY_local;
8018               }
8019
8020               goto unknown;
8021
8022             case 's':
8023               if (name[2] == 't' &&
8024                   name[3] == 'a' &&
8025                   name[4] == 't')
8026               {                                   /* lstat      */
8027                 return -KEY_lstat;
8028               }
8029
8030               goto unknown;
8031
8032             default:
8033               goto unknown;
8034           }
8035
8036         case 'm':
8037           if (name[1] == 'k' &&
8038               name[2] == 'd' &&
8039               name[3] == 'i' &&
8040               name[4] == 'r')
8041           {                                       /* mkdir      */
8042             return -KEY_mkdir;
8043           }
8044
8045           goto unknown;
8046
8047         case 'p':
8048           if (name[1] == 'r' &&
8049               name[2] == 'i' &&
8050               name[3] == 'n' &&
8051               name[4] == 't')
8052           {                                       /* print      */
8053             return KEY_print;
8054           }
8055
8056           goto unknown;
8057
8058         case 'r':
8059           switch (name[1])
8060           {
8061             case 'e':
8062               if (name[2] == 's' &&
8063                   name[3] == 'e' &&
8064                   name[4] == 't')
8065               {                                   /* reset      */
8066                 return -KEY_reset;
8067               }
8068
8069               goto unknown;
8070
8071             case 'm':
8072               if (name[2] == 'd' &&
8073                   name[3] == 'i' &&
8074                   name[4] == 'r')
8075               {                                   /* rmdir      */
8076                 return -KEY_rmdir;
8077               }
8078
8079               goto unknown;
8080
8081             default:
8082               goto unknown;
8083           }
8084
8085         case 's':
8086           switch (name[1])
8087           {
8088             case 'e':
8089               if (name[2] == 'm' &&
8090                   name[3] == 'o' &&
8091                   name[4] == 'p')
8092               {                                   /* semop      */
8093                 return -KEY_semop;
8094               }
8095
8096               goto unknown;
8097
8098             case 'h':
8099               if (name[2] == 'i' &&
8100                   name[3] == 'f' &&
8101                   name[4] == 't')
8102               {                                   /* shift      */
8103                 return -KEY_shift;
8104               }
8105
8106               goto unknown;
8107
8108             case 'l':
8109               if (name[2] == 'e' &&
8110                   name[3] == 'e' &&
8111                   name[4] == 'p')
8112               {                                   /* sleep      */
8113                 return -KEY_sleep;
8114               }
8115
8116               goto unknown;
8117
8118             case 'p':
8119               if (name[2] == 'l' &&
8120                   name[3] == 'i' &&
8121                   name[4] == 't')
8122               {                                   /* split      */
8123                 return KEY_split;
8124               }
8125
8126               goto unknown;
8127
8128             case 'r':
8129               if (name[2] == 'a' &&
8130                   name[3] == 'n' &&
8131                   name[4] == 'd')
8132               {                                   /* srand      */
8133                 return -KEY_srand;
8134               }
8135
8136               goto unknown;
8137
8138             case 't':
8139               switch (name[2])
8140               {
8141                 case 'a':
8142                   if (name[3] == 't' &&
8143                       name[4] == 'e')
8144                   {                               /* state      */
8145                     return (FEATURE_IS_ENABLED("state") ? KEY_state : 0);
8146                   }
8147
8148                   goto unknown;
8149
8150                 case 'u':
8151                   if (name[3] == 'd' &&
8152                       name[4] == 'y')
8153                   {                               /* study      */
8154                     return KEY_study;
8155                   }
8156
8157                   goto unknown;
8158
8159                 default:
8160                   goto unknown;
8161               }
8162
8163             default:
8164               goto unknown;
8165           }
8166
8167         case 't':
8168           if (name[1] == 'i' &&
8169               name[2] == 'm' &&
8170               name[3] == 'e' &&
8171               name[4] == 's')
8172           {                                       /* times      */
8173             return -KEY_times;
8174           }
8175
8176           goto unknown;
8177
8178         case 'u':
8179           switch (name[1])
8180           {
8181             case 'm':
8182               if (name[2] == 'a' &&
8183                   name[3] == 's' &&
8184                   name[4] == 'k')
8185               {                                   /* umask      */
8186                 return -KEY_umask;
8187               }
8188
8189               goto unknown;
8190
8191             case 'n':
8192               switch (name[2])
8193               {
8194                 case 'd':
8195                   if (name[3] == 'e' &&
8196                       name[4] == 'f')
8197                   {                               /* undef      */
8198                     return KEY_undef;
8199                   }
8200
8201                   goto unknown;
8202
8203                 case 't':
8204                   if (name[3] == 'i')
8205                   {
8206                     switch (name[4])
8207                     {
8208                       case 'e':
8209                         {                         /* untie      */
8210                           return KEY_untie;
8211                         }
8212
8213                       case 'l':
8214                         {                         /* until      */
8215                           return KEY_until;
8216                         }
8217
8218                       default:
8219                         goto unknown;
8220                     }
8221                   }
8222
8223                   goto unknown;
8224
8225                 default:
8226                   goto unknown;
8227               }
8228
8229             case 't':
8230               if (name[2] == 'i' &&
8231                   name[3] == 'm' &&
8232                   name[4] == 'e')
8233               {                                   /* utime      */
8234                 return -KEY_utime;
8235               }
8236
8237               goto unknown;
8238
8239             default:
8240               goto unknown;
8241           }
8242
8243         case 'w':
8244           switch (name[1])
8245           {
8246             case 'h':
8247               if (name[2] == 'i' &&
8248                   name[3] == 'l' &&
8249                   name[4] == 'e')
8250               {                                   /* while      */
8251                 return KEY_while;
8252               }
8253
8254               goto unknown;
8255
8256             case 'r':
8257               if (name[2] == 'i' &&
8258                   name[3] == 't' &&
8259                   name[4] == 'e')
8260               {                                   /* write      */
8261                 return -KEY_write;
8262               }
8263
8264               goto unknown;
8265
8266             default:
8267               goto unknown;
8268           }
8269
8270         default:
8271           goto unknown;
8272       }
8273
8274     case 6: /* 33 tokens of length 6 */
8275       switch (name[0])
8276       {
8277         case 'a':
8278           if (name[1] == 'c' &&
8279               name[2] == 'c' &&
8280               name[3] == 'e' &&
8281               name[4] == 'p' &&
8282               name[5] == 't')
8283           {                                       /* accept     */
8284             return -KEY_accept;
8285           }
8286
8287           goto unknown;
8288
8289         case 'c':
8290           switch (name[1])
8291           {
8292             case 'a':
8293               if (name[2] == 'l' &&
8294                   name[3] == 'l' &&
8295                   name[4] == 'e' &&
8296                   name[5] == 'r')
8297               {                                   /* caller     */
8298                 return -KEY_caller;
8299               }
8300
8301               goto unknown;
8302
8303             case 'h':
8304               if (name[2] == 'r' &&
8305                   name[3] == 'o' &&
8306                   name[4] == 'o' &&
8307                   name[5] == 't')
8308               {                                   /* chroot     */
8309                 return -KEY_chroot;
8310               }
8311
8312               goto unknown;
8313
8314             default:
8315               goto unknown;
8316           }
8317
8318         case 'd':
8319           if (name[1] == 'e' &&
8320               name[2] == 'l' &&
8321               name[3] == 'e' &&
8322               name[4] == 't' &&
8323               name[5] == 'e')
8324           {                                       /* delete     */
8325             return KEY_delete;
8326           }
8327
8328           goto unknown;
8329
8330         case 'e':
8331           switch (name[1])
8332           {
8333             case 'l':
8334               if (name[2] == 's' &&
8335                   name[3] == 'e' &&
8336                   name[4] == 'i' &&
8337                   name[5] == 'f')
8338               {                                   /* elseif     */
8339                 if(ckWARN_d(WARN_SYNTAX))
8340                   Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "elseif should be elsif");
8341               }
8342
8343               goto unknown;
8344
8345             case 'x':
8346               if (name[2] == 'i' &&
8347                   name[3] == 's' &&
8348                   name[4] == 't' &&
8349                   name[5] == 's')
8350               {                                   /* exists     */
8351                 return KEY_exists;
8352               }
8353
8354               goto unknown;
8355
8356             default:
8357               goto unknown;
8358           }
8359
8360         case 'f':
8361           switch (name[1])
8362           {
8363             case 'i':
8364               if (name[2] == 'l' &&
8365                   name[3] == 'e' &&
8366                   name[4] == 'n' &&
8367                   name[5] == 'o')
8368               {                                   /* fileno     */
8369                 return -KEY_fileno;
8370               }
8371
8372               goto unknown;
8373
8374             case 'o':
8375               if (name[2] == 'r' &&
8376                   name[3] == 'm' &&
8377                   name[4] == 'a' &&
8378                   name[5] == 't')
8379               {                                   /* format     */
8380                 return KEY_format;
8381               }
8382
8383               goto unknown;
8384
8385             default:
8386               goto unknown;
8387           }
8388
8389         case 'g':
8390           if (name[1] == 'm' &&
8391               name[2] == 't' &&
8392               name[3] == 'i' &&
8393               name[4] == 'm' &&
8394               name[5] == 'e')
8395           {                                       /* gmtime     */
8396             return -KEY_gmtime;
8397           }
8398
8399           goto unknown;
8400
8401         case 'l':
8402           switch (name[1])
8403           {
8404             case 'e':
8405               if (name[2] == 'n' &&
8406                   name[3] == 'g' &&
8407                   name[4] == 't' &&
8408                   name[5] == 'h')
8409               {                                   /* length     */
8410                 return -KEY_length;
8411               }
8412
8413               goto unknown;
8414
8415             case 'i':
8416               if (name[2] == 's' &&
8417                   name[3] == 't' &&
8418                   name[4] == 'e' &&
8419                   name[5] == 'n')
8420               {                                   /* listen     */
8421                 return -KEY_listen;
8422               }
8423
8424               goto unknown;
8425
8426             default:
8427               goto unknown;
8428           }
8429
8430         case 'm':
8431           if (name[1] == 's' &&
8432               name[2] == 'g')
8433           {
8434             switch (name[3])
8435             {
8436               case 'c':
8437                 if (name[4] == 't' &&
8438                     name[5] == 'l')
8439                 {                                 /* msgctl     */
8440                   return -KEY_msgctl;
8441                 }
8442
8443                 goto unknown;
8444
8445               case 'g':
8446                 if (name[4] == 'e' &&
8447                     name[5] == 't')
8448                 {                                 /* msgget     */
8449                   return -KEY_msgget;
8450                 }
8451
8452                 goto unknown;
8453
8454               case 'r':
8455                 if (name[4] == 'c' &&
8456                     name[5] == 'v')
8457                 {                                 /* msgrcv     */
8458                   return -KEY_msgrcv;
8459                 }
8460
8461                 goto unknown;
8462
8463               case 's':
8464                 if (name[4] == 'n' &&
8465                     name[5] == 'd')
8466                 {                                 /* msgsnd     */
8467                   return -KEY_msgsnd;
8468                 }
8469
8470                 goto unknown;
8471
8472               default:
8473                 goto unknown;
8474             }
8475           }
8476
8477           goto unknown;
8478
8479         case 'p':
8480           if (name[1] == 'r' &&
8481               name[2] == 'i' &&
8482               name[3] == 'n' &&
8483               name[4] == 't' &&
8484               name[5] == 'f')
8485           {                                       /* printf     */
8486             return KEY_printf;
8487           }
8488
8489           goto unknown;
8490
8491         case 'r':
8492           switch (name[1])
8493           {
8494             case 'e':
8495               switch (name[2])
8496               {
8497                 case 'n':
8498                   if (name[3] == 'a' &&
8499                       name[4] == 'm' &&
8500                       name[5] == 'e')
8501                   {                               /* rename     */
8502                     return -KEY_rename;
8503                   }
8504
8505                   goto unknown;
8506
8507                 case 't':
8508                   if (name[3] == 'u' &&
8509                       name[4] == 'r' &&
8510                       name[5] == 'n')
8511                   {                               /* return     */
8512                     return KEY_return;
8513                   }
8514
8515                   goto unknown;
8516
8517                 default:
8518                   goto unknown;
8519               }
8520
8521             case 'i':
8522               if (name[2] == 'n' &&
8523                   name[3] == 'd' &&
8524                   name[4] == 'e' &&
8525                   name[5] == 'x')
8526               {                                   /* rindex     */
8527                 return -KEY_rindex;
8528               }
8529
8530               goto unknown;
8531
8532             default:
8533               goto unknown;
8534           }
8535
8536         case 's':
8537           switch (name[1])
8538           {
8539             case 'c':
8540               if (name[2] == 'a' &&
8541                   name[3] == 'l' &&
8542                   name[4] == 'a' &&
8543                   name[5] == 'r')
8544               {                                   /* scalar     */
8545                 return KEY_scalar;
8546               }
8547
8548               goto unknown;
8549
8550             case 'e':
8551               switch (name[2])
8552               {
8553                 case 'l':
8554                   if (name[3] == 'e' &&
8555                       name[4] == 'c' &&
8556                       name[5] == 't')
8557                   {                               /* select     */
8558                     return -KEY_select;
8559                   }
8560
8561                   goto unknown;
8562
8563                 case 'm':
8564                   switch (name[3])
8565                   {
8566                     case 'c':
8567                       if (name[4] == 't' &&
8568                           name[5] == 'l')
8569                       {                           /* semctl     */
8570                         return -KEY_semctl;
8571                       }
8572
8573                       goto unknown;
8574
8575                     case 'g':
8576                       if (name[4] == 'e' &&
8577                           name[5] == 't')
8578                       {                           /* semget     */
8579                         return -KEY_semget;
8580                       }
8581
8582                       goto unknown;
8583
8584                     default:
8585                       goto unknown;
8586                   }
8587
8588                 default:
8589                   goto unknown;
8590               }
8591
8592             case 'h':
8593               if (name[2] == 'm')
8594               {
8595                 switch (name[3])
8596                 {
8597                   case 'c':
8598                     if (name[4] == 't' &&
8599                         name[5] == 'l')
8600                     {                             /* shmctl     */
8601                       return -KEY_shmctl;
8602                     }
8603
8604                     goto unknown;
8605
8606                   case 'g':
8607                     if (name[4] == 'e' &&
8608                         name[5] == 't')
8609                     {                             /* shmget     */
8610                       return -KEY_shmget;
8611                     }
8612
8613                     goto unknown;
8614
8615                   default:
8616                     goto unknown;
8617                 }
8618               }
8619
8620               goto unknown;
8621
8622             case 'o':
8623               if (name[2] == 'c' &&
8624                   name[3] == 'k' &&
8625                   name[4] == 'e' &&
8626                   name[5] == 't')
8627               {                                   /* socket     */
8628                 return -KEY_socket;
8629               }
8630
8631               goto unknown;
8632
8633             case 'p':
8634               if (name[2] == 'l' &&
8635                   name[3] == 'i' &&
8636                   name[4] == 'c' &&
8637                   name[5] == 'e')
8638               {                                   /* splice     */
8639                 return -KEY_splice;
8640               }
8641
8642               goto unknown;
8643
8644             case 'u':
8645               if (name[2] == 'b' &&
8646                   name[3] == 's' &&
8647                   name[4] == 't' &&
8648                   name[5] == 'r')
8649               {                                   /* substr     */
8650                 return -KEY_substr;
8651               }
8652
8653               goto unknown;
8654
8655             case 'y':
8656               if (name[2] == 's' &&
8657                   name[3] == 't' &&
8658                   name[4] == 'e' &&
8659                   name[5] == 'm')
8660               {                                   /* system     */
8661                 return -KEY_system;
8662               }
8663
8664               goto unknown;
8665
8666             default:
8667               goto unknown;
8668           }
8669
8670         case 'u':
8671           if (name[1] == 'n')
8672           {
8673             switch (name[2])
8674             {
8675               case 'l':
8676                 switch (name[3])
8677                 {
8678                   case 'e':
8679                     if (name[4] == 's' &&
8680                         name[5] == 's')
8681                     {                             /* unless     */
8682                       return KEY_unless;
8683                     }
8684
8685                     goto unknown;
8686
8687                   case 'i':
8688                     if (name[4] == 'n' &&
8689                         name[5] == 'k')
8690                     {                             /* unlink     */
8691                       return -KEY_unlink;
8692                     }
8693
8694                     goto unknown;
8695
8696                   default:
8697                     goto unknown;
8698                 }
8699
8700               case 'p':
8701                 if (name[3] == 'a' &&
8702                     name[4] == 'c' &&
8703                     name[5] == 'k')
8704                 {                                 /* unpack     */
8705                   return -KEY_unpack;
8706                 }
8707
8708                 goto unknown;
8709
8710               default:
8711                 goto unknown;
8712             }
8713           }
8714
8715           goto unknown;
8716
8717         case 'v':
8718           if (name[1] == 'a' &&
8719               name[2] == 'l' &&
8720               name[3] == 'u' &&
8721               name[4] == 'e' &&
8722               name[5] == 's')
8723           {                                       /* values     */
8724             return -KEY_values;
8725           }
8726
8727           goto unknown;
8728
8729         default:
8730           goto unknown;
8731       }
8732
8733     case 7: /* 29 tokens of length 7 */
8734       switch (name[0])
8735       {
8736         case 'D':
8737           if (name[1] == 'E' &&
8738               name[2] == 'S' &&
8739               name[3] == 'T' &&
8740               name[4] == 'R' &&
8741               name[5] == 'O' &&
8742               name[6] == 'Y')
8743           {                                       /* DESTROY    */
8744             return KEY_DESTROY;
8745           }
8746
8747           goto unknown;
8748
8749         case '_':
8750           if (name[1] == '_' &&
8751               name[2] == 'E' &&
8752               name[3] == 'N' &&
8753               name[4] == 'D' &&
8754               name[5] == '_' &&
8755               name[6] == '_')
8756           {                                       /* __END__    */
8757             return KEY___END__;
8758           }
8759
8760           goto unknown;
8761
8762         case 'b':
8763           if (name[1] == 'i' &&
8764               name[2] == 'n' &&
8765               name[3] == 'm' &&
8766               name[4] == 'o' &&
8767               name[5] == 'd' &&
8768               name[6] == 'e')
8769           {                                       /* binmode    */
8770             return -KEY_binmode;
8771           }
8772
8773           goto unknown;
8774
8775         case 'c':
8776           if (name[1] == 'o' &&
8777               name[2] == 'n' &&
8778               name[3] == 'n' &&
8779               name[4] == 'e' &&
8780               name[5] == 'c' &&
8781               name[6] == 't')
8782           {                                       /* connect    */
8783             return -KEY_connect;
8784           }
8785
8786           goto unknown;
8787
8788         case 'd':
8789           switch (name[1])
8790           {
8791             case 'b':
8792               if (name[2] == 'm' &&
8793                   name[3] == 'o' &&
8794                   name[4] == 'p' &&
8795                   name[5] == 'e' &&
8796                   name[6] == 'n')
8797               {                                   /* dbmopen    */
8798                 return -KEY_dbmopen;
8799               }
8800
8801               goto unknown;
8802
8803             case 'e':
8804               if (name[2] == 'f')
8805               {
8806                 switch (name[3])
8807                 {
8808                   case 'a':
8809                     if (name[4] == 'u' &&
8810                         name[5] == 'l' &&
8811                         name[6] == 't')
8812                     {                             /* default    */
8813                       return (FEATURE_IS_ENABLED("switch") ? KEY_default : 0);
8814                     }
8815
8816                     goto unknown;
8817
8818                   case 'i':
8819                     if (name[4] == 'n' &&
8820                         name[5] == 'e' &&
8821                         name[6] == 'd')
8822                     {                             /* defined    */
8823                       return KEY_defined;
8824                     }
8825
8826                     goto unknown;
8827
8828                   default:
8829                     goto unknown;
8830                 }
8831               }
8832
8833               goto unknown;
8834
8835             default:
8836               goto unknown;
8837           }
8838
8839         case 'f':
8840           if (name[1] == 'o' &&
8841               name[2] == 'r' &&
8842               name[3] == 'e' &&
8843               name[4] == 'a' &&
8844               name[5] == 'c' &&
8845               name[6] == 'h')
8846           {                                       /* foreach    */
8847             return KEY_foreach;
8848           }
8849
8850           goto unknown;
8851
8852         case 'g':
8853           if (name[1] == 'e' &&
8854               name[2] == 't' &&
8855               name[3] == 'p')
8856           {
8857             switch (name[4])
8858             {
8859               case 'g':
8860                 if (name[5] == 'r' &&
8861                     name[6] == 'p')
8862                 {                                 /* getpgrp    */
8863                   return -KEY_getpgrp;
8864                 }
8865
8866                 goto unknown;
8867
8868               case 'p':
8869                 if (name[5] == 'i' &&
8870                     name[6] == 'd')
8871                 {                                 /* getppid    */
8872                   return -KEY_getppid;
8873                 }
8874
8875                 goto unknown;
8876
8877               default:
8878                 goto unknown;
8879             }
8880           }
8881
8882           goto unknown;
8883
8884         case 'l':
8885           if (name[1] == 'c' &&
8886               name[2] == 'f' &&
8887               name[3] == 'i' &&
8888               name[4] == 'r' &&
8889               name[5] == 's' &&
8890               name[6] == 't')
8891           {                                       /* lcfirst    */
8892             return -KEY_lcfirst;
8893           }
8894
8895           goto unknown;
8896
8897         case 'o':
8898           if (name[1] == 'p' &&
8899               name[2] == 'e' &&
8900               name[3] == 'n' &&
8901               name[4] == 'd' &&
8902               name[5] == 'i' &&
8903               name[6] == 'r')
8904           {                                       /* opendir    */
8905             return -KEY_opendir;
8906           }
8907
8908           goto unknown;
8909
8910         case 'p':
8911           if (name[1] == 'a' &&
8912               name[2] == 'c' &&
8913               name[3] == 'k' &&
8914               name[4] == 'a' &&
8915               name[5] == 'g' &&
8916               name[6] == 'e')
8917           {                                       /* package    */
8918             return KEY_package;
8919           }
8920
8921           goto unknown;
8922
8923         case 'r':
8924           if (name[1] == 'e')
8925           {
8926             switch (name[2])
8927             {
8928               case 'a':
8929                 if (name[3] == 'd' &&
8930                     name[4] == 'd' &&
8931                     name[5] == 'i' &&
8932                     name[6] == 'r')
8933                 {                                 /* readdir    */
8934                   return -KEY_readdir;
8935                 }
8936
8937                 goto unknown;
8938
8939               case 'q':
8940                 if (name[3] == 'u' &&
8941                     name[4] == 'i' &&
8942                     name[5] == 'r' &&
8943                     name[6] == 'e')
8944                 {                                 /* require    */
8945                   return KEY_require;
8946                 }
8947
8948                 goto unknown;
8949
8950               case 'v':
8951                 if (name[3] == 'e' &&
8952                     name[4] == 'r' &&
8953                     name[5] == 's' &&
8954                     name[6] == 'e')
8955                 {                                 /* reverse    */
8956                   return -KEY_reverse;
8957                 }
8958
8959                 goto unknown;
8960
8961               default:
8962                 goto unknown;
8963             }
8964           }
8965
8966           goto unknown;
8967
8968         case 's':
8969           switch (name[1])
8970           {
8971             case 'e':
8972               switch (name[2])
8973               {
8974                 case 'e':
8975                   if (name[3] == 'k' &&
8976                       name[4] == 'd' &&
8977                       name[5] == 'i' &&
8978                       name[6] == 'r')
8979                   {                               /* seekdir    */
8980                     return -KEY_seekdir;
8981                   }
8982
8983                   goto unknown;
8984
8985                 case 't':
8986                   if (name[3] == 'p' &&
8987                       name[4] == 'g' &&
8988                       name[5] == 'r' &&
8989                       name[6] == 'p')
8990                   {                               /* setpgrp    */
8991                     return -KEY_setpgrp;
8992                   }
8993
8994                   goto unknown;
8995
8996                 default:
8997                   goto unknown;
8998               }
8999
9000             case 'h':
9001               if (name[2] == 'm' &&
9002                   name[3] == 'r' &&
9003                   name[4] == 'e' &&
9004                   name[5] == 'a' &&
9005                   name[6] == 'd')
9006               {                                   /* shmread    */
9007                 return -KEY_shmread;
9008               }
9009
9010               goto unknown;
9011
9012             case 'p':
9013               if (name[2] == 'r' &&
9014                   name[3] == 'i' &&
9015                   name[4] == 'n' &&
9016                   name[5] == 't' &&
9017                   name[6] == 'f')
9018               {                                   /* sprintf    */
9019                 return -KEY_sprintf;
9020               }
9021
9022               goto unknown;
9023
9024             case 'y':
9025               switch (name[2])
9026               {
9027                 case 'm':
9028                   if (name[3] == 'l' &&
9029                       name[4] == 'i' &&
9030                       name[5] == 'n' &&
9031                       name[6] == 'k')
9032                   {                               /* symlink    */
9033                     return -KEY_symlink;
9034                   }
9035
9036                   goto unknown;
9037
9038                 case 's':
9039                   switch (name[3])
9040                   {
9041                     case 'c':
9042                       if (name[4] == 'a' &&
9043                           name[5] == 'l' &&
9044                           name[6] == 'l')
9045                       {                           /* syscall    */
9046                         return -KEY_syscall;
9047                       }
9048
9049                       goto unknown;
9050
9051                     case 'o':
9052                       if (name[4] == 'p' &&
9053                           name[5] == 'e' &&
9054                           name[6] == 'n')
9055                       {                           /* sysopen    */
9056                         return -KEY_sysopen;
9057                       }
9058
9059                       goto unknown;
9060
9061                     case 'r':
9062                       if (name[4] == 'e' &&
9063                           name[5] == 'a' &&
9064                           name[6] == 'd')
9065                       {                           /* sysread    */
9066                         return -KEY_sysread;
9067                       }
9068
9069                       goto unknown;
9070
9071                     case 's':
9072                       if (name[4] == 'e' &&
9073                           name[5] == 'e' &&
9074                           name[6] == 'k')
9075                       {                           /* sysseek    */
9076                         return -KEY_sysseek;
9077                       }
9078
9079                       goto unknown;
9080
9081                     default:
9082                       goto unknown;
9083                   }
9084
9085                 default:
9086                   goto unknown;
9087               }
9088
9089             default:
9090               goto unknown;
9091           }
9092
9093         case 't':
9094           if (name[1] == 'e' &&
9095               name[2] == 'l' &&
9096               name[3] == 'l' &&
9097               name[4] == 'd' &&
9098               name[5] == 'i' &&
9099               name[6] == 'r')
9100           {                                       /* telldir    */
9101             return -KEY_telldir;
9102           }
9103
9104           goto unknown;
9105
9106         case 'u':
9107           switch (name[1])
9108           {
9109             case 'c':
9110               if (name[2] == 'f' &&
9111                   name[3] == 'i' &&
9112                   name[4] == 'r' &&
9113                   name[5] == 's' &&
9114                   name[6] == 't')
9115               {                                   /* ucfirst    */
9116                 return -KEY_ucfirst;
9117               }
9118
9119               goto unknown;
9120
9121             case 'n':
9122               if (name[2] == 's' &&
9123                   name[3] == 'h' &&
9124                   name[4] == 'i' &&
9125                   name[5] == 'f' &&
9126                   name[6] == 't')
9127               {                                   /* unshift    */
9128                 return -KEY_unshift;
9129               }
9130
9131               goto unknown;
9132
9133             default:
9134               goto unknown;
9135           }
9136
9137         case 'w':
9138           if (name[1] == 'a' &&
9139               name[2] == 'i' &&
9140               name[3] == 't' &&
9141               name[4] == 'p' &&
9142               name[5] == 'i' &&
9143               name[6] == 'd')
9144           {                                       /* waitpid    */
9145             return -KEY_waitpid;
9146           }
9147
9148           goto unknown;
9149
9150         default:
9151           goto unknown;
9152       }
9153
9154     case 8: /* 26 tokens of length 8 */
9155       switch (name[0])
9156       {
9157         case 'A':
9158           if (name[1] == 'U' &&
9159               name[2] == 'T' &&
9160               name[3] == 'O' &&
9161               name[4] == 'L' &&
9162               name[5] == 'O' &&
9163               name[6] == 'A' &&
9164               name[7] == 'D')
9165           {                                       /* AUTOLOAD   */
9166             return KEY_AUTOLOAD;
9167           }
9168
9169           goto unknown;
9170
9171         case '_':
9172           if (name[1] == '_')
9173           {
9174             switch (name[2])
9175             {
9176               case 'D':
9177                 if (name[3] == 'A' &&
9178                     name[4] == 'T' &&
9179                     name[5] == 'A' &&
9180                     name[6] == '_' &&
9181                     name[7] == '_')
9182                 {                                 /* __DATA__   */
9183                   return KEY___DATA__;
9184                 }
9185
9186                 goto unknown;
9187
9188               case 'F':
9189                 if (name[3] == 'I' &&
9190                     name[4] == 'L' &&
9191                     name[5] == 'E' &&
9192                     name[6] == '_' &&
9193                     name[7] == '_')
9194                 {                                 /* __FILE__   */
9195                   return -KEY___FILE__;
9196                 }
9197
9198                 goto unknown;
9199
9200               case 'L':
9201                 if (name[3] == 'I' &&
9202                     name[4] == 'N' &&
9203                     name[5] == 'E' &&
9204                     name[6] == '_' &&
9205                     name[7] == '_')
9206                 {                                 /* __LINE__   */
9207                   return -KEY___LINE__;
9208                 }
9209
9210                 goto unknown;
9211
9212               default:
9213                 goto unknown;
9214             }
9215           }
9216
9217           goto unknown;
9218
9219         case 'c':
9220           switch (name[1])
9221           {
9222             case 'l':
9223               if (name[2] == 'o' &&
9224                   name[3] == 's' &&
9225                   name[4] == 'e' &&
9226                   name[5] == 'd' &&
9227                   name[6] == 'i' &&
9228                   name[7] == 'r')
9229               {                                   /* closedir   */
9230                 return -KEY_closedir;
9231               }
9232
9233               goto unknown;
9234
9235             case 'o':
9236               if (name[2] == 'n' &&
9237                   name[3] == 't' &&
9238                   name[4] == 'i' &&
9239                   name[5] == 'n' &&
9240                   name[6] == 'u' &&
9241                   name[7] == 'e')
9242               {                                   /* continue   */
9243                 return -KEY_continue;
9244               }
9245
9246               goto unknown;
9247
9248             default:
9249               goto unknown;
9250           }
9251
9252         case 'd':
9253           if (name[1] == 'b' &&
9254               name[2] == 'm' &&
9255               name[3] == 'c' &&
9256               name[4] == 'l' &&
9257               name[5] == 'o' &&
9258               name[6] == 's' &&
9259               name[7] == 'e')
9260           {                                       /* dbmclose   */
9261             return -KEY_dbmclose;
9262           }
9263
9264           goto unknown;
9265
9266         case 'e':
9267           if (name[1] == 'n' &&
9268               name[2] == 'd')
9269           {
9270             switch (name[3])
9271             {
9272               case 'g':
9273                 if (name[4] == 'r' &&
9274                     name[5] == 'e' &&
9275                     name[6] == 'n' &&
9276                     name[7] == 't')
9277                 {                                 /* endgrent   */
9278                   return -KEY_endgrent;
9279                 }
9280
9281                 goto unknown;
9282
9283               case 'p':
9284                 if (name[4] == 'w' &&
9285                     name[5] == 'e' &&
9286                     name[6] == 'n' &&
9287                     name[7] == 't')
9288                 {                                 /* endpwent   */
9289                   return -KEY_endpwent;
9290                 }
9291
9292                 goto unknown;
9293
9294               default:
9295                 goto unknown;
9296             }
9297           }
9298
9299           goto unknown;
9300
9301         case 'f':
9302           if (name[1] == 'o' &&
9303               name[2] == 'r' &&
9304               name[3] == 'm' &&
9305               name[4] == 'l' &&
9306               name[5] == 'i' &&
9307               name[6] == 'n' &&
9308               name[7] == 'e')
9309           {                                       /* formline   */
9310             return -KEY_formline;
9311           }
9312
9313           goto unknown;
9314
9315         case 'g':
9316           if (name[1] == 'e' &&
9317               name[2] == 't')
9318           {
9319             switch (name[3])
9320             {
9321               case 'g':
9322                 if (name[4] == 'r')
9323                 {
9324                   switch (name[5])
9325                   {
9326                     case 'e':
9327                       if (name[6] == 'n' &&
9328                           name[7] == 't')
9329                       {                           /* getgrent   */
9330                         return -KEY_getgrent;
9331                       }
9332
9333                       goto unknown;
9334
9335                     case 'g':
9336                       if (name[6] == 'i' &&
9337                           name[7] == 'd')
9338                       {                           /* getgrgid   */
9339                         return -KEY_getgrgid;
9340                       }
9341
9342                       goto unknown;
9343
9344                     case 'n':
9345                       if (name[6] == 'a' &&
9346                           name[7] == 'm')
9347                       {                           /* getgrnam   */
9348                         return -KEY_getgrnam;
9349                       }
9350
9351                       goto unknown;
9352
9353                     default:
9354                       goto unknown;
9355                   }
9356                 }
9357
9358                 goto unknown;
9359
9360               case 'l':
9361                 if (name[4] == 'o' &&
9362                     name[5] == 'g' &&
9363                     name[6] == 'i' &&
9364                     name[7] == 'n')
9365                 {                                 /* getlogin   */
9366                   return -KEY_getlogin;
9367                 }
9368
9369                 goto unknown;
9370
9371               case 'p':
9372                 if (name[4] == 'w')
9373                 {
9374                   switch (name[5])
9375                   {
9376                     case 'e':
9377                       if (name[6] == 'n' &&
9378                           name[7] == 't')
9379                       {                           /* getpwent   */
9380                         return -KEY_getpwent;
9381                       }
9382
9383                       goto unknown;
9384
9385                     case 'n':
9386                       if (name[6] == 'a' &&
9387                           name[7] == 'm')
9388                       {                           /* getpwnam   */
9389                         return -KEY_getpwnam;
9390                       }
9391
9392                       goto unknown;
9393
9394                     case 'u':
9395                       if (name[6] == 'i' &&
9396                           name[7] == 'd')
9397                       {                           /* getpwuid   */
9398                         return -KEY_getpwuid;
9399                       }
9400
9401                       goto unknown;
9402
9403                     default:
9404                       goto unknown;
9405                   }
9406                 }
9407
9408                 goto unknown;
9409
9410               default:
9411                 goto unknown;
9412             }
9413           }
9414
9415           goto unknown;
9416
9417         case 'r':
9418           if (name[1] == 'e' &&
9419               name[2] == 'a' &&
9420               name[3] == 'd')
9421           {
9422             switch (name[4])
9423             {
9424               case 'l':
9425                 if (name[5] == 'i' &&
9426                     name[6] == 'n')
9427                 {
9428                   switch (name[7])
9429                   {
9430                     case 'e':
9431                       {                           /* readline   */
9432                         return -KEY_readline;
9433                       }
9434
9435                     case 'k':
9436                       {                           /* readlink   */
9437                         return -KEY_readlink;
9438                       }
9439
9440                     default:
9441                       goto unknown;
9442                   }
9443                 }
9444
9445                 goto unknown;
9446
9447               case 'p':
9448                 if (name[5] == 'i' &&
9449                     name[6] == 'p' &&
9450                     name[7] == 'e')
9451                 {                                 /* readpipe   */
9452                   return -KEY_readpipe;
9453                 }
9454
9455                 goto unknown;
9456
9457               default:
9458                 goto unknown;
9459             }
9460           }
9461
9462           goto unknown;
9463
9464         case 's':
9465           switch (name[1])
9466           {
9467             case 'e':
9468               if (name[2] == 't')
9469               {
9470                 switch (name[3])
9471                 {
9472                   case 'g':
9473                     if (name[4] == 'r' &&
9474                         name[5] == 'e' &&
9475                         name[6] == 'n' &&
9476                         name[7] == 't')
9477                     {                             /* setgrent   */
9478                       return -KEY_setgrent;
9479                     }
9480
9481                     goto unknown;
9482
9483                   case 'p':
9484                     if (name[4] == 'w' &&
9485                         name[5] == 'e' &&
9486                         name[6] == 'n' &&
9487                         name[7] == 't')
9488                     {                             /* setpwent   */
9489                       return -KEY_setpwent;
9490                     }
9491
9492                     goto unknown;
9493
9494                   default:
9495                     goto unknown;
9496                 }
9497               }
9498
9499               goto unknown;
9500
9501             case 'h':
9502               switch (name[2])
9503               {
9504                 case 'm':
9505                   if (name[3] == 'w' &&
9506                       name[4] == 'r' &&
9507                       name[5] == 'i' &&
9508                       name[6] == 't' &&
9509                       name[7] == 'e')
9510                   {                               /* shmwrite   */
9511                     return -KEY_shmwrite;
9512                   }
9513
9514                   goto unknown;
9515
9516                 case 'u':
9517                   if (name[3] == 't' &&
9518                       name[4] == 'd' &&
9519                       name[5] == 'o' &&
9520                       name[6] == 'w' &&
9521                       name[7] == 'n')
9522                   {                               /* shutdown   */
9523                     return -KEY_shutdown;
9524                   }
9525
9526                   goto unknown;
9527
9528                 default:
9529                   goto unknown;
9530               }
9531
9532             case 'y':
9533               if (name[2] == 's' &&
9534                   name[3] == 'w' &&
9535                   name[4] == 'r' &&
9536                   name[5] == 'i' &&
9537                   name[6] == 't' &&
9538                   name[7] == 'e')
9539               {                                   /* syswrite   */
9540                 return -KEY_syswrite;
9541               }
9542
9543               goto unknown;
9544
9545             default:
9546               goto unknown;
9547           }
9548
9549         case 't':
9550           if (name[1] == 'r' &&
9551               name[2] == 'u' &&
9552               name[3] == 'n' &&
9553               name[4] == 'c' &&
9554               name[5] == 'a' &&
9555               name[6] == 't' &&
9556               name[7] == 'e')
9557           {                                       /* truncate   */
9558             return -KEY_truncate;
9559           }
9560
9561           goto unknown;
9562
9563         default:
9564           goto unknown;
9565       }
9566
9567     case 9: /* 8 tokens of length 9 */
9568       switch (name[0])
9569       {
9570         case 'e':
9571           if (name[1] == 'n' &&
9572               name[2] == 'd' &&
9573               name[3] == 'n' &&
9574               name[4] == 'e' &&
9575               name[5] == 't' &&
9576               name[6] == 'e' &&
9577               name[7] == 'n' &&
9578               name[8] == 't')
9579           {                                       /* endnetent  */
9580             return -KEY_endnetent;
9581           }
9582
9583           goto unknown;
9584
9585         case 'g':
9586           if (name[1] == 'e' &&
9587               name[2] == 't' &&
9588               name[3] == 'n' &&
9589               name[4] == 'e' &&
9590               name[5] == 't' &&
9591               name[6] == 'e' &&
9592               name[7] == 'n' &&
9593               name[8] == 't')
9594           {                                       /* getnetent  */
9595             return -KEY_getnetent;
9596           }
9597
9598           goto unknown;
9599
9600         case 'l':
9601           if (name[1] == 'o' &&
9602               name[2] == 'c' &&
9603               name[3] == 'a' &&
9604               name[4] == 'l' &&
9605               name[5] == 't' &&
9606               name[6] == 'i' &&
9607               name[7] == 'm' &&
9608               name[8] == 'e')
9609           {                                       /* localtime  */
9610             return -KEY_localtime;
9611           }
9612
9613           goto unknown;
9614
9615         case 'p':
9616           if (name[1] == 'r' &&
9617               name[2] == 'o' &&
9618               name[3] == 't' &&
9619               name[4] == 'o' &&
9620               name[5] == 't' &&
9621               name[6] == 'y' &&
9622               name[7] == 'p' &&
9623               name[8] == 'e')
9624           {                                       /* prototype  */
9625             return KEY_prototype;
9626           }
9627
9628           goto unknown;
9629
9630         case 'q':
9631           if (name[1] == 'u' &&
9632               name[2] == 'o' &&
9633               name[3] == 't' &&
9634               name[4] == 'e' &&
9635               name[5] == 'm' &&
9636               name[6] == 'e' &&
9637               name[7] == 't' &&
9638               name[8] == 'a')
9639           {                                       /* quotemeta  */
9640             return -KEY_quotemeta;
9641           }
9642
9643           goto unknown;
9644
9645         case 'r':
9646           if (name[1] == 'e' &&
9647               name[2] == 'w' &&
9648               name[3] == 'i' &&
9649               name[4] == 'n' &&
9650               name[5] == 'd' &&
9651               name[6] == 'd' &&
9652               name[7] == 'i' &&
9653               name[8] == 'r')
9654           {                                       /* rewinddir  */
9655             return -KEY_rewinddir;
9656           }
9657
9658           goto unknown;
9659
9660         case 's':
9661           if (name[1] == 'e' &&
9662               name[2] == 't' &&
9663               name[3] == 'n' &&
9664               name[4] == 'e' &&
9665               name[5] == 't' &&
9666               name[6] == 'e' &&
9667               name[7] == 'n' &&
9668               name[8] == 't')
9669           {                                       /* setnetent  */
9670             return -KEY_setnetent;
9671           }
9672
9673           goto unknown;
9674
9675         case 'w':
9676           if (name[1] == 'a' &&
9677               name[2] == 'n' &&
9678               name[3] == 't' &&
9679               name[4] == 'a' &&
9680               name[5] == 'r' &&
9681               name[6] == 'r' &&
9682               name[7] == 'a' &&
9683               name[8] == 'y')
9684           {                                       /* wantarray  */
9685             return -KEY_wantarray;
9686           }
9687
9688           goto unknown;
9689
9690         default:
9691           goto unknown;
9692       }
9693
9694     case 10: /* 9 tokens of length 10 */
9695       switch (name[0])
9696       {
9697         case 'e':
9698           if (name[1] == 'n' &&
9699               name[2] == 'd')
9700           {
9701             switch (name[3])
9702             {
9703               case 'h':
9704                 if (name[4] == 'o' &&
9705                     name[5] == 's' &&
9706                     name[6] == 't' &&
9707                     name[7] == 'e' &&
9708                     name[8] == 'n' &&
9709                     name[9] == 't')
9710                 {                                 /* endhostent */
9711                   return -KEY_endhostent;
9712                 }
9713
9714                 goto unknown;
9715
9716               case 's':
9717                 if (name[4] == 'e' &&
9718                     name[5] == 'r' &&
9719                     name[6] == 'v' &&
9720                     name[7] == 'e' &&
9721                     name[8] == 'n' &&
9722                     name[9] == 't')
9723                 {                                 /* endservent */
9724                   return -KEY_endservent;
9725                 }
9726
9727                 goto unknown;
9728
9729               default:
9730                 goto unknown;
9731             }
9732           }
9733
9734           goto unknown;
9735
9736         case 'g':
9737           if (name[1] == 'e' &&
9738               name[2] == 't')
9739           {
9740             switch (name[3])
9741             {
9742               case 'h':
9743                 if (name[4] == 'o' &&
9744                     name[5] == 's' &&
9745                     name[6] == 't' &&
9746                     name[7] == 'e' &&
9747                     name[8] == 'n' &&
9748                     name[9] == 't')
9749                 {                                 /* gethostent */
9750                   return -KEY_gethostent;
9751                 }
9752
9753                 goto unknown;
9754
9755               case 's':
9756                 switch (name[4])
9757                 {
9758                   case 'e':
9759                     if (name[5] == 'r' &&
9760                         name[6] == 'v' &&
9761                         name[7] == 'e' &&
9762                         name[8] == 'n' &&
9763                         name[9] == 't')
9764                     {                             /* getservent */
9765                       return -KEY_getservent;
9766                     }
9767
9768                     goto unknown;
9769
9770                   case 'o':
9771                     if (name[5] == 'c' &&
9772                         name[6] == 'k' &&
9773                         name[7] == 'o' &&
9774                         name[8] == 'p' &&
9775                         name[9] == 't')
9776                     {                             /* getsockopt */
9777                       return -KEY_getsockopt;
9778                     }
9779
9780                     goto unknown;
9781
9782                   default:
9783                     goto unknown;
9784                 }
9785
9786               default:
9787                 goto unknown;
9788             }
9789           }
9790
9791           goto unknown;
9792
9793         case 's':
9794           switch (name[1])
9795           {
9796             case 'e':
9797               if (name[2] == 't')
9798               {
9799                 switch (name[3])
9800                 {
9801                   case 'h':
9802                     if (name[4] == 'o' &&
9803                         name[5] == 's' &&
9804                         name[6] == 't' &&
9805                         name[7] == 'e' &&
9806                         name[8] == 'n' &&
9807                         name[9] == 't')
9808                     {                             /* sethostent */
9809                       return -KEY_sethostent;
9810                     }
9811
9812                     goto unknown;
9813
9814                   case 's':
9815                     switch (name[4])
9816                     {
9817                       case 'e':
9818                         if (name[5] == 'r' &&
9819                             name[6] == 'v' &&
9820                             name[7] == 'e' &&
9821                             name[8] == 'n' &&
9822                             name[9] == 't')
9823                         {                         /* setservent */
9824                           return -KEY_setservent;
9825                         }
9826
9827                         goto unknown;
9828
9829                       case 'o':
9830                         if (name[5] == 'c' &&
9831                             name[6] == 'k' &&
9832                             name[7] == 'o' &&
9833                             name[8] == 'p' &&
9834                             name[9] == 't')
9835                         {                         /* setsockopt */
9836                           return -KEY_setsockopt;
9837                         }
9838
9839                         goto unknown;
9840
9841                       default:
9842                         goto unknown;
9843                     }
9844
9845                   default:
9846                     goto unknown;
9847                 }
9848               }
9849
9850               goto unknown;
9851
9852             case 'o':
9853               if (name[2] == 'c' &&
9854                   name[3] == 'k' &&
9855                   name[4] == 'e' &&
9856                   name[5] == 't' &&
9857                   name[6] == 'p' &&
9858                   name[7] == 'a' &&
9859                   name[8] == 'i' &&
9860                   name[9] == 'r')
9861               {                                   /* socketpair */
9862                 return -KEY_socketpair;
9863               }
9864
9865               goto unknown;
9866
9867             default:
9868               goto unknown;
9869           }
9870
9871         default:
9872           goto unknown;
9873       }
9874
9875     case 11: /* 8 tokens of length 11 */
9876       switch (name[0])
9877       {
9878         case '_':
9879           if (name[1] == '_' &&
9880               name[2] == 'P' &&
9881               name[3] == 'A' &&
9882               name[4] == 'C' &&
9883               name[5] == 'K' &&
9884               name[6] == 'A' &&
9885               name[7] == 'G' &&
9886               name[8] == 'E' &&
9887               name[9] == '_' &&
9888               name[10] == '_')
9889           {                                       /* __PACKAGE__ */
9890             return -KEY___PACKAGE__;
9891           }
9892
9893           goto unknown;
9894
9895         case 'e':
9896           if (name[1] == 'n' &&
9897               name[2] == 'd' &&
9898               name[3] == 'p' &&
9899               name[4] == 'r' &&
9900               name[5] == 'o' &&
9901               name[6] == 't' &&
9902               name[7] == 'o' &&
9903               name[8] == 'e' &&
9904               name[9] == 'n' &&
9905               name[10] == 't')
9906           {                                       /* endprotoent */
9907             return -KEY_endprotoent;
9908           }
9909
9910           goto unknown;
9911
9912         case 'g':
9913           if (name[1] == 'e' &&
9914               name[2] == 't')
9915           {
9916             switch (name[3])
9917             {
9918               case 'p':
9919                 switch (name[4])
9920                 {
9921                   case 'e':
9922                     if (name[5] == 'e' &&
9923                         name[6] == 'r' &&
9924                         name[7] == 'n' &&
9925                         name[8] == 'a' &&
9926                         name[9] == 'm' &&
9927                         name[10] == 'e')
9928                     {                             /* getpeername */
9929                       return -KEY_getpeername;
9930                     }
9931
9932                     goto unknown;
9933
9934                   case 'r':
9935                     switch (name[5])
9936                     {
9937                       case 'i':
9938                         if (name[6] == 'o' &&
9939                             name[7] == 'r' &&
9940                             name[8] == 'i' &&
9941                             name[9] == 't' &&
9942                             name[10] == 'y')
9943                         {                         /* getpriority */
9944                           return -KEY_getpriority;
9945                         }
9946
9947                         goto unknown;
9948
9949                       case 'o':
9950                         if (name[6] == 't' &&
9951                             name[7] == 'o' &&
9952                             name[8] == 'e' &&
9953                             name[9] == 'n' &&
9954                             name[10] == 't')
9955                         {                         /* getprotoent */
9956                           return -KEY_getprotoent;
9957                         }
9958
9959                         goto unknown;
9960
9961                       default:
9962                         goto unknown;
9963                     }
9964
9965                   default:
9966                     goto unknown;
9967                 }
9968
9969               case 's':
9970                 if (name[4] == 'o' &&
9971                     name[5] == 'c' &&
9972                     name[6] == 'k' &&
9973                     name[7] == 'n' &&
9974                     name[8] == 'a' &&
9975                     name[9] == 'm' &&
9976                     name[10] == 'e')
9977                 {                                 /* getsockname */
9978                   return -KEY_getsockname;
9979                 }
9980
9981                 goto unknown;
9982
9983               default:
9984                 goto unknown;
9985             }
9986           }
9987
9988           goto unknown;
9989
9990         case 's':
9991           if (name[1] == 'e' &&
9992               name[2] == 't' &&
9993               name[3] == 'p' &&
9994               name[4] == 'r')
9995           {
9996             switch (name[5])
9997             {
9998               case 'i':
9999                 if (name[6] == 'o' &&
10000                     name[7] == 'r' &&
10001                     name[8] == 'i' &&
10002                     name[9] == 't' &&
10003                     name[10] == 'y')
10004                 {                                 /* setpriority */
10005                   return -KEY_setpriority;
10006                 }
10007
10008                 goto unknown;
10009
10010               case 'o':
10011                 if (name[6] == 't' &&
10012                     name[7] == 'o' &&
10013                     name[8] == 'e' &&
10014                     name[9] == 'n' &&
10015                     name[10] == 't')
10016                 {                                 /* setprotoent */
10017                   return -KEY_setprotoent;
10018                 }
10019
10020                 goto unknown;
10021
10022               default:
10023                 goto unknown;
10024             }
10025           }
10026
10027           goto unknown;
10028
10029         default:
10030           goto unknown;
10031       }
10032
10033     case 12: /* 2 tokens of length 12 */
10034       if (name[0] == 'g' &&
10035           name[1] == 'e' &&
10036           name[2] == 't' &&
10037           name[3] == 'n' &&
10038           name[4] == 'e' &&
10039           name[5] == 't' &&
10040           name[6] == 'b' &&
10041           name[7] == 'y')
10042       {
10043         switch (name[8])
10044         {
10045           case 'a':
10046             if (name[9] == 'd' &&
10047                 name[10] == 'd' &&
10048                 name[11] == 'r')
10049             {                                     /* getnetbyaddr */
10050               return -KEY_getnetbyaddr;
10051             }
10052
10053             goto unknown;
10054
10055           case 'n':
10056             if (name[9] == 'a' &&
10057                 name[10] == 'm' &&
10058                 name[11] == 'e')
10059             {                                     /* getnetbyname */
10060               return -KEY_getnetbyname;
10061             }
10062
10063             goto unknown;
10064
10065           default:
10066             goto unknown;
10067         }
10068       }
10069
10070       goto unknown;
10071
10072     case 13: /* 4 tokens of length 13 */
10073       if (name[0] == 'g' &&
10074           name[1] == 'e' &&
10075           name[2] == 't')
10076       {
10077         switch (name[3])
10078         {
10079           case 'h':
10080             if (name[4] == 'o' &&
10081                 name[5] == 's' &&
10082                 name[6] == 't' &&
10083                 name[7] == 'b' &&
10084                 name[8] == 'y')
10085             {
10086               switch (name[9])
10087               {
10088                 case 'a':
10089                   if (name[10] == 'd' &&
10090                       name[11] == 'd' &&
10091                       name[12] == 'r')
10092                   {                               /* gethostbyaddr */
10093                     return -KEY_gethostbyaddr;
10094                   }
10095
10096                   goto unknown;
10097
10098                 case 'n':
10099                   if (name[10] == 'a' &&
10100                       name[11] == 'm' &&
10101                       name[12] == 'e')
10102                   {                               /* gethostbyname */
10103                     return -KEY_gethostbyname;
10104                   }
10105
10106                   goto unknown;
10107
10108                 default:
10109                   goto unknown;
10110               }
10111             }
10112
10113             goto unknown;
10114
10115           case 's':
10116             if (name[4] == 'e' &&
10117                 name[5] == 'r' &&
10118                 name[6] == 'v' &&
10119                 name[7] == 'b' &&
10120                 name[8] == 'y')
10121             {
10122               switch (name[9])
10123               {
10124                 case 'n':
10125                   if (name[10] == 'a' &&
10126                       name[11] == 'm' &&
10127                       name[12] == 'e')
10128                   {                               /* getservbyname */
10129                     return -KEY_getservbyname;
10130                   }
10131
10132                   goto unknown;
10133
10134                 case 'p':
10135                   if (name[10] == 'o' &&
10136                       name[11] == 'r' &&
10137                       name[12] == 't')
10138                   {                               /* getservbyport */
10139                     return -KEY_getservbyport;
10140                   }
10141
10142                   goto unknown;
10143
10144                 default:
10145                   goto unknown;
10146               }
10147             }
10148
10149             goto unknown;
10150
10151           default:
10152             goto unknown;
10153         }
10154       }
10155
10156       goto unknown;
10157
10158     case 14: /* 1 tokens of length 14 */
10159       if (name[0] == 'g' &&
10160           name[1] == 'e' &&
10161           name[2] == 't' &&
10162           name[3] == 'p' &&
10163           name[4] == 'r' &&
10164           name[5] == 'o' &&
10165           name[6] == 't' &&
10166           name[7] == 'o' &&
10167           name[8] == 'b' &&
10168           name[9] == 'y' &&
10169           name[10] == 'n' &&
10170           name[11] == 'a' &&
10171           name[12] == 'm' &&
10172           name[13] == 'e')
10173       {                                           /* getprotobyname */
10174         return -KEY_getprotobyname;
10175       }
10176
10177       goto unknown;
10178
10179     case 16: /* 1 tokens of length 16 */
10180       if (name[0] == 'g' &&
10181           name[1] == 'e' &&
10182           name[2] == 't' &&
10183           name[3] == 'p' &&
10184           name[4] == 'r' &&
10185           name[5] == 'o' &&
10186           name[6] == 't' &&
10187           name[7] == 'o' &&
10188           name[8] == 'b' &&
10189           name[9] == 'y' &&
10190           name[10] == 'n' &&
10191           name[11] == 'u' &&
10192           name[12] == 'm' &&
10193           name[13] == 'b' &&
10194           name[14] == 'e' &&
10195           name[15] == 'r')
10196       {                                           /* getprotobynumber */
10197         return -KEY_getprotobynumber;
10198       }
10199
10200       goto unknown;
10201
10202     default:
10203       goto unknown;
10204   }
10205
10206 unknown:
10207   return 0;
10208 }
10209
10210 STATIC void
10211 S_checkcomma(pTHX_ const char *s, const char *name, const char *what)
10212 {
10213     dVAR;
10214
10215     if (*s == ' ' && s[1] == '(') {     /* XXX gotta be a better way */
10216         if (ckWARN(WARN_SYNTAX)) {
10217             int level = 1;
10218             const char *w;
10219             for (w = s+2; *w && level; w++) {
10220                 if (*w == '(')
10221                     ++level;
10222                 else if (*w == ')')
10223                     --level;
10224             }
10225             while (isSPACE(*w))
10226                 ++w;
10227             if (!*w || !strchr(";|})]oaiuw!=", *w))     /* an advisory hack only... */
10228                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
10229                             "%s (...) interpreted as function",name);
10230         }
10231     }
10232     while (s < PL_bufend && isSPACE(*s))
10233         s++;
10234     if (*s == '(')
10235         s++;
10236     while (s < PL_bufend && isSPACE(*s))
10237         s++;
10238     if (isIDFIRST_lazy_if(s,UTF)) {
10239         const char * const w = s++;
10240         while (isALNUM_lazy_if(s,UTF))
10241             s++;
10242         while (s < PL_bufend && isSPACE(*s))
10243             s++;
10244         if (*s == ',') {
10245             GV* gv;
10246             if (keyword(w, s - w))
10247                 return;
10248
10249             gv = gv_fetchpvn_flags(w, s - w, 0, SVt_PVCV);
10250             if (gv && GvCVu(gv))
10251                 return;
10252             Perl_croak(aTHX_ "No comma allowed after %s", what);
10253         }
10254     }
10255 }
10256
10257 /* Either returns sv, or mortalizes sv and returns a new SV*.
10258    Best used as sv=new_constant(..., sv, ...).
10259    If s, pv are NULL, calls subroutine with one argument,
10260    and type is used with error messages only. */
10261
10262 STATIC SV *
10263 S_new_constant(pTHX_ const char *s, STRLEN len, const char *key, SV *sv, SV *pv,
10264                const char *type)
10265 {
10266     dVAR; dSP;
10267     HV * const table = GvHV(PL_hintgv);          /* ^H */
10268     SV *res;
10269     SV **cvp;
10270     SV *cv, *typesv;
10271     const char *why1 = "", *why2 = "", *why3 = "";
10272
10273     if (!table || !(PL_hints & HINT_LOCALIZE_HH)) {
10274         SV *msg;
10275
10276         why2 = strEQ(key,"charnames")
10277                ? "(possibly a missing \"use charnames ...\")"
10278                : "";
10279         msg = Perl_newSVpvf(aTHX_ "Constant(%s) unknown: %s",
10280                             (type ? type: "undef"), why2);
10281
10282         /* This is convoluted and evil ("goto considered harmful")
10283          * but I do not understand the intricacies of all the different
10284          * failure modes of %^H in here.  The goal here is to make
10285          * the most probable error message user-friendly. --jhi */
10286
10287         goto msgdone;
10288
10289     report:
10290         msg = Perl_newSVpvf(aTHX_ "Constant(%s): %s%s%s",
10291                             (type ? type: "undef"), why1, why2, why3);
10292     msgdone:
10293         yyerror(SvPVX_const(msg));
10294         SvREFCNT_dec(msg);
10295         return sv;
10296     }
10297     cvp = hv_fetch(table, key, strlen(key), FALSE);
10298     if (!cvp || !SvOK(*cvp)) {
10299         why1 = "$^H{";
10300         why2 = key;
10301         why3 = "} is not defined";
10302         goto report;
10303     }
10304     sv_2mortal(sv);                     /* Parent created it permanently */
10305     cv = *cvp;
10306     if (!pv && s)
10307         pv = sv_2mortal(newSVpvn(s, len));
10308     if (type && pv)
10309         typesv = sv_2mortal(newSVpv(type, 0));
10310     else
10311         typesv = &PL_sv_undef;
10312
10313     PUSHSTACKi(PERLSI_OVERLOAD);
10314     ENTER ;
10315     SAVETMPS;
10316
10317     PUSHMARK(SP) ;
10318     EXTEND(sp, 3);
10319     if (pv)
10320         PUSHs(pv);
10321     PUSHs(sv);
10322     if (pv)
10323         PUSHs(typesv);
10324     PUTBACK;
10325     call_sv(cv, G_SCALAR | ( PL_in_eval ? 0 : G_EVAL));
10326
10327     SPAGAIN ;
10328
10329     /* Check the eval first */
10330     if (!PL_in_eval && SvTRUE(ERRSV)) {
10331         sv_catpvs(ERRSV, "Propagated");
10332         yyerror(SvPV_nolen_const(ERRSV)); /* Duplicates the message inside eval */
10333         (void)POPs;
10334         res = SvREFCNT_inc_simple(sv);
10335     }
10336     else {
10337         res = POPs;
10338         SvREFCNT_inc_simple_void(res);
10339     }
10340
10341     PUTBACK ;
10342     FREETMPS ;
10343     LEAVE ;
10344     POPSTACK;
10345
10346     if (!SvOK(res)) {
10347         why1 = "Call to &{$^H{";
10348         why2 = key;
10349         why3 = "}} did not return a defined value";
10350         sv = res;
10351         goto report;
10352     }
10353
10354     return res;
10355 }
10356
10357 /* Returns a NUL terminated string, with the length of the string written to
10358    *slp
10359    */
10360 STATIC char *
10361 S_scan_word(pTHX_ register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
10362 {
10363     dVAR;
10364     register char *d = dest;
10365     register char * const e = d + destlen - 3;  /* two-character token, ending NUL */
10366     for (;;) {
10367         if (d >= e)
10368             Perl_croak(aTHX_ ident_too_long);
10369         if (isALNUM(*s))        /* UTF handled below */
10370             *d++ = *s++;
10371         else if (*s == '\'' && allow_package && isIDFIRST_lazy_if(s+1,UTF)) {
10372             *d++ = ':';
10373             *d++ = ':';
10374             s++;
10375         }
10376         else if (*s == ':' && s[1] == ':' && allow_package && s[2] != '$') {
10377             *d++ = *s++;
10378             *d++ = *s++;
10379         }
10380         else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
10381             char *t = s + UTF8SKIP(s);
10382             while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
10383                 t += UTF8SKIP(t);
10384             if (d + (t - s) > e)
10385                 Perl_croak(aTHX_ ident_too_long);
10386             Copy(s, d, t - s, char);
10387             d += t - s;
10388             s = t;
10389         }
10390         else {
10391             *d = '\0';
10392             *slp = d - dest;
10393             return s;
10394         }
10395     }
10396 }
10397
10398 STATIC char *
10399 S_scan_ident(pTHX_ register char *s, register const char *send, char *dest, STRLEN destlen, I32 ck_uni)
10400 {
10401     dVAR;
10402     char *bracket = NULL;
10403     char funny = *s++;
10404     register char *d = dest;
10405     register char * const e = d + destlen + 3;    /* two-character token, ending NUL */
10406
10407     if (isSPACE(*s))
10408         s = PEEKSPACE(s);
10409     if (isDIGIT(*s)) {
10410         while (isDIGIT(*s)) {
10411             if (d >= e)
10412                 Perl_croak(aTHX_ ident_too_long);
10413             *d++ = *s++;
10414         }
10415     }
10416     else {
10417         for (;;) {
10418             if (d >= e)
10419                 Perl_croak(aTHX_ ident_too_long);
10420             if (isALNUM(*s))    /* UTF handled below */
10421                 *d++ = *s++;
10422             else if (*s == '\'' && isIDFIRST_lazy_if(s+1,UTF)) {
10423                 *d++ = ':';
10424                 *d++ = ':';
10425                 s++;
10426             }
10427             else if (*s == ':' && s[1] == ':') {
10428                 *d++ = *s++;
10429                 *d++ = *s++;
10430             }
10431             else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
10432                 char *t = s + UTF8SKIP(s);
10433                 while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
10434                     t += UTF8SKIP(t);
10435                 if (d + (t - s) > e)
10436                     Perl_croak(aTHX_ ident_too_long);
10437                 Copy(s, d, t - s, char);
10438                 d += t - s;
10439                 s = t;
10440             }
10441             else
10442                 break;
10443         }
10444     }
10445     *d = '\0';
10446     d = dest;
10447     if (*d) {
10448         if (PL_lex_state != LEX_NORMAL)
10449             PL_lex_state = LEX_INTERPENDMAYBE;
10450         return s;
10451     }
10452     if (*s == '$' && s[1] &&
10453         (isALNUM_lazy_if(s+1,UTF) || s[1] == '$' || s[1] == '{' || strnEQ(s+1,"::",2)) )
10454     {
10455         return s;
10456     }
10457     if (*s == '{') {
10458         bracket = s;
10459         s++;
10460     }
10461     else if (ck_uni)
10462         check_uni();
10463     if (s < send)
10464         *d = *s++;
10465     d[1] = '\0';
10466     if (*d == '^' && *s && isCONTROLVAR(*s)) {
10467         *d = toCTRL(*s);
10468         s++;
10469     }
10470     if (bracket) {
10471         if (isSPACE(s[-1])) {
10472             while (s < send) {
10473                 const char ch = *s++;
10474                 if (!SPACE_OR_TAB(ch)) {
10475                     *d = ch;
10476                     break;
10477                 }
10478             }
10479         }
10480         if (isIDFIRST_lazy_if(d,UTF)) {
10481             d++;
10482             if (UTF) {
10483                 char *end = s;
10484                 while ((end < send && isALNUM_lazy_if(end,UTF)) || *end == ':') {
10485                     end += UTF8SKIP(end);
10486                     while (end < send && UTF8_IS_CONTINUED(*end) && is_utf8_mark((U8*)end))
10487                         end += UTF8SKIP(end);
10488                 }
10489                 Copy(s, d, end - s, char);
10490                 d += end - s;
10491                 s = end;
10492             }
10493             else {
10494                 while ((isALNUM(*s) || *s == ':') && d < e)
10495                     *d++ = *s++;
10496                 if (d >= e)
10497                     Perl_croak(aTHX_ ident_too_long);
10498             }
10499             *d = '\0';
10500             while (s < send && SPACE_OR_TAB(*s)) s++;
10501             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
10502                 if (ckWARN(WARN_AMBIGUOUS) && keyword(dest, d - dest)) {
10503                     const char *brack = *s == '[' ? "[...]" : "{...}";
10504                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
10505                         "Ambiguous use of %c{%s%s} resolved to %c%s%s",
10506                         funny, dest, brack, funny, dest, brack);
10507                 }
10508                 bracket++;
10509                 PL_lex_brackstack[PL_lex_brackets++] = (char)(XOPERATOR | XFAKEBRACK);
10510                 return s;
10511             }
10512         }
10513         /* Handle extended ${^Foo} variables
10514          * 1999-02-27 mjd-perl-patch@plover.com */
10515         else if (!isALNUM(*d) && !isPRINT(*d) /* isCTRL(d) */
10516                  && isALNUM(*s))
10517         {
10518             d++;
10519             while (isALNUM(*s) && d < e) {
10520                 *d++ = *s++;
10521             }
10522             if (d >= e)
10523                 Perl_croak(aTHX_ ident_too_long);
10524             *d = '\0';
10525         }
10526         if (*s == '}') {
10527             s++;
10528             if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets) {
10529                 PL_lex_state = LEX_INTERPEND;
10530                 PL_expect = XREF;
10531             }
10532             if (funny == '#')
10533                 funny = '@';
10534             if (PL_lex_state == LEX_NORMAL) {
10535                 if (ckWARN(WARN_AMBIGUOUS) &&
10536                     (keyword(dest, d - dest) || get_cv(dest, FALSE)))
10537                 {
10538                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
10539                         "Ambiguous use of %c{%s} resolved to %c%s",
10540                         funny, dest, funny, dest);
10541                 }
10542             }
10543         }
10544         else {
10545             s = bracket;                /* let the parser handle it */
10546             *dest = '\0';
10547         }
10548     }
10549     else if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets && !intuit_more(s))
10550         PL_lex_state = LEX_INTERPEND;
10551     return s;
10552 }
10553
10554 void
10555 Perl_pmflag(pTHX_ U32* pmfl, int ch)
10556 {
10557     PERL_UNUSED_CONTEXT;
10558     if (ch == 'i')
10559         *pmfl |= PMf_FOLD;
10560     else if (ch == 'g')
10561         *pmfl |= PMf_GLOBAL;
10562     else if (ch == 'c')
10563         *pmfl |= PMf_CONTINUE;
10564     else if (ch == 'o')
10565         *pmfl |= PMf_KEEP;
10566     else if (ch == 'm')
10567         *pmfl |= PMf_MULTILINE;
10568     else if (ch == 's')
10569         *pmfl |= PMf_SINGLELINE;
10570     else if (ch == 'x')
10571         *pmfl |= PMf_EXTENDED;
10572 }
10573
10574 STATIC char *
10575 S_scan_pat(pTHX_ char *start, I32 type)
10576 {
10577     dVAR;
10578     PMOP *pm;
10579     char *s = scan_str(start,!!PL_madskills,FALSE);
10580     const char * const valid_flags = (type == OP_QR) ? "iomsx" : "iogcmsx";
10581 #ifdef PERL_MAD
10582     char *modstart;
10583 #endif
10584
10585
10586     if (!s) {
10587         const char * const delimiter = skipspace(start);
10588         Perl_croak(aTHX_ *delimiter == '?'
10589                    ? "Search pattern not terminated or ternary operator parsed as search pattern"
10590                    : "Search pattern not terminated" );
10591     }
10592
10593     pm = (PMOP*)newPMOP(type, 0);
10594     if (PL_multi_open == '?')
10595         pm->op_pmflags |= PMf_ONCE;
10596 #ifdef PERL_MAD
10597     modstart = s;
10598 #endif
10599     while (*s && strchr(valid_flags, *s))
10600         pmflag(&pm->op_pmflags,*s++);
10601 #ifdef PERL_MAD
10602     if (PL_madskills && modstart != s) {
10603         SV* tmptoken = newSVpvn(modstart, s - modstart);
10604         append_madprops(newMADPROP('m', MAD_SV, tmptoken, 0), (OP*)pm, 0);
10605     }
10606 #endif
10607     /* issue a warning if /c is specified,but /g is not */
10608     if ((pm->op_pmflags & PMf_CONTINUE) && !(pm->op_pmflags & PMf_GLOBAL)
10609             && ckWARN(WARN_REGEXP))
10610     {
10611         Perl_warner(aTHX_ packWARN(WARN_REGEXP), "Use of /c modifier is meaningless without /g" );
10612     }
10613
10614     pm->op_pmpermflags = pm->op_pmflags;
10615
10616     PL_lex_op = (OP*)pm;
10617     yylval.ival = OP_MATCH;
10618     return s;
10619 }
10620
10621 STATIC char *
10622 S_scan_subst(pTHX_ char *start)
10623 {
10624     dVAR;
10625     register char *s;
10626     register PMOP *pm;
10627     I32 first_start;
10628     I32 es = 0;
10629 #ifdef PERL_MAD
10630     char *modstart;
10631 #endif
10632
10633     yylval.ival = OP_NULL;
10634
10635     s = scan_str(start,!!PL_madskills,FALSE);
10636
10637     if (!s)
10638         Perl_croak(aTHX_ "Substitution pattern not terminated");
10639
10640     if (s[-1] == PL_multi_open)
10641         s--;
10642 #ifdef PERL_MAD
10643     if (PL_madskills) {
10644         CURMAD('q', PL_thisopen);
10645         CURMAD('_', PL_thiswhite);
10646         CURMAD('E', PL_thisstuff);
10647         CURMAD('Q', PL_thisclose);
10648         PL_realtokenstart = s - SvPVX(PL_linestr);
10649     }
10650 #endif
10651
10652     first_start = PL_multi_start;
10653     s = scan_str(s,!!PL_madskills,FALSE);
10654     if (!s) {
10655         if (PL_lex_stuff) {
10656             SvREFCNT_dec(PL_lex_stuff);
10657             PL_lex_stuff = NULL;
10658         }
10659         Perl_croak(aTHX_ "Substitution replacement not terminated");
10660     }
10661     PL_multi_start = first_start;       /* so whole substitution is taken together */
10662
10663     pm = (PMOP*)newPMOP(OP_SUBST, 0);
10664
10665 #ifdef PERL_MAD
10666     if (PL_madskills) {
10667         CURMAD('z', PL_thisopen);
10668         CURMAD('R', PL_thisstuff);
10669         CURMAD('Z', PL_thisclose);
10670     }
10671     modstart = s;
10672 #endif
10673
10674     while (*s) {
10675         if (*s == 'e') {
10676             s++;
10677             es++;
10678         }
10679         else if (strchr("iogcmsx", *s))
10680             pmflag(&pm->op_pmflags,*s++);
10681         else
10682             break;
10683     }
10684
10685 #ifdef PERL_MAD
10686     if (PL_madskills) {
10687         if (modstart != s)
10688             curmad('m', newSVpvn(modstart, s - modstart));
10689         append_madprops(PL_thismad, (OP*)pm, 0);
10690         PL_thismad = 0;
10691     }
10692 #endif
10693     if ((pm->op_pmflags & PMf_CONTINUE) && ckWARN(WARN_REGEXP)) {
10694         Perl_warner(aTHX_ packWARN(WARN_REGEXP), "Use of /c modifier is meaningless in s///" );
10695     }
10696
10697     if (es) {
10698         SV * const repl = newSVpvs("");
10699
10700         PL_sublex_info.super_bufptr = s;
10701         PL_sublex_info.super_bufend = PL_bufend;
10702         PL_multi_end = 0;
10703         pm->op_pmflags |= PMf_EVAL;
10704         while (es-- > 0)
10705             sv_catpv(repl, es ? "eval " : "do ");
10706         sv_catpvs(repl, "{");
10707         sv_catsv(repl, PL_lex_repl);
10708         sv_catpvs(repl, "}");
10709         SvEVALED_on(repl);
10710         SvREFCNT_dec(PL_lex_repl);
10711         PL_lex_repl = repl;
10712     }
10713
10714     pm->op_pmpermflags = pm->op_pmflags;
10715     PL_lex_op = (OP*)pm;
10716     yylval.ival = OP_SUBST;
10717     return s;
10718 }
10719
10720 STATIC char *
10721 S_scan_trans(pTHX_ char *start)
10722 {
10723     dVAR;
10724     register char* s;
10725     OP *o;
10726     short *tbl;
10727     I32 squash;
10728     I32 del;
10729     I32 complement;
10730 #ifdef PERL_MAD
10731     char *modstart;
10732 #endif
10733
10734     yylval.ival = OP_NULL;
10735
10736     s = scan_str(start,!!PL_madskills,FALSE);
10737     if (!s)
10738         Perl_croak(aTHX_ "Transliteration pattern not terminated");
10739
10740     if (s[-1] == PL_multi_open)
10741         s--;
10742 #ifdef PERL_MAD
10743     if (PL_madskills) {
10744         CURMAD('q', PL_thisopen);
10745         CURMAD('_', PL_thiswhite);
10746         CURMAD('E', PL_thisstuff);
10747         CURMAD('Q', PL_thisclose);
10748         PL_realtokenstart = s - SvPVX(PL_linestr);
10749     }
10750 #endif
10751
10752     s = scan_str(s,!!PL_madskills,FALSE);
10753     if (!s) {
10754         if (PL_lex_stuff) {
10755             SvREFCNT_dec(PL_lex_stuff);
10756             PL_lex_stuff = NULL;
10757         }
10758         Perl_croak(aTHX_ "Transliteration replacement not terminated");
10759     }
10760     if (PL_madskills) {
10761         CURMAD('z', PL_thisopen);
10762         CURMAD('R', PL_thisstuff);
10763         CURMAD('Z', PL_thisclose);
10764     }
10765
10766     complement = del = squash = 0;
10767 #ifdef PERL_MAD
10768     modstart = s;
10769 #endif
10770     while (1) {
10771         switch (*s) {
10772         case 'c':
10773             complement = OPpTRANS_COMPLEMENT;
10774             break;
10775         case 'd':
10776             del = OPpTRANS_DELETE;
10777             break;
10778         case 's':
10779             squash = OPpTRANS_SQUASH;
10780             break;
10781         default:
10782             goto no_more;
10783         }
10784         s++;
10785     }
10786   no_more:
10787
10788     Newx(tbl, complement&&!del?258:256, short);
10789     o = newPVOP(OP_TRANS, 0, (char*)tbl);
10790     o->op_private &= ~OPpTRANS_ALL;
10791     o->op_private |= del|squash|complement|
10792       (DO_UTF8(PL_lex_stuff)? OPpTRANS_FROM_UTF : 0)|
10793       (DO_UTF8(PL_lex_repl) ? OPpTRANS_TO_UTF   : 0);
10794
10795     PL_lex_op = o;
10796     yylval.ival = OP_TRANS;
10797
10798 #ifdef PERL_MAD
10799     if (PL_madskills) {
10800         if (modstart != s)
10801             curmad('m', newSVpvn(modstart, s - modstart));
10802         append_madprops(PL_thismad, o, 0);
10803         PL_thismad = 0;
10804     }
10805 #endif
10806
10807     return s;
10808 }
10809
10810 STATIC char *
10811 S_scan_heredoc(pTHX_ register char *s)
10812 {
10813     dVAR;
10814     SV *herewas;
10815     I32 op_type = OP_SCALAR;
10816     I32 len;
10817     SV *tmpstr;
10818     char term;
10819     const char *found_newline;
10820     register char *d;
10821     register char *e;
10822     char *peek;
10823     const int outer = (PL_rsfp && !(PL_lex_inwhat == OP_SCALAR));
10824 #ifdef PERL_MAD
10825     I32 stuffstart = s - SvPVX(PL_linestr);
10826     char *tstart;
10827
10828     PL_realtokenstart = -1;
10829 #endif
10830
10831     s += 2;
10832     d = PL_tokenbuf;
10833     e = PL_tokenbuf + sizeof PL_tokenbuf - 1;
10834     if (!outer)
10835         *d++ = '\n';
10836     for (peek = s; SPACE_OR_TAB(*peek); peek++) ;
10837     if (*peek == '`' || *peek == '\'' || *peek =='"') {
10838         s = peek;
10839         term = *s++;
10840         s = delimcpy(d, e, s, PL_bufend, term, &len);
10841         d += len;
10842         if (s < PL_bufend)
10843             s++;
10844     }
10845     else {
10846         if (*s == '\\')
10847             s++, term = '\'';
10848         else
10849             term = '"';
10850         if (!isALNUM_lazy_if(s,UTF))
10851             deprecate_old("bare << to mean <<\"\"");
10852         for (; isALNUM_lazy_if(s,UTF); s++) {
10853             if (d < e)
10854                 *d++ = *s;
10855         }
10856     }
10857     if (d >= PL_tokenbuf + sizeof PL_tokenbuf - 1)
10858         Perl_croak(aTHX_ "Delimiter for here document is too long");
10859     *d++ = '\n';
10860     *d = '\0';
10861     len = d - PL_tokenbuf;
10862
10863 #ifdef PERL_MAD
10864     if (PL_madskills) {
10865         tstart = PL_tokenbuf + !outer;
10866         PL_thisclose = newSVpvn(tstart, len - !outer);
10867         tstart = SvPVX(PL_linestr) + stuffstart;
10868         PL_thisopen = newSVpvn(tstart, s - tstart);
10869         stuffstart = s - SvPVX(PL_linestr);
10870     }
10871 #endif
10872 #ifndef PERL_STRICT_CR
10873     d = strchr(s, '\r');
10874     if (d) {
10875         char * const olds = s;
10876         s = d;
10877         while (s < PL_bufend) {
10878             if (*s == '\r') {
10879                 *d++ = '\n';
10880                 if (*++s == '\n')
10881                     s++;
10882             }
10883             else if (*s == '\n' && s[1] == '\r') {      /* \015\013 on a mac? */
10884                 *d++ = *s++;
10885                 s++;
10886             }
10887             else
10888                 *d++ = *s++;
10889         }
10890         *d = '\0';
10891         PL_bufend = d;
10892         SvCUR_set(PL_linestr, PL_bufend - SvPVX_const(PL_linestr));
10893         s = olds;
10894     }
10895 #endif
10896 #ifdef PERL_MAD
10897     found_newline = 0;
10898 #endif
10899     if ( outer || !(found_newline = memchr(s, '\n', PL_bufend - s)) ) {
10900         herewas = newSVpvn(s,PL_bufend-s);
10901     }
10902     else {
10903 #ifdef PERL_MAD
10904         herewas = newSVpvn(s-1,found_newline-s+1);
10905 #else
10906         s--;
10907         herewas = newSVpvn(s,found_newline-s);
10908 #endif
10909     }
10910 #ifdef PERL_MAD
10911     if (PL_madskills) {
10912         tstart = SvPVX(PL_linestr) + stuffstart;
10913         if (PL_thisstuff)
10914             sv_catpvn(PL_thisstuff, tstart, s - tstart);
10915         else
10916             PL_thisstuff = newSVpvn(tstart, s - tstart);
10917     }
10918 #endif
10919     s += SvCUR(herewas);
10920
10921 #ifdef PERL_MAD
10922     stuffstart = s - SvPVX(PL_linestr);
10923
10924     if (found_newline)
10925         s--;
10926 #endif
10927
10928     tmpstr = newSV(79);
10929     sv_upgrade(tmpstr, SVt_PVIV);
10930     if (term == '\'') {
10931         op_type = OP_CONST;
10932         SvIV_set(tmpstr, -1);
10933     }
10934     else if (term == '`') {
10935         op_type = OP_BACKTICK;
10936         SvIV_set(tmpstr, '\\');
10937     }
10938
10939     CLINE;
10940     PL_multi_start = CopLINE(PL_curcop);
10941     PL_multi_open = PL_multi_close = '<';
10942     term = *PL_tokenbuf;
10943     if (PL_lex_inwhat == OP_SUBST && PL_in_eval && !PL_rsfp) {
10944         char * const bufptr = PL_sublex_info.super_bufptr;
10945         char * const bufend = PL_sublex_info.super_bufend;
10946         char * const olds = s - SvCUR(herewas);
10947         s = strchr(bufptr, '\n');
10948         if (!s)
10949             s = bufend;
10950         d = s;
10951         while (s < bufend &&
10952           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
10953             if (*s++ == '\n')
10954                 CopLINE_inc(PL_curcop);
10955         }
10956         if (s >= bufend) {
10957             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
10958             missingterm(PL_tokenbuf);
10959         }
10960         sv_setpvn(herewas,bufptr,d-bufptr+1);
10961         sv_setpvn(tmpstr,d+1,s-d);
10962         s += len - 1;
10963         sv_catpvn(herewas,s,bufend-s);
10964         Copy(SvPVX_const(herewas),bufptr,SvCUR(herewas) + 1,char);
10965
10966         s = olds;
10967         goto retval;
10968     }
10969     else if (!outer) {
10970         d = s;
10971         while (s < PL_bufend &&
10972           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
10973             if (*s++ == '\n')
10974                 CopLINE_inc(PL_curcop);
10975         }
10976         if (s >= PL_bufend) {
10977             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
10978             missingterm(PL_tokenbuf);
10979         }
10980         sv_setpvn(tmpstr,d+1,s-d);
10981 #ifdef PERL_MAD
10982         if (PL_madskills) {
10983             if (PL_thisstuff)
10984                 sv_catpvn(PL_thisstuff, d + 1, s - d);
10985             else
10986                 PL_thisstuff = newSVpvn(d + 1, s - d);
10987             stuffstart = s - SvPVX(PL_linestr);
10988         }
10989 #endif
10990         s += len - 1;
10991         CopLINE_inc(PL_curcop); /* the preceding stmt passes a newline */
10992
10993         sv_catpvn(herewas,s,PL_bufend-s);
10994         sv_setsv(PL_linestr,herewas);
10995         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart = SvPVX(PL_linestr);
10996         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
10997         PL_last_lop = PL_last_uni = NULL;
10998     }
10999     else
11000         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
11001     while (s >= PL_bufend) {    /* multiple line string? */
11002 #ifdef PERL_MAD
11003         if (PL_madskills) {
11004             tstart = SvPVX(PL_linestr) + stuffstart;
11005             if (PL_thisstuff)
11006                 sv_catpvn(PL_thisstuff, tstart, PL_bufend - tstart);
11007             else
11008                 PL_thisstuff = newSVpvn(tstart, PL_bufend - tstart);
11009         }
11010 #endif
11011         if (!outer ||
11012          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
11013             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11014             missingterm(PL_tokenbuf);
11015         }
11016 #ifdef PERL_MAD
11017         stuffstart = s - SvPVX(PL_linestr);
11018 #endif
11019         CopLINE_inc(PL_curcop);
11020         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11021         PL_last_lop = PL_last_uni = NULL;
11022 #ifndef PERL_STRICT_CR
11023         if (PL_bufend - PL_linestart >= 2) {
11024             if ((PL_bufend[-2] == '\r' && PL_bufend[-1] == '\n') ||
11025                 (PL_bufend[-2] == '\n' && PL_bufend[-1] == '\r'))
11026             {
11027                 PL_bufend[-2] = '\n';
11028                 PL_bufend--;
11029                 SvCUR_set(PL_linestr, PL_bufend - SvPVX_const(PL_linestr));
11030             }
11031             else if (PL_bufend[-1] == '\r')
11032                 PL_bufend[-1] = '\n';
11033         }
11034         else if (PL_bufend - PL_linestart == 1 && PL_bufend[-1] == '\r')
11035             PL_bufend[-1] = '\n';
11036 #endif
11037         if (PERLDB_LINE && PL_curstash != PL_debstash) {
11038             SV * const sv = newSV(0);
11039
11040             sv_upgrade(sv, SVt_PVMG);
11041             sv_setsv(sv,PL_linestr);
11042             (void)SvIOK_on(sv);
11043             SvIV_set(sv, 0);
11044             av_store(CopFILEAVx(PL_curcop), (I32)CopLINE(PL_curcop),sv);
11045         }
11046         if (*s == term && memEQ(s,PL_tokenbuf,len)) {
11047             STRLEN off = PL_bufend - 1 - SvPVX_const(PL_linestr);
11048             *(SvPVX(PL_linestr) + off ) = ' ';
11049             sv_catsv(PL_linestr,herewas);
11050             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11051             s = SvPVX(PL_linestr) + off; /* In case PV of PL_linestr moved. */
11052         }
11053         else {
11054             s = PL_bufend;
11055             sv_catsv(tmpstr,PL_linestr);
11056         }
11057     }
11058     s++;
11059 retval:
11060     PL_multi_end = CopLINE(PL_curcop);
11061     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
11062         SvPV_shrink_to_cur(tmpstr);
11063     }
11064     SvREFCNT_dec(herewas);
11065     if (!IN_BYTES) {
11066         if (UTF && is_utf8_string((U8*)SvPVX_const(tmpstr), SvCUR(tmpstr)))
11067             SvUTF8_on(tmpstr);
11068         else if (PL_encoding)
11069             sv_recode_to_utf8(tmpstr, PL_encoding);
11070     }
11071     PL_lex_stuff = tmpstr;
11072     yylval.ival = op_type;
11073     return s;
11074 }
11075
11076 /* scan_inputsymbol
11077    takes: current position in input buffer
11078    returns: new position in input buffer
11079    side-effects: yylval and lex_op are set.
11080
11081    This code handles:
11082
11083    <>           read from ARGV
11084    <FH>         read from filehandle
11085    <pkg::FH>    read from package qualified filehandle
11086    <pkg'FH>     read from package qualified filehandle
11087    <$fh>        read from filehandle in $fh
11088    <*.h>        filename glob
11089
11090 */
11091
11092 STATIC char *
11093 S_scan_inputsymbol(pTHX_ char *start)
11094 {
11095     dVAR;
11096     register char *s = start;           /* current position in buffer */
11097     char *end;
11098     I32 len;
11099
11100     char *d = PL_tokenbuf;                                      /* start of temp holding space */
11101     const char * const e = PL_tokenbuf + sizeof PL_tokenbuf;    /* end of temp holding space */
11102
11103     end = strchr(s, '\n');
11104     if (!end)
11105         end = PL_bufend;
11106     s = delimcpy(d, e, s + 1, end, '>', &len);  /* extract until > */
11107
11108     /* die if we didn't have space for the contents of the <>,
11109        or if it didn't end, or if we see a newline
11110     */
11111
11112     if (len >= (I32)sizeof PL_tokenbuf)
11113         Perl_croak(aTHX_ "Excessively long <> operator");
11114     if (s >= end)
11115         Perl_croak(aTHX_ "Unterminated <> operator");
11116
11117     s++;
11118
11119     /* check for <$fh>
11120        Remember, only scalar variables are interpreted as filehandles by
11121        this code.  Anything more complex (e.g., <$fh{$num}>) will be
11122        treated as a glob() call.
11123        This code makes use of the fact that except for the $ at the front,
11124        a scalar variable and a filehandle look the same.
11125     */
11126     if (*d == '$' && d[1]) d++;
11127
11128     /* allow <Pkg'VALUE> or <Pkg::VALUE> */
11129     while (*d && (isALNUM_lazy_if(d,UTF) || *d == '\'' || *d == ':'))
11130         d++;
11131
11132     /* If we've tried to read what we allow filehandles to look like, and
11133        there's still text left, then it must be a glob() and not a getline.
11134        Use scan_str to pull out the stuff between the <> and treat it
11135        as nothing more than a string.
11136     */
11137
11138     if (d - PL_tokenbuf != len) {
11139         yylval.ival = OP_GLOB;
11140         set_csh();
11141         s = scan_str(start,!!PL_madskills,FALSE);
11142         if (!s)
11143            Perl_croak(aTHX_ "Glob not terminated");
11144         return s;
11145     }
11146     else {
11147         bool readline_overriden = FALSE;
11148         GV *gv_readline;
11149         GV **gvp;
11150         /* we're in a filehandle read situation */
11151         d = PL_tokenbuf;
11152
11153         /* turn <> into <ARGV> */
11154         if (!len)
11155             Copy("ARGV",d,5,char);
11156
11157         /* Check whether readline() is overriden */
11158         gv_readline = gv_fetchpvs("readline", GV_NOTQUAL, SVt_PVCV);
11159         if ((gv_readline
11160                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline))
11161                 ||
11162                 ((gvp = (GV**)hv_fetchs(PL_globalstash, "readline", FALSE))
11163                 && (gv_readline = *gvp) != (GV*)&PL_sv_undef
11164                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline)))
11165             readline_overriden = TRUE;
11166
11167         /* if <$fh>, create the ops to turn the variable into a
11168            filehandle
11169         */
11170         if (*d == '$') {
11171             PADOFFSET tmp;
11172
11173             /* try to find it in the pad for this block, otherwise find
11174                add symbol table ops
11175             */
11176             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
11177                 if (PAD_COMPNAME_FLAGS_isOUR(tmp)) {
11178                     HV * const stash = PAD_COMPNAME_OURSTASH(tmp);
11179                     HEK * const stashname = HvNAME_HEK(stash);
11180                     SV * const sym = sv_2mortal(newSVhek(stashname));
11181                     sv_catpvs(sym, "::");
11182                     sv_catpv(sym, d+1);
11183                     d = SvPVX(sym);
11184                     goto intro_sym;
11185                 }
11186                 else {
11187                     OP * const o = newOP(OP_PADSV, 0);
11188                     o->op_targ = tmp;
11189                     PL_lex_op = readline_overriden
11190                         ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11191                                 append_elem(OP_LIST, o,
11192                                     newCVREF(0, newGVOP(OP_GV,0,gv_readline))))
11193                         : (OP*)newUNOP(OP_READLINE, 0, o);
11194                 }
11195             }
11196             else {
11197                 GV *gv;
11198                 ++d;
11199 intro_sym:
11200                 gv = gv_fetchpv(d,
11201                                 (PL_in_eval
11202                                  ? (GV_ADDMULTI | GV_ADDINEVAL)
11203                                  : GV_ADDMULTI),
11204                                 SVt_PV);
11205                 PL_lex_op = readline_overriden
11206                     ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11207                             append_elem(OP_LIST,
11208                                 newUNOP(OP_RV2SV, 0, newGVOP(OP_GV, 0, gv)),
11209                                 newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
11210                     : (OP*)newUNOP(OP_READLINE, 0,
11211                             newUNOP(OP_RV2SV, 0,
11212                                 newGVOP(OP_GV, 0, gv)));
11213             }
11214             if (!readline_overriden)
11215                 PL_lex_op->op_flags |= OPf_SPECIAL;
11216             /* we created the ops in PL_lex_op, so make yylval.ival a null op */
11217             yylval.ival = OP_NULL;
11218         }
11219
11220         /* If it's none of the above, it must be a literal filehandle
11221            (<Foo::BAR> or <FOO>) so build a simple readline OP */
11222         else {
11223             GV * const gv = gv_fetchpv(d, GV_ADD, SVt_PVIO);
11224             PL_lex_op = readline_overriden
11225                 ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11226                         append_elem(OP_LIST,
11227                             newGVOP(OP_GV, 0, gv),
11228                             newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
11229                 : (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
11230             yylval.ival = OP_NULL;
11231         }
11232     }
11233
11234     return s;
11235 }
11236
11237
11238 /* scan_str
11239    takes: start position in buffer
11240           keep_quoted preserve \ on the embedded delimiter(s)
11241           keep_delims preserve the delimiters around the string
11242    returns: position to continue reading from buffer
11243    side-effects: multi_start, multi_close, lex_repl or lex_stuff, and
11244         updates the read buffer.
11245
11246    This subroutine pulls a string out of the input.  It is called for:
11247         q               single quotes           q(literal text)
11248         '               single quotes           'literal text'
11249         qq              double quotes           qq(interpolate $here please)
11250         "               double quotes           "interpolate $here please"
11251         qx              backticks               qx(/bin/ls -l)
11252         `               backticks               `/bin/ls -l`
11253         qw              quote words             @EXPORT_OK = qw( func() $spam )
11254         m//             regexp match            m/this/
11255         s///            regexp substitute       s/this/that/
11256         tr///           string transliterate    tr/this/that/
11257         y///            string transliterate    y/this/that/
11258         ($*@)           sub prototypes          sub foo ($)
11259         (stuff)         sub attr parameters     sub foo : attr(stuff)
11260         <>              readline or globs       <FOO>, <>, <$fh>, or <*.c>
11261
11262    In most of these cases (all but <>, patterns and transliterate)
11263    yylex() calls scan_str().  m// makes yylex() call scan_pat() which
11264    calls scan_str().  s/// makes yylex() call scan_subst() which calls
11265    scan_str().  tr/// and y/// make yylex() call scan_trans() which
11266    calls scan_str().
11267
11268    It skips whitespace before the string starts, and treats the first
11269    character as the delimiter.  If the delimiter is one of ([{< then
11270    the corresponding "close" character )]}> is used as the closing
11271    delimiter.  It allows quoting of delimiters, and if the string has
11272    balanced delimiters ([{<>}]) it allows nesting.
11273
11274    On success, the SV with the resulting string is put into lex_stuff or,
11275    if that is already non-NULL, into lex_repl. The second case occurs only
11276    when parsing the RHS of the special constructs s/// and tr/// (y///).
11277    For convenience, the terminating delimiter character is stuffed into
11278    SvIVX of the SV.
11279 */
11280
11281 STATIC char *
11282 S_scan_str(pTHX_ char *start, int keep_quoted, int keep_delims)
11283 {
11284     dVAR;
11285     SV *sv;                             /* scalar value: string */
11286     char *tmps;                         /* temp string, used for delimiter matching */
11287     register char *s = start;           /* current position in the buffer */
11288     register char term;                 /* terminating character */
11289     register char *to;                  /* current position in the sv's data */
11290     I32 brackets = 1;                   /* bracket nesting level */
11291     bool has_utf8 = FALSE;              /* is there any utf8 content? */
11292     I32 termcode;                       /* terminating char. code */
11293     U8 termstr[UTF8_MAXBYTES];          /* terminating string */
11294     STRLEN termlen;                     /* length of terminating string */
11295     char *last = NULL;                  /* last position for nesting bracket */
11296 #ifdef PERL_MAD
11297     int stuffstart;
11298     char *tstart;
11299 #endif
11300
11301     /* skip space before the delimiter */
11302     if (isSPACE(*s)) {
11303         s = PEEKSPACE(s);
11304     }
11305
11306 #ifdef PERL_MAD
11307     if (PL_realtokenstart >= 0) {
11308         stuffstart = PL_realtokenstart;
11309         PL_realtokenstart = -1;
11310     }
11311     else
11312         stuffstart = start - SvPVX(PL_linestr);
11313 #endif
11314     /* mark where we are, in case we need to report errors */
11315     CLINE;
11316
11317     /* after skipping whitespace, the next character is the terminator */
11318     term = *s;
11319     if (!UTF) {
11320         termcode = termstr[0] = term;
11321         termlen = 1;
11322     }
11323     else {
11324         termcode = utf8_to_uvchr((U8*)s, &termlen);
11325         Copy(s, termstr, termlen, U8);
11326         if (!UTF8_IS_INVARIANT(term))
11327             has_utf8 = TRUE;
11328     }
11329
11330     /* mark where we are */
11331     PL_multi_start = CopLINE(PL_curcop);
11332     PL_multi_open = term;
11333
11334     /* find corresponding closing delimiter */
11335     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
11336         termcode = termstr[0] = term = tmps[5];
11337
11338     PL_multi_close = term;
11339
11340     /* create a new SV to hold the contents.  79 is the SV's initial length.
11341        What a random number. */
11342     sv = newSV(79);
11343     sv_upgrade(sv, SVt_PVIV);
11344     SvIV_set(sv, termcode);
11345     (void)SvPOK_only(sv);               /* validate pointer */
11346
11347     /* move past delimiter and try to read a complete string */
11348     if (keep_delims)
11349         sv_catpvn(sv, s, termlen);
11350     s += termlen;
11351 #ifdef PERL_MAD
11352     tstart = SvPVX(PL_linestr) + stuffstart;
11353     if (!PL_thisopen && !keep_delims) {
11354         PL_thisopen = newSVpvn(tstart, s - tstart);
11355         stuffstart = s - SvPVX(PL_linestr);
11356     }
11357 #endif
11358     for (;;) {
11359         if (PL_encoding && !UTF) {
11360             bool cont = TRUE;
11361
11362             while (cont) {
11363                 int offset = s - SvPVX_const(PL_linestr);
11364                 const bool found = sv_cat_decode(sv, PL_encoding, PL_linestr,
11365                                            &offset, (char*)termstr, termlen);
11366                 const char * const ns = SvPVX_const(PL_linestr) + offset;
11367                 char * const svlast = SvEND(sv) - 1;
11368
11369                 for (; s < ns; s++) {
11370                     if (*s == '\n' && !PL_rsfp)
11371                         CopLINE_inc(PL_curcop);
11372                 }
11373                 if (!found)
11374                     goto read_more_line;
11375                 else {
11376                     /* handle quoted delimiters */
11377                     if (SvCUR(sv) > 1 && *(svlast-1) == '\\') {
11378                         const char *t;
11379                         for (t = svlast-2; t >= SvPVX_const(sv) && *t == '\\';)
11380                             t--;
11381                         if ((svlast-1 - t) % 2) {
11382                             if (!keep_quoted) {
11383                                 *(svlast-1) = term;
11384                                 *svlast = '\0';
11385                                 SvCUR_set(sv, SvCUR(sv) - 1);
11386                             }
11387                             continue;
11388                         }
11389                     }
11390                     if (PL_multi_open == PL_multi_close) {
11391                         cont = FALSE;
11392                     }
11393                     else {
11394                         const char *t;
11395                         char *w;
11396                         if (!last)
11397                             last = SvPVX(sv);
11398                         for (t = w = last; t < svlast; w++, t++) {
11399                             /* At here, all closes are "was quoted" one,
11400                                so we don't check PL_multi_close. */
11401                             if (*t == '\\') {
11402                                 if (!keep_quoted && *(t+1) == PL_multi_open)
11403                                     t++;
11404                                 else
11405                                     *w++ = *t++;
11406                             }
11407                             else if (*t == PL_multi_open)
11408                                 brackets++;
11409
11410                             *w = *t;
11411                         }
11412                         if (w < t) {
11413                             *w++ = term;
11414                             *w = '\0';
11415                             SvCUR_set(sv, w - SvPVX_const(sv));
11416                         }
11417                         last = w;
11418                         if (--brackets <= 0)
11419                             cont = FALSE;
11420                     }
11421                 }
11422             }
11423             if (!keep_delims) {
11424                 SvCUR_set(sv, SvCUR(sv) - 1);
11425                 *SvEND(sv) = '\0';
11426             }
11427             break;
11428         }
11429
11430         /* extend sv if need be */
11431         SvGROW(sv, SvCUR(sv) + (PL_bufend - s) + 1);
11432         /* set 'to' to the next character in the sv's string */
11433         to = SvPVX(sv)+SvCUR(sv);
11434
11435         /* if open delimiter is the close delimiter read unbridle */
11436         if (PL_multi_open == PL_multi_close) {
11437             for (; s < PL_bufend; s++,to++) {
11438                 /* embedded newlines increment the current line number */
11439                 if (*s == '\n' && !PL_rsfp)
11440                     CopLINE_inc(PL_curcop);
11441                 /* handle quoted delimiters */
11442                 if (*s == '\\' && s+1 < PL_bufend && term != '\\') {
11443                     if (!keep_quoted && s[1] == term)
11444                         s++;
11445                 /* any other quotes are simply copied straight through */
11446                     else
11447                         *to++ = *s++;
11448                 }
11449                 /* terminate when run out of buffer (the for() condition), or
11450                    have found the terminator */
11451                 else if (*s == term) {
11452                     if (termlen == 1)
11453                         break;
11454                     if (s+termlen <= PL_bufend && memEQ(s, (char*)termstr, termlen))
11455                         break;
11456                 }
11457                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
11458                     has_utf8 = TRUE;
11459                 *to = *s;
11460             }
11461         }
11462
11463         /* if the terminator isn't the same as the start character (e.g.,
11464            matched brackets), we have to allow more in the quoting, and
11465            be prepared for nested brackets.
11466         */
11467         else {
11468             /* read until we run out of string, or we find the terminator */
11469             for (; s < PL_bufend; s++,to++) {
11470                 /* embedded newlines increment the line count */
11471                 if (*s == '\n' && !PL_rsfp)
11472                     CopLINE_inc(PL_curcop);
11473                 /* backslashes can escape the open or closing characters */
11474                 if (*s == '\\' && s+1 < PL_bufend) {
11475                     if (!keep_quoted &&
11476                         ((s[1] == PL_multi_open) || (s[1] == PL_multi_close)))
11477                         s++;
11478                     else
11479                         *to++ = *s++;
11480                 }
11481                 /* allow nested opens and closes */
11482                 else if (*s == PL_multi_close && --brackets <= 0)
11483                     break;
11484                 else if (*s == PL_multi_open)
11485                     brackets++;
11486                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
11487                     has_utf8 = TRUE;
11488                 *to = *s;
11489             }
11490         }
11491         /* terminate the copied string and update the sv's end-of-string */
11492         *to = '\0';
11493         SvCUR_set(sv, to - SvPVX_const(sv));
11494
11495         /*
11496          * this next chunk reads more into the buffer if we're not done yet
11497          */
11498
11499         if (s < PL_bufend)
11500             break;              /* handle case where we are done yet :-) */
11501
11502 #ifndef PERL_STRICT_CR
11503         if (to - SvPVX_const(sv) >= 2) {
11504             if ((to[-2] == '\r' && to[-1] == '\n') ||
11505                 (to[-2] == '\n' && to[-1] == '\r'))
11506             {
11507                 to[-2] = '\n';
11508                 to--;
11509                 SvCUR_set(sv, to - SvPVX_const(sv));
11510             }
11511             else if (to[-1] == '\r')
11512                 to[-1] = '\n';
11513         }
11514         else if (to - SvPVX_const(sv) == 1 && to[-1] == '\r')
11515             to[-1] = '\n';
11516 #endif
11517
11518      read_more_line:
11519         /* if we're out of file, or a read fails, bail and reset the current
11520            line marker so we can report where the unterminated string began
11521         */
11522 #ifdef PERL_MAD
11523         if (PL_madskills) {
11524             char *tstart = SvPVX(PL_linestr) + stuffstart;
11525             if (PL_thisstuff)
11526                 sv_catpvn(PL_thisstuff, tstart, PL_bufend - tstart);
11527             else
11528                 PL_thisstuff = newSVpvn(tstart, PL_bufend - tstart);
11529         }
11530 #endif
11531         if (!PL_rsfp ||
11532          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
11533             sv_free(sv);
11534             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11535             return NULL;
11536         }
11537 #ifdef PERL_MAD
11538         stuffstart = 0;
11539 #endif
11540         /* we read a line, so increment our line counter */
11541         CopLINE_inc(PL_curcop);
11542
11543         /* update debugger info */
11544         if (PERLDB_LINE && PL_curstash != PL_debstash) {
11545             SV * const line_sv = newSV(0);
11546
11547             sv_upgrade(line_sv, SVt_PVMG);
11548             sv_setsv(line_sv,PL_linestr);
11549             (void)SvIOK_on(line_sv);
11550             SvIV_set(line_sv, 0);
11551             av_store(CopFILEAVx(PL_curcop), (I32)CopLINE(PL_curcop), line_sv);
11552         }
11553
11554         /* having changed the buffer, we must update PL_bufend */
11555         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11556         PL_last_lop = PL_last_uni = NULL;
11557     }
11558
11559     /* at this point, we have successfully read the delimited string */
11560
11561     if (!PL_encoding || UTF) {
11562 #ifdef PERL_MAD
11563         if (PL_madskills) {
11564             char *tstart = SvPVX(PL_linestr) + stuffstart;
11565             if (PL_thisstuff)
11566                 sv_catpvn(PL_thisstuff, tstart, s - tstart);
11567             else
11568                 PL_thisstuff = newSVpvn(tstart, s - tstart);
11569             if (!PL_thisclose && !keep_delims)
11570                 PL_thisclose = newSVpvn(s,termlen);
11571         }
11572 #endif
11573
11574         if (keep_delims)
11575             sv_catpvn(sv, s, termlen);
11576         s += termlen;
11577     }
11578 #ifdef PERL_MAD
11579     else {
11580         if (PL_madskills) {
11581             char *tstart = SvPVX(PL_linestr) + stuffstart;
11582             if (PL_thisstuff)
11583                 sv_catpvn(PL_thisstuff, tstart, s - tstart - termlen);
11584             else
11585                 PL_thisstuff = newSVpvn(tstart, s - tstart - termlen);
11586             if (!PL_thisclose && !keep_delims)
11587                 PL_thisclose = newSVpvn(s - termlen,termlen);
11588         }
11589     }
11590 #endif
11591     if (has_utf8 || PL_encoding)
11592         SvUTF8_on(sv);
11593
11594     PL_multi_end = CopLINE(PL_curcop);
11595
11596     /* if we allocated too much space, give some back */
11597     if (SvCUR(sv) + 5 < SvLEN(sv)) {
11598         SvLEN_set(sv, SvCUR(sv) + 1);
11599         SvPV_renew(sv, SvLEN(sv));
11600     }
11601
11602     /* decide whether this is the first or second quoted string we've read
11603        for this op
11604     */
11605
11606     if (PL_lex_stuff)
11607         PL_lex_repl = sv;
11608     else
11609         PL_lex_stuff = sv;
11610     return s;
11611 }
11612
11613 /*
11614   scan_num
11615   takes: pointer to position in buffer
11616   returns: pointer to new position in buffer
11617   side-effects: builds ops for the constant in yylval.op
11618
11619   Read a number in any of the formats that Perl accepts:
11620
11621   \d(_?\d)*(\.(\d(_?\d)*)?)?[Ee][\+\-]?(\d(_?\d)*)      12 12.34 12.
11622   \.\d(_?\d)*[Ee][\+\-]?(\d(_?\d)*)                     .34
11623   0b[01](_?[01])*
11624   0[0-7](_?[0-7])*
11625   0x[0-9A-Fa-f](_?[0-9A-Fa-f])*
11626
11627   Like most scan_ routines, it uses the PL_tokenbuf buffer to hold the
11628   thing it reads.
11629
11630   If it reads a number without a decimal point or an exponent, it will
11631   try converting the number to an integer and see if it can do so
11632   without loss of precision.
11633 */
11634
11635 char *
11636 Perl_scan_num(pTHX_ const char *start, YYSTYPE* lvalp)
11637 {
11638     dVAR;
11639     register const char *s = start;     /* current position in buffer */
11640     register char *d;                   /* destination in temp buffer */
11641     register char *e;                   /* end of temp buffer */
11642     NV nv;                              /* number read, as a double */
11643     SV *sv = NULL;                      /* place to put the converted number */
11644     bool floatit;                       /* boolean: int or float? */
11645     const char *lastub = NULL;          /* position of last underbar */
11646     static char const number_too_long[] = "Number too long";
11647
11648     /* We use the first character to decide what type of number this is */
11649
11650     switch (*s) {
11651     default:
11652       Perl_croak(aTHX_ "panic: scan_num");
11653
11654     /* if it starts with a 0, it could be an octal number, a decimal in
11655        0.13 disguise, or a hexadecimal number, or a binary number. */
11656     case '0':
11657         {
11658           /* variables:
11659              u          holds the "number so far"
11660              shift      the power of 2 of the base
11661                         (hex == 4, octal == 3, binary == 1)
11662              overflowed was the number more than we can hold?
11663
11664              Shift is used when we add a digit.  It also serves as an "are
11665              we in octal/hex/binary?" indicator to disallow hex characters
11666              when in octal mode.
11667            */
11668             NV n = 0.0;
11669             UV u = 0;
11670             I32 shift;
11671             bool overflowed = FALSE;
11672             bool just_zero  = TRUE;     /* just plain 0 or binary number? */
11673             static const NV nvshift[5] = { 1.0, 2.0, 4.0, 8.0, 16.0 };
11674             static const char* const bases[5] =
11675               { "", "binary", "", "octal", "hexadecimal" };
11676             static const char* const Bases[5] =
11677               { "", "Binary", "", "Octal", "Hexadecimal" };
11678             static const char* const maxima[5] =
11679               { "",
11680                 "0b11111111111111111111111111111111",
11681                 "",
11682                 "037777777777",
11683                 "0xffffffff" };
11684             const char *base, *Base, *max;
11685
11686             /* check for hex */
11687             if (s[1] == 'x') {
11688                 shift = 4;
11689                 s += 2;
11690                 just_zero = FALSE;
11691             } else if (s[1] == 'b') {
11692                 shift = 1;
11693                 s += 2;
11694                 just_zero = FALSE;
11695             }
11696             /* check for a decimal in disguise */
11697             else if (s[1] == '.' || s[1] == 'e' || s[1] == 'E')
11698                 goto decimal;
11699             /* so it must be octal */
11700             else {
11701                 shift = 3;
11702                 s++;
11703             }
11704
11705             if (*s == '_') {
11706                if (ckWARN(WARN_SYNTAX))
11707                    Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11708                                "Misplaced _ in number");
11709                lastub = s++;
11710             }
11711
11712             base = bases[shift];
11713             Base = Bases[shift];
11714             max  = maxima[shift];
11715
11716             /* read the rest of the number */
11717             for (;;) {
11718                 /* x is used in the overflow test,
11719                    b is the digit we're adding on. */
11720                 UV x, b;
11721
11722                 switch (*s) {
11723
11724                 /* if we don't mention it, we're done */
11725                 default:
11726                     goto out;
11727
11728                 /* _ are ignored -- but warned about if consecutive */
11729                 case '_':
11730                     if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11731                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11732                                     "Misplaced _ in number");
11733                     lastub = s++;
11734                     break;
11735
11736                 /* 8 and 9 are not octal */
11737                 case '8': case '9':
11738                     if (shift == 3)
11739                         yyerror(Perl_form(aTHX_ "Illegal octal digit '%c'", *s));
11740                     /* FALL THROUGH */
11741
11742                 /* octal digits */
11743                 case '2': case '3': case '4':
11744                 case '5': case '6': case '7':
11745                     if (shift == 1)
11746                         yyerror(Perl_form(aTHX_ "Illegal binary digit '%c'", *s));
11747                     /* FALL THROUGH */
11748
11749                 case '0': case '1':
11750                     b = *s++ & 15;              /* ASCII digit -> value of digit */
11751                     goto digit;
11752
11753                 /* hex digits */
11754                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
11755                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
11756                     /* make sure they said 0x */
11757                     if (shift != 4)
11758                         goto out;
11759                     b = (*s++ & 7) + 9;
11760
11761                     /* Prepare to put the digit we have onto the end
11762                        of the number so far.  We check for overflows.
11763                     */
11764
11765                   digit:
11766                     just_zero = FALSE;
11767                     if (!overflowed) {
11768                         x = u << shift; /* make room for the digit */
11769
11770                         if ((x >> shift) != u
11771                             && !(PL_hints & HINT_NEW_BINARY)) {
11772                             overflowed = TRUE;
11773                             n = (NV) u;
11774                             if (ckWARN_d(WARN_OVERFLOW))
11775                                 Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
11776                                             "Integer overflow in %s number",
11777                                             base);
11778                         } else
11779                             u = x | b;          /* add the digit to the end */
11780                     }
11781                     if (overflowed) {
11782                         n *= nvshift[shift];
11783                         /* If an NV has not enough bits in its
11784                          * mantissa to represent an UV this summing of
11785                          * small low-order numbers is a waste of time
11786                          * (because the NV cannot preserve the
11787                          * low-order bits anyway): we could just
11788                          * remember when did we overflow and in the
11789                          * end just multiply n by the right
11790                          * amount. */
11791                         n += (NV) b;
11792                     }
11793                     break;
11794                 }
11795             }
11796
11797           /* if we get here, we had success: make a scalar value from
11798              the number.
11799           */
11800           out:
11801
11802             /* final misplaced underbar check */
11803             if (s[-1] == '_') {
11804                 if (ckWARN(WARN_SYNTAX))
11805                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
11806             }
11807
11808             sv = newSV(0);
11809             if (overflowed) {
11810                 if (n > 4294967295.0 && ckWARN(WARN_PORTABLE))
11811                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
11812                                 "%s number > %s non-portable",
11813                                 Base, max);
11814                 sv_setnv(sv, n);
11815             }
11816             else {
11817 #if UVSIZE > 4
11818                 if (u > 0xffffffff && ckWARN(WARN_PORTABLE))
11819                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
11820                                 "%s number > %s non-portable",
11821                                 Base, max);
11822 #endif
11823                 sv_setuv(sv, u);
11824             }
11825             if (just_zero && (PL_hints & HINT_NEW_INTEGER))
11826                 sv = new_constant(start, s - start, "integer",
11827                                   sv, NULL, NULL);
11828             else if (PL_hints & HINT_NEW_BINARY)
11829                 sv = new_constant(start, s - start, "binary", sv, NULL, NULL);
11830         }
11831         break;
11832
11833     /*
11834       handle decimal numbers.
11835       we're also sent here when we read a 0 as the first digit
11836     */
11837     case '1': case '2': case '3': case '4': case '5':
11838     case '6': case '7': case '8': case '9': case '.':
11839       decimal:
11840         d = PL_tokenbuf;
11841         e = PL_tokenbuf + sizeof PL_tokenbuf - 6; /* room for various punctuation */
11842         floatit = FALSE;
11843
11844         /* read next group of digits and _ and copy into d */
11845         while (isDIGIT(*s) || *s == '_') {
11846             /* skip underscores, checking for misplaced ones
11847                if -w is on
11848             */
11849             if (*s == '_') {
11850                 if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11851                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11852                                 "Misplaced _ in number");
11853                 lastub = s++;
11854             }
11855             else {
11856                 /* check for end of fixed-length buffer */
11857                 if (d >= e)
11858                     Perl_croak(aTHX_ number_too_long);
11859                 /* if we're ok, copy the character */
11860                 *d++ = *s++;
11861             }
11862         }
11863
11864         /* final misplaced underbar check */
11865         if (lastub && s == lastub + 1) {
11866             if (ckWARN(WARN_SYNTAX))
11867                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
11868         }
11869
11870         /* read a decimal portion if there is one.  avoid
11871            3..5 being interpreted as the number 3. followed
11872            by .5
11873         */
11874         if (*s == '.' && s[1] != '.') {
11875             floatit = TRUE;
11876             *d++ = *s++;
11877
11878             if (*s == '_') {
11879                 if (ckWARN(WARN_SYNTAX))
11880                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11881                                 "Misplaced _ in number");
11882                 lastub = s;
11883             }
11884
11885             /* copy, ignoring underbars, until we run out of digits.
11886             */
11887             for (; isDIGIT(*s) || *s == '_'; s++) {
11888                 /* fixed length buffer check */
11889                 if (d >= e)
11890                     Perl_croak(aTHX_ number_too_long);
11891                 if (*s == '_') {
11892                    if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11893                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11894                                    "Misplaced _ in number");
11895                    lastub = s;
11896                 }
11897                 else
11898                     *d++ = *s;
11899             }
11900             /* fractional part ending in underbar? */
11901             if (s[-1] == '_') {
11902                 if (ckWARN(WARN_SYNTAX))
11903                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11904                                 "Misplaced _ in number");
11905             }
11906             if (*s == '.' && isDIGIT(s[1])) {
11907                 /* oops, it's really a v-string, but without the "v" */
11908                 s = start;
11909                 goto vstring;
11910             }
11911         }
11912
11913         /* read exponent part, if present */
11914         if ((*s == 'e' || *s == 'E') && strchr("+-0123456789_", s[1])) {
11915             floatit = TRUE;
11916             s++;
11917
11918             /* regardless of whether user said 3E5 or 3e5, use lower 'e' */
11919             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
11920
11921             /* stray preinitial _ */
11922             if (*s == '_') {
11923                 if (ckWARN(WARN_SYNTAX))
11924                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11925                                 "Misplaced _ in number");
11926                 lastub = s++;
11927             }
11928
11929             /* allow positive or negative exponent */
11930             if (*s == '+' || *s == '-')
11931                 *d++ = *s++;
11932
11933             /* stray initial _ */
11934             if (*s == '_') {
11935                 if (ckWARN(WARN_SYNTAX))
11936                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11937                                 "Misplaced _ in number");
11938                 lastub = s++;
11939             }
11940
11941             /* read digits of exponent */
11942             while (isDIGIT(*s) || *s == '_') {
11943                 if (isDIGIT(*s)) {
11944                     if (d >= e)
11945                         Perl_croak(aTHX_ number_too_long);
11946                     *d++ = *s++;
11947                 }
11948                 else {
11949                    if (((lastub && s == lastub + 1) ||
11950                         (!isDIGIT(s[1]) && s[1] != '_'))
11951                     && ckWARN(WARN_SYNTAX))
11952                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11953                                    "Misplaced _ in number");
11954                    lastub = s++;
11955                 }
11956             }
11957         }
11958
11959
11960         /* make an sv from the string */
11961         sv = newSV(0);
11962
11963         /*
11964            We try to do an integer conversion first if no characters
11965            indicating "float" have been found.
11966          */
11967
11968         if (!floatit) {
11969             UV uv;
11970             const int flags = grok_number (PL_tokenbuf, d - PL_tokenbuf, &uv);
11971
11972             if (flags == IS_NUMBER_IN_UV) {
11973               if (uv <= IV_MAX)
11974                 sv_setiv(sv, uv); /* Prefer IVs over UVs. */
11975               else
11976                 sv_setuv(sv, uv);
11977             } else if (flags == (IS_NUMBER_IN_UV | IS_NUMBER_NEG)) {
11978               if (uv <= (UV) IV_MIN)
11979                 sv_setiv(sv, -(IV)uv);
11980               else
11981                 floatit = TRUE;
11982             } else
11983               floatit = TRUE;
11984         }
11985         if (floatit) {
11986             /* terminate the string */
11987             *d = '\0';
11988             nv = Atof(PL_tokenbuf);
11989             sv_setnv(sv, nv);
11990         }
11991
11992         if ( floatit ? (PL_hints & HINT_NEW_FLOAT) :
11993                        (PL_hints & HINT_NEW_INTEGER) )
11994             sv = new_constant(PL_tokenbuf, d - PL_tokenbuf,
11995                               (floatit ? "float" : "integer"),
11996                               sv, NULL, NULL);
11997         break;
11998
11999     /* if it starts with a v, it could be a v-string */
12000     case 'v':
12001 vstring:
12002                 sv = newSV(5); /* preallocate storage space */
12003                 s = scan_vstring(s,sv);
12004         break;
12005     }
12006
12007     /* make the op for the constant and return */
12008
12009     if (sv)
12010         lvalp->opval = newSVOP(OP_CONST, 0, sv);
12011     else
12012         lvalp->opval = NULL;
12013
12014     return (char *)s;
12015 }
12016
12017 STATIC char *
12018 S_scan_formline(pTHX_ register char *s)
12019 {
12020     dVAR;
12021     register char *eol;
12022     register char *t;
12023     SV * const stuff = newSVpvs("");
12024     bool needargs = FALSE;
12025     bool eofmt = FALSE;
12026 #ifdef PERL_MAD
12027     char *tokenstart = s;
12028     SV* savewhite;
12029
12030     if (PL_madskills) {
12031         savewhite = PL_thiswhite;
12032         PL_thiswhite = 0;
12033     }
12034 #endif
12035
12036     while (!needargs) {
12037         if (*s == '.') {
12038 #ifdef PERL_STRICT_CR
12039             for (t = s+1;SPACE_OR_TAB(*t); t++) ;
12040 #else
12041             for (t = s+1;SPACE_OR_TAB(*t) || *t == '\r'; t++) ;
12042 #endif
12043             if (*t == '\n' || t == PL_bufend) {
12044                 eofmt = TRUE;
12045                 break;
12046             }
12047         }
12048         if (PL_in_eval && !PL_rsfp) {
12049             eol = (char *) memchr(s,'\n',PL_bufend-s);
12050             if (!eol++)
12051                 eol = PL_bufend;
12052         }
12053         else
12054             eol = PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
12055         if (*s != '#') {
12056             for (t = s; t < eol; t++) {
12057                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
12058                     needargs = FALSE;
12059                     goto enough;        /* ~~ must be first line in formline */
12060                 }
12061                 if (*t == '@' || *t == '^')
12062                     needargs = TRUE;
12063             }
12064             if (eol > s) {
12065                 sv_catpvn(stuff, s, eol-s);
12066 #ifndef PERL_STRICT_CR
12067                 if (eol-s > 1 && eol[-2] == '\r' && eol[-1] == '\n') {
12068                     char *end = SvPVX(stuff) + SvCUR(stuff);
12069                     end[-2] = '\n';
12070                     end[-1] = '\0';
12071                     SvCUR_set(stuff, SvCUR(stuff) - 1);
12072                 }
12073 #endif
12074             }
12075             else
12076               break;
12077         }
12078         s = (char*)eol;
12079         if (PL_rsfp) {
12080 #ifdef PERL_MAD
12081             if (PL_madskills) {
12082                 if (PL_thistoken)
12083                     sv_catpvn(PL_thistoken, tokenstart, PL_bufend - tokenstart);
12084                 else
12085                     PL_thistoken = newSVpvn(tokenstart, PL_bufend - tokenstart);
12086             }
12087 #endif
12088             s = filter_gets(PL_linestr, PL_rsfp, 0);
12089 #ifdef PERL_MAD
12090             tokenstart = PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
12091 #else
12092             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
12093 #endif
12094             PL_bufend = PL_bufptr + SvCUR(PL_linestr);
12095             PL_last_lop = PL_last_uni = NULL;
12096             if (!s) {
12097                 s = PL_bufptr;
12098                 break;
12099             }
12100         }
12101         incline(s);
12102     }
12103   enough:
12104     if (SvCUR(stuff)) {
12105         PL_expect = XTERM;
12106         if (needargs) {
12107             PL_lex_state = LEX_NORMAL;
12108             start_force(PL_curforce);
12109             NEXTVAL_NEXTTOKE.ival = 0;
12110             force_next(',');
12111         }
12112         else
12113             PL_lex_state = LEX_FORMLINE;
12114         if (!IN_BYTES) {
12115             if (UTF && is_utf8_string((U8*)SvPVX_const(stuff), SvCUR(stuff)))
12116                 SvUTF8_on(stuff);
12117             else if (PL_encoding)
12118                 sv_recode_to_utf8(stuff, PL_encoding);
12119         }
12120         start_force(PL_curforce);
12121         NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0, stuff);
12122         force_next(THING);
12123         start_force(PL_curforce);
12124         NEXTVAL_NEXTTOKE.ival = OP_FORMLINE;
12125         force_next(LSTOP);
12126     }
12127     else {
12128         SvREFCNT_dec(stuff);
12129         if (eofmt)
12130             PL_lex_formbrack = 0;
12131         PL_bufptr = s;
12132     }
12133 #ifdef PERL_MAD
12134     if (PL_madskills) {
12135         if (PL_thistoken)
12136             sv_catpvn(PL_thistoken, tokenstart, s - tokenstart);
12137         else
12138             PL_thistoken = newSVpvn(tokenstart, s - tokenstart);
12139         PL_thiswhite = savewhite;
12140     }
12141 #endif
12142     return s;
12143 }
12144
12145 STATIC void
12146 S_set_csh(pTHX)
12147 {
12148 #ifdef CSH
12149     dVAR;
12150     if (!PL_cshlen)
12151         PL_cshlen = strlen(PL_cshname);
12152 #else
12153 #if defined(USE_ITHREADS)
12154     PERL_UNUSED_CONTEXT;
12155 #endif
12156 #endif
12157 }
12158
12159 I32
12160 Perl_start_subparse(pTHX_ I32 is_format, U32 flags)
12161 {
12162     dVAR;
12163     const I32 oldsavestack_ix = PL_savestack_ix;
12164     CV* const outsidecv = PL_compcv;
12165
12166     if (PL_compcv) {
12167         assert(SvTYPE(PL_compcv) == SVt_PVCV);
12168     }
12169     SAVEI32(PL_subline);
12170     save_item(PL_subname);
12171     SAVESPTR(PL_compcv);
12172
12173     PL_compcv = (CV*)newSV(0);
12174     sv_upgrade((SV *)PL_compcv, is_format ? SVt_PVFM : SVt_PVCV);
12175     CvFLAGS(PL_compcv) |= flags;
12176
12177     PL_subline = CopLINE(PL_curcop);
12178     CvPADLIST(PL_compcv) = pad_new(padnew_SAVE|padnew_SAVESUB);
12179     CvOUTSIDE(PL_compcv) = (CV*)SvREFCNT_inc_simple(outsidecv);
12180     CvOUTSIDE_SEQ(PL_compcv) = PL_cop_seqmax;
12181
12182     return oldsavestack_ix;
12183 }
12184
12185 #ifdef __SC__
12186 #pragma segment Perl_yylex
12187 #endif
12188 int
12189 Perl_yywarn(pTHX_ const char *s)
12190 {
12191     dVAR;
12192     PL_in_eval |= EVAL_WARNONLY;
12193     yyerror(s);
12194     PL_in_eval &= ~EVAL_WARNONLY;
12195     return 0;
12196 }
12197
12198 int
12199 Perl_yyerror(pTHX_ const char *s)
12200 {
12201     dVAR;
12202     const char *where = NULL;
12203     const char *context = NULL;
12204     int contlen = -1;
12205     SV *msg;
12206
12207     if (!yychar || (yychar == ';' && !PL_rsfp))
12208         where = "at EOF";
12209     else if (PL_oldoldbufptr && PL_bufptr > PL_oldoldbufptr &&
12210       PL_bufptr - PL_oldoldbufptr < 200 && PL_oldoldbufptr != PL_oldbufptr &&
12211       PL_oldbufptr != PL_bufptr) {
12212         /*
12213                 Only for NetWare:
12214                 The code below is removed for NetWare because it abends/crashes on NetWare
12215                 when the script has error such as not having the closing quotes like:
12216                     if ($var eq "value)
12217                 Checking of white spaces is anyway done in NetWare code.
12218         */
12219 #ifndef NETWARE
12220         while (isSPACE(*PL_oldoldbufptr))
12221             PL_oldoldbufptr++;
12222 #endif
12223         context = PL_oldoldbufptr;
12224         contlen = PL_bufptr - PL_oldoldbufptr;
12225     }
12226     else if (PL_oldbufptr && PL_bufptr > PL_oldbufptr &&
12227       PL_bufptr - PL_oldbufptr < 200 && PL_oldbufptr != PL_bufptr) {
12228         /*
12229                 Only for NetWare:
12230                 The code below is removed for NetWare because it abends/crashes on NetWare
12231                 when the script has error such as not having the closing quotes like:
12232                     if ($var eq "value)
12233                 Checking of white spaces is anyway done in NetWare code.
12234         */
12235 #ifndef NETWARE
12236         while (isSPACE(*PL_oldbufptr))
12237             PL_oldbufptr++;
12238 #endif
12239         context = PL_oldbufptr;
12240         contlen = PL_bufptr - PL_oldbufptr;
12241     }
12242     else if (yychar > 255)
12243         where = "next token ???";
12244     else if (yychar == -2) { /* YYEMPTY */
12245         if (PL_lex_state == LEX_NORMAL ||
12246            (PL_lex_state == LEX_KNOWNEXT && PL_lex_defer == LEX_NORMAL))
12247             where = "at end of line";
12248         else if (PL_lex_inpat)
12249             where = "within pattern";
12250         else
12251             where = "within string";
12252     }
12253     else {
12254         SV * const where_sv = sv_2mortal(newSVpvs("next char "));
12255         if (yychar < 32)
12256             Perl_sv_catpvf(aTHX_ where_sv, "^%c", toCTRL(yychar));
12257         else if (isPRINT_LC(yychar))
12258             Perl_sv_catpvf(aTHX_ where_sv, "%c", yychar);
12259         else
12260             Perl_sv_catpvf(aTHX_ where_sv, "\\%03o", yychar & 255);
12261         where = SvPVX_const(where_sv);
12262     }
12263     msg = sv_2mortal(newSVpv(s, 0));
12264     Perl_sv_catpvf(aTHX_ msg, " at %s line %"IVdf", ",
12265         OutCopFILE(PL_curcop), (IV)CopLINE(PL_curcop));
12266     if (context)
12267         Perl_sv_catpvf(aTHX_ msg, "near \"%.*s\"\n", contlen, context);
12268     else
12269         Perl_sv_catpvf(aTHX_ msg, "%s\n", where);
12270     if (PL_multi_start < PL_multi_end && (U32)(CopLINE(PL_curcop) - PL_multi_end) <= 1) {
12271         Perl_sv_catpvf(aTHX_ msg,
12272         "  (Might be a runaway multi-line %c%c string starting on line %"IVdf")\n",
12273                 (int)PL_multi_open,(int)PL_multi_close,(IV)PL_multi_start);
12274         PL_multi_end = 0;
12275     }
12276     if (PL_in_eval & EVAL_WARNONLY && ckWARN_d(WARN_SYNTAX))
12277         Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "%"SVf, (void*)msg);
12278     else
12279         qerror(msg);
12280     if (PL_error_count >= 10) {
12281         if (PL_in_eval && SvCUR(ERRSV))
12282             Perl_croak(aTHX_ "%"SVf"%s has too many errors.\n",
12283                        (void*)ERRSV, OutCopFILE(PL_curcop));
12284         else
12285             Perl_croak(aTHX_ "%s has too many errors.\n",
12286             OutCopFILE(PL_curcop));
12287     }
12288     PL_in_my = 0;
12289     PL_in_my_stash = NULL;
12290     return 0;
12291 }
12292 #ifdef __SC__
12293 #pragma segment Main
12294 #endif
12295
12296 STATIC char*
12297 S_swallow_bom(pTHX_ U8 *s)
12298 {
12299     dVAR;
12300     const STRLEN slen = SvCUR(PL_linestr);
12301     switch (s[0]) {
12302     case 0xFF:
12303         if (s[1] == 0xFE) {
12304             /* UTF-16 little-endian? (or UTF32-LE?) */
12305             if (s[2] == 0 && s[3] == 0)  /* UTF-32 little-endian */
12306                 Perl_croak(aTHX_ "Unsupported script encoding UTF32-LE");
12307 #ifndef PERL_NO_UTF16_FILTER
12308             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF16-LE script encoding (BOM)\n");
12309             s += 2;
12310         utf16le:
12311             if (PL_bufend > (char*)s) {
12312                 U8 *news;
12313                 I32 newlen;
12314
12315                 filter_add(utf16rev_textfilter, NULL);
12316                 Newx(news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
12317                 utf16_to_utf8_reversed(s, news,
12318                                        PL_bufend - (char*)s - 1,
12319                                        &newlen);
12320                 sv_setpvn(PL_linestr, (const char*)news, newlen);
12321 #ifdef PERL_MAD
12322                 s = (U8*)SvPVX(PL_linestr);
12323                 Copy(news, s, newlen, U8);
12324                 s[newlen] = '\0';
12325 #endif
12326                 Safefree(news);
12327                 SvUTF8_on(PL_linestr);
12328                 s = (U8*)SvPVX(PL_linestr);
12329 #ifdef PERL_MAD
12330                 /* FIXME - is this a general bug fix?  */
12331                 s[newlen] = '\0';
12332 #endif
12333                 PL_bufend = SvPVX(PL_linestr) + newlen;
12334             }
12335 #else
12336             Perl_croak(aTHX_ "Unsupported script encoding UTF16-LE");
12337 #endif
12338         }
12339         break;
12340     case 0xFE:
12341         if (s[1] == 0xFF) {   /* UTF-16 big-endian? */
12342 #ifndef PERL_NO_UTF16_FILTER
12343             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (BOM)\n");
12344             s += 2;
12345         utf16be:
12346             if (PL_bufend > (char *)s) {
12347                 U8 *news;
12348                 I32 newlen;
12349
12350                 filter_add(utf16_textfilter, NULL);
12351                 Newx(news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
12352                 utf16_to_utf8(s, news,
12353                               PL_bufend - (char*)s,
12354                               &newlen);
12355                 sv_setpvn(PL_linestr, (const char*)news, newlen);
12356                 Safefree(news);
12357                 SvUTF8_on(PL_linestr);
12358                 s = (U8*)SvPVX(PL_linestr);
12359                 PL_bufend = SvPVX(PL_linestr) + newlen;
12360             }
12361 #else
12362             Perl_croak(aTHX_ "Unsupported script encoding UTF16-BE");
12363 #endif
12364         }
12365         break;
12366     case 0xEF:
12367         if (slen > 2 && s[1] == 0xBB && s[2] == 0xBF) {
12368             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-8 script encoding (BOM)\n");
12369             s += 3;                      /* UTF-8 */
12370         }
12371         break;
12372     case 0:
12373         if (slen > 3) {
12374              if (s[1] == 0) {
12375                   if (s[2] == 0xFE && s[3] == 0xFF) {
12376                        /* UTF-32 big-endian */
12377                        Perl_croak(aTHX_ "Unsupported script encoding UTF32-BE");
12378                   }
12379              }
12380              else if (s[2] == 0 && s[3] != 0) {
12381                   /* Leading bytes
12382                    * 00 xx 00 xx
12383                    * are a good indicator of UTF-16BE. */
12384                   if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (no BOM)\n");
12385                   goto utf16be;
12386              }
12387         }
12388     default:
12389          if (slen > 3 && s[1] == 0 && s[2] != 0 && s[3] == 0) {
12390                   /* Leading bytes
12391                    * xx 00 xx 00
12392                    * are a good indicator of UTF-16LE. */
12393               if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16LE script encoding (no BOM)\n");
12394               goto utf16le;
12395          }
12396     }
12397     return (char*)s;
12398 }
12399
12400 /*
12401  * restore_rsfp
12402  * Restore a source filter.
12403  */
12404
12405 static void
12406 restore_rsfp(pTHX_ void *f)
12407 {
12408     dVAR;
12409     PerlIO * const fp = (PerlIO*)f;
12410
12411     if (PL_rsfp == PerlIO_stdin())
12412         PerlIO_clearerr(PL_rsfp);
12413     else if (PL_rsfp && (PL_rsfp != fp))
12414         PerlIO_close(PL_rsfp);
12415     PL_rsfp = fp;
12416 }
12417
12418 #ifndef PERL_NO_UTF16_FILTER
12419 static I32
12420 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen)
12421 {
12422     dVAR;
12423     const STRLEN old = SvCUR(sv);
12424     const I32 count = FILTER_READ(idx+1, sv, maxlen);
12425     DEBUG_P(PerlIO_printf(Perl_debug_log,
12426                           "utf16_textfilter(%p): %d %d (%d)\n",
12427                           FPTR2DPTR(void *, utf16_textfilter),
12428                           idx, maxlen, (int) count));
12429     if (count) {
12430         U8* tmps;
12431         I32 newlen;
12432         Newx(tmps, SvCUR(sv) * 3 / 2 + 1, U8);
12433         Copy(SvPVX_const(sv), tmps, old, char);
12434         utf16_to_utf8((U8*)SvPVX_const(sv) + old, tmps + old,
12435                       SvCUR(sv) - old, &newlen);
12436         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
12437     }
12438     DEBUG_P({sv_dump(sv);});
12439     return SvCUR(sv);
12440 }
12441
12442 static I32
12443 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen)
12444 {
12445     dVAR;
12446     const STRLEN old = SvCUR(sv);
12447     const I32 count = FILTER_READ(idx+1, sv, maxlen);
12448     DEBUG_P(PerlIO_printf(Perl_debug_log,
12449                           "utf16rev_textfilter(%p): %d %d (%d)\n",
12450                           FPTR2DPTR(void *, utf16rev_textfilter),
12451                           idx, maxlen, (int) count));
12452     if (count) {
12453         U8* tmps;
12454         I32 newlen;
12455         Newx(tmps, SvCUR(sv) * 3 / 2 + 1, U8);
12456         Copy(SvPVX_const(sv), tmps, old, char);
12457         utf16_to_utf8((U8*)SvPVX_const(sv) + old, tmps + old,
12458                       SvCUR(sv) - old, &newlen);
12459         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
12460     }
12461     DEBUG_P({ sv_dump(sv); });
12462     return count;
12463 }
12464 #endif
12465
12466 /*
12467 Returns a pointer to the next character after the parsed
12468 vstring, as well as updating the passed in sv.
12469
12470 Function must be called like
12471
12472         sv = newSV(5);
12473         s = scan_vstring(s,sv);
12474
12475 The sv should already be large enough to store the vstring
12476 passed in, for performance reasons.
12477
12478 */
12479
12480 char *
12481 Perl_scan_vstring(pTHX_ const char *s, SV *sv)
12482 {
12483     dVAR;
12484     const char *pos = s;
12485     const char *start = s;
12486     if (*pos == 'v') pos++;  /* get past 'v' */
12487     while (pos < PL_bufend && (isDIGIT(*pos) || *pos == '_'))
12488         pos++;
12489     if ( *pos != '.') {
12490         /* this may not be a v-string if followed by => */
12491         const char *next = pos;
12492         while (next < PL_bufend && isSPACE(*next))
12493             ++next;
12494         if ((PL_bufend - next) >= 2 && *next == '=' && next[1] == '>' ) {
12495             /* return string not v-string */
12496             sv_setpvn(sv,(char *)s,pos-s);
12497             return (char *)pos;
12498         }
12499     }
12500
12501     if (!isALPHA(*pos)) {
12502         U8 tmpbuf[UTF8_MAXBYTES+1];
12503
12504         if (*s == 'v')
12505             s++;  /* get past 'v' */
12506
12507         sv_setpvn(sv, "", 0);
12508
12509         for (;;) {
12510             /* this is atoi() that tolerates underscores */
12511             U8 *tmpend;
12512             UV rev = 0;
12513             const char *end = pos;
12514             UV mult = 1;
12515             while (--end >= s) {
12516                 if (*end != '_') {
12517                     const UV orev = rev;
12518                     rev += (*end - '0') * mult;
12519                     mult *= 10;
12520                     if (orev > rev && ckWARN_d(WARN_OVERFLOW))
12521                         Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
12522                                     "Integer overflow in decimal number");
12523                 }
12524             }
12525 #ifdef EBCDIC
12526             if (rev > 0x7FFFFFFF)
12527                  Perl_croak(aTHX_ "In EBCDIC the v-string components cannot exceed 2147483647");
12528 #endif
12529             /* Append native character for the rev point */
12530             tmpend = uvchr_to_utf8(tmpbuf, rev);
12531             sv_catpvn(sv, (const char*)tmpbuf, tmpend - tmpbuf);
12532             if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(rev)))
12533                  SvUTF8_on(sv);
12534             if (pos + 1 < PL_bufend && *pos == '.' && isDIGIT(pos[1]))
12535                  s = ++pos;
12536             else {
12537                  s = pos;
12538                  break;
12539             }
12540             while (pos < PL_bufend && (isDIGIT(*pos) || *pos == '_'))
12541                  pos++;
12542         }
12543         SvPOK_on(sv);
12544         sv_magic(sv,NULL,PERL_MAGIC_vstring,(const char*)start, pos-start);
12545         SvRMAGICAL_on(sv);
12546     }
12547     return (char *)s;
12548 }
12549
12550 /*
12551  * Local variables:
12552  * c-indentation-style: bsd
12553  * c-basic-offset: 4
12554  * indent-tabs-mode: t
12555  * End:
12556  *
12557  * ex: set ts=8 sts=4 sw=4 noet:
12558  */