toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
   4  *    2000, 2001, 2002, 2003, 2004, 2005, 2006, 2007, by Larry Wall and others
   5  *
   6  *    You may distribute under the terms of either the GNU General Public
   7  *    License or the Artistic License, as specified in the README file.
   8  *
   9  */
  10
  11 /*
  12  *   "It all comes from here, the stench and the peril."  --Frodo
  13  */
  14
  15 /*
  16  * This file is the lexer for Perl.  It's closely linked to the
  17  * parser, perly.y.
  18  *
  19  * The main routine is yylex(), which returns the next token.
  20  */
  21
  22 #include "EXTERN.h"
  23 #define PERL_IN_TOKE_C
  24 #include "perl.h"
  25
  26 #define new_constant(a,b,c,d,e,f,g)     \
  27         S_new_constant(aTHX_ a,b,STR_WITH_LEN(c),d,e,f, g)
  28
  29 #define yylval  (PL_parser->yylval)
  30
  31 /* YYINITDEPTH -- initial size of the parser's stacks.  */
  32 #define YYINITDEPTH 200
  33
  34 /* XXX temporary backwards compatibility */
  35 #define PL_lex_brackets         (PL_parser->lex_brackets)
  36 #define PL_lex_brackstack       (PL_parser->lex_brackstack)
  37 #define PL_lex_casemods         (PL_parser->lex_casemods)
  38 #define PL_lex_casestack        (PL_parser->lex_casestack)
  39 #define PL_lex_defer            (PL_parser->lex_defer)
  40 #define PL_lex_dojoin           (PL_parser->lex_dojoin)
  41 #define PL_lex_expect           (PL_parser->lex_expect)
  42 #define PL_lex_formbrack        (PL_parser->lex_formbrack)
  43 #define PL_lex_inpat            (PL_parser->lex_inpat)
  44 #define PL_lex_inwhat           (PL_parser->lex_inwhat)
  45 #define PL_lex_op               (PL_parser->lex_op)
  46 #define PL_lex_repl             (PL_parser->lex_repl)
  47 #define PL_lex_starts           (PL_parser->lex_starts)
  48 #define PL_lex_stuff            (PL_parser->lex_stuff)
  49 #define PL_multi_start          (PL_parser->multi_start)
  50 #define PL_multi_open           (PL_parser->multi_open)
  51 #define PL_multi_close          (PL_parser->multi_close)
  52 #define PL_pending_ident        (PL_parser->pending_ident)
  53 #define PL_preambled            (PL_parser->preambled)
  54 #define PL_sublex_info          (PL_parser->sublex_info)
  55 #define PL_linestr              (PL_parser->linestr)
  56 #define PL_expect               (PL_parser->expect)
  57 #define PL_copline              (PL_parser->copline)
  58 #define PL_bufptr               (PL_parser->bufptr)
  59 #define PL_oldbufptr            (PL_parser->oldbufptr)
  60 #define PL_oldoldbufptr         (PL_parser->oldoldbufptr)
  61 #define PL_linestart            (PL_parser->linestart)
  62 #define PL_bufend               (PL_parser->bufend)
  63 #define PL_last_uni             (PL_parser->last_uni)
  64 #define PL_last_lop             (PL_parser->last_lop)
  65 #define PL_last_lop_op          (PL_parser->last_lop_op)
  66 #define PL_lex_state            (PL_parser->lex_state)
  67 #define PL_rsfp                 (PL_parser->rsfp)
  68 #define PL_rsfp_filters         (PL_parser->rsfp_filters)
  69 #define PL_in_my                (PL_parser->in_my)
  70 #define PL_in_my_stash          (PL_parser->in_my_stash)
  71 #define PL_tokenbuf             (PL_parser->tokenbuf)
  72 #define PL_multi_end            (PL_parser->multi_end)
  73 #define PL_error_count          (PL_parser->error_count)
  74
  75 #ifdef PERL_MAD
  76 #  define PL_endwhite           (PL_parser->endwhite)
  77 #  define PL_faketokens         (PL_parser->faketokens)
  78 #  define PL_lasttoke           (PL_parser->lasttoke)
  79 #  define PL_nextwhite          (PL_parser->nextwhite)
  80 #  define PL_realtokenstart     (PL_parser->realtokenstart)
  81 #  define PL_skipwhite          (PL_parser->skipwhite)
  82 #  define PL_thisclose          (PL_parser->thisclose)
  83 #  define PL_thismad            (PL_parser->thismad)
  84 #  define PL_thisopen           (PL_parser->thisopen)
  85 #  define PL_thisstuff          (PL_parser->thisstuff)
  86 #  define PL_thistoken          (PL_parser->thistoken)
  87 #  define PL_thiswhite          (PL_parser->thiswhite)
  88 #  define PL_thiswhite          (PL_parser->thiswhite)
  89 #  define PL_nexttoke           (PL_parser->nexttoke)
  90 #  define PL_curforce           (PL_parser->curforce)
  91 #else
  92 #  define PL_nexttoke           (PL_parser->nexttoke)
  93 #  define PL_nexttype           (PL_parser->nexttype)
  94 #  define PL_nextval            (PL_parser->nextval)
  95 #endif
  96
  97 static int
  98 S_pending_ident(pTHX);
  99
 100 static const char ident_too_long[] = "Identifier too long";
 101 static const char commaless_variable_list[] = "comma-less variable list";
 102
 103 #ifndef PERL_NO_UTF16_FILTER
 104 static I32 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen);
 105 static I32 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen);
 106 #endif
 107
 108 #ifdef PERL_MAD
 109 #  define CURMAD(slot,sv) if (PL_madskills) { curmad(slot,sv); sv = 0; }
 110 #  define NEXTVAL_NEXTTOKE PL_nexttoke[PL_curforce].next_val
 111 #else
 112 #  define CURMAD(slot,sv)
 113 #  define NEXTVAL_NEXTTOKE PL_nextval[PL_nexttoke]
 114 #endif
 115
 116 #define XFAKEBRACK 128
 117 #define XENUMMASK 127
 118
 119 #ifdef USE_UTF8_SCRIPTS
 120 #   define UTF (!IN_BYTES)
 121 #else
 122 #   define UTF ((PL_linestr && DO_UTF8(PL_linestr)) || (PL_hints & HINT_UTF8))
 123 #endif
 124
 125 /* In variables named $^X, these are the legal values for X.
 126  * 1999-02-27 mjd-perl-patch@plover.com */
 127 #define isCONTROLVAR(x) (isUPPER(x) || strchr("[\\]^_?", (x)))
 128
 129 /* On MacOS, respect nonbreaking spaces */
 130 #ifdef MACOS_TRADITIONAL
 131 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\312'||(c)=='\t')
 132 #else
 133 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\t')
 134 #endif
 135
 136 /* LEX_* are values for PL_lex_state, the state of the lexer.
 137  * They are arranged oddly so that the guard on the switch statement
 138  * can get by with a single comparison (if the compiler is smart enough).
 139  */
 140
 141 /* #define LEX_NOTPARSING               11 is done in perl.h. */
 142
 143 #define LEX_NORMAL              10 /* normal code (ie not within "...")     */
 144 #define LEX_INTERPNORMAL         9 /* code within a string, eg "$foo[$x+1]" */
 145 #define LEX_INTERPCASEMOD        8 /* expecting a \U, \Q or \E etc          */
 146 #define LEX_INTERPPUSH           7 /* starting a new sublex parse level     */
 147 #define LEX_INTERPSTART          6 /* expecting the start of a $var         */
 148
 149                                    /* at end of code, eg "$x" followed by:  */
 150 #define LEX_INTERPEND            5 /* ... eg not one of [, { or ->          */
 151 #define LEX_INTERPENDMAYBE       4 /* ... eg one of [, { or ->              */
 152
 153 #define LEX_INTERPCONCAT         3 /* expecting anything, eg at start of
 154                                         string or after \E, $foo, etc       */
 155 #define LEX_INTERPCONST          2 /* NOT USED */
 156 #define LEX_FORMLINE             1 /* expecting a format line               */
 157 #define LEX_KNOWNEXT             0 /* next token known; just return it      */
 158
 159
 160 #ifdef DEBUGGING
 161 static const char* const lex_state_names[] = {
 162     "KNOWNEXT",
 163     "FORMLINE",
 164     "INTERPCONST",
 165     "INTERPCONCAT",
 166     "INTERPENDMAYBE",
 167     "INTERPEND",
 168     "INTERPSTART",
 169     "INTERPPUSH",
 170     "INTERPCASEMOD",
 171     "INTERPNORMAL",
 172     "NORMAL"
 173 };
 174 #endif
 175
 176 #ifdef ff_next
 177 #undef ff_next
 178 #endif
 179
 180 #include "keywords.h"
 181
 182 /* CLINE is a macro that ensures PL_copline has a sane value */
 183
 184 #ifdef CLINE
 185 #undef CLINE
 186 #endif
 187 #define CLINE (PL_copline = (CopLINE(PL_curcop) < PL_copline ? CopLINE(PL_curcop) : PL_copline))
 188
 189 #ifdef PERL_MAD
 190 #  define SKIPSPACE0(s) skipspace0(s)
 191 #  define SKIPSPACE1(s) skipspace1(s)
 192 #  define SKIPSPACE2(s,tsv) skipspace2(s,&tsv)
 193 #  define PEEKSPACE(s) skipspace2(s,0)
 194 #else
 195 #  define SKIPSPACE0(s) skipspace(s)
 196 #  define SKIPSPACE1(s) skipspace(s)
 197 #  define SKIPSPACE2(s,tsv) skipspace(s)
 198 #  define PEEKSPACE(s) skipspace(s)
 199 #endif
 200
 201 /*
 202  * Convenience functions to return different tokens and prime the
 203  * lexer for the next token.  They all take an argument.
 204  *
 205  * TOKEN        : generic token (used for '(', DOLSHARP, etc)
 206  * OPERATOR     : generic operator
 207  * AOPERATOR    : assignment operator
 208  * PREBLOCK     : beginning the block after an if, while, foreach, ...
 209  * PRETERMBLOCK : beginning a non-code-defining {} block (eg, hash ref)
 210  * PREREF       : *EXPR where EXPR is not a simple identifier
 211  * TERM         : expression term
 212  * LOOPX        : loop exiting command (goto, last, dump, etc)
 213  * FTST         : file test operator
 214  * FUN0         : zero-argument function
 215  * FUN1         : not used, except for not, which isn't a UNIOP
 216  * BOop         : bitwise or or xor
 217  * BAop         : bitwise and
 218  * SHop         : shift operator
 219  * PWop         : power operator
 220  * PMop         : pattern-matching operator
 221  * Aop          : addition-level operator
 222  * Mop          : multiplication-level operator
 223  * Eop          : equality-testing operator
 224  * Rop          : relational operator <= != gt
 225  *
 226  * Also see LOP and lop() below.
 227  */
 228
 229 #ifdef DEBUGGING /* Serve -DT. */
 230 #   define REPORT(retval) tokereport((I32)retval)
 231 #else
 232 #   define REPORT(retval) (retval)
 233 #endif
 234
 235 #define TOKEN(retval) return ( PL_bufptr = s, REPORT(retval))
 236 #define OPERATOR(retval) return (PL_expect = XTERM, PL_bufptr = s, REPORT(retval))
 237 #define AOPERATOR(retval) return ao((PL_expect = XTERM, PL_bufptr = s, REPORT(retval)))
 238 #define PREBLOCK(retval) return (PL_expect = XBLOCK,PL_bufptr = s, REPORT(retval))
 239 #define PRETERMBLOCK(retval) return (PL_expect = XTERMBLOCK,PL_bufptr = s, REPORT(retval))
 240 #define PREREF(retval) return (PL_expect = XREF,PL_bufptr = s, REPORT(retval))
 241 #define TERM(retval) return (CLINE, PL_expect = XOPERATOR, PL_bufptr = s, REPORT(retval))
 242 #define LOOPX(f) return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)LOOPEX))
 243 #define FTST(f)  return (yylval.ival=f, PL_expect=XTERMORDORDOR, PL_bufptr=s, REPORT((int)UNIOP))
 244 #define FUN0(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC0))
 245 #define FUN1(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC1))
 246 #define BOop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITOROP)))
 247 #define BAop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITANDOP)))
 248 #define SHop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)SHIFTOP)))
 249 #define PWop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)POWOP)))
 250 #define PMop(f)  return(yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MATCHOP))
 251 #define Aop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)ADDOP)))
 252 #define Mop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MULOP)))
 253 #define Eop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)EQOP))
 254 #define Rop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)RELOP))
 255
 256 /* This bit of chicanery makes a unary function followed by
 257  * a parenthesis into a function with one argument, highest precedence.
 258  * The UNIDOR macro is for unary functions that can be followed by the //
 259  * operator (such as C<shift // 0>).
 260  */
 261 #define UNI2(f,x) { \
 262         yylval.ival = f; \
 263         PL_expect = x; \
 264         PL_bufptr = s; \
 265         PL_last_uni = PL_oldbufptr; \
 266         PL_last_lop_op = f; \
 267         if (*s == '(') \
 268             return REPORT( (int)FUNC1 ); \
 269         s = PEEKSPACE(s); \
 270         return REPORT( *s=='(' ? (int)FUNC1 : (int)UNIOP ); \
 271         }
 272 #define UNI(f)    UNI2(f,XTERM)
 273 #define UNIDOR(f) UNI2(f,XTERMORDORDOR)
 274
 275 #define UNIBRACK(f) { \
 276         yylval.ival = f; \
 277         PL_bufptr = s; \
 278         PL_last_uni = PL_oldbufptr; \
 279         if (*s == '(') \
 280             return REPORT( (int)FUNC1 ); \
 281         s = PEEKSPACE(s); \
 282         return REPORT( (*s == '(') ? (int)FUNC1 : (int)UNIOP ); \
 283         }
 284
 285 /* grandfather return to old style */
 286 #define OLDLOP(f) return(yylval.ival=f,PL_expect = XTERM,PL_bufptr = s,(int)LSTOP)
 287
 288 #ifdef DEBUGGING
 289
 290 /* how to interpret the yylval associated with the token */
 291 enum token_type {
 292     TOKENTYPE_NONE,
 293     TOKENTYPE_IVAL,
 294     TOKENTYPE_OPNUM, /* yylval.ival contains an opcode number */
 295     TOKENTYPE_PVAL,
 296     TOKENTYPE_OPVAL,
 297     TOKENTYPE_GVVAL
 298 };
 299
 300 static struct debug_tokens {
 301     const int token;
 302     enum token_type type;
 303     const char *name;
 304 } const debug_tokens[] =
 305 {
 306     { ADDOP,            TOKENTYPE_OPNUM,        "ADDOP" },
 307     { ANDAND,           TOKENTYPE_NONE,         "ANDAND" },
 308     { ANDOP,            TOKENTYPE_NONE,         "ANDOP" },
 309     { ANONSUB,          TOKENTYPE_IVAL,         "ANONSUB" },
 310     { ARROW,            TOKENTYPE_NONE,         "ARROW" },
 311     { ASSIGNOP,         TOKENTYPE_OPNUM,        "ASSIGNOP" },
 312     { BITANDOP,         TOKENTYPE_OPNUM,        "BITANDOP" },
 313     { BITOROP,          TOKENTYPE_OPNUM,        "BITOROP" },
 314     { COLONATTR,        TOKENTYPE_NONE,         "COLONATTR" },
 315     { CONTINUE,         TOKENTYPE_NONE,         "CONTINUE" },
 316     { DEFAULT,          TOKENTYPE_NONE,         "DEFAULT" },
 317     { DO,               TOKENTYPE_NONE,         "DO" },
 318     { DOLSHARP,         TOKENTYPE_NONE,         "DOLSHARP" },
 319     { DORDOR,           TOKENTYPE_NONE,         "DORDOR" },
 320     { DOROP,            TOKENTYPE_OPNUM,        "DOROP" },
 321     { DOTDOT,           TOKENTYPE_IVAL,         "DOTDOT" },
 322     { ELSE,             TOKENTYPE_NONE,         "ELSE" },
 323     { ELSIF,            TOKENTYPE_IVAL,         "ELSIF" },
 324     { EQOP,             TOKENTYPE_OPNUM,        "EQOP" },
 325     { FOR,              TOKENTYPE_IVAL,         "FOR" },
 326     { FORMAT,           TOKENTYPE_NONE,         "FORMAT" },
 327     { FUNC,             TOKENTYPE_OPNUM,        "FUNC" },
 328     { FUNC0,            TOKENTYPE_OPNUM,        "FUNC0" },
 329     { FUNC0SUB,         TOKENTYPE_OPVAL,        "FUNC0SUB" },
 330     { FUNC1,            TOKENTYPE_OPNUM,        "FUNC1" },
 331     { FUNCMETH,         TOKENTYPE_OPVAL,        "FUNCMETH" },
 332     { GIVEN,            TOKENTYPE_IVAL,         "GIVEN" },
 333     { HASHBRACK,        TOKENTYPE_NONE,         "HASHBRACK" },
 334     { IF,               TOKENTYPE_IVAL,         "IF" },
 335     { LABEL,            TOKENTYPE_PVAL,         "LABEL" },
 336     { LOCAL,            TOKENTYPE_IVAL,         "LOCAL" },
 337     { LOOPEX,           TOKENTYPE_OPNUM,        "LOOPEX" },
 338     { LSTOP,            TOKENTYPE_OPNUM,        "LSTOP" },
 339     { LSTOPSUB,         TOKENTYPE_OPVAL,        "LSTOPSUB" },
 340     { MATCHOP,          TOKENTYPE_OPNUM,        "MATCHOP" },
 341     { METHOD,           TOKENTYPE_OPVAL,        "METHOD" },
 342     { MULOP,            TOKENTYPE_OPNUM,        "MULOP" },
 343     { MY,               TOKENTYPE_IVAL,         "MY" },
 344     { MYSUB,            TOKENTYPE_NONE,         "MYSUB" },
 345     { NOAMP,            TOKENTYPE_NONE,         "NOAMP" },
 346     { NOTOP,            TOKENTYPE_NONE,         "NOTOP" },
 347     { OROP,             TOKENTYPE_IVAL,         "OROP" },
 348     { OROR,             TOKENTYPE_NONE,         "OROR" },
 349     { PACKAGE,          TOKENTYPE_NONE,         "PACKAGE" },
 350     { PMFUNC,           TOKENTYPE_OPVAL,        "PMFUNC" },
 351     { POSTDEC,          TOKENTYPE_NONE,         "POSTDEC" },
 352     { POSTINC,          TOKENTYPE_NONE,         "POSTINC" },
 353     { POWOP,            TOKENTYPE_OPNUM,        "POWOP" },
 354     { PREDEC,           TOKENTYPE_NONE,         "PREDEC" },
 355     { PREINC,           TOKENTYPE_NONE,         "PREINC" },
 356     { PRIVATEREF,       TOKENTYPE_OPVAL,        "PRIVATEREF" },
 357     { REFGEN,           TOKENTYPE_NONE,         "REFGEN" },
 358     { RELOP,            TOKENTYPE_OPNUM,        "RELOP" },
 359     { SHIFTOP,          TOKENTYPE_OPNUM,        "SHIFTOP" },
 360     { SUB,              TOKENTYPE_NONE,         "SUB" },
 361     { THING,            TOKENTYPE_OPVAL,        "THING" },
 362     { UMINUS,           TOKENTYPE_NONE,         "UMINUS" },
 363     { UNIOP,            TOKENTYPE_OPNUM,        "UNIOP" },
 364     { UNIOPSUB,         TOKENTYPE_OPVAL,        "UNIOPSUB" },
 365     { UNLESS,           TOKENTYPE_IVAL,         "UNLESS" },
 366     { UNTIL,            TOKENTYPE_IVAL,         "UNTIL" },
 367     { USE,              TOKENTYPE_IVAL,         "USE" },
 368     { WHEN,             TOKENTYPE_IVAL,         "WHEN" },
 369     { WHILE,            TOKENTYPE_IVAL,         "WHILE" },
 370     { WORD,             TOKENTYPE_OPVAL,        "WORD" },
 371     { 0,                TOKENTYPE_NONE,         NULL }
 372 };
 373
 374 /* dump the returned token in rv, plus any optional arg in yylval */
 375
 376 STATIC int
 377 S_tokereport(pTHX_ I32 rv)
 378 {
 379     dVAR;
 380     if (DEBUG_T_TEST) {
 381         const char *name = NULL;
 382         enum token_type type = TOKENTYPE_NONE;
 383         const struct debug_tokens *p;
 384         SV* const report = newSVpvs("<== ");
 385
 386         for (p = debug_tokens; p->token; p++) {
 387             if (p->token == (int)rv) {
 388                 name = p->name;
 389                 type = p->type;
 390                 break;
 391             }
 392         }
 393         if (name)
 394             Perl_sv_catpv(aTHX_ report, name);
 395         else if ((char)rv > ' ' && (char)rv < '~')
 396             Perl_sv_catpvf(aTHX_ report, "'%c'", (char)rv);
 397         else if (!rv)
 398             sv_catpvs(report, "EOF");
 399         else
 400             Perl_sv_catpvf(aTHX_ report, "?? %"IVdf, (IV)rv);
 401         switch (type) {
 402         case TOKENTYPE_NONE:
 403         case TOKENTYPE_GVVAL: /* doesn't appear to be used */
 404             break;
 405         case TOKENTYPE_IVAL:
 406             Perl_sv_catpvf(aTHX_ report, "(ival=%"IVdf")", (IV)yylval.ival);
 407             break;
 408         case TOKENTYPE_OPNUM:
 409             Perl_sv_catpvf(aTHX_ report, "(ival=op_%s)",
 410                                     PL_op_name[yylval.ival]);
 411             break;
 412         case TOKENTYPE_PVAL:
 413             Perl_sv_catpvf(aTHX_ report, "(pval=\"%s\")", yylval.pval);
 414             break;
 415         case TOKENTYPE_OPVAL:
 416             if (yylval.opval) {
 417                 Perl_sv_catpvf(aTHX_ report, "(opval=op_%s)",
 418                                     PL_op_name[yylval.opval->op_type]);
 419                 if (yylval.opval->op_type == OP_CONST) {
 420                     Perl_sv_catpvf(aTHX_ report, " %s",
 421                         SvPEEK(cSVOPx_sv(yylval.opval)));
 422                 }
 423
 424             }
 425             else
 426                 sv_catpvs(report, "(opval=null)");
 427             break;
 428         }
 429         PerlIO_printf(Perl_debug_log, "### %s\n\n", SvPV_nolen_const(report));
 430     };
 431     return (int)rv;
 432 }
 433
 434
 435 /* print the buffer with suitable escapes */
 436
 437 STATIC void
 438 S_printbuf(pTHX_ const char* fmt, const char* s)
 439 {
 440     SV* const tmp = newSVpvs("");
 441     PerlIO_printf(Perl_debug_log, fmt, pv_display(tmp, s, strlen(s), 0, 60));
 442     SvREFCNT_dec(tmp);
 443 }
 444
 445 #endif
 446
 447 /*
 448  * S_ao
 449  *
 450  * This subroutine detects &&=, ||=, and //= and turns an ANDAND, OROR or DORDOR
 451  * into an OP_ANDASSIGN, OP_ORASSIGN, or OP_DORASSIGN
 452  */
 453
 454 STATIC int
 455 S_ao(pTHX_ int toketype)
 456 {
 457     dVAR;
 458     if (*PL_bufptr == '=') {
 459         PL_bufptr++;
 460         if (toketype == ANDAND)
 461             yylval.ival = OP_ANDASSIGN;
 462         else if (toketype == OROR)
 463             yylval.ival = OP_ORASSIGN;
 464         else if (toketype == DORDOR)
 465             yylval.ival = OP_DORASSIGN;
 466         toketype = ASSIGNOP;
 467     }
 468     return toketype;
 469 }
 470
 471 /*
 472  * S_no_op
 473  * When Perl expects an operator and finds something else, no_op
 474  * prints the warning.  It always prints "<something> found where
 475  * operator expected.  It prints "Missing semicolon on previous line?"
 476  * if the surprise occurs at the start of the line.  "do you need to
 477  * predeclare ..." is printed out for code like "sub bar; foo bar $x"
 478  * where the compiler doesn't know if foo is a method call or a function.
 479  * It prints "Missing operator before end of line" if there's nothing
 480  * after the missing operator, or "... before <...>" if there is something
 481  * after the missing operator.
 482  */
 483
 484 STATIC void
 485 S_no_op(pTHX_ const char *what, char *s)
 486 {
 487     dVAR;
 488     char * const oldbp = PL_bufptr;
 489     const bool is_first = (PL_oldbufptr == PL_linestart);
 490
 491     if (!s)
 492         s = oldbp;
 493     else
 494         PL_bufptr = s;
 495     yywarn(Perl_form(aTHX_ "%s found where operator expected", what));
 496     if (ckWARN_d(WARN_SYNTAX)) {
 497         if (is_first)
 498             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 499                     "\t(Missing semicolon on previous line?)\n");
 500         else if (PL_oldoldbufptr && isIDFIRST_lazy_if(PL_oldoldbufptr,UTF)) {
 501             const char *t;
 502             for (t = PL_oldoldbufptr; (isALNUM_lazy_if(t,UTF) || *t == ':'); t++)
 503                 NOOP;
 504             if (t < PL_bufptr && isSPACE(*t))
 505                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 506                         "\t(Do you need to predeclare %.*s?)\n",
 507                     (int)(t - PL_oldoldbufptr), PL_oldoldbufptr);
 508         }
 509         else {
 510             assert(s >= oldbp);
 511             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 512                     "\t(Missing operator before %.*s?)\n", (int)(s - oldbp), oldbp);
 513         }
 514     }
 515     PL_bufptr = oldbp;
 516 }
 517
 518 /*
 519  * S_missingterm
 520  * Complain about missing quote/regexp/heredoc terminator.
 521  * If it's called with NULL then it cauterizes the line buffer.
 522  * If we're in a delimited string and the delimiter is a control
 523  * character, it's reformatted into a two-char sequence like ^C.
 524  * This is fatal.
 525  */
 526
 527 STATIC void
 528 S_missingterm(pTHX_ char *s)
 529 {
 530     dVAR;
 531     char tmpbuf[3];
 532     char q;
 533     if (s) {
 534         char * const nl = strrchr(s,'\n');
 535         if (nl)
 536             *nl = '\0';
 537     }
 538     else if (
 539 #ifdef EBCDIC
 540         iscntrl(PL_multi_close)
 541 #else
 542         PL_multi_close < 32 || PL_multi_close == 127
 543 #endif
 544         ) {
 545         *tmpbuf = '^';
 546         tmpbuf[1] = (char)toCTRL(PL_multi_close);
 547         tmpbuf[2] = '\0';
 548         s = tmpbuf;
 549     }
 550     else {
 551         *tmpbuf = (char)PL_multi_close;
 552         tmpbuf[1] = '\0';
 553         s = tmpbuf;
 554     }
 555     q = strchr(s,'"') ? '\'' : '"';
 556     Perl_croak(aTHX_ "Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 557 }
 558
 559 #define FEATURE_IS_ENABLED(name)                                        \
 560         ((0 != (PL_hints & HINT_LOCALIZE_HH))                           \
 561             && S_feature_is_enabled(aTHX_ STR_WITH_LEN(name)))
 562 /* The longest string we pass in.  */
 563 #define MAX_FEATURE_LEN (sizeof("switch")-1)
 564
 565 /*
 566  * S_feature_is_enabled
 567  * Check whether the named feature is enabled.
 568  */
 569 STATIC bool
 570 S_feature_is_enabled(pTHX_ const char *name, STRLEN namelen)
 571 {
 572     dVAR;
 573     HV * const hinthv = GvHV(PL_hintgv);
 574     char he_name[8 + MAX_FEATURE_LEN] = "feature_";
 575     assert(namelen <= MAX_FEATURE_LEN);
 576     memcpy(&he_name[8], name, namelen);
 577
 578     return (hinthv && hv_exists(hinthv, he_name, 8 + namelen));
 579 }
 580
 581 /*
 582  * Perl_deprecate
 583  */
 584
 585 void
 586 Perl_deprecate(pTHX_ const char *s)
 587 {
 588     if (ckWARN(WARN_DEPRECATED))
 589         Perl_warner(aTHX_ packWARN(WARN_DEPRECATED), "Use of %s is deprecated", s);
 590 }
 591
 592 void
 593 Perl_deprecate_old(pTHX_ const char *s)
 594 {
 595     /* This function should NOT be called for any new deprecated warnings */
 596     /* Use Perl_deprecate instead                                         */
 597     /*                                                                    */
 598     /* It is here to maintain backward compatibility with the pre-5.8     */
 599     /* warnings category hierarchy. The "deprecated" category used to     */
 600     /* live under the "syntax" category. It is now a top-level category   */
 601     /* in its own right.                                                  */
 602
 603     if (ckWARN2(WARN_DEPRECATED, WARN_SYNTAX))
 604         Perl_warner(aTHX_ packWARN2(WARN_DEPRECATED, WARN_SYNTAX),
 605                         "Use of %s is deprecated", s);
 606 }
 607
 608 /*
 609  * experimental text filters for win32 carriage-returns, utf16-to-utf8 and
 610  * utf16-to-utf8-reversed.
 611  */
 612
 613 #ifdef PERL_CR_FILTER
 614 static void
 615 strip_return(SV *sv)
 616 {
 617     register const char *s = SvPVX_const(sv);
 618     register const char * const e = s + SvCUR(sv);
 619     /* outer loop optimized to do nothing if there are no CR-LFs */
 620     while (s < e) {
 621         if (*s++ == '\r' && *s == '\n') {
 622             /* hit a CR-LF, need to copy the rest */
 623             register char *d = s - 1;
 624             *d++ = *s++;
 625             while (s < e) {
 626                 if (*s == '\r' && s[1] == '\n')
 627                     s++;
 628                 *d++ = *s++;
 629             }
 630             SvCUR(sv) -= s - d;
 631             return;
 632         }
 633     }
 634 }
 635
 636 STATIC I32
 637 S_cr_textfilter(pTHX_ int idx, SV *sv, int maxlen)
 638 {
 639     const I32 count = FILTER_READ(idx+1, sv, maxlen);
 640     if (count > 0 && !maxlen)
 641         strip_return(sv);
 642     return count;
 643 }
 644 #endif
 645
 646
 647
 648 /*
 649  * Perl_lex_start
 650  *
 651  * Create a parser object and initialise its parser and lexer fields
 652  *
 653  * rsfp       is the opened file handle to read from (if any),
 654  *
 655  * line       holds any initial content already read from the file (or in
 656  *            the case of no file, such as an eval, the whole contents);
 657  *
 658  * new_filter indicates that this is a new file and it shouldn't inherit
 659  *            the filters from the current parser (ie require).
 660  */
 661
 662 void
 663 Perl_lex_start(pTHX_ SV *line, PerlIO *rsfp, bool new_filter)
 664 {
 665     dVAR;
 666     const char *s = NULL;
 667     STRLEN len;
 668     yy_parser *parser, *oparser;
 669
 670     /* create and initialise a parser */
 671
 672     Newxz(parser, 1, yy_parser);
 673     parser->old_parser = oparser = PL_parser;
 674     PL_parser = parser;
 675
 676     Newx(parser->stack, YYINITDEPTH, yy_stack_frame);
 677     parser->ps = parser->stack;
 678     parser->stack_size = YYINITDEPTH;
 679
 680     parser->stack->state = 0;
 681     parser->yyerrstatus = 0;
 682     parser->yychar = YYEMPTY;           /* Cause a token to be read.  */
 683
 684     /* on scope exit, free this parser and restore any outer one */
 685     SAVEPARSER(parser);
 686     parser->saved_curcop = PL_curcop;
 687
 688     /* initialise lexer state */
 689
 690 #ifdef PERL_MAD
 691     parser->curforce = -1;
 692 #else
 693     parser->nexttoke = 0;
 694 #endif
 695     parser->copline = NOLINE;
 696     parser->lex_state = LEX_NORMAL;
 697     parser->expect = XSTATE;
 698     parser->rsfp = rsfp;
 699     parser->rsfp_filters = (new_filter || !oparser) ? newAV()
 700                 : (AV*)SvREFCNT_inc(oparser->rsfp_filters);
 701
 702     Newx(parser->lex_brackstack, 120, char);
 703     Newx(parser->lex_casestack, 12, char);
 704     *parser->lex_casestack = '\0';
 705
 706     if (line) {
 707         s = SvPV_const(line, len);
 708     } else {
 709         len = 0;
 710     }
 711
 712     if (!len) {
 713         parser->linestr = newSVpvs("\n;");
 714     } else if (SvREADONLY(line) || s[len-1] != ';') {
 715         parser->linestr = newSVsv(line);
 716         if (s[len-1] != ';')
 717             sv_catpvs(parser->linestr, "\n;");
 718     } else {
 719         SvTEMP_off(line);
 720         SvREFCNT_inc_simple_void_NN(line);
 721         parser->linestr = line;
 722     }
 723     parser->oldoldbufptr =
 724         parser->oldbufptr =
 725         parser->bufptr =
 726         parser->linestart = SvPVX(parser->linestr);
 727     parser->bufend = parser->bufptr + SvCUR(parser->linestr);
 728     parser->last_lop = parser->last_uni = NULL;
 729 }
 730
 731
 732 /* delete a parser object */
 733
 734 void
 735 Perl_parser_free(pTHX_  const yy_parser *parser)
 736 {
 737     PL_curcop = parser->saved_curcop;
 738     SvREFCNT_dec(parser->linestr);
 739
 740     if (parser->rsfp == PerlIO_stdin())
 741         PerlIO_clearerr(parser->rsfp);
 742     else if (parser->rsfp && parser->old_parser
 743                           && parser->rsfp != parser->old_parser->rsfp)
 744         PerlIO_close(parser->rsfp);
 745     SvREFCNT_dec(parser->rsfp_filters);
 746
 747     Safefree(parser->stack);
 748     Safefree(parser->lex_brackstack);
 749     Safefree(parser->lex_casestack);
 750     PL_parser = parser->old_parser;
 751     Safefree(parser);
 752 }
 753
 754
 755 /*
 756  * Perl_lex_end
 757  * Finalizer for lexing operations.  Must be called when the parser is
 758  * done with the lexer.
 759  */
 760
 761 void
 762 Perl_lex_end(pTHX)
 763 {
 764     dVAR;
 765     PL_doextract = FALSE;
 766 }
 767
 768 /*
 769  * S_incline
 770  * This subroutine has nothing to do with tilting, whether at windmills
 771  * or pinball tables.  Its name is short for "increment line".  It
 772  * increments the current line number in CopLINE(PL_curcop) and checks
 773  * to see whether the line starts with a comment of the form
 774  *    # line 500 "foo.pm"
 775  * If so, it sets the current line number and file to the values in the comment.
 776  */
 777
 778 STATIC void
 779 S_incline(pTHX_ const char *s)
 780 {
 781     dVAR;
 782     const char *t;
 783     const char *n;
 784     const char *e;
 785
 786     CopLINE_inc(PL_curcop);
 787     if (*s++ != '#')
 788         return;
 789     while (SPACE_OR_TAB(*s))
 790         s++;
 791     if (strnEQ(s, "line", 4))
 792         s += 4;
 793     else
 794         return;
 795     if (SPACE_OR_TAB(*s))
 796         s++;
 797     else
 798         return;
 799     while (SPACE_OR_TAB(*s))
 800         s++;
 801     if (!isDIGIT(*s))
 802         return;
 803
 804     n = s;
 805     while (isDIGIT(*s))
 806         s++;
 807     while (SPACE_OR_TAB(*s))
 808         s++;
 809     if (*s == '"' && (t = strchr(s+1, '"'))) {
 810         s++;
 811         e = t + 1;
 812     }
 813     else {
 814         t = s;
 815         while (!isSPACE(*t))
 816             t++;
 817         e = t;
 818     }
 819     while (SPACE_OR_TAB(*e) || *e == '\r' || *e == '\f')
 820         e++;
 821     if (*e != '\n' && *e != '\0')
 822         return;         /* false alarm */
 823
 824     if (t - s > 0) {
 825         const STRLEN len = t - s;
 826 #ifndef USE_ITHREADS
 827         const char * const cf = CopFILE(PL_curcop);
 828         STRLEN tmplen = cf ? strlen(cf) : 0;
 829         if (tmplen > 7 && strnEQ(cf, "(eval ", 6)) {
 830             /* must copy *{"::_<(eval N)[oldfilename:L]"}
 831              * to *{"::_<newfilename"} */
 832             /* However, the long form of evals is only turned on by the
 833                debugger - usually they're "(eval %lu)" */
 834             char smallbuf[128];
 835             char *tmpbuf;
 836             GV **gvp;
 837             STRLEN tmplen2 = len;
 838             if (tmplen + 2 <= sizeof smallbuf)
 839                 tmpbuf = smallbuf;
 840             else
 841                 Newx(tmpbuf, tmplen + 2, char);
 842             tmpbuf[0] = '_';
 843             tmpbuf[1] = '<';
 844             memcpy(tmpbuf + 2, cf, tmplen);
 845             tmplen += 2;
 846             gvp = (GV**)hv_fetch(PL_defstash, tmpbuf, tmplen, FALSE);
 847             if (gvp) {
 848                 char *tmpbuf2;
 849                 GV *gv2;
 850
 851                 if (tmplen2 + 2 <= sizeof smallbuf)
 852                     tmpbuf2 = smallbuf;
 853                 else
 854                     Newx(tmpbuf2, tmplen2 + 2, char);
 855
 856                 if (tmpbuf2 != smallbuf || tmpbuf != smallbuf) {
 857                     /* Either they malloc'd it, or we malloc'd it,
 858                        so no prefix is present in ours.  */
 859                     tmpbuf2[0] = '_';
 860                     tmpbuf2[1] = '<';
 861                 }
 862
 863                 memcpy(tmpbuf2 + 2, s, tmplen2);
 864                 tmplen2 += 2;
 865
 866                 gv2 = *(GV**)hv_fetch(PL_defstash, tmpbuf2, tmplen2, TRUE);
 867                 if (!isGV(gv2)) {
 868                     gv_init(gv2, PL_defstash, tmpbuf2, tmplen2, FALSE);
 869                     /* adjust ${"::_<newfilename"} to store the new file name */
 870                     GvSV(gv2) = newSVpvn(tmpbuf2 + 2, tmplen2 - 2);
 871                     GvHV(gv2) = (HV*)SvREFCNT_inc(GvHV(*gvp));
 872                     GvAV(gv2) = (AV*)SvREFCNT_inc(GvAV(*gvp));
 873                 }
 874
 875                 if (tmpbuf2 != smallbuf) Safefree(tmpbuf2);
 876             }
 877             if (tmpbuf != smallbuf) Safefree(tmpbuf);
 878         }
 879 #endif
 880         CopFILE_free(PL_curcop);
 881         CopFILE_setn(PL_curcop, s, len);
 882     }
 883     CopLINE_set(PL_curcop, atoi(n)-1);
 884 }
 885
 886 #ifdef PERL_MAD
 887 /* skip space before PL_thistoken */
 888
 889 STATIC char *
 890 S_skipspace0(pTHX_ register char *s)
 891 {
 892     s = skipspace(s);
 893     if (!PL_madskills)
 894         return s;
 895     if (PL_skipwhite) {
 896         if (!PL_thiswhite)
 897             PL_thiswhite = newSVpvs("");
 898         sv_catsv(PL_thiswhite, PL_skipwhite);
 899         sv_free(PL_skipwhite);
 900         PL_skipwhite = 0;
 901     }
 902     PL_realtokenstart = s - SvPVX(PL_linestr);
 903     return s;
 904 }
 905
 906 /* skip space after PL_thistoken */
 907
 908 STATIC char *
 909 S_skipspace1(pTHX_ register char *s)
 910 {
 911     const char *start = s;
 912     I32 startoff = start - SvPVX(PL_linestr);
 913
 914     s = skipspace(s);
 915     if (!PL_madskills)
 916         return s;
 917     start = SvPVX(PL_linestr) + startoff;
 918     if (!PL_thistoken && PL_realtokenstart >= 0) {
 919         const char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
 920         PL_thistoken = newSVpvn(tstart, start - tstart);
 921     }
 922     PL_realtokenstart = -1;
 923     if (PL_skipwhite) {
 924         if (!PL_nextwhite)
 925             PL_nextwhite = newSVpvs("");
 926         sv_catsv(PL_nextwhite, PL_skipwhite);
 927         sv_free(PL_skipwhite);
 928         PL_skipwhite = 0;
 929     }
 930     return s;
 931 }
 932
 933 STATIC char *
 934 S_skipspace2(pTHX_ register char *s, SV **svp)
 935 {
 936     char *start;
 937     const I32 bufptroff = PL_bufptr - SvPVX(PL_linestr);
 938     const I32 startoff = s - SvPVX(PL_linestr);
 939
 940     s = skipspace(s);
 941     PL_bufptr = SvPVX(PL_linestr) + bufptroff;
 942     if (!PL_madskills || !svp)
 943         return s;
 944     start = SvPVX(PL_linestr) + startoff;
 945     if (!PL_thistoken && PL_realtokenstart >= 0) {
 946         char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
 947         PL_thistoken = newSVpvn(tstart, start - tstart);
 948         PL_realtokenstart = -1;
 949     }
 950     if (PL_skipwhite) {
 951         if (!*svp)
 952             *svp = newSVpvs("");
 953         sv_setsv(*svp, PL_skipwhite);
 954         sv_free(PL_skipwhite);
 955         PL_skipwhite = 0;
 956     }
 957
 958     return s;
 959 }
 960 #endif
 961
 962 STATIC void
 963 S_update_debugger_info(pTHX_ SV *orig_sv, const char *buf, STRLEN len)
 964 {
 965     AV *av = CopFILEAVx(PL_curcop);
 966     if (av) {
 967         SV * const sv = newSV_type(SVt_PVMG);
 968         if (orig_sv)
 969             sv_setsv(sv, orig_sv);
 970         else
 971             sv_setpvn(sv, buf, len);
 972         (void)SvIOK_on(sv);
 973         SvIV_set(sv, 0);
 974         av_store(av, (I32)CopLINE(PL_curcop), sv);
 975     }
 976 }
 977
 978 /*
 979  * S_skipspace
 980  * Called to gobble the appropriate amount and type of whitespace.
 981  * Skips comments as well.
 982  */
 983
 984 STATIC char *
 985 S_skipspace(pTHX_ register char *s)
 986 {
 987     dVAR;
 988 #ifdef PERL_MAD
 989     int curoff;
 990     int startoff = s - SvPVX(PL_linestr);
 991
 992     if (PL_skipwhite) {
 993         sv_free(PL_skipwhite);
 994         PL_skipwhite = 0;
 995     }
 996 #endif
 997
 998     if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
 999         while (s < PL_bufend && SPACE_OR_TAB(*s))
1000             s++;
1001 #ifdef PERL_MAD
1002         goto done;
1003 #else
1004         return s;
1005 #endif
1006     }
1007     for (;;) {
1008         STRLEN prevlen;
1009         SSize_t oldprevlen, oldoldprevlen;
1010         SSize_t oldloplen = 0, oldunilen = 0;
1011         while (s < PL_bufend && isSPACE(*s)) {
1012             if (*s++ == '\n' && PL_in_eval && !PL_rsfp)
1013                 incline(s);
1014         }
1015
1016         /* comment */
1017         if (s < PL_bufend && *s == '#') {
1018             while (s < PL_bufend && *s != '\n')
1019                 s++;
1020             if (s < PL_bufend) {
1021                 s++;
1022                 if (PL_in_eval && !PL_rsfp) {
1023                     incline(s);
1024                     continue;
1025                 }
1026             }
1027         }
1028
1029         /* only continue to recharge the buffer if we're at the end
1030          * of the buffer, we're not reading from a source filter, and
1031          * we're in normal lexing mode
1032          */
1033         if (s < PL_bufend || !PL_rsfp || PL_sublex_info.sub_inwhat ||
1034                 PL_lex_state == LEX_FORMLINE)
1035 #ifdef PERL_MAD
1036             goto done;
1037 #else
1038             return s;
1039 #endif
1040
1041         /* try to recharge the buffer */
1042 #ifdef PERL_MAD
1043         curoff = s - SvPVX(PL_linestr);
1044 #endif
1045
1046         if ((s = filter_gets(PL_linestr, PL_rsfp,
1047                              (prevlen = SvCUR(PL_linestr)))) == NULL)
1048         {
1049 #ifdef PERL_MAD
1050             if (PL_madskills && curoff != startoff) {
1051                 if (!PL_skipwhite)
1052                     PL_skipwhite = newSVpvs("");
1053                 sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
1054                                         curoff - startoff);
1055             }
1056
1057             /* mustn't throw out old stuff yet if madpropping */
1058             SvCUR(PL_linestr) = curoff;
1059             s = SvPVX(PL_linestr) + curoff;
1060             *s = 0;
1061             if (curoff && s[-1] == '\n')
1062                 s[-1] = ' ';
1063 #endif
1064
1065             /* end of file.  Add on the -p or -n magic */
1066             /* XXX these shouldn't really be added here, can't set PL_faketokens */
1067             if (PL_minus_p) {
1068 #ifdef PERL_MAD
1069                 sv_catpvs(PL_linestr,
1070                          ";}continue{print or die qq(-p destination: $!\\n);}");
1071 #else
1072                 sv_setpvs(PL_linestr,
1073                          ";}continue{print or die qq(-p destination: $!\\n);}");
1074 #endif
1075                 PL_minus_n = PL_minus_p = 0;
1076             }
1077             else if (PL_minus_n) {
1078 #ifdef PERL_MAD
1079                 sv_catpvn(PL_linestr, ";}", 2);
1080 #else
1081                 sv_setpvn(PL_linestr, ";}", 2);
1082 #endif
1083                 PL_minus_n = 0;
1084             }
1085             else
1086 #ifdef PERL_MAD
1087                 sv_catpvn(PL_linestr,";", 1);
1088 #else
1089                 sv_setpvn(PL_linestr,";", 1);
1090 #endif
1091
1092             /* reset variables for next time we lex */
1093             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart
1094                 = SvPVX(PL_linestr)
1095 #ifdef PERL_MAD
1096                 + curoff
1097 #endif
1098                 ;
1099             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
1100             PL_last_lop = PL_last_uni = NULL;
1101
1102             /* Close the filehandle.  Could be from -P preprocessor,
1103              * STDIN, or a regular file.  If we were reading code from
1104              * STDIN (because the commandline held no -e or filename)
1105              * then we don't close it, we reset it so the code can
1106              * read from STDIN too.
1107              */
1108
1109             if (PL_preprocess && !PL_in_eval)
1110                 (void)PerlProc_pclose(PL_rsfp);
1111             else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
1112                 PerlIO_clearerr(PL_rsfp);
1113             else
1114                 (void)PerlIO_close(PL_rsfp);
1115             PL_rsfp = NULL;
1116             return s;
1117         }
1118
1119         /* not at end of file, so we only read another line */
1120         /* make corresponding updates to old pointers, for yyerror() */
1121         oldprevlen = PL_oldbufptr - PL_bufend;
1122         oldoldprevlen = PL_oldoldbufptr - PL_bufend;
1123         if (PL_last_uni)
1124             oldunilen = PL_last_uni - PL_bufend;
1125         if (PL_last_lop)
1126             oldloplen = PL_last_lop - PL_bufend;
1127         PL_linestart = PL_bufptr = s + prevlen;
1128         PL_bufend = s + SvCUR(PL_linestr);
1129         s = PL_bufptr;
1130         PL_oldbufptr = s + oldprevlen;
1131         PL_oldoldbufptr = s + oldoldprevlen;
1132         if (PL_last_uni)
1133             PL_last_uni = s + oldunilen;
1134         if (PL_last_lop)
1135             PL_last_lop = s + oldloplen;
1136         incline(s);
1137
1138         /* debugger active and we're not compiling the debugger code,
1139          * so store the line into the debugger's array of lines
1140          */
1141         if (PERLDB_LINE && PL_curstash != PL_debstash)
1142             update_debugger_info(NULL, PL_bufptr, PL_bufend - PL_bufptr);
1143     }
1144
1145 #ifdef PERL_MAD
1146   done:
1147     if (PL_madskills) {
1148         if (!PL_skipwhite)
1149             PL_skipwhite = newSVpvs("");
1150         curoff = s - SvPVX(PL_linestr);
1151         if (curoff - startoff)
1152             sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
1153                                 curoff - startoff);
1154     }
1155     return s;
1156 #endif
1157 }
1158
1159 /*
1160  * S_check_uni
1161  * Check the unary operators to ensure there's no ambiguity in how they're
1162  * used.  An ambiguous piece of code would be:
1163  *     rand + 5
1164  * This doesn't mean rand() + 5.  Because rand() is a unary operator,
1165  * the +5 is its argument.
1166  */
1167
1168 STATIC void
1169 S_check_uni(pTHX)
1170 {
1171     dVAR;
1172     const char *s;
1173     const char *t;
1174
1175     if (PL_oldoldbufptr != PL_last_uni)
1176         return;
1177     while (isSPACE(*PL_last_uni))
1178         PL_last_uni++;
1179     s = PL_last_uni;
1180     while (isALNUM_lazy_if(s,UTF) || *s == '-')
1181         s++;
1182     if ((t = strchr(s, '(')) && t < PL_bufptr)
1183         return;
1184
1185     if (ckWARN_d(WARN_AMBIGUOUS)){
1186         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
1187                    "Warning: Use of \"%.*s\" without parentheses is ambiguous",
1188                    (int)(s - PL_last_uni), PL_last_uni);
1189     }
1190 }
1191
1192 /*
1193  * LOP : macro to build a list operator.  Its behaviour has been replaced
1194  * with a subroutine, S_lop() for which LOP is just another name.
1195  */
1196
1197 #define LOP(f,x) return lop(f,x,s)
1198
1199 /*
1200  * S_lop
1201  * Build a list operator (or something that might be one).  The rules:
1202  *  - if we have a next token, then it's a list operator [why?]
1203  *  - if the next thing is an opening paren, then it's a function
1204  *  - else it's a list operator
1205  */
1206
1207 STATIC I32
1208 S_lop(pTHX_ I32 f, int x, char *s)
1209 {
1210     dVAR;
1211     yylval.ival = f;
1212     CLINE;
1213     PL_expect = x;
1214     PL_bufptr = s;
1215     PL_last_lop = PL_oldbufptr;
1216     PL_last_lop_op = (OPCODE)f;
1217 #ifdef PERL_MAD
1218     if (PL_lasttoke)
1219         return REPORT(LSTOP);
1220 #else
1221     if (PL_nexttoke)
1222         return REPORT(LSTOP);
1223 #endif
1224     if (*s == '(')
1225         return REPORT(FUNC);
1226     s = PEEKSPACE(s);
1227     if (*s == '(')
1228         return REPORT(FUNC);
1229     else
1230         return REPORT(LSTOP);
1231 }
1232
1233 #ifdef PERL_MAD
1234  /*
1235  * S_start_force
1236  * Sets up for an eventual force_next().  start_force(0) basically does
1237  * an unshift, while start_force(-1) does a push.  yylex removes items
1238  * on the "pop" end.
1239  */
1240
1241 STATIC void
1242 S_start_force(pTHX_ int where)
1243 {
1244     int i;
1245
1246     if (where < 0)      /* so people can duplicate start_force(PL_curforce) */
1247         where = PL_lasttoke;
1248     assert(PL_curforce < 0 || PL_curforce == where);
1249     if (PL_curforce != where) {
1250         for (i = PL_lasttoke; i > where; --i) {
1251             PL_nexttoke[i] = PL_nexttoke[i-1];
1252         }
1253         PL_lasttoke++;
1254     }
1255     if (PL_curforce < 0)        /* in case of duplicate start_force() */
1256         Zero(&PL_nexttoke[where], 1, NEXTTOKE);
1257     PL_curforce = where;
1258     if (PL_nextwhite) {
1259         if (PL_madskills)
1260             curmad('^', newSVpvs(""));
1261         CURMAD('_', PL_nextwhite);
1262     }
1263 }
1264
1265 STATIC void
1266 S_curmad(pTHX_ char slot, SV *sv)
1267 {
1268     MADPROP **where;
1269
1270     if (!sv)
1271         return;
1272     if (PL_curforce < 0)
1273         where = &PL_thismad;
1274     else
1275         where = &PL_nexttoke[PL_curforce].next_mad;
1276
1277     if (PL_faketokens)
1278         sv_setpvn(sv, "", 0);
1279     else {
1280         if (!IN_BYTES) {
1281             if (UTF && is_utf8_string((U8*)SvPVX(sv), SvCUR(sv)))
1282                 SvUTF8_on(sv);
1283             else if (PL_encoding) {
1284                 sv_recode_to_utf8(sv, PL_encoding);
1285             }
1286         }
1287     }
1288
1289     /* keep a slot open for the head of the list? */
1290     if (slot != '_' && *where && (*where)->mad_key == '^') {
1291         (*where)->mad_key = slot;
1292         sv_free((SV*)((*where)->mad_val));
1293         (*where)->mad_val = (void*)sv;
1294     }
1295     else
1296         addmad(newMADsv(slot, sv), where, 0);
1297 }
1298 #else
1299 #  define start_force(where)    NOOP
1300 #  define curmad(slot, sv)      NOOP
1301 #endif
1302
1303 /*
1304  * S_force_next
1305  * When the lexer realizes it knows the next token (for instance,
1306  * it is reordering tokens for the parser) then it can call S_force_next
1307  * to know what token to return the next time the lexer is called.  Caller
1308  * will need to set PL_nextval[] (or PL_nexttoke[].next_val with PERL_MAD),
1309  * and possibly PL_expect to ensure the lexer handles the token correctly.
1310  */
1311
1312 STATIC void
1313 S_force_next(pTHX_ I32 type)
1314 {
1315     dVAR;
1316 #ifdef PERL_MAD
1317     if (PL_curforce < 0)
1318         start_force(PL_lasttoke);
1319     PL_nexttoke[PL_curforce].next_type = type;
1320     if (PL_lex_state != LEX_KNOWNEXT)
1321         PL_lex_defer = PL_lex_state;
1322     PL_lex_state = LEX_KNOWNEXT;
1323     PL_lex_expect = PL_expect;
1324     PL_curforce = -1;
1325 #else
1326     PL_nexttype[PL_nexttoke] = type;
1327     PL_nexttoke++;
1328     if (PL_lex_state != LEX_KNOWNEXT) {
1329         PL_lex_defer = PL_lex_state;
1330         PL_lex_expect = PL_expect;
1331         PL_lex_state = LEX_KNOWNEXT;
1332     }
1333 #endif
1334 }
1335
1336 STATIC SV *
1337 S_newSV_maybe_utf8(pTHX_ const char *start, STRLEN len)
1338 {
1339     dVAR;
1340     SV * const sv = newSVpvn(start,len);
1341     if (UTF && !IN_BYTES && is_utf8_string((const U8*)start, len))
1342         SvUTF8_on(sv);
1343     return sv;
1344 }
1345
1346 /*
1347  * S_force_word
1348  * When the lexer knows the next thing is a word (for instance, it has
1349  * just seen -> and it knows that the next char is a word char, then
1350  * it calls S_force_word to stick the next word into the PL_nexttoke/val
1351  * lookahead.
1352  *
1353  * Arguments:
1354  *   char *start : buffer position (must be within PL_linestr)
1355  *   int token   : PL_next* will be this type of bare word (e.g., METHOD,WORD)
1356  *   int check_keyword : if true, Perl checks to make sure the word isn't
1357  *       a keyword (do this if the word is a label, e.g. goto FOO)
1358  *   int allow_pack : if true, : characters will also be allowed (require,
1359  *       use, etc. do this)
1360  *   int allow_initial_tick : used by the "sub" lexer only.
1361  */
1362
1363 STATIC char *
1364 S_force_word(pTHX_ register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
1365 {
1366     dVAR;
1367     register char *s;
1368     STRLEN len;
1369
1370     start = SKIPSPACE1(start);
1371     s = start;
1372     if (isIDFIRST_lazy_if(s,UTF) ||
1373         (allow_pack && *s == ':') ||
1374         (allow_initial_tick && *s == '\'') )
1375     {
1376         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, allow_pack, &len);
1377         if (check_keyword && keyword(PL_tokenbuf, len, 0))
1378             return start;
1379         start_force(PL_curforce);
1380         if (PL_madskills)
1381             curmad('X', newSVpvn(start,s-start));
1382         if (token == METHOD) {
1383             s = SKIPSPACE1(s);
1384             if (*s == '(')
1385                 PL_expect = XTERM;
1386             else {
1387                 PL_expect = XOPERATOR;
1388             }
1389         }
1390         if (PL_madskills)
1391             curmad('g', newSVpvs( "forced" ));
1392         NEXTVAL_NEXTTOKE.opval
1393             = (OP*)newSVOP(OP_CONST,0,
1394                            S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
1395         NEXTVAL_NEXTTOKE.opval->op_private |= OPpCONST_BARE;
1396         force_next(token);
1397     }
1398     return s;
1399 }
1400
1401 /*
1402  * S_force_ident
1403  * Called when the lexer wants $foo *foo &foo etc, but the program
1404  * text only contains the "foo" portion.  The first argument is a pointer
1405  * to the "foo", and the second argument is the type symbol to prefix.
1406  * Forces the next token to be a "WORD".
1407  * Creates the symbol if it didn't already exist (via gv_fetchpv()).
1408  */
1409
1410 STATIC void
1411 S_force_ident(pTHX_ register const char *s, int kind)
1412 {
1413     dVAR;
1414     if (*s) {
1415         const STRLEN len = strlen(s);
1416         OP* const o = (OP*)newSVOP(OP_CONST, 0, newSVpvn(s, len));
1417         start_force(PL_curforce);
1418         NEXTVAL_NEXTTOKE.opval = o;
1419         force_next(WORD);
1420         if (kind) {
1421             o->op_private = OPpCONST_ENTERED;
1422             /* XXX see note in pp_entereval() for why we forgo typo
1423                warnings if the symbol must be introduced in an eval.
1424                GSAR 96-10-12 */
1425             gv_fetchpvn_flags(s, len,
1426                               PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL)
1427                               : GV_ADD,
1428                               kind == '$' ? SVt_PV :
1429                               kind == '@' ? SVt_PVAV :
1430                               kind == '%' ? SVt_PVHV :
1431                               SVt_PVGV
1432                               );
1433         }
1434     }
1435 }
1436
1437 NV
1438 Perl_str_to_version(pTHX_ SV *sv)
1439 {
1440     NV retval = 0.0;
1441     NV nshift = 1.0;
1442     STRLEN len;
1443     const char *start = SvPV_const(sv,len);
1444     const char * const end = start + len;
1445     const bool utf = SvUTF8(sv) ? TRUE : FALSE;
1446     while (start < end) {
1447         STRLEN skip;
1448         UV n;
1449         if (utf)
1450             n = utf8n_to_uvchr((U8*)start, len, &skip, 0);
1451         else {
1452             n = *(U8*)start;
1453             skip = 1;
1454         }
1455         retval += ((NV)n)/nshift;
1456         start += skip;
1457         nshift *= 1000;
1458     }
1459     return retval;
1460 }
1461
1462 /*
1463  * S_force_version
1464  * Forces the next token to be a version number.
1465  * If the next token appears to be an invalid version number, (e.g. "v2b"),
1466  * and if "guessing" is TRUE, then no new token is created (and the caller
1467  * must use an alternative parsing method).
1468  */
1469
1470 STATIC char *
1471 S_force_version(pTHX_ char *s, int guessing)
1472 {
1473     dVAR;
1474     OP *version = NULL;
1475     char *d;
1476 #ifdef PERL_MAD
1477     I32 startoff = s - SvPVX(PL_linestr);
1478 #endif
1479
1480     s = SKIPSPACE1(s);
1481
1482     d = s;
1483     if (*d == 'v')
1484         d++;
1485     if (isDIGIT(*d)) {
1486         while (isDIGIT(*d) || *d == '_' || *d == '.')
1487             d++;
1488 #ifdef PERL_MAD
1489         if (PL_madskills) {
1490             start_force(PL_curforce);
1491             curmad('X', newSVpvn(s,d-s));
1492         }
1493 #endif
1494         if (*d == ';' || isSPACE(*d) || *d == '}' || !*d) {
1495             SV *ver;
1496             s = scan_num(s, &yylval);
1497             version = yylval.opval;
1498             ver = cSVOPx(version)->op_sv;
1499             if (SvPOK(ver) && !SvNIOK(ver)) {
1500                 SvUPGRADE(ver, SVt_PVNV);
1501                 SvNV_set(ver, str_to_version(ver));
1502                 SvNOK_on(ver);          /* hint that it is a version */
1503             }
1504         }
1505         else if (guessing) {
1506 #ifdef PERL_MAD
1507             if (PL_madskills) {
1508                 sv_free(PL_nextwhite);  /* let next token collect whitespace */
1509                 PL_nextwhite = 0;
1510                 s = SvPVX(PL_linestr) + startoff;
1511             }
1512 #endif
1513             return s;
1514         }
1515     }
1516
1517 #ifdef PERL_MAD
1518     if (PL_madskills && !version) {
1519         sv_free(PL_nextwhite);  /* let next token collect whitespace */
1520         PL_nextwhite = 0;
1521         s = SvPVX(PL_linestr) + startoff;
1522     }
1523 #endif
1524     /* NOTE: The parser sees the package name and the VERSION swapped */
1525     start_force(PL_curforce);
1526     NEXTVAL_NEXTTOKE.opval = version;
1527     force_next(WORD);
1528
1529     return s;
1530 }
1531
1532 /*
1533  * S_tokeq
1534  * Tokenize a quoted string passed in as an SV.  It finds the next
1535  * chunk, up to end of string or a backslash.  It may make a new
1536  * SV containing that chunk (if HINT_NEW_STRING is on).  It also
1537  * turns \\ into \.
1538  */
1539
1540 STATIC SV *
1541 S_tokeq(pTHX_ SV *sv)
1542 {
1543     dVAR;
1544     register char *s;
1545     register char *send;
1546     register char *d;
1547     STRLEN len = 0;
1548     SV *pv = sv;
1549
1550     if (!SvLEN(sv))
1551         goto finish;
1552
1553     s = SvPV_force(sv, len);
1554     if (SvTYPE(sv) >= SVt_PVIV && SvIVX(sv) == -1)
1555         goto finish;
1556     send = s + len;
1557     while (s < send && *s != '\\')
1558         s++;
1559     if (s == send)
1560         goto finish;
1561     d = s;
1562     if ( PL_hints & HINT_NEW_STRING ) {
1563         pv = sv_2mortal(newSVpvn(SvPVX_const(pv), len));
1564         if (SvUTF8(sv))
1565             SvUTF8_on(pv);
1566     }
1567     while (s < send) {
1568         if (*s == '\\') {
1569             if (s + 1 < send && (s[1] == '\\'))
1570                 s++;            /* all that, just for this */
1571         }
1572         *d++ = *s++;
1573     }
1574     *d = '\0';
1575     SvCUR_set(sv, d - SvPVX_const(sv));
1576   finish:
1577     if ( PL_hints & HINT_NEW_STRING )
1578        return new_constant(NULL, 0, "q", sv, pv, "q", 1);
1579     return sv;
1580 }
1581
1582 /*
1583  * Now come three functions related to double-quote context,
1584  * S_sublex_start, S_sublex_push, and S_sublex_done.  They're used when
1585  * converting things like "\u\Lgnat" into ucfirst(lc("gnat")).  They
1586  * interact with PL_lex_state, and create fake ( ... ) argument lists
1587  * to handle functions and concatenation.
1588  * They assume that whoever calls them will be setting up a fake
1589  * join call, because each subthing puts a ',' after it.  This lets
1590  *   "lower \luPpEr"
1591  * become
1592  *  join($, , 'lower ', lcfirst( 'uPpEr', ) ,)
1593  *
1594  * (I'm not sure whether the spurious commas at the end of lcfirst's
1595  * arguments and join's arguments are created or not).
1596  */
1597
1598 /*
1599  * S_sublex_start
1600  * Assumes that yylval.ival is the op we're creating (e.g. OP_LCFIRST).
1601  *
1602  * Pattern matching will set PL_lex_op to the pattern-matching op to
1603  * make (we return THING if yylval.ival is OP_NULL, PMFUNC otherwise).
1604  *
1605  * OP_CONST and OP_READLINE are easy--just make the new op and return.
1606  *
1607  * Everything else becomes a FUNC.
1608  *
1609  * Sets PL_lex_state to LEX_INTERPPUSH unless (ival was OP_NULL or we
1610  * had an OP_CONST or OP_READLINE).  This just sets us up for a
1611  * call to S_sublex_push().
1612  */
1613
1614 STATIC I32
1615 S_sublex_start(pTHX)
1616 {
1617     dVAR;
1618     register const I32 op_type = yylval.ival;
1619
1620     if (op_type == OP_NULL) {
1621         yylval.opval = PL_lex_op;
1622         PL_lex_op = NULL;
1623         return THING;
1624     }
1625     if (op_type == OP_CONST || op_type == OP_READLINE) {
1626         SV *sv = tokeq(PL_lex_stuff);
1627
1628         if (SvTYPE(sv) == SVt_PVIV) {
1629             /* Overloaded constants, nothing fancy: Convert to SVt_PV: */
1630             STRLEN len;
1631             const char * const p = SvPV_const(sv, len);
1632             SV * const nsv = newSVpvn(p, len);
1633             if (SvUTF8(sv))
1634                 SvUTF8_on(nsv);
1635             SvREFCNT_dec(sv);
1636             sv = nsv;
1637         }
1638         yylval.opval = (OP*)newSVOP(op_type, 0, sv);
1639         PL_lex_stuff = NULL;
1640         /* Allow <FH> // "foo" */
1641         if (op_type == OP_READLINE)
1642             PL_expect = XTERMORDORDOR;
1643         return THING;
1644     }
1645     else if (op_type == OP_BACKTICK && PL_lex_op) {
1646         /* readpipe() vas overriden */
1647         cSVOPx(cLISTOPx(cUNOPx(PL_lex_op)->op_first)->op_first->op_sibling)->op_sv = tokeq(PL_lex_stuff);
1648         yylval.opval = PL_lex_op;
1649         PL_lex_op = NULL;
1650         PL_lex_stuff = NULL;
1651         return THING;
1652     }
1653
1654     PL_sublex_info.super_state = PL_lex_state;
1655     PL_sublex_info.sub_inwhat = (U16)op_type;
1656     PL_sublex_info.sub_op = PL_lex_op;
1657     PL_lex_state = LEX_INTERPPUSH;
1658
1659     PL_expect = XTERM;
1660     if (PL_lex_op) {
1661         yylval.opval = PL_lex_op;
1662         PL_lex_op = NULL;
1663         return PMFUNC;
1664     }
1665     else
1666         return FUNC;
1667 }
1668
1669 /*
1670  * S_sublex_push
1671  * Create a new scope to save the lexing state.  The scope will be
1672  * ended in S_sublex_done.  Returns a '(', starting the function arguments
1673  * to the uc, lc, etc. found before.
1674  * Sets PL_lex_state to LEX_INTERPCONCAT.
1675  */
1676
1677 STATIC I32
1678 S_sublex_push(pTHX)
1679 {
1680     dVAR;
1681     ENTER;
1682
1683     PL_lex_state = PL_sublex_info.super_state;
1684     SAVEBOOL(PL_lex_dojoin);
1685     SAVEI32(PL_lex_brackets);
1686     SAVEI32(PL_lex_casemods);
1687     SAVEI32(PL_lex_starts);
1688     SAVEI8(PL_lex_state);
1689     SAVEVPTR(PL_lex_inpat);
1690     SAVEI16(PL_lex_inwhat);
1691     SAVECOPLINE(PL_curcop);
1692     SAVEPPTR(PL_bufptr);
1693     SAVEPPTR(PL_bufend);
1694     SAVEPPTR(PL_oldbufptr);
1695     SAVEPPTR(PL_oldoldbufptr);
1696     SAVEPPTR(PL_last_lop);
1697     SAVEPPTR(PL_last_uni);
1698     SAVEPPTR(PL_linestart);
1699     SAVESPTR(PL_linestr);
1700     SAVEGENERICPV(PL_lex_brackstack);
1701     SAVEGENERICPV(PL_lex_casestack);
1702
1703     PL_linestr = PL_lex_stuff;
1704     PL_lex_stuff = NULL;
1705
1706     PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart
1707         = SvPVX(PL_linestr);
1708     PL_bufend += SvCUR(PL_linestr);
1709     PL_last_lop = PL_last_uni = NULL;
1710     SAVEFREESV(PL_linestr);
1711
1712     PL_lex_dojoin = FALSE;
1713     PL_lex_brackets = 0;
1714     Newx(PL_lex_brackstack, 120, char);
1715     Newx(PL_lex_casestack, 12, char);
1716     PL_lex_casemods = 0;
1717     *PL_lex_casestack = '\0';
1718     PL_lex_starts = 0;
1719     PL_lex_state = LEX_INTERPCONCAT;
1720     CopLINE_set(PL_curcop, (line_t)PL_multi_start);
1721
1722     PL_lex_inwhat = PL_sublex_info.sub_inwhat;
1723     if (PL_lex_inwhat == OP_MATCH || PL_lex_inwhat == OP_QR || PL_lex_inwhat == OP_SUBST)
1724         PL_lex_inpat = PL_sublex_info.sub_op;
1725     else
1726         PL_lex_inpat = NULL;
1727
1728     return '(';
1729 }
1730
1731 /*
1732  * S_sublex_done
1733  * Restores lexer state after a S_sublex_push.
1734  */
1735
1736 STATIC I32
1737 S_sublex_done(pTHX)
1738 {
1739     dVAR;
1740     if (!PL_lex_starts++) {
1741         SV * const sv = newSVpvs("");
1742         if (SvUTF8(PL_linestr))
1743             SvUTF8_on(sv);
1744         PL_expect = XOPERATOR;
1745         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1746         return THING;
1747     }
1748
1749     if (PL_lex_casemods) {              /* oops, we've got some unbalanced parens */
1750         PL_lex_state = LEX_INTERPCASEMOD;
1751         return yylex();
1752     }
1753
1754     /* Is there a right-hand side to take care of? (s//RHS/ or tr//RHS/) */
1755     if (PL_lex_repl && (PL_lex_inwhat == OP_SUBST || PL_lex_inwhat == OP_TRANS)) {
1756         PL_linestr = PL_lex_repl;
1757         PL_lex_inpat = 0;
1758         PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart = SvPVX(PL_linestr);
1759         PL_bufend += SvCUR(PL_linestr);
1760         PL_last_lop = PL_last_uni = NULL;
1761         SAVEFREESV(PL_linestr);
1762         PL_lex_dojoin = FALSE;
1763         PL_lex_brackets = 0;
1764         PL_lex_casemods = 0;
1765         *PL_lex_casestack = '\0';
1766         PL_lex_starts = 0;
1767         if (SvEVALED(PL_lex_repl)) {
1768             PL_lex_state = LEX_INTERPNORMAL;
1769             PL_lex_starts++;
1770             /*  we don't clear PL_lex_repl here, so that we can check later
1771                 whether this is an evalled subst; that means we rely on the
1772                 logic to ensure sublex_done() is called again only via the
1773                 branch (in yylex()) that clears PL_lex_repl, else we'll loop */
1774         }
1775         else {
1776             PL_lex_state = LEX_INTERPCONCAT;
1777             PL_lex_repl = NULL;
1778         }
1779         return ',';
1780     }
1781     else {
1782 #ifdef PERL_MAD
1783         if (PL_madskills) {
1784             if (PL_thiswhite) {
1785                 if (!PL_endwhite)
1786                     PL_endwhite = newSVpvs("");
1787                 sv_catsv(PL_endwhite, PL_thiswhite);
1788                 PL_thiswhite = 0;
1789             }
1790             if (PL_thistoken)
1791                 sv_setpvn(PL_thistoken,"",0);
1792             else
1793                 PL_realtokenstart = -1;
1794         }
1795 #endif
1796         LEAVE;
1797         PL_bufend = SvPVX(PL_linestr);
1798         PL_bufend += SvCUR(PL_linestr);
1799         PL_expect = XOPERATOR;
1800         PL_sublex_info.sub_inwhat = 0;
1801         return ')';
1802     }
1803 }
1804
1805 /*
1806   scan_const
1807
1808   Extracts a pattern, double-quoted string, or transliteration.  This
1809   is terrifying code.
1810
1811   It looks at PL_lex_inwhat and PL_lex_inpat to find out whether it's
1812   processing a pattern (PL_lex_inpat is true), a transliteration
1813   (PL_lex_inwhat == OP_TRANS is true), or a double-quoted string.
1814
1815   Returns a pointer to the character scanned up to. If this is
1816   advanced from the start pointer supplied (i.e. if anything was
1817   successfully parsed), will leave an OP for the substring scanned
1818   in yylval. Caller must intuit reason for not parsing further
1819   by looking at the next characters herself.
1820
1821   In patterns:
1822     backslashes:
1823       double-quoted style: \r and \n
1824       regexp special ones: \D \s
1825       constants: \x31
1826       backrefs: \1
1827       case and quoting: \U \Q \E
1828     stops on @ and $, but not for $ as tail anchor
1829
1830   In transliterations:
1831     characters are VERY literal, except for - not at the start or end
1832     of the string, which indicates a range. If the range is in bytes,
1833     scan_const expands the range to the full set of intermediate
1834     characters. If the range is in utf8, the hyphen is replaced with
1835     a certain range mark which will be handled by pmtrans() in op.c.
1836
1837   In double-quoted strings:
1838     backslashes:
1839       double-quoted style: \r and \n
1840       constants: \x31
1841       deprecated backrefs: \1 (in substitution replacements)
1842       case and quoting: \U \Q \E
1843     stops on @ and $
1844
1845   scan_const does *not* construct ops to handle interpolated strings.
1846   It stops processing as soon as it finds an embedded $ or @ variable
1847   and leaves it to the caller to work out what's going on.
1848
1849   embedded arrays (whether in pattern or not) could be:
1850       @foo, @::foo, @'foo, @{foo}, @$foo, @+, @-.
1851
1852   $ in double-quoted strings must be the symbol of an embedded scalar.
1853
1854   $ in pattern could be $foo or could be tail anchor.  Assumption:
1855   it's a tail anchor if $ is the last thing in the string, or if it's
1856   followed by one of "()| \r\n\t"
1857
1858   \1 (backreferences) are turned into $1
1859
1860   The structure of the code is
1861       while (there's a character to process) {
1862           handle transliteration ranges
1863           skip regexp comments /(?#comment)/ and codes /(?{code})/
1864           skip #-initiated comments in //x patterns
1865           check for embedded arrays
1866           check for embedded scalars
1867           if (backslash) {
1868               leave intact backslashes from leaveit (below)
1869               deprecate \1 in substitution replacements
1870               handle string-changing backslashes \l \U \Q \E, etc.
1871               switch (what was escaped) {
1872                   handle \- in a transliteration (becomes a literal -)
1873                   handle \132 (octal characters)
1874                   handle \x15 and \x{1234} (hex characters)
1875                   handle \N{name} (named characters)
1876                   handle \cV (control characters)
1877                   handle printf-style backslashes (\f, \r, \n, etc)
1878               } (end switch)
1879           } (end if backslash)
1880     } (end while character to read)
1881
1882 */
1883
1884 STATIC char *
1885 S_scan_const(pTHX_ char *start)
1886 {
1887     dVAR;
1888     register char *send = PL_bufend;            /* end of the constant */
1889     SV *sv = newSV(send - start);               /* sv for the constant */
1890     register char *s = start;                   /* start of the constant */
1891     register char *d = SvPVX(sv);               /* destination for copies */
1892     bool dorange = FALSE;                       /* are we in a translit range? */
1893     bool didrange = FALSE;                      /* did we just finish a range? */
1894     I32  has_utf8 = FALSE;                      /* Output constant is UTF8 */
1895     I32  this_utf8 = UTF;                       /* The source string is assumed to be UTF8 */
1896     UV uv;
1897 #ifdef EBCDIC
1898     UV literal_endpoint = 0;
1899     bool native_range = TRUE; /* turned to FALSE if the first endpoint is Unicode. */
1900 #endif
1901
1902     if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
1903         /* If we are doing a trans and we know we want UTF8 set expectation */
1904         has_utf8   = PL_sublex_info.sub_op->op_private & (OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF);
1905         this_utf8  = PL_sublex_info.sub_op->op_private & (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
1906     }
1907
1908
1909     while (s < send || dorange) {
1910         /* get transliterations out of the way (they're most literal) */
1911         if (PL_lex_inwhat == OP_TRANS) {
1912             /* expand a range A-Z to the full set of characters.  AIE! */
1913             if (dorange) {
1914                 I32 i;                          /* current expanded character */
1915                 I32 min;                        /* first character in range */
1916                 I32 max;                        /* last character in range */
1917
1918 #ifdef EBCDIC
1919                 UV uvmax = 0;
1920 #endif
1921
1922                 if (has_utf8
1923 #ifdef EBCDIC
1924                     && !native_range
1925 #endif
1926                     ) {
1927                     char * const c = (char*)utf8_hop((U8*)d, -1);
1928                     char *e = d++;
1929                     while (e-- > c)
1930                         *(e + 1) = *e;
1931                     *c = (char)UTF_TO_NATIVE(0xff);
1932                     /* mark the range as done, and continue */
1933                     dorange = FALSE;
1934                     didrange = TRUE;
1935                     continue;
1936                 }
1937
1938                 i = d - SvPVX_const(sv);                /* remember current offset */
1939 #ifdef EBCDIC
1940                 SvGROW(sv,
1941                        SvLEN(sv) + (has_utf8 ?
1942                                     (512 - UTF_CONTINUATION_MARK +
1943                                      UNISKIP(0x100))
1944                                     : 256));
1945                 /* How many two-byte within 0..255: 128 in UTF-8,
1946                  * 96 in UTF-8-mod. */
1947 #else
1948                 SvGROW(sv, SvLEN(sv) + 256);    /* never more than 256 chars in a range */
1949 #endif
1950                 d = SvPVX(sv) + i;              /* refresh d after realloc */
1951 #ifdef EBCDIC
1952                 if (has_utf8) {
1953                     int j;
1954                     for (j = 0; j <= 1; j++) {
1955                         char * const c = (char*)utf8_hop((U8*)d, -1);
1956                         const UV uv    = utf8n_to_uvchr((U8*)c, d - c, NULL, 0);
1957                         if (j)
1958                             min = (U8)uv;
1959                         else if (uv < 256)
1960                             max = (U8)uv;
1961                         else {
1962                             max = (U8)0xff; /* only to \xff */
1963                             uvmax = uv; /* \x{100} to uvmax */
1964                         }
1965                         d = c; /* eat endpoint chars */
1966                      }
1967                 }
1968                else {
1969 #endif
1970                    d -= 2;              /* eat the first char and the - */
1971                    min = (U8)*d;        /* first char in range */
1972                    max = (U8)d[1];      /* last char in range  */
1973 #ifdef EBCDIC
1974                }
1975 #endif
1976
1977                 if (min > max) {
1978                     Perl_croak(aTHX_
1979                                "Invalid range \"%c-%c\" in transliteration operator",
1980                                (char)min, (char)max);
1981                 }
1982
1983 #ifdef EBCDIC
1984                 if (literal_endpoint == 2 &&
1985                     ((isLOWER(min) && isLOWER(max)) ||
1986                      (isUPPER(min) && isUPPER(max)))) {
1987                     if (isLOWER(min)) {
1988                         for (i = min; i <= max; i++)
1989                             if (isLOWER(i))
1990                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1991                     } else {
1992                         for (i = min; i <= max; i++)
1993                             if (isUPPER(i))
1994                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1995                     }
1996                 }
1997                 else
1998 #endif
1999                     for (i = min; i <= max; i++)
2000 #ifdef EBCDIC
2001                         if (has_utf8) {
2002                             const U8 ch = (U8)NATIVE_TO_UTF(i);
2003                             if (UNI_IS_INVARIANT(ch))
2004                                 *d++ = (U8)i;
2005                             else {
2006                                 *d++ = (U8)UTF8_EIGHT_BIT_HI(ch);
2007                                 *d++ = (U8)UTF8_EIGHT_BIT_LO(ch);
2008                             }
2009                         }
2010                         else
2011 #endif
2012                             *d++ = (char)i;
2013
2014 #ifdef EBCDIC
2015                 if (uvmax) {
2016                     d = (char*)uvchr_to_utf8((U8*)d, 0x100);
2017                     if (uvmax > 0x101)
2018                         *d++ = (char)UTF_TO_NATIVE(0xff);
2019                     if (uvmax > 0x100)
2020                         d = (char*)uvchr_to_utf8((U8*)d, uvmax);
2021                 }
2022 #endif
2023
2024                 /* mark the range as done, and continue */
2025                 dorange = FALSE;
2026                 didrange = TRUE;
2027 #ifdef EBCDIC
2028                 literal_endpoint = 0;
2029 #endif
2030                 continue;
2031             }
2032
2033             /* range begins (ignore - as first or last char) */
2034             else if (*s == '-' && s+1 < send  && s != start) {
2035                 if (didrange) {
2036                     Perl_croak(aTHX_ "Ambiguous range in transliteration operator");
2037                 }
2038                 if (has_utf8
2039 #ifdef EBCDIC
2040                     && !native_range
2041 #endif
2042                     ) {
2043                     *d++ = (char)UTF_TO_NATIVE(0xff);   /* use illegal utf8 byte--see pmtrans */
2044                     s++;
2045                     continue;
2046                 }
2047                 dorange = TRUE;
2048                 s++;
2049             }
2050             else {
2051                 didrange = FALSE;
2052 #ifdef EBCDIC
2053                 literal_endpoint = 0;
2054                 native_range = TRUE;
2055 #endif
2056             }
2057         }
2058
2059         /* if we get here, we're not doing a transliteration */
2060
2061         /* skip for regexp comments /(?#comment)/ and code /(?{code})/,
2062            except for the last char, which will be done separately. */
2063         else if (*s == '(' && PL_lex_inpat && s[1] == '?') {
2064             if (s[2] == '#') {
2065                 while (s+1 < send && *s != ')')
2066                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2067             }
2068             else if (s[2] == '{' /* This should match regcomp.c */
2069                     || (s[2] == '?' && s[3] == '{'))
2070             {
2071                 I32 count = 1;
2072                 char *regparse = s + (s[2] == '{' ? 3 : 4);
2073                 char c;
2074
2075                 while (count && (c = *regparse)) {
2076                     if (c == '\\' && regparse[1])
2077                         regparse++;
2078                     else if (c == '{')
2079                         count++;
2080                     else if (c == '}')
2081                         count--;
2082                     regparse++;
2083                 }
2084                 if (*regparse != ')')
2085                     regparse--;         /* Leave one char for continuation. */
2086                 while (s < regparse)
2087                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2088             }
2089         }
2090
2091         /* likewise skip #-initiated comments in //x patterns */
2092         else if (*s == '#' && PL_lex_inpat &&
2093           ((PMOP*)PL_lex_inpat)->op_pmflags & PMf_EXTENDED) {
2094             while (s+1 < send && *s != '\n')
2095                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2096         }
2097
2098         /* check for embedded arrays
2099            (@foo, @::foo, @'foo, @{foo}, @$foo, @+, @-)
2100            */
2101         else if (*s == '@' && s[1]) {
2102             if (isALNUM_lazy_if(s+1,UTF))
2103                 break;
2104             if (strchr(":'{$", s[1]))
2105                 break;
2106             if (!PL_lex_inpat && (s[1] == '+' || s[1] == '-'))
2107                 break; /* in regexp, neither @+ nor @- are interpolated */
2108         }
2109
2110         /* check for embedded scalars.  only stop if we're sure it's a
2111            variable.
2112         */
2113         else if (*s == '$') {
2114             if (!PL_lex_inpat)  /* not a regexp, so $ must be var */
2115                 break;
2116             if (s + 1 < send && !strchr("()| \r\n\t", s[1]))
2117                 break;          /* in regexp, $ might be tail anchor */
2118         }
2119
2120         /* End of else if chain - OP_TRANS rejoin rest */
2121
2122         /* backslashes */
2123         if (*s == '\\' && s+1 < send) {
2124             s++;
2125
2126             /* deprecate \1 in strings and substitution replacements */
2127             if (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat &&
2128                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
2129             {
2130                 if (ckWARN(WARN_SYNTAX))
2131                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "\\%c better written as $%c", *s, *s);
2132                 *--s = '$';
2133                 break;
2134             }
2135
2136             /* string-change backslash escapes */
2137             if (PL_lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
2138                 --s;
2139                 break;
2140             }
2141             /* skip any other backslash escapes in a pattern */
2142             else if (PL_lex_inpat) {
2143                 *d++ = NATIVE_TO_NEED(has_utf8,'\\');
2144                 goto default_action;
2145             }
2146
2147             /* if we get here, it's either a quoted -, or a digit */
2148             switch (*s) {
2149
2150             /* quoted - in transliterations */
2151             case '-':
2152                 if (PL_lex_inwhat == OP_TRANS) {
2153                     *d++ = *s++;
2154                     continue;
2155                 }
2156                 /* FALL THROUGH */
2157             default:
2158                 {
2159                     if ((isALPHA(*s) || isDIGIT(*s)) &&
2160                         ckWARN(WARN_MISC))
2161                         Perl_warner(aTHX_ packWARN(WARN_MISC),
2162                                     "Unrecognized escape \\%c passed through",
2163                                     *s);
2164                     /* default action is to copy the quoted character */
2165                     goto default_action;
2166                 }
2167
2168             /* \132 indicates an octal constant */
2169             case '0': case '1': case '2': case '3':
2170             case '4': case '5': case '6': case '7':
2171                 {
2172                     I32 flags = 0;
2173                     STRLEN len = 3;
2174                     uv = grok_oct(s, &len, &flags, NULL);
2175                     s += len;
2176                 }
2177                 goto NUM_ESCAPE_INSERT;
2178
2179             /* \x24 indicates a hex constant */
2180             case 'x':
2181                 ++s;
2182                 if (*s == '{') {
2183                     char* const e = strchr(s, '}');
2184                     I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2185                       PERL_SCAN_DISALLOW_PREFIX;
2186                     STRLEN len;
2187
2188                     ++s;
2189                     if (!e) {
2190                         yyerror("Missing right brace on \\x{}");
2191                         continue;
2192                     }
2193                     len = e - s;
2194                     uv = grok_hex(s, &len, &flags, NULL);
2195                     s = e + 1;
2196                 }
2197                 else {
2198                     {
2199                         STRLEN len = 2;
2200                         I32 flags = PERL_SCAN_DISALLOW_PREFIX;
2201                         uv = grok_hex(s, &len, &flags, NULL);
2202                         s += len;
2203                     }
2204                 }
2205
2206               NUM_ESCAPE_INSERT:
2207                 /* Insert oct or hex escaped character.
2208                  * There will always enough room in sv since such
2209                  * escapes will be longer than any UTF-8 sequence
2210                  * they can end up as. */
2211
2212                 /* We need to map to chars to ASCII before doing the tests
2213                    to cover EBCDIC
2214                 */
2215                 if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(uv))) {
2216                     if (!has_utf8 && uv > 255) {
2217                         /* Might need to recode whatever we have
2218                          * accumulated so far if it contains any
2219                          * hibit chars.
2220                          *
2221                          * (Can't we keep track of that and avoid
2222                          *  this rescan? --jhi)
2223                          */
2224                         int hicount = 0;
2225                         U8 *c;
2226                         for (c = (U8 *) SvPVX(sv); c < (U8 *)d; c++) {
2227                             if (!NATIVE_IS_INVARIANT(*c)) {
2228                                 hicount++;
2229                             }
2230                         }
2231                         if (hicount) {
2232                             const STRLEN offset = d - SvPVX_const(sv);
2233                             U8 *src, *dst;
2234                             d = SvGROW(sv, SvLEN(sv) + hicount + 1) + offset;
2235                             src = (U8 *)d - 1;
2236                             dst = src+hicount;
2237                             d  += hicount;
2238                             while (src >= (const U8 *)SvPVX_const(sv)) {
2239                                 if (!NATIVE_IS_INVARIANT(*src)) {
2240                                     const U8 ch = NATIVE_TO_ASCII(*src);
2241                                     *dst-- = (U8)UTF8_EIGHT_BIT_LO(ch);
2242                                     *dst-- = (U8)UTF8_EIGHT_BIT_HI(ch);
2243                                 }
2244                                 else {
2245                                     *dst-- = *src;
2246                                 }
2247                                 src--;
2248                             }
2249                         }
2250                     }
2251
2252                     if (has_utf8 || uv > 255) {
2253                         d = (char*)uvchr_to_utf8((U8*)d, uv);
2254                         has_utf8 = TRUE;
2255                         if (PL_lex_inwhat == OP_TRANS &&
2256                             PL_sublex_info.sub_op) {
2257                             PL_sublex_info.sub_op->op_private |=
2258                                 (PL_lex_repl ? OPpTRANS_FROM_UTF
2259                                              : OPpTRANS_TO_UTF);
2260                         }
2261 #ifdef EBCDIC
2262                         if (uv > 255 && !dorange)
2263                             native_range = FALSE;
2264 #endif
2265                     }
2266                     else {
2267                         *d++ = (char)uv;
2268                     }
2269                 }
2270                 else {
2271                     *d++ = (char) uv;
2272                 }
2273                 continue;
2274
2275             /* \N{LATIN SMALL LETTER A} is a named character */
2276             case 'N':
2277                 ++s;
2278                 if (*s == '{') {
2279                     char* e = strchr(s, '}');
2280                     SV *res;
2281                     STRLEN len;
2282                     const char *str;
2283
2284                     if (!e) {
2285                         yyerror("Missing right brace on \\N{}");
2286                         e = s - 1;
2287                         goto cont_scan;
2288                     }
2289                     if (e > s + 2 && s[1] == 'U' && s[2] == '+') {
2290                         /* \N{U+...} */
2291                         I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2292                           PERL_SCAN_DISALLOW_PREFIX;
2293                         s += 3;
2294                         len = e - s;
2295                         uv = grok_hex(s, &len, &flags, NULL);
2296                         if ( e > s && len != (STRLEN)(e - s) ) {
2297                             uv = 0xFFFD;
2298                         }
2299                         s = e + 1;
2300                         goto NUM_ESCAPE_INSERT;
2301                     }
2302                     res = newSVpvn(s + 1, e - s - 1);
2303                     res = new_constant( NULL, 0, "charnames",
2304                                         res, NULL, s - 2, e - s + 3 );
2305                     if (has_utf8)
2306                         sv_utf8_upgrade(res);
2307                     str = SvPV_const(res,len);
2308 #ifdef EBCDIC_NEVER_MIND
2309                     /* charnames uses pack U and that has been
2310                      * recently changed to do the below uni->native
2311                      * mapping, so this would be redundant (and wrong,
2312                      * the code point would be doubly converted).
2313                      * But leave this in just in case the pack U change
2314                      * gets revoked, but the semantics is still
2315                      * desireable for charnames. --jhi */
2316                     {
2317                          UV uv = utf8_to_uvchr((const U8*)str, 0);
2318
2319                          if (uv < 0x100) {
2320                               U8 tmpbuf[UTF8_MAXBYTES+1], *d;
2321
2322                               d = uvchr_to_utf8(tmpbuf, UNI_TO_NATIVE(uv));
2323                               sv_setpvn(res, (char *)tmpbuf, d - tmpbuf);
2324                               str = SvPV_const(res, len);
2325                          }
2326                     }
2327 #endif
2328                     if (!has_utf8 && SvUTF8(res)) {
2329                         const char * const ostart = SvPVX_const(sv);
2330                         SvCUR_set(sv, d - ostart);
2331                         SvPOK_on(sv);
2332                         *d = '\0';
2333                         sv_utf8_upgrade(sv);
2334                         /* this just broke our allocation above... */
2335                         SvGROW(sv, (STRLEN)(send - start));
2336                         d = SvPVX(sv) + SvCUR(sv);
2337                         has_utf8 = TRUE;
2338                     }
2339                     if (len > (STRLEN)(e - s + 4)) { /* I _guess_ 4 is \N{} --jhi */
2340                         const char * const odest = SvPVX_const(sv);
2341
2342                         SvGROW(sv, (SvLEN(sv) + len - (e - s + 4)));
2343                         d = SvPVX(sv) + (d - odest);
2344                     }
2345 #ifdef EBCDIC
2346                     if (!dorange)
2347                         native_range = FALSE; /* \N{} is guessed to be Unicode */
2348 #endif
2349                     Copy(str, d, len, char);
2350                     d += len;
2351                     SvREFCNT_dec(res);
2352                   cont_scan:
2353                     s = e + 1;
2354                 }
2355                 else
2356                     yyerror("Missing braces on \\N{}");
2357                 continue;
2358
2359             /* \c is a control character */
2360             case 'c':
2361                 s++;
2362                 if (s < send) {
2363                     U8 c = *s++;
2364 #ifdef EBCDIC
2365                     if (isLOWER(c))
2366                         c = toUPPER(c);
2367 #endif
2368                     *d++ = NATIVE_TO_NEED(has_utf8,toCTRL(c));
2369                 }
2370                 else {
2371                     yyerror("Missing control char name in \\c");
2372                 }
2373                 continue;
2374
2375             /* printf-style backslashes, formfeeds, newlines, etc */
2376             case 'b':
2377                 *d++ = NATIVE_TO_NEED(has_utf8,'\b');
2378                 break;
2379             case 'n':
2380                 *d++ = NATIVE_TO_NEED(has_utf8,'\n');
2381                 break;
2382             case 'r':
2383                 *d++ = NATIVE_TO_NEED(has_utf8,'\r');
2384                 break;
2385             case 'f':
2386                 *d++ = NATIVE_TO_NEED(has_utf8,'\f');
2387                 break;
2388             case 't':
2389                 *d++ = NATIVE_TO_NEED(has_utf8,'\t');
2390                 break;
2391             case 'e':
2392                 *d++ = ASCII_TO_NEED(has_utf8,'\033');
2393                 break;
2394             case 'a':
2395                 *d++ = ASCII_TO_NEED(has_utf8,'\007');
2396                 break;
2397             } /* end switch */
2398
2399             s++;
2400             continue;
2401         } /* end if (backslash) */
2402 #ifdef EBCDIC
2403         else
2404             literal_endpoint++;
2405 #endif
2406
2407     default_action:
2408         /* If we started with encoded form, or already know we want it
2409            and then encode the next character */
2410         if ((has_utf8 || this_utf8) && !NATIVE_IS_INVARIANT((U8)(*s))) {
2411             STRLEN len  = 1;
2412             const UV nextuv   = (this_utf8) ? utf8n_to_uvchr((U8*)s, send - s, &len, 0) : (UV) ((U8) *s);
2413             const STRLEN need = UNISKIP(NATIVE_TO_UNI(nextuv));
2414             s += len;
2415             if (need > len) {
2416                 /* encoded value larger than old, need extra space (NOTE: SvCUR() not set here) */
2417                 const STRLEN off = d - SvPVX_const(sv);
2418                 d = SvGROW(sv, SvLEN(sv) + (need-len)) + off;
2419             }
2420             d = (char*)uvchr_to_utf8((U8*)d, nextuv);
2421             has_utf8 = TRUE;
2422 #ifdef EBCDIC
2423             if (uv > 255 && !dorange)
2424                 native_range = FALSE;
2425 #endif
2426         }
2427         else {
2428             *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2429         }
2430     } /* while loop to process each character */
2431
2432     /* terminate the string and set up the sv */
2433     *d = '\0';
2434     SvCUR_set(sv, d - SvPVX_const(sv));
2435     if (SvCUR(sv) >= SvLEN(sv))
2436         Perl_croak(aTHX_ "panic: constant overflowed allocated space");
2437
2438     SvPOK_on(sv);
2439     if (PL_encoding && !has_utf8) {
2440         sv_recode_to_utf8(sv, PL_encoding);
2441         if (SvUTF8(sv))
2442             has_utf8 = TRUE;
2443     }
2444     if (has_utf8) {
2445         SvUTF8_on(sv);
2446         if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
2447             PL_sublex_info.sub_op->op_private |=
2448                     (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
2449         }
2450     }
2451
2452     /* shrink the sv if we allocated more than we used */
2453     if (SvCUR(sv) + 5 < SvLEN(sv)) {
2454         SvPV_shrink_to_cur(sv);
2455     }
2456
2457     /* return the substring (via yylval) only if we parsed anything */
2458     if (s > PL_bufptr) {
2459         if ( PL_hints & ( PL_lex_inpat ? HINT_NEW_RE : HINT_NEW_STRING ) ) {
2460             const char *const key = PL_lex_inpat ? "qr" : "q";
2461             const STRLEN keylen = PL_lex_inpat ? 2 : 1;
2462             const char *type;
2463             STRLEN typelen;
2464
2465             if (PL_lex_inwhat == OP_TRANS) {
2466                 type = "tr";
2467                 typelen = 2;
2468             } else if (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat) {
2469                 type = "s";
2470                 typelen = 1;
2471             } else  {
2472                 type = "qq";
2473                 typelen = 2;
2474             }
2475
2476             sv = S_new_constant(aTHX_ start, s - start, key, keylen, sv, NULL,
2477                                 type, typelen);
2478         }
2479         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2480     } else
2481         SvREFCNT_dec(sv);
2482     return s;
2483 }
2484
2485 /* S_intuit_more
2486  * Returns TRUE if there's more to the expression (e.g., a subscript),
2487  * FALSE otherwise.
2488  *
2489  * It deals with "$foo[3]" and /$foo[3]/ and /$foo[0123456789$]+/
2490  *
2491  * ->[ and ->{ return TRUE
2492  * { and [ outside a pattern are always subscripts, so return TRUE
2493  * if we're outside a pattern and it's not { or [, then return FALSE
2494  * if we're in a pattern and the first char is a {
2495  *   {4,5} (any digits around the comma) returns FALSE
2496  * if we're in a pattern and the first char is a [
2497  *   [] returns FALSE
2498  *   [SOMETHING] has a funky algorithm to decide whether it's a
2499  *      character class or not.  It has to deal with things like
2500  *      /$foo[-3]/ and /$foo[$bar]/ as well as /$foo[$\d]+/
2501  * anything else returns TRUE
2502  */
2503
2504 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
2505
2506 STATIC int
2507 S_intuit_more(pTHX_ register char *s)
2508 {
2509     dVAR;
2510     if (PL_lex_brackets)
2511         return TRUE;
2512     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
2513         return TRUE;
2514     if (*s != '{' && *s != '[')
2515         return FALSE;
2516     if (!PL_lex_inpat)
2517         return TRUE;
2518
2519     /* In a pattern, so maybe we have {n,m}. */
2520     if (*s == '{') {
2521         s++;
2522         if (!isDIGIT(*s))
2523             return TRUE;
2524         while (isDIGIT(*s))
2525             s++;
2526         if (*s == ',')
2527             s++;
2528         while (isDIGIT(*s))
2529             s++;
2530         if (*s == '}')
2531             return FALSE;
2532         return TRUE;
2533
2534     }
2535
2536     /* On the other hand, maybe we have a character class */
2537
2538     s++;
2539     if (*s == ']' || *s == '^')
2540         return FALSE;
2541     else {
2542         /* this is terrifying, and it works */
2543         int weight = 2;         /* let's weigh the evidence */
2544         char seen[256];
2545         unsigned char un_char = 255, last_un_char;
2546         const char * const send = strchr(s,']');
2547         char tmpbuf[sizeof PL_tokenbuf * 4];
2548
2549         if (!send)              /* has to be an expression */
2550             return TRUE;
2551
2552         Zero(seen,256,char);
2553         if (*s == '$')
2554             weight -= 3;
2555         else if (isDIGIT(*s)) {
2556             if (s[1] != ']') {
2557                 if (isDIGIT(s[1]) && s[2] == ']')
2558                     weight -= 10;
2559             }
2560             else
2561                 weight -= 100;
2562         }
2563         for (; s < send; s++) {
2564             last_un_char = un_char;
2565             un_char = (unsigned char)*s;
2566             switch (*s) {
2567             case '@':
2568             case '&':
2569             case '$':
2570                 weight -= seen[un_char] * 10;
2571                 if (isALNUM_lazy_if(s+1,UTF)) {
2572                     int len;
2573                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
2574                     len = (int)strlen(tmpbuf);
2575                     if (len > 1 && gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PV))
2576                         weight -= 100;
2577                     else
2578                         weight -= 10;
2579                 }
2580                 else if (*s == '$' && s[1] &&
2581                   strchr("[#!%*<>()-=",s[1])) {
2582                     if (/*{*/ strchr("])} =",s[2]))
2583                         weight -= 10;
2584                     else
2585                         weight -= 1;
2586                 }
2587                 break;
2588             case '\\':
2589                 un_char = 254;
2590                 if (s[1]) {
2591                     if (strchr("wds]",s[1]))
2592                         weight += 100;
2593                     else if (seen[(U8)'\''] || seen[(U8)'"'])
2594                         weight += 1;
2595                     else if (strchr("rnftbxcav",s[1]))
2596                         weight += 40;
2597                     else if (isDIGIT(s[1])) {
2598                         weight += 40;
2599                         while (s[1] && isDIGIT(s[1]))
2600                             s++;
2601                     }
2602                 }
2603                 else
2604                     weight += 100;
2605                 break;
2606             case '-':
2607                 if (s[1] == '\\')
2608                     weight += 50;
2609                 if (strchr("aA01! ",last_un_char))
2610                     weight += 30;
2611                 if (strchr("zZ79~",s[1]))
2612                     weight += 30;
2613                 if (last_un_char == 255 && (isDIGIT(s[1]) || s[1] == '$'))
2614                     weight -= 5;        /* cope with negative subscript */
2615                 break;
2616             default:
2617                 if (!isALNUM(last_un_char)
2618                     && !(last_un_char == '$' || last_un_char == '@'
2619                          || last_un_char == '&')
2620                     && isALPHA(*s) && s[1] && isALPHA(s[1])) {
2621                     char *d = tmpbuf;
2622                     while (isALPHA(*s))
2623                         *d++ = *s++;
2624                     *d = '\0';
2625                     if (keyword(tmpbuf, d - tmpbuf, 0))
2626                         weight -= 150;
2627                 }
2628                 if (un_char == last_un_char + 1)
2629                     weight += 5;
2630                 weight -= seen[un_char];
2631                 break;
2632             }
2633             seen[un_char]++;
2634         }
2635         if (weight >= 0)        /* probably a character class */
2636             return FALSE;
2637     }
2638
2639     return TRUE;
2640 }
2641
2642 /*
2643  * S_intuit_method
2644  *
2645  * Does all the checking to disambiguate
2646  *   foo bar
2647  * between foo(bar) and bar->foo.  Returns 0 if not a method, otherwise
2648  * FUNCMETH (bar->foo(args)) or METHOD (bar->foo args).
2649  *
2650  * First argument is the stuff after the first token, e.g. "bar".
2651  *
2652  * Not a method if bar is a filehandle.
2653  * Not a method if foo is a subroutine prototyped to take a filehandle.
2654  * Not a method if it's really "Foo $bar"
2655  * Method if it's "foo $bar"
2656  * Not a method if it's really "print foo $bar"
2657  * Method if it's really "foo package::" (interpreted as package->foo)
2658  * Not a method if bar is known to be a subroutine ("sub bar; foo bar")
2659  * Not a method if bar is a filehandle or package, but is quoted with
2660  *   =>
2661  */
2662
2663 STATIC int
2664 S_intuit_method(pTHX_ char *start, GV *gv, CV *cv)
2665 {
2666     dVAR;
2667     char *s = start + (*start == '$');
2668     char tmpbuf[sizeof PL_tokenbuf];
2669     STRLEN len;
2670     GV* indirgv;
2671 #ifdef PERL_MAD
2672     int soff;
2673 #endif
2674
2675     if (gv) {
2676         if (SvTYPE(gv) == SVt_PVGV && GvIO(gv))
2677             return 0;
2678         if (cv) {
2679             if (SvPOK(cv)) {
2680                 const char *proto = SvPVX_const(cv);
2681                 if (proto) {
2682                     if (*proto == ';')
2683                         proto++;
2684                     if (*proto == '*')
2685                         return 0;
2686                 }
2687             }
2688         } else
2689             gv = NULL;
2690     }
2691     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2692     /* start is the beginning of the possible filehandle/object,
2693      * and s is the end of it
2694      * tmpbuf is a copy of it
2695      */
2696
2697     if (*start == '$') {
2698         if (gv || PL_last_lop_op == OP_PRINT || PL_last_lop_op == OP_SAY ||
2699                 isUPPER(*PL_tokenbuf))
2700             return 0;
2701 #ifdef PERL_MAD
2702         len = start - SvPVX(PL_linestr);
2703 #endif
2704         s = PEEKSPACE(s);
2705 #ifdef PERL_MAD
2706         start = SvPVX(PL_linestr) + len;
2707 #endif
2708         PL_bufptr = start;
2709         PL_expect = XREF;
2710         return *s == '(' ? FUNCMETH : METHOD;
2711     }
2712     if (!keyword(tmpbuf, len, 0)) {
2713         if (len > 2 && tmpbuf[len - 2] == ':' && tmpbuf[len - 1] == ':') {
2714             len -= 2;
2715             tmpbuf[len] = '\0';
2716 #ifdef PERL_MAD
2717             soff = s - SvPVX(PL_linestr);
2718 #endif
2719             goto bare_package;
2720         }
2721         indirgv = gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PVCV);
2722         if (indirgv && GvCVu(indirgv))
2723             return 0;
2724         /* filehandle or package name makes it a method */
2725         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, 0)) {
2726 #ifdef PERL_MAD
2727             soff = s - SvPVX(PL_linestr);
2728 #endif
2729             s = PEEKSPACE(s);
2730             if ((PL_bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
2731                 return 0;       /* no assumptions -- "=>" quotes bearword */
2732       bare_package:
2733             start_force(PL_curforce);
2734             NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0,
2735                                                    newSVpvn(tmpbuf,len));
2736             NEXTVAL_NEXTTOKE.opval->op_private = OPpCONST_BARE;
2737             if (PL_madskills)
2738                 curmad('X', newSVpvn(start,SvPVX(PL_linestr) + soff - start));
2739             PL_expect = XTERM;
2740             force_next(WORD);
2741             PL_bufptr = s;
2742 #ifdef PERL_MAD
2743             PL_bufptr = SvPVX(PL_linestr) + soff; /* restart before space */
2744 #endif
2745             return *s == '(' ? FUNCMETH : METHOD;
2746         }
2747     }
2748     return 0;
2749 }
2750
2751 /*
2752  * S_incl_perldb
2753  * Return a string of Perl code to load the debugger.  If PERL5DB
2754  * is set, it will return the contents of that, otherwise a
2755  * compile-time require of perl5db.pl.
2756  */
2757
2758 STATIC const char*
2759 S_incl_perldb(pTHX)
2760 {
2761     dVAR;
2762     if (PL_perldb) {
2763         const char * const pdb = PerlEnv_getenv("PERL5DB");
2764
2765         if (pdb)
2766             return pdb;
2767         SETERRNO(0,SS_NORMAL);
2768         return "BEGIN { require 'perl5db.pl' }";
2769     }
2770     return "";
2771 }
2772
2773
2774 /* Encoded script support. filter_add() effectively inserts a
2775  * 'pre-processing' function into the current source input stream.
2776  * Note that the filter function only applies to the current source file
2777  * (e.g., it will not affect files 'require'd or 'use'd by this one).
2778  *
2779  * The datasv parameter (which may be NULL) can be used to pass
2780  * private data to this instance of the filter. The filter function
2781  * can recover the SV using the FILTER_DATA macro and use it to
2782  * store private buffers and state information.
2783  *
2784  * The supplied datasv parameter is upgraded to a PVIO type
2785  * and the IoDIRP/IoANY field is used to store the function pointer,
2786  * and IOf_FAKE_DIRP is enabled on datasv to mark this as such.
2787  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
2788  * private use must be set using malloc'd pointers.
2789  */
2790
2791 SV *
2792 Perl_filter_add(pTHX_ filter_t funcp, SV *datasv)
2793 {
2794     dVAR;
2795     if (!funcp)
2796         return NULL;
2797
2798     if (!PL_parser)
2799         return NULL;
2800
2801     if (!PL_rsfp_filters)
2802         PL_rsfp_filters = newAV();
2803     if (!datasv)
2804         datasv = newSV(0);
2805     SvUPGRADE(datasv, SVt_PVIO);
2806     IoANY(datasv) = FPTR2DPTR(void *, funcp); /* stash funcp into spare field */
2807     IoFLAGS(datasv) |= IOf_FAKE_DIRP;
2808     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_add func %p (%s)\n",
2809                           FPTR2DPTR(void *, IoANY(datasv)),
2810                           SvPV_nolen(datasv)));
2811     av_unshift(PL_rsfp_filters, 1);
2812     av_store(PL_rsfp_filters, 0, datasv) ;
2813     return(datasv);
2814 }
2815
2816
2817 /* Delete most recently added instance of this filter function. */
2818 void
2819 Perl_filter_del(pTHX_ filter_t funcp)
2820 {
2821     dVAR;
2822     SV *datasv;
2823
2824 #ifdef DEBUGGING
2825     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_del func %p",
2826                           FPTR2DPTR(void*, funcp)));
2827 #endif
2828     if (!PL_parser || !PL_rsfp_filters || AvFILLp(PL_rsfp_filters)<0)
2829         return;
2830     /* if filter is on top of stack (usual case) just pop it off */
2831     datasv = FILTER_DATA(AvFILLp(PL_rsfp_filters));
2832     if (IoANY(datasv) == FPTR2DPTR(void *, funcp)) {
2833         IoFLAGS(datasv) &= ~IOf_FAKE_DIRP;
2834         IoANY(datasv) = (void *)NULL;
2835         sv_free(av_pop(PL_rsfp_filters));
2836
2837         return;
2838     }
2839     /* we need to search for the correct entry and clear it     */
2840     Perl_die(aTHX_ "filter_del can only delete in reverse order (currently)");
2841 }
2842
2843
2844 /* Invoke the idxth filter function for the current rsfp.        */
2845 /* maxlen 0 = read one text line */
2846 I32
2847 Perl_filter_read(pTHX_ int idx, SV *buf_sv, int maxlen)
2848 {
2849     dVAR;
2850     filter_t funcp;
2851     SV *datasv = NULL;
2852     /* This API is bad. It should have been using unsigned int for maxlen.
2853        Not sure if we want to change the API, but if not we should sanity
2854        check the value here.  */
2855     const unsigned int correct_length
2856         = maxlen < 0 ?
2857 #ifdef PERL_MICRO
2858         0x7FFFFFFF
2859 #else
2860         INT_MAX
2861 #endif
2862         : maxlen;
2863
2864     if (!PL_parser || !PL_rsfp_filters)
2865         return -1;
2866     if (idx > AvFILLp(PL_rsfp_filters)) {       /* Any more filters?    */
2867         /* Provide a default input filter to make life easy.    */
2868         /* Note that we append to the line. This is handy.      */
2869         DEBUG_P(PerlIO_printf(Perl_debug_log,
2870                               "filter_read %d: from rsfp\n", idx));
2871         if (correct_length) {
2872             /* Want a block */
2873             int len ;
2874             const int old_len = SvCUR(buf_sv);
2875
2876             /* ensure buf_sv is large enough */
2877             SvGROW(buf_sv, (STRLEN)(old_len + correct_length)) ;
2878             if ((len = PerlIO_read(PL_rsfp, SvPVX(buf_sv) + old_len,
2879                                    correct_length)) <= 0) {
2880                 if (PerlIO_error(PL_rsfp))
2881                     return -1;          /* error */
2882                 else
2883                     return 0 ;          /* end of file */
2884             }
2885             SvCUR_set(buf_sv, old_len + len) ;
2886         } else {
2887             /* Want a line */
2888             if (sv_gets(buf_sv, PL_rsfp, SvCUR(buf_sv)) == NULL) {
2889                 if (PerlIO_error(PL_rsfp))
2890                     return -1;          /* error */
2891                 else
2892                     return 0 ;          /* end of file */
2893             }
2894         }
2895         return SvCUR(buf_sv);
2896     }
2897     /* Skip this filter slot if filter has been deleted */
2898     if ( (datasv = FILTER_DATA(idx)) == &PL_sv_undef) {
2899         DEBUG_P(PerlIO_printf(Perl_debug_log,
2900                               "filter_read %d: skipped (filter deleted)\n",
2901                               idx));
2902         return FILTER_READ(idx+1, buf_sv, correct_length); /* recurse */
2903     }
2904     /* Get function pointer hidden within datasv        */
2905     funcp = DPTR2FPTR(filter_t, IoANY(datasv));
2906     DEBUG_P(PerlIO_printf(Perl_debug_log,
2907                           "filter_read %d: via function %p (%s)\n",
2908                           idx, (void*)datasv, SvPV_nolen_const(datasv)));
2909     /* Call function. The function is expected to       */
2910     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
2911     /* Return: <0:error, =0:eof, >0:not eof             */
2912     return (*funcp)(aTHX_ idx, buf_sv, correct_length);
2913 }
2914
2915 STATIC char *
2916 S_filter_gets(pTHX_ register SV *sv, register PerlIO *fp, STRLEN append)
2917 {
2918     dVAR;
2919 #ifdef PERL_CR_FILTER
2920     if (!PL_rsfp_filters) {
2921         filter_add(S_cr_textfilter,NULL);
2922     }
2923 #endif
2924     if (PL_rsfp_filters) {
2925         if (!append)
2926             SvCUR_set(sv, 0);   /* start with empty line        */
2927         if (FILTER_READ(0, sv, 0) > 0)
2928             return ( SvPVX(sv) ) ;
2929         else
2930             return NULL ;
2931     }
2932     else
2933         return (sv_gets(sv, fp, append));
2934 }
2935
2936 STATIC HV *
2937 S_find_in_my_stash(pTHX_ const char *pkgname, I32 len)
2938 {
2939     dVAR;
2940     GV *gv;
2941
2942     if (len == 11 && *pkgname == '_' && strEQ(pkgname, "__PACKAGE__"))
2943         return PL_curstash;
2944
2945     if (len > 2 &&
2946         (pkgname[len - 2] == ':' && pkgname[len - 1] == ':') &&
2947         (gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVHV)))
2948     {
2949         return GvHV(gv);                        /* Foo:: */
2950     }
2951
2952     /* use constant CLASS => 'MyClass' */
2953     gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVCV);
2954     if (gv && GvCV(gv)) {
2955         SV * const sv = cv_const_sv(GvCV(gv));
2956         if (sv)
2957             pkgname = SvPV_nolen_const(sv);
2958     }
2959
2960     return gv_stashpv(pkgname, 0);
2961 }
2962
2963 /*
2964  * S_readpipe_override
2965  * Check whether readpipe() is overriden, and generates the appropriate
2966  * optree, provided sublex_start() is called afterwards.
2967  */
2968 STATIC void
2969 S_readpipe_override(pTHX)
2970 {
2971     GV **gvp;
2972     GV *gv_readpipe = gv_fetchpvs("readpipe", GV_NOTQUAL, SVt_PVCV);
2973     yylval.ival = OP_BACKTICK;
2974     if ((gv_readpipe
2975                 && GvCVu(gv_readpipe) && GvIMPORTED_CV(gv_readpipe))
2976             ||
2977             ((gvp = (GV**)hv_fetchs(PL_globalstash, "readpipe", FALSE))
2978              && (gv_readpipe = *gvp) && isGV_with_GP(gv_readpipe)
2979              && GvCVu(gv_readpipe) && GvIMPORTED_CV(gv_readpipe)))
2980     {
2981         PL_lex_op = (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
2982             append_elem(OP_LIST,
2983                 newSVOP(OP_CONST, 0, &PL_sv_undef), /* value will be read later */
2984                 newCVREF(0, newGVOP(OP_GV, 0, gv_readpipe))));
2985     }
2986 }
2987
2988 #ifdef PERL_MAD
2989  /*
2990  * Perl_madlex
2991  * The intent of this yylex wrapper is to minimize the changes to the
2992  * tokener when we aren't interested in collecting madprops.  It remains
2993  * to be seen how successful this strategy will be...
2994  */
2995
2996 int
2997 Perl_madlex(pTHX)
2998 {
2999     int optype;
3000     char *s = PL_bufptr;
3001
3002     /* make sure PL_thiswhite is initialized */
3003     PL_thiswhite = 0;
3004     PL_thismad = 0;
3005
3006     /* just do what yylex would do on pending identifier; leave PL_thiswhite alone */
3007     if (PL_pending_ident)
3008         return S_pending_ident(aTHX);
3009
3010     /* previous token ate up our whitespace? */
3011     if (!PL_lasttoke && PL_nextwhite) {
3012         PL_thiswhite = PL_nextwhite;
3013         PL_nextwhite = 0;
3014     }
3015
3016     /* isolate the token, and figure out where it is without whitespace */
3017     PL_realtokenstart = -1;
3018     PL_thistoken = 0;
3019     optype = yylex();
3020     s = PL_bufptr;
3021     assert(PL_curforce < 0);
3022
3023     if (!PL_thismad || PL_thismad->mad_key == '^') {    /* not forced already? */
3024         if (!PL_thistoken) {
3025             if (PL_realtokenstart < 0 || !CopLINE(PL_curcop))
3026                 PL_thistoken = newSVpvs("");
3027             else {
3028                 char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
3029                 PL_thistoken = newSVpvn(tstart, s - tstart);
3030             }
3031         }
3032         if (PL_thismad) /* install head */
3033             CURMAD('X', PL_thistoken);
3034     }
3035
3036     /* last whitespace of a sublex? */
3037     if (optype == ')' && PL_endwhite) {
3038         CURMAD('X', PL_endwhite);
3039     }
3040
3041     if (!PL_thismad) {
3042
3043         /* if no whitespace and we're at EOF, bail.  Otherwise fake EOF below. */
3044         if (!PL_thiswhite && !PL_endwhite && !optype) {
3045             sv_free(PL_thistoken);
3046             PL_thistoken = 0;
3047             return 0;
3048         }
3049
3050         /* put off final whitespace till peg */
3051         if (optype == ';' && !PL_rsfp) {
3052             PL_nextwhite = PL_thiswhite;
3053             PL_thiswhite = 0;
3054         }
3055         else if (PL_thisopen) {
3056             CURMAD('q', PL_thisopen);
3057             if (PL_thistoken)
3058                 sv_free(PL_thistoken);
3059             PL_thistoken = 0;
3060         }
3061         else {
3062             /* Store actual token text as madprop X */
3063             CURMAD('X', PL_thistoken);
3064         }
3065
3066         if (PL_thiswhite) {
3067             /* add preceding whitespace as madprop _ */
3068             CURMAD('_', PL_thiswhite);
3069         }
3070
3071         if (PL_thisstuff) {
3072             /* add quoted material as madprop = */
3073             CURMAD('=', PL_thisstuff);
3074         }
3075
3076         if (PL_thisclose) {
3077             /* add terminating quote as madprop Q */
3078             CURMAD('Q', PL_thisclose);
3079         }
3080     }
3081
3082     /* special processing based on optype */
3083
3084     switch (optype) {
3085
3086     /* opval doesn't need a TOKEN since it can already store mp */
3087     case WORD:
3088     case METHOD:
3089     case FUNCMETH:
3090     case THING:
3091     case PMFUNC:
3092     case PRIVATEREF:
3093     case FUNC0SUB:
3094     case UNIOPSUB:
3095     case LSTOPSUB:
3096         if (yylval.opval)
3097             append_madprops(PL_thismad, yylval.opval, 0);
3098         PL_thismad = 0;
3099         return optype;
3100
3101     /* fake EOF */
3102     case 0:
3103         optype = PEG;
3104         if (PL_endwhite) {
3105             addmad(newMADsv('p', PL_endwhite), &PL_thismad, 0);
3106             PL_endwhite = 0;
3107         }
3108         break;
3109
3110     case ']':
3111     case '}':
3112         if (PL_faketokens)
3113             break;
3114         /* remember any fake bracket that lexer is about to discard */
3115         if (PL_lex_brackets == 1 &&
3116             ((expectation)PL_lex_brackstack[0] & XFAKEBRACK))
3117         {
3118             s = PL_bufptr;
3119             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
3120                 s++;
3121             if (*s == '}') {
3122                 PL_thiswhite = newSVpvn(PL_bufptr, ++s - PL_bufptr);
3123                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
3124                 PL_thiswhite = 0;
3125                 PL_bufptr = s - 1;
3126                 break;  /* don't bother looking for trailing comment */
3127             }
3128             else
3129                 s = PL_bufptr;
3130         }
3131         if (optype == ']')
3132             break;
3133         /* FALLTHROUGH */
3134
3135     /* attach a trailing comment to its statement instead of next token */
3136     case ';':
3137         if (PL_faketokens)
3138             break;
3139         if (PL_bufptr > PL_oldbufptr && PL_bufptr[-1] == optype) {
3140             s = PL_bufptr;
3141             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
3142                 s++;
3143             if (*s == '\n' || *s == '#') {
3144                 while (s < PL_bufend && *s != '\n')
3145                     s++;
3146                 if (s < PL_bufend)
3147                     s++;
3148                 PL_thiswhite = newSVpvn(PL_bufptr, s - PL_bufptr);
3149                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
3150                 PL_thiswhite = 0;
3151                 PL_bufptr = s;
3152             }
3153         }
3154         break;
3155
3156     /* pval */
3157     case LABEL:
3158         break;
3159
3160     /* ival */
3161     default:
3162         break;
3163
3164     }
3165
3166     /* Create new token struct.  Note: opvals return early above. */
3167     yylval.tkval = newTOKEN(optype, yylval, PL_thismad);
3168     PL_thismad = 0;
3169     return optype;
3170 }
3171 #endif
3172
3173 STATIC char *
3174 S_tokenize_use(pTHX_ int is_use, char *s) {
3175     dVAR;
3176     if (PL_expect != XSTATE)
3177         yyerror(Perl_form(aTHX_ "\"%s\" not allowed in expression",
3178                     is_use ? "use" : "no"));
3179     s = SKIPSPACE1(s);
3180     if (isDIGIT(*s) || (*s == 'v' && isDIGIT(s[1]))) {
3181         s = force_version(s, TRUE);
3182         if (*s == ';' || (s = SKIPSPACE1(s), *s == ';')) {
3183             start_force(PL_curforce);
3184             NEXTVAL_NEXTTOKE.opval = NULL;
3185             force_next(WORD);
3186         }
3187         else if (*s == 'v') {
3188             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3189             s = force_version(s, FALSE);
3190         }
3191     }
3192     else {
3193         s = force_word(s,WORD,FALSE,TRUE,FALSE);
3194         s = force_version(s, FALSE);
3195     }
3196     yylval.ival = is_use;
3197     return s;
3198 }
3199 #ifdef DEBUGGING
3200     static const char* const exp_name[] =
3201         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "ATTRBLOCK",
3202           "ATTRTERM", "TERMBLOCK", "TERMORDORDOR"
3203         };
3204 #endif
3205
3206 /*
3207   yylex
3208
3209   Works out what to call the token just pulled out of the input
3210   stream.  The yacc parser takes care of taking the ops we return and
3211   stitching them into a tree.
3212
3213   Returns:
3214     PRIVATEREF
3215
3216   Structure:
3217       if read an identifier
3218           if we're in a my declaration
3219               croak if they tried to say my($foo::bar)
3220               build the ops for a my() declaration
3221           if it's an access to a my() variable
3222               are we in a sort block?
3223                   croak if my($a); $a <=> $b
3224               build ops for access to a my() variable
3225           if in a dq string, and they've said @foo and we can't find @foo
3226               croak
3227           build ops for a bareword
3228       if we already built the token before, use it.
3229 */
3230
3231
3232 #ifdef __SC__
3233 #pragma segment Perl_yylex
3234 #endif
3235 int
3236 Perl_yylex(pTHX)
3237 {
3238     dVAR;
3239     register char *s = PL_bufptr;
3240     register char *d;
3241     STRLEN len;
3242     bool bof = FALSE;
3243
3244     /* orig_keyword, gvp, and gv are initialized here because
3245      * jump to the label just_a_word_zero can bypass their
3246      * initialization later. */
3247     I32 orig_keyword = 0;
3248     GV *gv = NULL;
3249     GV **gvp = NULL;
3250
3251     DEBUG_T( {
3252         SV* tmp = newSVpvs("");
3253         PerlIO_printf(Perl_debug_log, "### %"IVdf":LEX_%s/X%s %s\n",
3254             (IV)CopLINE(PL_curcop),
3255             lex_state_names[PL_lex_state],
3256             exp_name[PL_expect],
3257             pv_display(tmp, s, strlen(s), 0, 60));
3258         SvREFCNT_dec(tmp);
3259     } );
3260     /* check if there's an identifier for us to look at */
3261     if (PL_pending_ident)
3262         return REPORT(S_pending_ident(aTHX));
3263
3264     /* no identifier pending identification */
3265
3266     switch (PL_lex_state) {
3267 #ifdef COMMENTARY
3268     case LEX_NORMAL:            /* Some compilers will produce faster */
3269     case LEX_INTERPNORMAL:      /* code if we comment these out. */
3270         break;
3271 #endif
3272
3273     /* when we've already built the next token, just pull it out of the queue */
3274     case LEX_KNOWNEXT:
3275 #ifdef PERL_MAD
3276         PL_lasttoke--;
3277         yylval = PL_nexttoke[PL_lasttoke].next_val;
3278         if (PL_madskills) {
3279             PL_thismad = PL_nexttoke[PL_lasttoke].next_mad;
3280             PL_nexttoke[PL_lasttoke].next_mad = 0;
3281             if (PL_thismad && PL_thismad->mad_key == '_') {
3282                 PL_thiswhite = (SV*)PL_thismad->mad_val;
3283                 PL_thismad->mad_val = 0;
3284                 mad_free(PL_thismad);
3285                 PL_thismad = 0;
3286             }
3287         }
3288         if (!PL_lasttoke) {
3289             PL_lex_state = PL_lex_defer;
3290             PL_expect = PL_lex_expect;
3291             PL_lex_defer = LEX_NORMAL;
3292             if (!PL_nexttoke[PL_lasttoke].next_type)
3293                 return yylex();
3294         }
3295 #else
3296         PL_nexttoke--;
3297         yylval = PL_nextval[PL_nexttoke];
3298         if (!PL_nexttoke) {
3299             PL_lex_state = PL_lex_defer;
3300             PL_expect = PL_lex_expect;
3301             PL_lex_defer = LEX_NORMAL;
3302         }
3303 #endif
3304 #ifdef PERL_MAD
3305         /* FIXME - can these be merged?  */
3306         return(PL_nexttoke[PL_lasttoke].next_type);
3307 #else
3308         return REPORT(PL_nexttype[PL_nexttoke]);
3309 #endif
3310
3311     /* interpolated case modifiers like \L \U, including \Q and \E.
3312        when we get here, PL_bufptr is at the \
3313     */
3314     case LEX_INTERPCASEMOD:
3315 #ifdef DEBUGGING
3316         if (PL_bufptr != PL_bufend && *PL_bufptr != '\\')
3317             Perl_croak(aTHX_ "panic: INTERPCASEMOD");
3318 #endif
3319         /* handle \E or end of string */
3320         if (PL_bufptr == PL_bufend || PL_bufptr[1] == 'E') {
3321             /* if at a \E */
3322             if (PL_lex_casemods) {
3323                 const char oldmod = PL_lex_casestack[--PL_lex_casemods];
3324                 PL_lex_casestack[PL_lex_casemods] = '\0';
3325
3326                 if (PL_bufptr != PL_bufend
3327                     && (oldmod == 'L' || oldmod == 'U' || oldmod == 'Q')) {
3328                     PL_bufptr += 2;
3329                     PL_lex_state = LEX_INTERPCONCAT;
3330 #ifdef PERL_MAD
3331                     if (PL_madskills)
3332                         PL_thistoken = newSVpvs("\\E");
3333 #endif
3334                 }
3335                 return REPORT(')');
3336             }
3337 #ifdef PERL_MAD
3338             while (PL_bufptr != PL_bufend &&
3339               PL_bufptr[0] == '\\' && PL_bufptr[1] == 'E') {
3340                 if (!PL_thiswhite)
3341                     PL_thiswhite = newSVpvs("");
3342                 sv_catpvn(PL_thiswhite, PL_bufptr, 2);
3343                 PL_bufptr += 2;
3344             }
3345 #else
3346             if (PL_bufptr != PL_bufend)
3347                 PL_bufptr += 2;
3348 #endif
3349             PL_lex_state = LEX_INTERPCONCAT;
3350             return yylex();
3351         }
3352         else {
3353             DEBUG_T({ PerlIO_printf(Perl_debug_log,
3354               "### Saw case modifier\n"); });
3355             s = PL_bufptr + 1;
3356             if (s[1] == '\\' && s[2] == 'E') {
3357 #ifdef PERL_MAD
3358                 if (!PL_thiswhite)
3359                     PL_thiswhite = newSVpvs("");
3360                 sv_catpvn(PL_thiswhite, PL_bufptr, 4);
3361 #endif
3362                 PL_bufptr = s + 3;
3363                 PL_lex_state = LEX_INTERPCONCAT;
3364                 return yylex();
3365             }
3366             else {
3367                 I32 tmp;
3368                 if (!PL_madskills) /* when just compiling don't need correct */
3369                     if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
3370                         tmp = *s, *s = s[2], s[2] = (char)tmp;  /* misordered... */
3371                 if ((*s == 'L' || *s == 'U') &&
3372                     (strchr(PL_lex_casestack, 'L') || strchr(PL_lex_casestack, 'U'))) {
3373                     PL_lex_casestack[--PL_lex_casemods] = '\0';
3374                     return REPORT(')');
3375                 }
3376                 if (PL_lex_casemods > 10)
3377                     Renew(PL_lex_casestack, PL_lex_casemods + 2, char);
3378                 PL_lex_casestack[PL_lex_casemods++] = *s;
3379                 PL_lex_casestack[PL_lex_casemods] = '\0';
3380                 PL_lex_state = LEX_INTERPCONCAT;
3381                 start_force(PL_curforce);
3382                 NEXTVAL_NEXTTOKE.ival = 0;
3383                 force_next('(');
3384                 start_force(PL_curforce);
3385                 if (*s == 'l')
3386                     NEXTVAL_NEXTTOKE.ival = OP_LCFIRST;
3387                 else if (*s == 'u')
3388                     NEXTVAL_NEXTTOKE.ival = OP_UCFIRST;
3389                 else if (*s == 'L')
3390                     NEXTVAL_NEXTTOKE.ival = OP_LC;
3391                 else if (*s == 'U')
3392                     NEXTVAL_NEXTTOKE.ival = OP_UC;
3393                 else if (*s == 'Q')
3394                     NEXTVAL_NEXTTOKE.ival = OP_QUOTEMETA;
3395                 else
3396                     Perl_croak(aTHX_ "panic: yylex");
3397                 if (PL_madskills) {
3398                     SV* const tmpsv = newSVpvs("\\ ");
3399                     /* replace the space with the character we want to escape
3400                      */
3401                     SvPVX(tmpsv)[1] = *s;
3402                     curmad('_', tmpsv);
3403                 }
3404                 PL_bufptr = s + 1;
3405             }
3406             force_next(FUNC);
3407             if (PL_lex_starts) {
3408                 s = PL_bufptr;
3409                 PL_lex_starts = 0;
3410 #ifdef PERL_MAD
3411                 if (PL_madskills) {
3412                     if (PL_thistoken)
3413                         sv_free(PL_thistoken);
3414                     PL_thistoken = newSVpvs("");
3415                 }
3416 #endif
3417                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3418                 if (PL_lex_casemods == 1 && PL_lex_inpat)
3419                     OPERATOR(',');
3420                 else
3421                     Aop(OP_CONCAT);
3422             }
3423             else
3424                 return yylex();
3425         }
3426
3427     case LEX_INTERPPUSH:
3428         return REPORT(sublex_push());
3429
3430     case LEX_INTERPSTART:
3431         if (PL_bufptr == PL_bufend)
3432             return REPORT(sublex_done());
3433         DEBUG_T({ PerlIO_printf(Perl_debug_log,
3434               "### Interpolated variable\n"); });
3435         PL_expect = XTERM;
3436         PL_lex_dojoin = (*PL_bufptr == '@');
3437         PL_lex_state = LEX_INTERPNORMAL;
3438         if (PL_lex_dojoin) {
3439             start_force(PL_curforce);
3440             NEXTVAL_NEXTTOKE.ival = 0;
3441             force_next(',');
3442             start_force(PL_curforce);
3443             force_ident("\"", '$');
3444             start_force(PL_curforce);
3445             NEXTVAL_NEXTTOKE.ival = 0;
3446             force_next('$');
3447             start_force(PL_curforce);
3448             NEXTVAL_NEXTTOKE.ival = 0;
3449             force_next('(');
3450             start_force(PL_curforce);
3451             NEXTVAL_NEXTTOKE.ival = OP_JOIN;    /* emulate join($", ...) */
3452             force_next(FUNC);
3453         }
3454         if (PL_lex_starts++) {
3455             s = PL_bufptr;
3456 #ifdef PERL_MAD
3457             if (PL_madskills) {
3458                 if (PL_thistoken)
3459                     sv_free(PL_thistoken);
3460                 PL_thistoken = newSVpvs("");
3461             }
3462 #endif
3463             /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3464             if (!PL_lex_casemods && PL_lex_inpat)
3465                 OPERATOR(',');
3466             else
3467                 Aop(OP_CONCAT);
3468         }
3469         return yylex();
3470
3471     case LEX_INTERPENDMAYBE:
3472         if (intuit_more(PL_bufptr)) {
3473             PL_lex_state = LEX_INTERPNORMAL;    /* false alarm, more expr */
3474             break;
3475         }
3476         /* FALL THROUGH */
3477
3478     case LEX_INTERPEND:
3479         if (PL_lex_dojoin) {
3480             PL_lex_dojoin = FALSE;
3481             PL_lex_state = LEX_INTERPCONCAT;
3482 #ifdef PERL_MAD
3483             if (PL_madskills) {
3484                 if (PL_thistoken)
3485                     sv_free(PL_thistoken);
3486                 PL_thistoken = newSVpvs("");
3487             }
3488 #endif
3489             return REPORT(')');
3490         }
3491         if (PL_lex_inwhat == OP_SUBST && PL_linestr == PL_lex_repl
3492             && SvEVALED(PL_lex_repl))
3493         {
3494             if (PL_bufptr != PL_bufend)
3495                 Perl_croak(aTHX_ "Bad evalled substitution pattern");
3496             PL_lex_repl = NULL;
3497         }
3498         /* FALLTHROUGH */
3499     case LEX_INTERPCONCAT:
3500 #ifdef DEBUGGING
3501         if (PL_lex_brackets)
3502             Perl_croak(aTHX_ "panic: INTERPCONCAT");
3503 #endif
3504         if (PL_bufptr == PL_bufend)
3505             return REPORT(sublex_done());
3506
3507         if (SvIVX(PL_linestr) == '\'') {
3508             SV *sv = newSVsv(PL_linestr);
3509             if (!PL_lex_inpat)
3510                 sv = tokeq(sv);
3511             else if ( PL_hints & HINT_NEW_RE )
3512                 sv = new_constant(NULL, 0, "qr", sv, sv, "q", 1);
3513             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
3514             s = PL_bufend;
3515         }
3516         else {
3517             s = scan_const(PL_bufptr);
3518             if (*s == '\\')
3519                 PL_lex_state = LEX_INTERPCASEMOD;
3520             else
3521                 PL_lex_state = LEX_INTERPSTART;
3522         }
3523
3524         if (s != PL_bufptr) {
3525             start_force(PL_curforce);
3526             if (PL_madskills) {
3527                 curmad('X', newSVpvn(PL_bufptr,s-PL_bufptr));
3528             }
3529             NEXTVAL_NEXTTOKE = yylval;
3530             PL_expect = XTERM;
3531             force_next(THING);
3532             if (PL_lex_starts++) {
3533 #ifdef PERL_MAD
3534                 if (PL_madskills) {
3535                     if (PL_thistoken)
3536                         sv_free(PL_thistoken);
3537                     PL_thistoken = newSVpvs("");
3538                 }
3539 #endif
3540                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3541                 if (!PL_lex_casemods && PL_lex_inpat)
3542                     OPERATOR(',');
3543                 else
3544                     Aop(OP_CONCAT);
3545             }
3546             else {
3547                 PL_bufptr = s;
3548                 return yylex();
3549             }
3550         }
3551
3552         return yylex();
3553     case LEX_FORMLINE:
3554         PL_lex_state = LEX_NORMAL;
3555         s = scan_formline(PL_bufptr);
3556         if (!PL_lex_formbrack)
3557             goto rightbracket;
3558         OPERATOR(';');
3559     }
3560
3561     s = PL_bufptr;
3562     PL_oldoldbufptr = PL_oldbufptr;
3563     PL_oldbufptr = s;
3564
3565   retry:
3566 #ifdef PERL_MAD
3567     if (PL_thistoken) {
3568         sv_free(PL_thistoken);
3569         PL_thistoken = 0;
3570     }
3571     PL_realtokenstart = s - SvPVX(PL_linestr);  /* assume but undo on ws */
3572 #endif
3573     switch (*s) {
3574     default:
3575         if (isIDFIRST_lazy_if(s,UTF))
3576             goto keylookup;
3577         len = UTF ? Perl_utf8_length(aTHX_ (U8 *) PL_linestart, (U8 *) s) : (STRLEN) (s - PL_linestart);
3578         Perl_croak(aTHX_ "Unrecognized character \\x%02X in column %d", *s & 255, (int) len + 1);
3579     case 4:
3580     case 26:
3581         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
3582     case 0:
3583 #ifdef PERL_MAD
3584         if (PL_madskills)
3585             PL_faketokens = 0;
3586 #endif
3587         if (!PL_rsfp) {
3588             PL_last_uni = 0;
3589             PL_last_lop = 0;
3590             if (PL_lex_brackets) {
3591                 yyerror((const char *)
3592                         (PL_lex_formbrack
3593                          ? "Format not terminated"
3594                          : "Missing right curly or square bracket"));
3595             }
3596             DEBUG_T( { PerlIO_printf(Perl_debug_log,
3597                         "### Tokener got EOF\n");
3598             } );
3599             TOKEN(0);
3600         }
3601         if (s++ < PL_bufend)
3602             goto retry;                 /* ignore stray nulls */
3603         PL_last_uni = 0;
3604         PL_last_lop = 0;
3605         if (!PL_in_eval && !PL_preambled) {
3606             PL_preambled = TRUE;
3607 #ifdef PERL_MAD
3608             if (PL_madskills)
3609                 PL_faketokens = 1;
3610 #endif
3611             sv_setpv(PL_linestr,incl_perldb());
3612             if (SvCUR(PL_linestr))
3613                 sv_catpvs(PL_linestr,";");
3614             if (PL_preambleav){
3615                 while(AvFILLp(PL_preambleav) >= 0) {
3616                     SV *tmpsv = av_shift(PL_preambleav);
3617                     sv_catsv(PL_linestr, tmpsv);
3618                     sv_catpvs(PL_linestr, ";");
3619                     sv_free(tmpsv);
3620                 }
3621                 sv_free((SV*)PL_preambleav);
3622                 PL_preambleav = NULL;
3623             }
3624             if (PL_minus_n || PL_minus_p) {
3625                 sv_catpvs(PL_linestr, "LINE: while (<>) {");
3626                 if (PL_minus_l)
3627                     sv_catpvs(PL_linestr,"chomp;");
3628                 if (PL_minus_a) {
3629                     if (PL_minus_F) {
3630                         if ((*PL_splitstr == '/' || *PL_splitstr == '\''
3631                              || *PL_splitstr == '"')
3632                               && strchr(PL_splitstr + 1, *PL_splitstr))
3633                             Perl_sv_catpvf(aTHX_ PL_linestr, "our @F=split(%s);", PL_splitstr);
3634                         else {
3635                             /* "q\0${splitstr}\0" is legal perl. Yes, even NUL
3636                                bytes can be used as quoting characters.  :-) */
3637                             const char *splits = PL_splitstr;
3638                             sv_catpvs(PL_linestr, "our @F=split(q\0");
3639                             do {
3640                                 /* Need to \ \s  */
3641                                 if (*splits == '\\')
3642                                     sv_catpvn(PL_linestr, splits, 1);
3643                                 sv_catpvn(PL_linestr, splits, 1);
3644                             } while (*splits++);
3645                             /* This loop will embed the trailing NUL of
3646                                PL_linestr as the last thing it does before
3647                                terminating.  */
3648                             sv_catpvs(PL_linestr, ");");
3649                         }
3650                     }
3651                     else
3652                         sv_catpvs(PL_linestr,"our @F=split(' ');");
3653                 }
3654             }
3655             if (PL_minus_E)
3656                 sv_catpvs(PL_linestr,"use feature ':5.10';");
3657             sv_catpvs(PL_linestr, "\n");
3658             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3659             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3660             PL_last_lop = PL_last_uni = NULL;
3661             if (PERLDB_LINE && PL_curstash != PL_debstash)
3662                 update_debugger_info(PL_linestr, NULL, 0);
3663             goto retry;
3664         }
3665         do {
3666             bof = PL_rsfp ? TRUE : FALSE;
3667             if ((s = filter_gets(PL_linestr, PL_rsfp, 0)) == NULL) {
3668               fake_eof:
3669 #ifdef PERL_MAD
3670                 PL_realtokenstart = -1;
3671 #endif
3672                 if (PL_rsfp) {
3673                     if (PL_preprocess && !PL_in_eval)
3674                         (void)PerlProc_pclose(PL_rsfp);
3675                     else if ((PerlIO *)PL_rsfp == PerlIO_stdin())
3676                         PerlIO_clearerr(PL_rsfp);
3677                     else
3678                         (void)PerlIO_close(PL_rsfp);
3679                     PL_rsfp = NULL;
3680                     PL_doextract = FALSE;
3681                 }
3682                 if (!PL_in_eval && (PL_minus_n || PL_minus_p)) {
3683 #ifdef PERL_MAD
3684                     if (PL_madskills)
3685                         PL_faketokens = 1;
3686 #endif
3687                     sv_setpv(PL_linestr,
3688                              (const char *)
3689                              (PL_minus_p
3690                               ? ";}continue{print;}" : ";}"));
3691                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3692                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3693                     PL_last_lop = PL_last_uni = NULL;
3694                     PL_minus_n = PL_minus_p = 0;
3695                     goto retry;
3696                 }
3697                 PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3698                 PL_last_lop = PL_last_uni = NULL;
3699                 sv_setpvn(PL_linestr,"",0);
3700                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
3701             }
3702             /* If it looks like the start of a BOM or raw UTF-16,
3703              * check if it in fact is. */
3704             else if (bof &&
3705                      (*s == 0 ||
3706                       *(U8*)s == 0xEF ||
3707                       *(U8*)s >= 0xFE ||
3708                       s[1] == 0)) {
3709 #ifdef PERLIO_IS_STDIO
3710 #  ifdef __GNU_LIBRARY__
3711 #    if __GNU_LIBRARY__ == 1 /* Linux glibc5 */
3712 #      define FTELL_FOR_PIPE_IS_BROKEN
3713 #    endif
3714 #  else
3715 #    ifdef __GLIBC__
3716 #      if __GLIBC__ == 1 /* maybe some glibc5 release had it like this? */
3717 #        define FTELL_FOR_PIPE_IS_BROKEN
3718 #      endif
3719 #    endif
3720 #  endif
3721 #endif
3722 #ifdef FTELL_FOR_PIPE_IS_BROKEN
3723                 /* This loses the possibility to detect the bof
3724                  * situation on perl -P when the libc5 is being used.
3725                  * Workaround?  Maybe attach some extra state to PL_rsfp?
3726                  */
3727                 if (!PL_preprocess)
3728                     bof = PerlIO_tell(PL_rsfp) == SvCUR(PL_linestr);
3729 #else
3730                 bof = PerlIO_tell(PL_rsfp) == (Off_t)SvCUR(PL_linestr);
3731 #endif
3732                 if (bof) {
3733                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3734                     s = swallow_bom((U8*)s);
3735                 }
3736             }
3737             if (PL_doextract) {
3738                 /* Incest with pod. */
3739 #ifdef PERL_MAD
3740                 if (PL_madskills)
3741                     sv_catsv(PL_thiswhite, PL_linestr);
3742 #endif
3743                 if (*s == '=' && strnEQ(s, "=cut", 4) && !isALPHA(s[4])) {
3744                     sv_setpvn(PL_linestr, "", 0);
3745                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3746                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3747                     PL_last_lop = PL_last_uni = NULL;
3748                     PL_doextract = FALSE;
3749                 }
3750             }
3751             incline(s);
3752         } while (PL_doextract);
3753         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = s;
3754         if (PERLDB_LINE && PL_curstash != PL_debstash)
3755             update_debugger_info(PL_linestr, NULL, 0);
3756         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3757         PL_last_lop = PL_last_uni = NULL;
3758         if (CopLINE(PL_curcop) == 1) {
3759             while (s < PL_bufend && isSPACE(*s))
3760                 s++;
3761             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
3762                 s++;
3763 #ifdef PERL_MAD
3764             if (PL_madskills)
3765                 PL_thiswhite = newSVpvn(PL_linestart, s - PL_linestart);
3766 #endif
3767             d = NULL;
3768             if (!PL_in_eval) {
3769                 if (*s == '#' && *(s+1) == '!')
3770                     d = s + 2;
3771 #ifdef ALTERNATE_SHEBANG
3772                 else {
3773                     static char const as[] = ALTERNATE_SHEBANG;
3774                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
3775                         d = s + (sizeof(as) - 1);
3776                 }
3777 #endif /* ALTERNATE_SHEBANG */
3778             }
3779             if (d) {
3780                 char *ipath;
3781                 char *ipathend;
3782
3783                 while (isSPACE(*d))
3784                     d++;
3785                 ipath = d;
3786                 while (*d && !isSPACE(*d))
3787                     d++;
3788                 ipathend = d;
3789
3790 #ifdef ARG_ZERO_IS_SCRIPT
3791                 if (ipathend > ipath) {
3792                     /*
3793                      * HP-UX (at least) sets argv[0] to the script name,
3794                      * which makes $^X incorrect.  And Digital UNIX and Linux,
3795                      * at least, set argv[0] to the basename of the Perl
3796                      * interpreter. So, having found "#!", we'll set it right.
3797                      */
3798                     SV * const x = GvSV(gv_fetchpvs("\030", GV_ADD|GV_NOTQUAL,
3799                                                     SVt_PV)); /* $^X */
3800                     assert(SvPOK(x) || SvGMAGICAL(x));
3801                     if (sv_eq(x, CopFILESV(PL_curcop))) {
3802                         sv_setpvn(x, ipath, ipathend - ipath);
3803                         SvSETMAGIC(x);
3804                     }
3805                     else {
3806                         STRLEN blen;
3807                         STRLEN llen;
3808                         const char *bstart = SvPV_const(CopFILESV(PL_curcop),blen);
3809                         const char * const lstart = SvPV_const(x,llen);
3810                         if (llen < blen) {
3811                             bstart += blen - llen;
3812                             if (strnEQ(bstart, lstart, llen) && bstart[-1] == '/') {
3813                                 sv_setpvn(x, ipath, ipathend - ipath);
3814                                 SvSETMAGIC(x);
3815                             }
3816                         }
3817                     }
3818                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
3819                 }
3820 #endif /* ARG_ZERO_IS_SCRIPT */
3821
3822                 /*
3823                  * Look for options.
3824                  */
3825                 d = instr(s,"perl -");
3826                 if (!d) {
3827                     d = instr(s,"perl");
3828 #if defined(DOSISH)
3829                     /* avoid getting into infinite loops when shebang
3830                      * line contains "Perl" rather than "perl" */
3831                     if (!d) {
3832                         for (d = ipathend-4; d >= ipath; --d) {
3833                             if ((*d == 'p' || *d == 'P')
3834                                 && !ibcmp(d, "perl", 4))
3835                             {
3836                                 break;
3837                             }
3838                         }
3839                         if (d < ipath)
3840                             d = NULL;
3841                     }
3842 #endif
3843                 }
3844 #ifdef ALTERNATE_SHEBANG
3845                 /*
3846                  * If the ALTERNATE_SHEBANG on this system starts with a
3847                  * character that can be part of a Perl expression, then if
3848                  * we see it but not "perl", we're probably looking at the
3849                  * start of Perl code, not a request to hand off to some
3850                  * other interpreter.  Similarly, if "perl" is there, but
3851                  * not in the first 'word' of the line, we assume the line
3852                  * contains the start of the Perl program.
3853                  */
3854                 if (d && *s != '#') {
3855                     const char *c = ipath;
3856                     while (*c && !strchr("; \t\r\n\f\v#", *c))
3857                         c++;
3858                     if (c < d)
3859                         d = NULL;       /* "perl" not in first word; ignore */
3860                     else
3861                         *s = '#';       /* Don't try to parse shebang line */
3862                 }
3863 #endif /* ALTERNATE_SHEBANG */
3864 #ifndef MACOS_TRADITIONAL
3865                 if (!d &&
3866                     *s == '#' &&
3867                     ipathend > ipath &&
3868                     !PL_minus_c &&
3869                     !instr(s,"indir") &&
3870                     instr(PL_origargv[0],"perl"))
3871                 {
3872                     dVAR;
3873                     char **newargv;
3874
3875                     *ipathend = '\0';
3876                     s = ipathend + 1;
3877                     while (s < PL_bufend && isSPACE(*s))
3878                         s++;
3879                     if (s < PL_bufend) {
3880                         Newxz(newargv,PL_origargc+3,char*);
3881                         newargv[1] = s;
3882                         while (s < PL_bufend && !isSPACE(*s))
3883                             s++;
3884                         *s = '\0';
3885                         Copy(PL_origargv+1, newargv+2, PL_origargc+1, char*);
3886                     }
3887                     else
3888                         newargv = PL_origargv;
3889                     newargv[0] = ipath;
3890                     PERL_FPU_PRE_EXEC
3891                     PerlProc_execv(ipath, EXEC_ARGV_CAST(newargv));
3892                     PERL_FPU_POST_EXEC
3893                     Perl_croak(aTHX_ "Can't exec %s", ipath);
3894                 }
3895 #endif
3896                 if (d) {
3897                     while (*d && !isSPACE(*d))
3898                         d++;
3899                     while (SPACE_OR_TAB(*d))
3900                         d++;
3901
3902                     if (*d++ == '-') {
3903                         const bool switches_done = PL_doswitches;
3904                         const U32 oldpdb = PL_perldb;
3905                         const bool oldn = PL_minus_n;
3906                         const bool oldp = PL_minus_p;
3907                         const char *d1 = d;
3908
3909                         do {
3910                             if (*d1 == 'M' || *d1 == 'm' || *d1 == 'C') {
3911                                 const char * const m = d1;
3912                                 while (*d1 && !isSPACE(*d1))
3913                                     d1++;
3914                                 Perl_croak(aTHX_ "Too late for \"-%.*s\" option",
3915                                       (int)(d1 - m), m);
3916                             }
3917                             d1 = moreswitches(d1);
3918                         } while (d1);
3919                         if (PL_doswitches && !switches_done) {
3920                             int argc = PL_origargc;
3921                             char **argv = PL_origargv;
3922                             do {
3923                                 argc--,argv++;
3924                             } while (argc && argv[0][0] == '-' && argv[0][1]);
3925                             init_argv_symbols(argc,argv);
3926                         }
3927                         if ((PERLDB_LINE && !oldpdb) ||
3928                             ((PL_minus_n || PL_minus_p) && !(oldn || oldp)))
3929                               /* if we have already added "LINE: while (<>) {",
3930                                  we must not do it again */
3931                         {
3932                             sv_setpvn(PL_linestr, "", 0);
3933                             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3934                             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3935                             PL_last_lop = PL_last_uni = NULL;
3936                             PL_preambled = FALSE;
3937                             if (PERLDB_LINE)
3938                                 (void)gv_fetchfile(PL_origfilename);
3939                             goto retry;
3940                         }
3941                     }
3942                 }
3943             }
3944         }
3945         if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
3946             PL_bufptr = s;
3947             PL_lex_state = LEX_FORMLINE;
3948             return yylex();
3949         }
3950         goto retry;
3951     case '\r':
3952 #ifdef PERL_STRICT_CR
3953         Perl_warn(aTHX_ "Illegal character \\%03o (carriage return)", '\r');
3954         Perl_croak(aTHX_
3955       "\t(Maybe you didn't strip carriage returns after a network transfer?)\n");
3956 #endif
3957     case ' ': case '\t': case '\f': case 013:
3958 #ifdef MACOS_TRADITIONAL
3959     case '\312':
3960 #endif
3961 #ifdef PERL_MAD
3962         PL_realtokenstart = -1;
3963         if (!PL_thiswhite)
3964             PL_thiswhite = newSVpvs("");
3965         sv_catpvn(PL_thiswhite, s, 1);
3966 #endif
3967         s++;
3968         goto retry;
3969     case '#':
3970     case '\n':
3971 #ifdef PERL_MAD
3972         PL_realtokenstart = -1;
3973         if (PL_madskills)
3974             PL_faketokens = 0;
3975 #endif
3976         if (PL_lex_state != LEX_NORMAL || (PL_in_eval && !PL_rsfp)) {
3977             if (*s == '#' && s == PL_linestart && PL_in_eval && !PL_rsfp) {
3978                 /* handle eval qq[#line 1 "foo"\n ...] */
3979                 CopLINE_dec(PL_curcop);
3980                 incline(s);
3981             }
3982             if (PL_madskills && !PL_lex_formbrack && !PL_in_eval) {
3983                 s = SKIPSPACE0(s);
3984                 if (!PL_in_eval || PL_rsfp)
3985                     incline(s);
3986             }
3987             else {
3988                 d = s;
3989                 while (d < PL_bufend && *d != '\n')
3990                     d++;
3991                 if (d < PL_bufend)
3992                     d++;
3993                 else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
3994                   Perl_croak(aTHX_ "panic: input overflow");
3995 #ifdef PERL_MAD
3996                 if (PL_madskills)
3997                     PL_thiswhite = newSVpvn(s, d - s);
3998 #endif
3999                 s = d;
4000                 incline(s);
4001             }
4002             if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
4003                 PL_bufptr = s;
4004                 PL_lex_state = LEX_FORMLINE;
4005                 return yylex();
4006             }
4007         }
4008         else {
4009 #ifdef PERL_MAD
4010             if (PL_madskills && CopLINE(PL_curcop) >= 1 && !PL_lex_formbrack) {
4011                 if (CopLINE(PL_curcop) == 1 && s[0] == '#' && s[1] == '!') {
4012                     PL_faketokens = 0;
4013                     s = SKIPSPACE0(s);
4014                     TOKEN(PEG); /* make sure any #! line is accessible */
4015                 }
4016                 s = SKIPSPACE0(s);
4017             }
4018             else {
4019 /*              if (PL_madskills && PL_lex_formbrack) { */
4020                     d = s;
4021                     while (d < PL_bufend && *d != '\n')
4022                         d++;
4023                     if (d < PL_bufend)
4024                         d++;
4025                     else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
4026                       Perl_croak(aTHX_ "panic: input overflow");
4027                     if (PL_madskills && CopLINE(PL_curcop) >= 1) {
4028                         if (!PL_thiswhite)
4029                             PL_thiswhite = newSVpvs("");
4030                         if (CopLINE(PL_curcop) == 1) {
4031                             sv_setpvn(PL_thiswhite, "", 0);
4032                             PL_faketokens = 0;
4033                         }
4034                         sv_catpvn(PL_thiswhite, s, d - s);
4035                     }
4036                     s = d;
4037 /*              }
4038                 *s = '\0';
4039                 PL_bufend = s; */
4040             }
4041 #else
4042             *s = '\0';
4043             PL_bufend = s;
4044 #endif
4045         }
4046         goto retry;
4047     case '-':
4048         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
4049             I32 ftst = 0;
4050             char tmp;
4051
4052             s++;
4053             PL_bufptr = s;
4054             tmp = *s++;
4055
4056             while (s < PL_bufend && SPACE_OR_TAB(*s))
4057                 s++;
4058
4059             if (strnEQ(s,"=>",2)) {
4060                 s = force_word(PL_bufptr,WORD,FALSE,FALSE,FALSE);
4061                 DEBUG_T( { printbuf("### Saw unary minus before =>, forcing word %s\n", s); } );
4062                 OPERATOR('-');          /* unary minus */
4063             }
4064             PL_last_uni = PL_oldbufptr;
4065             switch (tmp) {
4066             case 'r': ftst = OP_FTEREAD;        break;
4067             case 'w': ftst = OP_FTEWRITE;       break;
4068             case 'x': ftst = OP_FTEEXEC;        break;
4069             case 'o': ftst = OP_FTEOWNED;       break;
4070             case 'R': ftst = OP_FTRREAD;        break;
4071             case 'W': ftst = OP_FTRWRITE;       break;
4072             case 'X': ftst = OP_FTREXEC;        break;
4073             case 'O': ftst = OP_FTROWNED;       break;
4074             case 'e': ftst = OP_FTIS;           break;
4075             case 'z': ftst = OP_FTZERO;         break;
4076             case 's': ftst = OP_FTSIZE;         break;
4077             case 'f': ftst = OP_FTFILE;         break;
4078             case 'd': ftst = OP_FTDIR;          break;
4079             case 'l': ftst = OP_FTLINK;         break;
4080             case 'p': ftst = OP_FTPIPE;         break;
4081             case 'S': ftst = OP_FTSOCK;         break;
4082             case 'u': ftst = OP_FTSUID;         break;
4083             case 'g': ftst = OP_FTSGID;         break;
4084             case 'k': ftst = OP_FTSVTX;         break;
4085             case 'b': ftst = OP_FTBLK;          break;
4086             case 'c': ftst = OP_FTCHR;          break;
4087             case 't': ftst = OP_FTTTY;          break;
4088             case 'T': ftst = OP_FTTEXT;         break;
4089             case 'B': ftst = OP_FTBINARY;       break;
4090             case 'M': case 'A': case 'C':
4091                 gv_fetchpvs("\024", GV_ADD|GV_NOTQUAL, SVt_PV);
4092                 switch (tmp) {
4093                 case 'M': ftst = OP_FTMTIME;    break;
4094                 case 'A': ftst = OP_FTATIME;    break;
4095                 case 'C': ftst = OP_FTCTIME;    break;
4096                 default:                        break;
4097                 }
4098                 break;
4099             default:
4100                 break;
4101             }
4102             if (ftst) {
4103                 PL_last_lop_op = (OPCODE)ftst;
4104                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
4105                         "### Saw file test %c\n", (int)tmp);
4106                 } );
4107                 FTST(ftst);
4108             }
4109             else {
4110                 /* Assume it was a minus followed by a one-letter named
4111                  * subroutine call (or a -bareword), then. */
4112                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
4113                         "### '-%c' looked like a file test but was not\n",
4114                         (int) tmp);
4115                 } );
4116                 s = --PL_bufptr;
4117             }
4118         }
4119         {
4120             const char tmp = *s++;
4121             if (*s == tmp) {
4122                 s++;
4123                 if (PL_expect == XOPERATOR)
4124                     TERM(POSTDEC);
4125                 else
4126                     OPERATOR(PREDEC);
4127             }
4128             else if (*s == '>') {
4129                 s++;
4130                 s = SKIPSPACE1(s);
4131                 if (isIDFIRST_lazy_if(s,UTF)) {
4132                     s = force_word(s,METHOD,FALSE,TRUE,FALSE);
4133                     TOKEN(ARROW);
4134                 }
4135                 else if (*s == '$')
4136                     OPERATOR(ARROW);
4137                 else
4138                     TERM(ARROW);
4139             }
4140             if (PL_expect == XOPERATOR)
4141                 Aop(OP_SUBTRACT);
4142             else {
4143                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
4144                     check_uni();
4145                 OPERATOR('-');          /* unary minus */
4146             }
4147         }
4148
4149     case '+':
4150         {
4151             const char tmp = *s++;
4152             if (*s == tmp) {
4153                 s++;
4154                 if (PL_expect == XOPERATOR)
4155                     TERM(POSTINC);
4156                 else
4157                     OPERATOR(PREINC);
4158             }
4159             if (PL_expect == XOPERATOR)
4160                 Aop(OP_ADD);
4161             else {
4162                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
4163                     check_uni();
4164                 OPERATOR('+');
4165             }
4166         }
4167
4168     case '*':
4169         if (PL_expect != XOPERATOR) {
4170             s = scan_ident(s, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
4171             PL_expect = XOPERATOR;
4172             force_ident(PL_tokenbuf, '*');
4173             if (!*PL_tokenbuf)
4174                 PREREF('*');
4175             TERM('*');
4176         }
4177         s++;
4178         if (*s == '*') {
4179             s++;
4180             PWop(OP_POW);
4181         }
4182         Mop(OP_MULTIPLY);
4183
4184     case '%':
4185         if (PL_expect == XOPERATOR) {
4186             ++s;
4187             Mop(OP_MODULO);
4188         }
4189         PL_tokenbuf[0] = '%';
4190         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1,
4191                 sizeof PL_tokenbuf - 1, FALSE);
4192         if (!PL_tokenbuf[1]) {
4193             PREREF('%');
4194         }
4195         PL_pending_ident = '%';
4196         TERM('%');
4197
4198     case '^':
4199         s++;
4200         BOop(OP_BIT_XOR);
4201     case '[':
4202         PL_lex_brackets++;
4203         /* FALL THROUGH */
4204     case '~':
4205         if (s[1] == '~'
4206             && (PL_expect == XOPERATOR || PL_expect == XTERMORDORDOR))
4207         {
4208             s += 2;
4209             Eop(OP_SMARTMATCH);
4210         }
4211     case ',':
4212         {
4213             const char tmp = *s++;
4214             OPERATOR(tmp);
4215         }
4216     case ':':
4217         if (s[1] == ':') {
4218             len = 0;
4219             goto just_a_word_zero_gv;
4220         }
4221         s++;
4222         switch (PL_expect) {
4223             OP *attrs;
4224 #ifdef PERL_MAD
4225             I32 stuffstart;
4226 #endif
4227         case XOPERATOR:
4228             if (!PL_in_my || PL_lex_state != LEX_NORMAL)
4229                 break;
4230             PL_bufptr = s;      /* update in case we back off */
4231             goto grabattrs;
4232         case XATTRBLOCK:
4233             PL_expect = XBLOCK;
4234             goto grabattrs;
4235         case XATTRTERM:
4236             PL_expect = XTERMBLOCK;
4237          grabattrs:
4238 #ifdef PERL_MAD
4239             stuffstart = s - SvPVX(PL_linestr) - 1;
4240 #endif
4241             s = PEEKSPACE(s);
4242             attrs = NULL;
4243             while (isIDFIRST_lazy_if(s,UTF)) {
4244                 I32 tmp;
4245                 SV *sv;
4246                 d = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
4247                 if (isLOWER(*s) && (tmp = keyword(PL_tokenbuf, len, 0))) {
4248                     if (tmp < 0) tmp = -tmp;
4249                     switch (tmp) {
4250                     case KEY_or:
4251                     case KEY_and:
4252                     case KEY_for:
4253                     case KEY_unless:
4254                     case KEY_if:
4255                     case KEY_while:
4256                     case KEY_until:
4257                         goto got_attrs;
4258                     default:
4259                         break;
4260                     }
4261                 }
4262                 sv = newSVpvn(s, len);
4263                 if (*d == '(') {
4264                     d = scan_str(d,TRUE,TRUE);
4265                     if (!d) {
4266                         /* MUST advance bufptr here to avoid bogus
4267                            "at end of line" context messages from yyerror().
4268                          */
4269                         PL_bufptr = s + len;
4270                         yyerror("Unterminated attribute parameter in attribute list");
4271                         if (attrs)
4272                             op_free(attrs);
4273                         sv_free(sv);
4274                         return REPORT(0);       /* EOF indicator */
4275                     }
4276                 }
4277                 if (PL_lex_stuff) {
4278                     sv_catsv(sv, PL_lex_stuff);
4279                     attrs = append_elem(OP_LIST, attrs,
4280                                         newSVOP(OP_CONST, 0, sv));
4281                     SvREFCNT_dec(PL_lex_stuff);
4282                     PL_lex_stuff = NULL;
4283                 }
4284                 else {
4285                     if (len == 6 && strnEQ(SvPVX(sv), "unique", len)) {
4286                         sv_free(sv);
4287                         if (PL_in_my == KEY_our) {
4288 #ifdef USE_ITHREADS
4289                             GvUNIQUE_on(cGVOPx_gv(yylval.opval));
4290 #else
4291                             /* skip to avoid loading attributes.pm */
4292 #endif
4293                             deprecate(":unique");
4294                         }
4295                         else
4296                             Perl_croak(aTHX_ "The 'unique' attribute may only be applied to 'our' variables");
4297                     }
4298
4299                     /* NOTE: any CV attrs applied here need to be part of
4300                        the CVf_BUILTIN_ATTRS define in cv.h! */
4301                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "lvalue", len)) {
4302                         sv_free(sv);
4303                         CvLVALUE_on(PL_compcv);
4304                     }
4305                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "locked", len)) {
4306                         sv_free(sv);
4307                         CvLOCKED_on(PL_compcv);
4308                     }
4309                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "method", len)) {
4310                         sv_free(sv);
4311                         CvMETHOD_on(PL_compcv);
4312                     }
4313                     /* After we've set the flags, it could be argued that
4314                        we don't need to do the attributes.pm-based setting
4315                        process, and shouldn't bother appending recognized
4316                        flags.  To experiment with that, uncomment the
4317                        following "else".  (Note that's already been
4318                        uncommented.  That keeps the above-applied built-in
4319                        attributes from being intercepted (and possibly
4320                        rejected) by a package's attribute routines, but is
4321                        justified by the performance win for the common case
4322                        of applying only built-in attributes.) */
4323                     else
4324                         attrs = append_elem(OP_LIST, attrs,
4325                                             newSVOP(OP_CONST, 0,
4326                                                     sv));
4327                 }
4328                 s = PEEKSPACE(d);
4329                 if (*s == ':' && s[1] != ':')
4330                     s = PEEKSPACE(s+1);
4331                 else if (s == d)
4332                     break;      /* require real whitespace or :'s */
4333                 /* XXX losing whitespace on sequential attributes here */
4334             }
4335             {
4336                 const char tmp
4337                     = (PL_expect == XOPERATOR ? '=' : '{'); /*'}(' for vi */
4338                 if (*s != ';' && *s != '}' && *s != tmp
4339                     && (tmp != '=' || *s != ')')) {
4340                     const char q = ((*s == '\'') ? '"' : '\'');
4341                     /* If here for an expression, and parsed no attrs, back
4342                        off. */
4343                     if (tmp == '=' && !attrs) {
4344                         s = PL_bufptr;
4345                         break;
4346                     }
4347                     /* MUST advance bufptr here to avoid bogus "at end of line"
4348                        context messages from yyerror().
4349                     */
4350                     PL_bufptr = s;
4351                     yyerror( (const char *)
4352                              (*s
4353                               ? Perl_form(aTHX_ "Invalid separator character "
4354                                           "%c%c%c in attribute list", q, *s, q)
4355                               : "Unterminated attribute list" ) );
4356                     if (attrs)
4357                         op_free(attrs);
4358                     OPERATOR(':');
4359                 }
4360             }
4361         got_attrs:
4362             if (attrs) {
4363                 start_force(PL_curforce);
4364                 NEXTVAL_NEXTTOKE.opval = attrs;
4365                 CURMAD('_', PL_nextwhite);
4366                 force_next(THING);
4367             }
4368 #ifdef PERL_MAD
4369             if (PL_madskills) {
4370                 PL_thistoken = newSVpvn(SvPVX(PL_linestr) + stuffstart,
4371                                      (s - SvPVX(PL_linestr)) - stuffstart);
4372             }
4373 #endif
4374             TOKEN(COLONATTR);
4375         }
4376         OPERATOR(':');
4377     case '(':
4378         s++;
4379         if (PL_last_lop == PL_oldoldbufptr || PL_last_uni == PL_oldoldbufptr)
4380             PL_oldbufptr = PL_oldoldbufptr;             /* allow print(STDOUT 123) */
4381         else
4382             PL_expect = XTERM;
4383         s = SKIPSPACE1(s);
4384         TOKEN('(');
4385     case ';':
4386         CLINE;
4387         {
4388             const char tmp = *s++;
4389             OPERATOR(tmp);
4390         }
4391     case ')':
4392         {
4393             const char tmp = *s++;
4394             s = SKIPSPACE1(s);
4395             if (*s == '{')
4396                 PREBLOCK(tmp);
4397             TERM(tmp);
4398         }
4399     case ']':
4400         s++;
4401         if (PL_lex_brackets <= 0)
4402             yyerror("Unmatched right square bracket");
4403         else
4404             --PL_lex_brackets;
4405         if (PL_lex_state == LEX_INTERPNORMAL) {
4406             if (PL_lex_brackets == 0) {
4407                 if (*s == '-' && s[1] == '>')
4408                     PL_lex_state = LEX_INTERPENDMAYBE;
4409                 else if (*s != '[' && *s != '{')
4410                     PL_lex_state = LEX_INTERPEND;
4411             }
4412         }
4413         TERM(']');
4414     case '{':
4415       leftbracket:
4416         s++;
4417         if (PL_lex_brackets > 100) {
4418             Renew(PL_lex_brackstack, PL_lex_brackets + 10, char);
4419         }
4420         switch (PL_expect) {
4421         case XTERM:
4422             if (PL_lex_formbrack) {
4423                 s--;
4424                 PRETERMBLOCK(DO);
4425             }
4426             if (PL_oldoldbufptr == PL_last_lop)
4427                 PL_lex_brackstack[PL_lex_brackets++] = XTERM;
4428             else
4429                 PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4430             OPERATOR(HASHBRACK);
4431         case XOPERATOR:
4432             while (s < PL_bufend && SPACE_OR_TAB(*s))
4433                 s++;
4434             d = s;
4435             PL_tokenbuf[0] = '\0';
4436             if (d < PL_bufend && *d == '-') {
4437                 PL_tokenbuf[0] = '-';
4438                 d++;
4439                 while (d < PL_bufend && SPACE_OR_TAB(*d))
4440                     d++;
4441             }
4442             if (d < PL_bufend && isIDFIRST_lazy_if(d,UTF)) {
4443                 d = scan_word(d, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1,
4444                               FALSE, &len);
4445                 while (d < PL_bufend && SPACE_OR_TAB(*d))
4446                     d++;
4447                 if (*d == '}') {
4448                     const char minus = (PL_tokenbuf[0] == '-');
4449                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
4450                     if (minus)
4451                         force_next('-');
4452                 }
4453             }
4454             /* FALL THROUGH */
4455         case XATTRBLOCK:
4456         case XBLOCK:
4457             PL_lex_brackstack[PL_lex_brackets++] = XSTATE;
4458             PL_expect = XSTATE;
4459             break;
4460         case XATTRTERM:
4461         case XTERMBLOCK:
4462             PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4463             PL_expect = XSTATE;
4464             break;
4465         default: {
4466                 const char *t;
4467                 if (PL_oldoldbufptr == PL_last_lop)
4468                     PL_lex_brackstack[PL_lex_brackets++] = XTERM;
4469                 else
4470                     PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4471                 s = SKIPSPACE1(s);
4472                 if (*s == '}') {
4473                     if (PL_expect == XREF && PL_lex_state == LEX_INTERPNORMAL) {
4474                         PL_expect = XTERM;
4475                         /* This hack is to get the ${} in the message. */
4476                         PL_bufptr = s+1;
4477                         yyerror("syntax error");
4478                         break;
4479                     }
4480                     OPERATOR(HASHBRACK);
4481                 }
4482                 /* This hack serves to disambiguate a pair of curlies
4483                  * as being a block or an anon hash.  Normally, expectation
4484                  * determines that, but in cases where we're not in a
4485                  * position to expect anything in particular (like inside
4486                  * eval"") we have to resolve the ambiguity.  This code
4487                  * covers the case where the first term in the curlies is a
4488                  * quoted string.  Most other cases need to be explicitly
4489                  * disambiguated by prepending a "+" before the opening
4490                  * curly in order to force resolution as an anon hash.
4491                  *
4492                  * XXX should probably propagate the outer expectation
4493                  * into eval"" to rely less on this hack, but that could
4494                  * potentially break current behavior of eval"".
4495                  * GSAR 97-07-21
4496                  */
4497                 t = s;
4498                 if (*s == '\'' || *s == '"' || *s == '`') {
4499                     /* common case: get past first string, handling escapes */
4500                     for (t++; t < PL_bufend && *t != *s;)
4501                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
4502                             t++;
4503                     t++;
4504                 }
4505                 else if (*s == 'q') {
4506                     if (++t < PL_bufend
4507                         && (!isALNUM(*t)
4508                             || ((*t == 'q' || *t == 'x') && ++t < PL_bufend
4509                                 && !isALNUM(*t))))
4510                     {
4511                         /* skip q//-like construct */
4512                         const char *tmps;
4513                         char open, close, term;
4514                         I32 brackets = 1;
4515
4516                         while (t < PL_bufend && isSPACE(*t))
4517                             t++;
4518                         /* check for q => */
4519                         if (t+1 < PL_bufend && t[0] == '=' && t[1] == '>') {
4520                             OPERATOR(HASHBRACK);
4521                         }
4522                         term = *t;
4523                         open = term;
4524                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4525                             term = tmps[5];
4526                         close = term;
4527                         if (open == close)
4528                             for (t++; t < PL_bufend; t++) {
4529                                 if (*t == '\\' && t+1 < PL_bufend && open != '\\')
4530                                     t++;
4531                                 else if (*t == open)
4532                                     break;
4533                             }
4534                         else {
4535                             for (t++; t < PL_bufend; t++) {
4536                                 if (*t == '\\' && t+1 < PL_bufend)
4537                                     t++;
4538                                 else if (*t == close && --brackets <= 0)
4539                                     break;
4540                                 else if (*t == open)
4541                                     brackets++;
4542                             }
4543                         }
4544                         t++;
4545                     }
4546                     else
4547                         /* skip plain q word */
4548                         while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
4549                              t += UTF8SKIP(t);
4550                 }
4551                 else if (isALNUM_lazy_if(t,UTF)) {
4552                     t += UTF8SKIP(t);
4553                     while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
4554                          t += UTF8SKIP(t);
4555                 }
4556                 while (t < PL_bufend && isSPACE(*t))
4557                     t++;
4558                 /* if comma follows first term, call it an anon hash */
4559                 /* XXX it could be a comma expression with loop modifiers */
4560                 if (t < PL_bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
4561                                    || (*t == '=' && t[1] == '>')))
4562                     OPERATOR(HASHBRACK);
4563                 if (PL_expect == XREF)
4564                     PL_expect = XTERM;
4565                 else {
4566                     PL_lex_brackstack[PL_lex_brackets-1] = XSTATE;
4567                     PL_expect = XSTATE;
4568                 }
4569             }
4570             break;
4571         }
4572         yylval.ival = CopLINE(PL_curcop);
4573         if (isSPACE(*s) || *s == '#')
4574             PL_copline = NOLINE;   /* invalidate current command line number */
4575         TOKEN('{');
4576     case '}':
4577       rightbracket:
4578         s++;
4579         if (PL_lex_brackets <= 0)
4580             yyerror("Unmatched right curly bracket");
4581         else
4582             PL_expect = (expectation)PL_lex_brackstack[--PL_lex_brackets];
4583         if (PL_lex_brackets < PL_lex_formbrack && PL_lex_state != LEX_INTERPNORMAL)
4584             PL_lex_formbrack = 0;
4585         if (PL_lex_state == LEX_INTERPNORMAL) {
4586             if (PL_lex_brackets == 0) {
4587                 if (PL_expect & XFAKEBRACK) {
4588                     PL_expect &= XENUMMASK;
4589                     PL_lex_state = LEX_INTERPEND;
4590                     PL_bufptr = s;
4591 #if 0
4592                     if (PL_madskills) {
4593                         if (!PL_thiswhite)
4594                             PL_thiswhite = newSVpvs("");
4595                         sv_catpvn(PL_thiswhite,"}",1);
4596                     }
4597 #endif
4598                     return yylex();     /* ignore fake brackets */
4599                 }
4600                 if (*s == '-' && s[1] == '>')
4601                     PL_lex_state = LEX_INTERPENDMAYBE;
4602                 else if (*s != '[' && *s != '{')
4603                     PL_lex_state = LEX_INTERPEND;
4604             }
4605         }
4606         if (PL_expect & XFAKEBRACK) {
4607             PL_expect &= XENUMMASK;
4608             PL_bufptr = s;
4609             return yylex();             /* ignore fake brackets */
4610         }
4611         start_force(PL_curforce);
4612         if (PL_madskills) {
4613             curmad('X', newSVpvn(s-1,1));
4614             CURMAD('_', PL_thiswhite);
4615         }
4616         force_next('}');
4617 #ifdef PERL_MAD
4618         if (!PL_thistoken)
4619             PL_thistoken = newSVpvs("");
4620 #endif
4621         TOKEN(';');
4622     case '&':
4623         s++;
4624         if (*s++ == '&')
4625             AOPERATOR(ANDAND);
4626         s--;
4627         if (PL_expect == XOPERATOR) {
4628             if (PL_bufptr == PL_linestart && ckWARN(WARN_SEMICOLON)
4629                 && isIDFIRST_lazy_if(s,UTF))
4630             {
4631                 CopLINE_dec(PL_curcop);
4632                 Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
4633                 CopLINE_inc(PL_curcop);
4634             }
4635             BAop(OP_BIT_AND);
4636         }
4637
4638         s = scan_ident(s - 1, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
4639         if (*PL_tokenbuf) {
4640             PL_expect = XOPERATOR;
4641             force_ident(PL_tokenbuf, '&');
4642         }
4643         else
4644             PREREF('&');
4645         yylval.ival = (OPpENTERSUB_AMPER<<8);
4646         TERM('&');
4647
4648     case '|':
4649         s++;
4650         if (*s++ == '|')
4651             AOPERATOR(OROR);
4652         s--;
4653         BOop(OP_BIT_OR);
4654     case '=':
4655         s++;
4656         {
4657             const char tmp = *s++;
4658             if (tmp == '=')
4659                 Eop(OP_EQ);
4660             if (tmp == '>')
4661                 OPERATOR(',');
4662             if (tmp == '~')
4663                 PMop(OP_MATCH);
4664             if (tmp && isSPACE(*s) && ckWARN(WARN_SYNTAX)
4665                 && strchr("+-*/%.^&|<",tmp))
4666                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4667                             "Reversed %c= operator",(int)tmp);
4668             s--;
4669             if (PL_expect == XSTATE && isALPHA(tmp) &&
4670                 (s == PL_linestart+1 || s[-2] == '\n') )
4671                 {
4672                     if (PL_in_eval && !PL_rsfp) {
4673                         d = PL_bufend;
4674                         while (s < d) {
4675                             if (*s++ == '\n') {
4676                                 incline(s);
4677                                 if (strnEQ(s,"=cut",4)) {
4678                                     s = strchr(s,'\n');
4679                                     if (s)
4680                                         s++;
4681                                     else
4682                                         s = d;
4683                                     incline(s);
4684                                     goto retry;
4685                                 }
4686                             }
4687                         }
4688                         goto retry;
4689                     }
4690 #ifdef PERL_MAD
4691                     if (PL_madskills) {
4692                         if (!PL_thiswhite)
4693                             PL_thiswhite = newSVpvs("");
4694                         sv_catpvn(PL_thiswhite, PL_linestart,
4695                                   PL_bufend - PL_linestart);
4696                     }
4697 #endif
4698                     s = PL_bufend;
4699                     PL_doextract = TRUE;
4700                     goto retry;
4701                 }
4702         }
4703         if (PL_lex_brackets < PL_lex_formbrack) {
4704             const char *t = s;
4705 #ifdef PERL_STRICT_CR
4706             while (SPACE_OR_TAB(*t))
4707 #else
4708             while (SPACE_OR_TAB(*t) || *t == '\r')
4709 #endif
4710                 t++;
4711             if (*t == '\n' || *t == '#') {
4712                 s--;
4713                 PL_expect = XBLOCK;
4714                 goto leftbracket;
4715             }
4716         }
4717         yylval.ival = 0;
4718         OPERATOR(ASSIGNOP);
4719     case '!':
4720         s++;
4721         {
4722             const char tmp = *s++;
4723             if (tmp == '=') {
4724                 /* was this !=~ where !~ was meant?
4725                  * warn on m:!=~\s+([/?]|[msy]\W|tr\W): */
4726
4727                 if (*s == '~' && ckWARN(WARN_SYNTAX)) {
4728                     const char *t = s+1;
4729
4730                     while (t < PL_bufend && isSPACE(*t))
4731                         ++t;
4732
4733                     if (*t == '/' || *t == '?' ||
4734                         ((*t == 'm' || *t == 's' || *t == 'y')
4735                          && !isALNUM(t[1])) ||
4736                         (*t == 't' && t[1] == 'r' && !isALNUM(t[2])))
4737                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4738                                     "!=~ should be !~");
4739                 }
4740                 Eop(OP_NE);
4741             }
4742             if (tmp == '~')
4743                 PMop(OP_NOT);
4744         }
4745         s--;
4746         OPERATOR('!');
4747     case '<':
4748         if (PL_expect != XOPERATOR) {
4749             if (s[1] != '<' && !strchr(s,'>'))
4750                 check_uni();
4751             if (s[1] == '<')
4752                 s = scan_heredoc(s);
4753             else
4754                 s = scan_inputsymbol(s);
4755             TERM(sublex_start());
4756         }
4757         s++;
4758         {
4759             char tmp = *s++;
4760             if (tmp == '<')
4761                 SHop(OP_LEFT_SHIFT);
4762             if (tmp == '=') {
4763                 tmp = *s++;
4764                 if (tmp == '>')
4765                     Eop(OP_NCMP);
4766                 s--;
4767                 Rop(OP_LE);
4768             }
4769         }
4770         s--;
4771         Rop(OP_LT);
4772     case '>':
4773         s++;
4774         {
4775             const char tmp = *s++;
4776             if (tmp == '>')
4777                 SHop(OP_RIGHT_SHIFT);
4778             else if (tmp == '=')
4779                 Rop(OP_GE);
4780         }
4781         s--;
4782         Rop(OP_GT);
4783
4784     case '$':
4785         CLINE;
4786
4787         if (PL_expect == XOPERATOR) {
4788             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4789                 PL_expect = XTERM;
4790                 deprecate_old(commaless_variable_list);
4791                 return REPORT(','); /* grandfather non-comma-format format */
4792             }
4793         }
4794
4795         if (s[1] == '#' && (isIDFIRST_lazy_if(s+2,UTF) || strchr("{$:+-", s[2]))) {
4796             PL_tokenbuf[0] = '@';
4797             s = scan_ident(s + 1, PL_bufend, PL_tokenbuf + 1,
4798                            sizeof PL_tokenbuf - 1, FALSE);
4799             if (PL_expect == XOPERATOR)
4800                 no_op("Array length", s);
4801             if (!PL_tokenbuf[1])
4802                 PREREF(DOLSHARP);
4803             PL_expect = XOPERATOR;
4804             PL_pending_ident = '#';
4805             TOKEN(DOLSHARP);
4806         }
4807
4808         PL_tokenbuf[0] = '$';
4809         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1,
4810                        sizeof PL_tokenbuf - 1, FALSE);
4811         if (PL_expect == XOPERATOR)
4812             no_op("Scalar", s);
4813         if (!PL_tokenbuf[1]) {
4814             if (s == PL_bufend)
4815                 yyerror("Final $ should be \\$ or $name");
4816             PREREF('$');
4817         }
4818
4819         /* This kludge not intended to be bulletproof. */
4820         if (PL_tokenbuf[1] == '[' && !PL_tokenbuf[2]) {
4821             yylval.opval = newSVOP(OP_CONST, 0,
4822                                    newSViv(CopARYBASE_get(&PL_compiling)));
4823             yylval.opval->op_private = OPpCONST_ARYBASE;
4824             TERM(THING);
4825         }
4826
4827         d = s;
4828         {
4829             const char tmp = *s;
4830             if (PL_lex_state == LEX_NORMAL)
4831                 s = SKIPSPACE1(s);
4832
4833             if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop)
4834                 && intuit_more(s)) {
4835                 if (*s == '[') {
4836                     PL_tokenbuf[0] = '@';
4837                     if (ckWARN(WARN_SYNTAX)) {
4838                         char *t = s+1;
4839
4840                         while (isSPACE(*t) || isALNUM_lazy_if(t,UTF) || *t == '$')
4841                             t++;
4842                         if (*t++ == ',') {
4843                             PL_bufptr = PEEKSPACE(PL_bufptr); /* XXX can realloc */
4844                             while (t < PL_bufend && *t != ']')
4845                                 t++;
4846                             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4847                                         "Multidimensional syntax %.*s not supported",
4848                                     (int)((t - PL_bufptr) + 1), PL_bufptr);
4849                         }
4850                     }
4851                 }
4852                 else if (*s == '{') {
4853                     char *t;
4854                     PL_tokenbuf[0] = '%';
4855                     if (strEQ(PL_tokenbuf+1, "SIG")  && ckWARN(WARN_SYNTAX)
4856                         && (t = strchr(s, '}')) && (t = strchr(t, '=')))
4857                         {
4858                             char tmpbuf[sizeof PL_tokenbuf];
4859                             do {
4860                                 t++;
4861                             } while (isSPACE(*t));
4862                             if (isIDFIRST_lazy_if(t,UTF)) {
4863                                 STRLEN len;
4864                                 t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE,
4865                                               &len);
4866                                 while (isSPACE(*t))
4867                                     t++;
4868                                 if (*t == ';' && get_cvn_flags(tmpbuf, len, 0))
4869                                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4870                                                 "You need to quote \"%s\"",
4871                                                 tmpbuf);
4872                             }
4873                         }
4874                 }
4875             }
4876
4877             PL_expect = XOPERATOR;
4878             if (PL_lex_state == LEX_NORMAL && isSPACE((char)tmp)) {
4879                 const bool islop = (PL_last_lop == PL_oldoldbufptr);
4880                 if (!islop || PL_last_lop_op == OP_GREPSTART)
4881                     PL_expect = XOPERATOR;
4882                 else if (strchr("$@\"'`q", *s))
4883                     PL_expect = XTERM;          /* e.g. print $fh "foo" */
4884                 else if (strchr("&*<%", *s) && isIDFIRST_lazy_if(s+1,UTF))
4885                     PL_expect = XTERM;          /* e.g. print $fh &sub */
4886                 else if (isIDFIRST_lazy_if(s,UTF)) {
4887                     char tmpbuf[sizeof PL_tokenbuf];
4888                     int t2;
4889                     scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
4890                     if ((t2 = keyword(tmpbuf, len, 0))) {
4891                         /* binary operators exclude handle interpretations */
4892                         switch (t2) {
4893                         case -KEY_x:
4894                         case -KEY_eq:
4895                         case -KEY_ne:
4896                         case -KEY_gt:
4897                         case -KEY_lt:
4898                         case -KEY_ge:
4899                         case -KEY_le:
4900                         case -KEY_cmp:
4901                             break;
4902                         default:
4903                             PL_expect = XTERM;  /* e.g. print $fh length() */
4904                             break;
4905                         }
4906                     }
4907                     else {
4908                         PL_expect = XTERM;      /* e.g. print $fh subr() */
4909                     }
4910                 }
4911                 else if (isDIGIT(*s))
4912                     PL_expect = XTERM;          /* e.g. print $fh 3 */
4913                 else if (*s == '.' && isDIGIT(s[1]))
4914                     PL_expect = XTERM;          /* e.g. print $fh .3 */
4915                 else if ((*s == '?' || *s == '-' || *s == '+')
4916                          && !isSPACE(s[1]) && s[1] != '=')
4917                     PL_expect = XTERM;          /* e.g. print $fh -1 */
4918                 else if (*s == '/' && !isSPACE(s[1]) && s[1] != '='
4919                          && s[1] != '/')
4920                     PL_expect = XTERM;          /* e.g. print $fh /.../
4921                                                    XXX except DORDOR operator
4922                                                 */
4923                 else if (*s == '<' && s[1] == '<' && !isSPACE(s[2])
4924                          && s[2] != '=')
4925                     PL_expect = XTERM;          /* print $fh <<"EOF" */
4926             }
4927         }
4928         PL_pending_ident = '$';
4929         TOKEN('$');
4930
4931     case '@':
4932         if (PL_expect == XOPERATOR)
4933             no_op("Array", s);
4934         PL_tokenbuf[0] = '@';
4935         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1, FALSE);
4936         if (!PL_tokenbuf[1]) {
4937             PREREF('@');
4938         }
4939         if (PL_lex_state == LEX_NORMAL)
4940             s = SKIPSPACE1(s);
4941         if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop) && intuit_more(s)) {
4942             if (*s == '{')
4943                 PL_tokenbuf[0] = '%';
4944
4945             /* Warn about @ where they meant $. */
4946             if (*s == '[' || *s == '{') {
4947                 if (ckWARN(WARN_SYNTAX)) {
4948                     const char *t = s + 1;
4949                     while (*t && (isALNUM_lazy_if(t,UTF) || strchr(" \t$#+-'\"", *t)))
4950                         t++;
4951                     if (*t == '}' || *t == ']') {
4952                         t++;
4953                         PL_bufptr = PEEKSPACE(PL_bufptr); /* XXX can realloc */
4954                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4955                             "Scalar value %.*s better written as $%.*s",
4956                             (int)(t-PL_bufptr), PL_bufptr,
4957                             (int)(t-PL_bufptr-1), PL_bufptr+1);
4958                     }
4959                 }
4960             }
4961         }
4962         PL_pending_ident = '@';
4963         TERM('@');
4964
4965      case '/':                  /* may be division, defined-or, or pattern */
4966         if (PL_expect == XTERMORDORDOR && s[1] == '/') {
4967             s += 2;
4968             AOPERATOR(DORDOR);
4969         }
4970      case '?':                  /* may either be conditional or pattern */
4971          if(PL_expect == XOPERATOR) {
4972              char tmp = *s++;
4973              if(tmp == '?') {
4974                   OPERATOR('?');
4975              }
4976              else {
4977                  tmp = *s++;
4978                  if(tmp == '/') {
4979                      /* A // operator. */
4980                     AOPERATOR(DORDOR);
4981                  }
4982                  else {
4983                      s--;
4984                      Mop(OP_DIVIDE);
4985                  }
4986              }
4987          }
4988          else {
4989              /* Disable warning on "study /blah/" */
4990              if (PL_oldoldbufptr == PL_last_uni
4991               && (*PL_last_uni != 's' || s - PL_last_uni < 5
4992                   || memNE(PL_last_uni, "study", 5)
4993                   || isALNUM_lazy_if(PL_last_uni+5,UTF)
4994               ))
4995                  check_uni();
4996              s = scan_pat(s,OP_MATCH);
4997              TERM(sublex_start());
4998          }
4999
5000     case '.':
5001         if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack
5002 #ifdef PERL_STRICT_CR
5003             && s[1] == '\n'
5004 #else
5005             && (s[1] == '\n' || (s[1] == '\r' && s[2] == '\n'))
5006 #endif
5007             && (s == PL_linestart || s[-1] == '\n') )
5008         {
5009             PL_lex_formbrack = 0;
5010             PL_expect = XSTATE;
5011             goto rightbracket;
5012         }
5013         if (PL_expect == XOPERATOR || !isDIGIT(s[1])) {
5014             char tmp = *s++;
5015             if (*s == tmp) {
5016                 s++;
5017                 if (*s == tmp) {
5018                     s++;
5019                     yylval.ival = OPf_SPECIAL;
5020                 }
5021                 else
5022                     yylval.ival = 0;
5023                 OPERATOR(DOTDOT);
5024             }
5025             if (PL_expect != XOPERATOR)
5026                 check_uni();
5027             Aop(OP_CONCAT);
5028         }
5029         /* FALL THROUGH */
5030     case '0': case '1': case '2': case '3': case '4':
5031     case '5': case '6': case '7': case '8': case '9':
5032         s = scan_num(s, &yylval);
5033         DEBUG_T( { printbuf("### Saw number in %s\n", s); } );
5034         if (PL_expect == XOPERATOR)
5035             no_op("Number",s);
5036         TERM(THING);
5037
5038     case '\'':
5039         s = scan_str(s,!!PL_madskills,FALSE);
5040         DEBUG_T( { printbuf("### Saw string before %s\n", s); } );
5041         if (PL_expect == XOPERATOR) {
5042             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
5043                 PL_expect = XTERM;
5044                 deprecate_old(commaless_variable_list);
5045                 return REPORT(','); /* grandfather non-comma-format format */
5046             }
5047             else
5048                 no_op("String",s);
5049         }
5050         if (!s)
5051             missingterm(NULL);
5052         yylval.ival = OP_CONST;
5053         TERM(sublex_start());
5054
5055     case '"':
5056         s = scan_str(s,!!PL_madskills,FALSE);
5057         DEBUG_T( { printbuf("### Saw string before %s\n", s); } );
5058         if (PL_expect == XOPERATOR) {
5059             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
5060                 PL_expect = XTERM;
5061                 deprecate_old(commaless_variable_list);
5062                 return REPORT(','); /* grandfather non-comma-format format */
5063             }
5064             else
5065                 no_op("String",s);
5066         }
5067         if (!s)
5068             missingterm(NULL);
5069         yylval.ival = OP_CONST;
5070         /* FIXME. I think that this can be const if char *d is replaced by
5071            more localised variables.  */
5072         for (d = SvPV(PL_lex_stuff, len); len; len--, d++) {
5073             if (*d == '$' || *d == '@' || *d == '\\' || !UTF8_IS_INVARIANT((U8)*d)) {
5074                 yylval.ival = OP_STRINGIFY;
5075                 break;
5076             }
5077         }
5078         TERM(sublex_start());
5079
5080     case '`':
5081         s = scan_str(s,!!PL_madskills,FALSE);
5082         DEBUG_T( { printbuf("### Saw backtick string before %s\n", s); } );
5083         if (PL_expect == XOPERATOR)
5084             no_op("Backticks",s);
5085         if (!s)
5086             missingterm(NULL);
5087         readpipe_override();
5088         TERM(sublex_start());
5089
5090     case '\\':
5091         s++;
5092         if (PL_lex_inwhat && isDIGIT(*s) && ckWARN(WARN_SYNTAX))
5093             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),"Can't use \\%c to mean $%c in expression",
5094                         *s, *s);
5095         if (PL_expect == XOPERATOR)
5096             no_op("Backslash",s);
5097         OPERATOR(REFGEN);
5098
5099     case 'v':
5100         if (isDIGIT(s[1]) && PL_expect != XOPERATOR) {
5101             char *start = s + 2;
5102             while (isDIGIT(*start) || *start == '_')
5103                 start++;
5104             if (*start == '.' && isDIGIT(start[1])) {
5105                 s = scan_num(s, &yylval);
5106                 TERM(THING);
5107             }
5108             /* avoid v123abc() or $h{v1}, allow C<print v10;> */
5109             else if (!isALPHA(*start) && (PL_expect == XTERM
5110                         || PL_expect == XREF || PL_expect == XSTATE
5111                         || PL_expect == XTERMORDORDOR)) {
5112                 /* XXX Use gv_fetchpvn rather than stomping on a const string */
5113                 const char c = *start;
5114                 GV *gv;
5115                 *start = '\0';
5116                 gv = gv_fetchpv(s, 0, SVt_PVCV);
5117                 *start = c;
5118                 if (!gv) {
5119                     s = scan_num(s, &yylval);
5120                     TERM(THING);
5121                 }
5122             }
5123         }
5124         goto keylookup;
5125     case 'x':
5126         if (isDIGIT(s[1]) && PL_expect == XOPERATOR) {
5127             s++;
5128             Mop(OP_REPEAT);
5129         }
5130         goto keylookup;
5131
5132     case '_':
5133     case 'a': case 'A':
5134     case 'b': case 'B':
5135     case 'c': case 'C':
5136     case 'd': case 'D':
5137     case 'e': case 'E':
5138     case 'f': case 'F':
5139     case 'g': case 'G':
5140     case 'h': case 'H':
5141     case 'i': case 'I':
5142     case 'j': case 'J':
5143     case 'k': case 'K':
5144     case 'l': case 'L':
5145     case 'm': case 'M':
5146     case 'n': case 'N':
5147     case 'o': case 'O':
5148     case 'p': case 'P':
5149     case 'q': case 'Q':
5150     case 'r': case 'R':
5151     case 's': case 'S':
5152     case 't': case 'T':
5153     case 'u': case 'U':
5154               case 'V':
5155     case 'w': case 'W':
5156               case 'X':
5157     case 'y': case 'Y':
5158     case 'z': case 'Z':
5159
5160       keylookup: {
5161         I32 tmp;
5162
5163         orig_keyword = 0;
5164         gv = NULL;
5165         gvp = NULL;
5166
5167         PL_bufptr = s;
5168         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
5169
5170         /* Some keywords can be followed by any delimiter, including ':' */
5171         tmp = ((len == 1 && strchr("msyq", PL_tokenbuf[0])) ||
5172                (len == 2 && ((PL_tokenbuf[0] == 't' && PL_tokenbuf[1] == 'r') ||
5173                              (PL_tokenbuf[0] == 'q' &&
5174                               strchr("qwxr", PL_tokenbuf[1])))));
5175
5176         /* x::* is just a word, unless x is "CORE" */
5177         if (!tmp && *s == ':' && s[1] == ':' && strNE(PL_tokenbuf, "CORE"))
5178             goto just_a_word;
5179
5180         d = s;
5181         while (d < PL_bufend && isSPACE(*d))
5182                 d++;    /* no comments skipped here, or s### is misparsed */
5183
5184         /* Is this a label? */
5185         if (!tmp && PL_expect == XSTATE
5186               && d < PL_bufend && *d == ':' && *(d + 1) != ':') {
5187             s = d + 1;
5188             yylval.pval = CopLABEL_alloc(PL_tokenbuf);
5189             CLINE;
5190             TOKEN(LABEL);
5191         }
5192
5193         /* Check for keywords */
5194         tmp = keyword(PL_tokenbuf, len, 0);
5195
5196         /* Is this a word before a => operator? */
5197         if (*d == '=' && d[1] == '>') {
5198             CLINE;
5199             yylval.opval
5200                 = (OP*)newSVOP(OP_CONST, 0,
5201                                S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
5202             yylval.opval->op_private = OPpCONST_BARE;
5203             TERM(WORD);
5204         }
5205
5206         if (tmp < 0) {                  /* second-class keyword? */
5207             GV *ogv = NULL;     /* override (winner) */
5208             GV *hgv = NULL;     /* hidden (loser) */
5209             if (PL_expect != XOPERATOR && (*s != ':' || s[1] != ':')) {
5210                 CV *cv;
5211                 if ((gv = gv_fetchpvn_flags(PL_tokenbuf, len, 0, SVt_PVCV)) &&
5212                     (cv = GvCVu(gv)))
5213                 {
5214                     if (GvIMPORTED_CV(gv))
5215                         ogv = gv;
5216                     else if (! CvMETHOD(cv))
5217                         hgv = gv;
5218                 }
5219                 if (!ogv &&
5220                     (gvp = (GV**)hv_fetch(PL_globalstash,PL_tokenbuf,len,FALSE)) &&
5221                     (gv = *gvp) && isGV_with_GP(gv) &&
5222                     GvCVu(gv) && GvIMPORTED_CV(gv))
5223                 {
5224                     ogv = gv;
5225                 }
5226             }
5227             if (ogv) {
5228                 orig_keyword = tmp;
5229                 tmp = 0;                /* overridden by import or by GLOBAL */
5230             }
5231             else if (gv && !gvp
5232                      && -tmp==KEY_lock  /* XXX generalizable kludge */
5233                      && GvCVu(gv))
5234             {
5235                 tmp = 0;                /* any sub overrides "weak" keyword */
5236             }
5237             else {                      /* no override */
5238                 tmp = -tmp;
5239                 if (tmp == KEY_dump && ckWARN(WARN_MISC)) {
5240                     Perl_warner(aTHX_ packWARN(WARN_MISC),
5241                             "dump() better written as CORE::dump()");
5242                 }
5243                 gv = NULL;
5244                 gvp = 0;
5245                 if (hgv && tmp != KEY_x && tmp != KEY_CORE
5246                         && ckWARN(WARN_AMBIGUOUS))      /* never ambiguous */
5247                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5248                         "Ambiguous call resolved as CORE::%s(), %s",
5249                          GvENAME(hgv), "qualify as such or use &");
5250             }
5251         }
5252
5253       reserved_word:
5254         switch (tmp) {
5255
5256         default:                        /* not a keyword */
5257             /* Trade off - by using this evil construction we can pull the
5258                variable gv into the block labelled keylookup. If not, then
5259                we have to give it function scope so that the goto from the
5260                earlier ':' case doesn't bypass the initialisation.  */
5261             if (0) {
5262             just_a_word_zero_gv:
5263                 gv = NULL;
5264                 gvp = NULL;
5265                 orig_keyword = 0;
5266             }
5267           just_a_word: {
5268                 SV *sv;
5269                 int pkgname = 0;
5270                 const char lastchar = (PL_bufptr == PL_oldoldbufptr ? 0 : PL_bufptr[-1]);
5271                 CV *cv;
5272 #ifdef PERL_MAD
5273                 SV *nextPL_nextwhite = 0;
5274 #endif
5275
5276
5277                 /* Get the rest if it looks like a package qualifier */
5278
5279                 if (*s == '\'' || (*s == ':' && s[1] == ':')) {
5280                     STRLEN morelen;
5281                     s = scan_word(s, PL_tokenbuf + len, sizeof PL_tokenbuf - len,
5282                                   TRUE, &morelen);
5283                     if (!morelen)
5284                         Perl_croak(aTHX_ "Bad name after %s%s", PL_tokenbuf,
5285                                 *s == '\'' ? "'" : "::");
5286                     len += morelen;
5287                     pkgname = 1;
5288                 }
5289
5290                 if (PL_expect == XOPERATOR) {
5291                     if (PL_bufptr == PL_linestart) {
5292                         CopLINE_dec(PL_curcop);
5293                         Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
5294                         CopLINE_inc(PL_curcop);
5295                     }
5296                     else
5297                         no_op("Bareword",s);
5298                 }
5299
5300                 /* Look for a subroutine with this name in current package,
5301                    unless name is "Foo::", in which case Foo is a bearword
5302                    (and a package name). */
5303
5304                 if (len > 2 && !PL_madskills &&
5305                     PL_tokenbuf[len - 2] == ':' && PL_tokenbuf[len - 1] == ':')
5306                 {
5307                     if (ckWARN(WARN_BAREWORD)
5308                         && ! gv_fetchpvn_flags(PL_tokenbuf, len, 0, SVt_PVHV))
5309                         Perl_warner(aTHX_ packWARN(WARN_BAREWORD),
5310                             "Bareword \"%s\" refers to nonexistent package",
5311                              PL_tokenbuf);
5312                     len -= 2;
5313                     PL_tokenbuf[len] = '\0';
5314                     gv = NULL;
5315                     gvp = 0;
5316                 }
5317                 else {
5318                     if (!gv) {
5319                         /* Mustn't actually add anything to a symbol table.
5320                            But also don't want to "initialise" any placeholder
5321                            constants that might already be there into full
5322                            blown PVGVs with attached PVCV.  */
5323                         gv = gv_fetchpvn_flags(PL_tokenbuf, len,
5324                                                GV_NOADD_NOINIT, SVt_PVCV);
5325                     }
5326                     len = 0;
5327                 }
5328
5329                 /* if we saw a global override before, get the right name */
5330
5331                 if (gvp) {
5332                     sv = newSVpvs("CORE::GLOBAL::");
5333                     sv_catpv(sv,PL_tokenbuf);
5334                 }
5335                 else {
5336                     /* If len is 0, newSVpv does strlen(), which is correct.
5337                        If len is non-zero, then it will be the true length,
5338                        and so the scalar will be created correctly.  */
5339                     sv = newSVpv(PL_tokenbuf,len);
5340                 }
5341 #ifdef PERL_MAD
5342                 if (PL_madskills && !PL_thistoken) {
5343                     char *start = SvPVX(PL_linestr) + PL_realtokenstart;
5344                     PL_thistoken = newSVpv(start,s - start);
5345                     PL_realtokenstart = s - SvPVX(PL_linestr);
5346                 }
5347 #endif
5348
5349                 /* Presume this is going to be a bareword of some sort. */
5350
5351                 CLINE;
5352                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
5353                 yylval.opval->op_private = OPpCONST_BARE;
5354                 /* UTF-8 package name? */
5355                 if (UTF && !IN_BYTES &&
5356                     is_utf8_string((U8*)SvPVX_const(sv), SvCUR(sv)))
5357                     SvUTF8_on(sv);
5358
5359                 /* And if "Foo::", then that's what it certainly is. */
5360
5361                 if (len)
5362                     goto safe_bareword;
5363
5364                 /* Do the explicit type check so that we don't need to force
5365                    the initialisation of the symbol table to have a real GV.
5366                    Beware - gv may not really be a PVGV, cv may not really be
5367                    a PVCV, (because of the space optimisations that gv_init
5368                    understands) But they're true if for this symbol there is
5369                    respectively a typeglob and a subroutine.
5370                 */
5371                 cv = gv ? ((SvTYPE(gv) == SVt_PVGV)
5372                     /* Real typeglob, so get the real subroutine: */
5373                            ? GvCVu(gv)
5374                     /* A proxy for a subroutine in this package? */
5375                            : SvOK(gv) ? (CV *) gv : NULL)
5376                     : NULL;
5377
5378                 /* See if it's the indirect object for a list operator. */
5379
5380                 if (PL_oldoldbufptr &&
5381                     PL_oldoldbufptr < PL_bufptr &&
5382                     (PL_oldoldbufptr == PL_last_lop
5383                      || PL_oldoldbufptr == PL_last_uni) &&
5384                     /* NO SKIPSPACE BEFORE HERE! */
5385                     (PL_expect == XREF ||
5386                      ((PL_opargs[PL_last_lop_op] >> OASHIFT)& 7) == OA_FILEREF))
5387                 {
5388                     bool immediate_paren = *s == '(';
5389
5390                     /* (Now we can afford to cross potential line boundary.) */
5391                     s = SKIPSPACE2(s,nextPL_nextwhite);
5392 #ifdef PERL_MAD
5393                     PL_nextwhite = nextPL_nextwhite;    /* assume no & deception */
5394 #endif
5395
5396                     /* Two barewords in a row may indicate method call. */
5397
5398                     if ((isIDFIRST_lazy_if(s,UTF) || *s == '$') &&
5399                         (tmp = intuit_method(s, gv, cv)))
5400                         return REPORT(tmp);
5401
5402                     /* If not a declared subroutine, it's an indirect object. */
5403                     /* (But it's an indir obj regardless for sort.) */
5404                     /* Also, if "_" follows a filetest operator, it's a bareword */
5405
5406                     if (
5407                         ( !immediate_paren && (PL_last_lop_op == OP_SORT ||
5408                          ((!gv || !cv) &&
5409                         (PL_last_lop_op != OP_MAPSTART &&
5410                          PL_last_lop_op != OP_GREPSTART))))
5411                        || (PL_tokenbuf[0] == '_' && PL_tokenbuf[1] == '\0'
5412                             && ((PL_opargs[PL_last_lop_op] & OA_CLASS_MASK) == OA_FILESTATOP))
5413                        )
5414                     {
5415                         PL_expect = (PL_last_lop == PL_oldoldbufptr) ? XTERM : XOPERATOR;
5416                         goto bareword;
5417                     }
5418                 }
5419
5420                 PL_expect = XOPERATOR;
5421 #ifdef PERL_MAD
5422                 if (isSPACE(*s))
5423                     s = SKIPSPACE2(s,nextPL_nextwhite);
5424                 PL_nextwhite = nextPL_nextwhite;
5425 #else
5426                 s = skipspace(s);
5427 #endif
5428
5429                 /* Is this a word before a => operator? */
5430                 if (*s == '=' && s[1] == '>' && !pkgname) {
5431                     CLINE;
5432                     sv_setpv(((SVOP*)yylval.opval)->op_sv, PL_tokenbuf);
5433                     if (UTF && !IN_BYTES && is_utf8_string((U8*)PL_tokenbuf, len))
5434                       SvUTF8_on(((SVOP*)yylval.opval)->op_sv);
5435                     TERM(WORD);
5436                 }
5437
5438                 /* If followed by a paren, it's certainly a subroutine. */
5439                 if (*s == '(') {
5440                     CLINE;
5441                     if (cv) {
5442                         d = s + 1;
5443                         while (SPACE_OR_TAB(*d))
5444                             d++;
5445                         if (*d == ')' && (sv = gv_const_sv(gv))) {
5446                             s = d + 1;
5447                             goto its_constant;
5448                         }
5449                     }
5450 #ifdef PERL_MAD
5451                     if (PL_madskills) {
5452                         PL_nextwhite = PL_thiswhite;
5453                         PL_thiswhite = 0;
5454                     }
5455                     start_force(PL_curforce);
5456 #endif
5457                     NEXTVAL_NEXTTOKE.opval = yylval.opval;
5458                     PL_expect = XOPERATOR;
5459 #ifdef PERL_MAD
5460                     if (PL_madskills) {
5461                         PL_nextwhite = nextPL_nextwhite;
5462                         curmad('X', PL_thistoken);
5463                         PL_thistoken = newSVpvs("");
5464                     }
5465 #endif
5466                     force_next(WORD);
5467                     yylval.ival = 0;
5468                     TOKEN('&');
5469                 }
5470
5471                 /* If followed by var or block, call it a method (unless sub) */
5472
5473                 if ((*s == '$' || *s == '{') && (!gv || !cv)) {
5474                     PL_last_lop = PL_oldbufptr;
5475                     PL_last_lop_op = OP_METHOD;
5476                     PREBLOCK(METHOD);
5477                 }
5478
5479                 /* If followed by a bareword, see if it looks like indir obj. */
5480
5481                 if (!orig_keyword
5482                         && (isIDFIRST_lazy_if(s,UTF) || *s == '$')
5483                         && (tmp = intuit_method(s, gv, cv)))
5484                     return REPORT(tmp);
5485
5486                 /* Not a method, so call it a subroutine (if defined) */
5487
5488                 if (cv) {
5489                     if (lastchar == '-' && ckWARN_d(WARN_AMBIGUOUS))
5490                         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5491                                 "Ambiguous use of -%s resolved as -&%s()",
5492                                 PL_tokenbuf, PL_tokenbuf);
5493                     /* Check for a constant sub */
5494                     if ((sv = gv_const_sv(gv))) {
5495                   its_constant:
5496                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
5497                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc_simple(sv);
5498                         yylval.opval->op_private = 0;
5499                         TOKEN(WORD);
5500                     }
5501
5502                     /* Resolve to GV now. */
5503                     if (SvTYPE(gv) != SVt_PVGV) {
5504                         gv = gv_fetchpv(PL_tokenbuf, 0, SVt_PVCV);
5505                         assert (SvTYPE(gv) == SVt_PVGV);
5506                         /* cv must have been some sort of placeholder, so
5507                            now needs replacing with a real code reference.  */
5508                         cv = GvCV(gv);
5509                     }
5510
5511                     op_free(yylval.opval);
5512                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
5513                     yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
5514                     PL_last_lop = PL_oldbufptr;
5515                     PL_last_lop_op = OP_ENTERSUB;
5516                     /* Is there a prototype? */
5517                     if (
5518 #ifdef PERL_MAD
5519                         cv &&
5520 #endif
5521                         SvPOK(cv))
5522                     {
5523                         STRLEN protolen;
5524                         const char *proto = SvPV_const((SV*)cv, protolen);
5525                         if (!protolen)
5526                             TERM(FUNC0SUB);
5527                         if ((*proto == '$' || *proto == '_') && proto[1] == '\0')
5528                             OPERATOR(UNIOPSUB);
5529                         while (*proto == ';')
5530                             proto++;
5531                         if (*proto == '&' && *s == '{') {
5532                             sv_setpv(PL_subname,
5533                                      (const char *)
5534                                      (PL_curstash ?
5535                                       "__ANON__" : "__ANON__::__ANON__"));
5536                             PREBLOCK(LSTOPSUB);
5537                         }
5538                     }
5539 #ifdef PERL_MAD
5540                     {
5541                         if (PL_madskills) {
5542                             PL_nextwhite = PL_thiswhite;
5543                             PL_thiswhite = 0;
5544                         }
5545                         start_force(PL_curforce);
5546                         NEXTVAL_NEXTTOKE.opval = yylval.opval;
5547                         PL_expect = XTERM;
5548                         if (PL_madskills) {
5549                             PL_nextwhite = nextPL_nextwhite;
5550                             curmad('X', PL_thistoken);
5551                             PL_thistoken = newSVpvs("");
5552                         }
5553                         force_next(WORD);
5554                         TOKEN(NOAMP);
5555                     }
5556                 }
5557
5558                 /* Guess harder when madskills require "best effort". */
5559                 if (PL_madskills && (!gv || !GvCVu(gv))) {
5560                     int probable_sub = 0;
5561                     if (strchr("\"'`$@%0123456789!*+{[<", *s))
5562                         probable_sub = 1;
5563                     else if (isALPHA(*s)) {
5564                         char tmpbuf[1024];
5565                         STRLEN tmplen;
5566                         d = s;
5567                         d = scan_word(d, tmpbuf, sizeof tmpbuf, TRUE, &tmplen);
5568                         if (!keyword(tmpbuf, tmplen, 0))
5569                             probable_sub = 1;
5570                         else {
5571                             while (d < PL_bufend && isSPACE(*d))
5572                                 d++;
5573                             if (*d == '=' && d[1] == '>')
5574                                 probable_sub = 1;
5575                         }
5576                     }
5577                     if (probable_sub) {
5578                         gv = gv_fetchpv(PL_tokenbuf, GV_ADD, SVt_PVCV);
5579                         op_free(yylval.opval);
5580                         yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
5581                         yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
5582                         PL_last_lop = PL_oldbufptr;
5583                         PL_last_lop_op = OP_ENTERSUB;
5584                         PL_nextwhite = PL_thiswhite;
5585                         PL_thiswhite = 0;
5586                         start_force(PL_curforce);
5587                         NEXTVAL_NEXTTOKE.opval = yylval.opval;
5588                         PL_expect = XTERM;
5589                         PL_nextwhite = nextPL_nextwhite;
5590                         curmad('X', PL_thistoken);
5591                         PL_thistoken = newSVpvs("");
5592                         force_next(WORD);
5593                         TOKEN(NOAMP);
5594                     }
5595 #else
5596                     NEXTVAL_NEXTTOKE.opval = yylval.opval;
5597                     PL_expect = XTERM;
5598                     force_next(WORD);
5599                     TOKEN(NOAMP);
5600 #endif
5601                 }
5602
5603                 /* Call it a bare word */
5604
5605                 if (PL_hints & HINT_STRICT_SUBS)
5606                     yylval.opval->op_private |= OPpCONST_STRICT;
5607                 else {
5608                 bareword:
5609                     if (lastchar != '-') {
5610                         if (ckWARN(WARN_RESERVED)) {
5611                             d = PL_tokenbuf;
5612                             while (isLOWER(*d))
5613                                 d++;
5614                             if (!*d && !gv_stashpv(PL_tokenbuf, 0))
5615                                 Perl_warner(aTHX_ packWARN(WARN_RESERVED), PL_warn_reserved,
5616                                        PL_tokenbuf);
5617                         }
5618                     }
5619                 }
5620
5621             safe_bareword:
5622                 if ((lastchar == '*' || lastchar == '%' || lastchar == '&')
5623                     && ckWARN_d(WARN_AMBIGUOUS)) {
5624                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5625                         "Operator or semicolon missing before %c%s",
5626                         lastchar, PL_tokenbuf);
5627                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5628                         "Ambiguous use of %c resolved as operator %c",
5629                         lastchar, lastchar);
5630                 }
5631                 TOKEN(WORD);
5632             }
5633
5634         case KEY___FILE__:
5635             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5636                                         newSVpv(CopFILE(PL_curcop),0));
5637             TERM(THING);
5638
5639         case KEY___LINE__:
5640             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5641                                     Perl_newSVpvf(aTHX_ "%"IVdf, (IV)CopLINE(PL_curcop)));
5642             TERM(THING);
5643
5644         case KEY___PACKAGE__:
5645             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5646                                         (PL_curstash
5647                                          ? newSVhek(HvNAME_HEK(PL_curstash))
5648                                          : &PL_sv_undef));
5649             TERM(THING);
5650
5651         case KEY___DATA__:
5652         case KEY___END__: {
5653             GV *gv;
5654             if (PL_rsfp && (!PL_in_eval || PL_tokenbuf[2] == 'D')) {
5655                 const char *pname = "main";
5656                 if (PL_tokenbuf[2] == 'D')
5657                     pname = HvNAME_get(PL_curstash ? PL_curstash : PL_defstash);
5658                 gv = gv_fetchpv(Perl_form(aTHX_ "%s::DATA", pname), GV_ADD,
5659                                 SVt_PVIO);
5660                 GvMULTI_on(gv);
5661                 if (!GvIO(gv))
5662                     GvIOp(gv) = newIO();
5663                 IoIFP(GvIOp(gv)) = PL_rsfp;
5664 #if defined(HAS_FCNTL) && defined(F_SETFD)
5665                 {
5666                     const int fd = PerlIO_fileno(PL_rsfp);
5667                     fcntl(fd,F_SETFD,fd >= 3);
5668                 }
5669 #endif
5670                 /* Mark this internal pseudo-handle as clean */
5671                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
5672                 if (PL_preprocess)
5673                     IoTYPE(GvIOp(gv)) = IoTYPE_PIPE;
5674                 else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
5675                     IoTYPE(GvIOp(gv)) = IoTYPE_STD;
5676                 else
5677                     IoTYPE(GvIOp(gv)) = IoTYPE_RDONLY;
5678 #if defined(WIN32) && !defined(PERL_TEXTMODE_SCRIPTS)
5679                 /* if the script was opened in binmode, we need to revert
5680                  * it to text mode for compatibility; but only iff it has CRs
5681                  * XXX this is a questionable hack at best. */
5682                 if (PL_bufend-PL_bufptr > 2
5683                     && PL_bufend[-1] == '\n' && PL_bufend[-2] == '\r')
5684                 {
5685                     Off_t loc = 0;
5686                     if (IoTYPE(GvIOp(gv)) == IoTYPE_RDONLY) {
5687                         loc = PerlIO_tell(PL_rsfp);
5688                         (void)PerlIO_seek(PL_rsfp, 0L, 0);
5689                     }
5690 #ifdef NETWARE
5691                         if (PerlLIO_setmode(PL_rsfp, O_TEXT) != -1) {
5692 #else
5693                     if (PerlLIO_setmode(PerlIO_fileno(PL_rsfp), O_TEXT) != -1) {
5694 #endif  /* NETWARE */
5695 #ifdef PERLIO_IS_STDIO /* really? */
5696 #  if defined(__BORLANDC__)
5697                         /* XXX see note in do_binmode() */
5698                         ((FILE*)PL_rsfp)->flags &= ~_F_BIN;
5699 #  endif
5700 #endif
5701                         if (loc > 0)
5702                             PerlIO_seek(PL_rsfp, loc, 0);
5703                     }
5704                 }
5705 #endif
5706 #ifdef PERLIO_LAYERS
5707                 if (!IN_BYTES) {
5708                     if (UTF)
5709                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL, ":utf8");
5710                     else if (PL_encoding) {
5711                         SV *name;
5712                         dSP;
5713                         ENTER;
5714                         SAVETMPS;
5715                         PUSHMARK(sp);
5716                         EXTEND(SP, 1);
5717                         XPUSHs(PL_encoding);
5718                         PUTBACK;
5719                         call_method("name", G_SCALAR);
5720                         SPAGAIN;
5721                         name = POPs;
5722                         PUTBACK;
5723                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL,
5724                                             Perl_form(aTHX_ ":encoding(%"SVf")",
5725                                                       SVfARG(name)));
5726                         FREETMPS;
5727                         LEAVE;
5728                     }
5729                 }
5730 #endif
5731 #ifdef PERL_MAD
5732                 if (PL_madskills) {
5733                     if (PL_realtokenstart >= 0) {
5734                         char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
5735                         if (!PL_endwhite)
5736                             PL_endwhite = newSVpvs("");
5737                         sv_catsv(PL_endwhite, PL_thiswhite);
5738                         PL_thiswhite = 0;
5739                         sv_catpvn(PL_endwhite, tstart, PL_bufend - tstart);
5740                         PL_realtokenstart = -1;
5741                     }
5742                     while ((s = filter_gets(PL_endwhite, PL_rsfp,
5743                                  SvCUR(PL_endwhite))) != NULL) ;
5744                 }
5745 #endif
5746                 PL_rsfp = NULL;
5747             }
5748             goto fake_eof;
5749         }
5750
5751         case KEY_AUTOLOAD:
5752         case KEY_DESTROY:
5753         case KEY_BEGIN:
5754         case KEY_UNITCHECK:
5755         case KEY_CHECK:
5756         case KEY_INIT:
5757         case KEY_END:
5758             if (PL_expect == XSTATE) {
5759                 s = PL_bufptr;
5760                 goto really_sub;
5761             }
5762             goto just_a_word;
5763
5764         case KEY_CORE:
5765             if (*s == ':' && s[1] == ':') {
5766                 s += 2;
5767                 d = s;
5768                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
5769                 if (!(tmp = keyword(PL_tokenbuf, len, 0)))
5770                     Perl_croak(aTHX_ "CORE::%s is not a keyword", PL_tokenbuf);
5771                 if (tmp < 0)
5772                     tmp = -tmp;
5773                 else if (tmp == KEY_require || tmp == KEY_do)
5774                     /* that's a way to remember we saw "CORE::" */
5775                     orig_keyword = tmp;
5776                 goto reserved_word;
5777             }
5778             goto just_a_word;
5779
5780         case KEY_abs:
5781             UNI(OP_ABS);
5782
5783         case KEY_alarm:
5784             UNI(OP_ALARM);
5785
5786         case KEY_accept:
5787             LOP(OP_ACCEPT,XTERM);
5788
5789         case KEY_and:
5790             OPERATOR(ANDOP);
5791
5792         case KEY_atan2:
5793             LOP(OP_ATAN2,XTERM);
5794
5795         case KEY_bind:
5796             LOP(OP_BIND,XTERM);
5797
5798         case KEY_binmode:
5799             LOP(OP_BINMODE,XTERM);
5800
5801         case KEY_bless:
5802             LOP(OP_BLESS,XTERM);
5803
5804         case KEY_break:
5805             FUN0(OP_BREAK);
5806
5807         case KEY_chop:
5808             UNI(OP_CHOP);
5809
5810         case KEY_continue:
5811             /* When 'use switch' is in effect, continue has a dual
5812                life as a control operator. */
5813             {
5814                 if (!FEATURE_IS_ENABLED("switch"))
5815                     PREBLOCK(CONTINUE);
5816                 else {
5817                     /* We have to disambiguate the two senses of
5818                       "continue". If the next token is a '{' then
5819                       treat it as the start of a continue block;
5820                       otherwise treat it as a control operator.
5821                      */
5822                     s = skipspace(s);
5823                     if (*s == '{')
5824             PREBLOCK(CONTINUE);
5825                     else
5826                         FUN0(OP_CONTINUE);
5827                 }
5828             }
5829
5830         case KEY_chdir:
5831             /* may use HOME */
5832             (void)gv_fetchpvs("ENV", GV_ADD|GV_NOTQUAL, SVt_PVHV);
5833             UNI(OP_CHDIR);
5834
5835         case KEY_close:
5836             UNI(OP_CLOSE);
5837
5838         case KEY_closedir:
5839             UNI(OP_CLOSEDIR);
5840
5841         case KEY_cmp:
5842             Eop(OP_SCMP);
5843
5844         case KEY_caller:
5845             UNI(OP_CALLER);
5846
5847         case KEY_crypt:
5848 #ifdef FCRYPT
5849             if (!PL_cryptseen) {
5850                 PL_cryptseen = TRUE;
5851                 init_des();
5852             }
5853 #endif
5854             LOP(OP_CRYPT,XTERM);
5855
5856         case KEY_chmod:
5857             LOP(OP_CHMOD,XTERM);
5858
5859         case KEY_chown:
5860             LOP(OP_CHOWN,XTERM);
5861
5862         case KEY_connect:
5863             LOP(OP_CONNECT,XTERM);
5864
5865         case KEY_chr:
5866             UNI(OP_CHR);
5867
5868         case KEY_cos:
5869             UNI(OP_COS);
5870
5871         case KEY_chroot:
5872             UNI(OP_CHROOT);
5873
5874         case KEY_default:
5875             PREBLOCK(DEFAULT);
5876
5877         case KEY_do:
5878             s = SKIPSPACE1(s);
5879             if (*s == '{')
5880                 PRETERMBLOCK(DO);
5881             if (*s != '\'')
5882                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
5883             if (orig_keyword == KEY_do) {
5884                 orig_keyword = 0;
5885                 yylval.ival = 1;
5886             }
5887             else
5888                 yylval.ival = 0;
5889             OPERATOR(DO);
5890
5891         case KEY_die:
5892             PL_hints |= HINT_BLOCK_SCOPE;
5893             LOP(OP_DIE,XTERM);
5894
5895         case KEY_defined:
5896             UNI(OP_DEFINED);
5897
5898         case KEY_delete:
5899             UNI(OP_DELETE);
5900
5901         case KEY_dbmopen:
5902             gv_fetchpvs("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
5903             LOP(OP_DBMOPEN,XTERM);
5904
5905         case KEY_dbmclose:
5906             UNI(OP_DBMCLOSE);
5907
5908         case KEY_dump:
5909             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5910             LOOPX(OP_DUMP);
5911
5912         case KEY_else:
5913             PREBLOCK(ELSE);
5914
5915         case KEY_elsif:
5916             yylval.ival = CopLINE(PL_curcop);
5917             OPERATOR(ELSIF);
5918
5919         case KEY_eq:
5920             Eop(OP_SEQ);
5921
5922         case KEY_exists:
5923             UNI(OP_EXISTS);
5924
5925         case KEY_exit:
5926             if (PL_madskills)
5927                 UNI(OP_INT);
5928             UNI(OP_EXIT);
5929
5930         case KEY_eval:
5931             s = SKIPSPACE1(s);
5932             PL_expect = (*s == '{') ? XTERMBLOCK : XTERM;
5933             UNIBRACK(OP_ENTEREVAL);
5934
5935         case KEY_eof:
5936             UNI(OP_EOF);
5937
5938         case KEY_exp:
5939             UNI(OP_EXP);
5940
5941         case KEY_each:
5942             UNI(OP_EACH);
5943
5944         case KEY_exec:
5945             LOP(OP_EXEC,XREF);
5946
5947         case KEY_endhostent:
5948             FUN0(OP_EHOSTENT);
5949
5950         case KEY_endnetent:
5951             FUN0(OP_ENETENT);
5952
5953         case KEY_endservent:
5954             FUN0(OP_ESERVENT);
5955
5956         case KEY_endprotoent:
5957             FUN0(OP_EPROTOENT);
5958
5959         case KEY_endpwent:
5960             FUN0(OP_EPWENT);
5961
5962         case KEY_endgrent:
5963             FUN0(OP_EGRENT);
5964
5965         case KEY_for:
5966         case KEY_foreach:
5967             yylval.ival = CopLINE(PL_curcop);
5968             s = SKIPSPACE1(s);
5969             if (PL_expect == XSTATE && isIDFIRST_lazy_if(s,UTF)) {
5970                 char *p = s;
5971 #ifdef PERL_MAD
5972                 int soff = s - SvPVX(PL_linestr); /* for skipspace realloc */
5973 #endif
5974
5975                 if ((PL_bufend - p) >= 3 &&
5976                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
5977                     p += 2;
5978                 else if ((PL_bufend - p) >= 4 &&
5979                     strnEQ(p, "our", 3) && isSPACE(*(p + 3)))
5980                     p += 3;
5981                 p = PEEKSPACE(p);
5982                 if (isIDFIRST_lazy_if(p,UTF)) {
5983                     p = scan_ident(p, PL_bufend,
5984                         PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
5985                     p = PEEKSPACE(p);
5986                 }
5987                 if (*p != '$')
5988                     Perl_croak(aTHX_ "Missing $ on loop variable");
5989 #ifdef PERL_MAD
5990                 s = SvPVX(PL_linestr) + soff;
5991 #endif
5992             }
5993             OPERATOR(FOR);
5994
5995         case KEY_formline:
5996             LOP(OP_FORMLINE,XTERM);
5997
5998         case KEY_fork:
5999             FUN0(OP_FORK);
6000
6001         case KEY_fcntl:
6002             LOP(OP_FCNTL,XTERM);
6003
6004         case KEY_fileno:
6005             UNI(OP_FILENO);
6006
6007         case KEY_flock:
6008             LOP(OP_FLOCK,XTERM);
6009
6010         case KEY_gt:
6011             Rop(OP_SGT);
6012
6013         case KEY_ge:
6014             Rop(OP_SGE);
6015
6016         case KEY_grep:
6017             LOP(OP_GREPSTART, XREF);
6018
6019         case KEY_goto:
6020             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6021             LOOPX(OP_GOTO);
6022
6023         case KEY_gmtime:
6024             UNI(OP_GMTIME);
6025
6026         case KEY_getc:
6027             UNIDOR(OP_GETC);
6028
6029         case KEY_getppid:
6030             FUN0(OP_GETPPID);
6031
6032         case KEY_getpgrp:
6033             UNI(OP_GETPGRP);
6034
6035         case KEY_getpriority:
6036             LOP(OP_GETPRIORITY,XTERM);
6037
6038         case KEY_getprotobyname:
6039             UNI(OP_GPBYNAME);
6040
6041         case KEY_getprotobynumber:
6042             LOP(OP_GPBYNUMBER,XTERM);
6043
6044         case KEY_getprotoent:
6045             FUN0(OP_GPROTOENT);
6046
6047         case KEY_getpwent:
6048             FUN0(OP_GPWENT);
6049
6050         case KEY_getpwnam:
6051             UNI(OP_GPWNAM);
6052
6053         case KEY_getpwuid:
6054             UNI(OP_GPWUID);
6055
6056         case KEY_getpeername:
6057             UNI(OP_GETPEERNAME);
6058
6059         case KEY_gethostbyname:
6060             UNI(OP_GHBYNAME);
6061
6062         case KEY_gethostbyaddr:
6063             LOP(OP_GHBYADDR,XTERM);
6064
6065         case KEY_gethostent:
6066             FUN0(OP_GHOSTENT);
6067
6068         case KEY_getnetbyname:
6069             UNI(OP_GNBYNAME);
6070
6071         case KEY_getnetbyaddr:
6072             LOP(OP_GNBYADDR,XTERM);
6073
6074         case KEY_getnetent:
6075             FUN0(OP_GNETENT);
6076
6077         case KEY_getservbyname:
6078             LOP(OP_GSBYNAME,XTERM);
6079
6080         case KEY_getservbyport:
6081             LOP(OP_GSBYPORT,XTERM);
6082
6083         case KEY_getservent:
6084             FUN0(OP_GSERVENT);
6085
6086         case KEY_getsockname:
6087             UNI(OP_GETSOCKNAME);
6088
6089         case KEY_getsockopt:
6090             LOP(OP_GSOCKOPT,XTERM);
6091
6092         case KEY_getgrent:
6093             FUN0(OP_GGRENT);
6094
6095         case KEY_getgrnam:
6096             UNI(OP_GGRNAM);
6097
6098         case KEY_getgrgid:
6099             UNI(OP_GGRGID);
6100
6101         case KEY_getlogin:
6102             FUN0(OP_GETLOGIN);
6103
6104         case KEY_given:
6105             yylval.ival = CopLINE(PL_curcop);
6106             OPERATOR(GIVEN);
6107
6108         case KEY_glob:
6109             LOP(OP_GLOB,XTERM);
6110
6111         case KEY_hex:
6112             UNI(OP_HEX);
6113
6114         case KEY_if:
6115             yylval.ival = CopLINE(PL_curcop);
6116             OPERATOR(IF);
6117
6118         case KEY_index:
6119             LOP(OP_INDEX,XTERM);
6120
6121         case KEY_int:
6122             UNI(OP_INT);
6123
6124         case KEY_ioctl:
6125             LOP(OP_IOCTL,XTERM);
6126
6127         case KEY_join:
6128             LOP(OP_JOIN,XTERM);
6129
6130         case KEY_keys:
6131             UNI(OP_KEYS);
6132
6133         case KEY_kill:
6134             LOP(OP_KILL,XTERM);
6135
6136         case KEY_last:
6137             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6138             LOOPX(OP_LAST);
6139
6140         case KEY_lc:
6141             UNI(OP_LC);
6142
6143         case KEY_lcfirst:
6144             UNI(OP_LCFIRST);
6145
6146         case KEY_local:
6147             yylval.ival = 0;
6148             OPERATOR(LOCAL);
6149
6150         case KEY_length:
6151             UNI(OP_LENGTH);
6152
6153         case KEY_lt:
6154             Rop(OP_SLT);
6155
6156         case KEY_le:
6157             Rop(OP_SLE);
6158
6159         case KEY_localtime:
6160             UNI(OP_LOCALTIME);
6161
6162         case KEY_log:
6163             UNI(OP_LOG);
6164
6165         case KEY_link:
6166             LOP(OP_LINK,XTERM);
6167
6168         case KEY_listen:
6169             LOP(OP_LISTEN,XTERM);
6170
6171         case KEY_lock:
6172             UNI(OP_LOCK);
6173
6174         case KEY_lstat:
6175             UNI(OP_LSTAT);
6176
6177         case KEY_m:
6178             s = scan_pat(s,OP_MATCH);
6179             TERM(sublex_start());
6180
6181         case KEY_map:
6182             LOP(OP_MAPSTART, XREF);
6183
6184         case KEY_mkdir:
6185             LOP(OP_MKDIR,XTERM);
6186
6187         case KEY_msgctl:
6188             LOP(OP_MSGCTL,XTERM);
6189
6190         case KEY_msgget:
6191             LOP(OP_MSGGET,XTERM);
6192
6193         case KEY_msgrcv:
6194             LOP(OP_MSGRCV,XTERM);
6195
6196         case KEY_msgsnd:
6197             LOP(OP_MSGSND,XTERM);
6198
6199         case KEY_our:
6200         case KEY_my:
6201         case KEY_state:
6202             PL_in_my = (U16)tmp;
6203             s = SKIPSPACE1(s);
6204             if (isIDFIRST_lazy_if(s,UTF)) {
6205 #ifdef PERL_MAD
6206                 char* start = s;
6207 #endif
6208                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, TRUE, &len);
6209                 if (len == 3 && strnEQ(PL_tokenbuf, "sub", 3))
6210                     goto really_sub;
6211                 PL_in_my_stash = find_in_my_stash(PL_tokenbuf, len);
6212                 if (!PL_in_my_stash) {
6213                     char tmpbuf[1024];
6214                     PL_bufptr = s;
6215                     my_snprintf(tmpbuf, sizeof(tmpbuf), "No such class %.1000s", PL_tokenbuf);
6216                     yyerror(tmpbuf);
6217                 }
6218 #ifdef PERL_MAD
6219                 if (PL_madskills) {     /* just add type to declarator token */
6220                     sv_catsv(PL_thistoken, PL_nextwhite);
6221                     PL_nextwhite = 0;
6222                     sv_catpvn(PL_thistoken, start, s - start);
6223                 }
6224 #endif
6225             }
6226             yylval.ival = 1;
6227             OPERATOR(MY);
6228
6229         case KEY_next:
6230             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6231             LOOPX(OP_NEXT);
6232
6233         case KEY_ne:
6234             Eop(OP_SNE);
6235
6236         case KEY_no:
6237             s = tokenize_use(0, s);
6238             OPERATOR(USE);
6239
6240         case KEY_not:
6241             if (*s == '(' || (s = SKIPSPACE1(s), *s == '('))
6242                 FUN1(OP_NOT);
6243             else
6244                 OPERATOR(NOTOP);
6245
6246         case KEY_open:
6247             s = SKIPSPACE1(s);
6248             if (isIDFIRST_lazy_if(s,UTF)) {
6249                 const char *t;
6250                 for (d = s; isALNUM_lazy_if(d,UTF);)
6251                     d++;
6252                 for (t=d; isSPACE(*t);)
6253                     t++;
6254                 if ( *t && strchr("|&*+-=!?:.", *t) && ckWARN_d(WARN_PRECEDENCE)
6255                     /* [perl #16184] */
6256                     && !(t[0] == '=' && t[1] == '>')
6257                 ) {
6258                     int parms_len = (int)(d-s);
6259                     Perl_warner(aTHX_ packWARN(WARN_PRECEDENCE),
6260                            "Precedence problem: open %.*s should be open(%.*s)",
6261                             parms_len, s, parms_len, s);
6262                 }
6263             }
6264             LOP(OP_OPEN,XTERM);
6265
6266         case KEY_or:
6267             yylval.ival = OP_OR;
6268             OPERATOR(OROP);
6269
6270         case KEY_ord:
6271             UNI(OP_ORD);
6272
6273         case KEY_oct:
6274             UNI(OP_OCT);
6275
6276         case KEY_opendir:
6277             LOP(OP_OPEN_DIR,XTERM);
6278
6279         case KEY_print:
6280             checkcomma(s,PL_tokenbuf,"filehandle");
6281             LOP(OP_PRINT,XREF);
6282
6283         case KEY_printf:
6284             checkcomma(s,PL_tokenbuf,"filehandle");
6285             LOP(OP_PRTF,XREF);
6286
6287         case KEY_prototype:
6288             UNI(OP_PROTOTYPE);
6289
6290         case KEY_push:
6291             LOP(OP_PUSH,XTERM);
6292
6293         case KEY_pop:
6294             UNIDOR(OP_POP);
6295
6296         case KEY_pos:
6297             UNIDOR(OP_POS);
6298
6299         case KEY_pack:
6300             LOP(OP_PACK,XTERM);
6301
6302         case KEY_package:
6303             s = force_word(s,WORD,FALSE,TRUE,FALSE);
6304             OPERATOR(PACKAGE);
6305
6306         case KEY_pipe:
6307             LOP(OP_PIPE_OP,XTERM);
6308
6309         case KEY_q:
6310             s = scan_str(s,!!PL_madskills,FALSE);
6311             if (!s)
6312                 missingterm(NULL);
6313             yylval.ival = OP_CONST;
6314             TERM(sublex_start());
6315
6316         case KEY_quotemeta:
6317             UNI(OP_QUOTEMETA);
6318
6319         case KEY_qw:
6320             s = scan_str(s,!!PL_madskills,FALSE);
6321             if (!s)
6322                 missingterm(NULL);
6323             PL_expect = XOPERATOR;
6324             force_next(')');
6325             if (SvCUR(PL_lex_stuff)) {
6326                 OP *words = NULL;
6327                 int warned = 0;
6328                 d = SvPV_force(PL_lex_stuff, len);
6329                 while (len) {
6330                     for (; isSPACE(*d) && len; --len, ++d)
6331                         /**/;
6332                     if (len) {
6333                         SV *sv;
6334                         const char *b = d;
6335                         if (!warned && ckWARN(WARN_QW)) {
6336                             for (; !isSPACE(*d) && len; --len, ++d) {
6337                                 if (*d == ',') {
6338                                     Perl_warner(aTHX_ packWARN(WARN_QW),
6339                                         "Possible attempt to separate words with commas");
6340                                     ++warned;
6341                                 }
6342                                 else if (*d == '#') {
6343                                     Perl_warner(aTHX_ packWARN(WARN_QW),
6344                                         "Possible attempt to put comments in qw() list");
6345                                     ++warned;
6346                                 }
6347                             }
6348                         }
6349                         else {
6350                             for (; !isSPACE(*d) && len; --len, ++d)
6351                                 /**/;
6352                         }
6353                         sv = newSVpvn(b, d-b);
6354                         if (DO_UTF8(PL_lex_stuff))
6355                             SvUTF8_on(sv);
6356                         words = append_elem(OP_LIST, words,
6357                                             newSVOP(OP_CONST, 0, tokeq(sv)));
6358                     }
6359                 }
6360                 if (words) {
6361                     start_force(PL_curforce);
6362                     NEXTVAL_NEXTTOKE.opval = words;
6363                     force_next(THING);
6364                 }
6365             }
6366             if (PL_lex_stuff) {
6367                 SvREFCNT_dec(PL_lex_stuff);
6368                 PL_lex_stuff = NULL;
6369             }
6370             PL_expect = XTERM;
6371             TOKEN('(');
6372
6373         case KEY_qq:
6374             s = scan_str(s,!!PL_madskills,FALSE);
6375             if (!s)
6376                 missingterm(NULL);
6377             yylval.ival = OP_STRINGIFY;
6378             if (SvIVX(PL_lex_stuff) == '\'')
6379                 SvIV_set(PL_lex_stuff, 0);      /* qq'$foo' should intepolate */
6380             TERM(sublex_start());
6381
6382         case KEY_qr:
6383             s = scan_pat(s,OP_QR);
6384             TERM(sublex_start());
6385
6386         case KEY_qx:
6387             s = scan_str(s,!!PL_madskills,FALSE);
6388             if (!s)
6389                 missingterm(NULL);
6390             readpipe_override();
6391             TERM(sublex_start());
6392
6393         case KEY_return:
6394             OLDLOP(OP_RETURN);
6395
6396         case KEY_require:
6397             s = SKIPSPACE1(s);
6398             if (isDIGIT(*s)) {
6399                 s = force_version(s, FALSE);
6400             }
6401             else if (*s != 'v' || !isDIGIT(s[1])
6402                     || (s = force_version(s, TRUE), *s == 'v'))
6403             {
6404                 *PL_tokenbuf = '\0';
6405                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
6406                 if (isIDFIRST_lazy_if(PL_tokenbuf,UTF))
6407                     gv_stashpvn(PL_tokenbuf, strlen(PL_tokenbuf), GV_ADD);
6408                 else if (*s == '<')
6409                     yyerror("<> should be quotes");
6410             }
6411             if (orig_keyword == KEY_require) {
6412                 orig_keyword = 0;
6413                 yylval.ival = 1;
6414             }
6415             else
6416                 yylval.ival = 0;
6417             PL_expect = XTERM;
6418             PL_bufptr = s;
6419             PL_last_uni = PL_oldbufptr;
6420             PL_last_lop_op = OP_REQUIRE;
6421             s = skipspace(s);
6422             return REPORT( (int)REQUIRE );
6423
6424         case KEY_reset:
6425             UNI(OP_RESET);
6426
6427         case KEY_redo:
6428             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6429             LOOPX(OP_REDO);
6430
6431         case KEY_rename:
6432             LOP(OP_RENAME,XTERM);
6433
6434         case KEY_rand:
6435             UNI(OP_RAND);
6436
6437         case KEY_rmdir:
6438             UNI(OP_RMDIR);
6439
6440         case KEY_rindex:
6441             LOP(OP_RINDEX,XTERM);
6442
6443         case KEY_read:
6444             LOP(OP_READ,XTERM);
6445
6446         case KEY_readdir:
6447             UNI(OP_READDIR);
6448
6449         case KEY_readline:
6450             UNIDOR(OP_READLINE);
6451
6452         case KEY_readpipe:
6453             UNIDOR(OP_BACKTICK);
6454
6455         case KEY_rewinddir:
6456             UNI(OP_REWINDDIR);
6457
6458         case KEY_recv:
6459             LOP(OP_RECV,XTERM);
6460
6461         case KEY_reverse:
6462             LOP(OP_REVERSE,XTERM);
6463
6464         case KEY_readlink:
6465             UNIDOR(OP_READLINK);
6466
6467         case KEY_ref:
6468             UNI(OP_REF);
6469
6470         case KEY_s:
6471             s = scan_subst(s);
6472             if (yylval.opval)
6473                 TERM(sublex_start());
6474             else
6475                 TOKEN(1);       /* force error */
6476
6477         case KEY_say:
6478             checkcomma(s,PL_tokenbuf,"filehandle");
6479             LOP(OP_SAY,XREF);
6480
6481         case KEY_chomp:
6482             UNI(OP_CHOMP);
6483
6484         case KEY_scalar:
6485             UNI(OP_SCALAR);
6486
6487         case KEY_select:
6488             LOP(OP_SELECT,XTERM);
6489
6490         case KEY_seek:
6491             LOP(OP_SEEK,XTERM);
6492
6493         case KEY_semctl:
6494             LOP(OP_SEMCTL,XTERM);
6495
6496         case KEY_semget:
6497             LOP(OP_SEMGET,XTERM);
6498
6499         case KEY_semop:
6500             LOP(OP_SEMOP,XTERM);
6501
6502         case KEY_send:
6503             LOP(OP_SEND,XTERM);
6504
6505         case KEY_setpgrp:
6506             LOP(OP_SETPGRP,XTERM);
6507
6508         case KEY_setpriority:
6509             LOP(OP_SETPRIORITY,XTERM);
6510
6511         case KEY_sethostent:
6512             UNI(OP_SHOSTENT);
6513
6514         case KEY_setnetent:
6515             UNI(OP_SNETENT);
6516
6517         case KEY_setservent:
6518             UNI(OP_SSERVENT);
6519
6520         case KEY_setprotoent:
6521             UNI(OP_SPROTOENT);
6522
6523         case KEY_setpwent:
6524             FUN0(OP_SPWENT);
6525
6526         case KEY_setgrent:
6527             FUN0(OP_SGRENT);
6528
6529         case KEY_seekdir:
6530             LOP(OP_SEEKDIR,XTERM);
6531
6532         case KEY_setsockopt:
6533             LOP(OP_SSOCKOPT,XTERM);
6534
6535         case KEY_shift:
6536             UNIDOR(OP_SHIFT);
6537
6538         case KEY_shmctl:
6539             LOP(OP_SHMCTL,XTERM);
6540
6541         case KEY_shmget:
6542             LOP(OP_SHMGET,XTERM);
6543
6544         case KEY_shmread:
6545             LOP(OP_SHMREAD,XTERM);
6546
6547         case KEY_shmwrite:
6548             LOP(OP_SHMWRITE,XTERM);
6549
6550         case KEY_shutdown:
6551             LOP(OP_SHUTDOWN,XTERM);
6552
6553         case KEY_sin:
6554             UNI(OP_SIN);
6555
6556         case KEY_sleep:
6557             UNI(OP_SLEEP);
6558
6559         case KEY_socket:
6560             LOP(OP_SOCKET,XTERM);
6561
6562         case KEY_socketpair:
6563             LOP(OP_SOCKPAIR,XTERM);
6564
6565         case KEY_sort:
6566             checkcomma(s,PL_tokenbuf,"subroutine name");
6567             s = SKIPSPACE1(s);
6568             if (*s == ';' || *s == ')')         /* probably a close */
6569                 Perl_croak(aTHX_ "sort is now a reserved word");
6570             PL_expect = XTERM;
6571             s = force_word(s,WORD,TRUE,TRUE,FALSE);
6572             LOP(OP_SORT,XREF);
6573
6574         case KEY_split:
6575             LOP(OP_SPLIT,XTERM);
6576
6577         case KEY_sprintf:
6578             LOP(OP_SPRINTF,XTERM);
6579
6580         case KEY_splice:
6581             LOP(OP_SPLICE,XTERM);
6582
6583         case KEY_sqrt:
6584             UNI(OP_SQRT);
6585
6586         case KEY_srand:
6587             UNI(OP_SRAND);
6588
6589         case KEY_stat:
6590             UNI(OP_STAT);
6591
6592         case KEY_study:
6593             UNI(OP_STUDY);
6594
6595         case KEY_substr:
6596             LOP(OP_SUBSTR,XTERM);
6597
6598         case KEY_format:
6599         case KEY_sub:
6600           really_sub:
6601             {
6602                 char tmpbuf[sizeof PL_tokenbuf];
6603                 SSize_t tboffset = 0;
6604                 expectation attrful;
6605                 bool have_name, have_proto;
6606                 const int key = tmp;
6607
6608 #ifdef PERL_MAD
6609                 SV *tmpwhite = 0;
6610
6611                 char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
6612                 SV *subtoken = newSVpvn(tstart, s - tstart);
6613                 PL_thistoken = 0;
6614
6615                 d = s;
6616                 s = SKIPSPACE2(s,tmpwhite);
6617 #else
6618                 s = skipspace(s);
6619 #endif
6620
6621                 if (isIDFIRST_lazy_if(s,UTF) || *s == '\'' ||
6622                     (*s == ':' && s[1] == ':'))
6623                 {
6624 #ifdef PERL_MAD
6625                     SV *nametoke;
6626 #endif
6627
6628                     PL_expect = XBLOCK;
6629                     attrful = XATTRBLOCK;
6630                     /* remember buffer pos'n for later force_word */
6631                     tboffset = s - PL_oldbufptr;
6632                     d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
6633 #ifdef PERL_MAD
6634                     if (PL_madskills)
6635                         nametoke = newSVpvn(s, d - s);
6636 #endif
6637                     if (memchr(tmpbuf, ':', len))
6638                         sv_setpvn(PL_subname, tmpbuf, len);
6639                     else {
6640                         sv_setsv(PL_subname,PL_curstname);
6641                         sv_catpvs(PL_subname,"::");
6642                         sv_catpvn(PL_subname,tmpbuf,len);
6643                     }
6644                     have_name = TRUE;
6645
6646 #ifdef PERL_MAD
6647
6648                     start_force(0);
6649                     CURMAD('X', nametoke);
6650                     CURMAD('_', tmpwhite);
6651                     (void) force_word(PL_oldbufptr + tboffset, WORD,
6652                                       FALSE, TRUE, TRUE);
6653
6654                     s = SKIPSPACE2(d,tmpwhite);
6655 #else
6656                     s = skipspace(d);
6657 #endif
6658                 }
6659                 else {
6660                     if (key == KEY_my)
6661                         Perl_croak(aTHX_ "Missing name in \"my sub\"");
6662                     PL_expect = XTERMBLOCK;
6663                     attrful = XATTRTERM;
6664                     sv_setpvn(PL_subname,"?",1);
6665                     have_name = FALSE;
6666                 }
6667
6668                 if (key == KEY_format) {
6669                     if (*s == '=')
6670                         PL_lex_formbrack = PL_lex_brackets + 1;
6671 #ifdef PERL_MAD
6672                     PL_thistoken = subtoken;
6673                     s = d;
6674 #else
6675                     if (have_name)
6676                         (void) force_word(PL_oldbufptr + tboffset, WORD,
6677                                           FALSE, TRUE, TRUE);
6678 #endif
6679                     OPERATOR(FORMAT);
6680                 }
6681
6682                 /* Look for a prototype */
6683                 if (*s == '(') {
6684                     char *p;
6685                     bool bad_proto = FALSE;
6686                     const bool warnsyntax = ckWARN(WARN_SYNTAX);
6687
6688                     s = scan_str(s,!!PL_madskills,FALSE);
6689                     if (!s)
6690                         Perl_croak(aTHX_ "Prototype not terminated");
6691                     /* strip spaces and check for bad characters */
6692                     d = SvPVX(PL_lex_stuff);
6693                     tmp = 0;
6694                     for (p = d; *p; ++p) {
6695                         if (!isSPACE(*p)) {
6696                             d[tmp++] = *p;
6697                             if (warnsyntax && !strchr("$@%*;[]&\\_", *p))
6698                                 bad_proto = TRUE;
6699                         }
6700                     }
6701                     d[tmp] = '\0';
6702                     if (bad_proto)
6703                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
6704                                     "Illegal character in prototype for %"SVf" : %s",
6705                                     SVfARG(PL_subname), d);
6706                     SvCUR_set(PL_lex_stuff, tmp);
6707                     have_proto = TRUE;
6708
6709 #ifdef PERL_MAD
6710                     start_force(0);
6711                     CURMAD('q', PL_thisopen);
6712                     CURMAD('_', tmpwhite);
6713                     CURMAD('=', PL_thisstuff);
6714                     CURMAD('Q', PL_thisclose);
6715                     NEXTVAL_NEXTTOKE.opval =
6716                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
6717                     PL_lex_stuff = NULL;
6718                     force_next(THING);
6719
6720                     s = SKIPSPACE2(s,tmpwhite);
6721 #else
6722                     s = skipspace(s);
6723 #endif
6724                 }
6725                 else
6726                     have_proto = FALSE;
6727
6728                 if (*s == ':' && s[1] != ':')
6729                     PL_expect = attrful;
6730                 else if (*s != '{' && key == KEY_sub) {
6731                     if (!have_name)
6732                         Perl_croak(aTHX_ "Illegal declaration of anonymous subroutine");
6733                     else if (*s != ';')
6734                         Perl_croak(aTHX_ "Illegal declaration of subroutine %"SVf, SVfARG(PL_subname));
6735                 }
6736
6737 #ifdef PERL_MAD
6738                 start_force(0);
6739                 if (tmpwhite) {
6740                     if (PL_madskills)
6741                         curmad('^', newSVpvs(""));
6742                     CURMAD('_', tmpwhite);
6743                 }
6744                 force_next(0);
6745
6746                 PL_thistoken = subtoken;
6747 #else
6748                 if (have_proto) {
6749                     NEXTVAL_NEXTTOKE.opval =
6750                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
6751                     PL_lex_stuff = NULL;
6752                     force_next(THING);
6753                 }
6754 #endif
6755                 if (!have_name) {
6756                     sv_setpv(PL_subname,
6757                              (const char *)
6758                              (PL_curstash ? "__ANON__" : "__ANON__::__ANON__"));
6759                     TOKEN(ANONSUB);
6760                 }
6761 #ifndef PERL_MAD
6762                 (void) force_word(PL_oldbufptr + tboffset, WORD,
6763                                   FALSE, TRUE, TRUE);
6764 #endif
6765                 if (key == KEY_my)
6766                     TOKEN(MYSUB);
6767                 TOKEN(SUB);
6768             }
6769
6770         case KEY_system:
6771             LOP(OP_SYSTEM,XREF);
6772
6773         case KEY_symlink:
6774             LOP(OP_SYMLINK,XTERM);
6775
6776         case KEY_syscall:
6777             LOP(OP_SYSCALL,XTERM);
6778
6779         case KEY_sysopen:
6780             LOP(OP_SYSOPEN,XTERM);
6781
6782         case KEY_sysseek:
6783             LOP(OP_SYSSEEK,XTERM);
6784
6785         case KEY_sysread:
6786             LOP(OP_SYSREAD,XTERM);
6787
6788         case KEY_syswrite:
6789             LOP(OP_SYSWRITE,XTERM);
6790
6791         case KEY_tr:
6792             s = scan_trans(s);
6793             TERM(sublex_start());
6794
6795         case KEY_tell:
6796             UNI(OP_TELL);
6797
6798         case KEY_telldir:
6799             UNI(OP_TELLDIR);
6800
6801         case KEY_tie:
6802             LOP(OP_TIE,XTERM);
6803
6804         case KEY_tied:
6805             UNI(OP_TIED);
6806
6807         case KEY_time:
6808             FUN0(OP_TIME);
6809
6810         case KEY_times:
6811             FUN0(OP_TMS);
6812
6813         case KEY_truncate:
6814             LOP(OP_TRUNCATE,XTERM);
6815
6816         case KEY_uc:
6817             UNI(OP_UC);
6818
6819         case KEY_ucfirst:
6820             UNI(OP_UCFIRST);
6821
6822         case KEY_untie:
6823             UNI(OP_UNTIE);
6824
6825         case KEY_until:
6826             yylval.ival = CopLINE(PL_curcop);
6827             OPERATOR(UNTIL);
6828
6829         case KEY_unless:
6830             yylval.ival = CopLINE(PL_curcop);
6831             OPERATOR(UNLESS);
6832
6833         case KEY_unlink:
6834             LOP(OP_UNLINK,XTERM);
6835
6836         case KEY_undef:
6837             UNIDOR(OP_UNDEF);
6838
6839         case KEY_unpack:
6840             LOP(OP_UNPACK,XTERM);
6841
6842         case KEY_utime:
6843             LOP(OP_UTIME,XTERM);
6844
6845         case KEY_umask:
6846             UNIDOR(OP_UMASK);
6847
6848         case KEY_unshift:
6849             LOP(OP_UNSHIFT,XTERM);
6850
6851         case KEY_use:
6852             s = tokenize_use(1, s);
6853             OPERATOR(USE);
6854
6855         case KEY_values:
6856             UNI(OP_VALUES);
6857
6858         case KEY_vec:
6859             LOP(OP_VEC,XTERM);
6860
6861         case KEY_when:
6862             yylval.ival = CopLINE(PL_curcop);
6863             OPERATOR(WHEN);
6864
6865         case KEY_while:
6866             yylval.ival = CopLINE(PL_curcop);
6867             OPERATOR(WHILE);
6868
6869         case KEY_warn:
6870             PL_hints |= HINT_BLOCK_SCOPE;
6871             LOP(OP_WARN,XTERM);
6872
6873         case KEY_wait:
6874             FUN0(OP_WAIT);
6875
6876         case KEY_waitpid:
6877             LOP(OP_WAITPID,XTERM);
6878
6879         case KEY_wantarray:
6880             FUN0(OP_WANTARRAY);
6881
6882         case KEY_write:
6883 #ifdef EBCDIC
6884         {
6885             char ctl_l[2];
6886             ctl_l[0] = toCTRL('L');
6887             ctl_l[1] = '\0';
6888             gv_fetchpvn_flags(ctl_l, 1, GV_ADD|GV_NOTQUAL, SVt_PV);
6889         }
6890 #else
6891             /* Make sure $^L is defined */
6892             gv_fetchpvs("\f", GV_ADD|GV_NOTQUAL, SVt_PV);
6893 #endif
6894             UNI(OP_ENTERWRITE);
6895
6896         case KEY_x:
6897             if (PL_expect == XOPERATOR)
6898                 Mop(OP_REPEAT);
6899             check_uni();
6900             goto just_a_word;
6901
6902         case KEY_xor:
6903             yylval.ival = OP_XOR;
6904             OPERATOR(OROP);
6905
6906         case KEY_y:
6907             s = scan_trans(s);
6908             TERM(sublex_start());
6909         }
6910     }}
6911 }
6912 #ifdef __SC__
6913 #pragma segment Main
6914 #endif
6915
6916 static int
6917 S_pending_ident(pTHX)
6918 {
6919     dVAR;
6920     register char *d;
6921     PADOFFSET tmp = 0;
6922     /* pit holds the identifier we read and pending_ident is reset */
6923     char pit = PL_pending_ident;
6924     PL_pending_ident = 0;
6925
6926     /* PL_realtokenstart = realtokenend = PL_bufptr - SvPVX(PL_linestr); */
6927     DEBUG_T({ PerlIO_printf(Perl_debug_log,
6928           "### Pending identifier '%s'\n", PL_tokenbuf); });
6929
6930     /* if we're in a my(), we can't allow dynamics here.
6931        $foo'bar has already been turned into $foo::bar, so
6932        just check for colons.
6933
6934        if it's a legal name, the OP is a PADANY.
6935     */
6936     if (PL_in_my) {
6937         if (PL_in_my == KEY_our) {      /* "our" is merely analogous to "my" */
6938             if (strchr(PL_tokenbuf,':'))
6939                 yyerror(Perl_form(aTHX_ "No package name allowed for "
6940                                   "variable %s in \"our\"",
6941                                   PL_tokenbuf));
6942             tmp = allocmy(PL_tokenbuf);
6943         }
6944         else {
6945             if (strchr(PL_tokenbuf,':'))
6946                 yyerror(Perl_form(aTHX_ PL_no_myglob,
6947                             PL_in_my == KEY_my ? "my" : "state", PL_tokenbuf));
6948
6949             yylval.opval = newOP(OP_PADANY, 0);
6950             yylval.opval->op_targ = allocmy(PL_tokenbuf);
6951             return PRIVATEREF;
6952         }
6953     }
6954
6955     /*
6956        build the ops for accesses to a my() variable.
6957
6958        Deny my($a) or my($b) in a sort block, *if* $a or $b is
6959        then used in a comparison.  This catches most, but not
6960        all cases.  For instance, it catches
6961            sort { my($a); $a <=> $b }
6962        but not
6963            sort { my($a); $a < $b ? -1 : $a == $b ? 0 : 1; }
6964        (although why you'd do that is anyone's guess).
6965     */
6966
6967     if (!strchr(PL_tokenbuf,':')) {
6968         if (!PL_in_my)
6969             tmp = pad_findmy(PL_tokenbuf);
6970         if (tmp != NOT_IN_PAD) {
6971             /* might be an "our" variable" */
6972             if (PAD_COMPNAME_FLAGS_isOUR(tmp)) {
6973                 /* build ops for a bareword */
6974                 HV *  const stash = PAD_COMPNAME_OURSTASH(tmp);
6975                 HEK * const stashname = HvNAME_HEK(stash);
6976                 SV *  const sym = newSVhek(stashname);
6977                 sv_catpvs(sym, "::");
6978                 sv_catpv(sym, PL_tokenbuf+1);
6979                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sym);
6980                 yylval.opval->op_private = OPpCONST_ENTERED;
6981                 gv_fetchsv(sym,
6982                     (PL_in_eval
6983                         ? (GV_ADDMULTI | GV_ADDINEVAL)
6984                         : GV_ADDMULTI
6985                     ),
6986                     ((PL_tokenbuf[0] == '$') ? SVt_PV
6987                      : (PL_tokenbuf[0] == '@') ? SVt_PVAV
6988                      : SVt_PVHV));
6989                 return WORD;
6990             }
6991
6992             /* if it's a sort block and they're naming $a or $b */
6993             if (PL_last_lop_op == OP_SORT &&
6994                 PL_tokenbuf[0] == '$' &&
6995                 (PL_tokenbuf[1] == 'a' || PL_tokenbuf[1] == 'b')
6996                 && !PL_tokenbuf[2])
6997             {
6998                 for (d = PL_in_eval ? PL_oldoldbufptr : PL_linestart;
6999                      d < PL_bufend && *d != '\n';
7000                      d++)
7001                 {
7002                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
7003                         Perl_croak(aTHX_ "Can't use \"my %s\" in sort comparison",
7004                               PL_tokenbuf);
7005                     }
7006                 }
7007             }
7008
7009             yylval.opval = newOP(OP_PADANY, 0);
7010             yylval.opval->op_targ = tmp;
7011             return PRIVATEREF;
7012         }
7013     }
7014
7015     /*
7016        Whine if they've said @foo in a doublequoted string,
7017        and @foo isn't a variable we can find in the symbol
7018        table.
7019     */
7020     if (pit == '@' && PL_lex_state != LEX_NORMAL && !PL_lex_brackets) {
7021         GV *gv = gv_fetchpv(PL_tokenbuf+1, 0, SVt_PVAV);
7022         if ((!gv || ((PL_tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
7023                 && ckWARN(WARN_AMBIGUOUS)
7024                 /* DO NOT warn for @- and @+ */
7025                 && !( PL_tokenbuf[2] == '\0' &&
7026                     ( PL_tokenbuf[1] == '-' || PL_tokenbuf[1] == '+' ))
7027            )
7028         {
7029             /* Downgraded from fatal to warning 20000522 mjd */
7030             Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
7031                         "Possible unintended interpolation of %s in string",
7032                          PL_tokenbuf);
7033         }
7034     }
7035
7036     /* build ops for a bareword */
7037     yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(PL_tokenbuf+1, 0));
7038     yylval.opval->op_private = OPpCONST_ENTERED;
7039     gv_fetchpv(
7040             PL_tokenbuf+1,
7041             /* If the identifier refers to a stash, don't autovivify it.
7042              * Change 24660 had the side effect of causing symbol table
7043              * hashes to always be defined, even if they were freshly
7044              * created and the only reference in the entire program was
7045              * the single statement with the defined %foo::bar:: test.
7046              * It appears that all code in the wild doing this actually
7047              * wants to know whether sub-packages have been loaded, so
7048              * by avoiding auto-vivifying symbol tables, we ensure that
7049              * defined %foo::bar:: continues to be false, and the existing
7050              * tests still give the expected answers, even though what
7051              * they're actually testing has now changed subtly.
7052              */
7053             (*PL_tokenbuf == '%' && *(d = PL_tokenbuf + strlen(PL_tokenbuf) - 1) == ':' && d[-1] == ':'
7054              ? 0
7055              : PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL) : GV_ADD),
7056             ((PL_tokenbuf[0] == '$') ? SVt_PV
7057              : (PL_tokenbuf[0] == '@') ? SVt_PVAV
7058              : SVt_PVHV));
7059     return WORD;
7060 }
7061
7062 /*
7063  *  The following code was generated by perl_keyword.pl.
7064  */
7065
7066 I32
7067 Perl_keyword (pTHX_ const char *name, I32 len, bool all_keywords)
7068 {
7069     dVAR;
7070   switch (len)
7071   {
7072     case 1: /* 5 tokens of length 1 */
7073       switch (name[0])
7074       {
7075         case 'm':
7076           {                                       /* m          */
7077             return KEY_m;
7078           }
7079
7080         case 'q':
7081           {                                       /* q          */
7082             return KEY_q;
7083           }
7084
7085         case 's':
7086           {                                       /* s          */
7087             return KEY_s;
7088           }
7089
7090         case 'x':
7091           {                                       /* x          */
7092             return -KEY_x;
7093           }
7094
7095         case 'y':
7096           {                                       /* y          */
7097             return KEY_y;
7098           }
7099
7100         default:
7101           goto unknown;
7102       }
7103
7104     case 2: /* 18 tokens of length 2 */
7105       switch (name[0])
7106       {
7107         case 'd':
7108           if (name[1] == 'o')
7109           {                                       /* do         */
7110             return KEY_do;
7111           }
7112
7113           goto unknown;
7114
7115         case 'e':
7116           if (name[1] == 'q')
7117           {                                       /* eq         */
7118             return -KEY_eq;
7119           }
7120
7121           goto unknown;
7122
7123         case 'g':
7124           switch (name[1])
7125           {
7126             case 'e':
7127               {                                   /* ge         */
7128                 return -KEY_ge;
7129               }
7130
7131             case 't':
7132               {                                   /* gt         */
7133                 return -KEY_gt;
7134               }
7135
7136             default:
7137               goto unknown;
7138           }
7139
7140         case 'i':
7141           if (name[1] == 'f')
7142           {                                       /* if         */
7143             return KEY_if;
7144           }
7145
7146           goto unknown;
7147
7148         case 'l':
7149           switch (name[1])
7150           {
7151             case 'c':
7152               {                                   /* lc         */
7153                 return -KEY_lc;
7154               }
7155
7156             case 'e':
7157               {                                   /* le         */
7158                 return -KEY_le;
7159               }
7160
7161             case 't':
7162               {                                   /* lt         */
7163                 return -KEY_lt;
7164               }
7165
7166             default:
7167               goto unknown;
7168           }
7169
7170         case 'm':
7171           if (name[1] == 'y')
7172           {                                       /* my         */
7173             return KEY_my;
7174           }
7175
7176           goto unknown;
7177
7178         case 'n':
7179           switch (name[1])
7180           {
7181             case 'e':
7182               {                                   /* ne         */
7183                 return -KEY_ne;
7184               }
7185
7186             case 'o':
7187               {                                   /* no         */
7188                 return KEY_no;
7189               }
7190
7191             default:
7192               goto unknown;
7193           }
7194
7195         case 'o':
7196           if (name[1] == 'r')
7197           {                                       /* or         */
7198             return -KEY_or;
7199           }
7200
7201           goto unknown;
7202
7203         case 'q':
7204           switch (name[1])
7205           {
7206             case 'q':
7207               {                                   /* qq         */
7208                 return KEY_qq;
7209               }
7210
7211             case 'r':
7212               {                                   /* qr         */
7213                 return KEY_qr;
7214               }
7215
7216             case 'w':
7217               {                                   /* qw         */
7218                 return KEY_qw;
7219               }
7220
7221             case 'x':
7222               {                                   /* qx         */
7223                 return KEY_qx;
7224               }
7225
7226             default:
7227               goto unknown;
7228           }
7229
7230         case 't':
7231           if (name[1] == 'r')
7232           {                                       /* tr         */
7233             return KEY_tr;
7234           }
7235
7236           goto unknown;
7237
7238         case 'u':
7239           if (name[1] == 'c')
7240           {                                       /* uc         */
7241             return -KEY_uc;
7242           }
7243
7244           goto unknown;
7245
7246         default:
7247           goto unknown;
7248       }
7249
7250     case 3: /* 29 tokens of length 3 */
7251       switch (name[0])
7252       {
7253         case 'E':
7254           if (name[1] == 'N' &&
7255               name[2] == 'D')
7256           {                                       /* END        */
7257             return KEY_END;
7258           }
7259
7260           goto unknown;
7261
7262         case 'a':
7263           switch (name[1])
7264           {
7265             case 'b':
7266               if (name[2] == 's')
7267               {                                   /* abs        */
7268                 return -KEY_abs;
7269               }
7270
7271               goto unknown;
7272
7273             case 'n':
7274               if (name[2] == 'd')
7275               {                                   /* and        */
7276                 return -KEY_and;
7277               }
7278
7279               goto unknown;
7280
7281             default:
7282               goto unknown;
7283           }
7284
7285         case 'c':
7286           switch (name[1])
7287           {
7288             case 'h':
7289               if (name[2] == 'r')
7290               {                                   /* chr        */
7291                 return -KEY_chr;
7292               }
7293
7294               goto unknown;
7295
7296             case 'm':
7297               if (name[2] == 'p')
7298               {                                   /* cmp        */
7299                 return -KEY_cmp;
7300               }
7301
7302               goto unknown;
7303
7304             case 'o':
7305               if (name[2] == 's')
7306               {                                   /* cos        */
7307                 return -KEY_cos;
7308               }
7309
7310               goto unknown;
7311
7312             default:
7313               goto unknown;
7314           }
7315
7316         case 'd':
7317           if (name[1] == 'i' &&
7318               name[2] == 'e')
7319           {                                       /* die        */
7320             return -KEY_die;
7321           }
7322
7323           goto unknown;
7324
7325         case 'e':
7326           switch (name[1])
7327           {
7328             case 'o':
7329               if (name[2] == 'f')
7330               {                                   /* eof        */
7331                 return -KEY_eof;
7332               }
7333
7334               goto unknown;
7335
7336             case 'x':
7337               if (name[2] == 'p')
7338               {                                   /* exp        */
7339                 return -KEY_exp;
7340               }
7341
7342               goto unknown;
7343
7344             default:
7345               goto unknown;
7346           }
7347
7348         case 'f':
7349           if (name[1] == 'o' &&
7350               name[2] == 'r')
7351           {                                       /* for        */
7352             return KEY_for;
7353           }
7354
7355           goto unknown;
7356
7357         case 'h':
7358           if (name[1] == 'e' &&
7359               name[2] == 'x')
7360           {                                       /* hex        */
7361             return -KEY_hex;
7362           }
7363
7364           goto unknown;
7365
7366         case 'i':
7367           if (name[1] == 'n' &&
7368               name[2] == 't')
7369           {                                       /* int        */
7370             return -KEY_int;
7371           }
7372
7373           goto unknown;
7374
7375         case 'l':
7376           if (name[1] == 'o' &&
7377               name[2] == 'g')
7378           {                                       /* log        */
7379             return -KEY_log;
7380           }
7381
7382           goto unknown;
7383
7384         case 'm':
7385           if (name[1] == 'a' &&
7386               name[2] == 'p')
7387           {                                       /* map        */
7388             return KEY_map;
7389           }
7390
7391           goto unknown;
7392
7393         case 'n':
7394           if (name[1] == 'o' &&
7395               name[2] == 't')
7396           {                                       /* not        */
7397             return -KEY_not;
7398           }
7399
7400           goto unknown;
7401
7402         case 'o':
7403           switch (name[1])
7404           {
7405             case 'c':
7406               if (name[2] == 't')
7407               {                                   /* oct        */
7408                 return -KEY_oct;
7409               }
7410
7411               goto unknown;
7412
7413             case 'r':
7414               if (name[2] == 'd')
7415               {                                   /* ord        */
7416                 return -KEY_ord;
7417               }
7418
7419               goto unknown;
7420
7421             case 'u':
7422               if (name[2] == 'r')
7423               {                                   /* our        */
7424                 return KEY_our;
7425               }
7426
7427               goto unknown;
7428
7429             default:
7430               goto unknown;
7431           }
7432
7433         case 'p':
7434           if (name[1] == 'o')
7435           {
7436             switch (name[2])
7437             {
7438               case 'p':
7439                 {                                 /* pop        */
7440                   return -KEY_pop;
7441                 }
7442
7443               case 's':
7444                 {                                 /* pos        */
7445                   return KEY_pos;
7446                 }
7447
7448               default:
7449                 goto unknown;
7450             }
7451           }
7452
7453           goto unknown;
7454
7455         case 'r':
7456           if (name[1] == 'e' &&
7457               name[2] == 'f')
7458           {                                       /* ref        */
7459             return -KEY_ref;
7460           }
7461
7462           goto unknown;
7463
7464         case 's':
7465           switch (name[1])
7466           {
7467             case 'a':
7468               if (name[2] == 'y')
7469               {                                   /* say        */
7470                 return (all_keywords || FEATURE_IS_ENABLED("say") ? KEY_say : 0);
7471               }
7472
7473               goto unknown;
7474
7475             case 'i':
7476               if (name[2] == 'n')
7477               {                                   /* sin        */
7478                 return -KEY_sin;
7479               }
7480
7481               goto unknown;
7482
7483             case 'u':
7484               if (name[2] == 'b')
7485               {                                   /* sub        */
7486                 return KEY_sub;
7487               }
7488
7489               goto unknown;
7490
7491             default:
7492               goto unknown;
7493           }
7494
7495         case 't':
7496           if (name[1] == 'i' &&
7497               name[2] == 'e')
7498           {                                       /* tie        */
7499             return KEY_tie;
7500           }
7501
7502           goto unknown;
7503
7504         case 'u':
7505           if (name[1] == 's' &&
7506               name[2] == 'e')
7507           {                                       /* use        */
7508             return KEY_use;
7509           }
7510
7511           goto unknown;
7512
7513         case 'v':
7514           if (name[1] == 'e' &&
7515               name[2] == 'c')
7516           {                                       /* vec        */
7517             return -KEY_vec;
7518           }
7519
7520           goto unknown;
7521
7522         case 'x':
7523           if (name[1] == 'o' &&
7524               name[2] == 'r')
7525           {                                       /* xor        */
7526             return -KEY_xor;
7527           }
7528
7529           goto unknown;
7530
7531         default:
7532           goto unknown;
7533       }
7534
7535     case 4: /* 41 tokens of length 4 */
7536       switch (name[0])
7537       {
7538         case 'C':
7539           if (name[1] == 'O' &&
7540               name[2] == 'R' &&
7541               name[3] == 'E')
7542           {                                       /* CORE       */
7543             return -KEY_CORE;
7544           }
7545
7546           goto unknown;
7547
7548         case 'I':
7549           if (name[1] == 'N' &&
7550               name[2] == 'I' &&
7551               name[3] == 'T')
7552           {                                       /* INIT       */
7553             return KEY_INIT;
7554           }
7555
7556           goto unknown;
7557
7558         case 'b':
7559           if (name[1] == 'i' &&
7560               name[2] == 'n' &&
7561               name[3] == 'd')
7562           {                                       /* bind       */
7563             return -KEY_bind;
7564           }
7565
7566           goto unknown;
7567
7568         case 'c':
7569           if (name[1] == 'h' &&
7570               name[2] == 'o' &&
7571               name[3] == 'p')
7572           {                                       /* chop       */
7573             return -KEY_chop;
7574           }
7575
7576           goto unknown;
7577
7578         case 'd':
7579           if (name[1] == 'u' &&
7580               name[2] == 'm' &&
7581               name[3] == 'p')
7582           {                                       /* dump       */
7583             return -KEY_dump;
7584           }
7585
7586           goto unknown;
7587
7588         case 'e':
7589           switch (name[1])
7590           {
7591             case 'a':
7592               if (name[2] == 'c' &&
7593                   name[3] == 'h')
7594               {                                   /* each       */
7595                 return -KEY_each;
7596               }
7597
7598               goto unknown;
7599
7600             case 'l':
7601               if (name[2] == 's' &&
7602                   name[3] == 'e')
7603               {                                   /* else       */
7604                 return KEY_else;
7605               }
7606
7607               goto unknown;
7608
7609             case 'v':
7610               if (name[2] == 'a' &&
7611                   name[3] == 'l')
7612               {                                   /* eval       */
7613                 return KEY_eval;
7614               }
7615
7616               goto unknown;
7617
7618             case 'x':
7619               switch (name[2])
7620               {
7621                 case 'e':
7622                   if (name[3] == 'c')
7623                   {                               /* exec       */
7624                     return -KEY_exec;
7625                   }
7626
7627                   goto unknown;
7628
7629                 case 'i':
7630                   if (name[3] == 't')
7631                   {                               /* exit       */
7632                     return -KEY_exit;
7633                   }
7634
7635                   goto unknown;
7636
7637                 default:
7638                   goto unknown;
7639               }
7640
7641             default:
7642               goto unknown;
7643           }
7644
7645         case 'f':
7646           if (name[1] == 'o' &&
7647               name[2] == 'r' &&
7648               name[3] == 'k')
7649           {                                       /* fork       */
7650             return -KEY_fork;
7651           }
7652
7653           goto unknown;
7654
7655         case 'g':
7656           switch (name[1])
7657           {
7658             case 'e':
7659               if (name[2] == 't' &&
7660                   name[3] == 'c')
7661               {                                   /* getc       */
7662                 return -KEY_getc;
7663               }
7664
7665               goto unknown;
7666
7667             case 'l':
7668               if (name[2] == 'o' &&
7669                   name[3] == 'b')
7670               {                                   /* glob       */
7671                 return KEY_glob;
7672               }
7673
7674               goto unknown;
7675
7676             case 'o':
7677               if (name[2] == 't' &&
7678                   name[3] == 'o')
7679               {                                   /* goto       */
7680                 return KEY_goto;
7681               }
7682
7683               goto unknown;
7684
7685             case 'r':
7686               if (name[2] == 'e' &&
7687                   name[3] == 'p')
7688               {                                   /* grep       */
7689                 return KEY_grep;
7690               }
7691
7692               goto unknown;
7693
7694             default:
7695               goto unknown;
7696           }
7697
7698         case 'j':
7699           if (name[1] == 'o' &&
7700               name[2] == 'i' &&
7701               name[3] == 'n')
7702           {                                       /* join       */
7703             return -KEY_join;
7704           }
7705
7706           goto unknown;
7707
7708         case 'k':
7709           switch (name[1])
7710           {
7711             case 'e':
7712               if (name[2] == 'y' &&
7713                   name[3] == 's')
7714               {                                   /* keys       */
7715                 return -KEY_keys;
7716               }
7717
7718               goto unknown;
7719
7720             case 'i':
7721               if (name[2] == 'l' &&
7722                   name[3] == 'l')
7723               {                                   /* kill       */
7724                 return -KEY_kill;
7725               }
7726
7727               goto unknown;
7728
7729             default:
7730               goto unknown;
7731           }
7732
7733         case 'l':
7734           switch (name[1])
7735           {
7736             case 'a':
7737               if (name[2] == 's' &&
7738                   name[3] == 't')
7739               {                                   /* last       */
7740                 return KEY_last;
7741               }
7742
7743               goto unknown;
7744
7745             case 'i':
7746               if (name[2] == 'n' &&
7747                   name[3] == 'k')
7748               {                                   /* link       */
7749                 return -KEY_link;
7750               }
7751
7752               goto unknown;
7753
7754             case 'o':
7755               if (name[2] == 'c' &&
7756                   name[3] == 'k')
7757               {                                   /* lock       */
7758                 return -KEY_lock;
7759               }
7760
7761               goto unknown;
7762
7763             default:
7764               goto unknown;
7765           }
7766
7767         case 'n':
7768           if (name[1] == 'e' &&
7769               name[2] == 'x' &&
7770               name[3] == 't')
7771           {                                       /* next       */
7772             return KEY_next;
7773           }
7774
7775           goto unknown;
7776
7777         case 'o':
7778           if (name[1] == 'p' &&
7779               name[2] == 'e' &&
7780               name[3] == 'n')
7781           {                                       /* open       */
7782             return -KEY_open;
7783           }
7784
7785           goto unknown;
7786
7787         case 'p':
7788           switch (name[1])
7789           {
7790             case 'a':
7791               if (name[2] == 'c' &&
7792                   name[3] == 'k')
7793               {                                   /* pack       */
7794                 return -KEY_pack;
7795               }
7796
7797               goto unknown;
7798
7799             case 'i':
7800               if (name[2] == 'p' &&
7801                   name[3] == 'e')
7802               {                                   /* pipe       */
7803                 return -KEY_pipe;
7804               }
7805
7806               goto unknown;
7807
7808             case 'u':
7809               if (name[2] == 's' &&
7810                   name[3] == 'h')
7811               {                                   /* push       */
7812                 return -KEY_push;
7813               }
7814
7815               goto unknown;
7816
7817             default:
7818               goto unknown;
7819           }
7820
7821         case 'r':
7822           switch (name[1])
7823           {
7824             case 'a':
7825               if (name[2] == 'n' &&
7826                   name[3] == 'd')
7827               {                                   /* rand       */
7828                 return -KEY_rand;
7829               }
7830
7831               goto unknown;
7832
7833             case 'e':
7834               switch (name[2])
7835               {
7836                 case 'a':
7837                   if (name[3] == 'd')
7838                   {                               /* read       */
7839                     return -KEY_read;
7840                   }
7841
7842                   goto unknown;
7843
7844                 case 'c':
7845                   if (name[3] == 'v')
7846                   {                               /* recv       */
7847                     return -KEY_recv;
7848                   }
7849
7850                   goto unknown;
7851
7852                 case 'd':
7853                   if (name[3] == 'o')
7854                   {                               /* redo       */
7855                     return KEY_redo;
7856                   }
7857
7858                   goto unknown;
7859
7860                 default:
7861                   goto unknown;
7862               }
7863
7864             default:
7865               goto unknown;
7866           }
7867
7868         case 's':
7869           switch (name[1])
7870           {
7871             case 'e':
7872               switch (name[2])
7873               {
7874                 case 'e':
7875                   if (name[3] == 'k')
7876                   {                               /* seek       */
7877                     return -KEY_seek;
7878                   }
7879
7880                   goto unknown;
7881
7882                 case 'n':
7883                   if (name[3] == 'd')
7884                   {                               /* send       */
7885                     return -KEY_send;
7886                   }
7887
7888                   goto unknown;
7889
7890                 default:
7891                   goto unknown;
7892               }
7893
7894             case 'o':
7895               if (name[2] == 'r' &&
7896                   name[3] == 't')
7897               {                                   /* sort       */
7898                 return KEY_sort;
7899               }
7900
7901               goto unknown;
7902
7903             case 'q':
7904               if (name[2] == 'r' &&
7905                   name[3] == 't')
7906               {                                   /* sqrt       */
7907                 return -KEY_sqrt;
7908               }
7909
7910               goto unknown;
7911
7912             case 't':
7913               if (name[2] == 'a' &&
7914                   name[3] == 't')
7915               {                                   /* stat       */
7916                 return -KEY_stat;
7917               }
7918
7919               goto unknown;
7920
7921             default:
7922               goto unknown;
7923           }
7924
7925         case 't':
7926           switch (name[1])
7927           {
7928             case 'e':
7929               if (name[2] == 'l' &&
7930                   name[3] == 'l')
7931               {                                   /* tell       */
7932                 return -KEY_tell;
7933               }
7934
7935               goto unknown;
7936
7937             case 'i':
7938               switch (name[2])
7939               {
7940                 case 'e':
7941                   if (name[3] == 'd')
7942                   {                               /* tied       */
7943                     return KEY_tied;
7944                   }
7945
7946                   goto unknown;
7947
7948                 case 'm':
7949                   if (name[3] == 'e')
7950                   {                               /* time       */
7951                     return -KEY_time;
7952                   }
7953
7954                   goto unknown;
7955
7956                 default:
7957                   goto unknown;
7958               }
7959
7960             default:
7961               goto unknown;
7962           }
7963
7964         case 'w':
7965           switch (name[1])
7966           {
7967             case 'a':
7968               switch (name[2])
7969               {
7970                 case 'i':
7971                   if (name[3] == 't')
7972                   {                               /* wait       */
7973                     return -KEY_wait;
7974                   }
7975
7976                   goto unknown;
7977
7978                 case 'r':
7979                   if (name[3] == 'n')
7980                   {                               /* warn       */
7981                     return -KEY_warn;
7982                   }
7983
7984                   goto unknown;
7985
7986                 default:
7987                   goto unknown;
7988               }
7989
7990             case 'h':
7991               if (name[2] == 'e' &&
7992                   name[3] == 'n')
7993               {                                   /* when       */
7994                 return (all_keywords || FEATURE_IS_ENABLED("switch") ? KEY_when : 0);
7995               }
7996
7997               goto unknown;
7998
7999             default:
8000               goto unknown;
8001           }
8002
8003         default:
8004           goto unknown;
8005       }
8006
8007     case 5: /* 39 tokens of length 5 */
8008       switch (name[0])
8009       {
8010         case 'B':
8011           if (name[1] == 'E' &&
8012               name[2] == 'G' &&
8013               name[3] == 'I' &&
8014               name[4] == 'N')
8015           {                                       /* BEGIN      */
8016             return KEY_BEGIN;
8017           }
8018
8019           goto unknown;
8020
8021         case 'C':
8022           if (name[1] == 'H' &&
8023               name[2] == 'E' &&
8024               name[3] == 'C' &&
8025               name[4] == 'K')
8026           {                                       /* CHECK      */
8027             return KEY_CHECK;
8028           }
8029
8030           goto unknown;
8031
8032         case 'a':
8033           switch (name[1])
8034           {
8035             case 'l':
8036               if (name[2] == 'a' &&
8037                   name[3] == 'r' &&
8038                   name[4] == 'm')
8039               {                                   /* alarm      */
8040                 return -KEY_alarm;
8041               }
8042
8043               goto unknown;
8044
8045             case 't':
8046               if (name[2] == 'a' &&
8047                   name[3] == 'n' &&
8048                   name[4] == '2')
8049               {                                   /* atan2      */
8050                 return -KEY_atan2;
8051               }
8052
8053               goto unknown;
8054
8055             default:
8056               goto unknown;
8057           }
8058
8059         case 'b':
8060           switch (name[1])
8061           {
8062             case 'l':
8063               if (name[2] == 'e' &&
8064                   name[3] == 's' &&
8065                   name[4] == 's')
8066               {                                   /* bless      */
8067                 return -KEY_bless;
8068               }
8069
8070               goto unknown;
8071
8072             case 'r':
8073               if (name[2] == 'e' &&
8074                   name[3] == 'a' &&
8075                   name[4] == 'k')
8076               {                                   /* break      */
8077                 return (all_keywords || FEATURE_IS_ENABLED("switch") ? -KEY_break : 0);
8078               }
8079
8080               goto unknown;
8081
8082             default:
8083               goto unknown;
8084           }
8085
8086         case 'c':
8087           switch (name[1])
8088           {
8089             case 'h':
8090               switch (name[2])
8091               {
8092                 case 'd':
8093                   if (name[3] == 'i' &&
8094                       name[4] == 'r')
8095                   {                               /* chdir      */
8096                     return -KEY_chdir;
8097                   }
8098
8099                   goto unknown;
8100
8101                 case 'm':
8102                   if (name[3] == 'o' &&
8103                       name[4] == 'd')
8104                   {                               /* chmod      */
8105                     return -KEY_chmod;
8106                   }
8107
8108                   goto unknown;
8109
8110                 case 'o':
8111                   switch (name[3])
8112                   {
8113                     case 'm':
8114                       if (name[4] == 'p')
8115                       {                           /* chomp      */
8116                         return -KEY_chomp;
8117                       }
8118
8119                       goto unknown;
8120
8121                     case 'w':
8122                       if (name[4] == 'n')
8123                       {                           /* chown      */
8124                         return -KEY_chown;
8125                       }
8126
8127                       goto unknown;
8128
8129                     default:
8130                       goto unknown;
8131                   }
8132
8133                 default:
8134                   goto unknown;
8135               }
8136
8137             case 'l':
8138               if (name[2] == 'o' &&
8139                   name[3] == 's' &&
8140                   name[4] == 'e')
8141               {                                   /* close      */
8142                 return -KEY_close;
8143               }
8144
8145               goto unknown;
8146
8147             case 'r':
8148               if (name[2] == 'y' &&
8149                   name[3] == 'p' &&
8150                   name[4] == 't')
8151               {                                   /* crypt      */
8152                 return -KEY_crypt;
8153               }
8154
8155               goto unknown;
8156
8157             default:
8158               goto unknown;
8159           }
8160
8161         case 'e':
8162           if (name[1] == 'l' &&
8163               name[2] == 's' &&
8164               name[3] == 'i' &&
8165               name[4] == 'f')
8166           {                                       /* elsif      */
8167             return KEY_elsif;
8168           }
8169
8170           goto unknown;
8171
8172         case 'f':
8173           switch (name[1])
8174           {
8175             case 'c':
8176               if (name[2] == 'n' &&
8177                   name[3] == 't' &&
8178                   name[4] == 'l')
8179               {                                   /* fcntl      */
8180                 return -KEY_fcntl;
8181               }
8182
8183               goto unknown;
8184
8185             case 'l':
8186               if (name[2] == 'o' &&
8187                   name[3] == 'c' &&
8188                   name[4] == 'k')
8189               {                                   /* flock      */
8190                 return -KEY_flock;
8191               }
8192
8193               goto unknown;
8194
8195             default:
8196               goto unknown;
8197           }
8198
8199         case 'g':
8200           if (name[1] == 'i' &&
8201               name[2] == 'v' &&
8202               name[3] == 'e' &&
8203               name[4] == 'n')
8204           {                                       /* given      */
8205             return (all_keywords || FEATURE_IS_ENABLED("switch") ? KEY_given : 0);
8206           }
8207
8208           goto unknown;
8209
8210         case 'i':
8211           switch (name[1])
8212           {
8213             case 'n':
8214               if (name[2] == 'd' &&
8215                   name[3] == 'e' &&
8216                   name[4] == 'x')
8217               {                                   /* index      */
8218                 return -KEY_index;
8219               }
8220
8221               goto unknown;
8222
8223             case 'o':
8224               if (name[2] == 'c' &&
8225                   name[3] == 't' &&
8226                   name[4] == 'l')
8227               {                                   /* ioctl      */
8228                 return -KEY_ioctl;
8229               }
8230
8231               goto unknown;
8232
8233             default:
8234               goto unknown;
8235           }
8236
8237         case 'l':
8238           switch (name[1])
8239           {
8240             case 'o':
8241               if (name[2] == 'c' &&
8242                   name[3] == 'a' &&
8243                   name[4] == 'l')
8244               {                                   /* local      */
8245                 return KEY_local;
8246               }
8247
8248               goto unknown;
8249
8250             case 's':
8251               if (name[2] == 't' &&
8252                   name[3] == 'a' &&
8253                   name[4] == 't')
8254               {                                   /* lstat      */
8255                 return -KEY_lstat;
8256               }
8257
8258               goto unknown;
8259
8260             default:
8261               goto unknown;
8262           }
8263
8264         case 'm':
8265           if (name[1] == 'k' &&
8266               name[2] == 'd' &&
8267               name[3] == 'i' &&
8268               name[4] == 'r')
8269           {                                       /* mkdir      */
8270             return -KEY_mkdir;
8271           }
8272
8273           goto unknown;
8274
8275         case 'p':
8276           if (name[1] == 'r' &&
8277               name[2] == 'i' &&
8278               name[3] == 'n' &&
8279               name[4] == 't')
8280           {                                       /* print      */
8281             return KEY_print;
8282           }
8283
8284           goto unknown;
8285
8286         case 'r':
8287           switch (name[1])
8288           {
8289             case 'e':
8290               if (name[2] == 's' &&
8291                   name[3] == 'e' &&
8292                   name[4] == 't')
8293               {                                   /* reset      */
8294                 return -KEY_reset;
8295               }
8296
8297               goto unknown;
8298
8299             case 'm':
8300               if (name[2] == 'd' &&
8301                   name[3] == 'i' &&
8302                   name[4] == 'r')
8303               {                                   /* rmdir      */
8304                 return -KEY_rmdir;
8305               }
8306
8307               goto unknown;
8308
8309             default:
8310               goto unknown;
8311           }
8312
8313         case 's':
8314           switch (name[1])
8315           {
8316             case 'e':
8317               if (name[2] == 'm' &&
8318                   name[3] == 'o' &&
8319                   name[4] == 'p')
8320               {                                   /* semop      */
8321                 return -KEY_semop;
8322               }
8323
8324               goto unknown;
8325
8326             case 'h':
8327               if (name[2] == 'i' &&
8328                   name[3] == 'f' &&
8329                   name[4] == 't')
8330               {                                   /* shift      */
8331                 return -KEY_shift;
8332               }
8333
8334               goto unknown;
8335
8336             case 'l':
8337               if (name[2] == 'e' &&
8338                   name[3] == 'e' &&
8339                   name[4] == 'p')
8340               {                                   /* sleep      */
8341                 return -KEY_sleep;
8342               }
8343
8344               goto unknown;
8345
8346             case 'p':
8347               if (name[2] == 'l' &&
8348                   name[3] == 'i' &&
8349                   name[4] == 't')
8350               {                                   /* split      */
8351                 return KEY_split;
8352               }
8353
8354               goto unknown;
8355
8356             case 'r':
8357               if (name[2] == 'a' &&
8358                   name[3] == 'n' &&
8359                   name[4] == 'd')
8360               {                                   /* srand      */
8361                 return -KEY_srand;
8362               }
8363
8364               goto unknown;
8365
8366             case 't':
8367               switch (name[2])
8368               {
8369                 case 'a':
8370                   if (name[3] == 't' &&
8371                       name[4] == 'e')
8372                   {                               /* state      */
8373                     return (all_keywords || FEATURE_IS_ENABLED("state") ? KEY_state : 0);
8374                   }
8375
8376                   goto unknown;
8377
8378                 case 'u':
8379                   if (name[3] == 'd' &&
8380                       name[4] == 'y')
8381                   {                               /* study      */
8382                     return KEY_study;
8383                   }
8384
8385                   goto unknown;
8386
8387                 default:
8388                   goto unknown;
8389               }
8390
8391             default:
8392               goto unknown;
8393           }
8394
8395         case 't':
8396           if (name[1] == 'i' &&
8397               name[2] == 'm' &&
8398               name[3] == 'e' &&
8399               name[4] == 's')
8400           {                                       /* times      */
8401             return -KEY_times;
8402           }
8403
8404           goto unknown;
8405
8406         case 'u':
8407           switch (name[1])
8408           {
8409             case 'm':
8410               if (name[2] == 'a' &&
8411                   name[3] == 's' &&
8412                   name[4] == 'k')
8413               {                                   /* umask      */
8414                 return -KEY_umask;
8415               }
8416
8417               goto unknown;
8418
8419             case 'n':
8420               switch (name[2])
8421               {
8422                 case 'd':
8423                   if (name[3] == 'e' &&
8424                       name[4] == 'f')
8425                   {                               /* undef      */
8426                     return KEY_undef;
8427                   }
8428
8429                   goto unknown;
8430
8431                 case 't':
8432                   if (name[3] == 'i')
8433                   {
8434                     switch (name[4])
8435                     {
8436                       case 'e':
8437                         {                         /* untie      */
8438                           return KEY_untie;
8439                         }
8440
8441                       case 'l':
8442                         {                         /* until      */
8443                           return KEY_until;
8444                         }
8445
8446                       default:
8447                         goto unknown;
8448                     }
8449                   }
8450
8451                   goto unknown;
8452
8453                 default:
8454                   goto unknown;
8455               }
8456
8457             case 't':
8458               if (name[2] == 'i' &&
8459                   name[3] == 'm' &&
8460                   name[4] == 'e')
8461               {                                   /* utime      */
8462                 return -KEY_utime;
8463               }
8464
8465               goto unknown;
8466
8467             default:
8468               goto unknown;
8469           }
8470
8471         case 'w':
8472           switch (name[1])
8473           {
8474             case 'h':
8475               if (name[2] == 'i' &&
8476                   name[3] == 'l' &&
8477                   name[4] == 'e')
8478               {                                   /* while      */
8479                 return KEY_while;
8480               }
8481
8482               goto unknown;
8483
8484             case 'r':
8485               if (name[2] == 'i' &&
8486                   name[3] == 't' &&
8487                   name[4] == 'e')
8488               {                                   /* write      */
8489                 return -KEY_write;
8490               }
8491
8492               goto unknown;
8493
8494             default:
8495               goto unknown;
8496           }
8497
8498         default:
8499           goto unknown;
8500       }
8501
8502     case 6: /* 33 tokens of length 6 */
8503       switch (name[0])
8504       {
8505         case 'a':
8506           if (name[1] == 'c' &&
8507               name[2] == 'c' &&
8508               name[3] == 'e' &&
8509               name[4] == 'p' &&
8510               name[5] == 't')
8511           {                                       /* accept     */
8512             return -KEY_accept;
8513           }
8514
8515           goto unknown;
8516
8517         case 'c':
8518           switch (name[1])
8519           {
8520             case 'a':
8521               if (name[2] == 'l' &&
8522                   name[3] == 'l' &&
8523                   name[4] == 'e' &&
8524                   name[5] == 'r')
8525               {                                   /* caller     */
8526                 return -KEY_caller;
8527               }
8528
8529               goto unknown;
8530
8531             case 'h':
8532               if (name[2] == 'r' &&
8533                   name[3] == 'o' &&
8534                   name[4] == 'o' &&
8535                   name[5] == 't')
8536               {                                   /* chroot     */
8537                 return -KEY_chroot;
8538               }
8539
8540               goto unknown;
8541
8542             default:
8543               goto unknown;
8544           }
8545
8546         case 'd':
8547           if (name[1] == 'e' &&
8548               name[2] == 'l' &&
8549               name[3] == 'e' &&
8550               name[4] == 't' &&
8551               name[5] == 'e')
8552           {                                       /* delete     */
8553             return KEY_delete;
8554           }
8555
8556           goto unknown;
8557
8558         case 'e':
8559           switch (name[1])
8560           {
8561             case 'l':
8562               if (name[2] == 's' &&
8563                   name[3] == 'e' &&
8564                   name[4] == 'i' &&
8565                   name[5] == 'f')
8566               {                                   /* elseif     */
8567                 if(ckWARN_d(WARN_SYNTAX))
8568                   Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "elseif should be elsif");
8569               }
8570
8571               goto unknown;
8572
8573             case 'x':
8574               if (name[2] == 'i' &&
8575                   name[3] == 's' &&
8576                   name[4] == 't' &&
8577                   name[5] == 's')
8578               {                                   /* exists     */
8579                 return KEY_exists;
8580               }
8581
8582               goto unknown;
8583
8584             default:
8585               goto unknown;
8586           }
8587
8588         case 'f':
8589           switch (name[1])
8590           {
8591             case 'i':
8592               if (name[2] == 'l' &&
8593                   name[3] == 'e' &&
8594                   name[4] == 'n' &&
8595                   name[5] == 'o')
8596               {                                   /* fileno     */
8597                 return -KEY_fileno;
8598               }
8599
8600               goto unknown;
8601
8602             case 'o':
8603               if (name[2] == 'r' &&
8604                   name[3] == 'm' &&
8605                   name[4] == 'a' &&
8606                   name[5] == 't')
8607               {                                   /* format     */
8608                 return KEY_format;
8609               }
8610
8611               goto unknown;
8612
8613             default:
8614               goto unknown;
8615           }
8616
8617         case 'g':
8618           if (name[1] == 'm' &&
8619               name[2] == 't' &&
8620               name[3] == 'i' &&
8621               name[4] == 'm' &&
8622               name[5] == 'e')
8623           {                                       /* gmtime     */
8624             return -KEY_gmtime;
8625           }
8626
8627           goto unknown;
8628
8629         case 'l':
8630           switch (name[1])
8631           {
8632             case 'e':
8633               if (name[2] == 'n' &&
8634                   name[3] == 'g' &&
8635                   name[4] == 't' &&
8636                   name[5] == 'h')
8637               {                                   /* length     */
8638                 return -KEY_length;
8639               }
8640
8641               goto unknown;
8642
8643             case 'i':
8644               if (name[2] == 's' &&
8645                   name[3] == 't' &&
8646                   name[4] == 'e' &&
8647                   name[5] == 'n')
8648               {                                   /* listen     */
8649                 return -KEY_listen;
8650               }
8651
8652               goto unknown;
8653
8654             default:
8655               goto unknown;
8656           }
8657
8658         case 'm':
8659           if (name[1] == 's' &&
8660               name[2] == 'g')
8661           {
8662             switch (name[3])
8663             {
8664               case 'c':
8665                 if (name[4] == 't' &&
8666                     name[5] == 'l')
8667                 {                                 /* msgctl     */
8668                   return -KEY_msgctl;
8669                 }
8670
8671                 goto unknown;
8672
8673               case 'g':
8674                 if (name[4] == 'e' &&
8675                     name[5] == 't')
8676                 {                                 /* msgget     */
8677                   return -KEY_msgget;
8678                 }
8679
8680                 goto unknown;
8681
8682               case 'r':
8683                 if (name[4] == 'c' &&
8684                     name[5] == 'v')
8685                 {                                 /* msgrcv     */
8686                   return -KEY_msgrcv;
8687                 }
8688
8689                 goto unknown;
8690
8691               case 's':
8692                 if (name[4] == 'n' &&
8693                     name[5] == 'd')
8694                 {                                 /* msgsnd     */
8695                   return -KEY_msgsnd;
8696                 }
8697
8698                 goto unknown;
8699
8700               default:
8701                 goto unknown;
8702             }
8703           }
8704
8705           goto unknown;
8706
8707         case 'p':
8708           if (name[1] == 'r' &&
8709               name[2] == 'i' &&
8710               name[3] == 'n' &&
8711               name[4] == 't' &&
8712               name[5] == 'f')
8713           {                                       /* printf     */
8714             return KEY_printf;
8715           }
8716
8717           goto unknown;
8718
8719         case 'r':
8720           switch (name[1])
8721           {
8722             case 'e':
8723               switch (name[2])
8724               {
8725                 case 'n':
8726                   if (name[3] == 'a' &&
8727                       name[4] == 'm' &&
8728                       name[5] == 'e')
8729                   {                               /* rename     */
8730                     return -KEY_rename;
8731                   }
8732
8733                   goto unknown;
8734
8735                 case 't':
8736                   if (name[3] == 'u' &&
8737                       name[4] == 'r' &&
8738                       name[5] == 'n')
8739                   {                               /* return     */
8740                     return KEY_return;
8741                   }
8742
8743                   goto unknown;
8744
8745                 default:
8746                   goto unknown;
8747               }
8748
8749             case 'i':
8750               if (name[2] == 'n' &&
8751                   name[3] == 'd' &&
8752                   name[4] == 'e' &&
8753                   name[5] == 'x')
8754               {                                   /* rindex     */
8755                 return -KEY_rindex;
8756               }
8757
8758               goto unknown;
8759
8760             default:
8761               goto unknown;
8762           }
8763
8764         case 's':
8765           switch (name[1])
8766           {
8767             case 'c':
8768               if (name[2] == 'a' &&
8769                   name[3] == 'l' &&
8770                   name[4] == 'a' &&
8771                   name[5] == 'r')
8772               {                                   /* scalar     */
8773                 return KEY_scalar;
8774               }
8775
8776               goto unknown;
8777
8778             case 'e':
8779               switch (name[2])
8780               {
8781                 case 'l':
8782                   if (name[3] == 'e' &&
8783                       name[4] == 'c' &&
8784                       name[5] == 't')
8785                   {                               /* select     */
8786                     return -KEY_select;
8787                   }
8788
8789                   goto unknown;
8790
8791                 case 'm':
8792                   switch (name[3])
8793                   {
8794                     case 'c':
8795                       if (name[4] == 't' &&
8796                           name[5] == 'l')
8797                       {                           /* semctl     */
8798                         return -KEY_semctl;
8799                       }
8800
8801                       goto unknown;
8802
8803                     case 'g':
8804                       if (name[4] == 'e' &&
8805                           name[5] == 't')
8806                       {                           /* semget     */
8807                         return -KEY_semget;
8808                       }
8809
8810                       goto unknown;
8811
8812                     default:
8813                       goto unknown;
8814                   }
8815
8816                 default:
8817                   goto unknown;
8818               }
8819
8820             case 'h':
8821               if (name[2] == 'm')
8822               {
8823                 switch (name[3])
8824                 {
8825                   case 'c':
8826                     if (name[4] == 't' &&
8827                         name[5] == 'l')
8828                     {                             /* shmctl     */
8829                       return -KEY_shmctl;
8830                     }
8831
8832                     goto unknown;
8833
8834                   case 'g':
8835                     if (name[4] == 'e' &&
8836                         name[5] == 't')
8837                     {                             /* shmget     */
8838                       return -KEY_shmget;
8839                     }
8840
8841                     goto unknown;
8842
8843                   default:
8844                     goto unknown;
8845                 }
8846               }
8847
8848               goto unknown;
8849
8850             case 'o':
8851               if (name[2] == 'c' &&
8852                   name[3] == 'k' &&
8853                   name[4] == 'e' &&
8854                   name[5] == 't')
8855               {                                   /* socket     */
8856                 return -KEY_socket;
8857               }
8858
8859               goto unknown;
8860
8861             case 'p':
8862               if (name[2] == 'l' &&
8863                   name[3] == 'i' &&
8864                   name[4] == 'c' &&
8865                   name[5] == 'e')
8866               {                                   /* splice     */
8867                 return -KEY_splice;
8868               }
8869
8870               goto unknown;
8871
8872             case 'u':
8873               if (name[2] == 'b' &&
8874                   name[3] == 's' &&
8875                   name[4] == 't' &&
8876                   name[5] == 'r')
8877               {                                   /* substr     */
8878                 return -KEY_substr;
8879               }
8880
8881               goto unknown;
8882
8883             case 'y':
8884               if (name[2] == 's' &&
8885                   name[3] == 't' &&
8886                   name[4] == 'e' &&
8887                   name[5] == 'm')
8888               {                                   /* system     */
8889                 return -KEY_system;
8890               }
8891
8892               goto unknown;
8893
8894             default:
8895               goto unknown;
8896           }
8897
8898         case 'u':
8899           if (name[1] == 'n')
8900           {
8901             switch (name[2])
8902             {
8903               case 'l':
8904                 switch (name[3])
8905                 {
8906                   case 'e':
8907                     if (name[4] == 's' &&
8908                         name[5] == 's')
8909                     {                             /* unless     */
8910                       return KEY_unless;
8911                     }
8912
8913                     goto unknown;
8914
8915                   case 'i':
8916                     if (name[4] == 'n' &&
8917                         name[5] == 'k')
8918                     {                             /* unlink     */
8919                       return -KEY_unlink;
8920                     }
8921
8922                     goto unknown;
8923
8924                   default:
8925                     goto unknown;
8926                 }
8927
8928               case 'p':
8929                 if (name[3] == 'a' &&
8930                     name[4] == 'c' &&
8931                     name[5] == 'k')
8932                 {                                 /* unpack     */
8933                   return -KEY_unpack;
8934                 }
8935
8936                 goto unknown;
8937
8938               default:
8939                 goto unknown;
8940             }
8941           }
8942
8943           goto unknown;
8944
8945         case 'v':
8946           if (name[1] == 'a' &&
8947               name[2] == 'l' &&
8948               name[3] == 'u' &&
8949               name[4] == 'e' &&
8950               name[5] == 's')
8951           {                                       /* values     */
8952             return -KEY_values;
8953           }
8954
8955           goto unknown;
8956
8957         default:
8958           goto unknown;
8959       }
8960
8961     case 7: /* 29 tokens of length 7 */
8962       switch (name[0])
8963       {
8964         case 'D':
8965           if (name[1] == 'E' &&
8966               name[2] == 'S' &&
8967               name[3] == 'T' &&
8968               name[4] == 'R' &&
8969               name[5] == 'O' &&
8970               name[6] == 'Y')
8971           {                                       /* DESTROY    */
8972             return KEY_DESTROY;
8973           }
8974
8975           goto unknown;
8976
8977         case '_':
8978           if (name[1] == '_' &&
8979               name[2] == 'E' &&
8980               name[3] == 'N' &&
8981               name[4] == 'D' &&
8982               name[5] == '_' &&
8983               name[6] == '_')
8984           {                                       /* __END__    */
8985             return KEY___END__;
8986           }
8987
8988           goto unknown;
8989
8990         case 'b':
8991           if (name[1] == 'i' &&
8992               name[2] == 'n' &&
8993               name[3] == 'm' &&
8994               name[4] == 'o' &&
8995               name[5] == 'd' &&
8996               name[6] == 'e')
8997           {                                       /* binmode    */
8998             return -KEY_binmode;
8999           }
9000
9001           goto unknown;
9002
9003         case 'c':
9004           if (name[1] == 'o' &&
9005               name[2] == 'n' &&
9006               name[3] == 'n' &&
9007               name[4] == 'e' &&
9008               name[5] == 'c' &&
9009               name[6] == 't')
9010           {                                       /* connect    */
9011             return -KEY_connect;
9012           }
9013
9014           goto unknown;
9015
9016         case 'd':
9017           switch (name[1])
9018           {
9019             case 'b':
9020               if (name[2] == 'm' &&
9021                   name[3] == 'o' &&
9022                   name[4] == 'p' &&
9023                   name[5] == 'e' &&
9024                   name[6] == 'n')
9025               {                                   /* dbmopen    */
9026                 return -KEY_dbmopen;
9027               }
9028
9029               goto unknown;
9030
9031             case 'e':
9032               if (name[2] == 'f')
9033               {
9034                 switch (name[3])
9035                 {
9036                   case 'a':
9037                     if (name[4] == 'u' &&
9038                         name[5] == 'l' &&
9039                         name[6] == 't')
9040                     {                             /* default    */
9041                       return (all_keywords || FEATURE_IS_ENABLED("switch") ? KEY_default : 0);
9042                     }
9043
9044                     goto unknown;
9045
9046                   case 'i':
9047                     if (name[4] == 'n' &&
9048                         name[5] == 'e' &&
9049                         name[6] == 'd')
9050                     {                             /* defined    */
9051                       return KEY_defined;
9052                     }
9053
9054                     goto unknown;
9055
9056                   default:
9057                     goto unknown;
9058                 }
9059               }
9060
9061               goto unknown;
9062
9063             default:
9064               goto unknown;
9065           }
9066
9067         case 'f':
9068           if (name[1] == 'o' &&
9069               name[2] == 'r' &&
9070               name[3] == 'e' &&
9071               name[4] == 'a' &&
9072               name[5] == 'c' &&
9073               name[6] == 'h')
9074           {                                       /* foreach    */
9075             return KEY_foreach;
9076           }
9077
9078           goto unknown;
9079
9080         case 'g':
9081           if (name[1] == 'e' &&
9082               name[2] == 't' &&
9083               name[3] == 'p')
9084           {
9085             switch (name[4])
9086             {
9087               case 'g':
9088                 if (name[5] == 'r' &&
9089                     name[6] == 'p')
9090                 {                                 /* getpgrp    */
9091                   return -KEY_getpgrp;
9092                 }
9093
9094                 goto unknown;
9095
9096               case 'p':
9097                 if (name[5] == 'i' &&
9098                     name[6] == 'd')
9099                 {                                 /* getppid    */
9100                   return -KEY_getppid;
9101                 }
9102
9103                 goto unknown;
9104
9105               default:
9106                 goto unknown;
9107             }
9108           }
9109
9110           goto unknown;
9111
9112         case 'l':
9113           if (name[1] == 'c' &&
9114               name[2] == 'f' &&
9115               name[3] == 'i' &&
9116               name[4] == 'r' &&
9117               name[5] == 's' &&
9118               name[6] == 't')
9119           {                                       /* lcfirst    */
9120             return -KEY_lcfirst;
9121           }
9122
9123           goto unknown;
9124
9125         case 'o':
9126           if (name[1] == 'p' &&
9127               name[2] == 'e' &&
9128               name[3] == 'n' &&
9129               name[4] == 'd' &&
9130               name[5] == 'i' &&
9131               name[6] == 'r')
9132           {                                       /* opendir    */
9133             return -KEY_opendir;
9134           }
9135
9136           goto unknown;
9137
9138         case 'p':
9139           if (name[1] == 'a' &&
9140               name[2] == 'c' &&
9141               name[3] == 'k' &&
9142               name[4] == 'a' &&
9143               name[5] == 'g' &&
9144               name[6] == 'e')
9145           {                                       /* package    */
9146             return KEY_package;
9147           }
9148
9149           goto unknown;
9150
9151         case 'r':
9152           if (name[1] == 'e')
9153           {
9154             switch (name[2])
9155             {
9156               case 'a':
9157                 if (name[3] == 'd' &&
9158                     name[4] == 'd' &&
9159                     name[5] == 'i' &&
9160                     name[6] == 'r')
9161                 {                                 /* readdir    */
9162                   return -KEY_readdir;
9163                 }
9164
9165                 goto unknown;
9166
9167               case 'q':
9168                 if (name[3] == 'u' &&
9169                     name[4] == 'i' &&
9170                     name[5] == 'r' &&
9171                     name[6] == 'e')
9172                 {                                 /* require    */
9173                   return KEY_require;
9174                 }
9175
9176                 goto unknown;
9177
9178               case 'v':
9179                 if (name[3] == 'e' &&
9180                     name[4] == 'r' &&
9181                     name[5] == 's' &&
9182                     name[6] == 'e')
9183                 {                                 /* reverse    */
9184                   return -KEY_reverse;
9185                 }
9186
9187                 goto unknown;
9188
9189               default:
9190                 goto unknown;
9191             }
9192           }
9193
9194           goto unknown;
9195
9196         case 's':
9197           switch (name[1])
9198           {
9199             case 'e':
9200               switch (name[2])
9201               {
9202                 case 'e':
9203                   if (name[3] == 'k' &&
9204                       name[4] == 'd' &&
9205                       name[5] == 'i' &&
9206                       name[6] == 'r')
9207                   {                               /* seekdir    */
9208                     return -KEY_seekdir;
9209                   }
9210
9211                   goto unknown;
9212
9213                 case 't':
9214                   if (name[3] == 'p' &&
9215                       name[4] == 'g' &&
9216                       name[5] == 'r' &&
9217                       name[6] == 'p')
9218                   {                               /* setpgrp    */
9219                     return -KEY_setpgrp;
9220                   }
9221
9222                   goto unknown;
9223
9224                 default:
9225                   goto unknown;
9226               }
9227
9228             case 'h':
9229               if (name[2] == 'm' &&
9230                   name[3] == 'r' &&
9231                   name[4] == 'e' &&
9232                   name[5] == 'a' &&
9233                   name[6] == 'd')
9234               {                                   /* shmread    */
9235                 return -KEY_shmread;
9236               }
9237
9238               goto unknown;
9239
9240             case 'p':
9241               if (name[2] == 'r' &&
9242                   name[3] == 'i' &&
9243                   name[4] == 'n' &&
9244                   name[5] == 't' &&
9245                   name[6] == 'f')
9246               {                                   /* sprintf    */
9247                 return -KEY_sprintf;
9248               }
9249
9250               goto unknown;
9251
9252             case 'y':
9253               switch (name[2])
9254               {
9255                 case 'm':
9256                   if (name[3] == 'l' &&
9257                       name[4] == 'i' &&
9258                       name[5] == 'n' &&
9259                       name[6] == 'k')
9260                   {                               /* symlink    */
9261                     return -KEY_symlink;
9262                   }
9263
9264                   goto unknown;
9265
9266                 case 's':
9267                   switch (name[3])
9268                   {
9269                     case 'c':
9270                       if (name[4] == 'a' &&
9271                           name[5] == 'l' &&
9272                           name[6] == 'l')
9273                       {                           /* syscall    */
9274                         return -KEY_syscall;
9275                       }
9276
9277                       goto unknown;
9278
9279                     case 'o':
9280                       if (name[4] == 'p' &&
9281                           name[5] == 'e' &&
9282                           name[6] == 'n')
9283                       {                           /* sysopen    */
9284                         return -KEY_sysopen;
9285                       }
9286
9287                       goto unknown;
9288
9289                     case 'r':
9290                       if (name[4] == 'e' &&
9291                           name[5] == 'a' &&
9292                           name[6] == 'd')
9293                       {                           /* sysread    */
9294                         return -KEY_sysread;
9295                       }
9296
9297                       goto unknown;
9298
9299                     case 's':
9300                       if (name[4] == 'e' &&
9301                           name[5] == 'e' &&
9302                           name[6] == 'k')
9303                       {                           /* sysseek    */
9304                         return -KEY_sysseek;
9305                       }
9306
9307                       goto unknown;
9308
9309                     default:
9310                       goto unknown;
9311                   }
9312
9313                 default:
9314                   goto unknown;
9315               }
9316
9317             default:
9318               goto unknown;
9319           }
9320
9321         case 't':
9322           if (name[1] == 'e' &&
9323               name[2] == 'l' &&
9324               name[3] == 'l' &&
9325               name[4] == 'd' &&
9326               name[5] == 'i' &&
9327               name[6] == 'r')
9328           {                                       /* telldir    */
9329             return -KEY_telldir;
9330           }
9331
9332           goto unknown;
9333
9334         case 'u':
9335           switch (name[1])
9336           {
9337             case 'c':
9338               if (name[2] == 'f' &&
9339                   name[3] == 'i' &&
9340                   name[4] == 'r' &&
9341                   name[5] == 's' &&
9342                   name[6] == 't')
9343               {                                   /* ucfirst    */
9344                 return -KEY_ucfirst;
9345               }
9346
9347               goto unknown;
9348
9349             case 'n':
9350               if (name[2] == 's' &&
9351                   name[3] == 'h' &&
9352                   name[4] == 'i' &&
9353                   name[5] == 'f' &&
9354                   name[6] == 't')
9355               {                                   /* unshift    */
9356                 return -KEY_unshift;
9357               }
9358
9359               goto unknown;
9360
9361             default:
9362               goto unknown;
9363           }
9364
9365         case 'w':
9366           if (name[1] == 'a' &&
9367               name[2] == 'i' &&
9368               name[3] == 't' &&
9369               name[4] == 'p' &&
9370               name[5] == 'i' &&
9371               name[6] == 'd')
9372           {                                       /* waitpid    */
9373             return -KEY_waitpid;
9374           }
9375
9376           goto unknown;
9377
9378         default:
9379           goto unknown;
9380       }
9381
9382     case 8: /* 26 tokens of length 8 */
9383       switch (name[0])
9384       {
9385         case 'A':
9386           if (name[1] == 'U' &&
9387               name[2] == 'T' &&
9388               name[3] == 'O' &&
9389               name[4] == 'L' &&
9390               name[5] == 'O' &&
9391               name[6] == 'A' &&
9392               name[7] == 'D')
9393           {                                       /* AUTOLOAD   */
9394             return KEY_AUTOLOAD;
9395           }
9396
9397           goto unknown;
9398
9399         case '_':
9400           if (name[1] == '_')
9401           {
9402             switch (name[2])
9403             {
9404               case 'D':
9405                 if (name[3] == 'A' &&
9406                     name[4] == 'T' &&
9407                     name[5] == 'A' &&
9408                     name[6] == '_' &&
9409                     name[7] == '_')
9410                 {                                 /* __DATA__   */
9411                   return KEY___DATA__;
9412                 }
9413
9414                 goto unknown;
9415
9416               case 'F':
9417                 if (name[3] == 'I' &&
9418                     name[4] == 'L' &&
9419                     name[5] == 'E' &&
9420                     name[6] == '_' &&
9421                     name[7] == '_')
9422                 {                                 /* __FILE__   */
9423                   return -KEY___FILE__;
9424                 }
9425
9426                 goto unknown;
9427
9428               case 'L':
9429                 if (name[3] == 'I' &&
9430                     name[4] == 'N' &&
9431                     name[5] == 'E' &&
9432                     name[6] == '_' &&
9433                     name[7] == '_')
9434                 {                                 /* __LINE__   */
9435                   return -KEY___LINE__;
9436                 }
9437
9438                 goto unknown;
9439
9440               default:
9441                 goto unknown;
9442             }
9443           }
9444
9445           goto unknown;
9446
9447         case 'c':
9448           switch (name[1])
9449           {
9450             case 'l':
9451               if (name[2] == 'o' &&
9452                   name[3] == 's' &&
9453                   name[4] == 'e' &&
9454                   name[5] == 'd' &&
9455                   name[6] == 'i' &&
9456                   name[7] == 'r')
9457               {                                   /* closedir   */
9458                 return -KEY_closedir;
9459               }
9460
9461               goto unknown;
9462
9463             case 'o':
9464               if (name[2] == 'n' &&
9465                   name[3] == 't' &&
9466                   name[4] == 'i' &&
9467                   name[5] == 'n' &&
9468                   name[6] == 'u' &&
9469                   name[7] == 'e')
9470               {                                   /* continue   */
9471                 return -KEY_continue;
9472               }
9473
9474               goto unknown;
9475
9476             default:
9477               goto unknown;
9478           }
9479
9480         case 'd':
9481           if (name[1] == 'b' &&
9482               name[2] == 'm' &&
9483               name[3] == 'c' &&
9484               name[4] == 'l' &&
9485               name[5] == 'o' &&
9486               name[6] == 's' &&
9487               name[7] == 'e')
9488           {                                       /* dbmclose   */
9489             return -KEY_dbmclose;
9490           }
9491
9492           goto unknown;
9493
9494         case 'e':
9495           if (name[1] == 'n' &&
9496               name[2] == 'd')
9497           {
9498             switch (name[3])
9499             {
9500               case 'g':
9501                 if (name[4] == 'r' &&
9502                     name[5] == 'e' &&
9503                     name[6] == 'n' &&
9504                     name[7] == 't')
9505                 {                                 /* endgrent   */
9506                   return -KEY_endgrent;
9507                 }
9508
9509                 goto unknown;
9510
9511               case 'p':
9512                 if (name[4] == 'w' &&
9513                     name[5] == 'e' &&
9514                     name[6] == 'n' &&
9515                     name[7] == 't')
9516                 {                                 /* endpwent   */
9517                   return -KEY_endpwent;
9518                 }
9519
9520                 goto unknown;
9521
9522               default:
9523                 goto unknown;
9524             }
9525           }
9526
9527           goto unknown;
9528
9529         case 'f':
9530           if (name[1] == 'o' &&
9531               name[2] == 'r' &&
9532               name[3] == 'm' &&
9533               name[4] == 'l' &&
9534               name[5] == 'i' &&
9535               name[6] == 'n' &&
9536               name[7] == 'e')
9537           {                                       /* formline   */
9538             return -KEY_formline;
9539           }
9540
9541           goto unknown;
9542
9543         case 'g':
9544           if (name[1] == 'e' &&
9545               name[2] == 't')
9546           {
9547             switch (name[3])
9548             {
9549               case 'g':
9550                 if (name[4] == 'r')
9551                 {
9552                   switch (name[5])
9553                   {
9554                     case 'e':
9555                       if (name[6] == 'n' &&
9556                           name[7] == 't')
9557                       {                           /* getgrent   */
9558                         return -KEY_getgrent;
9559                       }
9560
9561                       goto unknown;
9562
9563                     case 'g':
9564                       if (name[6] == 'i' &&
9565                           name[7] == 'd')
9566                       {                           /* getgrgid   */
9567                         return -KEY_getgrgid;
9568                       }
9569
9570                       goto unknown;
9571
9572                     case 'n':
9573                       if (name[6] == 'a' &&
9574                           name[7] == 'm')
9575                       {                           /* getgrnam   */
9576                         return -KEY_getgrnam;
9577                       }
9578
9579                       goto unknown;
9580
9581                     default:
9582                       goto unknown;
9583                   }
9584                 }
9585
9586                 goto unknown;
9587
9588               case 'l':
9589                 if (name[4] == 'o' &&
9590                     name[5] == 'g' &&
9591                     name[6] == 'i' &&
9592                     name[7] == 'n')
9593                 {                                 /* getlogin   */
9594                   return -KEY_getlogin;
9595                 }
9596
9597                 goto unknown;
9598
9599               case 'p':
9600                 if (name[4] == 'w')
9601                 {
9602                   switch (name[5])
9603                   {
9604                     case 'e':
9605                       if (name[6] == 'n' &&
9606                           name[7] == 't')
9607                       {                           /* getpwent   */
9608                         return -KEY_getpwent;
9609                       }
9610
9611                       goto unknown;
9612
9613                     case 'n':
9614                       if (name[6] == 'a' &&
9615                           name[7] == 'm')
9616                       {                           /* getpwnam   */
9617                         return -KEY_getpwnam;
9618                       }
9619
9620                       goto unknown;
9621
9622                     case 'u':
9623                       if (name[6] == 'i' &&
9624                           name[7] == 'd')
9625                       {                           /* getpwuid   */
9626                         return -KEY_getpwuid;
9627                       }
9628
9629                       goto unknown;
9630
9631                     default:
9632                       goto unknown;
9633                   }
9634                 }
9635
9636                 goto unknown;
9637
9638               default:
9639                 goto unknown;
9640             }
9641           }
9642
9643           goto unknown;
9644
9645         case 'r':
9646           if (name[1] == 'e' &&
9647               name[2] == 'a' &&
9648               name[3] == 'd')
9649           {
9650             switch (name[4])
9651             {
9652               case 'l':
9653                 if (name[5] == 'i' &&
9654                     name[6] == 'n')
9655                 {
9656                   switch (name[7])
9657                   {
9658                     case 'e':
9659                       {                           /* readline   */
9660                         return -KEY_readline;
9661                       }
9662
9663                     case 'k':
9664                       {                           /* readlink   */
9665                         return -KEY_readlink;
9666                       }
9667
9668                     default:
9669                       goto unknown;
9670                   }
9671                 }
9672
9673                 goto unknown;
9674
9675               case 'p':
9676                 if (name[5] == 'i' &&
9677                     name[6] == 'p' &&
9678                     name[7] == 'e')
9679                 {                                 /* readpipe   */
9680                   return -KEY_readpipe;
9681                 }
9682
9683                 goto unknown;
9684
9685               default:
9686                 goto unknown;
9687             }
9688           }
9689
9690           goto unknown;
9691
9692         case 's':
9693           switch (name[1])
9694           {
9695             case 'e':
9696               if (name[2] == 't')
9697               {
9698                 switch (name[3])
9699                 {
9700                   case 'g':
9701                     if (name[4] == 'r' &&
9702                         name[5] == 'e' &&
9703                         name[6] == 'n' &&
9704                         name[7] == 't')
9705                     {                             /* setgrent   */
9706                       return -KEY_setgrent;
9707                     }
9708
9709                     goto unknown;
9710
9711                   case 'p':
9712                     if (name[4] == 'w' &&
9713                         name[5] == 'e' &&
9714                         name[6] == 'n' &&
9715                         name[7] == 't')
9716                     {                             /* setpwent   */
9717                       return -KEY_setpwent;
9718                     }
9719
9720                     goto unknown;
9721
9722                   default:
9723                     goto unknown;
9724                 }
9725               }
9726
9727               goto unknown;
9728
9729             case 'h':
9730               switch (name[2])
9731               {
9732                 case 'm':
9733                   if (name[3] == 'w' &&
9734                       name[4] == 'r' &&
9735                       name[5] == 'i' &&
9736                       name[6] == 't' &&
9737                       name[7] == 'e')
9738                   {                               /* shmwrite   */
9739                     return -KEY_shmwrite;
9740                   }
9741
9742                   goto unknown;
9743
9744                 case 'u':
9745                   if (name[3] == 't' &&
9746                       name[4] == 'd' &&
9747                       name[5] == 'o' &&
9748                       name[6] == 'w' &&
9749                       name[7] == 'n')
9750                   {                               /* shutdown   */
9751                     return -KEY_shutdown;
9752                   }
9753
9754                   goto unknown;
9755
9756                 default:
9757                   goto unknown;
9758               }
9759
9760             case 'y':
9761               if (name[2] == 's' &&
9762                   name[3] == 'w' &&
9763                   name[4] == 'r' &&
9764                   name[5] == 'i' &&
9765                   name[6] == 't' &&
9766                   name[7] == 'e')
9767               {                                   /* syswrite   */
9768                 return -KEY_syswrite;
9769               }
9770
9771               goto unknown;
9772
9773             default:
9774               goto unknown;
9775           }
9776
9777         case 't':
9778           if (name[1] == 'r' &&
9779               name[2] == 'u' &&
9780               name[3] == 'n' &&
9781               name[4] == 'c' &&
9782               name[5] == 'a' &&
9783               name[6] == 't' &&
9784               name[7] == 'e')
9785           {                                       /* truncate   */
9786             return -KEY_truncate;
9787           }
9788
9789           goto unknown;
9790
9791         default:
9792           goto unknown;
9793       }
9794
9795     case 9: /* 9 tokens of length 9 */
9796       switch (name[0])
9797       {
9798         case 'U':
9799           if (name[1] == 'N' &&
9800               name[2] == 'I' &&
9801               name[3] == 'T' &&
9802               name[4] == 'C' &&
9803               name[5] == 'H' &&
9804               name[6] == 'E' &&
9805               name[7] == 'C' &&
9806               name[8] == 'K')
9807           {                                       /* UNITCHECK  */
9808             return KEY_UNITCHECK;
9809           }
9810
9811           goto unknown;
9812
9813         case 'e':
9814           if (name[1] == 'n' &&
9815               name[2] == 'd' &&
9816               name[3] == 'n' &&
9817               name[4] == 'e' &&
9818               name[5] == 't' &&
9819               name[6] == 'e' &&
9820               name[7] == 'n' &&
9821               name[8] == 't')
9822           {                                       /* endnetent  */
9823             return -KEY_endnetent;
9824           }
9825
9826           goto unknown;
9827
9828         case 'g':
9829           if (name[1] == 'e' &&
9830               name[2] == 't' &&
9831               name[3] == 'n' &&
9832               name[4] == 'e' &&
9833               name[5] == 't' &&
9834               name[6] == 'e' &&
9835               name[7] == 'n' &&
9836               name[8] == 't')
9837           {                                       /* getnetent  */
9838             return -KEY_getnetent;
9839           }
9840
9841           goto unknown;
9842
9843         case 'l':
9844           if (name[1] == 'o' &&
9845               name[2] == 'c' &&
9846               name[3] == 'a' &&
9847               name[4] == 'l' &&
9848               name[5] == 't' &&
9849               name[6] == 'i' &&
9850               name[7] == 'm' &&
9851               name[8] == 'e')
9852           {                                       /* localtime  */
9853             return -KEY_localtime;
9854           }
9855
9856           goto unknown;
9857
9858         case 'p':
9859           if (name[1] == 'r' &&
9860               name[2] == 'o' &&
9861               name[3] == 't' &&
9862               name[4] == 'o' &&
9863               name[5] == 't' &&
9864               name[6] == 'y' &&
9865               name[7] == 'p' &&
9866               name[8] == 'e')
9867           {                                       /* prototype  */
9868             return KEY_prototype;
9869           }
9870
9871           goto unknown;
9872
9873         case 'q':
9874           if (name[1] == 'u' &&
9875               name[2] == 'o' &&
9876               name[3] == 't' &&
9877               name[4] == 'e' &&
9878               name[5] == 'm' &&
9879               name[6] == 'e' &&
9880               name[7] == 't' &&
9881               name[8] == 'a')
9882           {                                       /* quotemeta  */
9883             return -KEY_quotemeta;
9884           }
9885
9886           goto unknown;
9887
9888         case 'r':
9889           if (name[1] == 'e' &&
9890               name[2] == 'w' &&
9891               name[3] == 'i' &&
9892               name[4] == 'n' &&
9893               name[5] == 'd' &&
9894               name[6] == 'd' &&
9895               name[7] == 'i' &&
9896               name[8] == 'r')
9897           {                                       /* rewinddir  */
9898             return -KEY_rewinddir;
9899           }
9900
9901           goto unknown;
9902
9903         case 's':
9904           if (name[1] == 'e' &&
9905               name[2] == 't' &&
9906               name[3] == 'n' &&
9907               name[4] == 'e' &&
9908               name[5] == 't' &&
9909               name[6] == 'e' &&
9910               name[7] == 'n' &&
9911               name[8] == 't')
9912           {                                       /* setnetent  */
9913             return -KEY_setnetent;
9914           }
9915
9916           goto unknown;
9917
9918         case 'w':
9919           if (name[1] == 'a' &&
9920               name[2] == 'n' &&
9921               name[3] == 't' &&
9922               name[4] == 'a' &&
9923               name[5] == 'r' &&
9924               name[6] == 'r' &&
9925               name[7] == 'a' &&
9926               name[8] == 'y')
9927           {                                       /* wantarray  */
9928             return -KEY_wantarray;
9929           }
9930
9931           goto unknown;
9932
9933         default:
9934           goto unknown;
9935       }
9936
9937     case 10: /* 9 tokens of length 10 */
9938       switch (name[0])
9939       {
9940         case 'e':
9941           if (name[1] == 'n' &&
9942               name[2] == 'd')
9943           {
9944             switch (name[3])
9945             {
9946               case 'h':
9947                 if (name[4] == 'o' &&
9948                     name[5] == 's' &&
9949                     name[6] == 't' &&
9950                     name[7] == 'e' &&
9951                     name[8] == 'n' &&
9952                     name[9] == 't')
9953                 {                                 /* endhostent */
9954                   return -KEY_endhostent;
9955                 }
9956
9957                 goto unknown;
9958
9959               case 's':
9960                 if (name[4] == 'e' &&
9961                     name[5] == 'r' &&
9962                     name[6] == 'v' &&
9963                     name[7] == 'e' &&
9964                     name[8] == 'n' &&
9965                     name[9] == 't')
9966                 {                                 /* endservent */
9967                   return -KEY_endservent;
9968                 }
9969
9970                 goto unknown;
9971
9972               default:
9973                 goto unknown;
9974             }
9975           }
9976
9977           goto unknown;
9978
9979         case 'g':
9980           if (name[1] == 'e' &&
9981               name[2] == 't')
9982           {
9983             switch (name[3])
9984             {
9985               case 'h':
9986                 if (name[4] == 'o' &&
9987                     name[5] == 's' &&
9988                     name[6] == 't' &&
9989                     name[7] == 'e' &&
9990                     name[8] == 'n' &&
9991                     name[9] == 't')
9992                 {                                 /* gethostent */
9993                   return -KEY_gethostent;
9994                 }
9995
9996                 goto unknown;
9997
9998               case 's':
9999                 switch (name[4])
10000                 {
10001                   case 'e':
10002                     if (name[5] == 'r' &&
10003                         name[6] == 'v' &&
10004                         name[7] == 'e' &&
10005                         name[8] == 'n' &&
10006                         name[9] == 't')
10007                     {                             /* getservent */
10008                       return -KEY_getservent;
10009                     }
10010
10011                     goto unknown;
10012
10013                   case 'o':
10014                     if (name[5] == 'c' &&
10015                         name[6] == 'k' &&
10016                         name[7] == 'o' &&
10017                         name[8] == 'p' &&
10018                         name[9] == 't')
10019                     {                             /* getsockopt */
10020                       return -KEY_getsockopt;
10021                     }
10022
10023                     goto unknown;
10024
10025                   default:
10026                     goto unknown;
10027                 }
10028
10029               default:
10030                 goto unknown;
10031             }
10032           }
10033
10034           goto unknown;
10035
10036         case 's':
10037           switch (name[1])
10038           {
10039             case 'e':
10040               if (name[2] == 't')
10041               {
10042                 switch (name[3])
10043                 {
10044                   case 'h':
10045                     if (name[4] == 'o' &&
10046                         name[5] == 's' &&
10047                         name[6] == 't' &&
10048                         name[7] == 'e' &&
10049                         name[8] == 'n' &&
10050                         name[9] == 't')
10051                     {                             /* sethostent */
10052                       return -KEY_sethostent;
10053                     }
10054
10055                     goto unknown;
10056
10057                   case 's':
10058                     switch (name[4])
10059                     {
10060                       case 'e':
10061                         if (name[5] == 'r' &&
10062                             name[6] == 'v' &&
10063                             name[7] == 'e' &&
10064                             name[8] == 'n' &&
10065                             name[9] == 't')
10066                         {                         /* setservent */
10067                           return -KEY_setservent;
10068                         }
10069
10070                         goto unknown;
10071
10072                       case 'o':
10073                         if (name[5] == 'c' &&
10074                             name[6] == 'k' &&
10075                             name[7] == 'o' &&
10076                             name[8] == 'p' &&
10077                             name[9] == 't')
10078                         {                         /* setsockopt */
10079                           return -KEY_setsockopt;
10080                         }
10081
10082                         goto unknown;
10083
10084                       default:
10085                         goto unknown;
10086                     }
10087
10088                   default:
10089                     goto unknown;
10090                 }
10091               }
10092
10093               goto unknown;
10094
10095             case 'o':
10096               if (name[2] == 'c' &&
10097                   name[3] == 'k' &&
10098                   name[4] == 'e' &&
10099                   name[5] == 't' &&
10100                   name[6] == 'p' &&
10101                   name[7] == 'a' &&
10102                   name[8] == 'i' &&
10103                   name[9] == 'r')
10104               {                                   /* socketpair */
10105                 return -KEY_socketpair;
10106               }
10107
10108               goto unknown;
10109
10110             default:
10111               goto unknown;
10112           }
10113
10114         default:
10115           goto unknown;
10116       }
10117
10118     case 11: /* 8 tokens of length 11 */
10119       switch (name[0])
10120       {
10121         case '_':
10122           if (name[1] == '_' &&
10123               name[2] == 'P' &&
10124               name[3] == 'A' &&
10125               name[4] == 'C' &&
10126               name[5] == 'K' &&
10127               name[6] == 'A' &&
10128               name[7] == 'G' &&
10129               name[8] == 'E' &&
10130               name[9] == '_' &&
10131               name[10] == '_')
10132           {                                       /* __PACKAGE__ */
10133             return -KEY___PACKAGE__;
10134           }
10135
10136           goto unknown;
10137
10138         case 'e':
10139           if (name[1] == 'n' &&
10140               name[2] == 'd' &&
10141               name[3] == 'p' &&
10142               name[4] == 'r' &&
10143               name[5] == 'o' &&
10144               name[6] == 't' &&
10145               name[7] == 'o' &&
10146               name[8] == 'e' &&
10147               name[9] == 'n' &&
10148               name[10] == 't')
10149           {                                       /* endprotoent */
10150             return -KEY_endprotoent;
10151           }
10152
10153           goto unknown;
10154
10155         case 'g':
10156           if (name[1] == 'e' &&
10157               name[2] == 't')
10158           {
10159             switch (name[3])
10160             {
10161               case 'p':
10162                 switch (name[4])
10163                 {
10164                   case 'e':
10165                     if (name[5] == 'e' &&
10166                         name[6] == 'r' &&
10167                         name[7] == 'n' &&
10168                         name[8] == 'a' &&
10169                         name[9] == 'm' &&
10170                         name[10] == 'e')
10171                     {                             /* getpeername */
10172                       return -KEY_getpeername;
10173                     }
10174
10175                     goto unknown;
10176
10177                   case 'r':
10178                     switch (name[5])
10179                     {
10180                       case 'i':
10181                         if (name[6] == 'o' &&
10182                             name[7] == 'r' &&
10183                             name[8] == 'i' &&
10184                             name[9] == 't' &&
10185                             name[10] == 'y')
10186                         {                         /* getpriority */
10187                           return -KEY_getpriority;
10188                         }
10189
10190                         goto unknown;
10191
10192                       case 'o':
10193                         if (name[6] == 't' &&
10194                             name[7] == 'o' &&
10195                             name[8] == 'e' &&
10196                             name[9] == 'n' &&
10197                             name[10] == 't')
10198                         {                         /* getprotoent */
10199                           return -KEY_getprotoent;
10200                         }
10201
10202                         goto unknown;
10203
10204                       default:
10205                         goto unknown;
10206                     }
10207
10208                   default:
10209                     goto unknown;
10210                 }
10211
10212               case 's':
10213                 if (name[4] == 'o' &&
10214                     name[5] == 'c' &&
10215                     name[6] == 'k' &&
10216                     name[7] == 'n' &&
10217                     name[8] == 'a' &&
10218                     name[9] == 'm' &&
10219                     name[10] == 'e')
10220                 {                                 /* getsockname */
10221                   return -KEY_getsockname;
10222                 }
10223
10224                 goto unknown;
10225
10226               default:
10227                 goto unknown;
10228             }
10229           }
10230
10231           goto unknown;
10232
10233         case 's':
10234           if (name[1] == 'e' &&
10235               name[2] == 't' &&
10236               name[3] == 'p' &&
10237               name[4] == 'r')
10238           {
10239             switch (name[5])
10240             {
10241               case 'i':
10242                 if (name[6] == 'o' &&
10243                     name[7] == 'r' &&
10244                     name[8] == 'i' &&
10245                     name[9] == 't' &&
10246                     name[10] == 'y')
10247                 {                                 /* setpriority */
10248                   return -KEY_setpriority;
10249                 }
10250
10251                 goto unknown;
10252
10253               case 'o':
10254                 if (name[6] == 't' &&
10255                     name[7] == 'o' &&
10256                     name[8] == 'e' &&
10257                     name[9] == 'n' &&
10258                     name[10] == 't')
10259                 {                                 /* setprotoent */
10260                   return -KEY_setprotoent;
10261                 }
10262
10263                 goto unknown;
10264
10265               default:
10266                 goto unknown;
10267             }
10268           }
10269
10270           goto unknown;
10271
10272         default:
10273           goto unknown;
10274       }
10275
10276     case 12: /* 2 tokens of length 12 */
10277       if (name[0] == 'g' &&
10278           name[1] == 'e' &&
10279           name[2] == 't' &&
10280           name[3] == 'n' &&
10281           name[4] == 'e' &&
10282           name[5] == 't' &&
10283           name[6] == 'b' &&
10284           name[7] == 'y')
10285       {
10286         switch (name[8])
10287         {
10288           case 'a':
10289             if (name[9] == 'd' &&
10290                 name[10] == 'd' &&
10291                 name[11] == 'r')
10292             {                                     /* getnetbyaddr */
10293               return -KEY_getnetbyaddr;
10294             }
10295
10296             goto unknown;
10297
10298           case 'n':
10299             if (name[9] == 'a' &&
10300                 name[10] == 'm' &&
10301                 name[11] == 'e')
10302             {                                     /* getnetbyname */
10303               return -KEY_getnetbyname;
10304             }
10305
10306             goto unknown;
10307
10308           default:
10309             goto unknown;
10310         }
10311       }
10312
10313       goto unknown;
10314
10315     case 13: /* 4 tokens of length 13 */
10316       if (name[0] == 'g' &&
10317           name[1] == 'e' &&
10318           name[2] == 't')
10319       {
10320         switch (name[3])
10321         {
10322           case 'h':
10323             if (name[4] == 'o' &&
10324                 name[5] == 's' &&
10325                 name[6] == 't' &&
10326                 name[7] == 'b' &&
10327                 name[8] == 'y')
10328             {
10329               switch (name[9])
10330               {
10331                 case 'a':
10332                   if (name[10] == 'd' &&
10333                       name[11] == 'd' &&
10334                       name[12] == 'r')
10335                   {                               /* gethostbyaddr */
10336                     return -KEY_gethostbyaddr;
10337                   }
10338
10339                   goto unknown;
10340
10341                 case 'n':
10342                   if (name[10] == 'a' &&
10343                       name[11] == 'm' &&
10344                       name[12] == 'e')
10345                   {                               /* gethostbyname */
10346                     return -KEY_gethostbyname;
10347                   }
10348
10349                   goto unknown;
10350
10351                 default:
10352                   goto unknown;
10353               }
10354             }
10355
10356             goto unknown;
10357
10358           case 's':
10359             if (name[4] == 'e' &&
10360                 name[5] == 'r' &&
10361                 name[6] == 'v' &&
10362                 name[7] == 'b' &&
10363                 name[8] == 'y')
10364             {
10365               switch (name[9])
10366               {
10367                 case 'n':
10368                   if (name[10] == 'a' &&
10369                       name[11] == 'm' &&
10370                       name[12] == 'e')
10371                   {                               /* getservbyname */
10372                     return -KEY_getservbyname;
10373                   }
10374
10375                   goto unknown;
10376
10377                 case 'p':
10378                   if (name[10] == 'o' &&
10379                       name[11] == 'r' &&
10380                       name[12] == 't')
10381                   {                               /* getservbyport */
10382                     return -KEY_getservbyport;
10383                   }
10384
10385                   goto unknown;
10386
10387                 default:
10388                   goto unknown;
10389               }
10390             }
10391
10392             goto unknown;
10393
10394           default:
10395             goto unknown;
10396         }
10397       }
10398
10399       goto unknown;
10400
10401     case 14: /* 1 tokens of length 14 */
10402       if (name[0] == 'g' &&
10403           name[1] == 'e' &&
10404           name[2] == 't' &&
10405           name[3] == 'p' &&
10406           name[4] == 'r' &&
10407           name[5] == 'o' &&
10408           name[6] == 't' &&
10409           name[7] == 'o' &&
10410           name[8] == 'b' &&
10411           name[9] == 'y' &&
10412           name[10] == 'n' &&
10413           name[11] == 'a' &&
10414           name[12] == 'm' &&
10415           name[13] == 'e')
10416       {                                           /* getprotobyname */
10417         return -KEY_getprotobyname;
10418       }
10419
10420       goto unknown;
10421
10422     case 16: /* 1 tokens of length 16 */
10423       if (name[0] == 'g' &&
10424           name[1] == 'e' &&
10425           name[2] == 't' &&
10426           name[3] == 'p' &&
10427           name[4] == 'r' &&
10428           name[5] == 'o' &&
10429           name[6] == 't' &&
10430           name[7] == 'o' &&
10431           name[8] == 'b' &&
10432           name[9] == 'y' &&
10433           name[10] == 'n' &&
10434           name[11] == 'u' &&
10435           name[12] == 'm' &&
10436           name[13] == 'b' &&
10437           name[14] == 'e' &&
10438           name[15] == 'r')
10439       {                                           /* getprotobynumber */
10440         return -KEY_getprotobynumber;
10441       }
10442
10443       goto unknown;
10444
10445     default:
10446       goto unknown;
10447   }
10448
10449 unknown:
10450   return 0;
10451 }
10452
10453 STATIC void
10454 S_checkcomma(pTHX_ const char *s, const char *name, const char *what)
10455 {
10456     dVAR;
10457
10458     if (*s == ' ' && s[1] == '(') {     /* XXX gotta be a better way */
10459         if (ckWARN(WARN_SYNTAX)) {
10460             int level = 1;
10461             const char *w;
10462             for (w = s+2; *w && level; w++) {
10463                 if (*w == '(')
10464                     ++level;
10465                 else if (*w == ')')
10466                     --level;
10467             }
10468             while (isSPACE(*w))
10469                 ++w;
10470             /* the list of chars below is for end of statements or
10471              * block / parens, boolean operators (&&, ||, //) and branch
10472              * constructs (or, and, if, until, unless, while, err, for).
10473              * Not a very solid hack... */
10474             if (!*w || !strchr(";&/|})]oaiuwef!=", *w))
10475                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
10476                             "%s (...) interpreted as function",name);
10477         }
10478     }
10479     while (s < PL_bufend && isSPACE(*s))
10480         s++;
10481     if (*s == '(')
10482         s++;
10483     while (s < PL_bufend && isSPACE(*s))
10484         s++;
10485     if (isIDFIRST_lazy_if(s,UTF)) {
10486         const char * const w = s++;
10487         while (isALNUM_lazy_if(s,UTF))
10488             s++;
10489         while (s < PL_bufend && isSPACE(*s))
10490             s++;
10491         if (*s == ',') {
10492             GV* gv;
10493             if (keyword(w, s - w, 0))
10494                 return;
10495
10496             gv = gv_fetchpvn_flags(w, s - w, 0, SVt_PVCV);
10497             if (gv && GvCVu(gv))
10498                 return;
10499             Perl_croak(aTHX_ "No comma allowed after %s", what);
10500         }
10501     }
10502 }
10503
10504 /* Either returns sv, or mortalizes sv and returns a new SV*.
10505    Best used as sv=new_constant(..., sv, ...).
10506    If s, pv are NULL, calls subroutine with one argument,
10507    and type is used with error messages only. */
10508
10509 STATIC SV *
10510 S_new_constant(pTHX_ const char *s, STRLEN len, const char *key, STRLEN keylen,
10511                SV *sv, SV *pv, const char *type, STRLEN typelen)
10512 {
10513     dVAR; dSP;
10514     HV * const table = GvHV(PL_hintgv);          /* ^H */
10515     SV *res;
10516     SV **cvp;
10517     SV *cv, *typesv;
10518     const char *why1 = "", *why2 = "", *why3 = "";
10519
10520     if (!table || !(PL_hints & HINT_LOCALIZE_HH)) {
10521         SV *msg;
10522
10523         why2 = (const char *)
10524             (strEQ(key,"charnames")
10525              ? "(possibly a missing \"use charnames ...\")"
10526              : "");
10527         msg = Perl_newSVpvf(aTHX_ "Constant(%s) unknown: %s",
10528                             (type ? type: "undef"), why2);
10529
10530         /* This is convoluted and evil ("goto considered harmful")
10531          * but I do not understand the intricacies of all the different
10532          * failure modes of %^H in here.  The goal here is to make
10533          * the most probable error message user-friendly. --jhi */
10534
10535         goto msgdone;
10536
10537     report:
10538         msg = Perl_newSVpvf(aTHX_ "Constant(%s): %s%s%s",
10539                             (type ? type: "undef"), why1, why2, why3);
10540     msgdone:
10541         yyerror(SvPVX_const(msg));
10542         SvREFCNT_dec(msg);
10543         return sv;
10544     }
10545     cvp = hv_fetch(table, key, keylen, FALSE);
10546     if (!cvp || !SvOK(*cvp)) {
10547         why1 = "$^H{";
10548         why2 = key;
10549         why3 = "} is not defined";
10550         goto report;
10551     }
10552     sv_2mortal(sv);                     /* Parent created it permanently */
10553     cv = *cvp;
10554     if (!pv && s)
10555         pv = sv_2mortal(newSVpvn(s, len));
10556     if (type && pv)
10557         typesv = sv_2mortal(newSVpvn(type, typelen));
10558     else
10559         typesv = &PL_sv_undef;
10560
10561     PUSHSTACKi(PERLSI_OVERLOAD);
10562     ENTER ;
10563     SAVETMPS;
10564
10565     PUSHMARK(SP) ;
10566     EXTEND(sp, 3);
10567     if (pv)
10568         PUSHs(pv);
10569     PUSHs(sv);
10570     if (pv)
10571         PUSHs(typesv);
10572     PUTBACK;
10573     call_sv(cv, G_SCALAR | ( PL_in_eval ? 0 : G_EVAL));
10574
10575     SPAGAIN ;
10576
10577     /* Check the eval first */
10578     if (!PL_in_eval && SvTRUE(ERRSV)) {
10579         sv_catpvs(ERRSV, "Propagated");
10580         yyerror(SvPV_nolen_const(ERRSV)); /* Duplicates the message inside eval */
10581         (void)POPs;
10582         res = SvREFCNT_inc_simple(sv);
10583     }
10584     else {
10585         res = POPs;
10586         SvREFCNT_inc_simple_void(res);
10587     }
10588
10589     PUTBACK ;
10590     FREETMPS ;
10591     LEAVE ;
10592     POPSTACK;
10593
10594     if (!SvOK(res)) {
10595         why1 = "Call to &{$^H{";
10596         why2 = key;
10597         why3 = "}} did not return a defined value";
10598         sv = res;
10599         goto report;
10600     }
10601
10602     return res;
10603 }
10604
10605 /* Returns a NUL terminated string, with the length of the string written to
10606    *slp
10607    */
10608 STATIC char *
10609 S_scan_word(pTHX_ register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
10610 {
10611     dVAR;
10612     register char *d = dest;
10613     register char * const e = d + destlen - 3;  /* two-character token, ending NUL */
10614     for (;;) {
10615         if (d >= e)
10616             Perl_croak(aTHX_ ident_too_long);
10617         if (isALNUM(*s))        /* UTF handled below */
10618             *d++ = *s++;
10619         else if (allow_package && (*s == '\'') && isIDFIRST_lazy_if(s+1,UTF)) {
10620             *d++ = ':';
10621             *d++ = ':';
10622             s++;
10623         }
10624         else if (allow_package && (s[0] == ':') && (s[1] == ':') && (s[2] != '$')) {
10625             *d++ = *s++;
10626             *d++ = *s++;
10627         }
10628         else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
10629             char *t = s + UTF8SKIP(s);
10630             size_t len;
10631             while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
10632                 t += UTF8SKIP(t);
10633             len = t - s;
10634             if (d + len > e)
10635                 Perl_croak(aTHX_ ident_too_long);
10636             Copy(s, d, len, char);
10637             d += len;
10638             s = t;
10639         }
10640         else {
10641             *d = '\0';
10642             *slp = d - dest;
10643             return s;
10644         }
10645     }
10646 }
10647
10648 STATIC char *
10649 S_scan_ident(pTHX_ register char *s, register const char *send, char *dest, STRLEN destlen, I32 ck_uni)
10650 {
10651     dVAR;
10652     char *bracket = NULL;
10653     char funny = *s++;
10654     register char *d = dest;
10655     register char * const e = d + destlen + 3;    /* two-character token, ending NUL */
10656
10657     if (isSPACE(*s))
10658         s = PEEKSPACE(s);
10659     if (isDIGIT(*s)) {
10660         while (isDIGIT(*s)) {
10661             if (d >= e)
10662                 Perl_croak(aTHX_ ident_too_long);
10663             *d++ = *s++;
10664         }
10665     }
10666     else {
10667         for (;;) {
10668             if (d >= e)
10669                 Perl_croak(aTHX_ ident_too_long);
10670             if (isALNUM(*s))    /* UTF handled below */
10671                 *d++ = *s++;
10672             else if (*s == '\'' && isIDFIRST_lazy_if(s+1,UTF)) {
10673                 *d++ = ':';
10674                 *d++ = ':';
10675                 s++;
10676             }
10677             else if (*s == ':' && s[1] == ':') {
10678                 *d++ = *s++;
10679                 *d++ = *s++;
10680             }
10681             else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
10682                 char *t = s + UTF8SKIP(s);
10683                 while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
10684                     t += UTF8SKIP(t);
10685                 if (d + (t - s) > e)
10686                     Perl_croak(aTHX_ ident_too_long);
10687                 Copy(s, d, t - s, char);
10688                 d += t - s;
10689                 s = t;
10690             }
10691             else
10692                 break;
10693         }
10694     }
10695     *d = '\0';
10696     d = dest;
10697     if (*d) {
10698         if (PL_lex_state != LEX_NORMAL)
10699             PL_lex_state = LEX_INTERPENDMAYBE;
10700         return s;
10701     }
10702     if (*s == '$' && s[1] &&
10703         (isALNUM_lazy_if(s+1,UTF) || s[1] == '$' || s[1] == '{' || strnEQ(s+1,"::",2)) )
10704     {
10705         return s;
10706     }
10707     if (*s == '{') {
10708         bracket = s;
10709         s++;
10710     }
10711     else if (ck_uni)
10712         check_uni();
10713     if (s < send)
10714         *d = *s++;
10715     d[1] = '\0';
10716     if (*d == '^' && *s && isCONTROLVAR(*s)) {
10717         *d = toCTRL(*s);
10718         s++;
10719     }
10720     if (bracket) {
10721         if (isSPACE(s[-1])) {
10722             while (s < send) {
10723                 const char ch = *s++;
10724                 if (!SPACE_OR_TAB(ch)) {
10725                     *d = ch;
10726                     break;
10727                 }
10728             }
10729         }
10730         if (isIDFIRST_lazy_if(d,UTF)) {
10731             d++;
10732             if (UTF) {
10733                 char *end = s;
10734                 while ((end < send && isALNUM_lazy_if(end,UTF)) || *end == ':') {
10735                     end += UTF8SKIP(end);
10736                     while (end < send && UTF8_IS_CONTINUED(*end) && is_utf8_mark((U8*)end))
10737                         end += UTF8SKIP(end);
10738                 }
10739                 Copy(s, d, end - s, char);
10740                 d += end - s;
10741                 s = end;
10742             }
10743             else {
10744                 while ((isALNUM(*s) || *s == ':') && d < e)
10745                     *d++ = *s++;
10746                 if (d >= e)
10747                     Perl_croak(aTHX_ ident_too_long);
10748             }
10749             *d = '\0';
10750             while (s < send && SPACE_OR_TAB(*s))
10751                 s++;
10752             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
10753                 if (ckWARN(WARN_AMBIGUOUS) && keyword(dest, d - dest, 0)) {
10754                     const char * const brack =
10755                         (const char *)
10756                         ((*s == '[') ? "[...]" : "{...}");
10757                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
10758                         "Ambiguous use of %c{%s%s} resolved to %c%s%s",
10759                         funny, dest, brack, funny, dest, brack);
10760                 }
10761                 bracket++;
10762                 PL_lex_brackstack[PL_lex_brackets++] = (char)(XOPERATOR | XFAKEBRACK);
10763                 return s;
10764             }
10765         }
10766         /* Handle extended ${^Foo} variables
10767          * 1999-02-27 mjd-perl-patch@plover.com */
10768         else if (!isALNUM(*d) && !isPRINT(*d) /* isCTRL(d) */
10769                  && isALNUM(*s))
10770         {
10771             d++;
10772             while (isALNUM(*s) && d < e) {
10773                 *d++ = *s++;
10774             }
10775             if (d >= e)
10776                 Perl_croak(aTHX_ ident_too_long);
10777             *d = '\0';
10778         }
10779         if (*s == '}') {
10780             s++;
10781             if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets) {
10782                 PL_lex_state = LEX_INTERPEND;
10783                 PL_expect = XREF;
10784             }
10785             if (PL_lex_state == LEX_NORMAL) {
10786                 if (ckWARN(WARN_AMBIGUOUS) &&
10787                     (keyword(dest, d - dest, 0)
10788                      || get_cvn_flags(dest, d - dest, 0)))
10789                 {
10790                     if (funny == '#')
10791                         funny = '@';
10792                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
10793                         "Ambiguous use of %c{%s} resolved to %c%s",
10794                         funny, dest, funny, dest);
10795                 }
10796             }
10797         }
10798         else {
10799             s = bracket;                /* let the parser handle it */
10800             *dest = '\0';
10801         }
10802     }
10803     else if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets && !intuit_more(s))
10804         PL_lex_state = LEX_INTERPEND;
10805     return s;
10806 }
10807
10808 void
10809 Perl_pmflag(pTHX_ U32* pmfl, int ch)
10810 {
10811     PERL_UNUSED_CONTEXT;
10812     if (ch<256) {
10813         char c = (char)ch;
10814         switch (c) {
10815             CASE_STD_PMMOD_FLAGS_PARSE_SET(pmfl);
10816             case GLOBAL_PAT_MOD:    *pmfl |= PMf_GLOBAL; break;
10817             case CONTINUE_PAT_MOD:  *pmfl |= PMf_CONTINUE; break;
10818             case ONCE_PAT_MOD:      *pmfl |= PMf_KEEP; break;
10819             case KEEPCOPY_PAT_MOD:  *pmfl |= PMf_KEEPCOPY; break;
10820         }
10821     }
10822 }
10823
10824 STATIC char *
10825 S_scan_pat(pTHX_ char *start, I32 type)
10826 {
10827     dVAR;
10828     PMOP *pm;
10829     char *s = scan_str(start,!!PL_madskills,FALSE);
10830     const char * const valid_flags =
10831         (const char *)((type == OP_QR) ? QR_PAT_MODS : M_PAT_MODS);
10832 #ifdef PERL_MAD
10833     char *modstart;
10834 #endif
10835
10836
10837     if (!s) {
10838         const char * const delimiter = skipspace(start);
10839         Perl_croak(aTHX_
10840                    (const char *)
10841                    (*delimiter == '?'
10842                     ? "Search pattern not terminated or ternary operator parsed as search pattern"
10843                     : "Search pattern not terminated" ));
10844     }
10845
10846     pm = (PMOP*)newPMOP(type, 0);
10847     if (PL_multi_open == '?') {
10848         /* This is the only point in the code that sets PMf_ONCE:  */
10849         pm->op_pmflags |= PMf_ONCE;
10850
10851         /* Hence it's safe to do this bit of PMOP book-keeping here, which
10852            allows us to restrict the list needed by reset to just the ??
10853            matches.  */
10854         assert(type != OP_TRANS);
10855         if (PL_curstash) {
10856             MAGIC *mg = mg_find((SV*)PL_curstash, PERL_MAGIC_symtab);
10857             U32 elements;
10858             if (!mg) {
10859                 mg = sv_magicext((SV*)PL_curstash, 0, PERL_MAGIC_symtab, 0, 0,
10860                                  0);
10861             }
10862             elements = mg->mg_len / sizeof(PMOP**);
10863             Renewc(mg->mg_ptr, elements + 1, PMOP*, char);
10864             ((PMOP**)mg->mg_ptr) [elements++] = pm;
10865             mg->mg_len = elements * sizeof(PMOP**);
10866             PmopSTASH_set(pm,PL_curstash);
10867         }
10868     }
10869 #ifdef PERL_MAD
10870     modstart = s;
10871 #endif
10872     while (*s && strchr(valid_flags, *s))
10873         pmflag(&pm->op_pmflags,*s++);
10874 #ifdef PERL_MAD
10875     if (PL_madskills && modstart != s) {
10876         SV* tmptoken = newSVpvn(modstart, s - modstart);
10877         append_madprops(newMADPROP('m', MAD_SV, tmptoken, 0), (OP*)pm, 0);
10878     }
10879 #endif
10880     /* issue a warning if /c is specified,but /g is not */
10881     if ((pm->op_pmflags & PMf_CONTINUE) && !(pm->op_pmflags & PMf_GLOBAL)
10882             && ckWARN(WARN_REGEXP))
10883     {
10884         Perl_warner(aTHX_ packWARN(WARN_REGEXP),
10885             "Use of /c modifier is meaningless without /g" );
10886     }
10887
10888     PL_lex_op = (OP*)pm;
10889     yylval.ival = OP_MATCH;
10890     return s;
10891 }
10892
10893 STATIC char *
10894 S_scan_subst(pTHX_ char *start)
10895 {
10896     dVAR;
10897     register char *s;
10898     register PMOP *pm;
10899     I32 first_start;
10900     I32 es = 0;
10901 #ifdef PERL_MAD
10902     char *modstart;
10903 #endif
10904
10905     yylval.ival = OP_NULL;
10906
10907     s = scan_str(start,!!PL_madskills,FALSE);
10908
10909     if (!s)
10910         Perl_croak(aTHX_ "Substitution pattern not terminated");
10911
10912     if (s[-1] == PL_multi_open)
10913         s--;
10914 #ifdef PERL_MAD
10915     if (PL_madskills) {
10916         CURMAD('q', PL_thisopen);
10917         CURMAD('_', PL_thiswhite);
10918         CURMAD('E', PL_thisstuff);
10919         CURMAD('Q', PL_thisclose);
10920         PL_realtokenstart = s - SvPVX(PL_linestr);
10921     }
10922 #endif
10923
10924     first_start = PL_multi_start;
10925     s = scan_str(s,!!PL_madskills,FALSE);
10926     if (!s) {
10927         if (PL_lex_stuff) {
10928             SvREFCNT_dec(PL_lex_stuff);
10929             PL_lex_stuff = NULL;
10930         }
10931         Perl_croak(aTHX_ "Substitution replacement not terminated");
10932     }
10933     PL_multi_start = first_start;       /* so whole substitution is taken together */
10934
10935     pm = (PMOP*)newPMOP(OP_SUBST, 0);
10936
10937 #ifdef PERL_MAD
10938     if (PL_madskills) {
10939         CURMAD('z', PL_thisopen);
10940         CURMAD('R', PL_thisstuff);
10941         CURMAD('Z', PL_thisclose);
10942     }
10943     modstart = s;
10944 #endif
10945
10946     while (*s) {
10947         if (*s == EXEC_PAT_MOD) {
10948             s++;
10949             es++;
10950         }
10951         else if (strchr(S_PAT_MODS, *s))
10952             pmflag(&pm->op_pmflags,*s++);
10953         else
10954             break;
10955     }
10956
10957 #ifdef PERL_MAD
10958     if (PL_madskills) {
10959         if (modstart != s)
10960             curmad('m', newSVpvn(modstart, s - modstart));
10961         append_madprops(PL_thismad, (OP*)pm, 0);
10962         PL_thismad = 0;
10963     }
10964 #endif
10965     if ((pm->op_pmflags & PMf_CONTINUE) && ckWARN(WARN_REGEXP)) {
10966         Perl_warner(aTHX_ packWARN(WARN_REGEXP), "Use of /c modifier is meaningless in s///" );
10967     }
10968
10969     if (es) {
10970         SV * const repl = newSVpvs("");
10971
10972         PL_sublex_info.super_bufptr = s;
10973         PL_sublex_info.super_bufend = PL_bufend;
10974         PL_multi_end = 0;
10975         pm->op_pmflags |= PMf_EVAL;
10976         while (es-- > 0) {
10977             if (es)
10978                 sv_catpvs(repl, "eval ");
10979             else
10980                 sv_catpvs(repl, "do ");
10981         }
10982         sv_catpvs(repl, "{");
10983         sv_catsv(repl, PL_lex_repl);
10984         if (strchr(SvPVX(PL_lex_repl), '#'))
10985             sv_catpvs(repl, "\n");
10986         sv_catpvs(repl, "}");
10987         SvEVALED_on(repl);
10988         SvREFCNT_dec(PL_lex_repl);
10989         PL_lex_repl = repl;
10990     }
10991
10992     PL_lex_op = (OP*)pm;
10993     yylval.ival = OP_SUBST;
10994     return s;
10995 }
10996
10997 STATIC char *
10998 S_scan_trans(pTHX_ char *start)
10999 {
11000     dVAR;
11001     register char* s;
11002     OP *o;
11003     short *tbl;
11004     I32 squash;
11005     I32 del;
11006     I32 complement;
11007 #ifdef PERL_MAD
11008     char *modstart;
11009 #endif
11010
11011     yylval.ival = OP_NULL;
11012
11013     s = scan_str(start,!!PL_madskills,FALSE);
11014     if (!s)
11015         Perl_croak(aTHX_ "Transliteration pattern not terminated");
11016
11017     if (s[-1] == PL_multi_open)
11018         s--;
11019 #ifdef PERL_MAD
11020     if (PL_madskills) {
11021         CURMAD('q', PL_thisopen);
11022         CURMAD('_', PL_thiswhite);
11023         CURMAD('E', PL_thisstuff);
11024         CURMAD('Q', PL_thisclose);
11025         PL_realtokenstart = s - SvPVX(PL_linestr);
11026     }
11027 #endif
11028
11029     s = scan_str(s,!!PL_madskills,FALSE);
11030     if (!s) {
11031         if (PL_lex_stuff) {
11032             SvREFCNT_dec(PL_lex_stuff);
11033             PL_lex_stuff = NULL;
11034         }
11035         Perl_croak(aTHX_ "Transliteration replacement not terminated");
11036     }
11037     if (PL_madskills) {
11038         CURMAD('z', PL_thisopen);
11039         CURMAD('R', PL_thisstuff);
11040         CURMAD('Z', PL_thisclose);
11041     }
11042
11043     complement = del = squash = 0;
11044 #ifdef PERL_MAD
11045     modstart = s;
11046 #endif
11047     while (1) {
11048         switch (*s) {
11049         case 'c':
11050             complement = OPpTRANS_COMPLEMENT;
11051             break;
11052         case 'd':
11053             del = OPpTRANS_DELETE;
11054             break;
11055         case 's':
11056             squash = OPpTRANS_SQUASH;
11057             break;
11058         default:
11059             goto no_more;
11060         }
11061         s++;
11062     }
11063   no_more:
11064
11065     tbl = (short *)PerlMemShared_calloc(complement&&!del?258:256, sizeof(short));
11066     o = newPVOP(OP_TRANS, 0, (char*)tbl);
11067     o->op_private &= ~OPpTRANS_ALL;
11068     o->op_private |= del|squash|complement|
11069       (DO_UTF8(PL_lex_stuff)? OPpTRANS_FROM_UTF : 0)|
11070       (DO_UTF8(PL_lex_repl) ? OPpTRANS_TO_UTF   : 0);
11071
11072     PL_lex_op = o;
11073     yylval.ival = OP_TRANS;
11074
11075 #ifdef PERL_MAD
11076     if (PL_madskills) {
11077         if (modstart != s)
11078             curmad('m', newSVpvn(modstart, s - modstart));
11079         append_madprops(PL_thismad, o, 0);
11080         PL_thismad = 0;
11081     }
11082 #endif
11083
11084     return s;
11085 }
11086
11087 STATIC char *
11088 S_scan_heredoc(pTHX_ register char *s)
11089 {
11090     dVAR;
11091     SV *herewas;
11092     I32 op_type = OP_SCALAR;
11093     I32 len;
11094     SV *tmpstr;
11095     char term;
11096     const char *found_newline;
11097     register char *d;
11098     register char *e;
11099     char *peek;
11100     const int outer = (PL_rsfp && !(PL_lex_inwhat == OP_SCALAR));
11101 #ifdef PERL_MAD
11102     I32 stuffstart = s - SvPVX(PL_linestr);
11103     char *tstart;
11104
11105     PL_realtokenstart = -1;
11106 #endif
11107
11108     s += 2;
11109     d = PL_tokenbuf;
11110     e = PL_tokenbuf + sizeof PL_tokenbuf - 1;
11111     if (!outer)
11112         *d++ = '\n';
11113     peek = s;
11114     while (SPACE_OR_TAB(*peek))
11115         peek++;
11116     if (*peek == '`' || *peek == '\'' || *peek =='"') {
11117         s = peek;
11118         term = *s++;
11119         s = delimcpy(d, e, s, PL_bufend, term, &len);
11120         d += len;
11121         if (s < PL_bufend)
11122             s++;
11123     }
11124     else {
11125         if (*s == '\\')
11126             s++, term = '\'';
11127         else
11128             term = '"';
11129         if (!isALNUM_lazy_if(s,UTF))
11130             deprecate_old("bare << to mean <<\"\"");
11131         for (; isALNUM_lazy_if(s,UTF); s++) {
11132             if (d < e)
11133                 *d++ = *s;
11134         }
11135     }
11136     if (d >= PL_tokenbuf + sizeof PL_tokenbuf - 1)
11137         Perl_croak(aTHX_ "Delimiter for here document is too long");
11138     *d++ = '\n';
11139     *d = '\0';
11140     len = d - PL_tokenbuf;
11141
11142 #ifdef PERL_MAD
11143     if (PL_madskills) {
11144         tstart = PL_tokenbuf + !outer;
11145         PL_thisclose = newSVpvn(tstart, len - !outer);
11146         tstart = SvPVX(PL_linestr) + stuffstart;
11147         PL_thisopen = newSVpvn(tstart, s - tstart);
11148         stuffstart = s - SvPVX(PL_linestr);
11149     }
11150 #endif
11151 #ifndef PERL_STRICT_CR
11152     d = strchr(s, '\r');
11153     if (d) {
11154         char * const olds = s;
11155         s = d;
11156         while (s < PL_bufend) {
11157             if (*s == '\r') {
11158                 *d++ = '\n';
11159                 if (*++s == '\n')
11160                     s++;
11161             }
11162             else if (*s == '\n' && s[1] == '\r') {      /* \015\013 on a mac? */
11163                 *d++ = *s++;
11164                 s++;
11165             }
11166             else
11167                 *d++ = *s++;
11168         }
11169         *d = '\0';
11170         PL_bufend = d;
11171         SvCUR_set(PL_linestr, PL_bufend - SvPVX_const(PL_linestr));
11172         s = olds;
11173     }
11174 #endif
11175 #ifdef PERL_MAD
11176     found_newline = 0;
11177 #endif
11178     if ( outer || !(found_newline = (char*)memchr((void*)s, '\n', PL_bufend - s)) ) {
11179         herewas = newSVpvn(s,PL_bufend-s);
11180     }
11181     else {
11182 #ifdef PERL_MAD
11183         herewas = newSVpvn(s-1,found_newline-s+1);
11184 #else
11185         s--;
11186         herewas = newSVpvn(s,found_newline-s);
11187 #endif
11188     }
11189 #ifdef PERL_MAD
11190     if (PL_madskills) {
11191         tstart = SvPVX(PL_linestr) + stuffstart;
11192         if (PL_thisstuff)
11193             sv_catpvn(PL_thisstuff, tstart, s - tstart);
11194         else
11195             PL_thisstuff = newSVpvn(tstart, s - tstart);
11196     }
11197 #endif
11198     s += SvCUR(herewas);
11199
11200 #ifdef PERL_MAD
11201     stuffstart = s - SvPVX(PL_linestr);
11202
11203     if (found_newline)
11204         s--;
11205 #endif
11206
11207     tmpstr = newSV_type(SVt_PVIV);
11208     SvGROW(tmpstr, 80);
11209     if (term == '\'') {
11210         op_type = OP_CONST;
11211         SvIV_set(tmpstr, -1);
11212     }
11213     else if (term == '`') {
11214         op_type = OP_BACKTICK;
11215         SvIV_set(tmpstr, '\\');
11216     }
11217
11218     CLINE;
11219     PL_multi_start = CopLINE(PL_curcop);
11220     PL_multi_open = PL_multi_close = '<';
11221     term = *PL_tokenbuf;
11222     if (PL_lex_inwhat == OP_SUBST && PL_in_eval && !PL_rsfp) {
11223         char * const bufptr = PL_sublex_info.super_bufptr;
11224         char * const bufend = PL_sublex_info.super_bufend;
11225         char * const olds = s - SvCUR(herewas);
11226         s = strchr(bufptr, '\n');
11227         if (!s)
11228             s = bufend;
11229         d = s;
11230         while (s < bufend &&
11231           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
11232             if (*s++ == '\n')
11233                 CopLINE_inc(PL_curcop);
11234         }
11235         if (s >= bufend) {
11236             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11237             missingterm(PL_tokenbuf);
11238         }
11239         sv_setpvn(herewas,bufptr,d-bufptr+1);
11240         sv_setpvn(tmpstr,d+1,s-d);
11241         s += len - 1;
11242         sv_catpvn(herewas,s,bufend-s);
11243         Copy(SvPVX_const(herewas),bufptr,SvCUR(herewas) + 1,char);
11244
11245         s = olds;
11246         goto retval;
11247     }
11248     else if (!outer) {
11249         d = s;
11250         while (s < PL_bufend &&
11251           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
11252             if (*s++ == '\n')
11253                 CopLINE_inc(PL_curcop);
11254         }
11255         if (s >= PL_bufend) {
11256             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11257             missingterm(PL_tokenbuf);
11258         }
11259         sv_setpvn(tmpstr,d+1,s-d);
11260 #ifdef PERL_MAD
11261         if (PL_madskills) {
11262             if (PL_thisstuff)
11263                 sv_catpvn(PL_thisstuff, d + 1, s - d);
11264             else
11265                 PL_thisstuff = newSVpvn(d + 1, s - d);
11266             stuffstart = s - SvPVX(PL_linestr);
11267         }
11268 #endif
11269         s += len - 1;
11270         CopLINE_inc(PL_curcop); /* the preceding stmt passes a newline */
11271
11272         sv_catpvn(herewas,s,PL_bufend-s);
11273         sv_setsv(PL_linestr,herewas);
11274         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart = SvPVX(PL_linestr);
11275         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11276         PL_last_lop = PL_last_uni = NULL;
11277     }
11278     else
11279         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
11280     while (s >= PL_bufend) {    /* multiple line string? */
11281 #ifdef PERL_MAD
11282         if (PL_madskills) {
11283             tstart = SvPVX(PL_linestr) + stuffstart;
11284             if (PL_thisstuff)
11285                 sv_catpvn(PL_thisstuff, tstart, PL_bufend - tstart);
11286             else
11287                 PL_thisstuff = newSVpvn(tstart, PL_bufend - tstart);
11288         }
11289 #endif
11290         if (!outer ||
11291          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
11292             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11293             missingterm(PL_tokenbuf);
11294         }
11295 #ifdef PERL_MAD
11296         stuffstart = s - SvPVX(PL_linestr);
11297 #endif
11298         CopLINE_inc(PL_curcop);
11299         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11300         PL_last_lop = PL_last_uni = NULL;
11301 #ifndef PERL_STRICT_CR
11302         if (PL_bufend - PL_linestart >= 2) {
11303             if ((PL_bufend[-2] == '\r' && PL_bufend[-1] == '\n') ||
11304                 (PL_bufend[-2] == '\n' && PL_bufend[-1] == '\r'))
11305             {
11306                 PL_bufend[-2] = '\n';
11307                 PL_bufend--;
11308                 SvCUR_set(PL_linestr, PL_bufend - SvPVX_const(PL_linestr));
11309             }
11310             else if (PL_bufend[-1] == '\r')
11311                 PL_bufend[-1] = '\n';
11312         }
11313         else if (PL_bufend - PL_linestart == 1 && PL_bufend[-1] == '\r')
11314             PL_bufend[-1] = '\n';
11315 #endif
11316         if (PERLDB_LINE && PL_curstash != PL_debstash)
11317             update_debugger_info(PL_linestr, NULL, 0);
11318         if (*s == term && memEQ(s,PL_tokenbuf,len)) {
11319             STRLEN off = PL_bufend - 1 - SvPVX_const(PL_linestr);
11320             *(SvPVX(PL_linestr) + off ) = ' ';
11321             sv_catsv(PL_linestr,herewas);
11322             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11323             s = SvPVX(PL_linestr) + off; /* In case PV of PL_linestr moved. */
11324         }
11325         else {
11326             s = PL_bufend;
11327             sv_catsv(tmpstr,PL_linestr);
11328         }
11329     }
11330     s++;
11331 retval:
11332     PL_multi_end = CopLINE(PL_curcop);
11333     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
11334         SvPV_shrink_to_cur(tmpstr);
11335     }
11336     SvREFCNT_dec(herewas);
11337     if (!IN_BYTES) {
11338         if (UTF && is_utf8_string((U8*)SvPVX_const(tmpstr), SvCUR(tmpstr)))
11339             SvUTF8_on(tmpstr);
11340         else if (PL_encoding)
11341             sv_recode_to_utf8(tmpstr, PL_encoding);
11342     }
11343     PL_lex_stuff = tmpstr;
11344     yylval.ival = op_type;
11345     return s;
11346 }
11347
11348 /* scan_inputsymbol
11349    takes: current position in input buffer
11350    returns: new position in input buffer
11351    side-effects: yylval and lex_op are set.
11352
11353    This code handles:
11354
11355    <>           read from ARGV
11356    <FH>         read from filehandle
11357    <pkg::FH>    read from package qualified filehandle
11358    <pkg'FH>     read from package qualified filehandle
11359    <$fh>        read from filehandle in $fh
11360    <*.h>        filename glob
11361
11362 */
11363
11364 STATIC char *
11365 S_scan_inputsymbol(pTHX_ char *start)
11366 {
11367     dVAR;
11368     register char *s = start;           /* current position in buffer */
11369     char *end;
11370     I32 len;
11371
11372     char *d = PL_tokenbuf;                                      /* start of temp holding space */
11373     const char * const e = PL_tokenbuf + sizeof PL_tokenbuf;    /* end of temp holding space */
11374
11375     end = strchr(s, '\n');
11376     if (!end)
11377         end = PL_bufend;
11378     s = delimcpy(d, e, s + 1, end, '>', &len);  /* extract until > */
11379
11380     /* die if we didn't have space for the contents of the <>,
11381        or if it didn't end, or if we see a newline
11382     */
11383
11384     if (len >= (I32)sizeof PL_tokenbuf)
11385         Perl_croak(aTHX_ "Excessively long <> operator");
11386     if (s >= end)
11387         Perl_croak(aTHX_ "Unterminated <> operator");
11388
11389     s++;
11390
11391     /* check for <$fh>
11392        Remember, only scalar variables are interpreted as filehandles by
11393        this code.  Anything more complex (e.g., <$fh{$num}>) will be
11394        treated as a glob() call.
11395        This code makes use of the fact that except for the $ at the front,
11396        a scalar variable and a filehandle look the same.
11397     */
11398     if (*d == '$' && d[1]) d++;
11399
11400     /* allow <Pkg'VALUE> or <Pkg::VALUE> */
11401     while (*d && (isALNUM_lazy_if(d,UTF) || *d == '\'' || *d == ':'))
11402         d++;
11403
11404     /* If we've tried to read what we allow filehandles to look like, and
11405        there's still text left, then it must be a glob() and not a getline.
11406        Use scan_str to pull out the stuff between the <> and treat it
11407        as nothing more than a string.
11408     */
11409
11410     if (d - PL_tokenbuf != len) {
11411         yylval.ival = OP_GLOB;
11412         s = scan_str(start,!!PL_madskills,FALSE);
11413         if (!s)
11414            Perl_croak(aTHX_ "Glob not terminated");
11415         return s;
11416     }
11417     else {
11418         bool readline_overriden = FALSE;
11419         GV *gv_readline;
11420         GV **gvp;
11421         /* we're in a filehandle read situation */
11422         d = PL_tokenbuf;
11423
11424         /* turn <> into <ARGV> */
11425         if (!len)
11426             Copy("ARGV",d,5,char);
11427
11428         /* Check whether readline() is overriden */
11429         gv_readline = gv_fetchpvs("readline", GV_NOTQUAL, SVt_PVCV);
11430         if ((gv_readline
11431                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline))
11432                 ||
11433                 ((gvp = (GV**)hv_fetchs(PL_globalstash, "readline", FALSE))
11434                  && (gv_readline = *gvp) && isGV_with_GP(gv_readline)
11435                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline)))
11436             readline_overriden = TRUE;
11437
11438         /* if <$fh>, create the ops to turn the variable into a
11439            filehandle
11440         */
11441         if (*d == '$') {
11442             /* try to find it in the pad for this block, otherwise find
11443                add symbol table ops
11444             */
11445             const PADOFFSET tmp = pad_findmy(d);
11446             if (tmp != NOT_IN_PAD) {
11447                 if (PAD_COMPNAME_FLAGS_isOUR(tmp)) {
11448                     HV * const stash = PAD_COMPNAME_OURSTASH(tmp);
11449                     HEK * const stashname = HvNAME_HEK(stash);
11450                     SV * const sym = sv_2mortal(newSVhek(stashname));
11451                     sv_catpvs(sym, "::");
11452                     sv_catpv(sym, d+1);
11453                     d = SvPVX(sym);
11454                     goto intro_sym;
11455                 }
11456                 else {
11457                     OP * const o = newOP(OP_PADSV, 0);
11458                     o->op_targ = tmp;
11459                     PL_lex_op = readline_overriden
11460                         ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11461                                 append_elem(OP_LIST, o,
11462                                     newCVREF(0, newGVOP(OP_GV,0,gv_readline))))
11463                         : (OP*)newUNOP(OP_READLINE, 0, o);
11464                 }
11465             }
11466             else {
11467                 GV *gv;
11468                 ++d;
11469 intro_sym:
11470                 gv = gv_fetchpv(d,
11471                                 (PL_in_eval
11472                                  ? (GV_ADDMULTI | GV_ADDINEVAL)
11473                                  : GV_ADDMULTI),
11474                                 SVt_PV);
11475                 PL_lex_op = readline_overriden
11476                     ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11477                             append_elem(OP_LIST,
11478                                 newUNOP(OP_RV2SV, 0, newGVOP(OP_GV, 0, gv)),
11479                                 newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
11480                     : (OP*)newUNOP(OP_READLINE, 0,
11481                             newUNOP(OP_RV2SV, 0,
11482                                 newGVOP(OP_GV, 0, gv)));
11483             }
11484             if (!readline_overriden)
11485                 PL_lex_op->op_flags |= OPf_SPECIAL;
11486             /* we created the ops in PL_lex_op, so make yylval.ival a null op */
11487             yylval.ival = OP_NULL;
11488         }
11489
11490         /* If it's none of the above, it must be a literal filehandle
11491            (<Foo::BAR> or <FOO>) so build a simple readline OP */
11492         else {
11493             GV * const gv = gv_fetchpv(d, GV_ADD, SVt_PVIO);
11494             PL_lex_op = readline_overriden
11495                 ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11496                         append_elem(OP_LIST,
11497                             newGVOP(OP_GV, 0, gv),
11498                             newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
11499                 : (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
11500             yylval.ival = OP_NULL;
11501         }
11502     }
11503
11504     return s;
11505 }
11506
11507
11508 /* scan_str
11509    takes: start position in buffer
11510           keep_quoted preserve \ on the embedded delimiter(s)
11511           keep_delims preserve the delimiters around the string
11512    returns: position to continue reading from buffer
11513    side-effects: multi_start, multi_close, lex_repl or lex_stuff, and
11514         updates the read buffer.
11515
11516    This subroutine pulls a string out of the input.  It is called for:
11517         q               single quotes           q(literal text)
11518         '               single quotes           'literal text'
11519         qq              double quotes           qq(interpolate $here please)
11520         "               double quotes           "interpolate $here please"
11521         qx              backticks               qx(/bin/ls -l)
11522         `               backticks               `/bin/ls -l`
11523         qw              quote words             @EXPORT_OK = qw( func() $spam )
11524         m//             regexp match            m/this/
11525         s///            regexp substitute       s/this/that/
11526         tr///           string transliterate    tr/this/that/
11527         y///            string transliterate    y/this/that/
11528         ($*@)           sub prototypes          sub foo ($)
11529         (stuff)         sub attr parameters     sub foo : attr(stuff)
11530         <>              readline or globs       <FOO>, <>, <$fh>, or <*.c>
11531
11532    In most of these cases (all but <>, patterns and transliterate)
11533    yylex() calls scan_str().  m// makes yylex() call scan_pat() which
11534    calls scan_str().  s/// makes yylex() call scan_subst() which calls
11535    scan_str().  tr/// and y/// make yylex() call scan_trans() which
11536    calls scan_str().
11537
11538    It skips whitespace before the string starts, and treats the first
11539    character as the delimiter.  If the delimiter is one of ([{< then
11540    the corresponding "close" character )]}> is used as the closing
11541    delimiter.  It allows quoting of delimiters, and if the string has
11542    balanced delimiters ([{<>}]) it allows nesting.
11543
11544    On success, the SV with the resulting string is put into lex_stuff or,
11545    if that is already non-NULL, into lex_repl. The second case occurs only
11546    when parsing the RHS of the special constructs s/// and tr/// (y///).
11547    For convenience, the terminating delimiter character is stuffed into
11548    SvIVX of the SV.
11549 */
11550
11551 STATIC char *
11552 S_scan_str(pTHX_ char *start, int keep_quoted, int keep_delims)
11553 {
11554     dVAR;
11555     SV *sv;                             /* scalar value: string */
11556     const char *tmps;                   /* temp string, used for delimiter matching */
11557     register char *s = start;           /* current position in the buffer */
11558     register char term;                 /* terminating character */
11559     register char *to;                  /* current position in the sv's data */
11560     I32 brackets = 1;                   /* bracket nesting level */
11561     bool has_utf8 = FALSE;              /* is there any utf8 content? */
11562     I32 termcode;                       /* terminating char. code */
11563     U8 termstr[UTF8_MAXBYTES];          /* terminating string */
11564     STRLEN termlen;                     /* length of terminating string */
11565     int last_off = 0;                   /* last position for nesting bracket */
11566 #ifdef PERL_MAD
11567     int stuffstart;
11568     char *tstart;
11569 #endif
11570
11571     /* skip space before the delimiter */
11572     if (isSPACE(*s)) {
11573         s = PEEKSPACE(s);
11574     }
11575
11576 #ifdef PERL_MAD
11577     if (PL_realtokenstart >= 0) {
11578         stuffstart = PL_realtokenstart;
11579         PL_realtokenstart = -1;
11580     }
11581     else
11582         stuffstart = start - SvPVX(PL_linestr);
11583 #endif
11584     /* mark where we are, in case we need to report errors */
11585     CLINE;
11586
11587     /* after skipping whitespace, the next character is the terminator */
11588     term = *s;
11589     if (!UTF) {
11590         termcode = termstr[0] = term;
11591         termlen = 1;
11592     }
11593     else {
11594         termcode = utf8_to_uvchr((U8*)s, &termlen);
11595         Copy(s, termstr, termlen, U8);
11596         if (!UTF8_IS_INVARIANT(term))
11597             has_utf8 = TRUE;
11598     }
11599
11600     /* mark where we are */
11601     PL_multi_start = CopLINE(PL_curcop);
11602     PL_multi_open = term;
11603
11604     /* find corresponding closing delimiter */
11605     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
11606         termcode = termstr[0] = term = tmps[5];
11607
11608     PL_multi_close = term;
11609
11610     /* create a new SV to hold the contents.  79 is the SV's initial length.
11611        What a random number. */
11612     sv = newSV_type(SVt_PVIV);
11613     SvGROW(sv, 80);
11614     SvIV_set(sv, termcode);
11615     (void)SvPOK_only(sv);               /* validate pointer */
11616
11617     /* move past delimiter and try to read a complete string */
11618     if (keep_delims)
11619         sv_catpvn(sv, s, termlen);
11620     s += termlen;
11621 #ifdef PERL_MAD
11622     tstart = SvPVX(PL_linestr) + stuffstart;
11623     if (!PL_thisopen && !keep_delims) {
11624         PL_thisopen = newSVpvn(tstart, s - tstart);
11625         stuffstart = s - SvPVX(PL_linestr);
11626     }
11627 #endif
11628     for (;;) {
11629         if (PL_encoding && !UTF) {
11630             bool cont = TRUE;
11631
11632             while (cont) {
11633                 int offset = s - SvPVX_const(PL_linestr);
11634                 const bool found = sv_cat_decode(sv, PL_encoding, PL_linestr,
11635                                            &offset, (char*)termstr, termlen);
11636                 const char * const ns = SvPVX_const(PL_linestr) + offset;
11637                 char * const svlast = SvEND(sv) - 1;
11638
11639                 for (; s < ns; s++) {
11640                     if (*s == '\n' && !PL_rsfp)
11641                         CopLINE_inc(PL_curcop);
11642                 }
11643                 if (!found)
11644                     goto read_more_line;
11645                 else {
11646                     /* handle quoted delimiters */
11647                     if (SvCUR(sv) > 1 && *(svlast-1) == '\\') {
11648                         const char *t;
11649                         for (t = svlast-2; t >= SvPVX_const(sv) && *t == '\\';)
11650                             t--;
11651                         if ((svlast-1 - t) % 2) {
11652                             if (!keep_quoted) {
11653                                 *(svlast-1) = term;
11654                                 *svlast = '\0';
11655                                 SvCUR_set(sv, SvCUR(sv) - 1);
11656                             }
11657                             continue;
11658                         }
11659                     }
11660                     if (PL_multi_open == PL_multi_close) {
11661                         cont = FALSE;
11662                     }
11663                     else {
11664                         const char *t;
11665                         char *w;
11666                         for (t = w = SvPVX(sv)+last_off; t < svlast; w++, t++) {
11667                             /* At here, all closes are "was quoted" one,
11668                                so we don't check PL_multi_close. */
11669                             if (*t == '\\') {
11670                                 if (!keep_quoted && *(t+1) == PL_multi_open)
11671                                     t++;
11672                                 else
11673                                     *w++ = *t++;
11674                             }
11675                             else if (*t == PL_multi_open)
11676                                 brackets++;
11677
11678                             *w = *t;
11679                         }
11680                         if (w < t) {
11681                             *w++ = term;
11682                             *w = '\0';
11683                             SvCUR_set(sv, w - SvPVX_const(sv));
11684                         }
11685                         last_off = w - SvPVX(sv);
11686                         if (--brackets <= 0)
11687                             cont = FALSE;
11688                     }
11689                 }
11690             }
11691             if (!keep_delims) {
11692                 SvCUR_set(sv, SvCUR(sv) - 1);
11693                 *SvEND(sv) = '\0';
11694             }
11695             break;
11696         }
11697
11698         /* extend sv if need be */
11699         SvGROW(sv, SvCUR(sv) + (PL_bufend - s) + 1);
11700         /* set 'to' to the next character in the sv's string */
11701         to = SvPVX(sv)+SvCUR(sv);
11702
11703         /* if open delimiter is the close delimiter read unbridle */
11704         if (PL_multi_open == PL_multi_close) {
11705             for (; s < PL_bufend; s++,to++) {
11706                 /* embedded newlines increment the current line number */
11707                 if (*s == '\n' && !PL_rsfp)
11708                     CopLINE_inc(PL_curcop);
11709                 /* handle quoted delimiters */
11710                 if (*s == '\\' && s+1 < PL_bufend && term != '\\') {
11711                     if (!keep_quoted && s[1] == term)
11712                         s++;
11713                 /* any other quotes are simply copied straight through */
11714                     else
11715                         *to++ = *s++;
11716                 }
11717                 /* terminate when run out of buffer (the for() condition), or
11718                    have found the terminator */
11719                 else if (*s == term) {
11720                     if (termlen == 1)
11721                         break;
11722                     if (s+termlen <= PL_bufend && memEQ(s, (char*)termstr, termlen))
11723                         break;
11724                 }
11725                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
11726                     has_utf8 = TRUE;
11727                 *to = *s;
11728             }
11729         }
11730
11731         /* if the terminator isn't the same as the start character (e.g.,
11732            matched brackets), we have to allow more in the quoting, and
11733            be prepared for nested brackets.
11734         */
11735         else {
11736             /* read until we run out of string, or we find the terminator */
11737             for (; s < PL_bufend; s++,to++) {
11738                 /* embedded newlines increment the line count */
11739                 if (*s == '\n' && !PL_rsfp)
11740                     CopLINE_inc(PL_curcop);
11741                 /* backslashes can escape the open or closing characters */
11742                 if (*s == '\\' && s+1 < PL_bufend) {
11743                     if (!keep_quoted &&
11744                         ((s[1] == PL_multi_open) || (s[1] == PL_multi_close)))
11745                         s++;
11746                     else
11747                         *to++ = *s++;
11748                 }
11749                 /* allow nested opens and closes */
11750                 else if (*s == PL_multi_close && --brackets <= 0)
11751                     break;
11752                 else if (*s == PL_multi_open)
11753                     brackets++;
11754                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
11755                     has_utf8 = TRUE;
11756                 *to = *s;
11757             }
11758         }
11759         /* terminate the copied string and update the sv's end-of-string */
11760         *to = '\0';
11761         SvCUR_set(sv, to - SvPVX_const(sv));
11762
11763         /*
11764          * this next chunk reads more into the buffer if we're not done yet
11765          */
11766
11767         if (s < PL_bufend)
11768             break;              /* handle case where we are done yet :-) */
11769
11770 #ifndef PERL_STRICT_CR
11771         if (to - SvPVX_const(sv) >= 2) {
11772             if ((to[-2] == '\r' && to[-1] == '\n') ||
11773                 (to[-2] == '\n' && to[-1] == '\r'))
11774             {
11775                 to[-2] = '\n';
11776                 to--;
11777                 SvCUR_set(sv, to - SvPVX_const(sv));
11778             }
11779             else if (to[-1] == '\r')
11780                 to[-1] = '\n';
11781         }
11782         else if (to - SvPVX_const(sv) == 1 && to[-1] == '\r')
11783             to[-1] = '\n';
11784 #endif
11785
11786      read_more_line:
11787         /* if we're out of file, or a read fails, bail and reset the current
11788            line marker so we can report where the unterminated string began
11789         */
11790 #ifdef PERL_MAD
11791         if (PL_madskills) {
11792             char * const tstart = SvPVX(PL_linestr) + stuffstart;
11793             if (PL_thisstuff)
11794                 sv_catpvn(PL_thisstuff, tstart, PL_bufend - tstart);
11795             else
11796                 PL_thisstuff = newSVpvn(tstart, PL_bufend - tstart);
11797         }
11798 #endif
11799         if (!PL_rsfp ||
11800          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
11801             sv_free(sv);
11802             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11803             return NULL;
11804         }
11805 #ifdef PERL_MAD
11806         stuffstart = 0;
11807 #endif
11808         /* we read a line, so increment our line counter */
11809         CopLINE_inc(PL_curcop);
11810
11811         /* update debugger info */
11812         if (PERLDB_LINE && PL_curstash != PL_debstash)
11813             update_debugger_info(PL_linestr, NULL, 0);
11814
11815         /* having changed the buffer, we must update PL_bufend */
11816         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11817         PL_last_lop = PL_last_uni = NULL;
11818     }
11819
11820     /* at this point, we have successfully read the delimited string */
11821
11822     if (!PL_encoding || UTF) {
11823 #ifdef PERL_MAD
11824         if (PL_madskills) {
11825             char * const tstart = SvPVX(PL_linestr) + stuffstart;
11826             const int len = s - tstart;
11827             if (PL_thisstuff)
11828                 sv_catpvn(PL_thisstuff, tstart, len);
11829             else
11830                 PL_thisstuff = newSVpvn(tstart, len);
11831             if (!PL_thisclose && !keep_delims)
11832                 PL_thisclose = newSVpvn(s,termlen);
11833         }
11834 #endif
11835
11836         if (keep_delims)
11837             sv_catpvn(sv, s, termlen);
11838         s += termlen;
11839     }
11840 #ifdef PERL_MAD
11841     else {
11842         if (PL_madskills) {
11843             char * const tstart = SvPVX(PL_linestr) + stuffstart;
11844             const int len = s - tstart - termlen;
11845             if (PL_thisstuff)
11846                 sv_catpvn(PL_thisstuff, tstart, len);
11847             else
11848                 PL_thisstuff = newSVpvn(tstart, len);
11849             if (!PL_thisclose && !keep_delims)
11850                 PL_thisclose = newSVpvn(s - termlen,termlen);
11851         }
11852     }
11853 #endif
11854     if (has_utf8 || PL_encoding)
11855         SvUTF8_on(sv);
11856
11857     PL_multi_end = CopLINE(PL_curcop);
11858
11859     /* if we allocated too much space, give some back */
11860     if (SvCUR(sv) + 5 < SvLEN(sv)) {
11861         SvLEN_set(sv, SvCUR(sv) + 1);
11862         SvPV_renew(sv, SvLEN(sv));
11863     }
11864
11865     /* decide whether this is the first or second quoted string we've read
11866        for this op
11867     */
11868
11869     if (PL_lex_stuff)
11870         PL_lex_repl = sv;
11871     else
11872         PL_lex_stuff = sv;
11873     return s;
11874 }
11875
11876 /*
11877   scan_num
11878   takes: pointer to position in buffer
11879   returns: pointer to new position in buffer
11880   side-effects: builds ops for the constant in yylval.op
11881
11882   Read a number in any of the formats that Perl accepts:
11883
11884   \d(_?\d)*(\.(\d(_?\d)*)?)?[Ee][\+\-]?(\d(_?\d)*)      12 12.34 12.
11885   \.\d(_?\d)*[Ee][\+\-]?(\d(_?\d)*)                     .34
11886   0b[01](_?[01])*
11887   0[0-7](_?[0-7])*
11888   0x[0-9A-Fa-f](_?[0-9A-Fa-f])*
11889
11890   Like most scan_ routines, it uses the PL_tokenbuf buffer to hold the
11891   thing it reads.
11892
11893   If it reads a number without a decimal point or an exponent, it will
11894   try converting the number to an integer and see if it can do so
11895   without loss of precision.
11896 */
11897
11898 char *
11899 Perl_scan_num(pTHX_ const char *start, YYSTYPE* lvalp)
11900 {
11901     dVAR;
11902     register const char *s = start;     /* current position in buffer */
11903     register char *d;                   /* destination in temp buffer */
11904     register char *e;                   /* end of temp buffer */
11905     NV nv;                              /* number read, as a double */
11906     SV *sv = NULL;                      /* place to put the converted number */
11907     bool floatit;                       /* boolean: int or float? */
11908     const char *lastub = NULL;          /* position of last underbar */
11909     static char const number_too_long[] = "Number too long";
11910
11911     /* We use the first character to decide what type of number this is */
11912
11913     switch (*s) {
11914     default:
11915       Perl_croak(aTHX_ "panic: scan_num");
11916
11917     /* if it starts with a 0, it could be an octal number, a decimal in
11918        0.13 disguise, or a hexadecimal number, or a binary number. */
11919     case '0':
11920         {
11921           /* variables:
11922              u          holds the "number so far"
11923              shift      the power of 2 of the base
11924                         (hex == 4, octal == 3, binary == 1)
11925              overflowed was the number more than we can hold?
11926
11927              Shift is used when we add a digit.  It also serves as an "are
11928              we in octal/hex/binary?" indicator to disallow hex characters
11929              when in octal mode.
11930            */
11931             NV n = 0.0;
11932             UV u = 0;
11933             I32 shift;
11934             bool overflowed = FALSE;
11935             bool just_zero  = TRUE;     /* just plain 0 or binary number? */
11936             static const NV nvshift[5] = { 1.0, 2.0, 4.0, 8.0, 16.0 };
11937             static const char* const bases[5] =
11938               { "", "binary", "", "octal", "hexadecimal" };
11939             static const char* const Bases[5] =
11940               { "", "Binary", "", "Octal", "Hexadecimal" };
11941             static const char* const maxima[5] =
11942               { "",
11943                 "0b11111111111111111111111111111111",
11944                 "",
11945                 "037777777777",
11946                 "0xffffffff" };
11947             const char *base, *Base, *max;
11948
11949             /* check for hex */
11950             if (s[1] == 'x') {
11951                 shift = 4;
11952                 s += 2;
11953                 just_zero = FALSE;
11954             } else if (s[1] == 'b') {
11955                 shift = 1;
11956                 s += 2;
11957                 just_zero = FALSE;
11958             }
11959             /* check for a decimal in disguise */
11960             else if (s[1] == '.' || s[1] == 'e' || s[1] == 'E')
11961                 goto decimal;
11962             /* so it must be octal */
11963             else {
11964                 shift = 3;
11965                 s++;
11966             }
11967
11968             if (*s == '_') {
11969                if (ckWARN(WARN_SYNTAX))
11970                    Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11971                                "Misplaced _ in number");
11972                lastub = s++;
11973             }
11974
11975             base = bases[shift];
11976             Base = Bases[shift];
11977             max  = maxima[shift];
11978
11979             /* read the rest of the number */
11980             for (;;) {
11981                 /* x is used in the overflow test,
11982                    b is the digit we're adding on. */
11983                 UV x, b;
11984
11985                 switch (*s) {
11986
11987                 /* if we don't mention it, we're done */
11988                 default:
11989                     goto out;
11990
11991                 /* _ are ignored -- but warned about if consecutive */
11992                 case '_':
11993                     if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11994                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11995                                     "Misplaced _ in number");
11996                     lastub = s++;
11997                     break;
11998
11999                 /* 8 and 9 are not octal */
12000                 case '8': case '9':
12001                     if (shift == 3)
12002                         yyerror(Perl_form(aTHX_ "Illegal octal digit '%c'", *s));
12003                     /* FALL THROUGH */
12004
12005                 /* octal digits */
12006                 case '2': case '3': case '4':
12007                 case '5': case '6': case '7':
12008                     if (shift == 1)
12009                         yyerror(Perl_form(aTHX_ "Illegal binary digit '%c'", *s));
12010                     /* FALL THROUGH */
12011
12012                 case '0': case '1':
12013                     b = *s++ & 15;              /* ASCII digit -> value of digit */
12014                     goto digit;
12015
12016                 /* hex digits */
12017                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
12018                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
12019                     /* make sure they said 0x */
12020                     if (shift != 4)
12021                         goto out;
12022                     b = (*s++ & 7) + 9;
12023
12024                     /* Prepare to put the digit we have onto the end
12025                        of the number so far.  We check for overflows.
12026                     */
12027
12028                   digit:
12029                     just_zero = FALSE;
12030                     if (!overflowed) {
12031                         x = u << shift; /* make room for the digit */
12032
12033                         if ((x >> shift) != u
12034                             && !(PL_hints & HINT_NEW_BINARY)) {
12035                             overflowed = TRUE;
12036                             n = (NV) u;
12037                             if (ckWARN_d(WARN_OVERFLOW))
12038                                 Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
12039                                             "Integer overflow in %s number",
12040                                             base);
12041                         } else
12042                             u = x | b;          /* add the digit to the end */
12043                     }
12044                     if (overflowed) {
12045                         n *= nvshift[shift];
12046                         /* If an NV has not enough bits in its
12047                          * mantissa to represent an UV this summing of
12048                          * small low-order numbers is a waste of time
12049                          * (because the NV cannot preserve the
12050                          * low-order bits anyway): we could just
12051                          * remember when did we overflow and in the
12052                          * end just multiply n by the right
12053                          * amount. */
12054                         n += (NV) b;
12055                     }
12056                     break;
12057                 }
12058             }
12059
12060           /* if we get here, we had success: make a scalar value from
12061              the number.
12062           */
12063           out:
12064
12065             /* final misplaced underbar check */
12066             if (s[-1] == '_') {
12067                 if (ckWARN(WARN_SYNTAX))
12068                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
12069             }
12070
12071             sv = newSV(0);
12072             if (overflowed) {
12073                 if (n > 4294967295.0 && ckWARN(WARN_PORTABLE))
12074                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
12075                                 "%s number > %s non-portable",
12076                                 Base, max);
12077                 sv_setnv(sv, n);
12078             }
12079             else {
12080 #if UVSIZE > 4
12081                 if (u > 0xffffffff && ckWARN(WARN_PORTABLE))
12082                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
12083                                 "%s number > %s non-portable",
12084                                 Base, max);
12085 #endif
12086                 sv_setuv(sv, u);
12087             }
12088             if (just_zero && (PL_hints & HINT_NEW_INTEGER))
12089                 sv = new_constant(start, s - start, "integer",
12090                                   sv, NULL, NULL, 0);
12091             else if (PL_hints & HINT_NEW_BINARY)
12092                 sv = new_constant(start, s - start, "binary", sv, NULL, NULL, 0);
12093         }
12094         break;
12095
12096     /*
12097       handle decimal numbers.
12098       we're also sent here when we read a 0 as the first digit
12099     */
12100     case '1': case '2': case '3': case '4': case '5':
12101     case '6': case '7': case '8': case '9': case '.':
12102       decimal:
12103         d = PL_tokenbuf;
12104         e = PL_tokenbuf + sizeof PL_tokenbuf - 6; /* room for various punctuation */
12105         floatit = FALSE;
12106
12107         /* read next group of digits and _ and copy into d */
12108         while (isDIGIT(*s) || *s == '_') {
12109             /* skip underscores, checking for misplaced ones
12110                if -w is on
12111             */
12112             if (*s == '_') {
12113                 if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
12114                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12115                                 "Misplaced _ in number");
12116                 lastub = s++;
12117             }
12118             else {
12119                 /* check for end of fixed-length buffer */
12120                 if (d >= e)
12121                     Perl_croak(aTHX_ number_too_long);
12122                 /* if we're ok, copy the character */
12123                 *d++ = *s++;
12124             }
12125         }
12126
12127         /* final misplaced underbar check */
12128         if (lastub && s == lastub + 1) {
12129             if (ckWARN(WARN_SYNTAX))
12130                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
12131         }
12132
12133         /* read a decimal portion if there is one.  avoid
12134            3..5 being interpreted as the number 3. followed
12135            by .5
12136         */
12137         if (*s == '.' && s[1] != '.') {
12138             floatit = TRUE;
12139             *d++ = *s++;
12140
12141             if (*s == '_') {
12142                 if (ckWARN(WARN_SYNTAX))
12143                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12144                                 "Misplaced _ in number");
12145                 lastub = s;
12146             }
12147
12148             /* copy, ignoring underbars, until we run out of digits.
12149             */
12150             for (; isDIGIT(*s) || *s == '_'; s++) {
12151                 /* fixed length buffer check */
12152                 if (d >= e)
12153                     Perl_croak(aTHX_ number_too_long);
12154                 if (*s == '_') {
12155                    if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
12156                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12157                                    "Misplaced _ in number");
12158                    lastub = s;
12159                 }
12160                 else
12161                     *d++ = *s;
12162             }
12163             /* fractional part ending in underbar? */
12164             if (s[-1] == '_') {
12165                 if (ckWARN(WARN_SYNTAX))
12166                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12167                                 "Misplaced _ in number");
12168             }
12169             if (*s == '.' && isDIGIT(s[1])) {
12170                 /* oops, it's really a v-string, but without the "v" */
12171                 s = start;
12172                 goto vstring;
12173             }
12174         }
12175
12176         /* read exponent part, if present */
12177         if ((*s == 'e' || *s == 'E') && strchr("+-0123456789_", s[1])) {
12178             floatit = TRUE;
12179             s++;
12180
12181             /* regardless of whether user said 3E5 or 3e5, use lower 'e' */
12182             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
12183
12184             /* stray preinitial _ */
12185             if (*s == '_') {
12186                 if (ckWARN(WARN_SYNTAX))
12187                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12188                                 "Misplaced _ in number");
12189                 lastub = s++;
12190             }
12191
12192             /* allow positive or negative exponent */
12193             if (*s == '+' || *s == '-')
12194                 *d++ = *s++;
12195
12196             /* stray initial _ */
12197             if (*s == '_') {
12198                 if (ckWARN(WARN_SYNTAX))
12199                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12200                                 "Misplaced _ in number");
12201                 lastub = s++;
12202             }
12203
12204             /* read digits of exponent */
12205             while (isDIGIT(*s) || *s == '_') {
12206                 if (isDIGIT(*s)) {
12207                     if (d >= e)
12208                         Perl_croak(aTHX_ number_too_long);
12209                     *d++ = *s++;
12210                 }
12211                 else {
12212                    if (((lastub && s == lastub + 1) ||
12213                         (!isDIGIT(s[1]) && s[1] != '_'))
12214                     && ckWARN(WARN_SYNTAX))
12215                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12216                                    "Misplaced _ in number");
12217                    lastub = s++;
12218                 }
12219             }
12220         }
12221
12222
12223         /* make an sv from the string */
12224         sv = newSV(0);
12225
12226         /*
12227            We try to do an integer conversion first if no characters
12228            indicating "float" have been found.
12229          */
12230
12231         if (!floatit) {
12232             UV uv;
12233             const int flags = grok_number (PL_tokenbuf, d - PL_tokenbuf, &uv);
12234
12235             if (flags == IS_NUMBER_IN_UV) {
12236               if (uv <= IV_MAX)
12237                 sv_setiv(sv, uv); /* Prefer IVs over UVs. */
12238               else
12239                 sv_setuv(sv, uv);
12240             } else if (flags == (IS_NUMBER_IN_UV | IS_NUMBER_NEG)) {
12241               if (uv <= (UV) IV_MIN)
12242                 sv_setiv(sv, -(IV)uv);
12243               else
12244                 floatit = TRUE;
12245             } else
12246               floatit = TRUE;
12247         }
12248         if (floatit) {
12249             /* terminate the string */
12250             *d = '\0';
12251             nv = Atof(PL_tokenbuf);
12252             sv_setnv(sv, nv);
12253         }
12254
12255         if ( floatit
12256              ? (PL_hints & HINT_NEW_FLOAT) : (PL_hints & HINT_NEW_INTEGER) ) {
12257             const char *const key = floatit ? "float" : "integer";
12258             const STRLEN keylen = floatit ? 5 : 7;
12259             sv = S_new_constant(aTHX_ PL_tokenbuf, d - PL_tokenbuf,
12260                                 key, keylen, sv, NULL, NULL, 0);
12261         }
12262         break;
12263
12264     /* if it starts with a v, it could be a v-string */
12265     case 'v':
12266 vstring:
12267                 sv = newSV(5); /* preallocate storage space */
12268                 s = scan_vstring(s, PL_bufend, sv);
12269         break;
12270     }
12271
12272     /* make the op for the constant and return */
12273
12274     if (sv)
12275         lvalp->opval = newSVOP(OP_CONST, 0, sv);
12276     else
12277         lvalp->opval = NULL;
12278
12279     return (char *)s;
12280 }
12281
12282 STATIC char *
12283 S_scan_formline(pTHX_ register char *s)
12284 {
12285     dVAR;
12286     register char *eol;
12287     register char *t;
12288     SV * const stuff = newSVpvs("");
12289     bool needargs = FALSE;
12290     bool eofmt = FALSE;
12291 #ifdef PERL_MAD
12292     char *tokenstart = s;
12293     SV* savewhite;
12294
12295     if (PL_madskills) {
12296         savewhite = PL_thiswhite;
12297         PL_thiswhite = 0;
12298     }
12299 #endif
12300
12301     while (!needargs) {
12302         if (*s == '.') {
12303             t = s+1;
12304 #ifdef PERL_STRICT_CR
12305             while (SPACE_OR_TAB(*t))
12306                 t++;
12307 #else
12308             while (SPACE_OR_TAB(*t) || *t == '\r')
12309                 t++;
12310 #endif
12311             if (*t == '\n' || t == PL_bufend) {
12312                 eofmt = TRUE;
12313                 break;
12314             }
12315         }
12316         if (PL_in_eval && !PL_rsfp) {
12317             eol = (char *) memchr(s,'\n',PL_bufend-s);
12318             if (!eol++)
12319                 eol = PL_bufend;
12320         }
12321         else
12322             eol = PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
12323         if (*s != '#') {
12324             for (t = s; t < eol; t++) {
12325                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
12326                     needargs = FALSE;
12327                     goto enough;        /* ~~ must be first line in formline */
12328                 }
12329                 if (*t == '@' || *t == '^')
12330                     needargs = TRUE;
12331             }
12332             if (eol > s) {
12333                 sv_catpvn(stuff, s, eol-s);
12334 #ifndef PERL_STRICT_CR
12335                 if (eol-s > 1 && eol[-2] == '\r' && eol[-1] == '\n') {
12336                     char *end = SvPVX(stuff) + SvCUR(stuff);
12337                     end[-2] = '\n';
12338                     end[-1] = '\0';
12339                     SvCUR_set(stuff, SvCUR(stuff) - 1);
12340                 }
12341 #endif
12342             }
12343             else
12344               break;
12345         }
12346         s = (char*)eol;
12347         if (PL_rsfp) {
12348 #ifdef PERL_MAD
12349             if (PL_madskills) {
12350                 if (PL_thistoken)
12351                     sv_catpvn(PL_thistoken, tokenstart, PL_bufend - tokenstart);
12352                 else
12353                     PL_thistoken = newSVpvn(tokenstart, PL_bufend - tokenstart);
12354             }
12355 #endif
12356             s = filter_gets(PL_linestr, PL_rsfp, 0);
12357 #ifdef PERL_MAD
12358             tokenstart = PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
12359 #else
12360             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
12361 #endif
12362             PL_bufend = PL_bufptr + SvCUR(PL_linestr);
12363             PL_last_lop = PL_last_uni = NULL;
12364             if (!s) {
12365                 s = PL_bufptr;
12366                 break;
12367             }
12368         }
12369         incline(s);
12370     }
12371   enough:
12372     if (SvCUR(stuff)) {
12373         PL_expect = XTERM;
12374         if (needargs) {
12375             PL_lex_state = LEX_NORMAL;
12376             start_force(PL_curforce);
12377             NEXTVAL_NEXTTOKE.ival = 0;
12378             force_next(',');
12379         }
12380         else
12381             PL_lex_state = LEX_FORMLINE;
12382         if (!IN_BYTES) {
12383             if (UTF && is_utf8_string((U8*)SvPVX_const(stuff), SvCUR(stuff)))
12384                 SvUTF8_on(stuff);
12385             else if (PL_encoding)
12386                 sv_recode_to_utf8(stuff, PL_encoding);
12387         }
12388         start_force(PL_curforce);
12389         NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0, stuff);
12390         force_next(THING);
12391         start_force(PL_curforce);
12392         NEXTVAL_NEXTTOKE.ival = OP_FORMLINE;
12393         force_next(LSTOP);
12394     }
12395     else {
12396         SvREFCNT_dec(stuff);
12397         if (eofmt)
12398             PL_lex_formbrack = 0;
12399         PL_bufptr = s;
12400     }
12401 #ifdef PERL_MAD
12402     if (PL_madskills) {
12403         if (PL_thistoken)
12404             sv_catpvn(PL_thistoken, tokenstart, s - tokenstart);
12405         else
12406             PL_thistoken = newSVpvn(tokenstart, s - tokenstart);
12407         PL_thiswhite = savewhite;
12408     }
12409 #endif
12410     return s;
12411 }
12412
12413 I32
12414 Perl_start_subparse(pTHX_ I32 is_format, U32 flags)
12415 {
12416     dVAR;
12417     const I32 oldsavestack_ix = PL_savestack_ix;
12418     CV* const outsidecv = PL_compcv;
12419
12420     if (PL_compcv) {
12421         assert(SvTYPE(PL_compcv) == SVt_PVCV);
12422     }
12423     SAVEI32(PL_subline);
12424     save_item(PL_subname);
12425     SAVESPTR(PL_compcv);
12426
12427     PL_compcv = (CV*)newSV_type(is_format ? SVt_PVFM : SVt_PVCV);
12428     CvFLAGS(PL_compcv) |= flags;
12429
12430     PL_subline = CopLINE(PL_curcop);
12431     CvPADLIST(PL_compcv) = pad_new(padnew_SAVE|padnew_SAVESUB);
12432     CvOUTSIDE(PL_compcv) = (CV*)SvREFCNT_inc_simple(outsidecv);
12433     CvOUTSIDE_SEQ(PL_compcv) = PL_cop_seqmax;
12434
12435     return oldsavestack_ix;
12436 }
12437
12438 #ifdef __SC__
12439 #pragma segment Perl_yylex
12440 #endif
12441 int
12442 Perl_yywarn(pTHX_ const char *s)
12443 {
12444     dVAR;
12445     PL_in_eval |= EVAL_WARNONLY;
12446     yyerror(s);
12447     PL_in_eval &= ~EVAL_WARNONLY;
12448     return 0;
12449 }
12450
12451 int
12452 Perl_yyerror(pTHX_ const char *s)
12453 {
12454     dVAR;
12455     const char *where = NULL;
12456     const char *context = NULL;
12457     int contlen = -1;
12458     SV *msg;
12459     int yychar  = PL_parser->yychar;
12460
12461     if (!yychar || (yychar == ';' && !PL_rsfp))
12462         where = "at EOF";
12463     else if (PL_oldoldbufptr && PL_bufptr > PL_oldoldbufptr &&
12464       PL_bufptr - PL_oldoldbufptr < 200 && PL_oldoldbufptr != PL_oldbufptr &&
12465       PL_oldbufptr != PL_bufptr) {
12466         /*
12467                 Only for NetWare:
12468                 The code below is removed for NetWare because it abends/crashes on NetWare
12469                 when the script has error such as not having the closing quotes like:
12470                     if ($var eq "value)
12471                 Checking of white spaces is anyway done in NetWare code.
12472         */
12473 #ifndef NETWARE
12474         while (isSPACE(*PL_oldoldbufptr))
12475             PL_oldoldbufptr++;
12476 #endif
12477         context = PL_oldoldbufptr;
12478         contlen = PL_bufptr - PL_oldoldbufptr;
12479     }
12480     else if (PL_oldbufptr && PL_bufptr > PL_oldbufptr &&
12481       PL_bufptr - PL_oldbufptr < 200 && PL_oldbufptr != PL_bufptr) {
12482         /*
12483                 Only for NetWare:
12484                 The code below is removed for NetWare because it abends/crashes on NetWare
12485                 when the script has error such as not having the closing quotes like:
12486                     if ($var eq "value)
12487                 Checking of white spaces is anyway done in NetWare code.
12488         */
12489 #ifndef NETWARE
12490         while (isSPACE(*PL_oldbufptr))
12491             PL_oldbufptr++;
12492 #endif
12493         context = PL_oldbufptr;
12494         contlen = PL_bufptr - PL_oldbufptr;
12495     }
12496     else if (yychar > 255)
12497         where = "next token ???";
12498     else if (yychar == -2) { /* YYEMPTY */
12499         if (PL_lex_state == LEX_NORMAL ||
12500            (PL_lex_state == LEX_KNOWNEXT && PL_lex_defer == LEX_NORMAL))
12501             where = "at end of line";
12502         else if (PL_lex_inpat)
12503             where = "within pattern";
12504         else
12505             where = "within string";
12506     }
12507     else {
12508         SV * const where_sv = sv_2mortal(newSVpvs("next char "));
12509         if (yychar < 32)
12510             Perl_sv_catpvf(aTHX_ where_sv, "^%c", toCTRL(yychar));
12511         else if (isPRINT_LC(yychar)) {
12512             const char string = yychar;
12513             sv_catpvn(where_sv, &string, 1);
12514         }
12515         else
12516             Perl_sv_catpvf(aTHX_ where_sv, "\\%03o", yychar & 255);
12517         where = SvPVX_const(where_sv);
12518     }
12519     msg = sv_2mortal(newSVpv(s, 0));
12520     Perl_sv_catpvf(aTHX_ msg, " at %s line %"IVdf", ",
12521         OutCopFILE(PL_curcop), (IV)CopLINE(PL_curcop));
12522     if (context)
12523         Perl_sv_catpvf(aTHX_ msg, "near \"%.*s\"\n", contlen, context);
12524     else
12525         Perl_sv_catpvf(aTHX_ msg, "%s\n", where);
12526     if (PL_multi_start < PL_multi_end && (U32)(CopLINE(PL_curcop) - PL_multi_end) <= 1) {
12527         Perl_sv_catpvf(aTHX_ msg,
12528         "  (Might be a runaway multi-line %c%c string starting on line %"IVdf")\n",
12529                 (int)PL_multi_open,(int)PL_multi_close,(IV)PL_multi_start);
12530         PL_multi_end = 0;
12531     }
12532     if (PL_in_eval & EVAL_WARNONLY) {
12533         if (ckWARN_d(WARN_SYNTAX))
12534             Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "%"SVf, SVfARG(msg));
12535     }
12536     else
12537         qerror(msg);
12538     if (PL_error_count >= 10) {
12539         if (PL_in_eval && SvCUR(ERRSV))
12540             Perl_croak(aTHX_ "%"SVf"%s has too many errors.\n",
12541                        SVfARG(ERRSV), OutCopFILE(PL_curcop));
12542         else
12543             Perl_croak(aTHX_ "%s has too many errors.\n",
12544             OutCopFILE(PL_curcop));
12545     }
12546     PL_in_my = 0;
12547     PL_in_my_stash = NULL;
12548     return 0;
12549 }
12550 #ifdef __SC__
12551 #pragma segment Main
12552 #endif
12553
12554 STATIC char*
12555 S_swallow_bom(pTHX_ U8 *s)
12556 {
12557     dVAR;
12558     const STRLEN slen = SvCUR(PL_linestr);
12559     switch (s[0]) {
12560     case 0xFF:
12561         if (s[1] == 0xFE) {
12562             /* UTF-16 little-endian? (or UTF32-LE?) */
12563             if (s[2] == 0 && s[3] == 0)  /* UTF-32 little-endian */
12564                 Perl_croak(aTHX_ "Unsupported script encoding UTF32-LE");
12565 #ifndef PERL_NO_UTF16_FILTER
12566             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF16-LE script encoding (BOM)\n");
12567             s += 2;
12568         utf16le:
12569             if (PL_bufend > (char*)s) {
12570                 U8 *news;
12571                 I32 newlen;
12572
12573                 filter_add(utf16rev_textfilter, NULL);
12574                 Newx(news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
12575                 utf16_to_utf8_reversed(s, news,
12576                                        PL_bufend - (char*)s - 1,
12577                                        &newlen);
12578                 sv_setpvn(PL_linestr, (const char*)news, newlen);
12579 #ifdef PERL_MAD
12580                 s = (U8*)SvPVX(PL_linestr);
12581                 Copy(news, s, newlen, U8);
12582                 s[newlen] = '\0';
12583 #endif
12584                 Safefree(news);
12585                 SvUTF8_on(PL_linestr);
12586                 s = (U8*)SvPVX(PL_linestr);
12587 #ifdef PERL_MAD
12588                 /* FIXME - is this a general bug fix?  */
12589                 s[newlen] = '\0';
12590 #endif
12591                 PL_bufend = SvPVX(PL_linestr) + newlen;
12592             }
12593 #else
12594             Perl_croak(aTHX_ "Unsupported script encoding UTF16-LE");
12595 #endif
12596         }
12597         break;
12598     case 0xFE:
12599         if (s[1] == 0xFF) {   /* UTF-16 big-endian? */
12600 #ifndef PERL_NO_UTF16_FILTER
12601             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (BOM)\n");
12602             s += 2;
12603         utf16be:
12604             if (PL_bufend > (char *)s) {
12605                 U8 *news;
12606                 I32 newlen;
12607
12608                 filter_add(utf16_textfilter, NULL);
12609                 Newx(news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
12610                 utf16_to_utf8(s, news,
12611                               PL_bufend - (char*)s,
12612                               &newlen);
12613                 sv_setpvn(PL_linestr, (const char*)news, newlen);
12614                 Safefree(news);
12615                 SvUTF8_on(PL_linestr);
12616                 s = (U8*)SvPVX(PL_linestr);
12617                 PL_bufend = SvPVX(PL_linestr) + newlen;
12618             }
12619 #else
12620             Perl_croak(aTHX_ "Unsupported script encoding UTF16-BE");
12621 #endif
12622         }
12623         break;
12624     case 0xEF:
12625         if (slen > 2 && s[1] == 0xBB && s[2] == 0xBF) {
12626             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-8 script encoding (BOM)\n");
12627             s += 3;                      /* UTF-8 */
12628         }
12629         break;
12630     case 0:
12631         if (slen > 3) {
12632              if (s[1] == 0) {
12633                   if (s[2] == 0xFE && s[3] == 0xFF) {
12634                        /* UTF-32 big-endian */
12635                        Perl_croak(aTHX_ "Unsupported script encoding UTF32-BE");
12636                   }
12637              }
12638              else if (s[2] == 0 && s[3] != 0) {
12639                   /* Leading bytes
12640                    * 00 xx 00 xx
12641                    * are a good indicator of UTF-16BE. */
12642                   if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (no BOM)\n");
12643                   goto utf16be;
12644              }
12645         }
12646 #ifdef EBCDIC
12647     case 0xDD:
12648         if (slen > 3 && s[1] == 0x73 && s[2] == 0x66 && s[3] == 0x73) {
12649             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-8 script encoding (BOM)\n");
12650             s += 4;                      /* UTF-8 */
12651         }
12652         break;
12653 #endif
12654
12655     default:
12656          if (slen > 3 && s[1] == 0 && s[2] != 0 && s[3] == 0) {
12657                   /* Leading bytes
12658                    * xx 00 xx 00
12659                    * are a good indicator of UTF-16LE. */
12660               if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16LE script encoding (no BOM)\n");
12661               goto utf16le;
12662          }
12663     }
12664     return (char*)s;
12665 }
12666
12667
12668 #ifndef PERL_NO_UTF16_FILTER
12669 static I32
12670 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen)
12671 {
12672     dVAR;
12673     const STRLEN old = SvCUR(sv);
12674     const I32 count = FILTER_READ(idx+1, sv, maxlen);
12675     DEBUG_P(PerlIO_printf(Perl_debug_log,
12676                           "utf16_textfilter(%p): %d %d (%d)\n",
12677                           FPTR2DPTR(void *, utf16_textfilter),
12678                           idx, maxlen, (int) count));
12679     if (count) {
12680         U8* tmps;
12681         I32 newlen;
12682         Newx(tmps, SvCUR(sv) * 3 / 2 + 1, U8);
12683         Copy(SvPVX_const(sv), tmps, old, char);
12684         utf16_to_utf8((U8*)SvPVX_const(sv) + old, tmps + old,
12685                       SvCUR(sv) - old, &newlen);
12686         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
12687     }
12688     DEBUG_P({sv_dump(sv);});
12689     return SvCUR(sv);
12690 }
12691
12692 static I32
12693 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen)
12694 {
12695     dVAR;
12696     const STRLEN old = SvCUR(sv);
12697     const I32 count = FILTER_READ(idx+1, sv, maxlen);
12698     DEBUG_P(PerlIO_printf(Perl_debug_log,
12699                           "utf16rev_textfilter(%p): %d %d (%d)\n",
12700                           FPTR2DPTR(void *, utf16rev_textfilter),
12701                           idx, maxlen, (int) count));
12702     if (count) {
12703         U8* tmps;
12704         I32 newlen;
12705         Newx(tmps, SvCUR(sv) * 3 / 2 + 1, U8);
12706         Copy(SvPVX_const(sv), tmps, old, char);
12707         utf16_to_utf8((U8*)SvPVX_const(sv) + old, tmps + old,
12708                       SvCUR(sv) - old, &newlen);
12709         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
12710     }
12711     DEBUG_P({ sv_dump(sv); });
12712     return count;
12713 }
12714 #endif
12715
12716 /*
12717 Returns a pointer to the next character after the parsed
12718 vstring, as well as updating the passed in sv.
12719
12720 Function must be called like
12721
12722         sv = newSV(5);
12723         s = scan_vstring(s,e,sv);
12724
12725 where s and e are the start and end of the string.
12726 The sv should already be large enough to store the vstring
12727 passed in, for performance reasons.
12728
12729 */
12730
12731 char *
12732 Perl_scan_vstring(pTHX_ const char *s, const char *e, SV *sv)
12733 {
12734     dVAR;
12735     const char *pos = s;
12736     const char *start = s;
12737     if (*pos == 'v') pos++;  /* get past 'v' */
12738     while (pos < e && (isDIGIT(*pos) || *pos == '_'))
12739         pos++;
12740     if ( *pos != '.') {
12741         /* this may not be a v-string if followed by => */
12742         const char *next = pos;
12743         while (next < e && isSPACE(*next))
12744             ++next;
12745         if ((e - next) >= 2 && *next == '=' && next[1] == '>' ) {
12746             /* return string not v-string */
12747             sv_setpvn(sv,(char *)s,pos-s);
12748             return (char *)pos;
12749         }
12750     }
12751
12752     if (!isALPHA(*pos)) {
12753         U8 tmpbuf[UTF8_MAXBYTES+1];
12754
12755         if (*s == 'v')
12756             s++;  /* get past 'v' */
12757
12758         sv_setpvn(sv, "", 0);
12759
12760         for (;;) {
12761             /* this is atoi() that tolerates underscores */
12762             U8 *tmpend;
12763             UV rev = 0;
12764             const char *end = pos;
12765             UV mult = 1;
12766             while (--end >= s) {
12767                 if (*end != '_') {
12768                     const UV orev = rev;
12769                     rev += (*end - '0') * mult;
12770                     mult *= 10;
12771                     if (orev > rev && ckWARN_d(WARN_OVERFLOW))
12772                         Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
12773                                     "Integer overflow in decimal number");
12774                 }
12775             }
12776 #ifdef EBCDIC
12777             if (rev > 0x7FFFFFFF)
12778                  Perl_croak(aTHX_ "In EBCDIC the v-string components cannot exceed 2147483647");
12779 #endif
12780             /* Append native character for the rev point */
12781             tmpend = uvchr_to_utf8(tmpbuf, rev);
12782             sv_catpvn(sv, (const char*)tmpbuf, tmpend - tmpbuf);
12783             if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(rev)))
12784                  SvUTF8_on(sv);
12785             if (pos + 1 < e && *pos == '.' && isDIGIT(pos[1]))
12786                  s = ++pos;
12787             else {
12788                  s = pos;
12789                  break;
12790             }
12791             while (pos < e && (isDIGIT(*pos) || *pos == '_'))
12792                  pos++;
12793         }
12794         SvPOK_on(sv);
12795         sv_magic(sv,NULL,PERL_MAGIC_vstring,(const char*)start, pos-start);
12796         SvRMAGICAL_on(sv);
12797     }
12798     return (char *)s;
12799 }
12800
12801 /*
12802  * Local variables:
12803  * c-indentation-style: bsd
12804  * c-basic-offset: 4
12805  * indent-tabs-mode: t
12806  * End:
12807  *
12808  * ex: set ts=8 sts=4 sw=4 noet:
12809  */