Implement skip_declarator in terms of scan_word in Context::Simple.
[p5sagit/Devel-Declare.git] / stolen_chunk_of_toke.c
index 3f0f896..85f714e 100644 (file)
@@ -24,6 +24,7 @@
 #define filter_gets(a,b,c)      S_filter_gets(aTHX_ a,b,c)
 #define scan_str(a,b,c)         S_scan_str(aTHX_ a,b,c)
 #define scan_word(a,b,c,d,e)    S_scan_word(aTHX_ a,b,c,d,e)
+#define scan_ident(a,b,c,d,e)   S_scan_ident(aTHX_ a,b,c,d,e)
 
 STATIC void     S_incline(pTHX_ char *s);
 STATIC char*    S_skipspace(pTHX_ char *s);
@@ -52,6 +53,8 @@ STATIC char*    S_scan_word(pTHX_ char *s, char *dest, STRLEN destlen, int allow
                (MEM_SIZE)((n)))));  \
      } STMT_END
 
+#define isCONTROLVAR(x) (isUPPER(x) || strchr("[\\]^_?", (x)))
+
 /* On MacOS, respect nonbreaking spaces */
 #ifdef MACOS_TRADITIONAL
 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\312'||(c)=='\t')
@@ -83,7 +86,11 @@ STATIC char*    S_scan_word(pTHX_ char *s, char *dest, STRLEN destlen, int allow
 #define PERL_5_8_8_PLUS
 #endif
 
-#ifdef PL_parser
+#if PERL_REVISION == 5 && PERL_VERSION > 8
+#define PERL_5_9_PLUS
+#endif
+
+#ifdef PERL_5_9_PLUS
 /* 5.9+ moves a bunch of things to a PL_parser struct so we need to
    declare the backcompat macros for things to still work (mst) */
 
@@ -136,11 +143,6 @@ STATIC char*    S_scan_word(pTHX_ char *s, char *dest, STRLEN destlen, int allow
 #  define PL_nextval            (PL_parser->nextval)
 /* end of backcompat macros form 5.9 toke.c (mst) */
 #endif
-/* we also need this because we define PERL_CORE so handy.h doesn't provide
-   it for us (mst) */
-#ifndef NEWSV
-#define NEWSV(x,len)    newSV(len)
-#endif
 
 /* when ccflags include -DDEBUGGING we need this for earlier 5.8 perls */
 #ifndef SvPV_nolen_const
@@ -307,16 +309,20 @@ S_skipspace(pTHX_ register char *s)
            PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
            PL_last_lop = PL_last_uni = Nullch;
 
-           /* Close the filehandle.  Could be from -P preprocessor,
+           /* In perl versions previous to p4-rawid: //depot/perl@32954 -P
+            * preprocessors were supported here. We don't support -P at all, even
+            * on perls that support it, and use the following chunk from blead
+            * perl. (rafl)
+            */
+
+           /* Close the filehandle.  Could be from
             * STDIN, or a regular file.  If we were reading code from
             * STDIN (because the commandline held no -e or filename)
             * then we don't close it, we reset it so the code can
             * read from STDIN too.
             */
 
-           if (PL_preprocess && !PL_in_eval)
-               (void)PerlProc_pclose(PL_rsfp);
-           else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
+           if ((PerlIO*)PL_rsfp == PerlIO_stdin())
                PerlIO_clearerr(PL_rsfp);
            else
                (void)PerlIO_close(PL_rsfp);
@@ -845,3 +851,178 @@ S_force_next(pTHX_ I32 type)
   PL_lex_state = LEX_KNOWNEXT;
     }
 }
+
+#define XFAKEBRACK 128
+
+STATIC char *
+S_scan_ident(pTHX_ register char *s, register const char *send, char *dest, STRLEN destlen, I32 ck_uni)
+{
+    register char *d;
+    register char *e;
+    char *bracket = Nullch;
+    char funny = *s++;
+
+    if (isSPACE(*s))
+       s = skipspace(s);
+    d = dest;
+    e = d + destlen - 3;       /* two-character token, ending NUL */
+    if (isDIGIT(*s)) {
+       while (isDIGIT(*s)) {
+           if (d >= e)
+               Perl_croak(aTHX_ ident_too_long);
+           *d++ = *s++;
+       }
+    }
+    else {
+       for (;;) {
+           if (d >= e)
+               Perl_croak(aTHX_ ident_too_long);
+           if (isALNUM(*s))    /* UTF handled below */
+               *d++ = *s++;
+           else if (*s == '\'' && isIDFIRST_lazy_if(s+1,UTF)) {
+               *d++ = ':';
+               *d++ = ':';
+               s++;
+           }
+           else if (*s == ':' && s[1] == ':') {
+               *d++ = *s++;
+               *d++ = *s++;
+           }
+           else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
+               char *t = s + UTF8SKIP(s);
+               while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
+                   t += UTF8SKIP(t);
+               if (d + (t - s) > e)
+                   Perl_croak(aTHX_ ident_too_long);
+               Copy(s, d, t - s, char);
+               d += t - s;
+               s = t;
+           }
+           else
+               break;
+       }
+    }
+    *d = '\0';
+    d = dest;
+    if (*d) {
+       if (PL_lex_state != LEX_NORMAL)
+           PL_lex_state = LEX_INTERPENDMAYBE;
+       return s;
+    }
+    if (*s == '$' && s[1] &&
+       (isALNUM_lazy_if(s+1,UTF) || s[1] == '$' || s[1] == '{' || strnEQ(s+1,"::",2)) )
+    {
+       return s;
+    }
+    if (*s == '{') {
+       bracket = s;
+       s++;
+    }
+    /* we always call this with ck_uni == 0 (rafl) */
+    /*
+    else if (ck_uni)
+       check_uni();
+    */
+    if (s < send)
+       *d = *s++;
+    d[1] = '\0';
+    if (*d == '^' && *s && isCONTROLVAR(*s)) {
+       *d = toCTRL(*s);
+       s++;
+    }
+    if (bracket) {
+       if (isSPACE(s[-1])) {
+           while (s < send) {
+               const char ch = *s++;
+               if (!SPACE_OR_TAB(ch)) {
+                   *d = ch;
+                   break;
+               }
+           }
+       }
+       if (isIDFIRST_lazy_if(d,UTF)) {
+           d++;
+           if (UTF) {
+               e = s;
+               while ((e < send && isALNUM_lazy_if(e,UTF)) || *e == ':') {
+                   e += UTF8SKIP(e);
+                   while (e < send && UTF8_IS_CONTINUED(*e) && is_utf8_mark((U8*)e))
+                       e += UTF8SKIP(e);
+               }
+               Copy(s, d, e - s, char);
+               d += e - s;
+               s = e;
+           }
+           else {
+               while ((isALNUM(*s) || *s == ':') && d < e)
+                   *d++ = *s++;
+               if (d >= e)
+                   Perl_croak(aTHX_ ident_too_long);
+           }
+           *d = '\0';
+           while (s < send && SPACE_OR_TAB(*s)) s++;
+           if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
+               /* we don't want perl to guess what is meant. the keyword
+                * parser decides that later. (rafl)
+                */
+               /*
+               if (ckWARN(WARN_AMBIGUOUS) && keyword(dest, d - dest)) {
+                   const char *brack = *s == '[' ? "[...]" : "{...}";
+                   Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
+                       "Ambiguous use of %c{%s%s} resolved to %c%s%s",
+                       funny, dest, brack, funny, dest, brack);
+               }
+               */
+               bracket++;
+               PL_lex_brackstack[PL_lex_brackets++] = (char)(XOPERATOR | XFAKEBRACK);
+               return s;
+           }
+       }
+       /* Handle extended ${^Foo} variables
+        * 1999-02-27 mjd-perl-patch@plover.com */
+       else if (!isALNUM(*d) && !isPRINT(*d) /* isCTRL(d) */
+                && isALNUM(*s))
+       {
+           d++;
+           while (isALNUM(*s) && d < e) {
+               *d++ = *s++;
+           }
+           if (d >= e)
+               Perl_croak(aTHX_ ident_too_long);
+           *d = '\0';
+       }
+       if (*s == '}') {
+           s++;
+           if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets) {
+               PL_lex_state = LEX_INTERPEND;
+               PL_expect = XREF;
+           }
+           if (funny == '#')
+               funny = '@';
+           /* we don't want perl to guess what is meant. the keyword
+            * parser decides that later. (rafl)
+            */
+           /*
+           if (PL_lex_state == LEX_NORMAL) {
+               if (ckWARN(WARN_AMBIGUOUS) &&
+                   (keyword(dest, d - dest) || get_cv(dest, FALSE)))
+               {
+                   Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
+                       "Ambiguous use of %c{%s} resolved to %c%s",
+                       funny, dest, funny, dest);
+               }
+           }
+           */
+       }
+       else {
+           s = bracket;                /* let the parser handle it */
+           *dest = '\0';
+       }
+    }
+    /* don't intuit. we really just want the string. (rafl) */
+    /*
+    else if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets && !intuit_more(s))
+       PL_lex_state = LEX_INTERPEND;
+    */
+    return s;
+}