Proper use of enums
[p5sagit/p5-mst-13.2.git] / sv.c
1 /*    sv.c
2  *
3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
4  *    2000, 2001, 2002, 2003, 2004, 2005, 2006, by Larry Wall and others
5  *
6  *    You may distribute under the terms of either the GNU General Public
7  *    License or the Artistic License, as specified in the README file.
8  *
9  * "I wonder what the Entish is for 'yes' and 'no'," he thought.
10  *
11  *
12  * This file contains the code that creates, manipulates and destroys
13  * scalar values (SVs). The other types (AV, HV, GV, etc.) reuse the
14  * structure of an SV, so their creation and destruction is handled
15  * here; higher-level functions are in av.c, hv.c, and so on. Opcode
16  * level functions (eg. substr, split, join) for each of the types are
17  * in the pp*.c files.
18  */
19
20 #include "EXTERN.h"
21 #define PERL_IN_SV_C
22 #include "perl.h"
23 #include "regcomp.h"
24
25 #define FCALL *f
26
27 #ifdef __Lynx__
28 /* Missing proto on LynxOS */
29   char *gconvert(double, int, int,  char *);
30 #endif
31
32 #ifdef PERL_UTF8_CACHE_ASSERT
33 /* if adding more checks watch out for the following tests:
34  *   t/op/index.t t/op/length.t t/op/pat.t t/op/substr.t
35  *   lib/utf8.t lib/Unicode/Collate/t/index.t
36  * --jhi
37  */
38 #   define ASSERT_UTF8_CACHE(cache) \
39     STMT_START { if (cache) { assert((cache)[0] <= (cache)[1]); \
40                               assert((cache)[2] <= (cache)[3]); \
41                               assert((cache)[3] <= (cache)[1]);} \
42                               } STMT_END
43 #else
44 #   define ASSERT_UTF8_CACHE(cache) NOOP
45 #endif
46
47 #ifdef PERL_OLD_COPY_ON_WRITE
48 #define SV_COW_NEXT_SV(sv)      INT2PTR(SV *,SvUVX(sv))
49 #define SV_COW_NEXT_SV_SET(current,next)        SvUV_set(current, PTR2UV(next))
50 /* This is a pessimistic view. Scalar must be purely a read-write PV to copy-
51    on-write.  */
52 #endif
53
54 /* ============================================================================
55
56 =head1 Allocation and deallocation of SVs.
57
58 An SV (or AV, HV, etc.) is allocated in two parts: the head (struct
59 sv, av, hv...) contains type and reference count information, and for
60 many types, a pointer to the body (struct xrv, xpv, xpviv...), which
61 contains fields specific to each type.  Some types store all they need
62 in the head, so don't have a body.
63
64 In all but the most memory-paranoid configuations (ex: PURIFY), heads
65 and bodies are allocated out of arenas, which by default are
66 approximately 4K chunks of memory parcelled up into N heads or bodies.
67 Sv-bodies are allocated by their sv-type, guaranteeing size
68 consistency needed to allocate safely from arrays.
69
70 For SV-heads, the first slot in each arena is reserved, and holds a
71 link to the next arena, some flags, and a note of the number of slots.
72 Snaked through each arena chain is a linked list of free items; when
73 this becomes empty, an extra arena is allocated and divided up into N
74 items which are threaded into the free list.
75
76 SV-bodies are similar, but they use arena-sets by default, which
77 separate the link and info from the arena itself, and reclaim the 1st
78 slot in the arena.  SV-bodies are further described later.
79
80 The following global variables are associated with arenas:
81
82     PL_sv_arenaroot     pointer to list of SV arenas
83     PL_sv_root          pointer to list of free SV structures
84
85     PL_body_arenas      head of linked-list of body arenas
86     PL_body_roots[]     array of pointers to list of free bodies of svtype
87                         arrays are indexed by the svtype needed
88
89 A few special SV heads are not allocated from an arena, but are
90 instead directly created in the interpreter structure, eg PL_sv_undef.
91 The size of arenas can be changed from the default by setting
92 PERL_ARENA_SIZE appropriately at compile time.
93
94 The SV arena serves the secondary purpose of allowing still-live SVs
95 to be located and destroyed during final cleanup.
96
97 At the lowest level, the macros new_SV() and del_SV() grab and free
98 an SV head.  (If debugging with -DD, del_SV() calls the function S_del_sv()
99 to return the SV to the free list with error checking.) new_SV() calls
100 more_sv() / sv_add_arena() to add an extra arena if the free list is empty.
101 SVs in the free list have their SvTYPE field set to all ones.
102
103 At the time of very final cleanup, sv_free_arenas() is called from
104 perl_destruct() to physically free all the arenas allocated since the
105 start of the interpreter.
106
107 Manipulation of any of the PL_*root pointers is protected by enclosing
108 LOCK_SV_MUTEX; ... UNLOCK_SV_MUTEX calls which should Do the Right Thing
109 if threads are enabled.
110
111 The function visit() scans the SV arenas list, and calls a specified
112 function for each SV it finds which is still live - ie which has an SvTYPE
113 other than all 1's, and a non-zero SvREFCNT. visit() is used by the
114 following functions (specified as [function that calls visit()] / [function
115 called by visit() for each SV]):
116
117     sv_report_used() / do_report_used()
118                         dump all remaining SVs (debugging aid)
119
120     sv_clean_objs() / do_clean_objs(),do_clean_named_objs()
121                         Attempt to free all objects pointed to by RVs,
122                         and, unless DISABLE_DESTRUCTOR_KLUDGE is defined,
123                         try to do the same for all objects indirectly
124                         referenced by typeglobs too.  Called once from
125                         perl_destruct(), prior to calling sv_clean_all()
126                         below.
127
128     sv_clean_all() / do_clean_all()
129                         SvREFCNT_dec(sv) each remaining SV, possibly
130                         triggering an sv_free(). It also sets the
131                         SVf_BREAK flag on the SV to indicate that the
132                         refcnt has been artificially lowered, and thus
133                         stopping sv_free() from giving spurious warnings
134                         about SVs which unexpectedly have a refcnt
135                         of zero.  called repeatedly from perl_destruct()
136                         until there are no SVs left.
137
138 =head2 Arena allocator API Summary
139
140 Private API to rest of sv.c
141
142     new_SV(),  del_SV(),
143
144     new_XIV(), del_XIV(),
145     new_XNV(), del_XNV(),
146     etc
147
148 Public API:
149
150     sv_report_used(), sv_clean_objs(), sv_clean_all(), sv_free_arenas()
151
152 =cut
153
154 ============================================================================ */
155
156 /*
157  * "A time to plant, and a time to uproot what was planted..."
158  */
159
160 /*
161  * nice_chunk and nice_chunk size need to be set
162  * and queried under the protection of sv_mutex
163  */
164 void
165 Perl_offer_nice_chunk(pTHX_ void *chunk, U32 chunk_size)
166 {
167     dVAR;
168     void *new_chunk;
169     U32 new_chunk_size;
170     LOCK_SV_MUTEX;
171     new_chunk = (void *)(chunk);
172     new_chunk_size = (chunk_size);
173     if (new_chunk_size > PL_nice_chunk_size) {
174         Safefree(PL_nice_chunk);
175         PL_nice_chunk = (char *) new_chunk;
176         PL_nice_chunk_size = new_chunk_size;
177     } else {
178         Safefree(chunk);
179     }
180     UNLOCK_SV_MUTEX;
181 }
182
183 #ifdef DEBUG_LEAKING_SCALARS
184 #  define FREE_SV_DEBUG_FILE(sv) Safefree((sv)->sv_debug_file)
185 #else
186 #  define FREE_SV_DEBUG_FILE(sv)
187 #endif
188
189 #ifdef PERL_POISON
190 #  define SvARENA_CHAIN(sv)     ((sv)->sv_u.svu_rv)
191 /* Whilst I'd love to do this, it seems that things like to check on
192    unreferenced scalars
193 #  define POSION_SV_HEAD(sv)    PoisonNew(sv, 1, struct STRUCT_SV)
194 */
195 #  define POSION_SV_HEAD(sv)    PoisonNew(&SvANY(sv), 1, void *), \
196                                 PoisonNew(&SvREFCNT(sv), 1, U32)
197 #else
198 #  define SvARENA_CHAIN(sv)     SvANY(sv)
199 #  define POSION_SV_HEAD(sv)
200 #endif
201
202 #define plant_SV(p) \
203     STMT_START {                                        \
204         FREE_SV_DEBUG_FILE(p);                          \
205         POSION_SV_HEAD(p);                              \
206         SvARENA_CHAIN(p) = (void *)PL_sv_root;          \
207         SvFLAGS(p) = SVTYPEMASK;                        \
208         PL_sv_root = (p);                               \
209         --PL_sv_count;                                  \
210     } STMT_END
211
212 /* sv_mutex must be held while calling uproot_SV() */
213 #define uproot_SV(p) \
214     STMT_START {                                        \
215         (p) = PL_sv_root;                               \
216         PL_sv_root = (SV*)SvARENA_CHAIN(p);             \
217         ++PL_sv_count;                                  \
218     } STMT_END
219
220
221 /* make some more SVs by adding another arena */
222
223 /* sv_mutex must be held while calling more_sv() */
224 STATIC SV*
225 S_more_sv(pTHX)
226 {
227     dVAR;
228     SV* sv;
229
230     if (PL_nice_chunk) {
231         sv_add_arena(PL_nice_chunk, PL_nice_chunk_size, 0);
232         PL_nice_chunk = NULL;
233         PL_nice_chunk_size = 0;
234     }
235     else {
236         char *chunk;                /* must use New here to match call to */
237         Newx(chunk,PERL_ARENA_SIZE,char);  /* Safefree() in sv_free_arenas() */
238         sv_add_arena(chunk, PERL_ARENA_SIZE, 0);
239     }
240     uproot_SV(sv);
241     return sv;
242 }
243
244 /* new_SV(): return a new, empty SV head */
245
246 #ifdef DEBUG_LEAKING_SCALARS
247 /* provide a real function for a debugger to play with */
248 STATIC SV*
249 S_new_SV(pTHX)
250 {
251     SV* sv;
252
253     LOCK_SV_MUTEX;
254     if (PL_sv_root)
255         uproot_SV(sv);
256     else
257         sv = S_more_sv(aTHX);
258     UNLOCK_SV_MUTEX;
259     SvANY(sv) = 0;
260     SvREFCNT(sv) = 1;
261     SvFLAGS(sv) = 0;
262     sv->sv_debug_optype = PL_op ? PL_op->op_type : 0;
263     sv->sv_debug_line = (U16) ((PL_copline == NOLINE) ?
264         (PL_curcop ? CopLINE(PL_curcop) : 0) : PL_copline);
265     sv->sv_debug_inpad = 0;
266     sv->sv_debug_cloned = 0;
267     sv->sv_debug_file = PL_curcop ? savepv(CopFILE(PL_curcop)): NULL;
268     
269     return sv;
270 }
271 #  define new_SV(p) (p)=S_new_SV(aTHX)
272
273 #else
274 #  define new_SV(p) \
275     STMT_START {                                        \
276         LOCK_SV_MUTEX;                                  \
277         if (PL_sv_root)                                 \
278             uproot_SV(p);                               \
279         else                                            \
280             (p) = S_more_sv(aTHX);                      \
281         UNLOCK_SV_MUTEX;                                \
282         SvANY(p) = 0;                                   \
283         SvREFCNT(p) = 1;                                \
284         SvFLAGS(p) = 0;                                 \
285     } STMT_END
286 #endif
287
288
289 /* del_SV(): return an empty SV head to the free list */
290
291 #ifdef DEBUGGING
292
293 #define del_SV(p) \
294     STMT_START {                                        \
295         LOCK_SV_MUTEX;                                  \
296         if (DEBUG_D_TEST)                               \
297             del_sv(p);                                  \
298         else                                            \
299             plant_SV(p);                                \
300         UNLOCK_SV_MUTEX;                                \
301     } STMT_END
302
303 STATIC void
304 S_del_sv(pTHX_ SV *p)
305 {
306     dVAR;
307     if (DEBUG_D_TEST) {
308         SV* sva;
309         bool ok = 0;
310         for (sva = PL_sv_arenaroot; sva; sva = (SV *) SvANY(sva)) {
311             const SV * const sv = sva + 1;
312             const SV * const svend = &sva[SvREFCNT(sva)];
313             if (p >= sv && p < svend) {
314                 ok = 1;
315                 break;
316             }
317         }
318         if (!ok) {
319             if (ckWARN_d(WARN_INTERNAL))        
320                 Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
321                             "Attempt to free non-arena SV: 0x%"UVxf
322                             pTHX__FORMAT, PTR2UV(p) pTHX__VALUE);
323             return;
324         }
325     }
326     plant_SV(p);
327 }
328
329 #else /* ! DEBUGGING */
330
331 #define del_SV(p)   plant_SV(p)
332
333 #endif /* DEBUGGING */
334
335
336 /*
337 =head1 SV Manipulation Functions
338
339 =for apidoc sv_add_arena
340
341 Given a chunk of memory, link it to the head of the list of arenas,
342 and split it into a list of free SVs.
343
344 =cut
345 */
346
347 void
348 Perl_sv_add_arena(pTHX_ char *ptr, U32 size, U32 flags)
349 {
350     dVAR;
351     SV* const sva = (SV*)ptr;
352     register SV* sv;
353     register SV* svend;
354
355     /* The first SV in an arena isn't an SV. */
356     SvANY(sva) = (void *) PL_sv_arenaroot;              /* ptr to next arena */
357     SvREFCNT(sva) = size / sizeof(SV);          /* number of SV slots */
358     SvFLAGS(sva) = flags;                       /* FAKE if not to be freed */
359
360     PL_sv_arenaroot = sva;
361     PL_sv_root = sva + 1;
362
363     svend = &sva[SvREFCNT(sva) - 1];
364     sv = sva + 1;
365     while (sv < svend) {
366         SvARENA_CHAIN(sv) = (void *)(SV*)(sv + 1);
367 #ifdef DEBUGGING
368         SvREFCNT(sv) = 0;
369 #endif
370         /* Must always set typemask because it's awlays checked in on cleanup
371            when the arenas are walked looking for objects.  */
372         SvFLAGS(sv) = SVTYPEMASK;
373         sv++;
374     }
375     SvARENA_CHAIN(sv) = 0;
376 #ifdef DEBUGGING
377     SvREFCNT(sv) = 0;
378 #endif
379     SvFLAGS(sv) = SVTYPEMASK;
380 }
381
382 /* visit(): call the named function for each non-free SV in the arenas
383  * whose flags field matches the flags/mask args. */
384
385 STATIC I32
386 S_visit(pTHX_ SVFUNC_t f, U32 flags, U32 mask)
387 {
388     dVAR;
389     SV* sva;
390     I32 visited = 0;
391
392     for (sva = PL_sv_arenaroot; sva; sva = (SV*)SvANY(sva)) {
393         register const SV * const svend = &sva[SvREFCNT(sva)];
394         register SV* sv;
395         for (sv = sva + 1; sv < svend; ++sv) {
396             if (SvTYPE(sv) != SVTYPEMASK
397                     && (sv->sv_flags & mask) == flags
398                     && SvREFCNT(sv))
399             {
400                 (FCALL)(aTHX_ sv);
401                 ++visited;
402             }
403         }
404     }
405     return visited;
406 }
407
408 #ifdef DEBUGGING
409
410 /* called by sv_report_used() for each live SV */
411
412 static void
413 do_report_used(pTHX_ SV *sv)
414 {
415     if (SvTYPE(sv) != SVTYPEMASK) {
416         PerlIO_printf(Perl_debug_log, "****\n");
417         sv_dump(sv);
418     }
419 }
420 #endif
421
422 /*
423 =for apidoc sv_report_used
424
425 Dump the contents of all SVs not yet freed. (Debugging aid).
426
427 =cut
428 */
429
430 void
431 Perl_sv_report_used(pTHX)
432 {
433 #ifdef DEBUGGING
434     visit(do_report_used, 0, 0);
435 #else
436     PERL_UNUSED_CONTEXT;
437 #endif
438 }
439
440 /* called by sv_clean_objs() for each live SV */
441
442 static void
443 do_clean_objs(pTHX_ SV *ref)
444 {
445     dVAR;
446     if (SvROK(ref)) {
447         SV * const target = SvRV(ref);
448         if (SvOBJECT(target)) {
449             DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning object ref:\n "), sv_dump(ref)));
450             if (SvWEAKREF(ref)) {
451                 sv_del_backref(target, ref);
452                 SvWEAKREF_off(ref);
453                 SvRV_set(ref, NULL);
454             } else {
455                 SvROK_off(ref);
456                 SvRV_set(ref, NULL);
457                 SvREFCNT_dec(target);
458             }
459         }
460     }
461
462     /* XXX Might want to check arrays, etc. */
463 }
464
465 /* called by sv_clean_objs() for each live SV */
466
467 #ifndef DISABLE_DESTRUCTOR_KLUDGE
468 static void
469 do_clean_named_objs(pTHX_ SV *sv)
470 {
471     dVAR;
472     if (SvTYPE(sv) == SVt_PVGV && isGV_with_GP(sv) && GvGP(sv)) {
473         if ((
474 #ifdef PERL_DONT_CREATE_GVSV
475              GvSV(sv) &&
476 #endif
477              SvOBJECT(GvSV(sv))) ||
478              (GvAV(sv) && SvOBJECT(GvAV(sv))) ||
479              (GvHV(sv) && SvOBJECT(GvHV(sv))) ||
480              (GvIO(sv) && SvOBJECT(GvIO(sv))) ||
481              (GvCV(sv) && SvOBJECT(GvCV(sv))) )
482         {
483             DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning named glob object:\n "), sv_dump(sv)));
484             SvFLAGS(sv) |= SVf_BREAK;
485             SvREFCNT_dec(sv);
486         }
487     }
488 }
489 #endif
490
491 /*
492 =for apidoc sv_clean_objs
493
494 Attempt to destroy all objects not yet freed
495
496 =cut
497 */
498
499 void
500 Perl_sv_clean_objs(pTHX)
501 {
502     dVAR;
503     PL_in_clean_objs = TRUE;
504     visit(do_clean_objs, SVf_ROK, SVf_ROK);
505 #ifndef DISABLE_DESTRUCTOR_KLUDGE
506     /* some barnacles may yet remain, clinging to typeglobs */
507     visit(do_clean_named_objs, SVt_PVGV, SVTYPEMASK);
508 #endif
509     PL_in_clean_objs = FALSE;
510 }
511
512 /* called by sv_clean_all() for each live SV */
513
514 static void
515 do_clean_all(pTHX_ SV *sv)
516 {
517     dVAR;
518     DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning loops: SV at 0x%"UVxf"\n", PTR2UV(sv)) ));
519     SvFLAGS(sv) |= SVf_BREAK;
520     if (PL_comppad == (AV*)sv) {
521         PL_comppad = NULL;
522         PL_curpad = NULL;
523     }
524     SvREFCNT_dec(sv);
525 }
526
527 /*
528 =for apidoc sv_clean_all
529
530 Decrement the refcnt of each remaining SV, possibly triggering a
531 cleanup. This function may have to be called multiple times to free
532 SVs which are in complex self-referential hierarchies.
533
534 =cut
535 */
536
537 I32
538 Perl_sv_clean_all(pTHX)
539 {
540     dVAR;
541     I32 cleaned;
542     PL_in_clean_all = TRUE;
543     cleaned = visit(do_clean_all, 0,0);
544     PL_in_clean_all = FALSE;
545     return cleaned;
546 }
547
548 /*
549   ARENASETS: a meta-arena implementation which separates arena-info
550   into struct arena_set, which contains an array of struct
551   arena_descs, each holding info for a single arena.  By separating
552   the meta-info from the arena, we recover the 1st slot, formerly
553   borrowed for list management.  The arena_set is about the size of an
554   arena, avoiding the needless malloc overhead of a naive linked-list
555
556   The cost is 1 arena-set malloc per ~320 arena-mallocs, + the unused
557   memory in the last arena-set (1/2 on average).  In trade, we get
558   back the 1st slot in each arena (ie 1.7% of a CV-arena, less for
559   smaller types).  The recovery of the wasted space allows use of
560   small arenas for large, rare body types,
561 */
562 struct arena_desc {
563     char       *arena;          /* the raw storage, allocated aligned */
564     size_t      size;           /* its size ~4k typ */
565     int         unit_type;      /* useful for arena audits */
566     /* info for sv-heads (eventually)
567        int count, flags;
568     */
569 };
570
571 struct arena_set;
572
573 /* Get the maximum number of elements in set[] such that struct arena_set
574    will fit within PERL_ARENA_SIZE, which is probabably just under 4K, and
575    therefore likely to be 1 aligned memory page.  */
576
577 #define ARENAS_PER_SET  ((PERL_ARENA_SIZE - sizeof(struct arena_set*) \
578                           - 2 * sizeof(int)) / sizeof (struct arena_desc))
579
580 struct arena_set {
581     struct arena_set* next;
582     int   set_size;             /* ie ARENAS_PER_SET */
583     int   curr;                 /* index of next available arena-desc */
584     struct arena_desc set[ARENAS_PER_SET];
585 };
586
587 /*
588 =for apidoc sv_free_arenas
589
590 Deallocate the memory used by all arenas. Note that all the individual SV
591 heads and bodies within the arenas must already have been freed.
592
593 =cut
594 */
595 void
596 Perl_sv_free_arenas(pTHX)
597 {
598     dVAR;
599     SV* sva;
600     SV* svanext;
601     int i;
602
603     /* Free arenas here, but be careful about fake ones.  (We assume
604        contiguity of the fake ones with the corresponding real ones.) */
605
606     for (sva = PL_sv_arenaroot; sva; sva = svanext) {
607         svanext = (SV*) SvANY(sva);
608         while (svanext && SvFAKE(svanext))
609             svanext = (SV*) SvANY(svanext);
610
611         if (!SvFAKE(sva))
612             Safefree(sva);
613     }
614
615     {
616         struct arena_set *next, *aroot = (struct arena_set*) PL_body_arenas;
617         
618         for (; aroot; aroot = next) {
619             const int max = aroot->curr;
620             for (i=0; i<max; i++) {
621                 assert(aroot->set[i].arena);
622                 Safefree(aroot->set[i].arena);
623             }
624             next = aroot->next;
625             Safefree(aroot);
626         }
627     }
628     PL_body_arenas = 0;
629
630     for (i=0; i<PERL_ARENA_ROOTS_SIZE; i++)
631         PL_body_roots[i] = 0;
632
633     Safefree(PL_nice_chunk);
634     PL_nice_chunk = NULL;
635     PL_nice_chunk_size = 0;
636     PL_sv_arenaroot = 0;
637     PL_sv_root = 0;
638 }
639
640 /*
641   Here are mid-level routines that manage the allocation of bodies out
642   of the various arenas.  There are 5 kinds of arenas:
643
644   1. SV-head arenas, which are discussed and handled above
645   2. regular body arenas
646   3. arenas for reduced-size bodies
647   4. Hash-Entry arenas
648   5. pte arenas (thread related)
649
650   Arena types 2 & 3 are chained by body-type off an array of
651   arena-root pointers, which is indexed by svtype.  Some of the
652   larger/less used body types are malloced singly, since a large
653   unused block of them is wasteful.  Also, several svtypes dont have
654   bodies; the data fits into the sv-head itself.  The arena-root
655   pointer thus has a few unused root-pointers (which may be hijacked
656   later for arena types 4,5)
657
658   3 differs from 2 as an optimization; some body types have several
659   unused fields in the front of the structure (which are kept in-place
660   for consistency).  These bodies can be allocated in smaller chunks,
661   because the leading fields arent accessed.  Pointers to such bodies
662   are decremented to point at the unused 'ghost' memory, knowing that
663   the pointers are used with offsets to the real memory.
664
665   HE, HEK arenas are managed separately, with separate code, but may
666   be merge-able later..
667
668   PTE arenas are not sv-bodies, but they share these mid-level
669   mechanics, so are considered here.  The new mid-level mechanics rely
670   on the sv_type of the body being allocated, so we just reserve one
671   of the unused body-slots for PTEs, then use it in those (2) PTE
672   contexts below (line ~10k)
673 */
674
675 /* get_arena(size): this creates custom-sized arenas
676    TBD: export properly for hv.c: S_more_he().
677 */
678 void*
679 Perl_get_arena(pTHX_ int arena_size)
680 {
681     dVAR;
682     struct arena_desc* adesc;
683     struct arena_set *newroot, **aroot = (struct arena_set**) &PL_body_arenas;
684     int curr;
685
686     /* shouldnt need this
687     if (!arena_size)    arena_size = PERL_ARENA_SIZE;
688     */
689
690     /* may need new arena-set to hold new arena */
691     if (!*aroot || (*aroot)->curr >= (*aroot)->set_size) {
692         Newxz(newroot, 1, struct arena_set);
693         newroot->set_size = ARENAS_PER_SET;
694         newroot->next = *aroot;
695         *aroot = newroot;
696         DEBUG_m(PerlIO_printf(Perl_debug_log, "new arenaset %p\n", (void*)*aroot));
697     }
698
699     /* ok, now have arena-set with at least 1 empty/available arena-desc */
700     curr = (*aroot)->curr++;
701     adesc = &((*aroot)->set[curr]);
702     assert(!adesc->arena);
703     
704     Newxz(adesc->arena, arena_size, char);
705     adesc->size = arena_size;
706     DEBUG_m(PerlIO_printf(Perl_debug_log, "arena %d added: %p size %d\n", 
707                           curr, adesc->arena, arena_size));
708
709     return adesc->arena;
710 }
711
712
713 /* return a thing to the free list */
714
715 #define del_body(thing, root)                   \
716     STMT_START {                                \
717         void ** const thing_copy = (void **)thing;\
718         LOCK_SV_MUTEX;                          \
719         *thing_copy = *root;                    \
720         *root = (void*)thing_copy;              \
721         UNLOCK_SV_MUTEX;                        \
722     } STMT_END
723
724 /* 
725
726 =head1 SV-Body Allocation
727
728 Allocation of SV-bodies is similar to SV-heads, differing as follows;
729 the allocation mechanism is used for many body types, so is somewhat
730 more complicated, it uses arena-sets, and has no need for still-live
731 SV detection.
732
733 At the outermost level, (new|del)_X*V macros return bodies of the
734 appropriate type.  These macros call either (new|del)_body_type or
735 (new|del)_body_allocated macro pairs, depending on specifics of the
736 type.  Most body types use the former pair, the latter pair is used to
737 allocate body types with "ghost fields".
738
739 "ghost fields" are fields that are unused in certain types, and
740 consequently dont need to actually exist.  They are declared because
741 they're part of a "base type", which allows use of functions as
742 methods.  The simplest examples are AVs and HVs, 2 aggregate types
743 which don't use the fields which support SCALAR semantics.
744
745 For these types, the arenas are carved up into *_allocated size
746 chunks, we thus avoid wasted memory for those unaccessed members.
747 When bodies are allocated, we adjust the pointer back in memory by the
748 size of the bit not allocated, so it's as if we allocated the full
749 structure.  (But things will all go boom if you write to the part that
750 is "not there", because you'll be overwriting the last members of the
751 preceding structure in memory.)
752
753 We calculate the correction using the STRUCT_OFFSET macro. For
754 example, if xpv_allocated is the same structure as XPV then the two
755 OFFSETs sum to zero, and the pointer is unchanged. If the allocated
756 structure is smaller (no initial NV actually allocated) then the net
757 effect is to subtract the size of the NV from the pointer, to return a
758 new pointer as if an initial NV were actually allocated.
759
760 This is the same trick as was used for NV and IV bodies. Ironically it
761 doesn't need to be used for NV bodies any more, because NV is now at
762 the start of the structure. IV bodies don't need it either, because
763 they are no longer allocated.
764
765 In turn, the new_body_* allocators call S_new_body(), which invokes
766 new_body_inline macro, which takes a lock, and takes a body off the
767 linked list at PL_body_roots[sv_type], calling S_more_bodies() if
768 necessary to refresh an empty list.  Then the lock is released, and
769 the body is returned.
770
771 S_more_bodies calls get_arena(), and carves it up into an array of N
772 bodies, which it strings into a linked list.  It looks up arena-size
773 and body-size from the body_details table described below, thus
774 supporting the multiple body-types.
775
776 If PURIFY is defined, or PERL_ARENA_SIZE=0, arenas are not used, and
777 the (new|del)_X*V macros are mapped directly to malloc/free.
778
779 */
780
781 /* 
782
783 For each sv-type, struct body_details bodies_by_type[] carries
784 parameters which control these aspects of SV handling:
785
786 Arena_size determines whether arenas are used for this body type, and if
787 so, how big they are.  PURIFY or PERL_ARENA_SIZE=0 set this field to
788 zero, forcing individual mallocs and frees.
789
790 Body_size determines how big a body is, and therefore how many fit into
791 each arena.  Offset carries the body-pointer adjustment needed for
792 *_allocated body types, and is used in *_allocated macros.
793
794 But its main purpose is to parameterize info needed in
795 Perl_sv_upgrade().  The info here dramatically simplifies the function
796 vs the implementation in 5.8.7, making it table-driven.  All fields
797 are used for this, except for arena_size.
798
799 For the sv-types that have no bodies, arenas are not used, so those
800 PL_body_roots[sv_type] are unused, and can be overloaded.  In
801 something of a special case, SVt_NULL is borrowed for HE arenas;
802 PL_body_roots[SVt_NULL] is filled by S_more_he, but the
803 bodies_by_type[SVt_NULL] slot is not used, as the table is not
804 available in hv.c,
805
806 PTEs also use arenas, but are never seen in Perl_sv_upgrade.
807 Nonetheless, they get their own slot in bodies_by_type[SVt_NULL], so
808 they can just use the same allocation semantics.  At first, PTEs were
809 also overloaded to a non-body sv-type, but this yielded hard-to-find
810 malloc bugs, so was simplified by claiming a new slot.  This choice
811 has no consequence at this time.
812
813 */
814
815 struct body_details {
816     U8 body_size;       /* Size to allocate  */
817     U8 copy;            /* Size of structure to copy (may be shorter)  */
818     U8 offset;
819     unsigned int type : 4;          /* We have space for a sanity check.  */
820     unsigned int cant_upgrade : 1;  /* Cannot upgrade this type */
821     unsigned int zero_nv : 1;       /* zero the NV when upgrading from this */
822     unsigned int arena : 1;         /* Allocated from an arena */
823     size_t arena_size;              /* Size of arena to allocate */
824 };
825
826 #define HADNV FALSE
827 #define NONV TRUE
828
829
830 #ifdef PURIFY
831 /* With -DPURFIY we allocate everything directly, and don't use arenas.
832    This seems a rather elegant way to simplify some of the code below.  */
833 #define HASARENA FALSE
834 #else
835 #define HASARENA TRUE
836 #endif
837 #define NOARENA FALSE
838
839 /* Size the arenas to exactly fit a given number of bodies.  A count
840    of 0 fits the max number bodies into a PERL_ARENA_SIZE.block,
841    simplifying the default.  If count > 0, the arena is sized to fit
842    only that many bodies, allowing arenas to be used for large, rare
843    bodies (XPVFM, XPVIO) without undue waste.  The arena size is
844    limited by PERL_ARENA_SIZE, so we can safely oversize the
845    declarations.
846  */
847 #define FIT_ARENA0(body_size)                           \
848     ((size_t)(PERL_ARENA_SIZE / body_size) * body_size)
849 #define FIT_ARENAn(count,body_size)                     \
850     ( count * body_size <= PERL_ARENA_SIZE)             \
851     ? count * body_size                                 \
852     : FIT_ARENA0 (body_size)
853 #define FIT_ARENA(count,body_size)                      \
854     count                                               \
855     ? FIT_ARENAn (count, body_size)                     \
856     : FIT_ARENA0 (body_size)
857
858 /* A macro to work out the offset needed to subtract from a pointer to (say)
859
860 typedef struct {
861     STRLEN      xpv_cur;
862     STRLEN      xpv_len;
863 } xpv_allocated;
864
865 to make its members accessible via a pointer to (say)
866
867 struct xpv {
868     NV          xnv_nv;
869     STRLEN      xpv_cur;
870     STRLEN      xpv_len;
871 };
872
873 */
874
875 #define relative_STRUCT_OFFSET(longer, shorter, member) \
876     (STRUCT_OFFSET(shorter, member) - STRUCT_OFFSET(longer, member))
877
878 /* Calculate the length to copy. Specifically work out the length less any
879    final padding the compiler needed to add.  See the comment in sv_upgrade
880    for why copying the padding proved to be a bug.  */
881
882 #define copy_length(type, last_member) \
883         STRUCT_OFFSET(type, last_member) \
884         + sizeof (((type*)SvANY((SV*)0))->last_member)
885
886 static const struct body_details bodies_by_type[] = {
887     { sizeof(HE), 0, 0, SVt_NULL,
888       FALSE, NONV, NOARENA, FIT_ARENA(0, sizeof(HE)) },
889
890     /* IVs are in the head, so the allocation size is 0.
891        However, the slot is overloaded for PTEs.  */
892     { sizeof(struct ptr_tbl_ent), /* This is used for PTEs.  */
893       sizeof(IV), /* This is used to copy out the IV body.  */
894       STRUCT_OFFSET(XPVIV, xiv_iv), SVt_IV, FALSE, NONV,
895       NOARENA /* IVS don't need an arena  */,
896       /* But PTEs need to know the size of their arena  */
897       FIT_ARENA(0, sizeof(struct ptr_tbl_ent))
898     },
899
900     /* 8 bytes on most ILP32 with IEEE doubles */
901     { sizeof(NV), sizeof(NV), 0, SVt_NV, FALSE, HADNV, HASARENA,
902       FIT_ARENA(0, sizeof(NV)) },
903
904     /* RVs are in the head now.  */
905     { 0, 0, 0, SVt_RV, FALSE, NONV, NOARENA, 0 },
906
907     /* 8 bytes on most ILP32 with IEEE doubles */
908     { sizeof(xpv_allocated),
909       copy_length(XPV, xpv_len)
910       - relative_STRUCT_OFFSET(xpv_allocated, XPV, xpv_cur),
911       + relative_STRUCT_OFFSET(xpv_allocated, XPV, xpv_cur),
912       SVt_PV, FALSE, NONV, HASARENA, FIT_ARENA(0, sizeof(xpv_allocated)) },
913
914     /* 12 */
915     { sizeof(xpviv_allocated),
916       copy_length(XPVIV, xiv_u)
917       - relative_STRUCT_OFFSET(xpviv_allocated, XPVIV, xpv_cur),
918       + relative_STRUCT_OFFSET(xpviv_allocated, XPVIV, xpv_cur),
919       SVt_PVIV, FALSE, NONV, HASARENA, FIT_ARENA(0, sizeof(xpviv_allocated)) },
920
921     /* 20 */
922     { sizeof(XPVNV), copy_length(XPVNV, xiv_u), 0, SVt_PVNV, FALSE, HADNV,
923       HASARENA, FIT_ARENA(0, sizeof(XPVNV)) },
924
925     /* 28 */
926     { sizeof(XPVMG), copy_length(XPVMG, xmg_stash), 0, SVt_PVMG, FALSE, HADNV,
927       HASARENA, FIT_ARENA(0, sizeof(XPVMG)) },
928     
929     /* 36 */
930     { sizeof(XPVBM), sizeof(XPVBM), 0, SVt_PVBM, TRUE, HADNV,
931       HASARENA, FIT_ARENA(0, sizeof(XPVBM)) },
932
933     /* 48 */
934     { sizeof(XPVGV), sizeof(XPVGV), 0, SVt_PVGV, TRUE, HADNV,
935       HASARENA, FIT_ARENA(0, sizeof(XPVGV)) },
936     
937     /* 64 */
938     { sizeof(XPVLV), sizeof(XPVLV), 0, SVt_PVLV, TRUE, HADNV,
939       HASARENA, FIT_ARENA(0, sizeof(XPVLV)) },
940
941     { sizeof(xpvav_allocated),
942       copy_length(XPVAV, xmg_stash)
943       - relative_STRUCT_OFFSET(xpvav_allocated, XPVAV, xav_fill),
944       + relative_STRUCT_OFFSET(xpvav_allocated, XPVAV, xav_fill),
945       SVt_PVAV, TRUE, HADNV, HASARENA, FIT_ARENA(0, sizeof(xpvav_allocated)) },
946
947     { sizeof(xpvhv_allocated),
948       copy_length(XPVHV, xmg_stash)
949       - relative_STRUCT_OFFSET(xpvhv_allocated, XPVHV, xhv_fill),
950       + relative_STRUCT_OFFSET(xpvhv_allocated, XPVHV, xhv_fill),
951       SVt_PVHV, TRUE, HADNV, HASARENA, FIT_ARENA(0, sizeof(xpvhv_allocated)) },
952
953     /* 56 */
954     { sizeof(xpvcv_allocated), sizeof(xpvcv_allocated),
955       + relative_STRUCT_OFFSET(xpvcv_allocated, XPVCV, xpv_cur),
956       SVt_PVCV, TRUE, NONV, HASARENA, FIT_ARENA(0, sizeof(xpvcv_allocated)) },
957
958     { sizeof(xpvfm_allocated), sizeof(xpvfm_allocated),
959       + relative_STRUCT_OFFSET(xpvfm_allocated, XPVFM, xpv_cur),
960       SVt_PVFM, TRUE, NONV, NOARENA, FIT_ARENA(20, sizeof(xpvfm_allocated)) },
961
962     /* XPVIO is 84 bytes, fits 48x */
963     { sizeof(XPVIO), sizeof(XPVIO), 0, SVt_PVIO, TRUE, HADNV,
964       HASARENA, FIT_ARENA(24, sizeof(XPVIO)) },
965 };
966
967 #define new_body_type(sv_type)          \
968     (void *)((char *)S_new_body(aTHX_ sv_type))
969
970 #define del_body_type(p, sv_type)       \
971     del_body(p, &PL_body_roots[sv_type])
972
973
974 #define new_body_allocated(sv_type)             \
975     (void *)((char *)S_new_body(aTHX_ sv_type)  \
976              - bodies_by_type[sv_type].offset)
977
978 #define del_body_allocated(p, sv_type)          \
979     del_body(p + bodies_by_type[sv_type].offset, &PL_body_roots[sv_type])
980
981
982 #define my_safemalloc(s)        (void*)safemalloc(s)
983 #define my_safecalloc(s)        (void*)safecalloc(s, 1)
984 #define my_safefree(p)  safefree((char*)p)
985
986 #ifdef PURIFY
987
988 #define new_XNV()       my_safemalloc(sizeof(XPVNV))
989 #define del_XNV(p)      my_safefree(p)
990
991 #define new_XPVNV()     my_safemalloc(sizeof(XPVNV))
992 #define del_XPVNV(p)    my_safefree(p)
993
994 #define new_XPVAV()     my_safemalloc(sizeof(XPVAV))
995 #define del_XPVAV(p)    my_safefree(p)
996
997 #define new_XPVHV()     my_safemalloc(sizeof(XPVHV))
998 #define del_XPVHV(p)    my_safefree(p)
999
1000 #define new_XPVMG()     my_safemalloc(sizeof(XPVMG))
1001 #define del_XPVMG(p)    my_safefree(p)
1002
1003 #define new_XPVGV()     my_safemalloc(sizeof(XPVGV))
1004 #define del_XPVGV(p)    my_safefree(p)
1005
1006 #else /* !PURIFY */
1007
1008 #define new_XNV()       new_body_type(SVt_NV)
1009 #define del_XNV(p)      del_body_type(p, SVt_NV)
1010
1011 #define new_XPVNV()     new_body_type(SVt_PVNV)
1012 #define del_XPVNV(p)    del_body_type(p, SVt_PVNV)
1013
1014 #define new_XPVAV()     new_body_allocated(SVt_PVAV)
1015 #define del_XPVAV(p)    del_body_allocated(p, SVt_PVAV)
1016
1017 #define new_XPVHV()     new_body_allocated(SVt_PVHV)
1018 #define del_XPVHV(p)    del_body_allocated(p, SVt_PVHV)
1019
1020 #define new_XPVMG()     new_body_type(SVt_PVMG)
1021 #define del_XPVMG(p)    del_body_type(p, SVt_PVMG)
1022
1023 #define new_XPVGV()     new_body_type(SVt_PVGV)
1024 #define del_XPVGV(p)    del_body_type(p, SVt_PVGV)
1025
1026 #endif /* PURIFY */
1027
1028 /* no arena for you! */
1029
1030 #define new_NOARENA(details) \
1031         my_safemalloc((details)->body_size + (details)->offset)
1032 #define new_NOARENAZ(details) \
1033         my_safecalloc((details)->body_size + (details)->offset)
1034
1035 #ifdef DEBUGGING
1036 static bool done_sanity_check;
1037 #endif
1038
1039 STATIC void *
1040 S_more_bodies (pTHX_ svtype sv_type)
1041 {
1042     dVAR;
1043     void ** const root = &PL_body_roots[sv_type];
1044     const struct body_details * const bdp = &bodies_by_type[sv_type];
1045     const size_t body_size = bdp->body_size;
1046     char *start;
1047     const char *end;
1048
1049     assert(bdp->arena_size);
1050
1051 #ifdef DEBUGGING
1052     if (!done_sanity_check) {
1053         unsigned int i = SVt_LAST;
1054
1055         done_sanity_check = TRUE;
1056
1057         while (i--)
1058             assert (bodies_by_type[i].type == i);
1059     }
1060 #endif
1061
1062     start = (char*) Perl_get_arena(aTHX_ bdp->arena_size);
1063
1064     end = start + bdp->arena_size - body_size;
1065
1066     /* computed count doesnt reflect the 1st slot reservation */
1067     DEBUG_m(PerlIO_printf(Perl_debug_log,
1068                           "arena %p end %p arena-size %d type %d size %d ct %d\n",
1069                           start, end,
1070                           (int)bdp->arena_size, sv_type, (int)body_size,
1071                           (int)bdp->arena_size / (int)body_size));
1072
1073     *root = (void *)start;
1074
1075     while (start < end) {
1076         char * const next = start + body_size;
1077         *(void**) start = (void *)next;
1078         start = next;
1079     }
1080     *(void **)start = 0;
1081
1082     return *root;
1083 }
1084
1085 /* grab a new thing from the free list, allocating more if necessary.
1086    The inline version is used for speed in hot routines, and the
1087    function using it serves the rest (unless PURIFY).
1088 */
1089 #define new_body_inline(xpv, sv_type) \
1090     STMT_START { \
1091         void ** const r3wt = &PL_body_roots[sv_type]; \
1092         LOCK_SV_MUTEX; \
1093         xpv = *((void **)(r3wt)) \
1094           ? *((void **)(r3wt)) : more_bodies(sv_type); \
1095         *(r3wt) = *(void**)(xpv); \
1096         UNLOCK_SV_MUTEX; \
1097     } STMT_END
1098
1099 #ifndef PURIFY
1100
1101 STATIC void *
1102 S_new_body(pTHX_ svtype sv_type)
1103 {
1104     dVAR;
1105     void *xpv;
1106     new_body_inline(xpv, sv_type);
1107     return xpv;
1108 }
1109
1110 #endif
1111
1112 /*
1113 =for apidoc sv_upgrade
1114
1115 Upgrade an SV to a more complex form.  Generally adds a new body type to the
1116 SV, then copies across as much information as possible from the old body.
1117 You generally want to use the C<SvUPGRADE> macro wrapper. See also C<svtype>.
1118
1119 =cut
1120 */
1121
1122 void
1123 Perl_sv_upgrade(pTHX_ register SV *sv, svtype new_type)
1124 {
1125     dVAR;
1126     void*       old_body;
1127     void*       new_body;
1128     const svtype old_type = SvTYPE(sv);
1129     const struct body_details *new_type_details;
1130     const struct body_details *const old_type_details
1131         = bodies_by_type + old_type;
1132
1133     if (new_type != SVt_PV && SvIsCOW(sv)) {
1134         sv_force_normal_flags(sv, 0);
1135     }
1136
1137     if (old_type == new_type)
1138         return;
1139
1140     if (old_type > new_type)
1141         Perl_croak(aTHX_ "sv_upgrade from type %d down to type %d",
1142                 (int)old_type, (int)new_type);
1143
1144
1145     old_body = SvANY(sv);
1146
1147     /* Copying structures onto other structures that have been neatly zeroed
1148        has a subtle gotcha. Consider XPVMG
1149
1150        +------+------+------+------+------+-------+-------+
1151        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH |
1152        +------+------+------+------+------+-------+-------+
1153        0      4      8     12     16     20      24      28
1154
1155        where NVs are aligned to 8 bytes, so that sizeof that structure is
1156        actually 32 bytes long, with 4 bytes of padding at the end:
1157
1158        +------+------+------+------+------+-------+-------+------+
1159        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH | ???  |
1160        +------+------+------+------+------+-------+-------+------+
1161        0      4      8     12     16     20      24      28     32
1162
1163        so what happens if you allocate memory for this structure:
1164
1165        +------+------+------+------+------+-------+-------+------+------+...
1166        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH |  GP  | NAME |
1167        +------+------+------+------+------+-------+-------+------+------+...
1168        0      4      8     12     16     20      24      28     32     36
1169
1170        zero it, then copy sizeof(XPVMG) bytes on top of it? Not quite what you
1171        expect, because you copy the area marked ??? onto GP. Now, ??? may have
1172        started out as zero once, but it's quite possible that it isn't. So now,
1173        rather than a nicely zeroed GP, you have it pointing somewhere random.
1174        Bugs ensue.
1175
1176        (In fact, GP ends up pointing at a previous GP structure, because the
1177        principle cause of the padding in XPVMG getting garbage is a copy of
1178        sizeof(XPVMG) bytes from a XPVGV structure in sv_unglob)
1179
1180        So we are careful and work out the size of used parts of all the
1181        structures.  */
1182
1183     switch (old_type) {
1184     case SVt_NULL:
1185         break;
1186     case SVt_IV:
1187         if (new_type < SVt_PVIV) {
1188             new_type = (new_type == SVt_NV)
1189                 ? SVt_PVNV : SVt_PVIV;
1190         }
1191         break;
1192     case SVt_NV:
1193         if (new_type < SVt_PVNV) {
1194             new_type = SVt_PVNV;
1195         }
1196         break;
1197     case SVt_RV:
1198         break;
1199     case SVt_PV:
1200         assert(new_type > SVt_PV);
1201         assert(SVt_IV < SVt_PV);
1202         assert(SVt_NV < SVt_PV);
1203         break;
1204     case SVt_PVIV:
1205         break;
1206     case SVt_PVNV:
1207         break;
1208     case SVt_PVMG:
1209         /* Because the XPVMG of PL_mess_sv isn't allocated from the arena,
1210            there's no way that it can be safely upgraded, because perl.c
1211            expects to Safefree(SvANY(PL_mess_sv))  */
1212         assert(sv != PL_mess_sv);
1213         /* This flag bit is used to mean other things in other scalar types.
1214            Given that it only has meaning inside the pad, it shouldn't be set
1215            on anything that can get upgraded.  */
1216         assert(!SvPAD_TYPED(sv));
1217         break;
1218     default:
1219         if (old_type_details->cant_upgrade)
1220             Perl_croak(aTHX_ "Can't upgrade %s (%" UVuf ") to %" UVuf,
1221                        sv_reftype(sv, 0), (UV) old_type, (UV) new_type);
1222     }
1223     new_type_details = bodies_by_type + new_type;
1224
1225     SvFLAGS(sv) &= ~SVTYPEMASK;
1226     SvFLAGS(sv) |= new_type;
1227
1228     /* This can't happen, as SVt_NULL is <= all values of new_type, so one of
1229        the return statements above will have triggered.  */
1230     assert (new_type != SVt_NULL);
1231     switch (new_type) {
1232     case SVt_IV:
1233         assert(old_type == SVt_NULL);
1234         SvANY(sv) = (XPVIV*)((char*)&(sv->sv_u.svu_iv) - STRUCT_OFFSET(XPVIV, xiv_iv));
1235         SvIV_set(sv, 0);
1236         return;
1237     case SVt_NV:
1238         assert(old_type == SVt_NULL);
1239         SvANY(sv) = new_XNV();
1240         SvNV_set(sv, 0);
1241         return;
1242     case SVt_RV:
1243         assert(old_type == SVt_NULL);
1244         SvANY(sv) = &sv->sv_u.svu_rv;
1245         SvRV_set(sv, 0);
1246         return;
1247     case SVt_PVHV:
1248     case SVt_PVAV:
1249         assert(new_type_details->body_size);
1250
1251 #ifndef PURIFY  
1252         assert(new_type_details->arena);
1253         assert(new_type_details->arena_size);
1254         /* This points to the start of the allocated area.  */
1255         new_body_inline(new_body, new_type);
1256         Zero(new_body, new_type_details->body_size, char);
1257         new_body = ((char *)new_body) - new_type_details->offset;
1258 #else
1259         /* We always allocated the full length item with PURIFY. To do this
1260            we fake things so that arena is false for all 16 types..  */
1261         new_body = new_NOARENAZ(new_type_details);
1262 #endif
1263         SvANY(sv) = new_body;
1264         if (new_type == SVt_PVAV) {
1265             AvMAX(sv)   = -1;
1266             AvFILLp(sv) = -1;
1267             AvREAL_only(sv);
1268         }
1269
1270         /* SVt_NULL isn't the only thing upgraded to AV or HV.
1271            The target created by newSVrv also is, and it can have magic.
1272            However, it never has SvPVX set.
1273         */
1274         if (old_type >= SVt_RV) {
1275             assert(SvPVX_const(sv) == 0);
1276         }
1277
1278         /* Could put this in the else clause below, as PVMG must have SvPVX
1279            0 already (the assertion above)  */
1280         SvPV_set(sv, NULL);
1281
1282         if (old_type >= SVt_PVMG) {
1283             SvMAGIC_set(sv, ((XPVMG*)old_body)->xmg_u.xmg_magic);
1284             SvSTASH_set(sv, ((XPVMG*)old_body)->xmg_stash);
1285         }
1286         break;
1287
1288
1289     case SVt_PVIV:
1290         /* XXX Is this still needed?  Was it ever needed?   Surely as there is
1291            no route from NV to PVIV, NOK can never be true  */
1292         assert(!SvNOKp(sv));
1293         assert(!SvNOK(sv));
1294     case SVt_PVIO:
1295     case SVt_PVFM:
1296     case SVt_PVBM:
1297     case SVt_PVGV:
1298     case SVt_PVCV:
1299     case SVt_PVLV:
1300     case SVt_PVMG:
1301     case SVt_PVNV:
1302     case SVt_PV:
1303
1304         assert(new_type_details->body_size);
1305         /* We always allocated the full length item with PURIFY. To do this
1306            we fake things so that arena is false for all 16 types..  */
1307         if(new_type_details->arena) {
1308             /* This points to the start of the allocated area.  */
1309             new_body_inline(new_body, new_type);
1310             Zero(new_body, new_type_details->body_size, char);
1311             new_body = ((char *)new_body) - new_type_details->offset;
1312         } else {
1313             new_body = new_NOARENAZ(new_type_details);
1314         }
1315         SvANY(sv) = new_body;
1316
1317         if (old_type_details->copy) {
1318             /* There is now the potential for an upgrade from something without
1319                an offset (PVNV or PVMG) to something with one (PVCV, PVFM)  */
1320             int offset = old_type_details->offset;
1321             int length = old_type_details->copy;
1322
1323             if (new_type_details->offset > old_type_details->offset) {
1324                 const int difference
1325                     = new_type_details->offset - old_type_details->offset;
1326                 offset += difference;
1327                 length -= difference;
1328             }
1329             assert (length >= 0);
1330                 
1331             Copy((char *)old_body + offset, (char *)new_body + offset, length,
1332                  char);
1333         }
1334
1335 #ifndef NV_ZERO_IS_ALLBITS_ZERO
1336         /* If NV 0.0 is stores as all bits 0 then Zero() already creates a
1337          * correct 0.0 for us.  Otherwise, if the old body didn't have an
1338          * NV slot, but the new one does, then we need to initialise the
1339          * freshly created NV slot with whatever the correct bit pattern is
1340          * for 0.0  */
1341         if (old_type_details->zero_nv && !new_type_details->zero_nv)
1342             SvNV_set(sv, 0);
1343 #endif
1344
1345         if (new_type == SVt_PVIO)
1346             IoPAGE_LEN(sv) = 60;
1347         if (old_type < SVt_RV)
1348             SvPV_set(sv, NULL);
1349         break;
1350     default:
1351         Perl_croak(aTHX_ "panic: sv_upgrade to unknown type %lu",
1352                    (unsigned long)new_type);
1353     }
1354
1355     if (old_type_details->arena) {
1356         /* If there was an old body, then we need to free it.
1357            Note that there is an assumption that all bodies of types that
1358            can be upgraded came from arenas. Only the more complex non-
1359            upgradable types are allowed to be directly malloc()ed.  */
1360 #ifdef PURIFY
1361         my_safefree(old_body);
1362 #else
1363         del_body((void*)((char*)old_body + old_type_details->offset),
1364                  &PL_body_roots[old_type]);
1365 #endif
1366     }
1367 }
1368
1369 /*
1370 =for apidoc sv_backoff
1371
1372 Remove any string offset. You should normally use the C<SvOOK_off> macro
1373 wrapper instead.
1374
1375 =cut
1376 */
1377
1378 int
1379 Perl_sv_backoff(pTHX_ register SV *sv)
1380 {
1381     PERL_UNUSED_CONTEXT;
1382     assert(SvOOK(sv));
1383     assert(SvTYPE(sv) != SVt_PVHV);
1384     assert(SvTYPE(sv) != SVt_PVAV);
1385     if (SvIVX(sv)) {
1386         const char * const s = SvPVX_const(sv);
1387         SvLEN_set(sv, SvLEN(sv) + SvIVX(sv));
1388         SvPV_set(sv, SvPVX(sv) - SvIVX(sv));
1389         SvIV_set(sv, 0);
1390         Move(s, SvPVX(sv), SvCUR(sv)+1, char);
1391     }
1392     SvFLAGS(sv) &= ~SVf_OOK;
1393     return 0;
1394 }
1395
1396 /*
1397 =for apidoc sv_grow
1398
1399 Expands the character buffer in the SV.  If necessary, uses C<sv_unref> and
1400 upgrades the SV to C<SVt_PV>.  Returns a pointer to the character buffer.
1401 Use the C<SvGROW> wrapper instead.
1402
1403 =cut
1404 */
1405
1406 char *
1407 Perl_sv_grow(pTHX_ register SV *sv, register STRLEN newlen)
1408 {
1409     register char *s;
1410
1411     if (PL_madskills && newlen >= 0x100000) {
1412         PerlIO_printf(Perl_debug_log,
1413                       "Allocation too large: %"UVxf"\n", (UV)newlen);
1414     }
1415 #ifdef HAS_64K_LIMIT
1416     if (newlen >= 0x10000) {
1417         PerlIO_printf(Perl_debug_log,
1418                       "Allocation too large: %"UVxf"\n", (UV)newlen);
1419         my_exit(1);
1420     }
1421 #endif /* HAS_64K_LIMIT */
1422     if (SvROK(sv))
1423         sv_unref(sv);
1424     if (SvTYPE(sv) < SVt_PV) {
1425         sv_upgrade(sv, SVt_PV);
1426         s = SvPVX_mutable(sv);
1427     }
1428     else if (SvOOK(sv)) {       /* pv is offset? */
1429         sv_backoff(sv);
1430         s = SvPVX_mutable(sv);
1431         if (newlen > SvLEN(sv))
1432             newlen += 10 * (newlen - SvCUR(sv)); /* avoid copy each time */
1433 #ifdef HAS_64K_LIMIT
1434         if (newlen >= 0x10000)
1435             newlen = 0xFFFF;
1436 #endif
1437     }
1438     else
1439         s = SvPVX_mutable(sv);
1440
1441     if (newlen > SvLEN(sv)) {           /* need more room? */
1442         newlen = PERL_STRLEN_ROUNDUP(newlen);
1443         if (SvLEN(sv) && s) {
1444 #ifdef MYMALLOC
1445             const STRLEN l = malloced_size((void*)SvPVX_const(sv));
1446             if (newlen <= l) {
1447                 SvLEN_set(sv, l);
1448                 return s;
1449             } else
1450 #endif
1451             s = saferealloc(s, newlen);
1452         }
1453         else {
1454             s = safemalloc(newlen);
1455             if (SvPVX_const(sv) && SvCUR(sv)) {
1456                 Move(SvPVX_const(sv), s, (newlen < SvCUR(sv)) ? newlen : SvCUR(sv), char);
1457             }
1458         }
1459         SvPV_set(sv, s);
1460         SvLEN_set(sv, newlen);
1461     }
1462     return s;
1463 }
1464
1465 /*
1466 =for apidoc sv_setiv
1467
1468 Copies an integer into the given SV, upgrading first if necessary.
1469 Does not handle 'set' magic.  See also C<sv_setiv_mg>.
1470
1471 =cut
1472 */
1473
1474 void
1475 Perl_sv_setiv(pTHX_ register SV *sv, IV i)
1476 {
1477     dVAR;
1478     SV_CHECK_THINKFIRST_COW_DROP(sv);
1479     switch (SvTYPE(sv)) {
1480     case SVt_NULL:
1481         sv_upgrade(sv, SVt_IV);
1482         break;
1483     case SVt_NV:
1484         sv_upgrade(sv, SVt_PVNV);
1485         break;
1486     case SVt_RV:
1487     case SVt_PV:
1488         sv_upgrade(sv, SVt_PVIV);
1489         break;
1490
1491     case SVt_PVGV:
1492     case SVt_PVAV:
1493     case SVt_PVHV:
1494     case SVt_PVCV:
1495     case SVt_PVFM:
1496     case SVt_PVIO:
1497         Perl_croak(aTHX_ "Can't coerce %s to integer in %s", sv_reftype(sv,0),
1498                    OP_DESC(PL_op));
1499     default: NOOP;
1500     }
1501     (void)SvIOK_only(sv);                       /* validate number */
1502     SvIV_set(sv, i);
1503     SvTAINT(sv);
1504 }
1505
1506 /*
1507 =for apidoc sv_setiv_mg
1508
1509 Like C<sv_setiv>, but also handles 'set' magic.
1510
1511 =cut
1512 */
1513
1514 void
1515 Perl_sv_setiv_mg(pTHX_ register SV *sv, IV i)
1516 {
1517     sv_setiv(sv,i);
1518     SvSETMAGIC(sv);
1519 }
1520
1521 /*
1522 =for apidoc sv_setuv
1523
1524 Copies an unsigned integer into the given SV, upgrading first if necessary.
1525 Does not handle 'set' magic.  See also C<sv_setuv_mg>.
1526
1527 =cut
1528 */
1529
1530 void
1531 Perl_sv_setuv(pTHX_ register SV *sv, UV u)
1532 {
1533     /* With these two if statements:
1534        u=1.49  s=0.52  cu=72.49  cs=10.64  scripts=270  tests=20865
1535
1536        without
1537        u=1.35  s=0.47  cu=73.45  cs=11.43  scripts=270  tests=20865
1538
1539        If you wish to remove them, please benchmark to see what the effect is
1540     */
1541     if (u <= (UV)IV_MAX) {
1542        sv_setiv(sv, (IV)u);
1543        return;
1544     }
1545     sv_setiv(sv, 0);
1546     SvIsUV_on(sv);
1547     SvUV_set(sv, u);
1548 }
1549
1550 /*
1551 =for apidoc sv_setuv_mg
1552
1553 Like C<sv_setuv>, but also handles 'set' magic.
1554
1555 =cut
1556 */
1557
1558 void
1559 Perl_sv_setuv_mg(pTHX_ register SV *sv, UV u)
1560 {
1561     sv_setiv(sv, 0);
1562     SvIsUV_on(sv);
1563     sv_setuv(sv,u);
1564     SvSETMAGIC(sv);
1565 }
1566
1567 /*
1568 =for apidoc sv_setnv
1569
1570 Copies a double into the given SV, upgrading first if necessary.
1571 Does not handle 'set' magic.  See also C<sv_setnv_mg>.
1572
1573 =cut
1574 */
1575
1576 void
1577 Perl_sv_setnv(pTHX_ register SV *sv, NV num)
1578 {
1579     dVAR;
1580     SV_CHECK_THINKFIRST_COW_DROP(sv);
1581     switch (SvTYPE(sv)) {
1582     case SVt_NULL:
1583     case SVt_IV:
1584         sv_upgrade(sv, SVt_NV);
1585         break;
1586     case SVt_RV:
1587     case SVt_PV:
1588     case SVt_PVIV:
1589         sv_upgrade(sv, SVt_PVNV);
1590         break;
1591
1592     case SVt_PVGV:
1593     case SVt_PVAV:
1594     case SVt_PVHV:
1595     case SVt_PVCV:
1596     case SVt_PVFM:
1597     case SVt_PVIO:
1598         Perl_croak(aTHX_ "Can't coerce %s to number in %s", sv_reftype(sv,0),
1599                    OP_NAME(PL_op));
1600     default: NOOP;
1601     }
1602     SvNV_set(sv, num);
1603     (void)SvNOK_only(sv);                       /* validate number */
1604     SvTAINT(sv);
1605 }
1606
1607 /*
1608 =for apidoc sv_setnv_mg
1609
1610 Like C<sv_setnv>, but also handles 'set' magic.
1611
1612 =cut
1613 */
1614
1615 void
1616 Perl_sv_setnv_mg(pTHX_ register SV *sv, NV num)
1617 {
1618     sv_setnv(sv,num);
1619     SvSETMAGIC(sv);
1620 }
1621
1622 /* Print an "isn't numeric" warning, using a cleaned-up,
1623  * printable version of the offending string
1624  */
1625
1626 STATIC void
1627 S_not_a_number(pTHX_ SV *sv)
1628 {
1629      dVAR;
1630      SV *dsv;
1631      char tmpbuf[64];
1632      const char *pv;
1633
1634      if (DO_UTF8(sv)) {
1635           dsv = sv_2mortal(newSVpvs(""));
1636           pv = sv_uni_display(dsv, sv, 10, 0);
1637      } else {
1638           char *d = tmpbuf;
1639           const char * const limit = tmpbuf + sizeof(tmpbuf) - 8;
1640           /* each *s can expand to 4 chars + "...\0",
1641              i.e. need room for 8 chars */
1642         
1643           const char *s = SvPVX_const(sv);
1644           const char * const end = s + SvCUR(sv);
1645           for ( ; s < end && d < limit; s++ ) {
1646                int ch = *s & 0xFF;
1647                if (ch & 128 && !isPRINT_LC(ch)) {
1648                     *d++ = 'M';
1649                     *d++ = '-';
1650                     ch &= 127;
1651                }
1652                if (ch == '\n') {
1653                     *d++ = '\\';
1654                     *d++ = 'n';
1655                }
1656                else if (ch == '\r') {
1657                     *d++ = '\\';
1658                     *d++ = 'r';
1659                }
1660                else if (ch == '\f') {
1661                     *d++ = '\\';
1662                     *d++ = 'f';
1663                }
1664                else if (ch == '\\') {
1665                     *d++ = '\\';
1666                     *d++ = '\\';
1667                }
1668                else if (ch == '\0') {
1669                     *d++ = '\\';
1670                     *d++ = '0';
1671                }
1672                else if (isPRINT_LC(ch))
1673                     *d++ = ch;
1674                else {
1675                     *d++ = '^';
1676                     *d++ = toCTRL(ch);
1677                }
1678           }
1679           if (s < end) {
1680                *d++ = '.';
1681                *d++ = '.';
1682                *d++ = '.';
1683           }
1684           *d = '\0';
1685           pv = tmpbuf;
1686     }
1687
1688     if (PL_op)
1689         Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1690                     "Argument \"%s\" isn't numeric in %s", pv,
1691                     OP_DESC(PL_op));
1692     else
1693         Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1694                     "Argument \"%s\" isn't numeric", pv);
1695 }
1696
1697 /*
1698 =for apidoc looks_like_number
1699
1700 Test if the content of an SV looks like a number (or is a number).
1701 C<Inf> and C<Infinity> are treated as numbers (so will not issue a
1702 non-numeric warning), even if your atof() doesn't grok them.
1703
1704 =cut
1705 */
1706
1707 I32
1708 Perl_looks_like_number(pTHX_ SV *sv)
1709 {
1710     register const char *sbegin;
1711     STRLEN len;
1712
1713     if (SvPOK(sv)) {
1714         sbegin = SvPVX_const(sv);
1715         len = SvCUR(sv);
1716     }
1717     else if (SvPOKp(sv))
1718         sbegin = SvPV_const(sv, len);
1719     else
1720         return SvFLAGS(sv) & (SVf_NOK|SVp_NOK|SVf_IOK|SVp_IOK);
1721     return grok_number(sbegin, len, NULL);
1722 }
1723
1724 STATIC bool
1725 S_glob_2number(pTHX_ GV * const gv)
1726 {
1727     const U32 wasfake = SvFLAGS(gv) & SVf_FAKE;
1728     SV *const buffer = sv_newmortal();
1729
1730     /* FAKE globs can get coerced, so need to turn this off temporarily if it
1731        is on.  */
1732     SvFAKE_off(gv);
1733     gv_efullname3(buffer, gv, "*");
1734     SvFLAGS(gv) |= wasfake;
1735
1736     /* We know that all GVs stringify to something that is not-a-number,
1737         so no need to test that.  */
1738     if (ckWARN(WARN_NUMERIC))
1739         not_a_number(buffer);
1740     /* We just want something true to return, so that S_sv_2iuv_common
1741         can tail call us and return true.  */
1742     return TRUE;
1743 }
1744
1745 STATIC char *
1746 S_glob_2pv(pTHX_ GV * const gv, STRLEN * const len)
1747 {
1748     const U32 wasfake = SvFLAGS(gv) & SVf_FAKE;
1749     SV *const buffer = sv_newmortal();
1750
1751     /* FAKE globs can get coerced, so need to turn this off temporarily if it
1752        is on.  */
1753     SvFAKE_off(gv);
1754     gv_efullname3(buffer, gv, "*");
1755     SvFLAGS(gv) |= wasfake;
1756
1757     assert(SvPOK(buffer));
1758     if (len) {
1759         *len = SvCUR(buffer);
1760     }
1761     return SvPVX(buffer);
1762 }
1763
1764 /* Actually, ISO C leaves conversion of UV to IV undefined, but
1765    until proven guilty, assume that things are not that bad... */
1766
1767 /*
1768    NV_PRESERVES_UV:
1769
1770    As 64 bit platforms often have an NV that doesn't preserve all bits of
1771    an IV (an assumption perl has been based on to date) it becomes necessary
1772    to remove the assumption that the NV always carries enough precision to
1773    recreate the IV whenever needed, and that the NV is the canonical form.
1774    Instead, IV/UV and NV need to be given equal rights. So as to not lose
1775    precision as a side effect of conversion (which would lead to insanity
1776    and the dragon(s) in t/op/numconvert.t getting very angry) the intent is
1777    1) to distinguish between IV/UV/NV slots that have cached a valid
1778       conversion where precision was lost and IV/UV/NV slots that have a
1779       valid conversion which has lost no precision
1780    2) to ensure that if a numeric conversion to one form is requested that
1781       would lose precision, the precise conversion (or differently
1782       imprecise conversion) is also performed and cached, to prevent
1783       requests for different numeric formats on the same SV causing
1784       lossy conversion chains. (lossless conversion chains are perfectly
1785       acceptable (still))
1786
1787
1788    flags are used:
1789    SvIOKp is true if the IV slot contains a valid value
1790    SvIOK  is true only if the IV value is accurate (UV if SvIOK_UV true)
1791    SvNOKp is true if the NV slot contains a valid value
1792    SvNOK  is true only if the NV value is accurate
1793
1794    so
1795    while converting from PV to NV, check to see if converting that NV to an
1796    IV(or UV) would lose accuracy over a direct conversion from PV to
1797    IV(or UV). If it would, cache both conversions, return NV, but mark
1798    SV as IOK NOKp (ie not NOK).
1799
1800    While converting from PV to IV, check to see if converting that IV to an
1801    NV would lose accuracy over a direct conversion from PV to NV. If it
1802    would, cache both conversions, flag similarly.
1803
1804    Before, the SV value "3.2" could become NV=3.2 IV=3 NOK, IOK quite
1805    correctly because if IV & NV were set NV *always* overruled.
1806    Now, "3.2" will become NV=3.2 IV=3 NOK, IOKp, because the flag's meaning
1807    changes - now IV and NV together means that the two are interchangeable:
1808    SvIVX == (IV) SvNVX && SvNVX == (NV) SvIVX;
1809
1810    The benefit of this is that operations such as pp_add know that if
1811    SvIOK is true for both left and right operands, then integer addition
1812    can be used instead of floating point (for cases where the result won't
1813    overflow). Before, floating point was always used, which could lead to
1814    loss of precision compared with integer addition.
1815
1816    * making IV and NV equal status should make maths accurate on 64 bit
1817      platforms
1818    * may speed up maths somewhat if pp_add and friends start to use
1819      integers when possible instead of fp. (Hopefully the overhead in
1820      looking for SvIOK and checking for overflow will not outweigh the
1821      fp to integer speedup)
1822    * will slow down integer operations (callers of SvIV) on "inaccurate"
1823      values, as the change from SvIOK to SvIOKp will cause a call into
1824      sv_2iv each time rather than a macro access direct to the IV slot
1825    * should speed up number->string conversion on integers as IV is
1826      favoured when IV and NV are equally accurate
1827
1828    ####################################################################
1829    You had better be using SvIOK_notUV if you want an IV for arithmetic:
1830    SvIOK is true if (IV or UV), so you might be getting (IV)SvUV.
1831    On the other hand, SvUOK is true iff UV.
1832    ####################################################################
1833
1834    Your mileage will vary depending your CPU's relative fp to integer
1835    performance ratio.
1836 */
1837
1838 #ifndef NV_PRESERVES_UV
1839 #  define IS_NUMBER_UNDERFLOW_IV 1
1840 #  define IS_NUMBER_UNDERFLOW_UV 2
1841 #  define IS_NUMBER_IV_AND_UV    2
1842 #  define IS_NUMBER_OVERFLOW_IV  4
1843 #  define IS_NUMBER_OVERFLOW_UV  5
1844
1845 /* sv_2iuv_non_preserve(): private routine for use by sv_2iv() and sv_2uv() */
1846
1847 /* For sv_2nv these three cases are "SvNOK and don't bother casting"  */
1848 STATIC int
1849 S_sv_2iuv_non_preserve(pTHX_ register SV *sv, I32 numtype)
1850 {
1851     dVAR;
1852     DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_2iuv_non '%s', IV=0x%"UVxf" NV=%"NVgf" inttype=%"UVXf"\n", SvPVX_const(sv), SvIVX(sv), SvNVX(sv), (UV)numtype));
1853     if (SvNVX(sv) < (NV)IV_MIN) {
1854         (void)SvIOKp_on(sv);
1855         (void)SvNOK_on(sv);
1856         SvIV_set(sv, IV_MIN);
1857         return IS_NUMBER_UNDERFLOW_IV;
1858     }
1859     if (SvNVX(sv) > (NV)UV_MAX) {
1860         (void)SvIOKp_on(sv);
1861         (void)SvNOK_on(sv);
1862         SvIsUV_on(sv);
1863         SvUV_set(sv, UV_MAX);
1864         return IS_NUMBER_OVERFLOW_UV;
1865     }
1866     (void)SvIOKp_on(sv);
1867     (void)SvNOK_on(sv);
1868     /* Can't use strtol etc to convert this string.  (See truth table in
1869        sv_2iv  */
1870     if (SvNVX(sv) <= (UV)IV_MAX) {
1871         SvIV_set(sv, I_V(SvNVX(sv)));
1872         if ((NV)(SvIVX(sv)) == SvNVX(sv)) {
1873             SvIOK_on(sv); /* Integer is precise. NOK, IOK */
1874         } else {
1875             /* Integer is imprecise. NOK, IOKp */
1876         }
1877         return SvNVX(sv) < 0 ? IS_NUMBER_UNDERFLOW_UV : IS_NUMBER_IV_AND_UV;
1878     }
1879     SvIsUV_on(sv);
1880     SvUV_set(sv, U_V(SvNVX(sv)));
1881     if ((NV)(SvUVX(sv)) == SvNVX(sv)) {
1882         if (SvUVX(sv) == UV_MAX) {
1883             /* As we know that NVs don't preserve UVs, UV_MAX cannot
1884                possibly be preserved by NV. Hence, it must be overflow.
1885                NOK, IOKp */
1886             return IS_NUMBER_OVERFLOW_UV;
1887         }
1888         SvIOK_on(sv); /* Integer is precise. NOK, UOK */
1889     } else {
1890         /* Integer is imprecise. NOK, IOKp */
1891     }
1892     return IS_NUMBER_OVERFLOW_IV;
1893 }
1894 #endif /* !NV_PRESERVES_UV*/
1895
1896 STATIC bool
1897 S_sv_2iuv_common(pTHX_ SV *sv) {
1898     dVAR;
1899     if (SvNOKp(sv)) {
1900         /* erm. not sure. *should* never get NOKp (without NOK) from sv_2nv
1901          * without also getting a cached IV/UV from it at the same time
1902          * (ie PV->NV conversion should detect loss of accuracy and cache
1903          * IV or UV at same time to avoid this. */
1904         /* IV-over-UV optimisation - choose to cache IV if possible */
1905
1906         if (SvTYPE(sv) == SVt_NV)
1907             sv_upgrade(sv, SVt_PVNV);
1908
1909         (void)SvIOKp_on(sv);    /* Must do this first, to clear any SvOOK */
1910         /* < not <= as for NV doesn't preserve UV, ((NV)IV_MAX+1) will almost
1911            certainly cast into the IV range at IV_MAX, whereas the correct
1912            answer is the UV IV_MAX +1. Hence < ensures that dodgy boundary
1913            cases go to UV */
1914 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
1915         if (Perl_isnan(SvNVX(sv))) {
1916             SvUV_set(sv, 0);
1917             SvIsUV_on(sv);
1918             return FALSE;
1919         }
1920 #endif
1921         if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
1922             SvIV_set(sv, I_V(SvNVX(sv)));
1923             if (SvNVX(sv) == (NV) SvIVX(sv)
1924 #ifndef NV_PRESERVES_UV
1925                 && (((UV)1 << NV_PRESERVES_UV_BITS) >
1926                     (UV)(SvIVX(sv) > 0 ? SvIVX(sv) : -SvIVX(sv)))
1927                 /* Don't flag it as "accurately an integer" if the number
1928                    came from a (by definition imprecise) NV operation, and
1929                    we're outside the range of NV integer precision */
1930 #endif
1931                 ) {
1932                 SvIOK_on(sv);  /* Can this go wrong with rounding? NWC */
1933                 DEBUG_c(PerlIO_printf(Perl_debug_log,
1934                                       "0x%"UVxf" iv(%"NVgf" => %"IVdf") (precise)\n",
1935                                       PTR2UV(sv),
1936                                       SvNVX(sv),
1937                                       SvIVX(sv)));
1938
1939             } else {
1940                 /* IV not precise.  No need to convert from PV, as NV
1941                    conversion would already have cached IV if it detected
1942                    that PV->IV would be better than PV->NV->IV
1943                    flags already correct - don't set public IOK.  */
1944                 DEBUG_c(PerlIO_printf(Perl_debug_log,
1945                                       "0x%"UVxf" iv(%"NVgf" => %"IVdf") (imprecise)\n",
1946                                       PTR2UV(sv),
1947                                       SvNVX(sv),
1948                                       SvIVX(sv)));
1949             }
1950             /* Can the above go wrong if SvIVX == IV_MIN and SvNVX < IV_MIN,
1951                but the cast (NV)IV_MIN rounds to a the value less (more
1952                negative) than IV_MIN which happens to be equal to SvNVX ??
1953                Analogous to 0xFFFFFFFFFFFFFFFF rounding up to NV (2**64) and
1954                NV rounding back to 0xFFFFFFFFFFFFFFFF, so UVX == UV(NVX) and
1955                (NV)UVX == NVX are both true, but the values differ. :-(
1956                Hopefully for 2s complement IV_MIN is something like
1957                0x8000000000000000 which will be exact. NWC */
1958         }
1959         else {
1960             SvUV_set(sv, U_V(SvNVX(sv)));
1961             if (
1962                 (SvNVX(sv) == (NV) SvUVX(sv))
1963 #ifndef  NV_PRESERVES_UV
1964                 /* Make sure it's not 0xFFFFFFFFFFFFFFFF */
1965                 /*&& (SvUVX(sv) != UV_MAX) irrelevant with code below */
1966                 && (((UV)1 << NV_PRESERVES_UV_BITS) > SvUVX(sv))
1967                 /* Don't flag it as "accurately an integer" if the number
1968                    came from a (by definition imprecise) NV operation, and
1969                    we're outside the range of NV integer precision */
1970 #endif
1971                 )
1972                 SvIOK_on(sv);
1973             SvIsUV_on(sv);
1974             DEBUG_c(PerlIO_printf(Perl_debug_log,
1975                                   "0x%"UVxf" 2iv(%"UVuf" => %"IVdf") (as unsigned)\n",
1976                                   PTR2UV(sv),
1977                                   SvUVX(sv),
1978                                   SvUVX(sv)));
1979         }
1980     }
1981     else if (SvPOKp(sv) && SvLEN(sv)) {
1982         UV value;
1983         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
1984         /* We want to avoid a possible problem when we cache an IV/ a UV which
1985            may be later translated to an NV, and the resulting NV is not
1986            the same as the direct translation of the initial string
1987            (eg 123.456 can shortcut to the IV 123 with atol(), but we must
1988            be careful to ensure that the value with the .456 is around if the
1989            NV value is requested in the future).
1990         
1991            This means that if we cache such an IV/a UV, we need to cache the
1992            NV as well.  Moreover, we trade speed for space, and do not
1993            cache the NV if we are sure it's not needed.
1994          */
1995
1996         /* SVt_PVNV is one higher than SVt_PVIV, hence this order  */
1997         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
1998              == IS_NUMBER_IN_UV) {
1999             /* It's definitely an integer, only upgrade to PVIV */
2000             if (SvTYPE(sv) < SVt_PVIV)
2001                 sv_upgrade(sv, SVt_PVIV);
2002             (void)SvIOK_on(sv);
2003         } else if (SvTYPE(sv) < SVt_PVNV)
2004             sv_upgrade(sv, SVt_PVNV);
2005
2006         /* If NVs preserve UVs then we only use the UV value if we know that
2007            we aren't going to call atof() below. If NVs don't preserve UVs
2008            then the value returned may have more precision than atof() will
2009            return, even though value isn't perfectly accurate.  */
2010         if ((numtype & (IS_NUMBER_IN_UV
2011 #ifdef NV_PRESERVES_UV
2012                         | IS_NUMBER_NOT_INT
2013 #endif
2014             )) == IS_NUMBER_IN_UV) {
2015             /* This won't turn off the public IOK flag if it was set above  */
2016             (void)SvIOKp_on(sv);
2017
2018             if (!(numtype & IS_NUMBER_NEG)) {
2019                 /* positive */;
2020                 if (value <= (UV)IV_MAX) {
2021                     SvIV_set(sv, (IV)value);
2022                 } else {
2023                     /* it didn't overflow, and it was positive. */
2024                     SvUV_set(sv, value);
2025                     SvIsUV_on(sv);
2026                 }
2027             } else {
2028                 /* 2s complement assumption  */
2029                 if (value <= (UV)IV_MIN) {
2030                     SvIV_set(sv, -(IV)value);
2031                 } else {
2032                     /* Too negative for an IV.  This is a double upgrade, but
2033                        I'm assuming it will be rare.  */
2034                     if (SvTYPE(sv) < SVt_PVNV)
2035                         sv_upgrade(sv, SVt_PVNV);
2036                     SvNOK_on(sv);
2037                     SvIOK_off(sv);
2038                     SvIOKp_on(sv);
2039                     SvNV_set(sv, -(NV)value);
2040                     SvIV_set(sv, IV_MIN);
2041                 }
2042             }
2043         }
2044         /* For !NV_PRESERVES_UV and IS_NUMBER_IN_UV and IS_NUMBER_NOT_INT we
2045            will be in the previous block to set the IV slot, and the next
2046            block to set the NV slot.  So no else here.  */
2047         
2048         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2049             != IS_NUMBER_IN_UV) {
2050             /* It wasn't an (integer that doesn't overflow the UV). */
2051             SvNV_set(sv, Atof(SvPVX_const(sv)));
2052
2053             if (! numtype && ckWARN(WARN_NUMERIC))
2054                 not_a_number(sv);
2055
2056 #if defined(USE_LONG_DOUBLE)
2057             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2iv(%" PERL_PRIgldbl ")\n",
2058                                   PTR2UV(sv), SvNVX(sv)));
2059 #else
2060             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2iv(%"NVgf")\n",
2061                                   PTR2UV(sv), SvNVX(sv)));
2062 #endif
2063
2064 #ifdef NV_PRESERVES_UV
2065             (void)SvIOKp_on(sv);
2066             (void)SvNOK_on(sv);
2067             if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2068                 SvIV_set(sv, I_V(SvNVX(sv)));
2069                 if ((NV)(SvIVX(sv)) == SvNVX(sv)) {
2070                     SvIOK_on(sv);
2071                 } else {
2072                     NOOP;  /* Integer is imprecise. NOK, IOKp */
2073                 }
2074                 /* UV will not work better than IV */
2075             } else {
2076                 if (SvNVX(sv) > (NV)UV_MAX) {
2077                     SvIsUV_on(sv);
2078                     /* Integer is inaccurate. NOK, IOKp, is UV */
2079                     SvUV_set(sv, UV_MAX);
2080                 } else {
2081                     SvUV_set(sv, U_V(SvNVX(sv)));
2082                     /* 0xFFFFFFFFFFFFFFFF not an issue in here, NVs
2083                        NV preservse UV so can do correct comparison.  */
2084                     if ((NV)(SvUVX(sv)) == SvNVX(sv)) {
2085                         SvIOK_on(sv);
2086                     } else {
2087                         NOOP;   /* Integer is imprecise. NOK, IOKp, is UV */
2088                     }
2089                 }
2090                 SvIsUV_on(sv);
2091             }
2092 #else /* NV_PRESERVES_UV */
2093             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2094                 == (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT)) {
2095                 /* The IV/UV slot will have been set from value returned by
2096                    grok_number above.  The NV slot has just been set using
2097                    Atof.  */
2098                 SvNOK_on(sv);
2099                 assert (SvIOKp(sv));
2100             } else {
2101                 if (((UV)1 << NV_PRESERVES_UV_BITS) >
2102                     U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))) {
2103                     /* Small enough to preserve all bits. */
2104                     (void)SvIOKp_on(sv);
2105                     SvNOK_on(sv);
2106                     SvIV_set(sv, I_V(SvNVX(sv)));
2107                     if ((NV)(SvIVX(sv)) == SvNVX(sv))
2108                         SvIOK_on(sv);
2109                     /* Assumption: first non-preserved integer is < IV_MAX,
2110                        this NV is in the preserved range, therefore: */
2111                     if (!(U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))
2112                           < (UV)IV_MAX)) {
2113                         Perl_croak(aTHX_ "sv_2iv assumed (U_V(fabs((double)SvNVX(sv))) < (UV)IV_MAX) but SvNVX(sv)=%"NVgf" U_V is 0x%"UVxf", IV_MAX is 0x%"UVxf"\n", SvNVX(sv), U_V(SvNVX(sv)), (UV)IV_MAX);
2114                     }
2115                 } else {
2116                     /* IN_UV NOT_INT
2117                          0      0       already failed to read UV.
2118                          0      1       already failed to read UV.
2119                          1      0       you won't get here in this case. IV/UV
2120                                         slot set, public IOK, Atof() unneeded.
2121                          1      1       already read UV.
2122                        so there's no point in sv_2iuv_non_preserve() attempting
2123                        to use atol, strtol, strtoul etc.  */
2124                     sv_2iuv_non_preserve (sv, numtype);
2125                 }
2126             }
2127 #endif /* NV_PRESERVES_UV */
2128         }
2129     }
2130     else  {
2131         if (isGV_with_GP(sv))
2132             return glob_2number((GV *)sv);
2133
2134         if (!(SvFLAGS(sv) & SVs_PADTMP)) {
2135             if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
2136                 report_uninit(sv);
2137         }
2138         if (SvTYPE(sv) < SVt_IV)
2139             /* Typically the caller expects that sv_any is not NULL now.  */
2140             sv_upgrade(sv, SVt_IV);
2141         /* Return 0 from the caller.  */
2142         return TRUE;
2143     }
2144     return FALSE;
2145 }
2146
2147 /*
2148 =for apidoc sv_2iv_flags
2149
2150 Return the integer value of an SV, doing any necessary string
2151 conversion.  If flags includes SV_GMAGIC, does an mg_get() first.
2152 Normally used via the C<SvIV(sv)> and C<SvIVx(sv)> macros.
2153
2154 =cut
2155 */
2156
2157 IV
2158 Perl_sv_2iv_flags(pTHX_ register SV *sv, I32 flags)
2159 {
2160     dVAR;
2161     if (!sv)
2162         return 0;
2163     if (SvGMAGICAL(sv)) {
2164         if (flags & SV_GMAGIC)
2165             mg_get(sv);
2166         if (SvIOKp(sv))
2167             return SvIVX(sv);
2168         if (SvNOKp(sv)) {
2169             return I_V(SvNVX(sv));
2170         }
2171         if (SvPOKp(sv) && SvLEN(sv)) {
2172             UV value;
2173             const int numtype
2174                 = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
2175
2176             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2177                 == IS_NUMBER_IN_UV) {
2178                 /* It's definitely an integer */
2179                 if (numtype & IS_NUMBER_NEG) {
2180                     if (value < (UV)IV_MIN)
2181                         return -(IV)value;
2182                 } else {
2183                     if (value < (UV)IV_MAX)
2184                         return (IV)value;
2185                 }
2186             }
2187             if (!numtype) {
2188                 if (ckWARN(WARN_NUMERIC))
2189                     not_a_number(sv);
2190             }
2191             return I_V(Atof(SvPVX_const(sv)));
2192         }
2193         if (SvROK(sv)) {
2194             goto return_rok;
2195         }
2196         assert(SvTYPE(sv) >= SVt_PVMG);
2197         /* This falls through to the report_uninit inside S_sv_2iuv_common.  */
2198     } else if (SvTHINKFIRST(sv)) {
2199         if (SvROK(sv)) {
2200         return_rok:
2201             if (SvAMAGIC(sv)) {
2202                 SV * const tmpstr=AMG_CALLun(sv,numer);
2203                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2204                     return SvIV(tmpstr);
2205                 }
2206             }
2207             return PTR2IV(SvRV(sv));
2208         }
2209         if (SvIsCOW(sv)) {
2210             sv_force_normal_flags(sv, 0);
2211         }
2212         if (SvREADONLY(sv) && !SvOK(sv)) {
2213             if (ckWARN(WARN_UNINITIALIZED))
2214                 report_uninit(sv);
2215             return 0;
2216         }
2217     }
2218     if (!SvIOKp(sv)) {
2219         if (S_sv_2iuv_common(aTHX_ sv))
2220             return 0;
2221     }
2222     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2iv(%"IVdf")\n",
2223         PTR2UV(sv),SvIVX(sv)));
2224     return SvIsUV(sv) ? (IV)SvUVX(sv) : SvIVX(sv);
2225 }
2226
2227 /*
2228 =for apidoc sv_2uv_flags
2229
2230 Return the unsigned integer value of an SV, doing any necessary string
2231 conversion.  If flags includes SV_GMAGIC, does an mg_get() first.
2232 Normally used via the C<SvUV(sv)> and C<SvUVx(sv)> macros.
2233
2234 =cut
2235 */
2236
2237 UV
2238 Perl_sv_2uv_flags(pTHX_ register SV *sv, I32 flags)
2239 {
2240     dVAR;
2241     if (!sv)
2242         return 0;
2243     if (SvGMAGICAL(sv)) {
2244         if (flags & SV_GMAGIC)
2245             mg_get(sv);
2246         if (SvIOKp(sv))
2247             return SvUVX(sv);
2248         if (SvNOKp(sv))
2249             return U_V(SvNVX(sv));
2250         if (SvPOKp(sv) && SvLEN(sv)) {
2251             UV value;
2252             const int numtype
2253                 = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
2254
2255             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2256                 == IS_NUMBER_IN_UV) {
2257                 /* It's definitely an integer */
2258                 if (!(numtype & IS_NUMBER_NEG))
2259                     return value;
2260             }
2261             if (!numtype) {
2262                 if (ckWARN(WARN_NUMERIC))
2263                     not_a_number(sv);
2264             }
2265             return U_V(Atof(SvPVX_const(sv)));
2266         }
2267         if (SvROK(sv)) {
2268             goto return_rok;
2269         }
2270         assert(SvTYPE(sv) >= SVt_PVMG);
2271         /* This falls through to the report_uninit inside S_sv_2iuv_common.  */
2272     } else if (SvTHINKFIRST(sv)) {
2273         if (SvROK(sv)) {
2274         return_rok:
2275             if (SvAMAGIC(sv)) {
2276                 SV *const tmpstr = AMG_CALLun(sv,numer);
2277                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2278                     return SvUV(tmpstr);
2279                 }
2280             }
2281             return PTR2UV(SvRV(sv));
2282         }
2283         if (SvIsCOW(sv)) {
2284             sv_force_normal_flags(sv, 0);
2285         }
2286         if (SvREADONLY(sv) && !SvOK(sv)) {
2287             if (ckWARN(WARN_UNINITIALIZED))
2288                 report_uninit(sv);
2289             return 0;
2290         }
2291     }
2292     if (!SvIOKp(sv)) {
2293         if (S_sv_2iuv_common(aTHX_ sv))
2294             return 0;
2295     }
2296
2297     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2uv(%"UVuf")\n",
2298                           PTR2UV(sv),SvUVX(sv)));
2299     return SvIsUV(sv) ? SvUVX(sv) : (UV)SvIVX(sv);
2300 }
2301
2302 /*
2303 =for apidoc sv_2nv
2304
2305 Return the num value of an SV, doing any necessary string or integer
2306 conversion, magic etc. Normally used via the C<SvNV(sv)> and C<SvNVx(sv)>
2307 macros.
2308
2309 =cut
2310 */
2311
2312 NV
2313 Perl_sv_2nv(pTHX_ register SV *sv)
2314 {
2315     dVAR;
2316     if (!sv)
2317         return 0.0;
2318     if (SvGMAGICAL(sv)) {
2319         mg_get(sv);
2320         if (SvNOKp(sv))
2321             return SvNVX(sv);
2322         if ((SvPOKp(sv) && SvLEN(sv)) && !SvIOKp(sv)) {
2323             if (!SvIOKp(sv) && ckWARN(WARN_NUMERIC) &&
2324                 !grok_number(SvPVX_const(sv), SvCUR(sv), NULL))
2325                 not_a_number(sv);
2326             return Atof(SvPVX_const(sv));
2327         }
2328         if (SvIOKp(sv)) {
2329             if (SvIsUV(sv))
2330                 return (NV)SvUVX(sv);
2331             else
2332                 return (NV)SvIVX(sv);
2333         }
2334         if (SvROK(sv)) {
2335             goto return_rok;
2336         }
2337         assert(SvTYPE(sv) >= SVt_PVMG);
2338         /* This falls through to the report_uninit near the end of the
2339            function. */
2340     } else if (SvTHINKFIRST(sv)) {
2341         if (SvROK(sv)) {
2342         return_rok:
2343             if (SvAMAGIC(sv)) {
2344                 SV *const tmpstr = AMG_CALLun(sv,numer);
2345                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2346                     return SvNV(tmpstr);
2347                 }
2348             }
2349             return PTR2NV(SvRV(sv));
2350         }
2351         if (SvIsCOW(sv)) {
2352             sv_force_normal_flags(sv, 0);
2353         }
2354         if (SvREADONLY(sv) && !SvOK(sv)) {
2355             if (ckWARN(WARN_UNINITIALIZED))
2356                 report_uninit(sv);
2357             return 0.0;
2358         }
2359     }
2360     if (SvTYPE(sv) < SVt_NV) {
2361         /* The logic to use SVt_PVNV if necessary is in sv_upgrade.  */
2362         sv_upgrade(sv, SVt_NV);
2363 #ifdef USE_LONG_DOUBLE
2364         DEBUG_c({
2365             STORE_NUMERIC_LOCAL_SET_STANDARD();
2366             PerlIO_printf(Perl_debug_log,
2367                           "0x%"UVxf" num(%" PERL_PRIgldbl ")\n",
2368                           PTR2UV(sv), SvNVX(sv));
2369             RESTORE_NUMERIC_LOCAL();
2370         });
2371 #else
2372         DEBUG_c({
2373             STORE_NUMERIC_LOCAL_SET_STANDARD();
2374             PerlIO_printf(Perl_debug_log, "0x%"UVxf" num(%"NVgf")\n",
2375                           PTR2UV(sv), SvNVX(sv));
2376             RESTORE_NUMERIC_LOCAL();
2377         });
2378 #endif
2379     }
2380     else if (SvTYPE(sv) < SVt_PVNV)
2381         sv_upgrade(sv, SVt_PVNV);
2382     if (SvNOKp(sv)) {
2383         return SvNVX(sv);
2384     }
2385     if (SvIOKp(sv)) {
2386         SvNV_set(sv, SvIsUV(sv) ? (NV)SvUVX(sv) : (NV)SvIVX(sv));
2387 #ifdef NV_PRESERVES_UV
2388         SvNOK_on(sv);
2389 #else
2390         /* Only set the public NV OK flag if this NV preserves the IV  */
2391         /* Check it's not 0xFFFFFFFFFFFFFFFF */
2392         if (SvIsUV(sv) ? ((SvUVX(sv) != UV_MAX)&&(SvUVX(sv) == U_V(SvNVX(sv))))
2393                        : (SvIVX(sv) == I_V(SvNVX(sv))))
2394             SvNOK_on(sv);
2395         else
2396             SvNOKp_on(sv);
2397 #endif
2398     }
2399     else if (SvPOKp(sv) && SvLEN(sv)) {
2400         UV value;
2401         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
2402         if (!SvIOKp(sv) && !numtype && ckWARN(WARN_NUMERIC))
2403             not_a_number(sv);
2404 #ifdef NV_PRESERVES_UV
2405         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2406             == IS_NUMBER_IN_UV) {
2407             /* It's definitely an integer */
2408             SvNV_set(sv, (numtype & IS_NUMBER_NEG) ? -(NV)value : (NV)value);
2409         } else
2410             SvNV_set(sv, Atof(SvPVX_const(sv)));
2411         SvNOK_on(sv);
2412 #else
2413         SvNV_set(sv, Atof(SvPVX_const(sv)));
2414         /* Only set the public NV OK flag if this NV preserves the value in
2415            the PV at least as well as an IV/UV would.
2416            Not sure how to do this 100% reliably. */
2417         /* if that shift count is out of range then Configure's test is
2418            wonky. We shouldn't be in here with NV_PRESERVES_UV_BITS ==
2419            UV_BITS */
2420         if (((UV)1 << NV_PRESERVES_UV_BITS) >
2421             U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))) {
2422             SvNOK_on(sv); /* Definitely small enough to preserve all bits */
2423         } else if (!(numtype & IS_NUMBER_IN_UV)) {
2424             /* Can't use strtol etc to convert this string, so don't try.
2425                sv_2iv and sv_2uv will use the NV to convert, not the PV.  */
2426             SvNOK_on(sv);
2427         } else {
2428             /* value has been set.  It may not be precise.  */
2429             if ((numtype & IS_NUMBER_NEG) && (value > (UV)IV_MIN)) {
2430                 /* 2s complement assumption for (UV)IV_MIN  */
2431                 SvNOK_on(sv); /* Integer is too negative.  */
2432             } else {
2433                 SvNOKp_on(sv);
2434                 SvIOKp_on(sv);
2435
2436                 if (numtype & IS_NUMBER_NEG) {
2437                     SvIV_set(sv, -(IV)value);
2438                 } else if (value <= (UV)IV_MAX) {
2439                     SvIV_set(sv, (IV)value);
2440                 } else {
2441                     SvUV_set(sv, value);
2442                     SvIsUV_on(sv);
2443                 }
2444
2445                 if (numtype & IS_NUMBER_NOT_INT) {
2446                     /* I believe that even if the original PV had decimals,
2447                        they are lost beyond the limit of the FP precision.
2448                        However, neither is canonical, so both only get p
2449                        flags.  NWC, 2000/11/25 */
2450                     /* Both already have p flags, so do nothing */
2451                 } else {
2452                     const NV nv = SvNVX(sv);
2453                     if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2454                         if (SvIVX(sv) == I_V(nv)) {
2455                             SvNOK_on(sv);
2456                         } else {
2457                             /* It had no "." so it must be integer.  */
2458                         }
2459                         SvIOK_on(sv);
2460                     } else {
2461                         /* between IV_MAX and NV(UV_MAX).
2462                            Could be slightly > UV_MAX */
2463
2464                         if (numtype & IS_NUMBER_NOT_INT) {
2465                             /* UV and NV both imprecise.  */
2466                         } else {
2467                             const UV nv_as_uv = U_V(nv);
2468
2469                             if (value == nv_as_uv && SvUVX(sv) != UV_MAX) {
2470                                 SvNOK_on(sv);
2471                             }
2472                             SvIOK_on(sv);
2473                         }
2474                     }
2475                 }
2476             }
2477         }
2478 #endif /* NV_PRESERVES_UV */
2479     }
2480     else  {
2481         if (isGV_with_GP(sv)) {
2482             glob_2number((GV *)sv);
2483             return 0.0;
2484         }
2485
2486         if (!PL_localizing && !(SvFLAGS(sv) & SVs_PADTMP) && ckWARN(WARN_UNINITIALIZED))
2487             report_uninit(sv);
2488         assert (SvTYPE(sv) >= SVt_NV);
2489         /* Typically the caller expects that sv_any is not NULL now.  */
2490         /* XXX Ilya implies that this is a bug in callers that assume this
2491            and ideally should be fixed.  */
2492         return 0.0;
2493     }
2494 #if defined(USE_LONG_DOUBLE)
2495     DEBUG_c({
2496         STORE_NUMERIC_LOCAL_SET_STANDARD();
2497         PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2nv(%" PERL_PRIgldbl ")\n",
2498                       PTR2UV(sv), SvNVX(sv));
2499         RESTORE_NUMERIC_LOCAL();
2500     });
2501 #else
2502     DEBUG_c({
2503         STORE_NUMERIC_LOCAL_SET_STANDARD();
2504         PerlIO_printf(Perl_debug_log, "0x%"UVxf" 1nv(%"NVgf")\n",
2505                       PTR2UV(sv), SvNVX(sv));
2506         RESTORE_NUMERIC_LOCAL();
2507     });
2508 #endif
2509     return SvNVX(sv);
2510 }
2511
2512 /* uiv_2buf(): private routine for use by sv_2pv_flags(): print an IV or
2513  * UV as a string towards the end of buf, and return pointers to start and
2514  * end of it.
2515  *
2516  * We assume that buf is at least TYPE_CHARS(UV) long.
2517  */
2518
2519 static char *
2520 S_uiv_2buf(char *buf, IV iv, UV uv, int is_uv, char **peob)
2521 {
2522     char *ptr = buf + TYPE_CHARS(UV);
2523     char * const ebuf = ptr;
2524     int sign;
2525
2526     if (is_uv)
2527         sign = 0;
2528     else if (iv >= 0) {
2529         uv = iv;
2530         sign = 0;
2531     } else {
2532         uv = -iv;
2533         sign = 1;
2534     }
2535     do {
2536         *--ptr = '0' + (char)(uv % 10);
2537     } while (uv /= 10);
2538     if (sign)
2539         *--ptr = '-';
2540     *peob = ebuf;
2541     return ptr;
2542 }
2543
2544 /* stringify_regexp(): private routine for use by sv_2pv_flags(): converts
2545  * a regexp to its stringified form.
2546  */
2547
2548 static char *
2549 S_stringify_regexp(pTHX_ SV *sv, MAGIC *mg, STRLEN *lp) {
2550     dVAR;
2551     const regexp * const re = (regexp *)mg->mg_obj;
2552
2553     if (!mg->mg_ptr) {
2554         const char *fptr = "msix";
2555         char reflags[6];
2556         char ch;
2557         int left = 0;
2558         int right = 4;
2559         bool need_newline = 0;
2560         U16 reganch = (U16)((re->reganch & PMf_COMPILETIME) >> 12);
2561
2562         while((ch = *fptr++)) {
2563             if(reganch & 1) {
2564                 reflags[left++] = ch;
2565             }
2566             else {
2567                 reflags[right--] = ch;
2568             }
2569             reganch >>= 1;
2570         }
2571         if(left != 4) {
2572             reflags[left] = '-';
2573             left = 5;
2574         }
2575
2576         mg->mg_len = re->prelen + 4 + left;
2577         /*
2578          * If /x was used, we have to worry about a regex ending with a
2579          * comment later being embedded within another regex. If so, we don't
2580          * want this regex's "commentization" to leak out to the right part of
2581          * the enclosing regex, we must cap it with a newline.
2582          *
2583          * So, if /x was used, we scan backwards from the end of the regex. If
2584          * we find a '#' before we find a newline, we need to add a newline
2585          * ourself. If we find a '\n' first (or if we don't find '#' or '\n'),
2586          * we don't need to add anything.  -jfriedl
2587          */
2588         if (PMf_EXTENDED & re->reganch) {
2589             const char *endptr = re->precomp + re->prelen;
2590             while (endptr >= re->precomp) {
2591                 const char c = *(endptr--);
2592                 if (c == '\n')
2593                     break; /* don't need another */
2594                 if (c == '#') {
2595                     /* we end while in a comment, so we need a newline */
2596                     mg->mg_len++; /* save space for it */
2597                     need_newline = 1; /* note to add it */
2598                     break;
2599                 }
2600             }
2601         }
2602
2603         Newx(mg->mg_ptr, mg->mg_len + 1 + left, char);
2604         mg->mg_ptr[0] = '(';
2605         mg->mg_ptr[1] = '?';
2606         Copy(reflags, mg->mg_ptr+2, left, char);
2607         *(mg->mg_ptr+left+2) = ':';
2608         Copy(re->precomp, mg->mg_ptr+3+left, re->prelen, char);
2609         if (need_newline)
2610             mg->mg_ptr[mg->mg_len - 2] = '\n';
2611         mg->mg_ptr[mg->mg_len - 1] = ')';
2612         mg->mg_ptr[mg->mg_len] = 0;
2613     }
2614     PL_reginterp_cnt += re->program[0].next_off;
2615     
2616     if (re->reganch & ROPT_UTF8)
2617         SvUTF8_on(sv);
2618     else
2619         SvUTF8_off(sv);
2620     if (lp)
2621         *lp = mg->mg_len;
2622     return mg->mg_ptr;
2623 }
2624
2625 /*
2626 =for apidoc sv_2pv_flags
2627
2628 Returns a pointer to the string value of an SV, and sets *lp to its length.
2629 If flags includes SV_GMAGIC, does an mg_get() first. Coerces sv to a string
2630 if necessary.
2631 Normally invoked via the C<SvPV_flags> macro. C<sv_2pv()> and C<sv_2pv_nomg>
2632 usually end up here too.
2633
2634 =cut
2635 */
2636
2637 char *
2638 Perl_sv_2pv_flags(pTHX_ register SV *sv, STRLEN *lp, I32 flags)
2639 {
2640     dVAR;
2641     register char *s;
2642
2643     if (!sv) {
2644         if (lp)
2645             *lp = 0;
2646         return (char *)"";
2647     }
2648     if (SvGMAGICAL(sv)) {
2649         if (flags & SV_GMAGIC)
2650             mg_get(sv);
2651         if (SvPOKp(sv)) {
2652             if (lp)
2653                 *lp = SvCUR(sv);
2654             if (flags & SV_MUTABLE_RETURN)
2655                 return SvPVX_mutable(sv);
2656             if (flags & SV_CONST_RETURN)
2657                 return (char *)SvPVX_const(sv);
2658             return SvPVX(sv);
2659         }
2660         if (SvIOKp(sv) || SvNOKp(sv)) {
2661             char tbuf[64];  /* Must fit sprintf/Gconvert of longest IV/NV */
2662             STRLEN len;
2663
2664             if (SvIOKp(sv)) {
2665                 len = SvIsUV(sv)
2666                     ? my_snprintf(tbuf, sizeof(tbuf), "%"UVuf, (UV)SvUVX(sv))
2667                     : my_snprintf(tbuf, sizeof(tbuf), "%"IVdf, (IV)SvIVX(sv));
2668             } else {
2669                 Gconvert(SvNVX(sv), NV_DIG, 0, tbuf);
2670                 len = strlen(tbuf);
2671             }
2672             assert(!SvROK(sv));
2673             {
2674                 dVAR;
2675
2676 #ifdef FIXNEGATIVEZERO
2677                 if (len == 2 && tbuf[0] == '-' && tbuf[1] == '0') {
2678                     tbuf[0] = '0';
2679                     tbuf[1] = 0;
2680                     len = 1;
2681                 }
2682 #endif
2683                 SvUPGRADE(sv, SVt_PV);
2684                 if (lp)
2685                     *lp = len;
2686                 s = SvGROW_mutable(sv, len + 1);
2687                 SvCUR_set(sv, len);
2688                 SvPOKp_on(sv);
2689                 return memcpy(s, tbuf, len + 1);
2690             }
2691         }
2692         if (SvROK(sv)) {
2693             goto return_rok;
2694         }
2695         assert(SvTYPE(sv) >= SVt_PVMG);
2696         /* This falls through to the report_uninit near the end of the
2697            function. */
2698     } else if (SvTHINKFIRST(sv)) {
2699         if (SvROK(sv)) {
2700         return_rok:
2701             if (SvAMAGIC(sv)) {
2702                 SV *const tmpstr = AMG_CALLun(sv,string);
2703                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2704                     /* Unwrap this:  */
2705                     /* char *pv = lp ? SvPV(tmpstr, *lp) : SvPV_nolen(tmpstr);
2706                      */
2707
2708                     char *pv;
2709                     if ((SvFLAGS(tmpstr) & (SVf_POK)) == SVf_POK) {
2710                         if (flags & SV_CONST_RETURN) {
2711                             pv = (char *) SvPVX_const(tmpstr);
2712                         } else {
2713                             pv = (flags & SV_MUTABLE_RETURN)
2714                                 ? SvPVX_mutable(tmpstr) : SvPVX(tmpstr);
2715                         }
2716                         if (lp)
2717                             *lp = SvCUR(tmpstr);
2718                     } else {
2719                         pv = sv_2pv_flags(tmpstr, lp, flags);
2720                     }
2721                     if (SvUTF8(tmpstr))
2722                         SvUTF8_on(sv);
2723                     else
2724                         SvUTF8_off(sv);
2725                     return pv;
2726                 }
2727             }
2728             {
2729                 SV *tsv;
2730                 MAGIC *mg;
2731                 const SV *const referent = (SV*)SvRV(sv);
2732
2733                 if (!referent) {
2734                     tsv = sv_2mortal(newSVpvs("NULLREF"));
2735                 } else if (SvTYPE(referent) == SVt_PVMG
2736                            && ((SvFLAGS(referent) &
2737                                 (SVs_OBJECT|SVf_OK|SVs_GMG|SVs_SMG|SVs_RMG))
2738                                == (SVs_OBJECT|SVs_SMG))
2739                            && (mg = mg_find(referent, PERL_MAGIC_qr))) {
2740                     return stringify_regexp(sv, mg, lp);
2741                 } else {
2742                     const char *const typestr = sv_reftype(referent, 0);
2743
2744                     tsv = sv_newmortal();
2745                     if (SvOBJECT(referent)) {
2746                         const char *const name = HvNAME_get(SvSTASH(referent));
2747                         Perl_sv_setpvf(aTHX_ tsv, "%s=%s(0x%"UVxf")",
2748                                        name ? name : "__ANON__" , typestr,
2749                                        PTR2UV(referent));
2750                     }
2751                     else
2752                         Perl_sv_setpvf(aTHX_ tsv, "%s(0x%"UVxf")", typestr,
2753                                        PTR2UV(referent));
2754                 }
2755                 if (lp)
2756                     *lp = SvCUR(tsv);
2757                 return SvPVX(tsv);
2758             }
2759         }
2760         if (SvREADONLY(sv) && !SvOK(sv)) {
2761             if (ckWARN(WARN_UNINITIALIZED))
2762                 report_uninit(sv);
2763             if (lp)
2764                 *lp = 0;
2765             return (char *)"";
2766         }
2767     }
2768     if (SvIOK(sv) || ((SvIOKp(sv) && !SvNOKp(sv)))) {
2769         /* I'm assuming that if both IV and NV are equally valid then
2770            converting the IV is going to be more efficient */
2771         const U32 isIOK = SvIOK(sv);
2772         const U32 isUIOK = SvIsUV(sv);
2773         char buf[TYPE_CHARS(UV)];
2774         char *ebuf, *ptr;
2775
2776         if (SvTYPE(sv) < SVt_PVIV)
2777             sv_upgrade(sv, SVt_PVIV);
2778         ptr = uiv_2buf(buf, SvIVX(sv), SvUVX(sv), isUIOK, &ebuf);
2779         /* inlined from sv_setpvn */
2780         SvGROW_mutable(sv, (STRLEN)(ebuf - ptr + 1));
2781         Move(ptr,SvPVX_mutable(sv),ebuf - ptr,char);
2782         SvCUR_set(sv, ebuf - ptr);
2783         s = SvEND(sv);
2784         *s = '\0';
2785         if (isIOK)
2786             SvIOK_on(sv);
2787         else
2788             SvIOKp_on(sv);
2789         if (isUIOK)
2790             SvIsUV_on(sv);
2791     }
2792     else if (SvNOKp(sv)) {
2793         const int olderrno = errno;
2794         if (SvTYPE(sv) < SVt_PVNV)
2795             sv_upgrade(sv, SVt_PVNV);
2796         /* The +20 is pure guesswork.  Configure test needed. --jhi */
2797         s = SvGROW_mutable(sv, NV_DIG + 20);
2798         /* some Xenix systems wipe out errno here */
2799 #ifdef apollo
2800         if (SvNVX(sv) == 0.0)
2801             (void)strcpy(s,"0");
2802         else
2803 #endif /*apollo*/
2804         {
2805             Gconvert(SvNVX(sv), NV_DIG, 0, s);
2806         }
2807         errno = olderrno;
2808 #ifdef FIXNEGATIVEZERO
2809         if (*s == '-' && s[1] == '0' && !s[2])
2810             strcpy(s,"0");
2811 #endif
2812         while (*s) s++;
2813 #ifdef hcx
2814         if (s[-1] == '.')
2815             *--s = '\0';
2816 #endif
2817     }
2818     else {
2819         if (isGV_with_GP(sv))
2820             return glob_2pv((GV *)sv, lp);
2821
2822         if (!PL_localizing && !(SvFLAGS(sv) & SVs_PADTMP) && ckWARN(WARN_UNINITIALIZED))
2823             report_uninit(sv);
2824         if (lp)
2825             *lp = 0;
2826         if (SvTYPE(sv) < SVt_PV)
2827             /* Typically the caller expects that sv_any is not NULL now.  */
2828             sv_upgrade(sv, SVt_PV);
2829         return (char *)"";
2830     }
2831     {
2832         const STRLEN len = s - SvPVX_const(sv);
2833         if (lp) 
2834             *lp = len;
2835         SvCUR_set(sv, len);
2836     }
2837     SvPOK_on(sv);
2838     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2pv(%s)\n",
2839                           PTR2UV(sv),SvPVX_const(sv)));
2840     if (flags & SV_CONST_RETURN)
2841         return (char *)SvPVX_const(sv);
2842     if (flags & SV_MUTABLE_RETURN)
2843         return SvPVX_mutable(sv);
2844     return SvPVX(sv);
2845 }
2846
2847 /*
2848 =for apidoc sv_copypv
2849
2850 Copies a stringified representation of the source SV into the
2851 destination SV.  Automatically performs any necessary mg_get and
2852 coercion of numeric values into strings.  Guaranteed to preserve
2853 UTF-8 flag even from overloaded objects.  Similar in nature to
2854 sv_2pv[_flags] but operates directly on an SV instead of just the
2855 string.  Mostly uses sv_2pv_flags to do its work, except when that
2856 would lose the UTF-8'ness of the PV.
2857
2858 =cut
2859 */
2860
2861 void
2862 Perl_sv_copypv(pTHX_ SV *dsv, register SV *ssv)
2863 {
2864     STRLEN len;
2865     const char * const s = SvPV_const(ssv,len);
2866     sv_setpvn(dsv,s,len);
2867     if (SvUTF8(ssv))
2868         SvUTF8_on(dsv);
2869     else
2870         SvUTF8_off(dsv);
2871 }
2872
2873 /*
2874 =for apidoc sv_2pvbyte
2875
2876 Return a pointer to the byte-encoded representation of the SV, and set *lp
2877 to its length.  May cause the SV to be downgraded from UTF-8 as a
2878 side-effect.
2879
2880 Usually accessed via the C<SvPVbyte> macro.
2881
2882 =cut
2883 */
2884
2885 char *
2886 Perl_sv_2pvbyte(pTHX_ register SV *sv, STRLEN *lp)
2887 {
2888     sv_utf8_downgrade(sv,0);
2889     return lp ? SvPV(sv,*lp) : SvPV_nolen(sv);
2890 }
2891
2892 /*
2893 =for apidoc sv_2pvutf8
2894
2895 Return a pointer to the UTF-8-encoded representation of the SV, and set *lp
2896 to its length.  May cause the SV to be upgraded to UTF-8 as a side-effect.
2897
2898 Usually accessed via the C<SvPVutf8> macro.
2899
2900 =cut
2901 */
2902
2903 char *
2904 Perl_sv_2pvutf8(pTHX_ register SV *sv, STRLEN *lp)
2905 {
2906     sv_utf8_upgrade(sv);
2907     return lp ? SvPV(sv,*lp) : SvPV_nolen(sv);
2908 }
2909
2910
2911 /*
2912 =for apidoc sv_2bool
2913
2914 This function is only called on magical items, and is only used by
2915 sv_true() or its macro equivalent.
2916
2917 =cut
2918 */
2919
2920 bool
2921 Perl_sv_2bool(pTHX_ register SV *sv)
2922 {
2923     dVAR;
2924     SvGETMAGIC(sv);
2925
2926     if (!SvOK(sv))
2927         return 0;
2928     if (SvROK(sv)) {
2929         if (SvAMAGIC(sv)) {
2930             SV * const tmpsv = AMG_CALLun(sv,bool_);
2931             if (tmpsv && (!SvROK(tmpsv) || (SvRV(tmpsv) != SvRV(sv))))
2932                 return (bool)SvTRUE(tmpsv);
2933         }
2934         return SvRV(sv) != 0;
2935     }
2936     if (SvPOKp(sv)) {
2937         register XPV* const Xpvtmp = (XPV*)SvANY(sv);
2938         if (Xpvtmp &&
2939                 (*sv->sv_u.svu_pv > '0' ||
2940                 Xpvtmp->xpv_cur > 1 ||
2941                 (Xpvtmp->xpv_cur && *sv->sv_u.svu_pv != '0')))
2942             return 1;
2943         else
2944             return 0;
2945     }
2946     else {
2947         if (SvIOKp(sv))
2948             return SvIVX(sv) != 0;
2949         else {
2950             if (SvNOKp(sv))
2951                 return SvNVX(sv) != 0.0;
2952             else {
2953                 if (isGV_with_GP(sv))
2954                     return TRUE;
2955                 else
2956                     return FALSE;
2957             }
2958         }
2959     }
2960 }
2961
2962 /*
2963 =for apidoc sv_utf8_upgrade
2964
2965 Converts the PV of an SV to its UTF-8-encoded form.
2966 Forces the SV to string form if it is not already.
2967 Always sets the SvUTF8 flag to avoid future validity checks even
2968 if all the bytes have hibit clear.
2969
2970 This is not as a general purpose byte encoding to Unicode interface:
2971 use the Encode extension for that.
2972
2973 =for apidoc sv_utf8_upgrade_flags
2974
2975 Converts the PV of an SV to its UTF-8-encoded form.
2976 Forces the SV to string form if it is not already.
2977 Always sets the SvUTF8 flag to avoid future validity checks even
2978 if all the bytes have hibit clear. If C<flags> has C<SV_GMAGIC> bit set,
2979 will C<mg_get> on C<sv> if appropriate, else not. C<sv_utf8_upgrade> and
2980 C<sv_utf8_upgrade_nomg> are implemented in terms of this function.
2981
2982 This is not as a general purpose byte encoding to Unicode interface:
2983 use the Encode extension for that.
2984
2985 =cut
2986 */
2987
2988 STRLEN
2989 Perl_sv_utf8_upgrade_flags(pTHX_ register SV *sv, I32 flags)
2990 {
2991     dVAR;
2992     if (sv == &PL_sv_undef)
2993         return 0;
2994     if (!SvPOK(sv)) {
2995         STRLEN len = 0;
2996         if (SvREADONLY(sv) && (SvPOKp(sv) || SvIOKp(sv) || SvNOKp(sv))) {
2997             (void) sv_2pv_flags(sv,&len, flags);
2998             if (SvUTF8(sv))
2999                 return len;
3000         } else {
3001             (void) SvPV_force(sv,len);
3002         }
3003     }
3004
3005     if (SvUTF8(sv)) {
3006         return SvCUR(sv);
3007     }
3008
3009     if (SvIsCOW(sv)) {
3010         sv_force_normal_flags(sv, 0);
3011     }
3012
3013     if (PL_encoding && !(flags & SV_UTF8_NO_ENCODING))
3014         sv_recode_to_utf8(sv, PL_encoding);
3015     else { /* Assume Latin-1/EBCDIC */
3016         /* This function could be much more efficient if we
3017          * had a FLAG in SVs to signal if there are any hibit
3018          * chars in the PV.  Given that there isn't such a flag
3019          * make the loop as fast as possible. */
3020         const U8 * const s = (U8 *) SvPVX_const(sv);
3021         const U8 * const e = (U8 *) SvEND(sv);
3022         const U8 *t = s;
3023         
3024         while (t < e) {
3025             const U8 ch = *t++;
3026             /* Check for hi bit */
3027             if (!NATIVE_IS_INVARIANT(ch)) {
3028                 STRLEN len = SvCUR(sv) + 1; /* Plus the \0 */
3029                 U8 * const recoded = bytes_to_utf8((U8*)s, &len);
3030
3031                 SvPV_free(sv); /* No longer using what was there before. */
3032                 SvPV_set(sv, (char*)recoded);
3033                 SvCUR_set(sv, len - 1);
3034                 SvLEN_set(sv, len); /* No longer know the real size. */
3035                 break;
3036             }
3037         }
3038         /* Mark as UTF-8 even if no hibit - saves scanning loop */
3039         SvUTF8_on(sv);
3040     }
3041     return SvCUR(sv);
3042 }
3043
3044 /*
3045 =for apidoc sv_utf8_downgrade
3046
3047 Attempts to convert the PV of an SV from characters to bytes.
3048 If the PV contains a character beyond byte, this conversion will fail;
3049 in this case, either returns false or, if C<fail_ok> is not
3050 true, croaks.
3051
3052 This is not as a general purpose Unicode to byte encoding interface:
3053 use the Encode extension for that.
3054
3055 =cut
3056 */
3057
3058 bool
3059 Perl_sv_utf8_downgrade(pTHX_ register SV* sv, bool fail_ok)
3060 {
3061     dVAR;
3062     if (SvPOKp(sv) && SvUTF8(sv)) {
3063         if (SvCUR(sv)) {
3064             U8 *s;
3065             STRLEN len;
3066
3067             if (SvIsCOW(sv)) {
3068                 sv_force_normal_flags(sv, 0);
3069             }
3070             s = (U8 *) SvPV(sv, len);
3071             if (!utf8_to_bytes(s, &len)) {
3072                 if (fail_ok)
3073                     return FALSE;
3074                 else {
3075                     if (PL_op)
3076                         Perl_croak(aTHX_ "Wide character in %s",
3077                                    OP_DESC(PL_op));
3078                     else
3079                         Perl_croak(aTHX_ "Wide character");
3080                 }
3081             }
3082             SvCUR_set(sv, len);
3083         }
3084     }
3085     SvUTF8_off(sv);
3086     return TRUE;
3087 }
3088
3089 /*
3090 =for apidoc sv_utf8_encode
3091
3092 Converts the PV of an SV to UTF-8, but then turns the C<SvUTF8>
3093 flag off so that it looks like octets again.
3094
3095 =cut
3096 */
3097
3098 void
3099 Perl_sv_utf8_encode(pTHX_ register SV *sv)
3100 {
3101     if (SvIsCOW(sv)) {
3102         sv_force_normal_flags(sv, 0);
3103     }
3104     if (SvREADONLY(sv)) {
3105         Perl_croak(aTHX_ PL_no_modify);
3106     }
3107     (void) sv_utf8_upgrade(sv);
3108     SvUTF8_off(sv);
3109 }
3110
3111 /*
3112 =for apidoc sv_utf8_decode
3113
3114 If the PV of the SV is an octet sequence in UTF-8
3115 and contains a multiple-byte character, the C<SvUTF8> flag is turned on
3116 so that it looks like a character. If the PV contains only single-byte
3117 characters, the C<SvUTF8> flag stays being off.
3118 Scans PV for validity and returns false if the PV is invalid UTF-8.
3119
3120 =cut
3121 */
3122
3123 bool
3124 Perl_sv_utf8_decode(pTHX_ register SV *sv)
3125 {
3126     if (SvPOKp(sv)) {
3127         const U8 *c;
3128         const U8 *e;
3129
3130         /* The octets may have got themselves encoded - get them back as
3131          * bytes
3132          */
3133         if (!sv_utf8_downgrade(sv, TRUE))
3134             return FALSE;
3135
3136         /* it is actually just a matter of turning the utf8 flag on, but
3137          * we want to make sure everything inside is valid utf8 first.
3138          */
3139         c = (const U8 *) SvPVX_const(sv);
3140         if (!is_utf8_string(c, SvCUR(sv)+1))
3141             return FALSE;
3142         e = (const U8 *) SvEND(sv);
3143         while (c < e) {
3144             const U8 ch = *c++;
3145             if (!UTF8_IS_INVARIANT(ch)) {
3146                 SvUTF8_on(sv);
3147                 break;
3148             }
3149         }
3150     }
3151     return TRUE;
3152 }
3153
3154 /*
3155 =for apidoc sv_setsv
3156
3157 Copies the contents of the source SV C<ssv> into the destination SV
3158 C<dsv>.  The source SV may be destroyed if it is mortal, so don't use this
3159 function if the source SV needs to be reused. Does not handle 'set' magic.
3160 Loosely speaking, it performs a copy-by-value, obliterating any previous
3161 content of the destination.
3162
3163 You probably want to use one of the assortment of wrappers, such as
3164 C<SvSetSV>, C<SvSetSV_nosteal>, C<SvSetMagicSV> and
3165 C<SvSetMagicSV_nosteal>.
3166
3167 =for apidoc sv_setsv_flags
3168
3169 Copies the contents of the source SV C<ssv> into the destination SV
3170 C<dsv>.  The source SV may be destroyed if it is mortal, so don't use this
3171 function if the source SV needs to be reused. Does not handle 'set' magic.
3172 Loosely speaking, it performs a copy-by-value, obliterating any previous
3173 content of the destination.
3174 If the C<flags> parameter has the C<SV_GMAGIC> bit set, will C<mg_get> on
3175 C<ssv> if appropriate, else not. If the C<flags> parameter has the
3176 C<NOSTEAL> bit set then the buffers of temps will not be stolen. <sv_setsv>
3177 and C<sv_setsv_nomg> are implemented in terms of this function.
3178
3179 You probably want to use one of the assortment of wrappers, such as
3180 C<SvSetSV>, C<SvSetSV_nosteal>, C<SvSetMagicSV> and
3181 C<SvSetMagicSV_nosteal>.
3182
3183 This is the primary function for copying scalars, and most other
3184 copy-ish functions and macros use this underneath.
3185
3186 =cut
3187 */
3188
3189 static void
3190 S_glob_assign_glob(pTHX_ SV *dstr, SV *sstr, const int dtype)
3191 {
3192     if (dtype != SVt_PVGV) {
3193         const char * const name = GvNAME(sstr);
3194         const STRLEN len = GvNAMELEN(sstr);
3195         /* don't upgrade SVt_PVLV: it can hold a glob */
3196         if (dtype != SVt_PVLV) {
3197             if (dtype >= SVt_PV) {
3198                 SvPV_free(dstr);
3199                 SvPV_set(dstr, 0);
3200                 SvLEN_set(dstr, 0);
3201                 SvCUR_set(dstr, 0);
3202             }
3203             sv_upgrade(dstr, SVt_PVGV);
3204             (void)SvOK_off(dstr);
3205             SvSCREAM_on(dstr);
3206         }
3207         GvSTASH(dstr) = GvSTASH(sstr);
3208         if (GvSTASH(dstr))
3209             Perl_sv_add_backref(aTHX_ (SV*)GvSTASH(dstr), dstr);
3210         gv_name_set((GV *)dstr, name, len, GV_ADD);
3211         SvFAKE_on(dstr);        /* can coerce to non-glob */
3212     }
3213
3214 #ifdef GV_UNIQUE_CHECK
3215     if (GvUNIQUE((GV*)dstr)) {
3216         Perl_croak(aTHX_ PL_no_modify);
3217     }
3218 #endif
3219
3220     gp_free((GV*)dstr);
3221     SvSCREAM_off(dstr);
3222     (void)SvOK_off(dstr);
3223     SvSCREAM_on(dstr);
3224     GvINTRO_off(dstr);          /* one-shot flag */
3225     GvGP(dstr) = gp_ref(GvGP(sstr));
3226     if (SvTAINTED(sstr))
3227         SvTAINT(dstr);
3228     if (GvIMPORTED(dstr) != GVf_IMPORTED
3229         && CopSTASH_ne(PL_curcop, GvSTASH(dstr)))
3230         {
3231             GvIMPORTED_on(dstr);
3232         }
3233     GvMULTI_on(dstr);
3234     return;
3235 }
3236
3237 static void
3238 S_glob_assign_ref(pTHX_ SV *dstr, SV *sstr) {
3239     SV * const sref = SvREFCNT_inc(SvRV(sstr));
3240     SV *dref = NULL;
3241     const int intro = GvINTRO(dstr);
3242     SV **location;
3243     U8 import_flag = 0;
3244     const U32 stype = SvTYPE(sref);
3245
3246
3247 #ifdef GV_UNIQUE_CHECK
3248     if (GvUNIQUE((GV*)dstr)) {
3249         Perl_croak(aTHX_ PL_no_modify);
3250     }
3251 #endif
3252
3253     if (intro) {
3254         GvINTRO_off(dstr);      /* one-shot flag */
3255         GvLINE(dstr) = CopLINE(PL_curcop);
3256         GvEGV(dstr) = (GV*)dstr;
3257     }
3258     GvMULTI_on(dstr);
3259     switch (stype) {
3260     case SVt_PVCV:
3261         location = (SV **) &GvCV(dstr);
3262         import_flag = GVf_IMPORTED_CV;
3263         goto common;
3264     case SVt_PVHV:
3265         location = (SV **) &GvHV(dstr);
3266         import_flag = GVf_IMPORTED_HV;
3267         goto common;
3268     case SVt_PVAV:
3269         location = (SV **) &GvAV(dstr);
3270         import_flag = GVf_IMPORTED_AV;
3271         goto common;
3272     case SVt_PVIO:
3273         location = (SV **) &GvIOp(dstr);
3274         goto common;
3275     case SVt_PVFM:
3276         location = (SV **) &GvFORM(dstr);
3277     default:
3278         location = &GvSV(dstr);
3279         import_flag = GVf_IMPORTED_SV;
3280     common:
3281         if (intro) {
3282             if (stype == SVt_PVCV) {
3283                 if (GvCVGEN(dstr) && GvCV(dstr) != (CV*)sref) {
3284                     SvREFCNT_dec(GvCV(dstr));
3285                     GvCV(dstr) = NULL;
3286                     GvCVGEN(dstr) = 0; /* Switch off cacheness. */
3287                     PL_sub_generation++;
3288                 }
3289             }
3290             SAVEGENERICSV(*location);
3291         }
3292         else
3293             dref = *location;
3294         if (stype == SVt_PVCV && *location != sref) {
3295             CV* const cv = (CV*)*location;
3296             if (cv) {
3297                 if (!GvCVGEN((GV*)dstr) &&
3298                     (CvROOT(cv) || CvXSUB(cv)))
3299                     {
3300                         /* Redefining a sub - warning is mandatory if
3301                            it was a const and its value changed. */
3302                         if (CvCONST(cv) && CvCONST((CV*)sref)
3303                             && cv_const_sv(cv) == cv_const_sv((CV*)sref)) {
3304                             NOOP;
3305                             /* They are 2 constant subroutines generated from
3306                                the same constant. This probably means that
3307                                they are really the "same" proxy subroutine
3308                                instantiated in 2 places. Most likely this is
3309                                when a constant is exported twice.  Don't warn.
3310                             */
3311                         }
3312                         else if (ckWARN(WARN_REDEFINE)
3313                                  || (CvCONST(cv)
3314                                      && (!CvCONST((CV*)sref)
3315                                          || sv_cmp(cv_const_sv(cv),
3316                                                    cv_const_sv((CV*)sref))))) {
3317                             Perl_warner(aTHX_ packWARN(WARN_REDEFINE),
3318                                         CvCONST(cv)
3319                                         ? "Constant subroutine %s::%s redefined"
3320                                         : "Subroutine %s::%s redefined",
3321                                         HvNAME_get(GvSTASH((GV*)dstr)),
3322                                         GvENAME((GV*)dstr));
3323                         }
3324                     }
3325                 if (!intro)
3326                     cv_ckproto_len(cv, (GV*)dstr,
3327                                    SvPOK(sref) ? SvPVX_const(sref) : NULL,
3328                                    SvPOK(sref) ? SvCUR(sref) : 0);
3329             }
3330             GvCVGEN(dstr) = 0; /* Switch off cacheness. */
3331             GvASSUMECV_on(dstr);
3332             PL_sub_generation++;
3333         }
3334         *location = sref;
3335         if (import_flag && !(GvFLAGS(dstr) & import_flag)
3336             && CopSTASH_ne(PL_curcop, GvSTASH(dstr))) {
3337             GvFLAGS(dstr) |= import_flag;
3338         }
3339         break;
3340     }
3341     SvREFCNT_dec(dref);
3342     if (SvTAINTED(sstr))
3343         SvTAINT(dstr);
3344     return;
3345 }
3346
3347 void
3348 Perl_sv_setsv_flags(pTHX_ SV *dstr, register SV *sstr, I32 flags)
3349 {
3350     dVAR;
3351     register U32 sflags;
3352     register int dtype;
3353     register svtype stype;
3354
3355     if (sstr == dstr)
3356         return;
3357     SV_CHECK_THINKFIRST_COW_DROP(dstr);
3358     if (!sstr)
3359         sstr = &PL_sv_undef;
3360     stype = SvTYPE(sstr);
3361     dtype = SvTYPE(dstr);
3362
3363     SvAMAGIC_off(dstr);
3364     if ( SvVOK(dstr) )
3365     {
3366         /* need to nuke the magic */
3367         mg_free(dstr);
3368         SvRMAGICAL_off(dstr);
3369     }
3370
3371     /* There's a lot of redundancy below but we're going for speed here */
3372
3373     switch (stype) {
3374     case SVt_NULL:
3375       undef_sstr:
3376         if (dtype != SVt_PVGV) {
3377             (void)SvOK_off(dstr);
3378             return;
3379         }
3380         break;
3381     case SVt_IV:
3382         if (SvIOK(sstr)) {
3383             switch (dtype) {
3384             case SVt_NULL:
3385                 sv_upgrade(dstr, SVt_IV);
3386                 break;
3387             case SVt_NV:
3388             case SVt_RV:
3389             case SVt_PV:
3390                 sv_upgrade(dstr, SVt_PVIV);
3391                 break;
3392             }
3393             (void)SvIOK_only(dstr);
3394             SvIV_set(dstr,  SvIVX(sstr));
3395             if (SvIsUV(sstr))
3396                 SvIsUV_on(dstr);
3397             /* SvTAINTED can only be true if the SV has taint magic, which in
3398                turn means that the SV type is PVMG (or greater). This is the
3399                case statement for SVt_IV, so this cannot be true (whatever gcov
3400                may say).  */
3401             assert(!SvTAINTED(sstr));
3402             return;
3403         }
3404         goto undef_sstr;
3405
3406     case SVt_NV:
3407         if (SvNOK(sstr)) {
3408             switch (dtype) {
3409             case SVt_NULL:
3410             case SVt_IV:
3411                 sv_upgrade(dstr, SVt_NV);
3412                 break;
3413             case SVt_RV:
3414             case SVt_PV:
3415             case SVt_PVIV:
3416                 sv_upgrade(dstr, SVt_PVNV);
3417                 break;
3418             }
3419             SvNV_set(dstr, SvNVX(sstr));
3420             (void)SvNOK_only(dstr);
3421             /* SvTAINTED can only be true if the SV has taint magic, which in
3422                turn means that the SV type is PVMG (or greater). This is the
3423                case statement for SVt_NV, so this cannot be true (whatever gcov
3424                may say).  */
3425             assert(!SvTAINTED(sstr));
3426             return;
3427         }
3428         goto undef_sstr;
3429
3430     case SVt_RV:
3431         if (dtype < SVt_RV)
3432             sv_upgrade(dstr, SVt_RV);
3433         break;
3434     case SVt_PVFM:
3435 #ifdef PERL_OLD_COPY_ON_WRITE
3436         if ((SvFLAGS(sstr) & CAN_COW_MASK) == CAN_COW_FLAGS) {
3437             if (dtype < SVt_PVIV)
3438                 sv_upgrade(dstr, SVt_PVIV);
3439             break;
3440         }
3441         /* Fall through */
3442 #endif
3443     case SVt_PV:
3444         if (dtype < SVt_PV)
3445             sv_upgrade(dstr, SVt_PV);
3446         break;
3447     case SVt_PVIV:
3448         if (dtype < SVt_PVIV)
3449             sv_upgrade(dstr, SVt_PVIV);
3450         break;
3451     case SVt_PVNV:
3452         if (dtype < SVt_PVNV)
3453             sv_upgrade(dstr, SVt_PVNV);
3454         break;
3455     default:
3456         {
3457         const char * const type = sv_reftype(sstr,0);
3458         if (PL_op)
3459             Perl_croak(aTHX_ "Bizarre copy of %s in %s", type, OP_NAME(PL_op));
3460         else
3461             Perl_croak(aTHX_ "Bizarre copy of %s", type);
3462         }
3463         break;
3464
3465     case SVt_PVGV:
3466         if (dtype <= SVt_PVGV) {
3467             glob_assign_glob(dstr, sstr, dtype);
3468             return;
3469         }
3470         /*FALLTHROUGH*/
3471
3472     case SVt_PVMG:
3473     case SVt_PVLV:
3474     case SVt_PVBM:
3475         if (SvGMAGICAL(sstr) && (flags & SV_GMAGIC)) {
3476             mg_get(sstr);
3477             if ((int)SvTYPE(sstr) != stype) {
3478                 stype = SvTYPE(sstr);
3479                 if (stype == SVt_PVGV && dtype <= SVt_PVGV) {
3480                     glob_assign_glob(dstr, sstr, dtype);
3481                     return;
3482                 }
3483             }
3484         }
3485         if (stype == SVt_PVLV)
3486             SvUPGRADE(dstr, SVt_PVNV);
3487         else
3488             SvUPGRADE(dstr, (svtype)stype);
3489     }
3490
3491     /* dstr may have been upgraded.  */
3492     dtype = SvTYPE(dstr);
3493     sflags = SvFLAGS(sstr);
3494
3495     if (sflags & SVf_ROK) {
3496         if (dtype == SVt_PVGV &&
3497             SvROK(sstr) && SvTYPE(SvRV(sstr)) == SVt_PVGV) {
3498             sstr = SvRV(sstr);
3499             if (sstr == dstr) {
3500                 if (GvIMPORTED(dstr) != GVf_IMPORTED
3501                     && CopSTASH_ne(PL_curcop, GvSTASH(dstr)))
3502                 {
3503                     GvIMPORTED_on(dstr);
3504                 }
3505                 GvMULTI_on(dstr);
3506                 return;
3507             }
3508             glob_assign_glob(dstr, sstr, dtype);
3509             return;
3510         }
3511
3512         if (dtype >= SVt_PV) {
3513             if (dtype == SVt_PVGV) {
3514                 glob_assign_ref(dstr, sstr);
3515                 return;
3516             }
3517             if (SvPVX_const(dstr)) {
3518                 SvPV_free(dstr);
3519                 SvLEN_set(dstr, 0);
3520                 SvCUR_set(dstr, 0);
3521             }
3522         }
3523         (void)SvOK_off(dstr);
3524         SvRV_set(dstr, SvREFCNT_inc(SvRV(sstr)));
3525         SvFLAGS(dstr) |= sflags & (SVf_ROK|SVf_AMAGIC);
3526         assert(!(sflags & SVp_NOK));
3527         assert(!(sflags & SVp_IOK));
3528         assert(!(sflags & SVf_NOK));
3529         assert(!(sflags & SVf_IOK));
3530     }
3531     else if (dtype == SVt_PVGV) {
3532         if (!(sflags & SVf_OK)) {
3533             if (ckWARN(WARN_MISC))
3534                 Perl_warner(aTHX_ packWARN(WARN_MISC),
3535                             "Undefined value assigned to typeglob");
3536         }
3537         else {
3538             GV *gv = gv_fetchsv(sstr, GV_ADD, SVt_PVGV);
3539             if (dstr != (SV*)gv) {
3540                 if (GvGP(dstr))
3541                     gp_free((GV*)dstr);
3542                 GvGP(dstr) = gp_ref(GvGP(gv));
3543             }
3544         }
3545     }
3546     else if (sflags & SVp_POK) {
3547         bool isSwipe = 0;
3548
3549         /*
3550          * Check to see if we can just swipe the string.  If so, it's a
3551          * possible small lose on short strings, but a big win on long ones.
3552          * It might even be a win on short strings if SvPVX_const(dstr)
3553          * has to be allocated and SvPVX_const(sstr) has to be freed.
3554          */
3555
3556         /* Whichever path we take through the next code, we want this true,
3557            and doing it now facilitates the COW check.  */
3558         (void)SvPOK_only(dstr);
3559
3560         if (
3561             /* We're not already COW  */
3562             ((sflags & (SVf_FAKE | SVf_READONLY)) != (SVf_FAKE | SVf_READONLY)
3563 #ifndef PERL_OLD_COPY_ON_WRITE
3564              /* or we are, but dstr isn't a suitable target.  */
3565              || (SvFLAGS(dstr) & CAN_COW_MASK) != CAN_COW_FLAGS
3566 #endif
3567              )
3568             &&
3569             !(isSwipe =
3570                  (sflags & SVs_TEMP) &&   /* slated for free anyway? */
3571                  !(sflags & SVf_OOK) &&   /* and not involved in OOK hack? */
3572                  (!(flags & SV_NOSTEAL)) &&
3573                                         /* and we're allowed to steal temps */
3574                  SvREFCNT(sstr) == 1 &&   /* and no other references to it? */
3575                  SvLEN(sstr)    &&        /* and really is a string */
3576                                 /* and won't be needed again, potentially */
3577               !(PL_op && PL_op->op_type == OP_AASSIGN))
3578 #ifdef PERL_OLD_COPY_ON_WRITE
3579             && !((sflags & CAN_COW_MASK) == CAN_COW_FLAGS
3580                  && (SvFLAGS(dstr) & CAN_COW_MASK) == CAN_COW_FLAGS
3581                  && SvTYPE(sstr) >= SVt_PVIV)
3582 #endif
3583             ) {
3584             /* Failed the swipe test, and it's not a shared hash key either.
3585                Have to copy the string.  */
3586             STRLEN len = SvCUR(sstr);
3587             SvGROW(dstr, len + 1);      /* inlined from sv_setpvn */
3588             Move(SvPVX_const(sstr),SvPVX(dstr),len,char);
3589             SvCUR_set(dstr, len);
3590             *SvEND(dstr) = '\0';
3591         } else {
3592             /* If PERL_OLD_COPY_ON_WRITE is not defined, then isSwipe will always
3593                be true in here.  */
3594             /* Either it's a shared hash key, or it's suitable for
3595                copy-on-write or we can swipe the string.  */
3596             if (DEBUG_C_TEST) {
3597                 PerlIO_printf(Perl_debug_log, "Copy on write: sstr --> dstr\n");
3598                 sv_dump(sstr);
3599                 sv_dump(dstr);
3600             }
3601 #ifdef PERL_OLD_COPY_ON_WRITE
3602             if (!isSwipe) {
3603                 /* I believe I should acquire a global SV mutex if
3604                    it's a COW sv (not a shared hash key) to stop
3605                    it going un copy-on-write.
3606                    If the source SV has gone un copy on write between up there
3607                    and down here, then (assert() that) it is of the correct
3608                    form to make it copy on write again */
3609                 if ((sflags & (SVf_FAKE | SVf_READONLY))
3610                     != (SVf_FAKE | SVf_READONLY)) {
3611                     SvREADONLY_on(sstr);
3612                     SvFAKE_on(sstr);
3613                     /* Make the source SV into a loop of 1.
3614                        (about to become 2) */
3615                     SV_COW_NEXT_SV_SET(sstr, sstr);
3616                 }
3617             }
3618 #endif
3619             /* Initial code is common.  */
3620             if (SvPVX_const(dstr)) {    /* we know that dtype >= SVt_PV */
3621                 SvPV_free(dstr);
3622             }
3623
3624             if (!isSwipe) {
3625                 /* making another shared SV.  */
3626                 STRLEN cur = SvCUR(sstr);
3627                 STRLEN len = SvLEN(sstr);
3628 #ifdef PERL_OLD_COPY_ON_WRITE
3629                 if (len) {
3630                     assert (SvTYPE(dstr) >= SVt_PVIV);
3631                     /* SvIsCOW_normal */
3632                     /* splice us in between source and next-after-source.  */
3633                     SV_COW_NEXT_SV_SET(dstr, SV_COW_NEXT_SV(sstr));
3634                     SV_COW_NEXT_SV_SET(sstr, dstr);
3635                     SvPV_set(dstr, SvPVX_mutable(sstr));
3636                 } else
3637 #endif
3638                 {
3639                     /* SvIsCOW_shared_hash */
3640                     DEBUG_C(PerlIO_printf(Perl_debug_log,
3641                                           "Copy on write: Sharing hash\n"));
3642
3643                     assert (SvTYPE(dstr) >= SVt_PV);
3644                     SvPV_set(dstr,
3645                              HEK_KEY(share_hek_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr)))));
3646                 }
3647                 SvLEN_set(dstr, len);
3648                 SvCUR_set(dstr, cur);
3649                 SvREADONLY_on(dstr);
3650                 SvFAKE_on(dstr);
3651                 /* Relesase a global SV mutex.  */
3652             }
3653             else
3654                 {       /* Passes the swipe test.  */
3655                 SvPV_set(dstr, SvPVX_mutable(sstr));
3656                 SvLEN_set(dstr, SvLEN(sstr));
3657                 SvCUR_set(dstr, SvCUR(sstr));
3658
3659                 SvTEMP_off(dstr);
3660                 (void)SvOK_off(sstr);   /* NOTE: nukes most SvFLAGS on sstr */
3661                 SvPV_set(sstr, NULL);
3662                 SvLEN_set(sstr, 0);
3663                 SvCUR_set(sstr, 0);
3664                 SvTEMP_off(sstr);
3665             }
3666         }
3667         if (sflags & SVp_NOK) {
3668             SvNV_set(dstr, SvNVX(sstr));
3669         }
3670         if (sflags & SVp_IOK) {
3671             SvRELEASE_IVX(dstr);
3672             SvIV_set(dstr, SvIVX(sstr));
3673             /* Must do this otherwise some other overloaded use of 0x80000000
3674                gets confused. I guess SVpbm_VALID */
3675             if (sflags & SVf_IVisUV)
3676                 SvIsUV_on(dstr);
3677         }
3678         SvFLAGS(dstr) |= sflags & (SVf_IOK|SVp_IOK|SVf_NOK|SVp_NOK|SVf_UTF8
3679                                    |SVf_AMAGIC);
3680         {
3681             const MAGIC * const smg = SvVSTRING_mg(sstr);
3682             if (smg) {
3683                 sv_magic(dstr, NULL, PERL_MAGIC_vstring,
3684                          smg->mg_ptr, smg->mg_len);
3685                 SvRMAGICAL_on(dstr);
3686             }
3687         }
3688     }
3689     else if (sflags & (SVp_IOK|SVp_NOK)) {
3690         (void)SvOK_off(dstr);
3691         SvFLAGS(dstr) |= sflags & (SVf_IOK|SVp_IOK|SVf_IVisUV|SVf_NOK|SVp_NOK
3692                                    |SVf_AMAGIC);
3693         if (sflags & SVp_IOK) {
3694             /* XXXX Do we want to set IsUV for IV(ROK)?  Be extra safe... */
3695             SvIV_set(dstr, SvIVX(sstr));
3696         }
3697         if (sflags & SVp_NOK) {
3698             SvNV_set(dstr, SvNVX(sstr));
3699         }
3700     }
3701     else {
3702         if (isGV_with_GP(sstr)) {
3703             /* This stringification rule for globs is spread in 3 places.
3704                This feels bad. FIXME.  */
3705             const U32 wasfake = sflags & SVf_FAKE;
3706
3707             /* FAKE globs can get coerced, so need to turn this off
3708                temporarily if it is on.  */
3709             SvFAKE_off(sstr);
3710             gv_efullname3(dstr, (GV *)sstr, "*");
3711             SvFLAGS(sstr) |= wasfake;
3712             SvFLAGS(dstr) |= sflags & SVf_AMAGIC;
3713         }
3714         else
3715             (void)SvOK_off(dstr);
3716     }
3717     if (SvTAINTED(sstr))
3718         SvTAINT(dstr);
3719 }
3720
3721 /*
3722 =for apidoc sv_setsv_mg
3723
3724 Like C<sv_setsv>, but also handles 'set' magic.
3725
3726 =cut
3727 */
3728
3729 void
3730 Perl_sv_setsv_mg(pTHX_ SV *dstr, register SV *sstr)
3731 {
3732     sv_setsv(dstr,sstr);
3733     SvSETMAGIC(dstr);
3734 }
3735
3736 #ifdef PERL_OLD_COPY_ON_WRITE
3737 SV *
3738 Perl_sv_setsv_cow(pTHX_ SV *dstr, SV *sstr)
3739 {
3740     STRLEN cur = SvCUR(sstr);
3741     STRLEN len = SvLEN(sstr);
3742     register char *new_pv;
3743
3744     if (DEBUG_C_TEST) {
3745         PerlIO_printf(Perl_debug_log, "Fast copy on write: %p -> %p\n",
3746                       sstr, dstr);
3747         sv_dump(sstr);
3748         if (dstr)
3749                     sv_dump(dstr);
3750     }
3751
3752     if (dstr) {
3753         if (SvTHINKFIRST(dstr))
3754             sv_force_normal_flags(dstr, SV_COW_DROP_PV);
3755         else if (SvPVX_const(dstr))
3756             Safefree(SvPVX_const(dstr));
3757     }
3758     else
3759         new_SV(dstr);
3760     SvUPGRADE(dstr, SVt_PVIV);
3761
3762     assert (SvPOK(sstr));
3763     assert (SvPOKp(sstr));
3764     assert (!SvIOK(sstr));
3765     assert (!SvIOKp(sstr));
3766     assert (!SvNOK(sstr));
3767     assert (!SvNOKp(sstr));
3768
3769     if (SvIsCOW(sstr)) {
3770
3771         if (SvLEN(sstr) == 0) {
3772             /* source is a COW shared hash key.  */
3773             DEBUG_C(PerlIO_printf(Perl_debug_log,
3774                                   "Fast copy on write: Sharing hash\n"));
3775             new_pv = HEK_KEY(share_hek_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr))));
3776             goto common_exit;
3777         }
3778         SV_COW_NEXT_SV_SET(dstr, SV_COW_NEXT_SV(sstr));
3779     } else {
3780         assert ((SvFLAGS(sstr) & CAN_COW_MASK) == CAN_COW_FLAGS);
3781         SvUPGRADE(sstr, SVt_PVIV);
3782         SvREADONLY_on(sstr);
3783         SvFAKE_on(sstr);
3784         DEBUG_C(PerlIO_printf(Perl_debug_log,
3785                               "Fast copy on write: Converting sstr to COW\n"));
3786         SV_COW_NEXT_SV_SET(dstr, sstr);
3787     }
3788     SV_COW_NEXT_SV_SET(sstr, dstr);
3789     new_pv = SvPVX_mutable(sstr);
3790
3791   common_exit:
3792     SvPV_set(dstr, new_pv);
3793     SvFLAGS(dstr) = (SVt_PVIV|SVf_POK|SVp_POK|SVf_FAKE|SVf_READONLY);
3794     if (SvUTF8(sstr))
3795         SvUTF8_on(dstr);
3796     SvLEN_set(dstr, len);
3797     SvCUR_set(dstr, cur);
3798     if (DEBUG_C_TEST) {
3799         sv_dump(dstr);
3800     }
3801     return dstr;
3802 }
3803 #endif
3804
3805 /*
3806 =for apidoc sv_setpvn
3807
3808 Copies a string into an SV.  The C<len> parameter indicates the number of
3809 bytes to be copied.  If the C<ptr> argument is NULL the SV will become
3810 undefined.  Does not handle 'set' magic.  See C<sv_setpvn_mg>.
3811
3812 =cut
3813 */
3814
3815 void
3816 Perl_sv_setpvn(pTHX_ register SV *sv, register const char *ptr, register STRLEN len)
3817 {
3818     dVAR;
3819     register char *dptr;
3820
3821     SV_CHECK_THINKFIRST_COW_DROP(sv);
3822     if (!ptr) {
3823         (void)SvOK_off(sv);
3824         return;
3825     }
3826     else {
3827         /* len is STRLEN which is unsigned, need to copy to signed */
3828         const IV iv = len;
3829         if (iv < 0)
3830             Perl_croak(aTHX_ "panic: sv_setpvn called with negative strlen");
3831     }
3832     SvUPGRADE(sv, SVt_PV);
3833
3834     dptr = SvGROW(sv, len + 1);
3835     Move(ptr,dptr,len,char);
3836     dptr[len] = '\0';
3837     SvCUR_set(sv, len);
3838     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
3839     SvTAINT(sv);
3840 }
3841
3842 /*
3843 =for apidoc sv_setpvn_mg
3844
3845 Like C<sv_setpvn>, but also handles 'set' magic.
3846
3847 =cut
3848 */
3849
3850 void
3851 Perl_sv_setpvn_mg(pTHX_ register SV *sv, register const char *ptr, register STRLEN len)
3852 {
3853     sv_setpvn(sv,ptr,len);
3854     SvSETMAGIC(sv);
3855 }
3856
3857 /*
3858 =for apidoc sv_setpv
3859
3860 Copies a string into an SV.  The string must be null-terminated.  Does not
3861 handle 'set' magic.  See C<sv_setpv_mg>.
3862
3863 =cut
3864 */
3865
3866 void
3867 Perl_sv_setpv(pTHX_ register SV *sv, register const char *ptr)
3868 {
3869     dVAR;
3870     register STRLEN len;
3871
3872     SV_CHECK_THINKFIRST_COW_DROP(sv);
3873     if (!ptr) {
3874         (void)SvOK_off(sv);
3875         return;
3876     }
3877     len = strlen(ptr);
3878     SvUPGRADE(sv, SVt_PV);
3879
3880     SvGROW(sv, len + 1);
3881     Move(ptr,SvPVX(sv),len+1,char);
3882     SvCUR_set(sv, len);
3883     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
3884     SvTAINT(sv);
3885 }
3886
3887 /*
3888 =for apidoc sv_setpv_mg
3889
3890 Like C<sv_setpv>, but also handles 'set' magic.
3891
3892 =cut
3893 */
3894
3895 void
3896 Perl_sv_setpv_mg(pTHX_ register SV *sv, register const char *ptr)
3897 {
3898     sv_setpv(sv,ptr);
3899     SvSETMAGIC(sv);
3900 }
3901
3902 /*
3903 =for apidoc sv_usepvn_flags
3904
3905 Tells an SV to use C<ptr> to find its string value.  Normally the
3906 string is stored inside the SV but sv_usepvn allows the SV to use an
3907 outside string.  The C<ptr> should point to memory that was allocated
3908 by C<malloc>.  The string length, C<len>, must be supplied.  By default
3909 this function will realloc (i.e. move) the memory pointed to by C<ptr>,
3910 so that pointer should not be freed or used by the programmer after
3911 giving it to sv_usepvn, and neither should any pointers from "behind"
3912 that pointer (e.g. ptr + 1) be used.
3913
3914 If C<flags> & SV_SMAGIC is true, will call SvSETMAGIC. If C<flags> &
3915 SV_HAS_TRAILING_NUL is true, then C<ptr[len]> must be NUL, and the realloc
3916 will be skipped. (i.e. the buffer is actually at least 1 byte longer than
3917 C<len>, and already meets the requirements for storing in C<SvPVX>)
3918
3919 =cut
3920 */
3921
3922 void
3923 Perl_sv_usepvn_flags(pTHX_ SV *sv, char *ptr, STRLEN len, U32 flags)
3924 {
3925     dVAR;
3926     STRLEN allocate;
3927     SV_CHECK_THINKFIRST_COW_DROP(sv);
3928     SvUPGRADE(sv, SVt_PV);
3929     if (!ptr) {
3930         (void)SvOK_off(sv);
3931         if (flags & SV_SMAGIC)
3932             SvSETMAGIC(sv);
3933         return;
3934     }
3935     if (SvPVX_const(sv))
3936         SvPV_free(sv);
3937
3938     if (flags & SV_HAS_TRAILING_NUL)
3939         assert(ptr[len] == '\0');
3940
3941     allocate = (flags & SV_HAS_TRAILING_NUL)
3942         ? len + 1: PERL_STRLEN_ROUNDUP(len + 1);
3943     if (flags & SV_HAS_TRAILING_NUL) {
3944         /* It's long enough - do nothing.
3945            Specfically Perl_newCONSTSUB is relying on this.  */
3946     } else {
3947 #ifdef DEBUGGING
3948         /* Force a move to shake out bugs in callers.  */
3949         char *new_ptr = safemalloc(allocate);
3950         Copy(ptr, new_ptr, len, char);
3951         PoisonFree(ptr,len,char);
3952         Safefree(ptr);
3953         ptr = new_ptr;
3954 #else
3955         ptr = saferealloc (ptr, allocate);
3956 #endif
3957     }
3958     SvPV_set(sv, ptr);
3959     SvCUR_set(sv, len);
3960     SvLEN_set(sv, allocate);
3961     if (!(flags & SV_HAS_TRAILING_NUL)) {
3962         *SvEND(sv) = '\0';
3963     }
3964     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
3965     SvTAINT(sv);
3966     if (flags & SV_SMAGIC)
3967         SvSETMAGIC(sv);
3968 }
3969
3970 #ifdef PERL_OLD_COPY_ON_WRITE
3971 /* Need to do this *after* making the SV normal, as we need the buffer
3972    pointer to remain valid until after we've copied it.  If we let go too early,
3973    another thread could invalidate it by unsharing last of the same hash key
3974    (which it can do by means other than releasing copy-on-write Svs)
3975    or by changing the other copy-on-write SVs in the loop.  */
3976 STATIC void
3977 S_sv_release_COW(pTHX_ register SV *sv, const char *pvx, STRLEN len, SV *after)
3978 {
3979     if (len) { /* this SV was SvIsCOW_normal(sv) */
3980          /* we need to find the SV pointing to us.  */
3981         SV *current = SV_COW_NEXT_SV(after);
3982
3983         if (current == sv) {
3984             /* The SV we point to points back to us (there were only two of us
3985                in the loop.)
3986                Hence other SV is no longer copy on write either.  */
3987             SvFAKE_off(after);
3988             SvREADONLY_off(after);
3989         } else {
3990             /* We need to follow the pointers around the loop.  */
3991             SV *next;
3992             while ((next = SV_COW_NEXT_SV(current)) != sv) {
3993                 assert (next);
3994                 current = next;
3995                  /* don't loop forever if the structure is bust, and we have
3996                     a pointer into a closed loop.  */
3997                 assert (current != after);
3998                 assert (SvPVX_const(current) == pvx);
3999             }
4000             /* Make the SV before us point to the SV after us.  */
4001             SV_COW_NEXT_SV_SET(current, after);
4002         }
4003     } else {
4004         unshare_hek(SvSHARED_HEK_FROM_PV(pvx));
4005     }
4006 }
4007
4008 int
4009 Perl_sv_release_IVX(pTHX_ register SV *sv)
4010 {
4011     if (SvIsCOW(sv))
4012         sv_force_normal_flags(sv, 0);
4013     SvOOK_off(sv);
4014     return 0;
4015 }
4016 #endif
4017 /*
4018 =for apidoc sv_force_normal_flags
4019
4020 Undo various types of fakery on an SV: if the PV is a shared string, make
4021 a private copy; if we're a ref, stop refing; if we're a glob, downgrade to
4022 an xpvmg; if we're a copy-on-write scalar, this is the on-write time when
4023 we do the copy, and is also used locally. If C<SV_COW_DROP_PV> is set
4024 then a copy-on-write scalar drops its PV buffer (if any) and becomes
4025 SvPOK_off rather than making a copy. (Used where this scalar is about to be
4026 set to some other value.) In addition, the C<flags> parameter gets passed to
4027 C<sv_unref_flags()> when unrefing. C<sv_force_normal> calls this function
4028 with flags set to 0.
4029
4030 =cut
4031 */
4032
4033 void
4034 Perl_sv_force_normal_flags(pTHX_ register SV *sv, U32 flags)
4035 {
4036     dVAR;
4037 #ifdef PERL_OLD_COPY_ON_WRITE
4038     if (SvREADONLY(sv)) {
4039         /* At this point I believe I should acquire a global SV mutex.  */
4040         if (SvFAKE(sv)) {
4041             const char * const pvx = SvPVX_const(sv);
4042             const STRLEN len = SvLEN(sv);
4043             const STRLEN cur = SvCUR(sv);
4044             SV * const next = SV_COW_NEXT_SV(sv);   /* next COW sv in the loop. */
4045             if (DEBUG_C_TEST) {
4046                 PerlIO_printf(Perl_debug_log,
4047                               "Copy on write: Force normal %ld\n",
4048                               (long) flags);
4049                 sv_dump(sv);
4050             }
4051             SvFAKE_off(sv);
4052             SvREADONLY_off(sv);
4053             /* This SV doesn't own the buffer, so need to Newx() a new one:  */
4054             SvPV_set(sv, NULL);
4055             SvLEN_set(sv, 0);
4056             if (flags & SV_COW_DROP_PV) {
4057                 /* OK, so we don't need to copy our buffer.  */
4058                 SvPOK_off(sv);
4059             } else {
4060                 SvGROW(sv, cur + 1);
4061                 Move(pvx,SvPVX(sv),cur,char);
4062                 SvCUR_set(sv, cur);
4063                 *SvEND(sv) = '\0';
4064             }
4065             sv_release_COW(sv, pvx, len, next);
4066             if (DEBUG_C_TEST) {
4067                 sv_dump(sv);
4068             }
4069         }
4070         else if (IN_PERL_RUNTIME)
4071             Perl_croak(aTHX_ PL_no_modify);
4072         /* At this point I believe that I can drop the global SV mutex.  */
4073     }
4074 #else
4075     if (SvREADONLY(sv)) {
4076         if (SvFAKE(sv)) {
4077             const char * const pvx = SvPVX_const(sv);
4078             const STRLEN len = SvCUR(sv);
4079             SvFAKE_off(sv);
4080             SvREADONLY_off(sv);
4081             SvPV_set(sv, NULL);
4082             SvLEN_set(sv, 0);
4083             SvGROW(sv, len + 1);
4084             Move(pvx,SvPVX(sv),len,char);
4085             *SvEND(sv) = '\0';
4086             unshare_hek(SvSHARED_HEK_FROM_PV(pvx));
4087         }
4088         else if (IN_PERL_RUNTIME)
4089             Perl_croak(aTHX_ PL_no_modify);
4090     }
4091 #endif
4092     if (SvROK(sv))
4093         sv_unref_flags(sv, flags);
4094     else if (SvFAKE(sv) && SvTYPE(sv) == SVt_PVGV)
4095         sv_unglob(sv);
4096 }
4097
4098 /*
4099 =for apidoc sv_chop
4100
4101 Efficient removal of characters from the beginning of the string buffer.
4102 SvPOK(sv) must be true and the C<ptr> must be a pointer to somewhere inside
4103 the string buffer.  The C<ptr> becomes the first character of the adjusted
4104 string. Uses the "OOK hack".
4105 Beware: after this function returns, C<ptr> and SvPVX_const(sv) may no longer
4106 refer to the same chunk of data.
4107
4108 =cut
4109 */
4110
4111 void
4112 Perl_sv_chop(pTHX_ register SV *sv, register const char *ptr)
4113 {
4114     register STRLEN delta;
4115     if (!ptr || !SvPOKp(sv))
4116         return;
4117     delta = ptr - SvPVX_const(sv);
4118     SV_CHECK_THINKFIRST(sv);
4119     if (SvTYPE(sv) < SVt_PVIV)
4120         sv_upgrade(sv,SVt_PVIV);
4121
4122     if (!SvOOK(sv)) {
4123         if (!SvLEN(sv)) { /* make copy of shared string */
4124             const char *pvx = SvPVX_const(sv);
4125             const STRLEN len = SvCUR(sv);
4126             SvGROW(sv, len + 1);
4127             Move(pvx,SvPVX(sv),len,char);
4128             *SvEND(sv) = '\0';
4129         }
4130         SvIV_set(sv, 0);
4131         /* Same SvOOK_on but SvOOK_on does a SvIOK_off
4132            and we do that anyway inside the SvNIOK_off
4133         */
4134         SvFLAGS(sv) |= SVf_OOK;
4135     }
4136     SvNIOK_off(sv);
4137     SvLEN_set(sv, SvLEN(sv) - delta);
4138     SvCUR_set(sv, SvCUR(sv) - delta);
4139     SvPV_set(sv, SvPVX(sv) + delta);
4140     SvIV_set(sv, SvIVX(sv) + delta);
4141 }
4142
4143 /*
4144 =for apidoc sv_catpvn
4145
4146 Concatenates the string onto the end of the string which is in the SV.  The
4147 C<len> indicates number of bytes to copy.  If the SV has the UTF-8
4148 status set, then the bytes appended should be valid UTF-8.
4149 Handles 'get' magic, but not 'set' magic.  See C<sv_catpvn_mg>.
4150
4151 =for apidoc sv_catpvn_flags
4152
4153 Concatenates the string onto the end of the string which is in the SV.  The
4154 C<len> indicates number of bytes to copy.  If the SV has the UTF-8
4155 status set, then the bytes appended should be valid UTF-8.
4156 If C<flags> has C<SV_GMAGIC> bit set, will C<mg_get> on C<dsv> if
4157 appropriate, else not. C<sv_catpvn> and C<sv_catpvn_nomg> are implemented
4158 in terms of this function.
4159
4160 =cut
4161 */
4162
4163 void
4164 Perl_sv_catpvn_flags(pTHX_ register SV *dsv, register const char *sstr, register STRLEN slen, I32 flags)
4165 {
4166     dVAR;
4167     STRLEN dlen;
4168     const char * const dstr = SvPV_force_flags(dsv, dlen, flags);
4169
4170     SvGROW(dsv, dlen + slen + 1);
4171     if (sstr == dstr)
4172         sstr = SvPVX_const(dsv);
4173     Move(sstr, SvPVX(dsv) + dlen, slen, char);
4174     SvCUR_set(dsv, SvCUR(dsv) + slen);
4175     *SvEND(dsv) = '\0';
4176     (void)SvPOK_only_UTF8(dsv);         /* validate pointer */
4177     SvTAINT(dsv);
4178     if (flags & SV_SMAGIC)
4179         SvSETMAGIC(dsv);
4180 }
4181
4182 /*
4183 =for apidoc sv_catsv
4184
4185 Concatenates the string from SV C<ssv> onto the end of the string in
4186 SV C<dsv>.  Modifies C<dsv> but not C<ssv>.  Handles 'get' magic, but
4187 not 'set' magic.  See C<sv_catsv_mg>.
4188
4189 =for apidoc sv_catsv_flags
4190
4191 Concatenates the string from SV C<ssv> onto the end of the string in
4192 SV C<dsv>.  Modifies C<dsv> but not C<ssv>.  If C<flags> has C<SV_GMAGIC>
4193 bit set, will C<mg_get> on the SVs if appropriate, else not. C<sv_catsv>
4194 and C<sv_catsv_nomg> are implemented in terms of this function.
4195
4196 =cut */
4197
4198 void
4199 Perl_sv_catsv_flags(pTHX_ SV *dsv, register SV *ssv, I32 flags)
4200 {
4201     dVAR;
4202     if (ssv) {
4203         STRLEN slen;
4204         const char *spv = SvPV_const(ssv, slen);
4205         if (spv) {
4206             /*  sutf8 and dutf8 were type bool, but under USE_ITHREADS,
4207                 gcc version 2.95.2 20000220 (Debian GNU/Linux) for
4208                 Linux xxx 2.2.17 on sparc64 with gcc -O2, we erroneously
4209                 get dutf8 = 0x20000000, (i.e.  SVf_UTF8) even though
4210                 dsv->sv_flags doesn't have that bit set.
4211                 Andy Dougherty  12 Oct 2001
4212             */
4213             const I32 sutf8 = DO_UTF8(ssv);
4214             I32 dutf8;
4215
4216             if (SvGMAGICAL(dsv) && (flags & SV_GMAGIC))
4217                 mg_get(dsv);
4218             dutf8 = DO_UTF8(dsv);
4219
4220             if (dutf8 != sutf8) {
4221                 if (dutf8) {
4222                     /* Not modifying source SV, so taking a temporary copy. */
4223                     SV* const csv = sv_2mortal(newSVpvn(spv, slen));
4224
4225                     sv_utf8_upgrade(csv);
4226                     spv = SvPV_const(csv, slen);
4227                 }
4228                 else
4229                     sv_utf8_upgrade_nomg(dsv);
4230             }
4231             sv_catpvn_nomg(dsv, spv, slen);
4232         }
4233     }
4234     if (flags & SV_SMAGIC)
4235         SvSETMAGIC(dsv);
4236 }
4237
4238 /*
4239 =for apidoc sv_catpv
4240
4241 Concatenates the string onto the end of the string which is in the SV.
4242 If the SV has the UTF-8 status set, then the bytes appended should be
4243 valid UTF-8.  Handles 'get' magic, but not 'set' magic.  See C<sv_catpv_mg>.
4244
4245 =cut */
4246
4247 void
4248 Perl_sv_catpv(pTHX_ register SV *sv, register const char *ptr)
4249 {
4250     dVAR;
4251     register STRLEN len;
4252     STRLEN tlen;
4253     char *junk;
4254
4255     if (!ptr)
4256         return;
4257     junk = SvPV_force(sv, tlen);
4258     len = strlen(ptr);
4259     SvGROW(sv, tlen + len + 1);
4260     if (ptr == junk)
4261         ptr = SvPVX_const(sv);
4262     Move(ptr,SvPVX(sv)+tlen,len+1,char);
4263     SvCUR_set(sv, SvCUR(sv) + len);
4264     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
4265     SvTAINT(sv);
4266 }
4267
4268 /*
4269 =for apidoc sv_catpv_mg
4270
4271 Like C<sv_catpv>, but also handles 'set' magic.
4272
4273 =cut
4274 */
4275
4276 void
4277 Perl_sv_catpv_mg(pTHX_ register SV *sv, register const char *ptr)
4278 {
4279     sv_catpv(sv,ptr);
4280     SvSETMAGIC(sv);
4281 }
4282
4283 /*
4284 =for apidoc newSV
4285
4286 Creates a new SV.  A non-zero C<len> parameter indicates the number of
4287 bytes of preallocated string space the SV should have.  An extra byte for a
4288 trailing NUL is also reserved.  (SvPOK is not set for the SV even if string
4289 space is allocated.)  The reference count for the new SV is set to 1.
4290
4291 In 5.9.3, newSV() replaces the older NEWSV() API, and drops the first
4292 parameter, I<x>, a debug aid which allowed callers to identify themselves.
4293 This aid has been superseded by a new build option, PERL_MEM_LOG (see
4294 L<perlhack/PERL_MEM_LOG>).  The older API is still there for use in XS
4295 modules supporting older perls.
4296
4297 =cut
4298 */
4299
4300 SV *
4301 Perl_newSV(pTHX_ STRLEN len)
4302 {
4303     dVAR;
4304     register SV *sv;
4305
4306     new_SV(sv);
4307     if (len) {
4308         sv_upgrade(sv, SVt_PV);
4309         SvGROW(sv, len + 1);
4310     }
4311     return sv;
4312 }
4313 /*
4314 =for apidoc sv_magicext
4315
4316 Adds magic to an SV, upgrading it if necessary. Applies the
4317 supplied vtable and returns a pointer to the magic added.
4318
4319 Note that C<sv_magicext> will allow things that C<sv_magic> will not.
4320 In particular, you can add magic to SvREADONLY SVs, and add more than
4321 one instance of the same 'how'.
4322
4323 If C<namlen> is greater than zero then a C<savepvn> I<copy> of C<name> is
4324 stored, if C<namlen> is zero then C<name> is stored as-is and - as another
4325 special case - if C<(name && namlen == HEf_SVKEY)> then C<name> is assumed
4326 to contain an C<SV*> and is stored as-is with its REFCNT incremented.
4327
4328 (This is now used as a subroutine by C<sv_magic>.)
4329
4330 =cut
4331 */
4332 MAGIC * 
4333 Perl_sv_magicext(pTHX_ SV* sv, SV* obj, int how, MGVTBL *vtable,
4334                  const char* name, I32 namlen)
4335 {
4336     dVAR;
4337     MAGIC* mg;
4338
4339     if (SvTYPE(sv) < SVt_PVMG) {
4340         SvUPGRADE(sv, SVt_PVMG);
4341     }
4342     Newxz(mg, 1, MAGIC);
4343     mg->mg_moremagic = SvMAGIC(sv);
4344     SvMAGIC_set(sv, mg);
4345
4346     /* Sometimes a magic contains a reference loop, where the sv and
4347        object refer to each other.  To prevent a reference loop that
4348        would prevent such objects being freed, we look for such loops
4349        and if we find one we avoid incrementing the object refcount.
4350
4351        Note we cannot do this to avoid self-tie loops as intervening RV must
4352        have its REFCNT incremented to keep it in existence.
4353
4354     */
4355     if (!obj || obj == sv ||
4356         how == PERL_MAGIC_arylen ||
4357         how == PERL_MAGIC_qr ||
4358         how == PERL_MAGIC_symtab ||
4359         (SvTYPE(obj) == SVt_PVGV &&
4360             (GvSV(obj) == sv || GvHV(obj) == (HV*)sv || GvAV(obj) == (AV*)sv ||
4361             GvCV(obj) == (CV*)sv || GvIOp(obj) == (IO*)sv ||
4362             GvFORM(obj) == (CV*)sv)))
4363     {
4364         mg->mg_obj = obj;
4365     }
4366     else {
4367         mg->mg_obj = SvREFCNT_inc_simple(obj);
4368         mg->mg_flags |= MGf_REFCOUNTED;
4369     }
4370
4371     /* Normal self-ties simply pass a null object, and instead of
4372        using mg_obj directly, use the SvTIED_obj macro to produce a
4373        new RV as needed.  For glob "self-ties", we are tieing the PVIO
4374        with an RV obj pointing to the glob containing the PVIO.  In
4375        this case, to avoid a reference loop, we need to weaken the
4376        reference.
4377     */
4378
4379     if (how == PERL_MAGIC_tiedscalar && SvTYPE(sv) == SVt_PVIO &&
4380         obj && SvROK(obj) && GvIO(SvRV(obj)) == (IO*)sv)
4381     {
4382       sv_rvweaken(obj);
4383     }
4384
4385     mg->mg_type = how;
4386     mg->mg_len = namlen;
4387     if (name) {
4388         if (namlen > 0)
4389             mg->mg_ptr = savepvn(name, namlen);
4390         else if (namlen == HEf_SVKEY)
4391             mg->mg_ptr = (char*)SvREFCNT_inc_simple_NN((SV*)name);
4392         else
4393             mg->mg_ptr = (char *) name;
4394     }
4395     mg->mg_virtual = vtable;
4396
4397     mg_magical(sv);
4398     if (SvGMAGICAL(sv))
4399         SvFLAGS(sv) &= ~(SVf_IOK|SVf_NOK|SVf_POK);
4400     return mg;
4401 }
4402
4403 /*
4404 =for apidoc sv_magic
4405
4406 Adds magic to an SV. First upgrades C<sv> to type C<SVt_PVMG> if necessary,
4407 then adds a new magic item of type C<how> to the head of the magic list.
4408
4409 See C<sv_magicext> (which C<sv_magic> now calls) for a description of the
4410 handling of the C<name> and C<namlen> arguments.
4411
4412 You need to use C<sv_magicext> to add magic to SvREADONLY SVs and also
4413 to add more than one instance of the same 'how'.
4414
4415 =cut
4416 */
4417
4418 void
4419 Perl_sv_magic(pTHX_ register SV *sv, SV *obj, int how, const char *name, I32 namlen)
4420 {
4421     dVAR;
4422     MGVTBL *vtable;
4423     MAGIC* mg;
4424
4425 #ifdef PERL_OLD_COPY_ON_WRITE
4426     if (SvIsCOW(sv))
4427         sv_force_normal_flags(sv, 0);
4428 #endif
4429     if (SvREADONLY(sv)) {
4430         if (
4431             /* its okay to attach magic to shared strings; the subsequent
4432              * upgrade to PVMG will unshare the string */
4433             !(SvFAKE(sv) && SvTYPE(sv) < SVt_PVMG)
4434
4435             && IN_PERL_RUNTIME
4436             && how != PERL_MAGIC_regex_global
4437             && how != PERL_MAGIC_bm
4438             && how != PERL_MAGIC_fm
4439             && how != PERL_MAGIC_sv
4440             && how != PERL_MAGIC_backref
4441            )
4442         {
4443             Perl_croak(aTHX_ PL_no_modify);
4444         }
4445     }
4446     if (SvMAGICAL(sv) || (how == PERL_MAGIC_taint && SvTYPE(sv) >= SVt_PVMG)) {
4447         if (SvMAGIC(sv) && (mg = mg_find(sv, how))) {
4448             /* sv_magic() refuses to add a magic of the same 'how' as an
4449                existing one
4450              */
4451             if (how == PERL_MAGIC_taint) {
4452                 mg->mg_len |= 1;
4453                 /* Any scalar which already had taint magic on which someone
4454                    (erroneously?) did SvIOK_on() or similar will now be
4455                    incorrectly sporting public "OK" flags.  */
4456                 SvFLAGS(sv) &= ~(SVf_IOK|SVf_NOK|SVf_POK);
4457             }
4458             return;
4459         }
4460     }
4461
4462     switch (how) {
4463     case PERL_MAGIC_sv:
4464         vtable = &PL_vtbl_sv;
4465         break;
4466     case PERL_MAGIC_overload:
4467         vtable = &PL_vtbl_amagic;
4468         break;
4469     case PERL_MAGIC_overload_elem:
4470         vtable = &PL_vtbl_amagicelem;
4471         break;
4472     case PERL_MAGIC_overload_table:
4473         vtable = &PL_vtbl_ovrld;
4474         break;
4475     case PERL_MAGIC_bm:
4476         vtable = &PL_vtbl_bm;
4477         break;
4478     case PERL_MAGIC_regdata:
4479         vtable = &PL_vtbl_regdata;
4480         break;
4481     case PERL_MAGIC_regdatum:
4482         vtable = &PL_vtbl_regdatum;
4483         break;
4484     case PERL_MAGIC_env:
4485         vtable = &PL_vtbl_env;
4486         break;
4487     case PERL_MAGIC_fm:
4488         vtable = &PL_vtbl_fm;
4489         break;
4490     case PERL_MAGIC_envelem:
4491         vtable = &PL_vtbl_envelem;
4492         break;
4493     case PERL_MAGIC_regex_global:
4494         vtable = &PL_vtbl_mglob;
4495         break;
4496     case PERL_MAGIC_isa:
4497         vtable = &PL_vtbl_isa;
4498         break;
4499     case PERL_MAGIC_isaelem:
4500         vtable = &PL_vtbl_isaelem;
4501         break;
4502     case PERL_MAGIC_nkeys:
4503         vtable = &PL_vtbl_nkeys;
4504         break;
4505     case PERL_MAGIC_dbfile:
4506         vtable = NULL;
4507         break;
4508     case PERL_MAGIC_dbline:
4509         vtable = &PL_vtbl_dbline;
4510         break;
4511 #ifdef USE_LOCALE_COLLATE
4512     case PERL_MAGIC_collxfrm:
4513         vtable = &PL_vtbl_collxfrm;
4514         break;
4515 #endif /* USE_LOCALE_COLLATE */
4516     case PERL_MAGIC_tied:
4517         vtable = &PL_vtbl_pack;
4518         break;
4519     case PERL_MAGIC_tiedelem:
4520     case PERL_MAGIC_tiedscalar:
4521         vtable = &PL_vtbl_packelem;
4522         break;
4523     case PERL_MAGIC_qr:
4524         vtable = &PL_vtbl_regexp;
4525         break;
4526     case PERL_MAGIC_hints:
4527         /* As this vtable is all NULL, we can reuse it.  */
4528     case PERL_MAGIC_sig:
4529         vtable = &PL_vtbl_sig;
4530         break;
4531     case PERL_MAGIC_sigelem:
4532         vtable = &PL_vtbl_sigelem;
4533         break;
4534     case PERL_MAGIC_taint:
4535         vtable = &PL_vtbl_taint;
4536         break;
4537     case PERL_MAGIC_uvar:
4538         vtable = &PL_vtbl_uvar;
4539         break;
4540     case PERL_MAGIC_vec:
4541         vtable = &PL_vtbl_vec;
4542         break;
4543     case PERL_MAGIC_arylen_p:
4544     case PERL_MAGIC_rhash:
4545     case PERL_MAGIC_symtab:
4546     case PERL_MAGIC_vstring:
4547         vtable = NULL;
4548         break;
4549     case PERL_MAGIC_utf8:
4550         vtable = &PL_vtbl_utf8;
4551         break;
4552     case PERL_MAGIC_substr:
4553         vtable = &PL_vtbl_substr;
4554         break;
4555     case PERL_MAGIC_defelem:
4556         vtable = &PL_vtbl_defelem;
4557         break;
4558     case PERL_MAGIC_arylen:
4559         vtable = &PL_vtbl_arylen;
4560         break;
4561     case PERL_MAGIC_pos:
4562         vtable = &PL_vtbl_pos;
4563         break;
4564     case PERL_MAGIC_backref:
4565         vtable = &PL_vtbl_backref;
4566         break;
4567     case PERL_MAGIC_hintselem:
4568         vtable = &PL_vtbl_hintselem;
4569         break;
4570     case PERL_MAGIC_ext:
4571         /* Reserved for use by extensions not perl internals.           */
4572         /* Useful for attaching extension internal data to perl vars.   */
4573         /* Note that multiple extensions may clash if magical scalars   */
4574         /* etc holding private data from one are passed to another.     */
4575         vtable = NULL;
4576         break;
4577     default:
4578         Perl_croak(aTHX_ "Don't know how to handle magic of type \\%o", how);
4579     }
4580
4581     /* Rest of work is done else where */
4582     mg = sv_magicext(sv,obj,how,vtable,name,namlen);
4583
4584     switch (how) {
4585     case PERL_MAGIC_taint:
4586         mg->mg_len = 1;
4587         break;
4588     case PERL_MAGIC_ext:
4589     case PERL_MAGIC_dbfile:
4590         SvRMAGICAL_on(sv);
4591         break;
4592     }
4593 }
4594
4595 /*
4596 =for apidoc sv_unmagic
4597
4598 Removes all magic of type C<type> from an SV.
4599
4600 =cut
4601 */
4602
4603 int
4604 Perl_sv_unmagic(pTHX_ SV *sv, int type)
4605 {
4606     MAGIC* mg;
4607     MAGIC** mgp;
4608     if (SvTYPE(sv) < SVt_PVMG || !SvMAGIC(sv))
4609         return 0;
4610     mgp = &(((XPVMG*) SvANY(sv))->xmg_u.xmg_magic);
4611     for (mg = *mgp; mg; mg = *mgp) {
4612         if (mg->mg_type == type) {
4613             const MGVTBL* const vtbl = mg->mg_virtual;
4614             *mgp = mg->mg_moremagic;
4615             if (vtbl && vtbl->svt_free)
4616                 CALL_FPTR(vtbl->svt_free)(aTHX_ sv, mg);
4617             if (mg->mg_ptr && mg->mg_type != PERL_MAGIC_regex_global) {
4618                 if (mg->mg_len > 0)
4619                     Safefree(mg->mg_ptr);
4620                 else if (mg->mg_len == HEf_SVKEY)
4621                     SvREFCNT_dec((SV*)mg->mg_ptr);
4622                 else if (mg->mg_type == PERL_MAGIC_utf8)
4623                     Safefree(mg->mg_ptr);
4624             }
4625             if (mg->mg_flags & MGf_REFCOUNTED)
4626                 SvREFCNT_dec(mg->mg_obj);
4627             Safefree(mg);
4628         }
4629         else
4630             mgp = &mg->mg_moremagic;
4631     }
4632     if (!SvMAGIC(sv)) {
4633         SvMAGICAL_off(sv);
4634         SvFLAGS(sv) |= (SvFLAGS(sv) & (SVp_IOK|SVp_NOK|SVp_POK)) >> PRIVSHIFT;
4635         SvMAGIC_set(sv, NULL);
4636     }
4637
4638     return 0;
4639 }
4640
4641 /*
4642 =for apidoc sv_rvweaken
4643
4644 Weaken a reference: set the C<SvWEAKREF> flag on this RV; give the
4645 referred-to SV C<PERL_MAGIC_backref> magic if it hasn't already; and
4646 push a back-reference to this RV onto the array of backreferences
4647 associated with that magic.
4648
4649 =cut
4650 */
4651
4652 SV *
4653 Perl_sv_rvweaken(pTHX_ SV *sv)
4654 {
4655     SV *tsv;
4656     if (!SvOK(sv))  /* let undefs pass */
4657         return sv;
4658     if (!SvROK(sv))
4659         Perl_croak(aTHX_ "Can't weaken a nonreference");
4660     else if (SvWEAKREF(sv)) {
4661         if (ckWARN(WARN_MISC))
4662             Perl_warner(aTHX_ packWARN(WARN_MISC), "Reference is already weak");
4663         return sv;
4664     }
4665     tsv = SvRV(sv);
4666     Perl_sv_add_backref(aTHX_ tsv, sv);
4667     SvWEAKREF_on(sv);
4668     SvREFCNT_dec(tsv);
4669     return sv;
4670 }
4671
4672 /* Give tsv backref magic if it hasn't already got it, then push a
4673  * back-reference to sv onto the array associated with the backref magic.
4674  */
4675
4676 void
4677 Perl_sv_add_backref(pTHX_ SV *tsv, SV *sv)
4678 {
4679     dVAR;
4680     AV *av;
4681
4682     if (SvTYPE(tsv) == SVt_PVHV) {
4683         AV **const avp = Perl_hv_backreferences_p(aTHX_ (HV*)tsv);
4684
4685         av = *avp;
4686         if (!av) {
4687             /* There is no AV in the offical place - try a fixup.  */
4688             MAGIC *const mg = mg_find(tsv, PERL_MAGIC_backref);
4689
4690             if (mg) {
4691                 /* Aha. They've got it stowed in magic.  Bring it back.  */
4692                 av = (AV*)mg->mg_obj;
4693                 /* Stop mg_free decreasing the refernce count.  */
4694                 mg->mg_obj = NULL;
4695                 /* Stop mg_free even calling the destructor, given that
4696                    there's no AV to free up.  */
4697                 mg->mg_virtual = 0;
4698                 sv_unmagic(tsv, PERL_MAGIC_backref);
4699             } else {
4700                 av = newAV();
4701                 AvREAL_off(av);
4702                 SvREFCNT_inc_simple_void(av);
4703             }
4704             *avp = av;
4705         }
4706     } else {
4707         const MAGIC *const mg
4708             = SvMAGICAL(tsv) ? mg_find(tsv, PERL_MAGIC_backref) : NULL;
4709         if (mg)
4710             av = (AV*)mg->mg_obj;
4711         else {
4712             av = newAV();
4713             AvREAL_off(av);
4714             sv_magic(tsv, (SV*)av, PERL_MAGIC_backref, NULL, 0);
4715             /* av now has a refcnt of 2, which avoids it getting freed
4716              * before us during global cleanup. The extra ref is removed
4717              * by magic_killbackrefs() when tsv is being freed */
4718         }
4719     }
4720     if (AvFILLp(av) >= AvMAX(av)) {
4721         av_extend(av, AvFILLp(av)+1);
4722     }
4723     AvARRAY(av)[++AvFILLp(av)] = sv; /* av_push() */
4724 }
4725
4726 /* delete a back-reference to ourselves from the backref magic associated
4727  * with the SV we point to.
4728  */
4729
4730 STATIC void
4731 S_sv_del_backref(pTHX_ SV *tsv, SV *sv)
4732 {
4733     dVAR;
4734     AV *av = NULL;
4735     SV **svp;
4736     I32 i;
4737
4738     if (SvTYPE(tsv) == SVt_PVHV && SvOOK(tsv)) {
4739         av = *Perl_hv_backreferences_p(aTHX_ (HV*)tsv);
4740         /* We mustn't attempt to "fix up" the hash here by moving the
4741            backreference array back to the hv_aux structure, as that is stored
4742            in the main HvARRAY(), and hfreentries assumes that no-one
4743            reallocates HvARRAY() while it is running.  */
4744     }
4745     if (!av) {
4746         const MAGIC *const mg
4747             = SvMAGICAL(tsv) ? mg_find(tsv, PERL_MAGIC_backref) : NULL;
4748         if (mg)
4749             av = (AV *)mg->mg_obj;
4750     }
4751     if (!av) {
4752         if (PL_in_clean_all)
4753             return;
4754         Perl_croak(aTHX_ "panic: del_backref");
4755     }
4756
4757     if (SvIS_FREED(av))
4758         return;
4759
4760     svp = AvARRAY(av);
4761     /* We shouldn't be in here more than once, but for paranoia reasons lets
4762        not assume this.  */
4763     for (i = AvFILLp(av); i >= 0; i--) {
4764         if (svp[i] == sv) {
4765             const SSize_t fill = AvFILLp(av);
4766             if (i != fill) {
4767                 /* We weren't the last entry.
4768                    An unordered list has this property that you can take the
4769                    last element off the end to fill the hole, and it's still
4770                    an unordered list :-)
4771                 */
4772                 svp[i] = svp[fill];
4773             }
4774             svp[fill] = NULL;
4775             AvFILLp(av) = fill - 1;
4776         }
4777     }
4778 }
4779
4780 int
4781 Perl_sv_kill_backrefs(pTHX_ SV *sv, AV *av)
4782 {
4783     SV **svp = AvARRAY(av);
4784
4785     PERL_UNUSED_ARG(sv);
4786
4787     /* Not sure why the av can get freed ahead of its sv, but somehow it does
4788        in ext/B/t/bytecode.t test 15 (involving print <DATA>)  */
4789     if (svp && !SvIS_FREED(av)) {
4790         SV *const *const last = svp + AvFILLp(av);
4791
4792         while (svp <= last) {
4793             if (*svp) {
4794                 SV *const referrer = *svp;
4795                 if (SvWEAKREF(referrer)) {
4796                     /* XXX Should we check that it hasn't changed? */
4797                     SvRV_set(referrer, 0);
4798                     SvOK_off(referrer);
4799                     SvWEAKREF_off(referrer);
4800                 } else if (SvTYPE(referrer) == SVt_PVGV ||
4801                            SvTYPE(referrer) == SVt_PVLV) {
4802                     /* You lookin' at me?  */
4803                     assert(GvSTASH(referrer));
4804                     assert(GvSTASH(referrer) == (HV*)sv);
4805                     GvSTASH(referrer) = 0;
4806                 } else {
4807                     Perl_croak(aTHX_
4808                                "panic: magic_killbackrefs (flags=%"UVxf")",
4809                                (UV)SvFLAGS(referrer));
4810                 }
4811
4812                 *svp = NULL;
4813             }
4814             svp++;
4815         }
4816     }
4817     SvREFCNT_dec(av); /* remove extra count added by sv_add_backref() */
4818     return 0;
4819 }
4820
4821 /*
4822 =for apidoc sv_insert
4823
4824 Inserts a string at the specified offset/length within the SV. Similar to
4825 the Perl substr() function.
4826
4827 =cut
4828 */
4829
4830 void
4831 Perl_sv_insert(pTHX_ SV *bigstr, STRLEN offset, STRLEN len, const char *little, STRLEN littlelen)
4832 {
4833     dVAR;
4834     register char *big;
4835     register char *mid;
4836     register char *midend;
4837     register char *bigend;
4838     register I32 i;
4839     STRLEN curlen;
4840
4841
4842     if (!bigstr)
4843         Perl_croak(aTHX_ "Can't modify non-existent substring");
4844     SvPV_force(bigstr, curlen);
4845     (void)SvPOK_only_UTF8(bigstr);
4846     if (offset + len > curlen) {
4847         SvGROW(bigstr, offset+len+1);
4848         Zero(SvPVX(bigstr)+curlen, offset+len-curlen, char);
4849         SvCUR_set(bigstr, offset+len);
4850     }
4851
4852     SvTAINT(bigstr);
4853     i = littlelen - len;
4854     if (i > 0) {                        /* string might grow */
4855         big = SvGROW(bigstr, SvCUR(bigstr) + i + 1);
4856         mid = big + offset + len;
4857         midend = bigend = big + SvCUR(bigstr);
4858         bigend += i;
4859         *bigend = '\0';
4860         while (midend > mid)            /* shove everything down */
4861             *--bigend = *--midend;
4862         Move(little,big+offset,littlelen,char);
4863         SvCUR_set(bigstr, SvCUR(bigstr) + i);
4864         SvSETMAGIC(bigstr);
4865         return;
4866     }
4867     else if (i == 0) {
4868         Move(little,SvPVX(bigstr)+offset,len,char);
4869         SvSETMAGIC(bigstr);
4870         return;
4871     }
4872
4873     big = SvPVX(bigstr);
4874     mid = big + offset;
4875     midend = mid + len;
4876     bigend = big + SvCUR(bigstr);
4877
4878     if (midend > bigend)
4879         Perl_croak(aTHX_ "panic: sv_insert");
4880
4881     if (mid - big > bigend - midend) {  /* faster to shorten from end */
4882         if (littlelen) {
4883             Move(little, mid, littlelen,char);
4884             mid += littlelen;
4885         }
4886         i = bigend - midend;
4887         if (i > 0) {
4888             Move(midend, mid, i,char);
4889             mid += i;
4890         }
4891         *mid = '\0';
4892         SvCUR_set(bigstr, mid - big);
4893     }
4894     else if ((i = mid - big)) { /* faster from front */
4895         midend -= littlelen;
4896         mid = midend;
4897         sv_chop(bigstr,midend-i);
4898         big += i;
4899         while (i--)
4900             *--midend = *--big;
4901         if (littlelen)
4902             Move(little, mid, littlelen,char);
4903     }
4904     else if (littlelen) {
4905         midend -= littlelen;
4906         sv_chop(bigstr,midend);
4907         Move(little,midend,littlelen,char);
4908     }
4909     else {
4910         sv_chop(bigstr,midend);
4911     }
4912     SvSETMAGIC(bigstr);
4913 }
4914
4915 /*
4916 =for apidoc sv_replace
4917
4918 Make the first argument a copy of the second, then delete the original.
4919 The target SV physically takes over ownership of the body of the source SV
4920 and inherits its flags; however, the target keeps any magic it owns,
4921 and any magic in the source is discarded.
4922 Note that this is a rather specialist SV copying operation; most of the
4923 time you'll want to use C<sv_setsv> or one of its many macro front-ends.
4924
4925 =cut
4926 */
4927
4928 void
4929 Perl_sv_replace(pTHX_ register SV *sv, register SV *nsv)
4930 {
4931     dVAR;
4932     const U32 refcnt = SvREFCNT(sv);
4933     SV_CHECK_THINKFIRST_COW_DROP(sv);
4934     if (SvREFCNT(nsv) != 1) {
4935         Perl_croak(aTHX_ "panic: reference miscount on nsv in sv_replace() (%"
4936                    UVuf " != 1)", (UV) SvREFCNT(nsv));
4937     }
4938     if (SvMAGICAL(sv)) {
4939         if (SvMAGICAL(nsv))
4940             mg_free(nsv);
4941         else
4942             sv_upgrade(nsv, SVt_PVMG);
4943         SvMAGIC_set(nsv, SvMAGIC(sv));
4944         SvFLAGS(nsv) |= SvMAGICAL(sv);
4945         SvMAGICAL_off(sv);
4946         SvMAGIC_set(sv, NULL);
4947     }
4948     SvREFCNT(sv) = 0;
4949     sv_clear(sv);
4950     assert(!SvREFCNT(sv));
4951 #ifdef DEBUG_LEAKING_SCALARS
4952     sv->sv_flags  = nsv->sv_flags;
4953     sv->sv_any    = nsv->sv_any;
4954     sv->sv_refcnt = nsv->sv_refcnt;
4955     sv->sv_u      = nsv->sv_u;
4956 #else
4957     StructCopy(nsv,sv,SV);
4958 #endif
4959     /* Currently could join these into one piece of pointer arithmetic, but
4960        it would be unclear.  */
4961     if(SvTYPE(sv) == SVt_IV)
4962         SvANY(sv)
4963             = (XPVIV*)((char*)&(sv->sv_u.svu_iv) - STRUCT_OFFSET(XPVIV, xiv_iv));
4964     else if (SvTYPE(sv) == SVt_RV) {
4965         SvANY(sv) = &sv->sv_u.svu_rv;
4966     }
4967         
4968
4969 #ifdef PERL_OLD_COPY_ON_WRITE
4970     if (SvIsCOW_normal(nsv)) {
4971         /* We need to follow the pointers around the loop to make the
4972            previous SV point to sv, rather than nsv.  */
4973         SV *next;
4974         SV *current = nsv;
4975         while ((next = SV_COW_NEXT_SV(current)) != nsv) {
4976             assert(next);
4977             current = next;
4978             assert(SvPVX_const(current) == SvPVX_const(nsv));
4979         }
4980         /* Make the SV before us point to the SV after us.  */
4981         if (DEBUG_C_TEST) {
4982             PerlIO_printf(Perl_debug_log, "previous is\n");
4983             sv_dump(current);
4984             PerlIO_printf(Perl_debug_log,
4985                           "move it from 0x%"UVxf" to 0x%"UVxf"\n",
4986                           (UV) SV_COW_NEXT_SV(current), (UV) sv);
4987         }
4988         SV_COW_NEXT_SV_SET(current, sv);
4989     }
4990 #endif
4991     SvREFCNT(sv) = refcnt;
4992     SvFLAGS(nsv) |= SVTYPEMASK;         /* Mark as freed */
4993     SvREFCNT(nsv) = 0;
4994     del_SV(nsv);
4995 }
4996
4997 /*
4998 =for apidoc sv_clear
4999
5000 Clear an SV: call any destructors, free up any memory used by the body,
5001 and free the body itself. The SV's head is I<not> freed, although
5002 its type is set to all 1's so that it won't inadvertently be assumed
5003 to be live during global destruction etc.
5004 This function should only be called when REFCNT is zero. Most of the time
5005 you'll want to call C<sv_free()> (or its macro wrapper C<SvREFCNT_dec>)
5006 instead.
5007
5008 =cut
5009 */
5010
5011 void
5012 Perl_sv_clear(pTHX_ register SV *sv)
5013 {
5014     dVAR;
5015     const U32 type = SvTYPE(sv);
5016     const struct body_details *const sv_type_details
5017         = bodies_by_type + type;
5018
5019     assert(sv);
5020     assert(SvREFCNT(sv) == 0);
5021
5022     if (type <= SVt_IV) {
5023         /* See the comment in sv.h about the collusion between this early
5024            return and the overloading of the NULL and IV slots in the size
5025            table.  */
5026         return;
5027     }
5028
5029     if (SvOBJECT(sv)) {
5030         if (PL_defstash) {              /* Still have a symbol table? */
5031             dSP;
5032             HV* stash;
5033             do {        
5034                 CV* destructor;
5035                 stash = SvSTASH(sv);
5036                 destructor = StashHANDLER(stash,DESTROY);
5037                 if (destructor) {
5038                     SV* const tmpref = newRV(sv);
5039                     SvREADONLY_on(tmpref);   /* DESTROY() could be naughty */
5040                     ENTER;
5041                     PUSHSTACKi(PERLSI_DESTROY);
5042                     EXTEND(SP, 2);
5043                     PUSHMARK(SP);
5044                     PUSHs(tmpref);
5045                     PUTBACK;
5046                     call_sv((SV*)destructor, G_DISCARD|G_EVAL|G_KEEPERR|G_VOID);
5047                 
5048                 
5049                     POPSTACK;
5050                     SPAGAIN;
5051                     LEAVE;
5052                     if(SvREFCNT(tmpref) < 2) {
5053                         /* tmpref is not kept alive! */
5054                         SvREFCNT(sv)--;
5055                         SvRV_set(tmpref, NULL);
5056                         SvROK_off(tmpref);
5057                     }
5058                     SvREFCNT_dec(tmpref);
5059                 }
5060             } while (SvOBJECT(sv) && SvSTASH(sv) != stash);
5061
5062
5063             if (SvREFCNT(sv)) {
5064                 if (PL_in_clean_objs)
5065                     Perl_croak(aTHX_ "DESTROY created new reference to dead object '%s'",
5066                           HvNAME_get(stash));
5067                 /* DESTROY gave object new lease on life */
5068                 return;
5069             }
5070         }
5071
5072         if (SvOBJECT(sv)) {
5073             SvREFCNT_dec(SvSTASH(sv));  /* possibly of changed persuasion */
5074             SvOBJECT_off(sv);   /* Curse the object. */
5075             if (type != SVt_PVIO)
5076                 --PL_sv_objcount;       /* XXX Might want something more general */
5077         }
5078     }
5079     if (type >= SVt_PVMG) {
5080         if ((type == SVt_PVMG || type == SVt_PVGV) && SvPAD_OUR(sv)) {
5081             SvREFCNT_dec(OURSTASH(sv));
5082         } else if (SvMAGIC(sv))
5083             mg_free(sv);
5084         if (type == SVt_PVMG && SvPAD_TYPED(sv))
5085             SvREFCNT_dec(SvSTASH(sv));
5086     }
5087     switch (type) {
5088     case SVt_PVIO:
5089         if (IoIFP(sv) &&
5090             IoIFP(sv) != PerlIO_stdin() &&
5091             IoIFP(sv) != PerlIO_stdout() &&
5092             IoIFP(sv) != PerlIO_stderr())
5093         {
5094             io_close((IO*)sv, FALSE);
5095         }
5096         if (IoDIRP(sv) && !(IoFLAGS(sv) & IOf_FAKE_DIRP))
5097             PerlDir_close(IoDIRP(sv));
5098         IoDIRP(sv) = (DIR*)NULL;
5099         Safefree(IoTOP_NAME(sv));
5100         Safefree(IoFMT_NAME(sv));
5101         Safefree(IoBOTTOM_NAME(sv));
5102         goto freescalar;
5103     case SVt_PVBM:
5104         goto freescalar;
5105     case SVt_PVCV:
5106     case SVt_PVFM:
5107         cv_undef((CV*)sv);
5108         goto freescalar;
5109     case SVt_PVHV:
5110         Perl_hv_kill_backrefs(aTHX_ (HV*)sv);
5111         hv_undef((HV*)sv);
5112         break;
5113     case SVt_PVAV:
5114         av_undef((AV*)sv);
5115         break;
5116     case SVt_PVLV:
5117         if (LvTYPE(sv) == 'T') { /* for tie: return HE to pool */
5118             SvREFCNT_dec(HeKEY_sv((HE*)LvTARG(sv)));
5119             HeNEXT((HE*)LvTARG(sv)) = PL_hv_fetch_ent_mh;
5120             PL_hv_fetch_ent_mh = (HE*)LvTARG(sv);
5121         }
5122         else if (LvTYPE(sv) != 't') /* unless tie: unrefcnted fake SV**  */
5123             SvREFCNT_dec(LvTARG(sv));
5124         goto freescalar;
5125     case SVt_PVGV:
5126         gp_free((GV*)sv);
5127         if (GvNAME_HEK(sv)) {
5128             unshare_hek(GvNAME_HEK(sv));
5129         }
5130         /* If we're in a stash, we don't own a reference to it. However it does
5131            have a back reference to us, which needs to be cleared.  */
5132         if (GvSTASH(sv))
5133             sv_del_backref((SV*)GvSTASH(sv), sv);
5134     case SVt_PVMG:
5135     case SVt_PVNV:
5136     case SVt_PVIV:
5137       freescalar:
5138         /* Don't bother with SvOOK_off(sv); as we're only going to free it.  */
5139         if (SvOOK(sv)) {
5140             SvPV_set(sv, SvPVX_mutable(sv) - SvIVX(sv));
5141             /* Don't even bother with turning off the OOK flag.  */
5142         }
5143     case SVt_PV:
5144     case SVt_RV:
5145         if (SvROK(sv)) {
5146             SV * const target = SvRV(sv);
5147             if (SvWEAKREF(sv))
5148                 sv_del_backref(target, sv);
5149             else
5150                 SvREFCNT_dec(target);
5151         }
5152 #ifdef PERL_OLD_COPY_ON_WRITE
5153         else if (SvPVX_const(sv)) {
5154             if (SvIsCOW(sv)) {
5155                 /* I believe I need to grab the global SV mutex here and
5156                    then recheck the COW status.  */
5157                 if (DEBUG_C_TEST) {
5158                     PerlIO_printf(Perl_debug_log, "Copy on write: clear\n");
5159                     sv_dump(sv);
5160                 }
5161                 sv_release_COW(sv, SvPVX_const(sv), SvLEN(sv),
5162                                SV_COW_NEXT_SV(sv));
5163                 /* And drop it here.  */
5164                 SvFAKE_off(sv);
5165             } else if (SvLEN(sv)) {
5166                 Safefree(SvPVX_const(sv));
5167             }
5168         }
5169 #else
5170         else if (SvPVX_const(sv) && SvLEN(sv))
5171             Safefree(SvPVX_mutable(sv));
5172         else if (SvPVX_const(sv) && SvREADONLY(sv) && SvFAKE(sv)) {
5173             unshare_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sv)));
5174             SvFAKE_off(sv);
5175         }
5176 #endif
5177         break;
5178     case SVt_NV:
5179         break;
5180     }
5181
5182     SvFLAGS(sv) &= SVf_BREAK;
5183     SvFLAGS(sv) |= SVTYPEMASK;
5184
5185     if (sv_type_details->arena) {
5186         del_body(((char *)SvANY(sv) + sv_type_details->offset),
5187                  &PL_body_roots[type]);
5188     }
5189     else if (sv_type_details->body_size) {
5190         my_safefree(SvANY(sv));
5191     }
5192 }
5193
5194 /*
5195 =for apidoc sv_newref
5196
5197 Increment an SV's reference count. Use the C<SvREFCNT_inc()> wrapper
5198 instead.
5199
5200 =cut
5201 */
5202
5203 SV *
5204 Perl_sv_newref(pTHX_ SV *sv)
5205 {
5206     PERL_UNUSED_CONTEXT;
5207     if (sv)
5208         (SvREFCNT(sv))++;
5209     return sv;
5210 }
5211
5212 /*
5213 =for apidoc sv_free
5214
5215 Decrement an SV's reference count, and if it drops to zero, call
5216 C<sv_clear> to invoke destructors and free up any memory used by
5217 the body; finally, deallocate the SV's head itself.
5218 Normally called via a wrapper macro C<SvREFCNT_dec>.
5219
5220 =cut
5221 */
5222
5223 void
5224 Perl_sv_free(pTHX_ SV *sv)
5225 {
5226     dVAR;
5227     if (!sv)
5228         return;
5229     if (SvREFCNT(sv) == 0) {
5230         if (SvFLAGS(sv) & SVf_BREAK)
5231             /* this SV's refcnt has been artificially decremented to
5232              * trigger cleanup */
5233             return;
5234         if (PL_in_clean_all) /* All is fair */
5235             return;
5236         if (SvREADONLY(sv) && SvIMMORTAL(sv)) {
5237             /* make sure SvREFCNT(sv)==0 happens very seldom */
5238             SvREFCNT(sv) = (~(U32)0)/2;
5239             return;
5240         }
5241         if (ckWARN_d(WARN_INTERNAL)) {
5242             Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
5243                         "Attempt to free unreferenced scalar: SV 0x%"UVxf
5244                         pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
5245 #ifdef DEBUG_LEAKING_SCALARS_FORK_DUMP
5246             Perl_dump_sv_child(aTHX_ sv);
5247 #endif
5248         }
5249         return;
5250     }
5251     if (--(SvREFCNT(sv)) > 0)
5252         return;
5253     Perl_sv_free2(aTHX_ sv);
5254 }
5255
5256 void
5257 Perl_sv_free2(pTHX_ SV *sv)
5258 {
5259     dVAR;
5260 #ifdef DEBUGGING
5261     if (SvTEMP(sv)) {
5262         if (ckWARN_d(WARN_DEBUGGING))
5263             Perl_warner(aTHX_ packWARN(WARN_DEBUGGING),
5264                         "Attempt to free temp prematurely: SV 0x%"UVxf
5265                         pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
5266         return;
5267     }
5268 #endif
5269     if (SvREADONLY(sv) && SvIMMORTAL(sv)) {
5270         /* make sure SvREFCNT(sv)==0 happens very seldom */
5271         SvREFCNT(sv) = (~(U32)0)/2;
5272         return;
5273     }
5274     sv_clear(sv);
5275     if (! SvREFCNT(sv))
5276         del_SV(sv);
5277 }
5278
5279 /*
5280 =for apidoc sv_len
5281
5282 Returns the length of the string in the SV. Handles magic and type
5283 coercion.  See also C<SvCUR>, which gives raw access to the xpv_cur slot.
5284
5285 =cut
5286 */
5287
5288 STRLEN
5289 Perl_sv_len(pTHX_ register SV *sv)
5290 {
5291     STRLEN len;
5292
5293     if (!sv)
5294         return 0;
5295
5296     if (SvGMAGICAL(sv))
5297         len = mg_length(sv);
5298     else
5299         (void)SvPV_const(sv, len);
5300     return len;
5301 }
5302
5303 /*
5304 =for apidoc sv_len_utf8
5305
5306 Returns the number of characters in the string in an SV, counting wide
5307 UTF-8 bytes as a single character. Handles magic and type coercion.
5308
5309 =cut
5310 */
5311
5312 /*
5313  * The length is cached in PERL_UTF8_magic, in the mg_len field.  Also the
5314  * mg_ptr is used, by sv_pos_u2b() and sv_pos_b2u() - see the comments below.
5315  * (Note that the mg_len is not the length of the mg_ptr field.
5316  * This allows the cache to store the character length of the string without
5317  * needing to malloc() extra storage to attach to the mg_ptr.)
5318  *
5319  */
5320
5321 STRLEN
5322 Perl_sv_len_utf8(pTHX_ register SV *sv)
5323 {
5324     if (!sv)
5325         return 0;
5326
5327     if (SvGMAGICAL(sv))
5328         return mg_length(sv);
5329     else
5330     {
5331         STRLEN len;
5332         const U8 *s = (U8*)SvPV_const(sv, len);
5333
5334         if (PL_utf8cache) {
5335             STRLEN ulen;
5336             MAGIC *mg = SvMAGICAL(sv) ? mg_find(sv, PERL_MAGIC_utf8) : 0;
5337
5338             if (mg && mg->mg_len != -1) {
5339                 ulen = mg->mg_len;
5340                 if (PL_utf8cache < 0) {
5341                     const STRLEN real = Perl_utf8_length(aTHX_ s, s + len);
5342                     if (real != ulen) {
5343                         /* Need to turn the assertions off otherwise we may
5344                            recurse infinitely while printing error messages.
5345                         */
5346                         SAVEI8(PL_utf8cache);
5347                         PL_utf8cache = 0;
5348                         Perl_croak(aTHX_ "panic: sv_len_utf8 cache %"UVf
5349                                    " real %"UVf" for %"SVf,
5350                                    (UV) ulen, (UV) real, (void*)sv);
5351                     }
5352                 }
5353             }
5354             else {
5355                 ulen = Perl_utf8_length(aTHX_ s, s + len);
5356                 if (!SvREADONLY(sv)) {
5357                     if (!mg) {
5358                         mg = sv_magicext(sv, 0, PERL_MAGIC_utf8,
5359                                          &PL_vtbl_utf8, 0, 0);
5360                     }
5361                     assert(mg);
5362                     mg->mg_len = ulen;
5363                 }
5364             }
5365             return ulen;
5366         }
5367         return Perl_utf8_length(aTHX_ s, s + len);
5368     }
5369 }
5370
5371 /* Walk forwards to find the byte corresponding to the passed in UTF-8
5372    offset.  */
5373 static STRLEN
5374 S_sv_pos_u2b_forwards(const U8 *const start, const U8 *const send,
5375                       STRLEN uoffset)
5376 {
5377     const U8 *s = start;
5378
5379     while (s < send && uoffset--)
5380         s += UTF8SKIP(s);
5381     if (s > send) {
5382         /* This is the existing behaviour. Possibly it should be a croak, as
5383            it's actually a bounds error  */
5384         s = send;
5385     }
5386     return s - start;
5387 }
5388
5389 /* Given the length of the string in both bytes and UTF-8 characters, decide
5390    whether to walk forwards or backwards to find the byte corresponding to
5391    the passed in UTF-8 offset.  */
5392 static STRLEN
5393 S_sv_pos_u2b_midway(const U8 *const start, const U8 *send,
5394                       STRLEN uoffset, STRLEN uend)
5395 {
5396     STRLEN backw = uend - uoffset;
5397     if (uoffset < 2 * backw) {
5398         /* The assumption is that going forwards is twice the speed of going
5399            forward (that's where the 2 * backw comes from).
5400            (The real figure of course depends on the UTF-8 data.)  */
5401         return sv_pos_u2b_forwards(start, send, uoffset);
5402     }
5403
5404     while (backw--) {
5405         send--;
5406         while (UTF8_IS_CONTINUATION(*send))
5407             send--;
5408     }
5409     return send - start;
5410 }
5411
5412 /* For the string representation of the given scalar, find the byte
5413    corresponding to the passed in UTF-8 offset.  uoffset0 and boffset0
5414    give another position in the string, *before* the sought offset, which
5415    (which is always true, as 0, 0 is a valid pair of positions), which should
5416    help reduce the amount of linear searching.
5417    If *mgp is non-NULL, it should point to the UTF-8 cache magic, which
5418    will be used to reduce the amount of linear searching. The cache will be
5419    created if necessary, and the found value offered to it for update.  */
5420 static STRLEN
5421 S_sv_pos_u2b_cached(pTHX_ SV *sv, MAGIC **mgp, const U8 *const start,
5422                     const U8 *const send, STRLEN uoffset,
5423                     STRLEN uoffset0, STRLEN boffset0) {
5424     STRLEN boffset = 0; /* Actually always set, but let's keep gcc happy.  */
5425     bool found = FALSE;
5426
5427     assert (uoffset >= uoffset0);
5428
5429     if (SvMAGICAL(sv) && !SvREADONLY(sv) && PL_utf8cache
5430         && (*mgp || (*mgp = mg_find(sv, PERL_MAGIC_utf8)))) {
5431         if ((*mgp)->mg_ptr) {
5432             STRLEN *cache = (STRLEN *) (*mgp)->mg_ptr;
5433             if (cache[0] == uoffset) {
5434                 /* An exact match. */
5435                 return cache[1];
5436             }
5437             if (cache[2] == uoffset) {
5438                 /* An exact match. */
5439                 return cache[3];
5440             }
5441
5442             if (cache[0] < uoffset) {
5443                 /* The cache already knows part of the way.   */
5444                 if (cache[0] > uoffset0) {
5445                     /* The cache knows more than the passed in pair  */
5446                     uoffset0 = cache[0];
5447                     boffset0 = cache[1];
5448                 }
5449                 if ((*mgp)->mg_len != -1) {
5450                     /* And we know the end too.  */
5451                     boffset = boffset0
5452                         + sv_pos_u2b_midway(start + boffset0, send,
5453                                               uoffset - uoffset0,
5454                                               (*mgp)->mg_len - uoffset0);
5455                 } else {
5456                     boffset = boffset0
5457                         + sv_pos_u2b_forwards(start + boffset0,
5458                                                 send, uoffset - uoffset0);
5459                 }
5460             }
5461             else if (cache[2] < uoffset) {
5462                 /* We're between the two cache entries.  */
5463                 if (cache[2] > uoffset0) {
5464                     /* and the cache knows more than the passed in pair  */
5465                     uoffset0 = cache[2];
5466                     boffset0 = cache[3];
5467                 }
5468
5469                 boffset = boffset0
5470                     + sv_pos_u2b_midway(start + boffset0,
5471                                           start + cache[1],
5472                                           uoffset - uoffset0,
5473                                           cache[0] - uoffset0);
5474             } else {
5475                 boffset = boffset0
5476                     + sv_pos_u2b_midway(start + boffset0,
5477                                           start + cache[3],
5478                                           uoffset - uoffset0,
5479                                           cache[2] - uoffset0);
5480             }
5481             found = TRUE;
5482         }
5483         else if ((*mgp)->mg_len != -1) {
5484             /* If we can take advantage of a passed in offset, do so.  */
5485             /* In fact, offset0 is either 0, or less than offset, so don't
5486                need to worry about the other possibility.  */
5487             boffset = boffset0
5488                 + sv_pos_u2b_midway(start + boffset0, send,
5489                                       uoffset - uoffset0,
5490                                       (*mgp)->mg_len - uoffset0);
5491             found = TRUE;
5492         }
5493     }
5494
5495     if (!found || PL_utf8cache < 0) {
5496         const STRLEN real_boffset
5497             = boffset0 + sv_pos_u2b_forwards(start + boffset0,
5498                                                send, uoffset - uoffset0);
5499
5500         if (found && PL_utf8cache < 0) {
5501             if (real_boffset != boffset) {
5502                 /* Need to turn the assertions off otherwise we may recurse
5503                    infinitely while printing error messages.  */
5504                 SAVEI8(PL_utf8cache);
5505                 PL_utf8cache = 0;
5506                 Perl_croak(aTHX_ "panic: sv_pos_u2b_cache cache %"UVf
5507                            " real %"UVf" for %"SVf,
5508                            (UV) boffset, (UV) real_boffset, (void*)sv);
5509             }
5510         }
5511         boffset = real_boffset;
5512     }
5513
5514     S_utf8_mg_pos_cache_update(aTHX_ sv, mgp, boffset, uoffset, send - start);
5515     return boffset;
5516 }
5517
5518
5519 /*
5520 =for apidoc sv_pos_u2b
5521
5522 Converts the value pointed to by offsetp from a count of UTF-8 chars from
5523 the start of the string, to a count of the equivalent number of bytes; if
5524 lenp is non-zero, it does the same to lenp, but this time starting from
5525 the offset, rather than from the start of the string. Handles magic and
5526 type coercion.
5527
5528 =cut
5529 */
5530
5531 /*
5532  * sv_pos_u2b() uses, like sv_pos_b2u(), the mg_ptr of the potential
5533  * PERL_UTF8_magic of the sv to store the mapping between UTF-8 and
5534  * byte offsets.  See also the comments of S_utf8_mg_pos_cache_update().
5535  *
5536  */
5537
5538 void
5539 Perl_sv_pos_u2b(pTHX_ register SV *sv, I32* offsetp, I32* lenp)
5540 {
5541     const U8 *start;
5542     STRLEN len;
5543
5544     if (!sv)
5545         return;
5546
5547     start = (U8*)SvPV_const(sv, len);
5548     if (len) {
5549         STRLEN uoffset = (STRLEN) *offsetp;
5550         const U8 * const send = start + len;
5551         MAGIC *mg = NULL;
5552         const STRLEN boffset = sv_pos_u2b_cached(sv, &mg, start, send,
5553                                              uoffset, 0, 0);
5554
5555         *offsetp = (I32) boffset;
5556
5557         if (lenp) {
5558             /* Convert the relative offset to absolute.  */
5559             const STRLEN uoffset2 = uoffset + (STRLEN) *lenp;
5560             const STRLEN boffset2
5561                 = sv_pos_u2b_cached(sv, &mg, start, send, uoffset2,
5562                                       uoffset, boffset) - boffset;
5563
5564             *lenp = boffset2;
5565         }
5566     }
5567     else {
5568          *offsetp = 0;
5569          if (lenp)
5570               *lenp = 0;
5571     }
5572
5573     return;
5574 }
5575
5576 /* Create and update the UTF8 magic offset cache, with the proffered utf8/
5577    byte length pairing. The (byte) length of the total SV is passed in too,
5578    as blen, because for some (more esoteric) SVs, the call to SvPV_const()
5579    may not have updated SvCUR, so we can't rely on reading it directly.
5580
5581    The proffered utf8/byte length pairing isn't used if the cache already has
5582    two pairs, and swapping either for the proffered pair would increase the
5583    RMS of the intervals between known byte offsets.
5584
5585    The cache itself consists of 4 STRLEN values
5586    0: larger UTF-8 offset
5587    1: corresponding byte offset
5588    2: smaller UTF-8 offset
5589    3: corresponding byte offset
5590
5591    Unused cache pairs have the value 0, 0.
5592    Keeping the cache "backwards" means that the invariant of
5593    cache[0] >= cache[2] is maintained even with empty slots, which means that
5594    the code that uses it doesn't need to worry if only 1 entry has actually
5595    been set to non-zero.  It also makes the "position beyond the end of the
5596    cache" logic much simpler, as the first slot is always the one to start
5597    from.   
5598 */
5599 static void
5600 S_utf8_mg_pos_cache_update(pTHX_ SV *sv, MAGIC **mgp, STRLEN byte, STRLEN utf8,
5601                            STRLEN blen)
5602 {
5603     STRLEN *cache;
5604     if (SvREADONLY(sv))
5605         return;
5606
5607     if (!*mgp) {
5608         *mgp = sv_magicext(sv, 0, PERL_MAGIC_utf8, (MGVTBL*)&PL_vtbl_utf8, 0,
5609                            0);
5610         (*mgp)->mg_len = -1;
5611     }
5612     assert(*mgp);
5613
5614     if (!(cache = (STRLEN *)(*mgp)->mg_ptr)) {
5615         Newxz(cache, PERL_MAGIC_UTF8_CACHESIZE * 2, STRLEN);
5616         (*mgp)->mg_ptr = (char *) cache;
5617     }
5618     assert(cache);
5619
5620     if (PL_utf8cache < 0) {
5621         const U8 *start = (const U8 *) SvPVX_const(sv);
5622         const U8 *const end = start + byte;
5623         STRLEN realutf8 = 0;
5624
5625         while (start < end) {
5626             start += UTF8SKIP(start);
5627             realutf8++;
5628         }
5629
5630         /* Can't use S_sv_pos_b2u_forwards as it will scream warnings on
5631            surrogates.  FIXME - is it inconsistent that b2u warns, but u2b
5632            doesn't?  I don't know whether this difference was introduced with
5633            the caching code in 5.8.1.  */
5634
5635         if (realutf8 != utf8) {
5636             /* Need to turn the assertions off otherwise we may recurse
5637                infinitely while printing error messages.  */
5638             SAVEI8(PL_utf8cache);
5639             PL_utf8cache = 0;
5640             Perl_croak(aTHX_ "panic: utf8_mg_pos_cache_update cache %"UVf
5641                        " real %"UVf" for %"SVf, (UV) utf8, (UV) realutf8, (void*)sv);
5642         }
5643     }
5644
5645     /* Cache is held with the later position first, to simplify the code
5646        that deals with unbounded ends.  */
5647        
5648     ASSERT_UTF8_CACHE(cache);
5649     if (cache[1] == 0) {
5650         /* Cache is totally empty  */
5651         cache[0] = utf8;
5652         cache[1] = byte;
5653     } else if (cache[3] == 0) {
5654         if (byte > cache[1]) {
5655             /* New one is larger, so goes first.  */
5656             cache[2] = cache[0];
5657             cache[3] = cache[1];
5658             cache[0] = utf8;
5659             cache[1] = byte;
5660         } else {
5661             cache[2] = utf8;
5662             cache[3] = byte;
5663         }
5664     } else {
5665 #define THREEWAY_SQUARE(a,b,c,d) \
5666             ((float)((d) - (c))) * ((float)((d) - (c))) \
5667             + ((float)((c) - (b))) * ((float)((c) - (b))) \
5668                + ((float)((b) - (a))) * ((float)((b) - (a)))
5669
5670         /* Cache has 2 slots in use, and we know three potential pairs.
5671            Keep the two that give the lowest RMS distance. Do the
5672            calcualation in bytes simply because we always know the byte
5673            length.  squareroot has the same ordering as the positive value,
5674            so don't bother with the actual square root.  */
5675         const float existing = THREEWAY_SQUARE(0, cache[3], cache[1], blen);
5676         if (byte > cache[1]) {
5677             /* New position is after the existing pair of pairs.  */
5678             const float keep_earlier
5679                 = THREEWAY_SQUARE(0, cache[3], byte, blen);
5680             const float keep_later
5681                 = THREEWAY_SQUARE(0, cache[1], byte, blen);
5682
5683             if (keep_later < keep_earlier) {
5684                 if (keep_later < existing) {
5685                     cache[2] = cache[0];
5686                     cache[3] = cache[1];
5687                     cache[0] = utf8;
5688                     cache[1] = byte;
5689                 }
5690             }
5691             else {
5692                 if (keep_earlier < existing) {
5693                     cache[0] = utf8;
5694                     cache[1] = byte;
5695                 }
5696             }
5697         }
5698         else if (byte > cache[3]) {
5699             /* New position is between the existing pair of pairs.  */
5700             const float keep_earlier
5701                 = THREEWAY_SQUARE(0, cache[3], byte, blen);
5702             const float keep_later
5703                 = THREEWAY_SQUARE(0, byte, cache[1], blen);
5704
5705             if (keep_later < keep_earlier) {
5706                 if (keep_later < existing) {
5707                     cache[2] = utf8;
5708                     cache[3] = byte;
5709                 }
5710             }
5711             else {
5712                 if (keep_earlier < existing) {
5713                     cache[0] = utf8;
5714                     cache[1] = byte;
5715                 }
5716             }
5717         }
5718         else {
5719             /* New position is before the existing pair of pairs.  */
5720             const float keep_earlier
5721                 = THREEWAY_SQUARE(0, byte, cache[3], blen);
5722             const float keep_later
5723                 = THREEWAY_SQUARE(0, byte, cache[1], blen);
5724
5725             if (keep_later < keep_earlier) {
5726                 if (keep_later < existing) {
5727                     cache[2] = utf8;
5728                     cache[3] = byte;
5729                 }
5730             }
5731             else {
5732                 if (keep_earlier < existing) {
5733                     cache[0] = cache[2];
5734                     cache[1] = cache[3];
5735                     cache[2] = utf8;
5736                     cache[3] = byte;
5737                 }
5738             }
5739         }
5740     }
5741     ASSERT_UTF8_CACHE(cache);
5742 }
5743
5744 /* If we don't know the character offset of the end of a region, our only
5745    option is to walk forwards to the target byte offset.  */
5746 static STRLEN
5747 S_sv_pos_b2u_forwards(pTHX_ const U8 *s, const U8 *const target)
5748 {
5749     STRLEN len = 0;
5750     while (s < target) {
5751         STRLEN n = 1;
5752
5753         /* Call utf8n_to_uvchr() to validate the sequence
5754          * (unless a simple non-UTF character) */
5755         if (!UTF8_IS_INVARIANT(*s))
5756             utf8n_to_uvchr(s, UTF8SKIP(s), &n, 0);
5757         if (n > 0) {
5758             s += n;
5759             len++;
5760         }
5761         else
5762             break;
5763     }
5764     return len;
5765 }
5766
5767 /* We already know all of the way, now we may be able to walk back.  The same
5768    assumption is made as in S_sv_pos_u2b_midway(), namely that walking
5769    backward is half the speed of walking forward. */
5770 static STRLEN
5771 S_sv_pos_b2u_midway(pTHX_ const U8 *s, const U8 *const target, const U8 *end,
5772                     STRLEN endu)
5773 {
5774     const STRLEN forw = target - s;
5775     STRLEN backw = end - target;
5776
5777     if (forw < 2 * backw) {
5778         return S_sv_pos_b2u_forwards(aTHX_ s, target);
5779     }
5780
5781     while (end > target) {
5782         end--;
5783         while (UTF8_IS_CONTINUATION(*end)) {
5784             end--;
5785         }
5786         endu--;
5787     }
5788     return endu;
5789 }
5790
5791 /*
5792 =for apidoc sv_pos_b2u
5793
5794 Converts the value pointed to by offsetp from a count of bytes from the
5795 start of the string, to a count of the equivalent number of UTF-8 chars.
5796 Handles magic and type coercion.
5797
5798 =cut
5799 */
5800
5801 /*
5802  * sv_pos_b2u() uses, like sv_pos_u2b(), the mg_ptr of the potential
5803  * PERL_UTF8_magic of the sv to store the mapping between UTF-8 and
5804  * byte offsets.
5805  *
5806  */
5807 void
5808 Perl_sv_pos_b2u(pTHX_ register SV* sv, I32* offsetp)
5809 {
5810     const U8* s;
5811     const STRLEN byte = *offsetp;
5812     STRLEN len = 0; /* Actually always set, but let's keep gcc happy.  */
5813     STRLEN blen;
5814     MAGIC* mg = NULL;
5815     const U8* send;
5816     bool found = FALSE;
5817
5818     if (!sv)
5819         return;
5820
5821     s = (const U8*)SvPV_const(sv, blen);
5822
5823     if (blen < byte)
5824         Perl_croak(aTHX_ "panic: sv_pos_b2u: bad byte offset");
5825
5826     send = s + byte;
5827
5828     if (SvMAGICAL(sv) && !SvREADONLY(sv) && PL_utf8cache
5829         && (mg = mg_find(sv, PERL_MAGIC_utf8))) {
5830         if (mg->mg_ptr) {
5831             STRLEN * const cache = (STRLEN *) mg->mg_ptr;
5832             if (cache[1] == byte) {
5833                 /* An exact match. */
5834                 *offsetp = cache[0];
5835                 return;
5836             }
5837             if (cache[3] == byte) {
5838                 /* An exact match. */
5839                 *offsetp = cache[2];
5840                 return;
5841             }
5842
5843             if (cache[1] < byte) {
5844                 /* We already know part of the way. */
5845                 if (mg->mg_len != -1) {
5846                     /* Actually, we know the end too.  */
5847                     len = cache[0]
5848                         + S_sv_pos_b2u_midway(aTHX_ s + cache[1], send,
5849                                               s + blen, mg->mg_len - cache[0]);
5850                 } else {
5851                     len = cache[0]
5852                         + S_sv_pos_b2u_forwards(aTHX_ s + cache[1], send);
5853                 }
5854             }
5855             else if (cache[3] < byte) {
5856                 /* We're between the two cached pairs, so we do the calculation
5857                    offset by the byte/utf-8 positions for the earlier pair,
5858                    then add the utf-8 characters from the string start to
5859                    there.  */
5860                 len = S_sv_pos_b2u_midway(aTHX_ s + cache[3], send,
5861                                           s + cache[1], cache[0] - cache[2])
5862                     + cache[2];
5863
5864             }
5865             else { /* cache[3] > byte */
5866                 len = S_sv_pos_b2u_midway(aTHX_ s, send, s + cache[3],
5867                                           cache[2]);
5868
5869             }
5870             ASSERT_UTF8_CACHE(cache);
5871             found = TRUE;
5872         } else if (mg->mg_len != -1) {
5873             len = S_sv_pos_b2u_midway(aTHX_ s, send, s + blen, mg->mg_len);
5874             found = TRUE;
5875         }
5876     }
5877     if (!found || PL_utf8cache < 0) {
5878         const STRLEN real_len = S_sv_pos_b2u_forwards(aTHX_ s, send);
5879
5880         if (found && PL_utf8cache < 0) {
5881             if (len != real_len) {
5882                 /* Need to turn the assertions off otherwise we may recurse
5883                    infinitely while printing error messages.  */
5884                 SAVEI8(PL_utf8cache);
5885                 PL_utf8cache = 0;
5886                 Perl_croak(aTHX_ "panic: sv_pos_b2u cache %"UVf
5887                            " real %"UVf" for %"SVf,
5888                            (UV) len, (UV) real_len, (void*)sv);
5889             }
5890         }
5891         len = real_len;
5892     }
5893     *offsetp = len;
5894
5895     S_utf8_mg_pos_cache_update(aTHX_ sv, &mg, byte, len, blen);
5896 }
5897
5898 /*
5899 =for apidoc sv_eq
5900
5901 Returns a boolean indicating whether the strings in the two SVs are
5902 identical. Is UTF-8 and 'use bytes' aware, handles get magic, and will
5903 coerce its args to strings if necessary.
5904
5905 =cut
5906 */
5907
5908 I32
5909 Perl_sv_eq(pTHX_ register SV *sv1, register SV *sv2)
5910 {
5911     dVAR;
5912     const char *pv1;
5913     STRLEN cur1;
5914     const char *pv2;
5915     STRLEN cur2;
5916     I32  eq     = 0;
5917     char *tpv   = NULL;
5918     SV* svrecode = NULL;
5919
5920     if (!sv1) {
5921         pv1 = "";
5922         cur1 = 0;
5923     }
5924     else
5925         pv1 = SvPV_const(sv1, cur1);
5926
5927     if (!sv2){
5928         pv2 = "";
5929         cur2 = 0;
5930     }
5931     else
5932         pv2 = SvPV_const(sv2, cur2);
5933
5934     if (cur1 && cur2 && SvUTF8(sv1) != SvUTF8(sv2) && !IN_BYTES) {
5935         /* Differing utf8ness.
5936          * Do not UTF8size the comparands as a side-effect. */
5937          if (PL_encoding) {
5938               if (SvUTF8(sv1)) {
5939                    svrecode = newSVpvn(pv2, cur2);
5940                    sv_recode_to_utf8(svrecode, PL_encoding);
5941                    pv2 = SvPV_const(svrecode, cur2);
5942               }
5943               else {
5944                    svrecode = newSVpvn(pv1, cur1);
5945                    sv_recode_to_utf8(svrecode, PL_encoding);
5946                    pv1 = SvPV_const(svrecode, cur1);
5947               }
5948               /* Now both are in UTF-8. */
5949               if (cur1 != cur2) {
5950                    SvREFCNT_dec(svrecode);
5951                    return FALSE;
5952               }
5953          }
5954          else {
5955               bool is_utf8 = TRUE;
5956
5957               if (SvUTF8(sv1)) {
5958                    /* sv1 is the UTF-8 one,
5959                     * if is equal it must be downgrade-able */
5960                    char * const pv = (char*)bytes_from_utf8((const U8*)pv1,
5961                                                      &cur1, &is_utf8);
5962                    if (pv != pv1)
5963                         pv1 = tpv = pv;
5964               }
5965               else {
5966                    /* sv2 is the UTF-8 one,
5967                     * if is equal it must be downgrade-able */
5968                    char * const pv = (char *)bytes_from_utf8((const U8*)pv2,
5969                                                       &cur2, &is_utf8);
5970                    if (pv != pv2)
5971                         pv2 = tpv = pv;
5972               }
5973               if (is_utf8) {
5974                    /* Downgrade not possible - cannot be eq */
5975                    assert (tpv == 0);
5976                    return FALSE;
5977               }
5978          }
5979     }
5980
5981     if (cur1 == cur2)
5982         eq = (pv1 == pv2) || memEQ(pv1, pv2, cur1);
5983         
5984     SvREFCNT_dec(svrecode);
5985     if (tpv)
5986         Safefree(tpv);
5987
5988     return eq;
5989 }
5990
5991 /*
5992 =for apidoc sv_cmp
5993
5994 Compares the strings in two SVs.  Returns -1, 0, or 1 indicating whether the
5995 string in C<sv1> is less than, equal to, or greater than the string in
5996 C<sv2>. Is UTF-8 and 'use bytes' aware, handles get magic, and will
5997 coerce its args to strings if necessary.  See also C<sv_cmp_locale>.
5998
5999 =cut
6000 */
6001
6002 I32
6003 Perl_sv_cmp(pTHX_ register SV *sv1, register SV *sv2)
6004 {
6005     dVAR;
6006     STRLEN cur1, cur2;
6007     const char *pv1, *pv2;
6008     char *tpv = NULL;
6009     I32  cmp;
6010     SV *svrecode = NULL;
6011
6012     if (!sv1) {
6013         pv1 = "";
6014         cur1 = 0;
6015     }
6016     else
6017         pv1 = SvPV_const(sv1, cur1);
6018
6019     if (!sv2) {
6020         pv2 = "";
6021         cur2 = 0;
6022     }
6023     else
6024         pv2 = SvPV_const(sv2, cur2);
6025
6026     if (cur1 && cur2 && SvUTF8(sv1) != SvUTF8(sv2) && !IN_BYTES) {
6027         /* Differing utf8ness.
6028          * Do not UTF8size the comparands as a side-effect. */
6029         if (SvUTF8(sv1)) {
6030             if (PL_encoding) {
6031                  svrecode = newSVpvn(pv2, cur2);
6032                  sv_recode_to_utf8(svrecode, PL_encoding);
6033                  pv2 = SvPV_const(svrecode, cur2);
6034             }
6035             else {
6036                  pv2 = tpv = (char*)bytes_to_utf8((const U8*)pv2, &cur2);
6037             }
6038         }
6039         else {
6040             if (PL_encoding) {
6041                  svrecode = newSVpvn(pv1, cur1);
6042                  sv_recode_to_utf8(svrecode, PL_encoding);
6043                  pv1 = SvPV_const(svrecode, cur1);
6044             }
6045             else {
6046                  pv1 = tpv = (char*)bytes_to_utf8((const U8*)pv1, &cur1);
6047             }
6048         }
6049     }
6050
6051     if (!cur1) {
6052         cmp = cur2 ? -1 : 0;
6053     } else if (!cur2) {
6054         cmp = 1;
6055     } else {
6056         const I32 retval = memcmp((const void*)pv1, (const void*)pv2, cur1 < cur2 ? cur1 : cur2);
6057
6058         if (retval) {
6059             cmp = retval < 0 ? -1 : 1;
6060         } else if (cur1 == cur2) {
6061             cmp = 0;
6062         } else {
6063             cmp = cur1 < cur2 ? -1 : 1;
6064         }
6065     }
6066
6067     SvREFCNT_dec(svrecode);
6068     if (tpv)
6069         Safefree(tpv);
6070
6071     return cmp;
6072 }
6073
6074 /*
6075 =for apidoc sv_cmp_locale
6076
6077 Compares the strings in two SVs in a locale-aware manner. Is UTF-8 and
6078 'use bytes' aware, handles get magic, and will coerce its args to strings
6079 if necessary.  See also C<sv_cmp_locale>.  See also C<sv_cmp>.
6080
6081 =cut
6082 */
6083
6084 I32
6085 Perl_sv_cmp_locale(pTHX_ register SV *sv1, register SV *sv2)
6086 {
6087     dVAR;
6088 #ifdef USE_LOCALE_COLLATE
6089
6090     char *pv1, *pv2;
6091     STRLEN len1, len2;
6092     I32 retval;
6093
6094     if (PL_collation_standard)
6095         goto raw_compare;
6096
6097     len1 = 0;
6098     pv1 = sv1 ? sv_collxfrm(sv1, &len1) : (char *) NULL;
6099     len2 = 0;
6100     pv2 = sv2 ? sv_collxfrm(sv2, &len2) : (char *) NULL;
6101
6102     if (!pv1 || !len1) {
6103         if (pv2 && len2)
6104             return -1;
6105         else
6106             goto raw_compare;
6107     }
6108     else {
6109         if (!pv2 || !len2)
6110             return 1;
6111     }
6112
6113     retval = memcmp((void*)pv1, (void*)pv2, len1 < len2 ? len1 : len2);
6114
6115     if (retval)
6116         return retval < 0 ? -1 : 1;
6117
6118     /*
6119      * When the result of collation is equality, that doesn't mean
6120      * that there are no differences -- some locales exclude some
6121      * characters from consideration.  So to avoid false equalities,
6122      * we use the raw string as a tiebreaker.
6123      */
6124
6125   raw_compare:
6126     /*FALLTHROUGH*/
6127
6128 #endif /* USE_LOCALE_COLLATE */
6129
6130     return sv_cmp(sv1, sv2);
6131 }
6132
6133
6134 #ifdef USE_LOCALE_COLLATE
6135
6136 /*
6137 =for apidoc sv_collxfrm
6138
6139 Add Collate Transform magic to an SV if it doesn't already have it.
6140
6141 Any scalar variable may carry PERL_MAGIC_collxfrm magic that contains the
6142 scalar data of the variable, but transformed to such a format that a normal
6143 memory comparison can be used to compare the data according to the locale
6144 settings.
6145
6146 =cut
6147 */
6148
6149 char *
6150 Perl_sv_collxfrm(pTHX_ SV *sv, STRLEN *nxp)
6151 {
6152     dVAR;
6153     MAGIC *mg;
6154
6155     mg = SvMAGICAL(sv) ? mg_find(sv, PERL_MAGIC_collxfrm) : (MAGIC *) NULL;
6156     if (!mg || !mg->mg_ptr || *(U32*)mg->mg_ptr != PL_collation_ix) {
6157         const char *s;
6158         char *xf;
6159         STRLEN len, xlen;
6160
6161         if (mg)
6162             Safefree(mg->mg_ptr);
6163         s = SvPV_const(sv, len);
6164         if ((xf = mem_collxfrm(s, len, &xlen))) {
6165             if (SvREADONLY(sv)) {
6166                 SAVEFREEPV(xf);
6167                 *nxp = xlen;
6168                 return xf + sizeof(PL_collation_ix);
6169             }
6170             if (! mg) {
6171 #ifdef PERL_OLD_COPY_ON_WRITE
6172                 if (SvIsCOW(sv))
6173                     sv_force_normal_flags(sv, 0);
6174 #endif
6175                 mg = sv_magicext(sv, 0, PERL_MAGIC_collxfrm, &PL_vtbl_collxfrm,
6176                                  0, 0);
6177                 assert(mg);
6178             }
6179             mg->mg_ptr = xf;
6180             mg->mg_len = xlen;
6181         }
6182         else {
6183             if (mg) {
6184                 mg->mg_ptr = NULL;
6185                 mg->mg_len = -1;
6186             }
6187         }
6188     }
6189     if (mg && mg->mg_ptr) {
6190         *nxp = mg->mg_len;
6191         return mg->mg_ptr + sizeof(PL_collation_ix);
6192     }
6193     else {
6194         *nxp = 0;
6195         return NULL;
6196     }
6197 }
6198
6199 #endif /* USE_LOCALE_COLLATE */
6200
6201 /*
6202 =for apidoc sv_gets
6203
6204 Get a line from the filehandle and store it into the SV, optionally
6205 appending to the currently-stored string.
6206
6207 =cut
6208 */
6209
6210 char *
6211 Perl_sv_gets(pTHX_ register SV *sv, register PerlIO *fp, I32 append)
6212 {
6213     dVAR;
6214     const char *rsptr;
6215     STRLEN rslen;
6216     register STDCHAR rslast;
6217     register STDCHAR *bp;
6218     register I32 cnt;
6219     I32 i = 0;
6220     I32 rspara = 0;
6221
6222     if (SvTHINKFIRST(sv))
6223         sv_force_normal_flags(sv, append ? 0 : SV_COW_DROP_PV);
6224     /* XXX. If you make this PVIV, then copy on write can copy scalars read
6225        from <>.
6226        However, perlbench says it's slower, because the existing swipe code
6227        is faster than copy on write.
6228        Swings and roundabouts.  */
6229     SvUPGRADE(sv, SVt_PV);
6230
6231     SvSCREAM_off(sv);
6232
6233     if (append) {
6234         if (PerlIO_isutf8(fp)) {
6235             if (!SvUTF8(sv)) {
6236                 sv_utf8_upgrade_nomg(sv);
6237                 sv_pos_u2b(sv,&append,0);
6238             }
6239         } else if (SvUTF8(sv)) {
6240             SV * const tsv = newSV(0);
6241             sv_gets(tsv, fp, 0);
6242             sv_utf8_upgrade_nomg(tsv);
6243             SvCUR_set(sv,append);
6244             sv_catsv(sv,tsv);
6245             sv_free(tsv);
6246             goto return_string_or_null;
6247         }
6248     }
6249
6250     SvPOK_only(sv);
6251     if (PerlIO_isutf8(fp))
6252         SvUTF8_on(sv);
6253
6254     if (IN_PERL_COMPILETIME) {
6255         /* we always read code in line mode */
6256         rsptr = "\n";
6257         rslen = 1;
6258     }
6259     else if (RsSNARF(PL_rs)) {
6260         /* If it is a regular disk file use size from stat() as estimate
6261            of amount we are going to read -- may result in mallocing
6262            more memory than we really need if the layers below reduce
6263            the size we read (e.g. CRLF or a gzip layer).
6264          */
6265         Stat_t st;
6266         if (!PerlLIO_fstat(PerlIO_fileno(fp), &st) && S_ISREG(st.st_mode))  {
6267             const Off_t offset = PerlIO_tell(fp);
6268             if (offset != (Off_t) -1 && st.st_size + append > offset) {
6269                 (void) SvGROW(sv, (STRLEN)((st.st_size - offset) + append + 1));
6270             }
6271         }
6272         rsptr = NULL;
6273         rslen = 0;
6274     }
6275     else if (RsRECORD(PL_rs)) {
6276       I32 bytesread;
6277       char *buffer;
6278       U32 recsize;
6279
6280       /* Grab the size of the record we're getting */
6281       recsize = SvUV(SvRV(PL_rs)); /* RsRECORD() guarantees > 0. */
6282       buffer = SvGROW(sv, (STRLEN)(recsize + append + 1)) + append;
6283       /* Go yank in */
6284 #ifdef VMS
6285       /* VMS wants read instead of fread, because fread doesn't respect */
6286       /* RMS record boundaries. This is not necessarily a good thing to be */
6287       /* doing, but we've got no other real choice - except avoid stdio
6288          as implementation - perhaps write a :vms layer ?
6289        */
6290       bytesread = PerlLIO_read(PerlIO_fileno(fp), buffer, recsize);
6291 #else
6292       bytesread = PerlIO_read(fp, buffer, recsize);
6293 #endif
6294       if (bytesread < 0)
6295           bytesread = 0;
6296       SvCUR_set(sv, bytesread += append);
6297       buffer[bytesread] = '\0';
6298       goto return_string_or_null;
6299     }
6300     else if (RsPARA(PL_rs)) {
6301         rsptr = "\n\n";
6302         rslen = 2;
6303         rspara = 1;
6304     }
6305     else {
6306         /* Get $/ i.e. PL_rs into same encoding as stream wants */
6307         if (PerlIO_isutf8(fp)) {
6308             rsptr = SvPVutf8(PL_rs, rslen);
6309         }
6310         else {
6311             if (SvUTF8(PL_rs)) {
6312                 if (!sv_utf8_downgrade(PL_rs, TRUE)) {
6313                     Perl_croak(aTHX_ "Wide character in $/");
6314                 }
6315             }
6316             rsptr = SvPV_const(PL_rs, rslen);
6317         }
6318     }
6319
6320     rslast = rslen ? rsptr[rslen - 1] : '\0';
6321
6322     if (rspara) {               /* have to do this both before and after */
6323         do {                    /* to make sure file boundaries work right */
6324             if (PerlIO_eof(fp))
6325                 return 0;
6326             i = PerlIO_getc(fp);
6327             if (i != '\n') {
6328                 if (i == -1)
6329                     return 0;
6330                 PerlIO_ungetc(fp,i);
6331                 break;
6332             }
6333         } while (i != EOF);
6334     }
6335
6336     /* See if we know enough about I/O mechanism to cheat it ! */
6337
6338     /* This used to be #ifdef test - it is made run-time test for ease
6339        of abstracting out stdio interface. One call should be cheap
6340        enough here - and may even be a macro allowing compile
6341        time optimization.
6342      */
6343
6344     if (PerlIO_fast_gets(fp)) {
6345
6346     /*
6347      * We're going to steal some values from the stdio struct
6348      * and put EVERYTHING in the innermost loop into registers.
6349      */
6350     register STDCHAR *ptr;
6351     STRLEN bpx;
6352     I32 shortbuffered;
6353
6354 #if defined(VMS) && defined(PERLIO_IS_STDIO)
6355     /* An ungetc()d char is handled separately from the regular
6356      * buffer, so we getc() it back out and stuff it in the buffer.
6357      */
6358     i = PerlIO_getc(fp);
6359     if (i == EOF) return 0;
6360     *(--((*fp)->_ptr)) = (unsigned char) i;
6361     (*fp)->_cnt++;
6362 #endif
6363
6364     /* Here is some breathtakingly efficient cheating */
6365
6366     cnt = PerlIO_get_cnt(fp);                   /* get count into register */
6367     /* make sure we have the room */
6368     if ((I32)(SvLEN(sv) - append) <= cnt + 1) {
6369         /* Not room for all of it
6370            if we are looking for a separator and room for some
6371          */
6372         if (rslen && cnt > 80 && (I32)SvLEN(sv) > append) {
6373             /* just process what we have room for */
6374             shortbuffered = cnt - SvLEN(sv) + append + 1;
6375             cnt -= shortbuffered;
6376         }
6377         else {
6378             shortbuffered = 0;
6379             /* remember that cnt can be negative */
6380             SvGROW(sv, (STRLEN)(append + (cnt <= 0 ? 2 : (cnt + 1))));
6381         }
6382     }
6383     else
6384         shortbuffered = 0;
6385     bp = (STDCHAR*)SvPVX_const(sv) + append;  /* move these two too to registers */
6386     ptr = (STDCHAR*)PerlIO_get_ptr(fp);
6387     DEBUG_P(PerlIO_printf(Perl_debug_log,
6388         "Screamer: entering, ptr=%"UVuf", cnt=%ld\n",PTR2UV(ptr),(long)cnt));
6389     DEBUG_P(PerlIO_printf(Perl_debug_log,
6390         "Screamer: entering: PerlIO * thinks ptr=%"UVuf", cnt=%ld, base=%"UVuf"\n",
6391                PTR2UV(PerlIO_get_ptr(fp)), (long)PerlIO_get_cnt(fp),
6392                PTR2UV(PerlIO_has_base(fp) ? PerlIO_get_base(fp) : 0)));
6393     for (;;) {
6394       screamer:
6395         if (cnt > 0) {
6396             if (rslen) {
6397                 while (cnt > 0) {                    /* this     |  eat */
6398                     cnt--;
6399                     if ((*bp++ = *ptr++) == rslast)  /* really   |  dust */
6400                         goto thats_all_folks;        /* screams  |  sed :-) */
6401                 }
6402             }
6403             else {
6404                 Copy(ptr, bp, cnt, char);            /* this     |  eat */
6405                 bp += cnt;                           /* screams  |  dust */
6406                 ptr += cnt;                          /* louder   |  sed :-) */
6407                 cnt = 0;
6408             }
6409         }
6410         
6411         if (shortbuffered) {            /* oh well, must extend */
6412             cnt = shortbuffered;
6413             shortbuffered = 0;
6414             bpx = bp - (STDCHAR*)SvPVX_const(sv); /* box up before relocation */
6415             SvCUR_set(sv, bpx);
6416             SvGROW(sv, SvLEN(sv) + append + cnt + 2);
6417             bp = (STDCHAR*)SvPVX_const(sv) + bpx; /* unbox after relocation */
6418             continue;
6419         }
6420
6421         DEBUG_P(PerlIO_printf(Perl_debug_log,
6422                               "Screamer: going to getc, ptr=%"UVuf", cnt=%ld\n",
6423                               PTR2UV(ptr),(long)cnt));
6424         PerlIO_set_ptrcnt(fp, (STDCHAR*)ptr, cnt); /* deregisterize cnt and ptr */
6425 #if 0
6426         DEBUG_P(PerlIO_printf(Perl_debug_log,
6427             "Screamer: pre: FILE * thinks ptr=%"UVuf", cnt=%ld, base=%"UVuf"\n",
6428             PTR2UV(PerlIO_get_ptr(fp)), (long)PerlIO_get_cnt(fp),
6429             PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
6430 #endif
6431         /* This used to call 'filbuf' in stdio form, but as that behaves like
6432            getc when cnt <= 0 we use PerlIO_getc here to avoid introducing
6433            another abstraction.  */
6434         i   = PerlIO_getc(fp);          /* get more characters */
6435 #if 0
6436         DEBUG_P(PerlIO_printf(Perl_debug_log,
6437             "Screamer: post: FILE * thinks ptr=%"UVuf", cnt=%ld, base=%"UVuf"\n",
6438             PTR2UV(PerlIO_get_ptr(fp)), (long)PerlIO_get_cnt(fp),
6439             PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
6440 #endif
6441         cnt = PerlIO_get_cnt(fp);
6442         ptr = (STDCHAR*)PerlIO_get_ptr(fp);     /* reregisterize cnt and ptr */
6443         DEBUG_P(PerlIO_printf(Perl_debug_log,
6444             "Screamer: after getc, ptr=%"UVuf", cnt=%ld\n",PTR2UV(ptr),(long)cnt));
6445
6446         if (i == EOF)                   /* all done for ever? */
6447             goto thats_really_all_folks;
6448
6449         bpx = bp - (STDCHAR*)SvPVX_const(sv);   /* box up before relocation */
6450         SvCUR_set(sv, bpx);
6451         SvGROW(sv, bpx + cnt + 2);
6452         bp = (STDCHAR*)SvPVX_const(sv) + bpx;   /* unbox after relocation */
6453
6454         *bp++ = (STDCHAR)i;             /* store character from PerlIO_getc */
6455
6456         if (rslen && (STDCHAR)i == rslast)  /* all done for now? */
6457             goto thats_all_folks;
6458     }
6459
6460 thats_all_folks:
6461     if ((rslen > 1 && (STRLEN)(bp - (STDCHAR*)SvPVX_const(sv)) < rslen) ||
6462           memNE((char*)bp - rslen, rsptr, rslen))
6463         goto screamer;                          /* go back to the fray */
6464 thats_really_all_folks:
6465     if (shortbuffered)
6466         cnt += shortbuffered;
6467         DEBUG_P(PerlIO_printf(Perl_debug_log,
6468             "Screamer: quitting, ptr=%"UVuf", cnt=%ld\n",PTR2UV(ptr),(long)cnt));
6469     PerlIO_set_ptrcnt(fp, (STDCHAR*)ptr, cnt);  /* put these back or we're in trouble */
6470     DEBUG_P(PerlIO_printf(Perl_debug_log,
6471         "Screamer: end: FILE * thinks ptr=%"UVuf", cnt=%ld, base=%"UVuf"\n",
6472         PTR2UV(PerlIO_get_ptr(fp)), (long)PerlIO_get_cnt(fp),
6473         PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
6474     *bp = '\0';
6475     SvCUR_set(sv, bp - (STDCHAR*)SvPVX_const(sv));      /* set length */
6476     DEBUG_P(PerlIO_printf(Perl_debug_log,
6477         "Screamer: done, len=%ld, string=|%.*s|\n",
6478         (long)SvCUR(sv),(int)SvCUR(sv),SvPVX_const(sv)));
6479     }
6480    else
6481     {
6482        /*The big, slow, and stupid way. */
6483 #ifdef USE_HEAP_INSTEAD_OF_STACK        /* Even slower way. */
6484         STDCHAR *buf = NULL;
6485         Newx(buf, 8192, STDCHAR);
6486         assert(buf);
6487 #else
6488         STDCHAR buf[8192];
6489 #endif
6490
6491 screamer2:
6492         if (rslen) {
6493             register const STDCHAR * const bpe = buf + sizeof(buf);
6494             bp = buf;
6495             while ((i = PerlIO_getc(fp)) != EOF && (*bp++ = (STDCHAR)i) != rslast && bp < bpe)
6496                 ; /* keep reading */
6497             cnt = bp - buf;
6498         }
6499         else {
6500             cnt = PerlIO_read(fp,(char*)buf, sizeof(buf));
6501             /* Accomodate broken VAXC compiler, which applies U8 cast to
6502              * both args of ?: operator, causing EOF to change into 255
6503              */
6504             if (cnt > 0)
6505                  i = (U8)buf[cnt - 1];
6506             else
6507                  i = EOF;
6508         }
6509
6510         if (cnt < 0)
6511             cnt = 0;  /* we do need to re-set the sv even when cnt <= 0 */
6512         if (append)
6513              sv_catpvn(sv, (char *) buf, cnt);
6514         else
6515              sv_setpvn(sv, (char *) buf, cnt);
6516
6517         if (i != EOF &&                 /* joy */
6518             (!rslen ||
6519              SvCUR(sv) < rslen ||
6520              memNE(SvPVX_const(sv) + SvCUR(sv) - rslen, rsptr, rslen)))
6521         {
6522             append = -1;
6523             /*
6524              * If we're reading from a TTY and we get a short read,
6525              * indicating that the user hit his EOF character, we need
6526              * to notice it now, because if we try to read from the TTY
6527              * again, the EOF condition will disappear.
6528              *
6529              * The comparison of cnt to sizeof(buf) is an optimization
6530              * that prevents unnecessary calls to feof().
6531              *
6532              * - jik 9/25/96
6533              */
6534             if (!(cnt < (I32)sizeof(buf) && PerlIO_eof(fp)))
6535                 goto screamer2;
6536         }
6537
6538 #ifdef USE_HEAP_INSTEAD_OF_STACK
6539         Safefree(buf);
6540 #endif
6541     }
6542
6543     if (rspara) {               /* have to do this both before and after */
6544         while (i != EOF) {      /* to make sure file boundaries work right */
6545             i = PerlIO_getc(fp);
6546             if (i != '\n') {
6547                 PerlIO_ungetc(fp,i);
6548                 break;
6549             }
6550         }
6551     }
6552
6553 return_string_or_null:
6554     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
6555 }
6556
6557 /*
6558 =for apidoc sv_inc
6559
6560 Auto-increment of the value in the SV, doing string to numeric conversion
6561 if necessary. Handles 'get' magic.
6562
6563 =cut
6564 */
6565
6566 void
6567 Perl_sv_inc(pTHX_ register SV *sv)
6568 {
6569     dVAR;
6570     register char *d;
6571     int flags;
6572
6573     if (!sv)
6574         return;
6575     SvGETMAGIC(sv);
6576     if (SvTHINKFIRST(sv)) {
6577         if (SvIsCOW(sv))
6578             sv_force_normal_flags(sv, 0);
6579         if (SvREADONLY(sv)) {
6580             if (IN_PERL_RUNTIME)
6581                 Perl_croak(aTHX_ PL_no_modify);
6582         }
6583         if (SvROK(sv)) {
6584             IV i;
6585             if (SvAMAGIC(sv) && AMG_CALLun(sv,inc))
6586                 return;
6587             i = PTR2IV(SvRV(sv));
6588             sv_unref(sv);
6589             sv_setiv(sv, i);
6590         }
6591     }
6592     flags = SvFLAGS(sv);
6593     if ((flags & (SVp_NOK|SVp_IOK)) == SVp_NOK) {
6594         /* It's (privately or publicly) a float, but not tested as an
6595            integer, so test it to see. */
6596         (void) SvIV(sv);
6597         flags = SvFLAGS(sv);
6598     }
6599     if ((flags & SVf_IOK) || ((flags & (SVp_IOK | SVp_NOK)) == SVp_IOK)) {
6600         /* It's publicly an integer, or privately an integer-not-float */
6601 #ifdef PERL_PRESERVE_IVUV
6602       oops_its_int:
6603 #endif
6604         if (SvIsUV(sv)) {
6605             if (SvUVX(sv) == UV_MAX)
6606                 sv_setnv(sv, UV_MAX_P1);
6607             else
6608                 (void)SvIOK_only_UV(sv);
6609                 SvUV_set(sv, SvUVX(sv) + 1);
6610         } else {
6611             if (SvIVX(sv) == IV_MAX)
6612                 sv_setuv(sv, (UV)IV_MAX + 1);
6613             else {
6614                 (void)SvIOK_only(sv);
6615                 SvIV_set(sv, SvIVX(sv) + 1);
6616             }   
6617         }
6618         return;
6619     }
6620     if (flags & SVp_NOK) {
6621         (void)SvNOK_only(sv);
6622         SvNV_set(sv, SvNVX(sv) + 1.0);
6623         return;
6624     }
6625
6626     if (!(flags & SVp_POK) || !*SvPVX_const(sv)) {
6627         if ((flags & SVTYPEMASK) < SVt_PVIV)
6628             sv_upgrade(sv, ((flags & SVTYPEMASK) > SVt_IV ? SVt_PVIV : SVt_IV));
6629         (void)SvIOK_only(sv);
6630         SvIV_set(sv, 1);
6631         return;
6632     }
6633     d = SvPVX(sv);
6634     while (isALPHA(*d)) d++;
6635     while (isDIGIT(*d)) d++;
6636     if (*d) {
6637 #ifdef PERL_PRESERVE_IVUV
6638         /* Got to punt this as an integer if needs be, but we don't issue
6639            warnings. Probably ought to make the sv_iv_please() that does
6640            the conversion if possible, and silently.  */
6641         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), NULL);
6642         if (numtype && !(numtype & IS_NUMBER_INFINITY)) {
6643             /* Need to try really hard to see if it's an integer.
6644                9.22337203685478e+18 is an integer.
6645                but "9.22337203685478e+18" + 0 is UV=9223372036854779904
6646                so $a="9.22337203685478e+18"; $a+0; $a++
6647                needs to be the same as $a="9.22337203685478e+18"; $a++
6648                or we go insane. */
6649         
6650             (void) sv_2iv(sv);
6651             if (SvIOK(sv))
6652                 goto oops_its_int;
6653
6654             /* sv_2iv *should* have made this an NV */
6655             if (flags & SVp_NOK) {
6656                 (void)SvNOK_only(sv);
6657                 SvNV_set(sv, SvNVX(sv) + 1.0);
6658                 return;
6659             }
6660             /* I don't think we can get here. Maybe I should assert this
6661                And if we do get here I suspect that sv_setnv will croak. NWC
6662                Fall through. */
6663 #if defined(USE_LONG_DOUBLE)
6664             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_inc punt failed to convert '%s' to IOK or NOKp, UV=0x%"UVxf" NV=%"PERL_PRIgldbl"\n",
6665                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
6666 #else
6667             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_inc punt failed to convert '%s' to IOK or NOKp, UV=0x%"UVxf" NV=%"NVgf"\n",
6668                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
6669 #endif
6670         }
6671 #endif /* PERL_PRESERVE_IVUV */
6672         sv_setnv(sv,Atof(SvPVX_const(sv)) + 1.0);
6673         return;
6674     }
6675     d--;
6676     while (d >= SvPVX_const(sv)) {
6677         if (isDIGIT(*d)) {
6678             if (++*d <= '9')
6679                 return;
6680             *(d--) = '0';
6681         }
6682         else {
6683 #ifdef EBCDIC
6684             /* MKS: The original code here died if letters weren't consecutive.
6685              * at least it didn't have to worry about non-C locales.  The
6686              * new code assumes that ('z'-'a')==('Z'-'A'), letters are
6687              * arranged in order (although not consecutively) and that only
6688              * [A-Za-z] are accepted by isALPHA in the C locale.
6689              */
6690             if (*d != 'z' && *d != 'Z') {
6691                 do { ++*d; } while (!isALPHA(*d));
6692                 return;
6693             }
6694             *(d--) -= 'z' - 'a';
6695 #else
6696             ++*d;
6697             if (isALPHA(*d))
6698                 return;
6699             *(d--) -= 'z' - 'a' + 1;
6700 #endif
6701         }
6702     }
6703     /* oh,oh, the number grew */
6704     SvGROW(sv, SvCUR(sv) + 2);
6705     SvCUR_set(sv, SvCUR(sv) + 1);
6706     for (d = SvPVX(sv) + SvCUR(sv); d > SvPVX_const(sv); d--)
6707         *d = d[-1];
6708     if (isDIGIT(d[1]))
6709         *d = '1';
6710     else
6711         *d = d[1];
6712 }
6713
6714 /*
6715 =for apidoc sv_dec
6716
6717 Auto-decrement of the value in the SV, doing string to numeric conversion
6718 if necessary. Handles 'get' magic.
6719
6720 =cut
6721 */
6722
6723 void
6724 Perl_sv_dec(pTHX_ register SV *sv)
6725 {
6726     dVAR;
6727     int flags;
6728
6729     if (!sv)
6730         return;
6731     SvGETMAGIC(sv);
6732     if (SvTHINKFIRST(sv)) {
6733         if (SvIsCOW(sv))
6734             sv_force_normal_flags(sv, 0);
6735         if (SvREADONLY(sv)) {
6736             if (IN_PERL_RUNTIME)
6737                 Perl_croak(aTHX_ PL_no_modify);
6738         }
6739         if (SvROK(sv)) {
6740             IV i;
6741             if (SvAMAGIC(sv) && AMG_CALLun(sv,dec))
6742                 return;
6743             i = PTR2IV(SvRV(sv));
6744             sv_unref(sv);
6745             sv_setiv(sv, i);
6746         }
6747     }
6748     /* Unlike sv_inc we don't have to worry about string-never-numbers
6749        and keeping them magic. But we mustn't warn on punting */
6750     flags = SvFLAGS(sv);
6751     if ((flags & SVf_IOK) || ((flags & (SVp_IOK | SVp_NOK)) == SVp_IOK)) {
6752         /* It's publicly an integer, or privately an integer-not-float */
6753 #ifdef PERL_PRESERVE_IVUV
6754       oops_its_int:
6755 #endif
6756         if (SvIsUV(sv)) {
6757             if (SvUVX(sv) == 0) {
6758                 (void)SvIOK_only(sv);
6759                 SvIV_set(sv, -1);
6760             }
6761             else {
6762                 (void)SvIOK_only_UV(sv);
6763                 SvUV_set(sv, SvUVX(sv) - 1);
6764             }   
6765         } else {
6766             if (SvIVX(sv) == IV_MIN)
6767                 sv_setnv(sv, (NV)IV_MIN - 1.0);
6768             else {
6769                 (void)SvIOK_only(sv);
6770                 SvIV_set(sv, SvIVX(sv) - 1);
6771             }   
6772         }
6773         return;
6774     }
6775     if (flags & SVp_NOK) {
6776         SvNV_set(sv, SvNVX(sv) - 1.0);
6777         (void)SvNOK_only(sv);
6778         return;
6779     }
6780     if (!(flags & SVp_POK)) {
6781         if ((flags & SVTYPEMASK) < SVt_PVIV)
6782             sv_upgrade(sv, ((flags & SVTYPEMASK) > SVt_IV) ? SVt_PVIV : SVt_IV);
6783         SvIV_set(sv, -1);
6784         (void)SvIOK_only(sv);
6785         return;
6786     }
6787 #ifdef PERL_PRESERVE_IVUV
6788     {
6789         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), NULL);
6790         if (numtype && !(numtype & IS_NUMBER_INFINITY)) {
6791             /* Need to try really hard to see if it's an integer.
6792                9.22337203685478e+18 is an integer.
6793                but "9.22337203685478e+18" + 0 is UV=9223372036854779904
6794                so $a="9.22337203685478e+18"; $a+0; $a--
6795                needs to be the same as $a="9.22337203685478e+18"; $a--
6796                or we go insane. */
6797         
6798             (void) sv_2iv(sv);
6799             if (SvIOK(sv))
6800                 goto oops_its_int;
6801
6802             /* sv_2iv *should* have made this an NV */
6803             if (flags & SVp_NOK) {
6804                 (void)SvNOK_only(sv);
6805                 SvNV_set(sv, SvNVX(sv) - 1.0);
6806                 return;
6807             }
6808             /* I don't think we can get here. Maybe I should assert this
6809                And if we do get here I suspect that sv_setnv will croak. NWC
6810                Fall through. */
6811 #if defined(USE_LONG_DOUBLE)
6812             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_dec punt failed to convert '%s' to IOK or NOKp, UV=0x%"UVxf" NV=%"PERL_PRIgldbl"\n",
6813                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
6814 #else
6815             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_dec punt failed to convert '%s' to IOK or NOKp, UV=0x%"UVxf" NV=%"NVgf"\n",
6816                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
6817 #endif
6818         }
6819     }
6820 #endif /* PERL_PRESERVE_IVUV */
6821     sv_setnv(sv,Atof(SvPVX_const(sv)) - 1.0);   /* punt */
6822 }
6823
6824 /*
6825 =for apidoc sv_mortalcopy
6826
6827 Creates a new SV which is a copy of the original SV (using C<sv_setsv>).
6828 The new SV is marked as mortal. It will be destroyed "soon", either by an
6829 explicit call to FREETMPS, or by an implicit call at places such as
6830 statement boundaries.  See also C<sv_newmortal> and C<sv_2mortal>.
6831
6832 =cut
6833 */
6834
6835 /* Make a string that will exist for the duration of the expression
6836  * evaluation.  Actually, it may have to last longer than that, but
6837  * hopefully we won't free it until it has been assigned to a
6838  * permanent location. */
6839
6840 SV *
6841 Perl_sv_mortalcopy(pTHX_ SV *oldstr)
6842 {
6843     dVAR;
6844     register SV *sv;
6845
6846     new_SV(sv);
6847     sv_setsv(sv,oldstr);
6848     EXTEND_MORTAL(1);
6849     PL_tmps_stack[++PL_tmps_ix] = sv;
6850     SvTEMP_on(sv);
6851     return sv;
6852 }
6853
6854 /*
6855 =for apidoc sv_newmortal
6856
6857 Creates a new null SV which is mortal.  The reference count of the SV is
6858 set to 1. It will be destroyed "soon", either by an explicit call to
6859 FREETMPS, or by an implicit call at places such as statement boundaries.
6860 See also C<sv_mortalcopy> and C<sv_2mortal>.
6861
6862 =cut
6863 */
6864
6865 SV *
6866 Perl_sv_newmortal(pTHX)
6867 {
6868     dVAR;
6869     register SV *sv;
6870
6871     new_SV(sv);
6872     SvFLAGS(sv) = SVs_TEMP;
6873     EXTEND_MORTAL(1);
6874     PL_tmps_stack[++PL_tmps_ix] = sv;
6875     return sv;
6876 }
6877
6878 /*
6879 =for apidoc sv_2mortal
6880
6881 Marks an existing SV as mortal.  The SV will be destroyed "soon", either
6882 by an explicit call to FREETMPS, or by an implicit call at places such as
6883 statement boundaries.  SvTEMP() is turned on which means that the SV's
6884 string buffer can be "stolen" if this SV is copied. See also C<sv_newmortal>
6885 and C<sv_mortalcopy>.
6886
6887 =cut
6888 */
6889
6890 SV *
6891 Perl_sv_2mortal(pTHX_ register SV *sv)
6892 {
6893     dVAR;
6894     if (!sv)
6895         return NULL;
6896     if (SvREADONLY(sv) && SvIMMORTAL(sv))
6897         return sv;
6898     EXTEND_MORTAL(1);
6899     PL_tmps_stack[++PL_tmps_ix] = sv;
6900     SvTEMP_on(sv);
6901     return sv;
6902 }
6903
6904 /*
6905 =for apidoc newSVpv
6906
6907 Creates a new SV and copies a string into it.  The reference count for the
6908 SV is set to 1.  If C<len> is zero, Perl will compute the length using
6909 strlen().  For efficiency, consider using C<newSVpvn> instead.
6910
6911 =cut
6912 */
6913
6914 SV *
6915 Perl_newSVpv(pTHX_ const char *s, STRLEN len)
6916 {
6917     dVAR;
6918     register SV *sv;
6919
6920     new_SV(sv);
6921     sv_setpvn(sv,s,len ? len : strlen(s));
6922     return sv;
6923 }
6924
6925 /*
6926 =for apidoc newSVpvn
6927
6928 Creates a new SV and copies a string into it.  The reference count for the
6929 SV is set to 1.  Note that if C<len> is zero, Perl will create a zero length
6930 string.  You are responsible for ensuring that the source string is at least
6931 C<len> bytes long.  If the C<s> argument is NULL the new SV will be undefined.
6932
6933 =cut
6934 */
6935
6936 SV *
6937 Perl_newSVpvn(pTHX_ const char *s, STRLEN len)
6938 {
6939     dVAR;
6940     register SV *sv;
6941
6942     new_SV(sv);
6943     sv_setpvn(sv,s,len);
6944     return sv;
6945 }
6946
6947
6948 /*
6949 =for apidoc newSVhek
6950
6951 Creates a new SV from the hash key structure.  It will generate scalars that
6952 point to the shared string table where possible. Returns a new (undefined)
6953 SV if the hek is NULL.
6954
6955 =cut
6956 */
6957
6958 SV *
6959 Perl_newSVhek(pTHX_ const HEK *hek)
6960 {
6961     dVAR;
6962     if (!hek) {
6963         SV *sv;
6964
6965         new_SV(sv);
6966         return sv;
6967     }
6968
6969     if (HEK_LEN(hek) == HEf_SVKEY) {
6970         return newSVsv(*(SV**)HEK_KEY(hek));
6971     } else {
6972         const int flags = HEK_FLAGS(hek);
6973         if (flags & HVhek_WASUTF8) {
6974             /* Trouble :-)
6975                Andreas would like keys he put in as utf8 to come back as utf8
6976             */
6977             STRLEN utf8_len = HEK_LEN(hek);
6978             const U8 *as_utf8 = bytes_to_utf8 ((U8*)HEK_KEY(hek), &utf8_len);
6979             SV * const sv = newSVpvn ((const char*)as_utf8, utf8_len);
6980
6981             SvUTF8_on (sv);
6982             Safefree (as_utf8); /* bytes_to_utf8() allocates a new string */
6983             return sv;
6984         } else if (flags & (HVhek_REHASH|HVhek_UNSHARED)) {
6985             /* We don't have a pointer to the hv, so we have to replicate the
6986                flag into every HEK. This hv is using custom a hasing
6987                algorithm. Hence we can't return a shared string scalar, as
6988                that would contain the (wrong) hash value, and might get passed
6989                into an hv routine with a regular hash.
6990                Similarly, a hash that isn't using shared hash keys has to have
6991                the flag in every key so that we know not to try to call
6992                share_hek_kek on it.  */
6993
6994             SV * const sv = newSVpvn (HEK_KEY(hek), HEK_LEN(hek));
6995             if (HEK_UTF8(hek))
6996                 SvUTF8_on (sv);
6997             return sv;
6998         }
6999         /* This will be overwhelminly the most common case.  */
7000         {
7001             /* Inline most of newSVpvn_share(), because share_hek_hek() is far
7002                more efficient than sharepvn().  */
7003             SV *sv;
7004
7005             new_SV(sv);
7006             sv_upgrade(sv, SVt_PV);
7007             SvPV_set(sv, (char *)HEK_KEY(share_hek_hek(hek)));
7008             SvCUR_set(sv, HEK_LEN(hek));
7009             SvLEN_set(sv, 0);
7010             SvREADONLY_on(sv);
7011             SvFAKE_on(sv);
7012             SvPOK_on(sv);
7013             if (HEK_UTF8(hek))
7014                 SvUTF8_on(sv);
7015             return sv;
7016         }
7017     }
7018 }
7019
7020 /*
7021 =for apidoc newSVpvn_share
7022
7023 Creates a new SV with its SvPVX_const pointing to a shared string in the string
7024 table. If the string does not already exist in the table, it is created
7025 first.  Turns on READONLY and FAKE.  The string's hash is stored in the UV
7026 slot of the SV; if the C<hash> parameter is non-zero, that value is used;
7027 otherwise the hash is computed.  The idea here is that as the string table
7028 is used for shared hash keys these strings will have SvPVX_const == HeKEY and
7029 hash lookup will avoid string compare.
7030
7031 =cut
7032 */
7033
7034 SV *
7035 Perl_newSVpvn_share(pTHX_ const char *src, I32 len, U32 hash)
7036 {
7037     dVAR;
7038     register SV *sv;
7039     bool is_utf8 = FALSE;
7040     const char *const orig_src = src;
7041
7042     if (len < 0) {
7043         STRLEN tmplen = -len;
7044         is_utf8 = TRUE;
7045         /* See the note in hv.c:hv_fetch() --jhi */
7046         src = (char*)bytes_from_utf8((const U8*)src, &tmplen, &is_utf8);
7047         len = tmplen;
7048     }
7049     if (!hash)
7050         PERL_HASH(hash, src, len);
7051     new_SV(sv);
7052     sv_upgrade(sv, SVt_PV);
7053     SvPV_set(sv, sharepvn(src, is_utf8?-len:len, hash));
7054     SvCUR_set(sv, len);
7055     SvLEN_set(sv, 0);
7056     SvREADONLY_on(sv);
7057     SvFAKE_on(sv);
7058     SvPOK_on(sv);
7059     if (is_utf8)
7060         SvUTF8_on(sv);
7061     if (src != orig_src)
7062         Safefree(src);
7063     return sv;
7064 }
7065
7066
7067 #if defined(PERL_IMPLICIT_CONTEXT)
7068
7069 /* pTHX_ magic can't cope with varargs, so this is a no-context
7070  * version of the main function, (which may itself be aliased to us).
7071  * Don't access this version directly.
7072  */
7073
7074 SV *
7075 Perl_newSVpvf_nocontext(const char* pat, ...)
7076 {
7077     dTHX;
7078     register SV *sv;
7079     va_list args;
7080     va_start(args, pat);
7081     sv = vnewSVpvf(pat, &args);
7082     va_end(args);
7083     return sv;
7084 }
7085 #endif
7086
7087 /*
7088 =for apidoc newSVpvf
7089
7090 Creates a new SV and initializes it with the string formatted like
7091 C<sprintf>.
7092
7093 =cut
7094 */
7095
7096 SV *
7097 Perl_newSVpvf(pTHX_ const char* pat, ...)
7098 {
7099     register SV *sv;
7100     va_list args;
7101     va_start(args, pat);
7102     sv = vnewSVpvf(pat, &args);
7103     va_end(args);
7104     return sv;
7105 }
7106
7107 /* backend for newSVpvf() and newSVpvf_nocontext() */
7108
7109 SV *
7110 Perl_vnewSVpvf(pTHX_ const char* pat, va_list* args)
7111 {
7112     dVAR;
7113     register SV *sv;
7114     new_SV(sv);
7115     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
7116     return sv;
7117 }
7118
7119 /*
7120 =for apidoc newSVnv
7121
7122 Creates a new SV and copies a floating point value into it.
7123 The reference count for the SV is set to 1.
7124
7125 =cut
7126 */
7127
7128 SV *
7129 Perl_newSVnv(pTHX_ NV n)
7130 {
7131     dVAR;
7132     register SV *sv;
7133
7134     new_SV(sv);
7135     sv_setnv(sv,n);
7136     return sv;
7137 }
7138
7139 /*
7140 =for apidoc newSViv
7141
7142 Creates a new SV and copies an integer into it.  The reference count for the
7143 SV is set to 1.
7144
7145 =cut
7146 */
7147
7148 SV *
7149 Perl_newSViv(pTHX_ IV i)
7150 {
7151     dVAR;
7152     register SV *sv;
7153
7154     new_SV(sv);
7155     sv_setiv(sv,i);
7156     return sv;
7157 }
7158
7159 /*
7160 =for apidoc newSVuv
7161
7162 Creates a new SV and copies an unsigned integer into it.
7163 The reference count for the SV is set to 1.
7164
7165 =cut
7166 */
7167
7168 SV *
7169 Perl_newSVuv(pTHX_ UV u)
7170 {
7171     dVAR;
7172     register SV *sv;
7173
7174     new_SV(sv);
7175     sv_setuv(sv,u);
7176     return sv;
7177 }
7178
7179 /*
7180 =for apidoc newRV_noinc
7181
7182 Creates an RV wrapper for an SV.  The reference count for the original
7183 SV is B<not> incremented.
7184
7185 =cut
7186 */
7187
7188 SV *
7189 Perl_newRV_noinc(pTHX_ SV *tmpRef)
7190 {
7191     dVAR;
7192     register SV *sv;
7193
7194     new_SV(sv);
7195     sv_upgrade(sv, SVt_RV);
7196     SvTEMP_off(tmpRef);
7197     SvRV_set(sv, tmpRef);
7198     SvROK_on(sv);
7199     return sv;
7200 }
7201
7202 /* newRV_inc is the official function name to use now.
7203  * newRV_inc is in fact #defined to newRV in sv.h
7204  */
7205
7206 SV *
7207 Perl_newRV(pTHX_ SV *sv)
7208 {
7209     dVAR;
7210     return newRV_noinc(SvREFCNT_inc_simple_NN(sv));
7211 }
7212
7213 /*
7214 =for apidoc newSVsv
7215
7216 Creates a new SV which is an exact duplicate of the original SV.
7217 (Uses C<sv_setsv>).
7218
7219 =cut
7220 */
7221
7222 SV *
7223 Perl_newSVsv(pTHX_ register SV *old)
7224 {
7225     dVAR;
7226     register SV *sv;
7227
7228     if (!old)
7229         return NULL;
7230     if (SvTYPE(old) == SVTYPEMASK) {
7231         if (ckWARN_d(WARN_INTERNAL))
7232             Perl_warner(aTHX_ packWARN(WARN_INTERNAL), "semi-panic: attempt to dup freed string");
7233         return NULL;
7234     }
7235     new_SV(sv);
7236     /* SV_GMAGIC is the default for sv_setv()
7237        SV_NOSTEAL prevents TEMP buffers being, well, stolen, and saves games
7238        with SvTEMP_off and SvTEMP_on round a call to sv_setsv.  */
7239     sv_setsv_flags(sv, old, SV_GMAGIC | SV_NOSTEAL);
7240     return sv;
7241 }
7242
7243 /*
7244 =for apidoc sv_reset
7245
7246 Underlying implementation for the C<reset> Perl function.
7247 Note that the perl-level function is vaguely deprecated.
7248
7249 =cut
7250 */
7251
7252 void
7253 Perl_sv_reset(pTHX_ register const char *s, HV *stash)
7254 {
7255     dVAR;
7256     char todo[PERL_UCHAR_MAX+1];
7257
7258     if (!stash)
7259         return;
7260
7261     if (!*s) {          /* reset ?? searches */
7262         MAGIC * const mg = mg_find((SV *)stash, PERL_MAGIC_symtab);
7263         if (mg) {
7264             PMOP *pm = (PMOP *) mg->mg_obj;
7265             while (pm) {
7266                 pm->op_pmdynflags &= ~PMdf_USED;
7267                 pm = pm->op_pmnext;
7268             }
7269         }
7270         return;
7271     }
7272
7273     /* reset variables */
7274
7275     if (!HvARRAY(stash))
7276         return;
7277
7278     Zero(todo, 256, char);
7279     while (*s) {
7280         I32 max;
7281         I32 i = (unsigned char)*s;
7282         if (s[1] == '-') {
7283             s += 2;
7284         }
7285         max = (unsigned char)*s++;
7286         for ( ; i <= max; i++) {
7287             todo[i] = 1;
7288         }
7289         for (i = 0; i <= (I32) HvMAX(stash); i++) {
7290             HE *entry;
7291             for (entry = HvARRAY(stash)[i];
7292                  entry;
7293                  entry = HeNEXT(entry))
7294             {
7295                 register GV *gv;
7296                 register SV *sv;
7297
7298                 if (!todo[(U8)*HeKEY(entry)])
7299                     continue;
7300                 gv = (GV*)HeVAL(entry);
7301                 sv = GvSV(gv);
7302                 if (sv) {
7303                     if (SvTHINKFIRST(sv)) {
7304                         if (!SvREADONLY(sv) && SvROK(sv))
7305                             sv_unref(sv);
7306                         /* XXX Is this continue a bug? Why should THINKFIRST
7307                            exempt us from resetting arrays and hashes?  */
7308                         continue;
7309                     }
7310                     SvOK_off(sv);
7311                     if (SvTYPE(sv) >= SVt_PV) {
7312                         SvCUR_set(sv, 0);
7313                         if (SvPVX_const(sv) != NULL)
7314                             *SvPVX(sv) = '\0';
7315                         SvTAINT(sv);
7316                     }
7317                 }
7318                 if (GvAV(gv)) {
7319                     av_clear(GvAV(gv));
7320                 }
7321                 if (GvHV(gv) && !HvNAME_get(GvHV(gv))) {
7322 #if defined(VMS)
7323                     Perl_die(aTHX_ "Can't reset %%ENV on this system");
7324 #else /* ! VMS */
7325                     hv_clear(GvHV(gv));
7326 #  if defined(USE_ENVIRON_ARRAY)
7327                     if (gv == PL_envgv)
7328                         my_clearenv();
7329 #  endif /* USE_ENVIRON_ARRAY */
7330 #endif /* VMS */
7331                 }
7332             }
7333         }
7334     }
7335 }
7336
7337 /*
7338 =for apidoc sv_2io
7339
7340 Using various gambits, try to get an IO from an SV: the IO slot if its a
7341 GV; or the recursive result if we're an RV; or the IO slot of the symbol
7342 named after the PV if we're a string.
7343
7344 =cut
7345 */
7346
7347 IO*
7348 Perl_sv_2io(pTHX_ SV *sv)
7349 {
7350     IO* io;
7351     GV* gv;
7352
7353     switch (SvTYPE(sv)) {
7354     case SVt_PVIO:
7355         io = (IO*)sv;
7356         break;
7357     case SVt_PVGV:
7358         gv = (GV*)sv;
7359         io = GvIO(gv);
7360         if (!io)
7361             Perl_croak(aTHX_ "Bad filehandle: %s", GvNAME(gv));
7362         break;
7363     default:
7364         if (!SvOK(sv))
7365             Perl_croak(aTHX_ PL_no_usym, "filehandle");
7366         if (SvROK(sv))
7367             return sv_2io(SvRV(sv));
7368         gv = gv_fetchsv(sv, 0, SVt_PVIO);
7369         if (gv)
7370             io = GvIO(gv);
7371         else
7372             io = 0;
7373         if (!io)
7374             Perl_croak(aTHX_ "Bad filehandle: %"SVf, (void*)sv);
7375         break;
7376     }
7377     return io;
7378 }
7379
7380 /*
7381 =for apidoc sv_2cv
7382
7383 Using various gambits, try to get a CV from an SV; in addition, try if
7384 possible to set C<*st> and C<*gvp> to the stash and GV associated with it.
7385 The flags in C<lref> are passed to sv_fetchsv.
7386
7387 =cut
7388 */
7389
7390 CV *
7391 Perl_sv_2cv(pTHX_ SV *sv, HV **st, GV **gvp, I32 lref)
7392 {
7393     dVAR;
7394     GV *gv = NULL;
7395     CV *cv = NULL;
7396
7397     if (!sv) {
7398         *st = NULL;
7399         *gvp = NULL;
7400         return NULL;
7401     }
7402     switch (SvTYPE(sv)) {
7403     case SVt_PVCV:
7404         *st = CvSTASH(sv);
7405         *gvp = NULL;
7406         return (CV*)sv;
7407     case SVt_PVHV:
7408     case SVt_PVAV:
7409         *st = NULL;
7410         *gvp = NULL;
7411         return NULL;
7412     case SVt_PVGV:
7413         gv = (GV*)sv;
7414         *gvp = gv;
7415         *st = GvESTASH(gv);
7416         goto fix_gv;
7417
7418     default:
7419         SvGETMAGIC(sv);
7420         if (SvROK(sv)) {
7421             SV * const *sp = &sv;       /* Used in tryAMAGICunDEREF macro. */
7422             tryAMAGICunDEREF(to_cv);
7423
7424             sv = SvRV(sv);
7425             if (SvTYPE(sv) == SVt_PVCV) {
7426                 cv = (CV*)sv;
7427                 *gvp = NULL;
7428                 *st = CvSTASH(cv);
7429                 return cv;
7430             }
7431             else if(isGV(sv))
7432                 gv = (GV*)sv;
7433             else
7434                 Perl_croak(aTHX_ "Not a subroutine reference");
7435         }
7436         else if (isGV(sv))
7437             gv = (GV*)sv;
7438         else
7439             gv = gv_fetchsv(sv, lref, SVt_PVCV);
7440         *gvp = gv;
7441         if (!gv) {
7442             *st = NULL;
7443             return NULL;
7444         }
7445         /* Some flags to gv_fetchsv mean don't really create the GV  */
7446         if (SvTYPE(gv) != SVt_PVGV) {
7447             *st = NULL;
7448             return NULL;
7449         }
7450         *st = GvESTASH(gv);
7451     fix_gv:
7452         if (lref && !GvCVu(gv)) {
7453             SV *tmpsv;
7454             ENTER;
7455             tmpsv = newSV(0);
7456             gv_efullname3(tmpsv, gv, NULL);
7457             /* XXX this is probably not what they think they're getting.
7458              * It has the same effect as "sub name;", i.e. just a forward
7459              * declaration! */
7460             newSUB(start_subparse(FALSE, 0),
7461                    newSVOP(OP_CONST, 0, tmpsv),
7462                    NULL, NULL);
7463             LEAVE;
7464             if (!GvCVu(gv))
7465                 Perl_croak(aTHX_ "Unable to create sub named \"%"SVf"\"",
7466                            (void*)sv);
7467         }
7468         return GvCVu(gv);
7469     }
7470 }
7471
7472 /*
7473 =for apidoc sv_true
7474
7475 Returns true if the SV has a true value by Perl's rules.
7476 Use the C<SvTRUE> macro instead, which may call C<sv_true()> or may
7477 instead use an in-line version.
7478
7479 =cut
7480 */
7481
7482 I32
7483 Perl_sv_true(pTHX_ register SV *sv)
7484 {
7485     if (!sv)
7486         return 0;
7487     if (SvPOK(sv)) {
7488         register const XPV* const tXpv = (XPV*)SvANY(sv);
7489         if (tXpv &&
7490                 (tXpv->xpv_cur > 1 ||
7491                 (tXpv->xpv_cur && *sv->sv_u.svu_pv != '0')))
7492             return 1;
7493         else
7494             return 0;
7495     }
7496     else {
7497         if (SvIOK(sv))
7498             return SvIVX(sv) != 0;
7499         else {
7500             if (SvNOK(sv))
7501                 return SvNVX(sv) != 0.0;
7502             else
7503                 return sv_2bool(sv);
7504         }
7505     }
7506 }
7507
7508 /*
7509 =for apidoc sv_pvn_force
7510
7511 Get a sensible string out of the SV somehow.
7512 A private implementation of the C<SvPV_force> macro for compilers which
7513 can't cope with complex macro expressions. Always use the macro instead.
7514
7515 =for apidoc sv_pvn_force_flags
7516
7517 Get a sensible string out of the SV somehow.
7518 If C<flags> has C<SV_GMAGIC> bit set, will C<mg_get> on C<sv> if
7519 appropriate, else not. C<sv_pvn_force> and C<sv_pvn_force_nomg> are
7520 implemented in terms of this function.
7521 You normally want to use the various wrapper macros instead: see
7522 C<SvPV_force> and C<SvPV_force_nomg>
7523
7524 =cut
7525 */
7526
7527 char *
7528 Perl_sv_pvn_force_flags(pTHX_ SV *sv, STRLEN *lp, I32 flags)
7529 {
7530     dVAR;
7531     if (SvTHINKFIRST(sv) && !SvROK(sv))
7532         sv_force_normal_flags(sv, 0);
7533
7534     if (SvPOK(sv)) {
7535         if (lp)
7536             *lp = SvCUR(sv);
7537     }
7538     else {
7539         char *s;
7540         STRLEN len;
7541  
7542         if (SvREADONLY(sv) && !(flags & SV_MUTABLE_RETURN)) {
7543             const char * const ref = sv_reftype(sv,0);
7544             if (PL_op)
7545                 Perl_croak(aTHX_ "Can't coerce readonly %s to string in %s",
7546                            ref, OP_NAME(PL_op));
7547             else
7548                 Perl_croak(aTHX_ "Can't coerce readonly %s to string", ref);
7549         }
7550         if (SvTYPE(sv) > SVt_PVLV && SvTYPE(sv) != SVt_PVFM)
7551             Perl_croak(aTHX_ "Can't coerce %s to string in %s", sv_reftype(sv,0),
7552                 OP_NAME(PL_op));
7553         s = sv_2pv_flags(sv, &len, flags);
7554         if (lp)
7555             *lp = len;
7556
7557         if (s != SvPVX_const(sv)) {     /* Almost, but not quite, sv_setpvn() */
7558             if (SvROK(sv))
7559                 sv_unref(sv);
7560             SvUPGRADE(sv, SVt_PV);              /* Never FALSE */
7561             SvGROW(sv, len + 1);
7562             Move(s,SvPVX(sv),len,char);
7563             SvCUR_set(sv, len);
7564             *SvEND(sv) = '\0';
7565         }
7566         if (!SvPOK(sv)) {
7567             SvPOK_on(sv);               /* validate pointer */
7568             SvTAINT(sv);
7569             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2pv(%s)\n",
7570                                   PTR2UV(sv),SvPVX_const(sv)));
7571         }
7572     }
7573     return SvPVX_mutable(sv);
7574 }
7575
7576 /*
7577 =for apidoc sv_pvbyten_force
7578
7579 The backend for the C<SvPVbytex_force> macro. Always use the macro instead.
7580
7581 =cut
7582 */
7583
7584 char *
7585 Perl_sv_pvbyten_force(pTHX_ SV *sv, STRLEN *lp)
7586 {
7587     sv_pvn_force(sv,lp);
7588     sv_utf8_downgrade(sv,0);
7589     *lp = SvCUR(sv);
7590     return SvPVX(sv);
7591 }
7592
7593 /*
7594 =for apidoc sv_pvutf8n_force
7595
7596 The backend for the C<SvPVutf8x_force> macro. Always use the macro instead.
7597
7598 =cut
7599 */
7600
7601 char *
7602 Perl_sv_pvutf8n_force(pTHX_ SV *sv, STRLEN *lp)
7603 {
7604     sv_pvn_force(sv,lp);
7605     sv_utf8_upgrade(sv);
7606     *lp = SvCUR(sv);
7607     return SvPVX(sv);
7608 }
7609
7610 /*
7611 =for apidoc sv_reftype
7612
7613 Returns a string describing what the SV is a reference to.
7614
7615 =cut
7616 */
7617
7618 char *
7619 Perl_sv_reftype(pTHX_ const SV *sv, int ob)
7620 {
7621     /* The fact that I don't need to downcast to char * everywhere, only in ?:
7622        inside return suggests a const propagation bug in g++.  */
7623     if (ob && SvOBJECT(sv)) {
7624         char * const name = HvNAME_get(SvSTASH(sv));
7625         return name ? name : (char *) "__ANON__";
7626     }
7627     else {
7628         switch (SvTYPE(sv)) {
7629         case SVt_NULL:
7630         case SVt_IV:
7631         case SVt_NV:
7632         case SVt_RV:
7633         case SVt_PV:
7634         case SVt_PVIV:
7635         case SVt_PVNV:
7636         case SVt_PVMG:
7637         case SVt_PVBM:
7638                                 if (SvVOK(sv))
7639                                     return "VSTRING";
7640                                 if (SvROK(sv))
7641                                     return "REF";
7642                                 else
7643                                     return "SCALAR";
7644
7645         case SVt_PVLV:          return (char *)  (SvROK(sv) ? "REF"
7646                                 /* tied lvalues should appear to be
7647                                  * scalars for backwards compatitbility */
7648                                 : (LvTYPE(sv) == 't' || LvTYPE(sv) == 'T')
7649                                     ? "SCALAR" : "LVALUE");
7650         case SVt_PVAV:          return "ARRAY";
7651         case SVt_PVHV:          return "HASH";
7652         case SVt_PVCV:          return "CODE";
7653         case SVt_PVGV:          return "GLOB";
7654         case SVt_PVFM:          return "FORMAT";
7655         case SVt_PVIO:          return "IO";
7656         default:                return "UNKNOWN";
7657         }
7658     }
7659 }
7660
7661 /*
7662 =for apidoc sv_isobject
7663
7664 Returns a boolean indicating whether the SV is an RV pointing to a blessed
7665 object.  If the SV is not an RV, or if the object is not blessed, then this
7666 will return false.
7667
7668 =cut
7669 */
7670
7671 int
7672 Perl_sv_isobject(pTHX_ SV *sv)
7673 {
7674     if (!sv)
7675         return 0;
7676     SvGETMAGIC(sv);
7677     if (!SvROK(sv))
7678         return 0;
7679     sv = (SV*)SvRV(sv);
7680     if (!SvOBJECT(sv))
7681         return 0;
7682     return 1;
7683 }
7684
7685 /*
7686 =for apidoc sv_isa
7687
7688 Returns a boolean indicating whether the SV is blessed into the specified
7689 class.  This does not check for subtypes; use C<sv_derived_from> to verify
7690 an inheritance relationship.
7691
7692 =cut
7693 */
7694
7695 int
7696 Perl_sv_isa(pTHX_ SV *sv, const char *name)
7697 {
7698     const char *hvname;
7699     if (!sv)
7700         return 0;
7701     SvGETMAGIC(sv);
7702     if (!SvROK(sv))
7703         return 0;
7704     sv = (SV*)SvRV(sv);
7705     if (!SvOBJECT(sv))
7706         return 0;
7707     hvname = HvNAME_get(SvSTASH(sv));
7708     if (!hvname)
7709         return 0;
7710
7711     return strEQ(hvname, name);
7712 }
7713
7714 /*
7715 =for apidoc newSVrv
7716
7717 Creates a new SV for the RV, C<rv>, to point to.  If C<rv> is not an RV then
7718 it will be upgraded to one.  If C<classname> is non-null then the new SV will
7719 be blessed in the specified package.  The new SV is returned and its
7720 reference count is 1.
7721
7722 =cut
7723 */
7724
7725 SV*
7726 Perl_newSVrv(pTHX_ SV *rv, const char *classname)
7727 {
7728     dVAR;
7729     SV *sv;
7730
7731     new_SV(sv);
7732
7733     SV_CHECK_THINKFIRST_COW_DROP(rv);
7734     SvAMAGIC_off(rv);
7735
7736     if (SvTYPE(rv) >= SVt_PVMG) {
7737         const U32 refcnt = SvREFCNT(rv);
7738         SvREFCNT(rv) = 0;
7739         sv_clear(rv);
7740         SvFLAGS(rv) = 0;
7741         SvREFCNT(rv) = refcnt;
7742
7743         sv_upgrade(rv, SVt_RV);
7744     } else if (SvROK(rv)) {
7745         SvREFCNT_dec(SvRV(rv));
7746     } else if (SvTYPE(rv) < SVt_RV)
7747         sv_upgrade(rv, SVt_RV);
7748     else if (SvTYPE(rv) > SVt_RV) {
7749         SvPV_free(rv);
7750         SvCUR_set(rv, 0);
7751         SvLEN_set(rv, 0);
7752     }
7753
7754     SvOK_off(rv);
7755     SvRV_set(rv, sv);
7756     SvROK_on(rv);
7757
7758     if (classname) {
7759         HV* const stash = gv_stashpv(classname, TRUE);
7760         (void)sv_bless(rv, stash);
7761     }
7762     return sv;
7763 }
7764
7765 /*
7766 =for apidoc sv_setref_pv
7767
7768 Copies a pointer into a new SV, optionally blessing the SV.  The C<rv>
7769 argument will be upgraded to an RV.  That RV will be modified to point to
7770 the new SV.  If the C<pv> argument is NULL then C<PL_sv_undef> will be placed
7771 into the SV.  The C<classname> argument indicates the package for the
7772 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
7773 will have a reference count of 1, and the RV will be returned.
7774
7775 Do not use with other Perl types such as HV, AV, SV, CV, because those
7776 objects will become corrupted by the pointer copy process.
7777
7778 Note that C<sv_setref_pvn> copies the string while this copies the pointer.
7779
7780 =cut
7781 */
7782
7783 SV*
7784 Perl_sv_setref_pv(pTHX_ SV *rv, const char *classname, void *pv)
7785 {
7786     dVAR;
7787     if (!pv) {
7788         sv_setsv(rv, &PL_sv_undef);
7789         SvSETMAGIC(rv);
7790     }
7791     else
7792         sv_setiv(newSVrv(rv,classname), PTR2IV(pv));
7793     return rv;
7794 }
7795
7796 /*
7797 =for apidoc sv_setref_iv
7798
7799 Copies an integer into a new SV, optionally blessing the SV.  The C<rv>
7800 argument will be upgraded to an RV.  That RV will be modified to point to
7801 the new SV.  The C<classname> argument indicates the package for the
7802 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
7803 will have a reference count of 1, and the RV will be returned.
7804
7805 =cut
7806 */
7807
7808 SV*
7809 Perl_sv_setref_iv(pTHX_ SV *rv, const char *classname, IV iv)
7810 {
7811     sv_setiv(newSVrv(rv,classname), iv);
7812     return rv;
7813 }
7814
7815 /*
7816 =for apidoc sv_setref_uv
7817
7818 Copies an unsigned integer into a new SV, optionally blessing the SV.  The C<rv>
7819 argument will be upgraded to an RV.  That RV will be modified to point to
7820 the new SV.  The C<classname> argument indicates the package for the
7821 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
7822 will have a reference count of 1, and the RV will be returned.
7823
7824 =cut
7825 */
7826
7827 SV*
7828 Perl_sv_setref_uv(pTHX_ SV *rv, const char *classname, UV uv)
7829 {
7830     sv_setuv(newSVrv(rv,classname), uv);
7831     return rv;
7832 }
7833
7834 /*
7835 =for apidoc sv_setref_nv
7836
7837 Copies a double into a new SV, optionally blessing the SV.  The C<rv>
7838 argument will be upgraded to an RV.  That RV will be modified to point to
7839 the new SV.  The C<classname> argument indicates the package for the
7840 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
7841 will have a reference count of 1, and the RV will be returned.
7842
7843 =cut
7844 */
7845
7846 SV*
7847 Perl_sv_setref_nv(pTHX_ SV *rv, const char *classname, NV nv)
7848 {
7849     sv_setnv(newSVrv(rv,classname), nv);
7850     return rv;
7851 }
7852
7853 /*
7854 =for apidoc sv_setref_pvn
7855
7856 Copies a string into a new SV, optionally blessing the SV.  The length of the
7857 string must be specified with C<n>.  The C<rv> argument will be upgraded to
7858 an RV.  That RV will be modified to point to the new SV.  The C<classname>
7859 argument indicates the package for the blessing.  Set C<classname> to
7860 C<NULL> to avoid the blessing.  The new SV will have a reference count
7861 of 1, and the RV will be returned.
7862
7863 Note that C<sv_setref_pv> copies the pointer while this copies the string.
7864
7865 =cut
7866 */
7867
7868 SV*
7869 Perl_sv_setref_pvn(pTHX_ SV *rv, const char *classname, const char *pv, STRLEN n)
7870 {
7871     sv_setpvn(newSVrv(rv,classname), pv, n);
7872     return rv;
7873 }
7874
7875 /*
7876 =for apidoc sv_bless
7877
7878 Blesses an SV into a specified package.  The SV must be an RV.  The package
7879 must be designated by its stash (see C<gv_stashpv()>).  The reference count
7880 of the SV is unaffected.
7881
7882 =cut
7883 */
7884
7885 SV*
7886 Perl_sv_bless(pTHX_ SV *sv, HV *stash)
7887 {
7888     dVAR;
7889     SV *tmpRef;
7890     if (!SvROK(sv))
7891         Perl_croak(aTHX_ "Can't bless non-reference value");
7892     tmpRef = SvRV(sv);
7893     if (SvFLAGS(tmpRef) & (SVs_OBJECT|SVf_READONLY)) {
7894         if (SvREADONLY(tmpRef))
7895             Perl_croak(aTHX_ PL_no_modify);
7896         if (SvOBJECT(tmpRef)) {
7897             if (SvTYPE(tmpRef) != SVt_PVIO)
7898                 --PL_sv_objcount;
7899             SvREFCNT_dec(SvSTASH(tmpRef));
7900         }
7901     }
7902     SvOBJECT_on(tmpRef);
7903     if (SvTYPE(tmpRef) != SVt_PVIO)
7904         ++PL_sv_objcount;
7905     SvUPGRADE(tmpRef, SVt_PVMG);
7906     SvSTASH_set(tmpRef, (HV*)SvREFCNT_inc_simple(stash));
7907
7908     if (Gv_AMG(stash))
7909         SvAMAGIC_on(sv);
7910     else
7911         SvAMAGIC_off(sv);
7912
7913     if(SvSMAGICAL(tmpRef))
7914         if(mg_find(tmpRef, PERL_MAGIC_ext) || mg_find(tmpRef, PERL_MAGIC_uvar))
7915             mg_set(tmpRef);
7916
7917
7918
7919     return sv;
7920 }
7921
7922 /* Downgrades a PVGV to a PVMG.
7923  */
7924
7925 STATIC void
7926 S_sv_unglob(pTHX_ SV *sv)
7927 {
7928     dVAR;
7929     void *xpvmg;
7930     SV * const temp = sv_newmortal();
7931
7932     assert(SvTYPE(sv) == SVt_PVGV);
7933     SvFAKE_off(sv);
7934     gv_efullname3(temp, (GV *) sv, "*");
7935
7936     if (GvGP(sv)) {
7937         gp_free((GV*)sv);
7938     }
7939     if (GvSTASH(sv)) {
7940         sv_del_backref((SV*)GvSTASH(sv), sv);
7941         GvSTASH(sv) = NULL;
7942     }
7943     GvMULTI_off(sv);
7944     if (GvNAME_HEK(sv)) {
7945         unshare_hek(GvNAME_HEK(sv));
7946     }
7947     SvSCREAM_off(sv);
7948
7949     /* need to keep SvANY(sv) in the right arena */
7950     xpvmg = new_XPVMG();
7951     StructCopy(SvANY(sv), xpvmg, XPVMG);
7952     del_XPVGV(SvANY(sv));
7953     SvANY(sv) = xpvmg;
7954
7955     SvFLAGS(sv) &= ~SVTYPEMASK;
7956     SvFLAGS(sv) |= SVt_PVMG;
7957
7958     /* Intentionally not calling any local SET magic, as this isn't so much a
7959        set operation as merely an internal storage change.  */
7960     sv_setsv_flags(sv, temp, 0);
7961 }
7962
7963 /*
7964 =for apidoc sv_unref_flags
7965
7966 Unsets the RV status of the SV, and decrements the reference count of
7967 whatever was being referenced by the RV.  This can almost be thought of
7968 as a reversal of C<newSVrv>.  The C<cflags> argument can contain
7969 C<SV_IMMEDIATE_UNREF> to force the reference count to be decremented
7970 (otherwise the decrementing is conditional on the reference count being
7971 different from one or the reference being a readonly SV).
7972 See C<SvROK_off>.
7973
7974 =cut
7975 */
7976
7977 void
7978 Perl_sv_unref_flags(pTHX_ SV *ref, U32 flags)
7979 {
7980     SV* const target = SvRV(ref);
7981
7982     if (SvWEAKREF(ref)) {
7983         sv_del_backref(target, ref);
7984         SvWEAKREF_off(ref);
7985         SvRV_set(ref, NULL);
7986         return;
7987     }
7988     SvRV_set(ref, NULL);
7989     SvROK_off(ref);
7990     /* You can't have a || SvREADONLY(target) here, as $a = $$a, where $a was
7991        assigned to as BEGIN {$a = \"Foo"} will fail.  */
7992     if (SvREFCNT(target) != 1 || (flags & SV_IMMEDIATE_UNREF))
7993         SvREFCNT_dec(target);
7994     else /* XXX Hack, but hard to make $a=$a->[1] work otherwise */
7995         sv_2mortal(target);     /* Schedule for freeing later */
7996 }
7997
7998 /*
7999 =for apidoc sv_untaint
8000
8001 Untaint an SV. Use C<SvTAINTED_off> instead.
8002 =cut
8003 */
8004
8005 void
8006 Perl_sv_untaint(pTHX_ SV *sv)
8007 {
8008     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
8009         MAGIC * const mg = mg_find(sv, PERL_MAGIC_taint);
8010         if (mg)
8011             mg->mg_len &= ~1;
8012     }
8013 }
8014
8015 /*
8016 =for apidoc sv_tainted
8017
8018 Test an SV for taintedness. Use C<SvTAINTED> instead.
8019 =cut
8020 */
8021
8022 bool
8023 Perl_sv_tainted(pTHX_ SV *sv)
8024 {
8025     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
8026         const MAGIC * const mg = mg_find(sv, PERL_MAGIC_taint);
8027         if (mg && (mg->mg_len & 1) )
8028             return TRUE;
8029     }
8030     return FALSE;
8031 }
8032
8033 /*
8034 =for apidoc sv_setpviv
8035
8036 Copies an integer into the given SV, also updating its string value.
8037 Does not handle 'set' magic.  See C<sv_setpviv_mg>.
8038
8039 =cut
8040 */
8041
8042 void
8043 Perl_sv_setpviv(pTHX_ SV *sv, IV iv)
8044 {
8045     char buf[TYPE_CHARS(UV)];
8046     char *ebuf;
8047     char * const ptr = uiv_2buf(buf, iv, 0, 0, &ebuf);
8048
8049     sv_setpvn(sv, ptr, ebuf - ptr);
8050 }
8051
8052 /*
8053 =for apidoc sv_setpviv_mg
8054
8055 Like C<sv_setpviv>, but also handles 'set' magic.
8056
8057 =cut
8058 */
8059
8060 void
8061 Perl_sv_setpviv_mg(pTHX_ SV *sv, IV iv)
8062 {
8063     sv_setpviv(sv, iv);
8064     SvSETMAGIC(sv);
8065 }
8066
8067 #if defined(PERL_IMPLICIT_CONTEXT)
8068
8069 /* pTHX_ magic can't cope with varargs, so this is a no-context
8070  * version of the main function, (which may itself be aliased to us).
8071  * Don't access this version directly.
8072  */
8073
8074 void
8075 Perl_sv_setpvf_nocontext(SV *sv, const char* pat, ...)
8076 {
8077     dTHX;
8078     va_list args;
8079     va_start(args, pat);
8080     sv_vsetpvf(sv, pat, &args);
8081     va_end(args);
8082 }
8083
8084 /* pTHX_ magic can't cope with varargs, so this is a no-context
8085  * version of the main function, (which may itself be aliased to us).
8086  * Don't access this version directly.
8087  */
8088
8089 void
8090 Perl_sv_setpvf_mg_nocontext(SV *sv, const char* pat, ...)
8091 {
8092     dTHX;
8093     va_list args;
8094     va_start(args, pat);
8095     sv_vsetpvf_mg(sv, pat, &args);
8096     va_end(args);
8097 }
8098 #endif
8099
8100 /*
8101 =for apidoc sv_setpvf
8102
8103 Works like C<sv_catpvf> but copies the text into the SV instead of
8104 appending it.  Does not handle 'set' magic.  See C<sv_setpvf_mg>.
8105
8106 =cut
8107 */
8108
8109 void
8110 Perl_sv_setpvf(pTHX_ SV *sv, const char* pat, ...)
8111 {
8112     va_list args;
8113     va_start(args, pat);
8114     sv_vsetpvf(sv, pat, &args);
8115     va_end(args);
8116 }
8117
8118 /*
8119 =for apidoc sv_vsetpvf
8120
8121 Works like C<sv_vcatpvf> but copies the text into the SV instead of
8122 appending it.  Does not handle 'set' magic.  See C<sv_vsetpvf_mg>.
8123
8124 Usually used via its frontend C<sv_setpvf>.
8125
8126 =cut
8127 */
8128
8129 void
8130 Perl_sv_vsetpvf(pTHX_ SV *sv, const char* pat, va_list* args)
8131 {
8132     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
8133 }
8134
8135 /*
8136 =for apidoc sv_setpvf_mg
8137
8138 Like C<sv_setpvf>, but also handles 'set' magic.
8139
8140 =cut
8141 */
8142
8143 void
8144 Perl_sv_setpvf_mg(pTHX_ SV *sv, const char* pat, ...)
8145 {
8146     va_list args;
8147     va_start(args, pat);
8148     sv_vsetpvf_mg(sv, pat, &args);
8149     va_end(args);
8150 }
8151
8152 /*
8153 =for apidoc sv_vsetpvf_mg
8154
8155 Like C<sv_vsetpvf>, but also handles 'set' magic.
8156
8157 Usually used via its frontend C<sv_setpvf_mg>.
8158
8159 =cut
8160 */
8161
8162 void
8163 Perl_sv_vsetpvf_mg(pTHX_ SV *sv, const char* pat, va_list* args)
8164 {
8165     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
8166     SvSETMAGIC(sv);
8167 }
8168
8169 #if defined(PERL_IMPLICIT_CONTEXT)
8170
8171 /* pTHX_ magic can't cope with varargs, so this is a no-context
8172  * version of the main function, (which may itself be aliased to us).
8173  * Don't access this version directly.
8174  */
8175
8176 void
8177 Perl_sv_catpvf_nocontext(SV *sv, const char* pat, ...)
8178 {
8179     dTHX;
8180     va_list args;
8181     va_start(args, pat);
8182     sv_vcatpvf(sv, pat, &args);
8183     va_end(args);
8184 }
8185
8186 /* pTHX_ magic can't cope with varargs, so this is a no-context
8187  * version of the main function, (which may itself be aliased to us).
8188  * Don't access this version directly.
8189  */
8190
8191 void
8192 Perl_sv_catpvf_mg_nocontext(SV *sv, const char* pat, ...)
8193 {
8194     dTHX;
8195     va_list args;
8196     va_start(args, pat);
8197     sv_vcatpvf_mg(sv, pat, &args);
8198     va_end(args);
8199 }
8200 #endif
8201
8202 /*
8203 =for apidoc sv_catpvf
8204
8205 Processes its arguments like C<sprintf> and appends the formatted
8206 output to an SV.  If the appended data contains "wide" characters
8207 (including, but not limited to, SVs with a UTF-8 PV formatted with %s,
8208 and characters >255 formatted with %c), the original SV might get
8209 upgraded to UTF-8.  Handles 'get' magic, but not 'set' magic.  See
8210 C<sv_catpvf_mg>. If the original SV was UTF-8, the pattern should be
8211 valid UTF-8; if the original SV was bytes, the pattern should be too.
8212
8213 =cut */
8214
8215 void
8216 Perl_sv_catpvf(pTHX_ SV *sv, const char* pat, ...)
8217 {
8218     va_list args;
8219     va_start(args, pat);
8220     sv_vcatpvf(sv, pat, &args);
8221     va_end(args);
8222 }
8223
8224 /*
8225 =for apidoc sv_vcatpvf
8226
8227 Processes its arguments like C<vsprintf> and appends the formatted output
8228 to an SV.  Does not handle 'set' magic.  See C<sv_vcatpvf_mg>.
8229
8230 Usually used via its frontend C<sv_catpvf>.
8231
8232 =cut
8233 */
8234
8235 void
8236 Perl_sv_vcatpvf(pTHX_ SV *sv, const char* pat, va_list* args)
8237 {
8238     sv_vcatpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
8239 }
8240
8241 /*
8242 =for apidoc sv_catpvf_mg
8243
8244 Like C<sv_catpvf>, but also handles 'set' magic.
8245
8246 =cut
8247 */
8248
8249 void
8250 Perl_sv_catpvf_mg(pTHX_ SV *sv, const char* pat, ...)
8251 {
8252     va_list args;
8253     va_start(args, pat);
8254     sv_vcatpvf_mg(sv, pat, &args);
8255     va_end(args);
8256 }
8257
8258 /*
8259 =for apidoc sv_vcatpvf_mg
8260
8261 Like C<sv_vcatpvf>, but also handles 'set' magic.
8262
8263 Usually used via its frontend C<sv_catpvf_mg>.
8264
8265 =cut
8266 */
8267
8268 void
8269 Perl_sv_vcatpvf_mg(pTHX_ SV *sv, const char* pat, va_list* args)
8270 {
8271     sv_vcatpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
8272     SvSETMAGIC(sv);
8273 }
8274
8275 /*
8276 =for apidoc sv_vsetpvfn
8277
8278 Works like C<sv_vcatpvfn> but copies the text into the SV instead of
8279 appending it.
8280
8281 Usually used via one of its frontends C<sv_vsetpvf> and C<sv_vsetpvf_mg>.
8282
8283 =cut
8284 */
8285
8286 void
8287 Perl_sv_vsetpvfn(pTHX_ SV *sv, const char *pat, STRLEN patlen, va_list *args, SV **svargs, I32 svmax, bool *maybe_tainted)
8288 {
8289     sv_setpvn(sv, "", 0);
8290     sv_vcatpvfn(sv, pat, patlen, args, svargs, svmax, maybe_tainted);
8291 }
8292
8293 STATIC I32
8294 S_expect_number(pTHX_ char** pattern)
8295 {
8296     dVAR;
8297     I32 var = 0;
8298     switch (**pattern) {
8299     case '1': case '2': case '3':
8300     case '4': case '5': case '6':
8301     case '7': case '8': case '9':
8302         var = *(*pattern)++ - '0';
8303         while (isDIGIT(**pattern)) {
8304             const I32 tmp = var * 10 + (*(*pattern)++ - '0');
8305             if (tmp < var)
8306                 Perl_croak(aTHX_ "Integer overflow in format string for %s", (PL_op ? OP_NAME(PL_op) : "sv_vcatpvfn"));
8307             var = tmp;
8308         }
8309     }
8310     return var;
8311 }
8312
8313 STATIC char *
8314 S_F0convert(NV nv, char *endbuf, STRLEN *len)
8315 {
8316     const int neg = nv < 0;
8317     UV uv;
8318
8319     if (neg)
8320         nv = -nv;
8321     if (nv < UV_MAX) {
8322         char *p = endbuf;
8323         nv += 0.5;
8324         uv = (UV)nv;
8325         if (uv & 1 && uv == nv)
8326             uv--;                       /* Round to even */
8327         do {
8328             const unsigned dig = uv % 10;
8329             *--p = '0' + dig;
8330         } while (uv /= 10);
8331         if (neg)
8332             *--p = '-';
8333         *len = endbuf - p;
8334         return p;
8335     }
8336     return NULL;
8337 }
8338
8339
8340 /*
8341 =for apidoc sv_vcatpvfn
8342
8343 Processes its arguments like C<vsprintf> and appends the formatted output
8344 to an SV.  Uses an array of SVs if the C style variable argument list is
8345 missing (NULL).  When running with taint checks enabled, indicates via
8346 C<maybe_tainted> if results are untrustworthy (often due to the use of
8347 locales).
8348
8349 Usually used via one of its frontends C<sv_vcatpvf> and C<sv_vcatpvf_mg>.
8350
8351 =cut
8352 */
8353
8354
8355 #define VECTORIZE_ARGS  vecsv = va_arg(*args, SV*);\
8356                         vecstr = (U8*)SvPV_const(vecsv,veclen);\
8357                         vec_utf8 = DO_UTF8(vecsv);
8358
8359 /* XXX maybe_tainted is never assigned to, so the doc above is lying. */
8360
8361 void
8362 Perl_sv_vcatpvfn(pTHX_ SV *sv, const char *pat, STRLEN patlen, va_list *args, SV **svargs, I32 svmax, bool *maybe_tainted)
8363 {
8364     dVAR;
8365     char *p;
8366     char *q;
8367     const char *patend;
8368     STRLEN origlen;
8369     I32 svix = 0;
8370     static const char nullstr[] = "(null)";
8371     SV *argsv = NULL;
8372     bool has_utf8 = DO_UTF8(sv);    /* has the result utf8? */
8373     const bool pat_utf8 = has_utf8; /* the pattern is in utf8? */
8374     SV *nsv = NULL;
8375     /* Times 4: a decimal digit takes more than 3 binary digits.
8376      * NV_DIG: mantissa takes than many decimal digits.
8377      * Plus 32: Playing safe. */
8378     char ebuf[IV_DIG * 4 + NV_DIG + 32];
8379     /* large enough for "%#.#f" --chip */
8380     /* what about long double NVs? --jhi */
8381
8382     PERL_UNUSED_ARG(maybe_tainted);
8383
8384     /* no matter what, this is a string now */
8385     (void)SvPV_force(sv, origlen);
8386
8387     /* special-case "", "%s", and "%-p" (SVf - see below) */
8388     if (patlen == 0)
8389         return;
8390     if (patlen == 2 && pat[0] == '%' && pat[1] == 's') {
8391         if (args) {
8392             const char * const s = va_arg(*args, char*);
8393             sv_catpv(sv, s ? s : nullstr);
8394         }
8395         else if (svix < svmax) {
8396             sv_catsv(sv, *svargs);
8397         }
8398         return;
8399     }
8400     if (args && patlen == 3 && pat[0] == '%' &&
8401                 pat[1] == '-' && pat[2] == 'p') {
8402         argsv = va_arg(*args, SV*);
8403         sv_catsv(sv, argsv);
8404         return;
8405     }
8406
8407 #ifndef USE_LONG_DOUBLE
8408     /* special-case "%.<number>[gf]" */
8409     if ( !args && patlen <= 5 && pat[0] == '%' && pat[1] == '.'
8410          && (pat[patlen-1] == 'g' || pat[patlen-1] == 'f') ) {
8411         unsigned digits = 0;
8412         const char *pp;
8413
8414         pp = pat + 2;
8415         while (*pp >= '0' && *pp <= '9')
8416             digits = 10 * digits + (*pp++ - '0');
8417         if (pp - pat == (int)patlen - 1) {
8418             NV nv;
8419
8420             if (svix < svmax)
8421                 nv = SvNV(*svargs);
8422             else
8423                 return;
8424             if (*pp == 'g') {
8425                 /* Add check for digits != 0 because it seems that some
8426                    gconverts are buggy in this case, and we don't yet have
8427                    a Configure test for this.  */
8428                 if (digits && digits < sizeof(ebuf) - NV_DIG - 10) {
8429                      /* 0, point, slack */
8430                     Gconvert(nv, (int)digits, 0, ebuf);
8431                     sv_catpv(sv, ebuf);
8432                     if (*ebuf)  /* May return an empty string for digits==0 */
8433                         return;
8434                 }
8435             } else if (!digits) {
8436                 STRLEN l;
8437
8438                 if ((p = F0convert(nv, ebuf + sizeof ebuf, &l))) {
8439                     sv_catpvn(sv, p, l);
8440                     return;
8441                 }
8442             }
8443         }
8444     }
8445 #endif /* !USE_LONG_DOUBLE */
8446
8447     if (!args && svix < svmax && DO_UTF8(*svargs))
8448         has_utf8 = TRUE;
8449
8450     patend = (char*)pat + patlen;
8451     for (p = (char*)pat; p < patend; p = q) {
8452         bool alt = FALSE;
8453         bool left = FALSE;
8454         bool vectorize = FALSE;
8455         bool vectorarg = FALSE;
8456         bool vec_utf8 = FALSE;
8457         char fill = ' ';
8458         char plus = 0;
8459         char intsize = 0;
8460         STRLEN width = 0;
8461         STRLEN zeros = 0;
8462         bool has_precis = FALSE;
8463         STRLEN precis = 0;
8464         const I32 osvix = svix;
8465         bool is_utf8 = FALSE;  /* is this item utf8?   */
8466 #ifdef HAS_LDBL_SPRINTF_BUG
8467         /* This is to try to fix a bug with irix/nonstop-ux/powerux and
8468            with sfio - Allen <allens@cpan.org> */
8469         bool fix_ldbl_sprintf_bug = FALSE;
8470 #endif
8471
8472         char esignbuf[4];
8473         U8 utf8buf[UTF8_MAXBYTES+1];
8474         STRLEN esignlen = 0;
8475
8476         const char *eptr = NULL;
8477         STRLEN elen = 0;
8478         SV *vecsv = NULL;
8479         const U8 *vecstr = NULL;
8480         STRLEN veclen = 0;
8481         char c = 0;
8482         int i;
8483         unsigned base = 0;
8484         IV iv = 0;
8485         UV uv = 0;
8486         /* we need a long double target in case HAS_LONG_DOUBLE but
8487            not USE_LONG_DOUBLE
8488         */
8489 #if defined(HAS_LONG_DOUBLE) && LONG_DOUBLESIZE > DOUBLESIZE
8490         long double nv;
8491 #else
8492         NV nv;
8493 #endif
8494         STRLEN have;
8495         STRLEN need;
8496         STRLEN gap;
8497         const char *dotstr = ".";
8498         STRLEN dotstrlen = 1;
8499         I32 efix = 0; /* explicit format parameter index */
8500         I32 ewix = 0; /* explicit width index */
8501         I32 epix = 0; /* explicit precision index */
8502         I32 evix = 0; /* explicit vector index */
8503         bool asterisk = FALSE;
8504
8505         /* echo everything up to the next format specification */
8506         for (q = p; q < patend && *q != '%'; ++q) ;
8507         if (q > p) {
8508             if (has_utf8 && !pat_utf8)
8509                 sv_catpvn_utf8_upgrade(sv, p, q - p, nsv);
8510             else
8511                 sv_catpvn(sv, p, q - p);
8512             p = q;
8513         }
8514         if (q++ >= patend)
8515             break;
8516
8517 /*
8518     We allow format specification elements in this order:
8519         \d+\$              explicit format parameter index
8520         [-+ 0#]+           flags
8521         v|\*(\d+\$)?v      vector with optional (optionally specified) arg
8522         0                  flag (as above): repeated to allow "v02"     
8523         \d+|\*(\d+\$)?     width using optional (optionally specified) arg
8524         \.(\d*|\*(\d+\$)?) precision using optional (optionally specified) arg
8525         [hlqLV]            size
8526     [%bcdefginopsuxDFOUX] format (mandatory)
8527 */
8528
8529         if (args) {
8530 /*  
8531         As of perl5.9.3, printf format checking is on by default.
8532         Internally, perl uses %p formats to provide an escape to
8533         some extended formatting.  This block deals with those
8534         extensions: if it does not match, (char*)q is reset and
8535         the normal format processing code is used.
8536
8537         Currently defined extensions are:
8538                 %p              include pointer address (standard)      
8539                 %-p     (SVf)   include an SV (previously %_)
8540                 %-<num>p        include an SV with precision <num>      
8541                 %1p     (VDf)   include a v-string (as %vd)
8542                 %<num>p         reserved for future extensions
8543
8544         Robin Barker 2005-07-14
8545 */
8546             char* r = q; 
8547             bool sv = FALSE;    
8548             STRLEN n = 0;
8549             if (*q == '-')
8550                 sv = *q++;
8551             n = expect_number(&q);
8552             if (*q++ == 'p') {
8553                 if (sv) {                       /* SVf */
8554                     if (n) {
8555                         precis = n;
8556                         has_precis = TRUE;
8557                     }
8558                     argsv = va_arg(*args, SV*);
8559                     eptr = SvPVx_const(argsv, elen);
8560                     if (DO_UTF8(argsv))
8561                         is_utf8 = TRUE;
8562                     goto string;
8563                 }
8564 #if vdNUMBER
8565                 else if (n == vdNUMBER) {       /* VDf */
8566                     vectorize = TRUE;
8567                     VECTORIZE_ARGS
8568                     goto format_vd;
8569                 }
8570 #endif
8571                 else if (n) {
8572                     if (ckWARN_d(WARN_INTERNAL))
8573                         Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
8574                         "internal %%<num>p might conflict with future printf extensions");
8575                 }
8576             }
8577             q = r; 
8578         }
8579
8580         if ( (width = expect_number(&q)) ) {
8581             if (*q == '$') {
8582                 ++q;
8583                 efix = width;
8584             } else {
8585                 goto gotwidth;
8586             }
8587         }
8588
8589         /* FLAGS */
8590
8591         while (*q) {
8592             switch (*q) {
8593             case ' ':
8594             case '+':
8595                 plus = *q++;
8596                 continue;
8597
8598             case '-':
8599                 left = TRUE;
8600                 q++;
8601                 continue;
8602
8603             case '0':
8604                 fill = *q++;
8605                 continue;
8606
8607             case '#':
8608                 alt = TRUE;
8609                 q++;
8610                 continue;
8611
8612             default:
8613                 break;
8614             }
8615             break;
8616         }
8617
8618       tryasterisk:
8619         if (*q == '*') {
8620             q++;
8621             if ( (ewix = expect_number(&q)) )
8622                 if (*q++ != '$')
8623                     goto unknown;
8624             asterisk = TRUE;
8625         }
8626         if (*q == 'v') {
8627             q++;
8628             if (vectorize)
8629                 goto unknown;
8630             if ((vectorarg = asterisk)) {
8631                 evix = ewix;
8632                 ewix = 0;
8633                 asterisk = FALSE;
8634             }
8635             vectorize = TRUE;
8636             goto tryasterisk;
8637         }
8638
8639         if (!asterisk)
8640         {
8641             if( *q == '0' )
8642                 fill = *q++;
8643             width = expect_number(&q);
8644         }
8645
8646         if (vectorize) {
8647             if (vectorarg) {
8648                 if (args)
8649                     vecsv = va_arg(*args, SV*);
8650                 else if (evix) {
8651                     vecsv = (evix > 0 && evix <= svmax)
8652                         ? svargs[evix-1] : &PL_sv_undef;
8653                 } else {
8654                     vecsv = svix < svmax ? svargs[svix++] : &PL_sv_undef;
8655                 }
8656                 dotstr = SvPV_const(vecsv, dotstrlen);
8657                 /* Keep the DO_UTF8 test *after* the SvPV call, else things go
8658                    bad with tied or overloaded values that return UTF8.  */
8659                 if (DO_UTF8(vecsv))
8660                     is_utf8 = TRUE;
8661                 else if (has_utf8) {
8662                     vecsv = sv_mortalcopy(vecsv);
8663                     sv_utf8_upgrade(vecsv);
8664                     dotstr = SvPV_const(vecsv, dotstrlen);
8665                     is_utf8 = TRUE;
8666                 }                   
8667             }
8668             if (args) {
8669                 VECTORIZE_ARGS
8670             }
8671             else if (efix ? (efix > 0 && efix <= svmax) : svix < svmax) {
8672                 vecsv = svargs[efix ? efix-1 : svix++];
8673                 vecstr = (U8*)SvPV_const(vecsv,veclen);
8674                 vec_utf8 = DO_UTF8(vecsv);
8675
8676                 /* if this is a version object, we need to convert
8677                  * back into v-string notation and then let the
8678                  * vectorize happen normally
8679                  */
8680                 if (sv_derived_from(vecsv, "version")) {
8681                     char *version = savesvpv(vecsv);
8682                     if ( hv_exists((HV*)SvRV(vecsv), "alpha", 5 ) ) {
8683                         Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
8684                         "vector argument not supported with alpha versions");
8685                         goto unknown;
8686                     }
8687                     vecsv = sv_newmortal();
8688                     /* scan_vstring is expected to be called during
8689                      * tokenization, so we need to fake up the end
8690                      * of the buffer for it
8691                      */
8692                     PL_bufend = version + veclen;
8693                     scan_vstring(version, vecsv);
8694                     vecstr = (U8*)SvPV_const(vecsv, veclen);
8695                     vec_utf8 = DO_UTF8(vecsv);
8696                     Safefree(version);
8697                 }
8698             }
8699             else {
8700                 vecstr = (U8*)"";
8701                 veclen = 0;
8702             }
8703         }
8704
8705         if (asterisk) {
8706             if (args)
8707                 i = va_arg(*args, int);
8708             else
8709                 i = (ewix ? ewix <= svmax : svix < svmax) ?
8710                     SvIVx(svargs[ewix ? ewix-1 : svix++]) : 0;
8711             left |= (i < 0);
8712             width = (i < 0) ? -i : i;
8713         }
8714       gotwidth:
8715
8716         /* PRECISION */
8717
8718         if (*q == '.') {
8719             q++;
8720             if (*q == '*') {
8721                 q++;
8722                 if ( ((epix = expect_number(&q))) && (*q++ != '$') )
8723                     goto unknown;
8724                 /* XXX: todo, support specified precision parameter */
8725                 if (epix)
8726                     goto unknown;
8727                 if (args)
8728                     i = va_arg(*args, int);
8729                 else
8730                     i = (ewix ? ewix <= svmax : svix < svmax)
8731                         ? SvIVx(svargs[ewix ? ewix-1 : svix++]) : 0;
8732                 precis = (i < 0) ? 0 : i;
8733             }
8734             else {
8735                 precis = 0;
8736                 while (isDIGIT(*q))
8737                     precis = precis * 10 + (*q++ - '0');
8738             }
8739             has_precis = TRUE;
8740         }
8741
8742         /* SIZE */
8743
8744         switch (*q) {
8745 #ifdef WIN32
8746         case 'I':                       /* Ix, I32x, and I64x */
8747 #  ifdef WIN64
8748             if (q[1] == '6' && q[2] == '4') {
8749                 q += 3;
8750                 intsize = 'q';
8751                 break;
8752             }
8753 #  endif
8754             if (q[1] == '3' && q[2] == '2') {
8755                 q += 3;
8756                 break;
8757             }
8758 #  ifdef WIN64
8759             intsize = 'q';
8760 #  endif
8761             q++;
8762             break;
8763 #endif
8764 #if defined(HAS_QUAD) || defined(HAS_LONG_DOUBLE)
8765         case 'L':                       /* Ld */
8766             /*FALLTHROUGH*/
8767 #ifdef HAS_QUAD
8768         case 'q':                       /* qd */
8769 #endif
8770             intsize = 'q';
8771             q++;
8772             break;
8773 #endif
8774         case 'l':
8775 #if defined(HAS_QUAD) || defined(HAS_LONG_DOUBLE)
8776             if (*(q + 1) == 'l') {      /* lld, llf */
8777                 intsize = 'q';
8778                 q += 2;
8779                 break;
8780              }
8781 #endif
8782             /*FALLTHROUGH*/
8783         case 'h':
8784             /*FALLTHROUGH*/
8785         case 'V':
8786             intsize = *q++;
8787             break;
8788         }
8789
8790         /* CONVERSION */
8791
8792         if (*q == '%') {
8793             eptr = q++;
8794             elen = 1;
8795             if (vectorize) {
8796                 c = '%';
8797                 goto unknown;
8798             }
8799             goto string;
8800         }
8801
8802         if (!vectorize && !args) {
8803             if (efix) {
8804                 const I32 i = efix-1;
8805                 argsv = (i >= 0 && i < svmax) ? svargs[i] : &PL_sv_undef;
8806             } else {
8807                 argsv = (svix >= 0 && svix < svmax)
8808                     ? svargs[svix++] : &PL_sv_undef;
8809             }
8810         }
8811
8812         switch (c = *q++) {
8813
8814             /* STRINGS */
8815
8816         case 'c':
8817             if (vectorize)
8818                 goto unknown;
8819             uv = (args) ? va_arg(*args, int) : SvIVx(argsv);
8820             if ((uv > 255 ||
8821                  (!UNI_IS_INVARIANT(uv) && SvUTF8(sv)))
8822                 && !IN_BYTES) {
8823                 eptr = (char*)utf8buf;
8824                 elen = uvchr_to_utf8((U8*)eptr, uv) - utf8buf;
8825                 is_utf8 = TRUE;
8826             }
8827             else {
8828                 c = (char)uv;
8829                 eptr = &c;
8830                 elen = 1;
8831             }
8832             goto string;
8833
8834         case 's':
8835             if (vectorize)
8836                 goto unknown;
8837             if (args) {
8838                 eptr = va_arg(*args, char*);
8839                 if (eptr)
8840 #ifdef MACOS_TRADITIONAL
8841                   /* On MacOS, %#s format is used for Pascal strings */
8842                   if (alt)
8843                     elen = *eptr++;
8844                   else
8845 #endif
8846                     elen = strlen(eptr);
8847                 else {
8848                     eptr = (char *)nullstr;
8849                     elen = sizeof nullstr - 1;
8850                 }
8851             }
8852             else {
8853                 eptr = SvPVx_const(argsv, elen);
8854                 if (DO_UTF8(argsv)) {
8855                     if (has_precis && precis < elen) {
8856                         I32 p = precis;
8857                         sv_pos_u2b(argsv, &p, 0); /* sticks at end */
8858                         precis = p;
8859                     }
8860                     if (width) { /* fudge width (can't fudge elen) */
8861                         width += elen - sv_len_utf8(argsv);
8862                     }
8863                     is_utf8 = TRUE;
8864                 }
8865             }
8866
8867         string:
8868             if (has_precis && elen > precis)
8869                 elen = precis;
8870             break;
8871
8872             /* INTEGERS */
8873
8874         case 'p':
8875             if (alt || vectorize)
8876                 goto unknown;
8877             uv = PTR2UV(args ? va_arg(*args, void*) : argsv);
8878             base = 16;
8879             goto integer;
8880
8881         case 'D':
8882 #ifdef IV_IS_QUAD
8883             intsize = 'q';
8884 #else
8885             intsize = 'l';
8886 #endif
8887             /*FALLTHROUGH*/
8888         case 'd':
8889         case 'i':
8890 #if vdNUMBER
8891         format_vd:
8892 #endif
8893             if (vectorize) {
8894                 STRLEN ulen;
8895                 if (!veclen)
8896                     continue;
8897                 if (vec_utf8)
8898                     uv = utf8n_to_uvchr(vecstr, veclen, &ulen,
8899                                         UTF8_ALLOW_ANYUV);
8900                 else {
8901                     uv = *vecstr;
8902                     ulen = 1;
8903                 }
8904                 vecstr += ulen;
8905                 veclen -= ulen;
8906                 if (plus)
8907                      esignbuf[esignlen++] = plus;
8908             }
8909             else if (args) {
8910                 switch (intsize) {
8911                 case 'h':       iv = (short)va_arg(*args, int); break;
8912                 case 'l':       iv = va_arg(*args, long); break;
8913                 case 'V':       iv = va_arg(*args, IV); break;
8914                 default:        iv = va_arg(*args, int); break;
8915 #ifdef HAS_QUAD
8916                 case 'q':       iv = va_arg(*args, Quad_t); break;
8917 #endif
8918                 }
8919             }
8920             else {
8921                 IV tiv = SvIVx(argsv); /* work around GCC bug #13488 */
8922                 switch (intsize) {
8923                 case 'h':       iv = (short)tiv; break;
8924                 case 'l':       iv = (long)tiv; break;
8925                 case 'V':
8926                 default:        iv = tiv; break;
8927 #ifdef HAS_QUAD
8928                 case 'q':       iv = (Quad_t)tiv; break;
8929 #endif
8930                 }
8931             }
8932             if ( !vectorize )   /* we already set uv above */
8933             {
8934                 if (iv >= 0) {
8935                     uv = iv;
8936                     if (plus)
8937                         esignbuf[esignlen++] = plus;
8938                 }
8939                 else {
8940                     uv = -iv;
8941                     esignbuf[esignlen++] = '-';
8942                 }
8943             }
8944             base = 10;
8945             goto integer;
8946
8947         case 'U':
8948 #ifdef IV_IS_QUAD
8949             intsize = 'q';
8950 #else
8951             intsize = 'l';
8952 #endif
8953             /*FALLTHROUGH*/
8954         case 'u':
8955             base = 10;
8956             goto uns_integer;
8957
8958         case 'b':
8959             base = 2;
8960             goto uns_integer;
8961
8962         case 'O':
8963 #ifdef IV_IS_QUAD
8964             intsize = 'q';
8965 #else
8966             intsize = 'l';
8967 #endif
8968             /*FALLTHROUGH*/
8969         case 'o':
8970             base = 8;
8971             goto uns_integer;
8972
8973         case 'X':
8974         case 'x':
8975             base = 16;
8976
8977         uns_integer:
8978             if (vectorize) {
8979                 STRLEN ulen;
8980         vector:
8981                 if (!veclen)
8982                     continue;
8983                 if (vec_utf8)
8984                     uv = utf8n_to_uvchr(vecstr, veclen, &ulen,
8985                                         UTF8_ALLOW_ANYUV);
8986                 else {
8987                     uv = *vecstr;
8988                     ulen = 1;
8989                 }
8990                 vecstr += ulen;
8991                 veclen -= ulen;
8992             }
8993             else if (args) {
8994                 switch (intsize) {
8995                 case 'h':  uv = (unsigned short)va_arg(*args, unsigned); break;
8996                 case 'l':  uv = va_arg(*args, unsigned long); break;
8997                 case 'V':  uv = va_arg(*args, UV); break;
8998                 default:   uv = va_arg(*args, unsigned); break;
8999 #ifdef HAS_QUAD
9000                 case 'q':  uv = va_arg(*args, Uquad_t); break;
9001 #endif
9002                 }
9003             }
9004             else {
9005                 UV tuv = SvUVx(argsv); /* work around GCC bug #13488 */
9006                 switch (intsize) {
9007                 case 'h':       uv = (unsigned short)tuv; break;
9008                 case 'l':       uv = (unsigned long)tuv; break;
9009                 case 'V':
9010                 default:        uv = tuv; break;
9011 #ifdef HAS_QUAD
9012                 case 'q':       uv = (Uquad_t)tuv; break;
9013 #endif
9014                 }
9015             }
9016
9017         integer:
9018             {
9019                 char *ptr = ebuf + sizeof ebuf;
9020                 switch (base) {
9021                     unsigned dig;
9022                 case 16:
9023                     if (!uv)
9024                         alt = FALSE;
9025                     p = (char*)((c == 'X')
9026                                 ? "0123456789ABCDEF" : "0123456789abcdef");
9027                     do {
9028                         dig = uv & 15;
9029                         *--ptr = p[dig];
9030                     } while (uv >>= 4);
9031                     if (alt) {
9032                         esignbuf[esignlen++] = '0';
9033                         esignbuf[esignlen++] = c;  /* 'x' or 'X' */
9034                     }
9035                     break;
9036                 case 8:
9037                     do {
9038                         dig = uv & 7;
9039                         *--ptr = '0' + dig;
9040                     } while (uv >>= 3);
9041                     if (alt && *ptr != '0')
9042                         *--ptr = '0';
9043                     break;
9044                 case 2:
9045                     if (!uv)
9046                         alt = FALSE;
9047                     do {
9048                         dig = uv & 1;
9049                         *--ptr = '0' + dig;
9050                     } while (uv >>= 1);
9051                     if (alt) {
9052                         esignbuf[esignlen++] = '0';
9053                         esignbuf[esignlen++] = 'b';
9054                     }
9055                     break;
9056                 default:                /* it had better be ten or less */
9057                     do {
9058                         dig = uv % base;
9059                         *--ptr = '0' + dig;
9060                     } while (uv /= base);
9061                     break;
9062                 }
9063                 elen = (ebuf + sizeof ebuf) - ptr;
9064                 eptr = ptr;
9065                 if (has_precis) {
9066                     if (precis > elen)
9067                         zeros = precis - elen;
9068                     else if (precis == 0 && elen == 1 && *eptr == '0')
9069                         elen = 0;
9070                 }
9071             }
9072             break;
9073
9074             /* FLOATING POINT */
9075
9076         case 'F':
9077             c = 'f';            /* maybe %F isn't supported here */
9078             /*FALLTHROUGH*/
9079         case 'e': case 'E':
9080         case 'f':
9081         case 'g': case 'G':
9082             if (vectorize)
9083                 goto unknown;
9084
9085             /* This is evil, but floating point is even more evil */
9086
9087             /* for SV-style calling, we can only get NV
9088                for C-style calling, we assume %f is double;
9089                for simplicity we allow any of %Lf, %llf, %qf for long double
9090             */
9091             switch (intsize) {
9092             case 'V':
9093 #if defined(USE_LONG_DOUBLE)
9094                 intsize = 'q';
9095 #endif
9096                 break;
9097 /* [perl #20339] - we should accept and ignore %lf rather than die */
9098             case 'l':
9099                 /*FALLTHROUGH*/
9100             default:
9101 #if defined(USE_LONG_DOUBLE)
9102                 intsize = args ? 0 : 'q';
9103 #endif
9104                 break;
9105             case 'q':
9106 #if defined(HAS_LONG_DOUBLE)
9107                 break;
9108 #else
9109                 /*FALLTHROUGH*/
9110 #endif
9111             case 'h':
9112                 goto unknown;
9113             }
9114
9115             /* now we need (long double) if intsize == 'q', else (double) */
9116             nv = (args) ?
9117 #if LONG_DOUBLESIZE > DOUBLESIZE
9118                 intsize == 'q' ?
9119                     va_arg(*args, long double) :
9120                     va_arg(*args, double)
9121 #else
9122                     va_arg(*args, double)
9123 #endif
9124                 : SvNVx(argsv);
9125
9126             need = 0;
9127             if (c != 'e' && c != 'E') {
9128                 i = PERL_INT_MIN;
9129                 /* FIXME: if HAS_LONG_DOUBLE but not USE_LONG_DOUBLE this
9130                    will cast our (long double) to (double) */
9131                 (void)Perl_frexp(nv, &i);
9132                 if (i == PERL_INT_MIN)
9133                     Perl_die(aTHX_ "panic: frexp");
9134                 if (i > 0)
9135                     need = BIT_DIGITS(i);
9136             }
9137             need += has_precis ? precis : 6; /* known default */
9138
9139             if (need < width)
9140                 need = width;
9141
9142 #ifdef HAS_LDBL_SPRINTF_BUG
9143             /* This is to try to fix a bug with irix/nonstop-ux/powerux and
9144                with sfio - Allen <allens@cpan.org> */
9145
9146 #  ifdef DBL_MAX
9147 #    define MY_DBL_MAX DBL_MAX
9148 #  else /* XXX guessing! HUGE_VAL may be defined as infinity, so not using */
9149 #    if DOUBLESIZE >= 8
9150 #      define MY_DBL_MAX 1.7976931348623157E+308L
9151 #    else
9152 #      define MY_DBL_MAX 3.40282347E+38L
9153 #    endif
9154 #  endif
9155
9156 #  ifdef HAS_LDBL_SPRINTF_BUG_LESS1 /* only between -1L & 1L - Allen */
9157 #    define MY_DBL_MAX_BUG 1L
9158 #  else
9159 #    define MY_DBL_MAX_BUG MY_DBL_MAX
9160 #  endif
9161
9162 #  ifdef DBL_MIN
9163 #    define MY_DBL_MIN DBL_MIN
9164 #  else  /* XXX guessing! -Allen */
9165 #    if DOUBLESIZE >= 8
9166 #      define MY_DBL_MIN 2.2250738585072014E-308L
9167 #    else
9168 #      define MY_DBL_MIN 1.17549435E-38L
9169 #    endif
9170 #  endif
9171
9172             if ((intsize == 'q') && (c == 'f') &&
9173                 ((nv < MY_DBL_MAX_BUG) && (nv > -MY_DBL_MAX_BUG)) &&
9174                 (need < DBL_DIG)) {
9175                 /* it's going to be short enough that
9176                  * long double precision is not needed */
9177
9178                 if ((nv <= 0L) && (nv >= -0L))
9179                     fix_ldbl_sprintf_bug = TRUE; /* 0 is 0 - easiest */
9180                 else {
9181                     /* would use Perl_fp_class as a double-check but not
9182                      * functional on IRIX - see perl.h comments */
9183
9184                     if ((nv >= MY_DBL_MIN) || (nv <= -MY_DBL_MIN)) {
9185                         /* It's within the range that a double can represent */
9186 #if defined(DBL_MAX) && !defined(DBL_MIN)
9187                         if ((nv >= ((long double)1/DBL_MAX)) ||
9188                             (nv <= (-(long double)1/DBL_MAX)))
9189 #endif
9190                         fix_ldbl_sprintf_bug = TRUE;
9191                     }
9192                 }
9193                 if (fix_ldbl_sprintf_bug == TRUE) {
9194                     double temp;
9195
9196                     intsize = 0;
9197                     temp = (double)nv;
9198                     nv = (NV)temp;
9199                 }
9200             }
9201
9202 #  undef MY_DBL_MAX
9203 #  undef MY_DBL_MAX_BUG
9204 #  undef MY_DBL_MIN
9205
9206 #endif /* HAS_LDBL_SPRINTF_BUG */
9207
9208             need += 20; /* fudge factor */
9209             if (PL_efloatsize < need) {
9210                 Safefree(PL_efloatbuf);
9211                 PL_efloatsize = need + 20; /* more fudge */
9212                 Newx(PL_efloatbuf, PL_efloatsize, char);
9213                 PL_efloatbuf[0] = '\0';
9214             }
9215
9216             if ( !(width || left || plus || alt) && fill != '0'
9217                  && has_precis && intsize != 'q' ) {    /* Shortcuts */
9218                 /* See earlier comment about buggy Gconvert when digits,
9219                    aka precis is 0  */
9220                 if ( c == 'g' && precis) {
9221                     Gconvert((NV)nv, (int)precis, 0, PL_efloatbuf);
9222                     /* May return an empty string for digits==0 */
9223                     if (*PL_efloatbuf) {
9224                         elen = strlen(PL_efloatbuf);
9225                         goto float_converted;
9226                     }
9227                 } else if ( c == 'f' && !precis) {
9228                     if ((eptr = F0convert(nv, ebuf + sizeof ebuf, &elen)))
9229                         break;
9230                 }
9231             }
9232             {
9233                 char *ptr = ebuf + sizeof ebuf;
9234                 *--ptr = '\0';
9235                 *--ptr = c;
9236                 /* FIXME: what to do if HAS_LONG_DOUBLE but not PERL_PRIfldbl? */
9237 #if defined(HAS_LONG_DOUBLE) && defined(PERL_PRIfldbl)
9238                 if (intsize == 'q') {
9239                     /* Copy the one or more characters in a long double
9240                      * format before the 'base' ([efgEFG]) character to
9241                      * the format string. */
9242                     static char const prifldbl[] = PERL_PRIfldbl;
9243                     char const *p = prifldbl + sizeof(prifldbl) - 3;
9244                     while (p >= prifldbl) { *--ptr = *p--; }
9245                 }
9246 #endif
9247                 if (has_precis) {
9248                     base = precis;
9249                     do { *--ptr = '0' + (base % 10); } while (base /= 10);
9250                     *--ptr = '.';
9251                 }
9252                 if (width) {
9253                     base = width;
9254                     do { *--ptr = '0' + (base % 10); } while (base /= 10);
9255                 }
9256                 if (fill == '0')
9257                     *--ptr = fill;
9258                 if (left)
9259                     *--ptr = '-';
9260                 if (plus)
9261                     *--ptr = plus;
9262                 if (alt)
9263                     *--ptr = '#';
9264                 *--ptr = '%';
9265
9266                 /* No taint.  Otherwise we are in the strange situation
9267                  * where printf() taints but print($float) doesn't.
9268                  * --jhi */
9269 #if defined(HAS_LONG_DOUBLE)
9270                 elen = ((intsize == 'q')
9271                         ? my_snprintf(PL_efloatbuf, PL_efloatsize, ptr, nv)
9272                         : my_snprintf(PL_efloatbuf, PL_efloatsize, ptr, (double)nv));
9273 #else
9274                 elen = my_sprintf(PL_efloatbuf, ptr, nv);
9275 #endif
9276             }
9277         float_converted:
9278             eptr = PL_efloatbuf;
9279             break;
9280
9281             /* SPECIAL */
9282
9283         case 'n':
9284             if (vectorize)
9285                 goto unknown;
9286             i = SvCUR(sv) - origlen;
9287             if (args) {
9288                 switch (intsize) {
9289                 case 'h':       *(va_arg(*args, short*)) = i; break;
9290                 default:        *(va_arg(*args, int*)) = i; break;
9291                 case 'l':       *(va_arg(*args, long*)) = i; break;
9292                 case 'V':       *(va_arg(*args, IV*)) = i; break;
9293 #ifdef HAS_QUAD
9294                 case 'q':       *(va_arg(*args, Quad_t*)) = i; break;
9295 #endif
9296                 }
9297             }
9298             else
9299                 sv_setuv_mg(argsv, (UV)i);
9300             continue;   /* not "break" */
9301
9302             /* UNKNOWN */
9303
9304         default:
9305       unknown:
9306             if (!args
9307                 && (PL_op->op_type == OP_PRTF || PL_op->op_type == OP_SPRINTF)
9308                 && ckWARN(WARN_PRINTF))
9309             {
9310                 SV * const msg = sv_newmortal();
9311                 Perl_sv_setpvf(aTHX_ msg, "Invalid conversion in %sprintf: ",
9312                           (PL_op->op_type == OP_PRTF) ? "" : "s");
9313                 if (c) {
9314                     if (isPRINT(c))
9315                         Perl_sv_catpvf(aTHX_ msg,
9316                                        "\"%%%c\"", c & 0xFF);
9317                     else
9318                         Perl_sv_catpvf(aTHX_ msg,
9319                                        "\"%%\\%03"UVof"\"",
9320                                        (UV)c & 0xFF);
9321                 } else
9322                     sv_catpvs(msg, "end of string");
9323                 Perl_warner(aTHX_ packWARN(WARN_PRINTF), "%"SVf, (void*)msg); /* yes, this is reentrant */
9324             }
9325
9326             /* output mangled stuff ... */
9327             if (c == '\0')
9328                 --q;
9329             eptr = p;
9330             elen = q - p;
9331
9332             /* ... right here, because formatting flags should not apply */
9333             SvGROW(sv, SvCUR(sv) + elen + 1);
9334             p = SvEND(sv);
9335             Copy(eptr, p, elen, char);
9336             p += elen;
9337             *p = '\0';
9338             SvCUR_set(sv, p - SvPVX_const(sv));
9339             svix = osvix;
9340             continue;   /* not "break" */
9341         }
9342
9343         if (is_utf8 != has_utf8) {
9344             if (is_utf8) {
9345                 if (SvCUR(sv))
9346                     sv_utf8_upgrade(sv);
9347             }
9348             else {
9349                 const STRLEN old_elen = elen;
9350                 SV * const nsv = sv_2mortal(newSVpvn(eptr, elen));
9351                 sv_utf8_upgrade(nsv);
9352                 eptr = SvPVX_const(nsv);
9353                 elen = SvCUR(nsv);
9354
9355                 if (width) { /* fudge width (can't fudge elen) */
9356                     width += elen - old_elen;
9357                 }
9358                 is_utf8 = TRUE;
9359             }
9360         }
9361
9362         have = esignlen + zeros + elen;
9363         if (have < zeros)
9364             Perl_croak_nocontext(PL_memory_wrap);
9365
9366         need = (have > width ? have : width);
9367         gap = need - have;
9368
9369         if (need >= (((STRLEN)~0) - SvCUR(sv) - dotstrlen - 1))
9370             Perl_croak_nocontext(PL_memory_wrap);
9371         SvGROW(sv, SvCUR(sv) + need + dotstrlen + 1);
9372         p = SvEND(sv);
9373         if (esignlen && fill == '0') {
9374             int i;
9375             for (i = 0; i < (int)esignlen; i++)
9376                 *p++ = esignbuf[i];
9377         }
9378         if (gap && !left) {
9379             memset(p, fill, gap);
9380             p += gap;
9381         }
9382         if (esignlen && fill != '0') {
9383             int i;
9384             for (i = 0; i < (int)esignlen; i++)
9385                 *p++ = esignbuf[i];
9386         }
9387         if (zeros) {
9388             int i;
9389             for (i = zeros; i; i--)
9390                 *p++ = '0';
9391         }
9392         if (elen) {
9393             Copy(eptr, p, elen, char);
9394             p += elen;
9395         }
9396         if (gap && left) {
9397             memset(p, ' ', gap);
9398             p += gap;
9399         }
9400         if (vectorize) {
9401             if (veclen) {
9402                 Copy(dotstr, p, dotstrlen, char);
9403                 p += dotstrlen;
9404             }
9405             else
9406                 vectorize = FALSE;              /* done iterating over vecstr */
9407         }
9408         if (is_utf8)
9409             has_utf8 = TRUE;
9410         if (has_utf8)
9411             SvUTF8_on(sv);
9412         *p = '\0';
9413         SvCUR_set(sv, p - SvPVX_const(sv));
9414         if (vectorize) {
9415             esignlen = 0;
9416             goto vector;
9417         }
9418     }
9419 }
9420
9421 /* =========================================================================
9422
9423 =head1 Cloning an interpreter
9424
9425 All the macros and functions in this section are for the private use of
9426 the main function, perl_clone().
9427
9428 The foo_dup() functions make an exact copy of an existing foo thinngy.
9429 During the course of a cloning, a hash table is used to map old addresses
9430 to new addresses. The table is created and manipulated with the
9431 ptr_table_* functions.
9432
9433 =cut
9434
9435 ============================================================================*/
9436
9437
9438 #if defined(USE_ITHREADS)
9439
9440 /* XXX Remove this so it doesn't have to go thru the macro and return for nothing */
9441 #ifndef GpREFCNT_inc
9442 #  define GpREFCNT_inc(gp)      ((gp) ? (++(gp)->gp_refcnt, (gp)) : (GP*)NULL)
9443 #endif
9444
9445
9446 /* Certain cases in Perl_ss_dup have been merged, by relying on the fact
9447    that currently av_dup and hv_dup are the same as sv_dup. If this changes,
9448    please unmerge ss_dup.  */
9449 #define sv_dup_inc(s,t) SvREFCNT_inc(sv_dup(s,t))
9450 #define sv_dup_inc_NN(s,t)      SvREFCNT_inc_NN(sv_dup(s,t))
9451 #define av_dup(s,t)     (AV*)sv_dup((SV*)s,t)
9452 #define av_dup_inc(s,t) (AV*)SvREFCNT_inc(sv_dup((SV*)s,t))
9453 #define hv_dup(s,t)     (HV*)sv_dup((SV*)s,t)
9454 #define hv_dup_inc(s,t) (HV*)SvREFCNT_inc(sv_dup((SV*)s,t))
9455 #define cv_dup(s,t)     (CV*)sv_dup((SV*)s,t)
9456 #define cv_dup_inc(s,t) (CV*)SvREFCNT_inc(sv_dup((SV*)s,t))
9457 #define io_dup(s,t)     (IO*)sv_dup((SV*)s,t)
9458 #define io_dup_inc(s,t) (IO*)SvREFCNT_inc(sv_dup((SV*)s,t))
9459 #define gv_dup(s,t)     (GV*)sv_dup((SV*)s,t)
9460 #define gv_dup_inc(s,t) (GV*)SvREFCNT_inc(sv_dup((SV*)s,t))
9461 #define SAVEPV(p)       ((p) ? savepv(p) : NULL)
9462 #define SAVEPVN(p,n)    ((p) ? savepvn(p,n) : NULL)
9463
9464
9465 /* Duplicate a regexp. Required reading: pregcomp() and pregfree() in
9466    regcomp.c. AMS 20010712 */
9467
9468 REGEXP *
9469 Perl_re_dup(pTHX_ const REGEXP *r, CLONE_PARAMS *param)
9470 {
9471     dVAR;
9472     REGEXP *ret;
9473     int i, len, npar;
9474     struct reg_substr_datum *s;
9475
9476     if (!r)
9477         return (REGEXP *)NULL;
9478
9479     if ((ret = (REGEXP *)ptr_table_fetch(PL_ptr_table, r)))
9480         return ret;
9481
9482     len = r->offsets[0];
9483     npar = r->nparens+1;
9484
9485     Newxc(ret, sizeof(regexp) + (len+1)*sizeof(regnode), char, regexp);
9486     Copy(r->program, ret->program, len+1, regnode);
9487
9488     Newx(ret->startp, npar, I32);
9489     Copy(r->startp, ret->startp, npar, I32);
9490     Newx(ret->endp, npar, I32);
9491     Copy(r->startp, ret->startp, npar, I32);
9492
9493     Newx(ret->substrs, 1, struct reg_substr_data);
9494     for (s = ret->substrs->data, i = 0; i < 3; i++, s++) {
9495         s->min_offset = r->substrs->data[i].min_offset;
9496         s->max_offset = r->substrs->data[i].max_offset;
9497         s->substr     = sv_dup_inc(r->substrs->data[i].substr, param);
9498         s->utf8_substr = sv_dup_inc(r->substrs->data[i].utf8_substr, param);
9499     }
9500
9501     ret->regstclass = NULL;
9502     if (r->data) {
9503         struct reg_data *d;
9504         const int count = r->data->count;
9505         int i;
9506
9507         Newxc(d, sizeof(struct reg_data) + count*sizeof(void *),
9508                 char, struct reg_data);
9509         Newx(d->what, count, U8);
9510
9511         d->count = count;
9512         for (i = 0; i < count; i++) {
9513             d->what[i] = r->data->what[i];
9514             switch (d->what[i]) {
9515                 /* legal options are one of: sfpont
9516                    see also regcomp.h and pregfree() */
9517             case 's':
9518                 d->data[i] = sv_dup_inc((SV *)r->data->data[i], param);
9519                 break;
9520             case 'p':
9521                 d->data[i] = av_dup_inc((AV *)r->data->data[i], param);
9522                 break;
9523             case 'f':
9524                 /* This is cheating. */
9525                 Newx(d->data[i], 1, struct regnode_charclass_class);
9526                 StructCopy(r->data->data[i], d->data[i],
9527                             struct regnode_charclass_class);
9528                 ret->regstclass = (regnode*)d->data[i];
9529                 break;
9530             case 'o':
9531                 /* Compiled op trees are readonly, and can thus be
9532                    shared without duplication. */
9533                 OP_REFCNT_LOCK;
9534                 d->data[i] = (void*)OpREFCNT_inc((OP*)r->data->data[i]);
9535                 OP_REFCNT_UNLOCK;
9536                 break;
9537             case 'n':
9538                 d->data[i] = r->data->data[i];
9539                 break;
9540             case 't':
9541                 d->data[i] = r->data->data[i];
9542                 OP_REFCNT_LOCK;
9543                 ((reg_trie_data*)d->data[i])->refcount++;
9544                 OP_REFCNT_UNLOCK;
9545                 break;
9546             case 'T':
9547                 d->data[i] = r->data->data[i];
9548                 OP_REFCNT_LOCK;
9549                 ((reg_ac_data*)d->data[i])->refcount++;
9550                 OP_REFCNT_UNLOCK;
9551                 /* Trie stclasses are readonly and can thus be shared
9552                  * without duplication. We free the stclass in pregfree
9553                  * when the corresponding reg_ac_data struct is freed.
9554                  */
9555                 ret->regstclass= r->regstclass;
9556                 break;
9557             default:
9558                 Perl_croak(aTHX_ "panic: re_dup unknown data code '%c'", r->data->what[i]);
9559             }
9560         }
9561
9562         ret->data = d;
9563     }
9564     else
9565         ret->data = NULL;
9566
9567     Newx(ret->offsets, 2*len+1, U32);
9568     Copy(r->offsets, ret->offsets, 2*len+1, U32);
9569
9570     ret->precomp        = SAVEPVN(r->precomp, r->prelen);
9571     ret->refcnt         = r->refcnt;
9572     ret->minlen         = r->minlen;
9573     ret->prelen         = r->prelen;
9574     ret->nparens        = r->nparens;
9575     ret->lastparen      = r->lastparen;
9576     ret->lastcloseparen = r->lastcloseparen;
9577     ret->reganch        = r->reganch;
9578
9579     ret->sublen         = r->sublen;
9580
9581     if (RX_MATCH_COPIED(ret))
9582         ret->subbeg  = SAVEPVN(r->subbeg, r->sublen);
9583     else
9584         ret->subbeg = NULL;
9585 #ifdef PERL_OLD_COPY_ON_WRITE
9586     ret->saved_copy = NULL;
9587 #endif
9588
9589     ptr_table_store(PL_ptr_table, r, ret);
9590     return ret;
9591 }
9592
9593 /* duplicate a file handle */
9594
9595 PerlIO *
9596 Perl_fp_dup(pTHX_ PerlIO *fp, char type, CLONE_PARAMS *param)
9597 {
9598     PerlIO *ret;
9599
9600     PERL_UNUSED_ARG(type);
9601
9602     if (!fp)
9603         return (PerlIO*)NULL;
9604
9605     /* look for it in the table first */
9606     ret = (PerlIO*)ptr_table_fetch(PL_ptr_table, fp);
9607     if (ret)
9608         return ret;
9609
9610     /* create anew and remember what it is */
9611     ret = PerlIO_fdupopen(aTHX_ fp, param, PERLIO_DUP_CLONE);
9612     ptr_table_store(PL_ptr_table, fp, ret);
9613     return ret;
9614 }
9615
9616 /* duplicate a directory handle */
9617
9618 DIR *
9619 Perl_dirp_dup(pTHX_ DIR *dp)
9620 {
9621     PERL_UNUSED_CONTEXT;
9622     if (!dp)
9623         return (DIR*)NULL;
9624     /* XXX TODO */
9625     return dp;
9626 }
9627
9628 /* duplicate a typeglob */
9629
9630 GP *
9631 Perl_gp_dup(pTHX_ GP *gp, CLONE_PARAMS* param)
9632 {
9633     GP *ret;
9634
9635     if (!gp)
9636         return (GP*)NULL;
9637     /* look for it in the table first */
9638     ret = (GP*)ptr_table_fetch(PL_ptr_table, gp);
9639     if (ret)
9640         return ret;
9641
9642     /* create anew and remember what it is */
9643     Newxz(ret, 1, GP);
9644     ptr_table_store(PL_ptr_table, gp, ret);
9645
9646     /* clone */
9647     ret->gp_refcnt      = 0;                    /* must be before any other dups! */
9648     ret->gp_sv          = sv_dup_inc(gp->gp_sv, param);
9649     ret->gp_io          = io_dup_inc(gp->gp_io, param);
9650     ret->gp_form        = cv_dup_inc(gp->gp_form, param);
9651     ret->gp_av          = av_dup_inc(gp->gp_av, param);
9652     ret->gp_hv          = hv_dup_inc(gp->gp_hv, param);
9653     ret->gp_egv = gv_dup(gp->gp_egv, param);/* GvEGV is not refcounted */
9654     ret->gp_cv          = cv_dup_inc(gp->gp_cv, param);
9655     ret->gp_cvgen       = gp->gp_cvgen;
9656     ret->gp_line        = gp->gp_line;
9657     ret->gp_file_hek    = hek_dup(gp->gp_file_hek, param);
9658     return ret;
9659 }
9660
9661 /* duplicate a chain of magic */
9662
9663 MAGIC *
9664 Perl_mg_dup(pTHX_ MAGIC *mg, CLONE_PARAMS* param)
9665 {
9666     MAGIC *mgprev = (MAGIC*)NULL;
9667     MAGIC *mgret;
9668     if (!mg)
9669         return (MAGIC*)NULL;
9670     /* look for it in the table first */
9671     mgret = (MAGIC*)ptr_table_fetch(PL_ptr_table, mg);
9672     if (mgret)
9673         return mgret;
9674
9675     for (; mg; mg = mg->mg_moremagic) {
9676         MAGIC *nmg;
9677         Newxz(nmg, 1, MAGIC);
9678         if (mgprev)
9679             mgprev->mg_moremagic = nmg;
9680         else
9681             mgret = nmg;
9682         nmg->mg_virtual = mg->mg_virtual;       /* XXX copy dynamic vtable? */
9683         nmg->mg_private = mg->mg_private;
9684         nmg->mg_type    = mg->mg_type;
9685         nmg->mg_flags   = mg->mg_flags;
9686         if (mg->mg_type == PERL_MAGIC_qr) {
9687             nmg->mg_obj = (SV*)re_dup((REGEXP*)mg->mg_obj, param);
9688         }
9689         else if(mg->mg_type == PERL_MAGIC_backref) {
9690             /* The backref AV has its reference count deliberately bumped by
9691                1.  */
9692             nmg->mg_obj = SvREFCNT_inc(av_dup_inc((AV*) mg->mg_obj, param));
9693         }
9694         else if (mg->mg_type == PERL_MAGIC_symtab) {
9695             nmg->mg_obj = mg->mg_obj;
9696         }
9697         else {
9698             nmg->mg_obj = (mg->mg_flags & MGf_REFCOUNTED)
9699                               ? sv_dup_inc(mg->mg_obj, param)
9700                               : sv_dup(mg->mg_obj, param);
9701         }
9702         nmg->mg_len     = mg->mg_len;
9703         nmg->mg_ptr     = mg->mg_ptr;   /* XXX random ptr? */
9704         if (mg->mg_ptr && mg->mg_type != PERL_MAGIC_regex_global) {
9705             if (mg->mg_len > 0) {
9706                 nmg->mg_ptr     = SAVEPVN(mg->mg_ptr, mg->mg_len);
9707                 if (mg->mg_type == PERL_MAGIC_overload_table &&
9708                         AMT_AMAGIC((AMT*)mg->mg_ptr))
9709                 {
9710                     const AMT * const amtp = (AMT*)mg->mg_ptr;
9711                     AMT * const namtp = (AMT*)nmg->mg_ptr;
9712                     I32 i;
9713                     for (i = 1; i < NofAMmeth; i++) {
9714                         namtp->table[i] = cv_dup_inc(amtp->table[i], param);
9715                     }
9716                 }
9717             }
9718             else if (mg->mg_len == HEf_SVKEY)
9719                 nmg->mg_ptr     = (char*)sv_dup_inc((SV*)mg->mg_ptr, param);
9720         }
9721         if ((mg->mg_flags & MGf_DUP) && mg->mg_virtual && mg->mg_virtual->svt_dup) {
9722             CALL_FPTR(nmg->mg_virtual->svt_dup)(aTHX_ nmg, param);
9723         }
9724         mgprev = nmg;
9725     }
9726     return mgret;
9727 }
9728
9729 /* create a new pointer-mapping table */
9730
9731 PTR_TBL_t *
9732 Perl_ptr_table_new(pTHX)
9733 {
9734     PTR_TBL_t *tbl;
9735     PERL_UNUSED_CONTEXT;
9736
9737     Newxz(tbl, 1, PTR_TBL_t);
9738     tbl->tbl_max        = 511;
9739     tbl->tbl_items      = 0;
9740     Newxz(tbl->tbl_ary, tbl->tbl_max + 1, PTR_TBL_ENT_t*);
9741     return tbl;
9742 }
9743
9744 #define PTR_TABLE_HASH(ptr) \
9745   ((PTR2UV(ptr) >> 3) ^ (PTR2UV(ptr) >> (3 + 7)) ^ (PTR2UV(ptr) >> (3 + 17)))
9746
9747 /* 
9748    we use the PTE_SVSLOT 'reservation' made above, both here (in the
9749    following define) and at call to new_body_inline made below in 
9750    Perl_ptr_table_store()
9751  */
9752
9753 #define del_pte(p)     del_body_type(p, PTE_SVSLOT)
9754
9755 /* map an existing pointer using a table */
9756
9757 STATIC PTR_TBL_ENT_t *
9758 S_ptr_table_find(PTR_TBL_t *tbl, const void *sv) {
9759     PTR_TBL_ENT_t *tblent;
9760     const UV hash = PTR_TABLE_HASH(sv);
9761     assert(tbl);
9762     tblent = tbl->tbl_ary[hash & tbl->tbl_max];
9763     for (; tblent; tblent = tblent->next) {
9764         if (tblent->oldval == sv)
9765             return tblent;
9766     }
9767     return NULL;
9768 }
9769
9770 void *
9771 Perl_ptr_table_fetch(pTHX_ PTR_TBL_t *tbl, const void *sv)
9772 {
9773     PTR_TBL_ENT_t const *const tblent = ptr_table_find(tbl, sv);
9774     PERL_UNUSED_CONTEXT;
9775     return tblent ? tblent->newval : NULL;
9776 }
9777
9778 /* add a new entry to a pointer-mapping table */
9779
9780 void
9781 Perl_ptr_table_store(pTHX_ PTR_TBL_t *tbl, const void *oldsv, void *newsv)
9782 {
9783     PTR_TBL_ENT_t *tblent = ptr_table_find(tbl, oldsv);
9784     PERL_UNUSED_CONTEXT;
9785
9786     if (tblent) {
9787         tblent->newval = newsv;
9788     } else {
9789         const UV entry = PTR_TABLE_HASH(oldsv) & tbl->tbl_max;
9790
9791         new_body_inline(tblent, PTE_SVSLOT);
9792
9793         tblent->oldval = oldsv;
9794         tblent->newval = newsv;
9795         tblent->next = tbl->tbl_ary[entry];
9796         tbl->tbl_ary[entry] = tblent;
9797         tbl->tbl_items++;
9798         if (tblent->next && tbl->tbl_items > tbl->tbl_max)
9799             ptr_table_split(tbl);
9800     }
9801 }
9802
9803 /* double the hash bucket size of an existing ptr table */
9804
9805 void
9806 Perl_ptr_table_split(pTHX_ PTR_TBL_t *tbl)
9807 {
9808     PTR_TBL_ENT_t **ary = tbl->tbl_ary;
9809     const UV oldsize = tbl->tbl_max + 1;
9810     UV newsize = oldsize * 2;
9811     UV i;
9812     PERL_UNUSED_CONTEXT;
9813
9814     Renew(ary, newsize, PTR_TBL_ENT_t*);
9815     Zero(&ary[oldsize], newsize-oldsize, PTR_TBL_ENT_t*);
9816     tbl->tbl_max = --newsize;
9817     tbl->tbl_ary = ary;
9818     for (i=0; i < oldsize; i++, ary++) {
9819         PTR_TBL_ENT_t **curentp, **entp, *ent;
9820         if (!*ary)
9821             continue;
9822         curentp = ary + oldsize;
9823         for (entp = ary, ent = *ary; ent; ent = *entp) {
9824             if ((newsize & PTR_TABLE_HASH(ent->oldval)) != i) {
9825                 *entp = ent->next;
9826                 ent->next = *curentp;
9827                 *curentp = ent;
9828                 continue;
9829             }
9830             else
9831                 entp = &ent->next;
9832         }
9833     }
9834 }
9835
9836 /* remove all the entries from a ptr table */
9837
9838 void
9839 Perl_ptr_table_clear(pTHX_ PTR_TBL_t *tbl)
9840 {
9841     if (tbl && tbl->tbl_items) {
9842         register PTR_TBL_ENT_t * const * const array = tbl->tbl_ary;
9843         UV riter = tbl->tbl_max;
9844
9845         do {
9846             PTR_TBL_ENT_t *entry = array[riter];
9847
9848             while (entry) {
9849                 PTR_TBL_ENT_t * const oentry = entry;
9850                 entry = entry->next;
9851                 del_pte(oentry);
9852             }
9853         } while (riter--);
9854
9855         tbl->tbl_items = 0;
9856     }
9857 }
9858
9859 /* clear and free a ptr table */
9860
9861 void
9862 Perl_ptr_table_free(pTHX_ PTR_TBL_t *tbl)
9863 {
9864     if (!tbl) {
9865         return;
9866     }
9867     ptr_table_clear(tbl);
9868     Safefree(tbl->tbl_ary);
9869     Safefree(tbl);
9870 }
9871
9872
9873 void
9874 Perl_rvpv_dup(pTHX_ SV *dstr, const SV *sstr, CLONE_PARAMS* param)
9875 {
9876     if (SvROK(sstr)) {
9877         SvRV_set(dstr, SvWEAKREF(sstr)
9878                        ? sv_dup(SvRV(sstr), param)
9879                        : sv_dup_inc(SvRV(sstr), param));
9880
9881     }
9882     else if (SvPVX_const(sstr)) {
9883         /* Has something there */
9884         if (SvLEN(sstr)) {
9885             /* Normal PV - clone whole allocated space */
9886             SvPV_set(dstr, SAVEPVN(SvPVX_const(sstr), SvLEN(sstr)-1));
9887             if (SvREADONLY(sstr) && SvFAKE(sstr)) {
9888                 /* Not that normal - actually sstr is copy on write.
9889                    But we are a true, independant SV, so:  */
9890                 SvREADONLY_off(dstr);
9891                 SvFAKE_off(dstr);
9892             }
9893         }
9894         else {
9895             /* Special case - not normally malloced for some reason */
9896             if (isGV_with_GP(sstr)) {
9897                 /* Don't need to do anything here.  */
9898             }
9899             else if ((SvREADONLY(sstr) && SvFAKE(sstr))) {
9900                 /* A "shared" PV - clone it as "shared" PV */
9901                 SvPV_set(dstr,
9902                          HEK_KEY(hek_dup(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr)),
9903                                          param)));
9904             }
9905             else {
9906                 /* Some other special case - random pointer */
9907                 SvPV_set(dstr, SvPVX(sstr));            
9908             }
9909         }
9910     }
9911     else {
9912         /* Copy the NULL */
9913         if (SvTYPE(dstr) == SVt_RV)
9914             SvRV_set(dstr, NULL);
9915         else
9916             SvPV_set(dstr, NULL);
9917     }
9918 }
9919
9920 /* duplicate an SV of any type (including AV, HV etc) */
9921
9922 SV *
9923 Perl_sv_dup(pTHX_ const SV *sstr, CLONE_PARAMS* param)
9924 {
9925     dVAR;
9926     SV *dstr;
9927
9928     if (!sstr || SvTYPE(sstr) == SVTYPEMASK)
9929         return NULL;
9930     /* look for it in the table first */
9931     dstr = (SV*)ptr_table_fetch(PL_ptr_table, sstr);
9932     if (dstr)
9933         return dstr;
9934
9935     if(param->flags & CLONEf_JOIN_IN) {
9936         /** We are joining here so we don't want do clone
9937             something that is bad **/
9938         if (SvTYPE(sstr) == SVt_PVHV) {
9939             const char * const hvname = HvNAME_get(sstr);
9940             if (hvname)
9941                 /** don't clone stashes if they already exist **/
9942                 return (SV*)gv_stashpv(hvname,0);
9943         }
9944     }
9945
9946     /* create anew and remember what it is */
9947     new_SV(dstr);
9948
9949 #ifdef DEBUG_LEAKING_SCALARS
9950     dstr->sv_debug_optype = sstr->sv_debug_optype;
9951     dstr->sv_debug_line = sstr->sv_debug_line;
9952     dstr->sv_debug_inpad = sstr->sv_debug_inpad;
9953     dstr->sv_debug_cloned = 1;
9954     dstr->sv_debug_file = savepv(sstr->sv_debug_file);
9955 #endif
9956
9957     ptr_table_store(PL_ptr_table, sstr, dstr);
9958
9959     /* clone */
9960     SvFLAGS(dstr)       = SvFLAGS(sstr);
9961     SvFLAGS(dstr)       &= ~SVf_OOK;            /* don't propagate OOK hack */
9962     SvREFCNT(dstr)      = 0;                    /* must be before any other dups! */
9963
9964 #ifdef DEBUGGING
9965     if (SvANY(sstr) && PL_watch_pvx && SvPVX_const(sstr) == PL_watch_pvx)
9966         PerlIO_printf(Perl_debug_log, "watch at %p hit, found string \"%s\"\n",
9967                       PL_watch_pvx, SvPVX_const(sstr));
9968 #endif
9969
9970     /* don't clone objects whose class has asked us not to */
9971     if (SvOBJECT(sstr) && ! (SvFLAGS(SvSTASH(sstr)) & SVphv_CLONEABLE)) {
9972         SvFLAGS(dstr) &= ~SVTYPEMASK;
9973         SvOBJECT_off(dstr);
9974         return dstr;
9975     }
9976
9977     switch (SvTYPE(sstr)) {
9978     case SVt_NULL:
9979         SvANY(dstr)     = NULL;
9980         break;
9981     case SVt_IV:
9982         SvANY(dstr)     = (XPVIV*)((char*)&(dstr->sv_u.svu_iv) - STRUCT_OFFSET(XPVIV, xiv_iv));
9983         SvIV_set(dstr, SvIVX(sstr));
9984         break;
9985     case SVt_NV:
9986         SvANY(dstr)     = new_XNV();
9987         SvNV_set(dstr, SvNVX(sstr));
9988         break;
9989     case SVt_RV:
9990         SvANY(dstr)     = &(dstr->sv_u.svu_rv);
9991         Perl_rvpv_dup(aTHX_ dstr, sstr, param);
9992         break;
9993     default:
9994         {
9995             /* These are all the types that need complex bodies allocating.  */
9996             void *new_body;
9997             const svtype sv_type = SvTYPE(sstr);
9998             const struct body_details *const sv_type_details
9999                 = bodies_by_type + sv_type;
10000
10001             switch (sv_type) {
10002             default:
10003                 Perl_croak(aTHX_ "Bizarre SvTYPE [%" IVdf "]", (IV)SvTYPE(sstr));
10004                 break;
10005
10006             case SVt_PVGV:
10007                 if (GvUNIQUE((GV*)sstr)) {
10008                     NOOP;   /* Do sharing here, and fall through */
10009                 }
10010             case SVt_PVIO:
10011             case SVt_PVFM:
10012             case SVt_PVHV:
10013             case SVt_PVAV:
10014             case SVt_PVBM:
10015             case SVt_PVCV:
10016             case SVt_PVLV:
10017             case SVt_PVMG:
10018             case SVt_PVNV:
10019             case SVt_PVIV:
10020             case SVt_PV:
10021                 assert(sv_type_details->body_size);
10022                 if (sv_type_details->arena) {
10023                     new_body_inline(new_body, sv_type);
10024                     new_body
10025                         = (void*)((char*)new_body - sv_type_details->offset);
10026                 } else {
10027                     new_body = new_NOARENA(sv_type_details);
10028                 }
10029             }
10030             assert(new_body);
10031             SvANY(dstr) = new_body;
10032
10033 #ifndef PURIFY
10034             Copy(((char*)SvANY(sstr)) + sv_type_details->offset,
10035                  ((char*)SvANY(dstr)) + sv_type_details->offset,
10036                  sv_type_details->copy, char);
10037 #else
10038             Copy(((char*)SvANY(sstr)),
10039                  ((char*)SvANY(dstr)),
10040                  sv_type_details->body_size + sv_type_details->offset, char);
10041 #endif
10042
10043             if (sv_type != SVt_PVAV && sv_type != SVt_PVHV
10044                 && !isGV_with_GP(dstr))
10045                 Perl_rvpv_dup(aTHX_ dstr, sstr, param);
10046
10047             /* The Copy above means that all the source (unduplicated) pointers
10048                are now in the destination.  We can check the flags and the
10049                pointers in either, but it's possible that there's less cache
10050                missing by always going for the destination.
10051                FIXME - instrument and check that assumption  */
10052             if (sv_type >= SVt_PVMG) {
10053                 if ((sv_type == SVt_PVMG) && SvPAD_OUR(dstr)) {
10054                     OURSTASH_set(dstr, hv_dup_inc(OURSTASH(dstr), param));
10055                 } else if (SvMAGIC(dstr))
10056                     SvMAGIC_set(dstr, mg_dup(SvMAGIC(dstr), param));
10057                 if (SvSTASH(dstr))
10058                     SvSTASH_set(dstr, hv_dup_inc(SvSTASH(dstr), param));
10059             }
10060
10061             /* The cast silences a GCC warning about unhandled types.  */
10062             switch ((int)sv_type) {
10063             case SVt_PV:
10064                 break;
10065             case SVt_PVIV:
10066                 break;
10067             case SVt_PVNV:
10068                 break;
10069             case SVt_PVMG:
10070                 break;
10071             case SVt_PVBM:
10072                 break;
10073             case SVt_PVLV:
10074                 /* XXX LvTARGOFF sometimes holds PMOP* when DEBUGGING */
10075                 if (LvTYPE(dstr) == 't') /* for tie: unrefcnted fake (SV**) */
10076                     LvTARG(dstr) = dstr;
10077                 else if (LvTYPE(dstr) == 'T') /* for tie: fake HE */
10078                     LvTARG(dstr) = (SV*)he_dup((HE*)LvTARG(dstr), 0, param);
10079                 else
10080                     LvTARG(dstr) = sv_dup_inc(LvTARG(dstr), param);
10081                 break;
10082             case SVt_PVGV:
10083                 if (GvNAME_HEK(dstr))
10084                     GvNAME_HEK(dstr) = hek_dup(GvNAME_HEK(dstr), param);
10085
10086                 /* Don't call sv_add_backref here as it's going to be created
10087                    as part of the magic cloning of the symbol table.  */
10088                 GvSTASH(dstr)   = hv_dup(GvSTASH(dstr), param);
10089                 if(isGV_with_GP(sstr)) {
10090                     /* Danger Will Robinson - GvGP(dstr) isn't initialised
10091                        at the point of this comment.  */
10092                     GvGP(dstr)  = gp_dup(GvGP(sstr), param);
10093                     (void)GpREFCNT_inc(GvGP(dstr));
10094                 } else
10095                     Perl_rvpv_dup(aTHX_ dstr, sstr, param);
10096                 break;
10097             case SVt_PVIO:
10098                 IoIFP(dstr)     = fp_dup(IoIFP(dstr), IoTYPE(dstr), param);
10099                 if (IoOFP(dstr) == IoIFP(sstr))
10100                     IoOFP(dstr) = IoIFP(dstr);
10101                 else
10102                     IoOFP(dstr) = fp_dup(IoOFP(dstr), IoTYPE(dstr), param);
10103                 /* PL_rsfp_filters entries have fake IoDIRP() */
10104                 if(IoFLAGS(dstr) & IOf_FAKE_DIRP) {
10105                     /* I have no idea why fake dirp (rsfps)
10106                        should be treated differently but otherwise
10107                        we end up with leaks -- sky*/
10108                     IoTOP_GV(dstr)      = gv_dup_inc(IoTOP_GV(dstr), param);
10109                     IoFMT_GV(dstr)      = gv_dup_inc(IoFMT_GV(dstr), param);
10110                     IoBOTTOM_GV(dstr)   = gv_dup_inc(IoBOTTOM_GV(dstr), param);
10111                 } else {
10112                     IoTOP_GV(dstr)      = gv_dup(IoTOP_GV(dstr), param);
10113                     IoFMT_GV(dstr)      = gv_dup(IoFMT_GV(dstr), param);
10114                     IoBOTTOM_GV(dstr)   = gv_dup(IoBOTTOM_GV(dstr), param);
10115                     if (IoDIRP(dstr)) {
10116                         IoDIRP(dstr)    = dirp_dup(IoDIRP(dstr));
10117                     } else {
10118                         NOOP;
10119                         /* IoDIRP(dstr) is already a copy of IoDIRP(sstr)  */
10120                     }
10121                 }
10122                 IoTOP_NAME(dstr)        = SAVEPV(IoTOP_NAME(dstr));
10123                 IoFMT_NAME(dstr)        = SAVEPV(IoFMT_NAME(dstr));
10124                 IoBOTTOM_NAME(dstr)     = SAVEPV(IoBOTTOM_NAME(dstr));
10125                 break;
10126             case SVt_PVAV:
10127                 if (AvARRAY((AV*)sstr)) {
10128                     SV **dst_ary, **src_ary;
10129                     SSize_t items = AvFILLp((AV*)sstr) + 1;
10130
10131                     src_ary = AvARRAY((AV*)sstr);
10132                     Newxz(dst_ary, AvMAX((AV*)sstr)+1, SV*);
10133                     ptr_table_store(PL_ptr_table, src_ary, dst_ary);
10134                     SvPV_set(dstr, (char*)dst_ary);
10135                     AvALLOC((AV*)dstr) = dst_ary;
10136                     if (AvREAL((AV*)sstr)) {
10137                         while (items-- > 0)
10138                             *dst_ary++ = sv_dup_inc(*src_ary++, param);
10139                     }
10140                     else {
10141                         while (items-- > 0)
10142                             *dst_ary++ = sv_dup(*src_ary++, param);
10143                     }
10144                     items = AvMAX((AV*)sstr) - AvFILLp((AV*)sstr);
10145                     while (items-- > 0) {
10146                         *dst_ary++ = &PL_sv_undef;
10147                     }
10148                 }
10149                 else {
10150                     SvPV_set(dstr, NULL);
10151                     AvALLOC((AV*)dstr)  = (SV**)NULL;
10152                 }
10153                 break;
10154             case SVt_PVHV:
10155                 if (HvARRAY((HV*)sstr)) {
10156                     STRLEN i = 0;
10157                     const bool sharekeys = !!HvSHAREKEYS(sstr);
10158                     XPVHV * const dxhv = (XPVHV*)SvANY(dstr);
10159                     XPVHV * const sxhv = (XPVHV*)SvANY(sstr);
10160                     char *darray;
10161                     Newx(darray, PERL_HV_ARRAY_ALLOC_BYTES(dxhv->xhv_max+1)
10162                         + (SvOOK(sstr) ? sizeof(struct xpvhv_aux) : 0),
10163                         char);
10164                     HvARRAY(dstr) = (HE**)darray;
10165                     while (i <= sxhv->xhv_max) {
10166                         const HE * const source = HvARRAY(sstr)[i];
10167                         HvARRAY(dstr)[i] = source
10168                             ? he_dup(source, sharekeys, param) : 0;
10169                         ++i;
10170                     }
10171                     if (SvOOK(sstr)) {
10172                         HEK *hvname;
10173                         const struct xpvhv_aux * const saux = HvAUX(sstr);
10174                         struct xpvhv_aux * const daux = HvAUX(dstr);
10175                         /* This flag isn't copied.  */
10176                         /* SvOOK_on(hv) attacks the IV flags.  */
10177                         SvFLAGS(dstr) |= SVf_OOK;
10178
10179                         hvname = saux->xhv_name;
10180                         daux->xhv_name = hvname ? hek_dup(hvname, param) : hvname;
10181
10182                         daux->xhv_riter = saux->xhv_riter;
10183                         daux->xhv_eiter = saux->xhv_eiter
10184                             ? he_dup(saux->xhv_eiter,
10185                                         (bool)!!HvSHAREKEYS(sstr), param) : 0;
10186                         daux->xhv_backreferences =
10187                             saux->xhv_backreferences
10188                                 ? (AV*) SvREFCNT_inc(
10189                                         sv_dup((SV*)saux->xhv_backreferences, param))
10190                                 : 0;
10191                         /* Record stashes for possible cloning in Perl_clone(). */
10192                         if (hvname)
10193                             av_push(param->stashes, dstr);
10194                     }
10195                 }
10196                 else
10197                     SvPV_set(dstr, NULL);
10198                 break;
10199             case SVt_PVCV:
10200                 if (!(param->flags & CLONEf_COPY_STACKS)) {
10201                     CvDEPTH(dstr) = 0;
10202                 }
10203             case SVt_PVFM:
10204                 /* NOTE: not refcounted */
10205                 CvSTASH(dstr)   = hv_dup(CvSTASH(dstr), param);
10206                 OP_REFCNT_LOCK;
10207                 if (!CvISXSUB(dstr))
10208                     CvROOT(dstr) = OpREFCNT_inc(CvROOT(dstr));
10209                 OP_REFCNT_UNLOCK;
10210                 if (CvCONST(dstr) && CvISXSUB(dstr)) {
10211                     CvXSUBANY(dstr).any_ptr = GvUNIQUE(CvGV(dstr)) ?
10212                         SvREFCNT_inc(CvXSUBANY(dstr).any_ptr) :
10213                         sv_dup_inc((SV *)CvXSUBANY(dstr).any_ptr, param);
10214                 }
10215                 /* don't dup if copying back - CvGV isn't refcounted, so the
10216                  * duped GV may never be freed. A bit of a hack! DAPM */
10217                 CvGV(dstr)      = (param->flags & CLONEf_JOIN_IN) ?
10218                     NULL : gv_dup(CvGV(dstr), param) ;
10219                 PAD_DUP(CvPADLIST(dstr), CvPADLIST(sstr), param);
10220                 CvOUTSIDE(dstr) =
10221                     CvWEAKOUTSIDE(sstr)
10222                     ? cv_dup(    CvOUTSIDE(dstr), param)
10223                     : cv_dup_inc(CvOUTSIDE(dstr), param);
10224                 if (!CvISXSUB(dstr))
10225                     CvFILE(dstr) = SAVEPV(CvFILE(dstr));
10226                 break;
10227             }
10228         }
10229     }
10230
10231     if (SvOBJECT(dstr) && SvTYPE(dstr) != SVt_PVIO)
10232         ++PL_sv_objcount;
10233
10234     return dstr;
10235  }
10236
10237 /* duplicate a context */
10238
10239 PERL_CONTEXT *
10240 Perl_cx_dup(pTHX_ PERL_CONTEXT *cxs, I32 ix, I32 max, CLONE_PARAMS* param)
10241 {
10242     PERL_CONTEXT *ncxs;
10243
10244     if (!cxs)
10245         return (PERL_CONTEXT*)NULL;
10246
10247     /* look for it in the table first */
10248     ncxs = (PERL_CONTEXT*)ptr_table_fetch(PL_ptr_table, cxs);
10249     if (ncxs)
10250         return ncxs;
10251
10252     /* create anew and remember what it is */
10253     Newxz(ncxs, max + 1, PERL_CONTEXT);
10254     ptr_table_store(PL_ptr_table, cxs, ncxs);
10255
10256     while (ix >= 0) {
10257         PERL_CONTEXT * const cx = &cxs[ix];
10258         PERL_CONTEXT * const ncx = &ncxs[ix];
10259         ncx->cx_type    = cx->cx_type;
10260         if (CxTYPE(cx) == CXt_SUBST) {
10261             Perl_croak(aTHX_ "Cloning substitution context is unimplemented");
10262         }
10263         else {
10264             ncx->blk_oldsp      = cx->blk_oldsp;
10265             ncx->blk_oldcop     = cx->blk_oldcop;
10266             ncx->blk_oldmarksp  = cx->blk_oldmarksp;
10267             ncx->blk_oldscopesp = cx->blk_oldscopesp;
10268             ncx->blk_oldpm      = cx->blk_oldpm;
10269             ncx->blk_gimme      = cx->blk_gimme;
10270             switch (CxTYPE(cx)) {
10271             case CXt_SUB:
10272                 ncx->blk_sub.cv         = (cx->blk_sub.olddepth == 0
10273                                            ? cv_dup_inc(cx->blk_sub.cv, param)
10274                                            : cv_dup(cx->blk_sub.cv,param));
10275                 ncx->blk_sub.argarray   = (cx->blk_sub.hasargs
10276                                            ? av_dup_inc(cx->blk_sub.argarray, param)
10277                                            : NULL);
10278                 ncx->blk_sub.savearray  = av_dup_inc(cx->blk_sub.savearray, param);
10279                 ncx->blk_sub.olddepth   = cx->blk_sub.olddepth;
10280                 ncx->blk_sub.hasargs    = cx->blk_sub.hasargs;
10281                 ncx->blk_sub.lval       = cx->blk_sub.lval;
10282                 ncx->blk_sub.retop      = cx->blk_sub.retop;
10283                 ncx->blk_sub.oldcomppad = (PAD*)ptr_table_fetch(PL_ptr_table,
10284                                            cx->blk_sub.oldcomppad);
10285                 break;
10286             case CXt_EVAL:
10287                 ncx->blk_eval.old_in_eval = cx->blk_eval.old_in_eval;
10288                 ncx->blk_eval.old_op_type = cx->blk_eval.old_op_type;
10289                 ncx->blk_eval.old_namesv = sv_dup_inc(cx->blk_eval.old_namesv, param);
10290                 ncx->blk_eval.old_eval_root = cx->blk_eval.old_eval_root;
10291                 ncx->blk_eval.cur_text  = sv_dup(cx->blk_eval.cur_text, param);
10292                 ncx->blk_eval.retop = cx->blk_eval.retop;
10293                 break;
10294             case CXt_LOOP:
10295                 ncx->blk_loop.label     = cx->blk_loop.label;
10296                 ncx->blk_loop.resetsp   = cx->blk_loop.resetsp;
10297                 ncx->blk_loop.redo_op   = cx->blk_loop.redo_op;
10298                 ncx->blk_loop.next_op   = cx->blk_loop.next_op;
10299                 ncx->blk_loop.last_op   = cx->blk_loop.last_op;
10300                 ncx->blk_loop.iterdata  = (CxPADLOOP(cx)
10301                                            ? cx->blk_loop.iterdata
10302                                            : gv_dup((GV*)cx->blk_loop.iterdata, param));
10303                 ncx->blk_loop.oldcomppad
10304                     = (PAD*)ptr_table_fetch(PL_ptr_table,
10305                                             cx->blk_loop.oldcomppad);
10306                 ncx->blk_loop.itersave  = sv_dup_inc(cx->blk_loop.itersave, param);
10307                 ncx->blk_loop.iterlval  = sv_dup_inc(cx->blk_loop.iterlval, param);
10308                 ncx->blk_loop.iterary   = av_dup_inc(cx->blk_loop.iterary, param);
10309                 ncx->blk_loop.iterix    = cx->blk_loop.iterix;
10310                 ncx->blk_loop.itermax   = cx->blk_loop.itermax;
10311                 break;
10312             case CXt_FORMAT:
10313                 ncx->blk_sub.cv         = cv_dup(cx->blk_sub.cv, param);
10314                 ncx->blk_sub.gv         = gv_dup(cx->blk_sub.gv, param);
10315                 ncx->blk_sub.dfoutgv    = gv_dup_inc(cx->blk_sub.dfoutgv, param);
10316                 ncx->blk_sub.hasargs    = cx->blk_sub.hasargs;
10317                 ncx->blk_sub.retop      = cx->blk_sub.retop;
10318                 break;
10319             case CXt_BLOCK:
10320             case CXt_NULL:
10321                 break;
10322             }
10323         }
10324         --ix;
10325     }
10326     return ncxs;
10327 }
10328
10329 /* duplicate a stack info structure */
10330
10331 PERL_SI *
10332 Perl_si_dup(pTHX_ PERL_SI *si, CLONE_PARAMS* param)
10333 {
10334     PERL_SI *nsi;
10335
10336     if (!si)
10337         return (PERL_SI*)NULL;
10338
10339     /* look for it in the table first */
10340     nsi = (PERL_SI*)ptr_table_fetch(PL_ptr_table, si);
10341     if (nsi)
10342         return nsi;
10343
10344     /* create anew and remember what it is */
10345     Newxz(nsi, 1, PERL_SI);
10346     ptr_table_store(PL_ptr_table, si, nsi);
10347
10348     nsi->si_stack       = av_dup_inc(si->si_stack, param);
10349     nsi->si_cxix        = si->si_cxix;
10350     nsi->si_cxmax       = si->si_cxmax;
10351     nsi->si_cxstack     = cx_dup(si->si_cxstack, si->si_cxix, si->si_cxmax, param);
10352     nsi->si_type        = si->si_type;
10353     nsi->si_prev        = si_dup(si->si_prev, param);
10354     nsi->si_next        = si_dup(si->si_next, param);
10355     nsi->si_markoff     = si->si_markoff;
10356
10357     return nsi;
10358 }
10359
10360 #define POPINT(ss,ix)   ((ss)[--(ix)].any_i32)
10361 #define TOPINT(ss,ix)   ((ss)[ix].any_i32)
10362 #define POPLONG(ss,ix)  ((ss)[--(ix)].any_long)
10363 #define TOPLONG(ss,ix)  ((ss)[ix].any_long)
10364 #define POPIV(ss,ix)    ((ss)[--(ix)].any_iv)
10365 #define TOPIV(ss,ix)    ((ss)[ix].any_iv)
10366 #define POPBOOL(ss,ix)  ((ss)[--(ix)].any_bool)
10367 #define TOPBOOL(ss,ix)  ((ss)[ix].any_bool)
10368 #define POPPTR(ss,ix)   ((ss)[--(ix)].any_ptr)
10369 #define TOPPTR(ss,ix)   ((ss)[ix].any_ptr)
10370 #define POPDPTR(ss,ix)  ((ss)[--(ix)].any_dptr)
10371 #define TOPDPTR(ss,ix)  ((ss)[ix].any_dptr)
10372 #define POPDXPTR(ss,ix) ((ss)[--(ix)].any_dxptr)
10373 #define TOPDXPTR(ss,ix) ((ss)[ix].any_dxptr)
10374
10375 /* XXXXX todo */
10376 #define pv_dup_inc(p)   SAVEPV(p)
10377 #define pv_dup(p)       SAVEPV(p)
10378 #define svp_dup_inc(p,pp)       any_dup(p,pp)
10379
10380 /* map any object to the new equivent - either something in the
10381  * ptr table, or something in the interpreter structure
10382  */
10383
10384 void *
10385 Perl_any_dup(pTHX_ void *v, const PerlInterpreter *proto_perl)
10386 {
10387     void *ret;
10388
10389     if (!v)
10390         return (void*)NULL;
10391
10392     /* look for it in the table first */
10393     ret = ptr_table_fetch(PL_ptr_table, v);
10394     if (ret)
10395         return ret;
10396
10397     /* see if it is part of the interpreter structure */
10398     if (v >= (void*)proto_perl && v < (void*)(proto_perl+1))
10399         ret = (void*)(((char*)aTHX) + (((char*)v) - (char*)proto_perl));
10400     else {
10401         ret = v;
10402     }
10403
10404     return ret;
10405 }
10406
10407 /* duplicate the save stack */
10408
10409 ANY *
10410 Perl_ss_dup(pTHX_ PerlInterpreter *proto_perl, CLONE_PARAMS* param)
10411 {
10412     ANY * const ss      = proto_perl->Tsavestack;
10413     const I32 max       = proto_perl->Tsavestack_max;
10414     I32 ix              = proto_perl->Tsavestack_ix;
10415     ANY *nss;
10416     SV *sv;
10417     GV *gv;
10418     AV *av;
10419     HV *hv;
10420     void* ptr;
10421     int intval;
10422     long longval;
10423     GP *gp;
10424     IV iv;
10425     char *c = NULL;
10426     void (*dptr) (void*);
10427     void (*dxptr) (pTHX_ void*);
10428
10429     Newxz(nss, max, ANY);
10430
10431     while (ix > 0) {
10432         I32 i = POPINT(ss,ix);
10433         TOPINT(nss,ix) = i;
10434         switch (i) {
10435         case SAVEt_ITEM:                        /* normal string */
10436         case SAVEt_SV:                          /* scalar reference */
10437             sv = (SV*)POPPTR(ss,ix);
10438             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10439             sv = (SV*)POPPTR(ss,ix);
10440             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10441             break;
10442         case SAVEt_SHARED_PVREF:                /* char* in shared space */
10443             c = (char*)POPPTR(ss,ix);
10444             TOPPTR(nss,ix) = savesharedpv(c);
10445             ptr = POPPTR(ss,ix);
10446             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10447             break;
10448         case SAVEt_GENERIC_SVREF:               /* generic sv */
10449         case SAVEt_SVREF:                       /* scalar reference */
10450             sv = (SV*)POPPTR(ss,ix);
10451             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10452             ptr = POPPTR(ss,ix);
10453             TOPPTR(nss,ix) = svp_dup_inc((SV**)ptr, proto_perl);/* XXXXX */
10454             break;
10455         case SAVEt_HV:                          /* hash reference */
10456         case SAVEt_AV:                          /* array reference */
10457             sv = POPPTR(ss,ix);
10458             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10459             gv = (GV*)POPPTR(ss,ix);
10460             TOPPTR(nss,ix) = gv_dup(gv, param);
10461             break;
10462         case SAVEt_INT:                         /* int reference */
10463             ptr = POPPTR(ss,ix);
10464             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10465             intval = (int)POPINT(ss,ix);
10466             TOPINT(nss,ix) = intval;
10467             break;
10468         case SAVEt_LONG:                        /* long reference */
10469             ptr = POPPTR(ss,ix);
10470             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10471             longval = (long)POPLONG(ss,ix);
10472             TOPLONG(nss,ix) = longval;
10473             break;
10474         case SAVEt_I32:                         /* I32 reference */
10475         case SAVEt_I16:                         /* I16 reference */
10476         case SAVEt_I8:                          /* I8 reference */
10477         case SAVEt_COP_ARYBASE:                 /* call CopARYBASE_set */
10478             ptr = POPPTR(ss,ix);
10479             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10480             i = POPINT(ss,ix);
10481             TOPINT(nss,ix) = i;
10482             break;
10483         case SAVEt_IV:                          /* IV reference */
10484             ptr = POPPTR(ss,ix);
10485             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10486             iv = POPIV(ss,ix);
10487             TOPIV(nss,ix) = iv;
10488             break;
10489         case SAVEt_HPTR:                        /* HV* reference */
10490         case SAVEt_APTR:                        /* AV* reference */
10491         case SAVEt_SPTR:                        /* SV* reference */
10492             ptr = POPPTR(ss,ix);
10493             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10494             sv = (SV*)POPPTR(ss,ix);
10495             TOPPTR(nss,ix) = sv_dup(sv, param);
10496             break;
10497         case SAVEt_VPTR:                        /* random* reference */
10498             ptr = POPPTR(ss,ix);
10499             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10500             ptr = POPPTR(ss,ix);
10501             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10502             break;
10503         case SAVEt_GENERIC_PVREF:               /* generic char* */
10504         case SAVEt_PPTR:                        /* char* reference */
10505             ptr = POPPTR(ss,ix);
10506             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10507             c = (char*)POPPTR(ss,ix);
10508             TOPPTR(nss,ix) = pv_dup(c);
10509             break;
10510         case SAVEt_NSTAB:
10511             gv = (GV*)POPPTR(ss,ix);
10512             TOPPTR(nss,ix) = gv_dup(gv, param);
10513             break;
10514         case SAVEt_GP:                          /* scalar reference */
10515             gp = (GP*)POPPTR(ss,ix);
10516             TOPPTR(nss,ix) = gp = gp_dup(gp, param);
10517             (void)GpREFCNT_inc(gp);
10518             gv = (GV*)POPPTR(ss,ix);
10519             TOPPTR(nss,ix) = gv_dup_inc(gv, param);
10520             c = (char*)POPPTR(ss,ix);
10521             TOPPTR(nss,ix) = pv_dup(c);
10522             iv = POPIV(ss,ix);
10523             TOPIV(nss,ix) = iv;
10524             iv = POPIV(ss,ix);
10525             TOPIV(nss,ix) = iv;
10526             break;
10527         case SAVEt_FREESV:
10528         case SAVEt_MORTALIZESV:
10529             sv = (SV*)POPPTR(ss,ix);
10530             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10531             break;
10532         case SAVEt_FREEOP:
10533             ptr = POPPTR(ss,ix);
10534             if (ptr && (((OP*)ptr)->op_private & OPpREFCOUNTED)) {
10535                 /* these are assumed to be refcounted properly */
10536                 OP *o;
10537                 switch (((OP*)ptr)->op_type) {
10538                 case OP_LEAVESUB:
10539                 case OP_LEAVESUBLV:
10540                 case OP_LEAVEEVAL:
10541                 case OP_LEAVE:
10542                 case OP_SCOPE:
10543                 case OP_LEAVEWRITE:
10544                     TOPPTR(nss,ix) = ptr;
10545                     o = (OP*)ptr;
10546                     OpREFCNT_inc(o);
10547                     break;
10548                 default:
10549                     TOPPTR(nss,ix) = NULL;
10550                     break;
10551                 }
10552             }
10553             else
10554                 TOPPTR(nss,ix) = NULL;
10555             break;
10556         case SAVEt_FREEPV:
10557             c = (char*)POPPTR(ss,ix);
10558             TOPPTR(nss,ix) = pv_dup_inc(c);
10559             break;
10560         case SAVEt_CLEARSV:
10561             longval = POPLONG(ss,ix);
10562             TOPLONG(nss,ix) = longval;
10563             break;
10564         case SAVEt_DELETE:
10565             hv = (HV*)POPPTR(ss,ix);
10566             TOPPTR(nss,ix) = hv_dup_inc(hv, param);
10567             c = (char*)POPPTR(ss,ix);
10568             TOPPTR(nss,ix) = pv_dup_inc(c);
10569             i = POPINT(ss,ix);
10570             TOPINT(nss,ix) = i;
10571             break;
10572         case SAVEt_DESTRUCTOR:
10573             ptr = POPPTR(ss,ix);
10574             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);  /* XXX quite arbitrary */
10575             dptr = POPDPTR(ss,ix);
10576             TOPDPTR(nss,ix) = DPTR2FPTR(void (*)(void*),
10577                                         any_dup(FPTR2DPTR(void *, dptr),
10578                                                 proto_perl));
10579             break;
10580         case SAVEt_DESTRUCTOR_X:
10581             ptr = POPPTR(ss,ix);
10582             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);  /* XXX quite arbitrary */
10583             dxptr = POPDXPTR(ss,ix);
10584             TOPDXPTR(nss,ix) = DPTR2FPTR(void (*)(pTHX_ void*),
10585                                          any_dup(FPTR2DPTR(void *, dxptr),
10586                                                  proto_perl));
10587             break;
10588         case SAVEt_REGCONTEXT:
10589         case SAVEt_ALLOC:
10590             i = POPINT(ss,ix);
10591             TOPINT(nss,ix) = i;
10592             ix -= i;
10593             break;
10594         case SAVEt_STACK_POS:           /* Position on Perl stack */
10595             i = POPINT(ss,ix);
10596             TOPINT(nss,ix) = i;
10597             break;
10598         case SAVEt_AELEM:               /* array element */
10599             sv = (SV*)POPPTR(ss,ix);
10600             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10601             i = POPINT(ss,ix);
10602             TOPINT(nss,ix) = i;
10603             av = (AV*)POPPTR(ss,ix);
10604             TOPPTR(nss,ix) = av_dup_inc(av, param);
10605             break;
10606         case SAVEt_HELEM:               /* hash element */
10607             sv = (SV*)POPPTR(ss,ix);
10608             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10609             sv = (SV*)POPPTR(ss,ix);
10610             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10611             hv = (HV*)POPPTR(ss,ix);
10612             TOPPTR(nss,ix) = hv_dup_inc(hv, param);
10613             break;
10614         case SAVEt_OP:
10615             ptr = POPPTR(ss,ix);
10616             TOPPTR(nss,ix) = ptr;
10617             break;
10618         case SAVEt_HINTS:
10619             i = POPINT(ss,ix);
10620             TOPINT(nss,ix) = i;
10621             ptr = POPPTR(ss,ix);
10622             if (ptr) {
10623                 HINTS_REFCNT_LOCK;
10624                 ((struct refcounted_he *)ptr)->refcounted_he_refcnt++;
10625                 HINTS_REFCNT_UNLOCK;
10626             }
10627             TOPPTR(nss,ix) = ptr;
10628             if (i & HINT_LOCALIZE_HH) {
10629                 hv = (HV*)POPPTR(ss,ix);
10630                 TOPPTR(nss,ix) = hv_dup_inc(hv, param);
10631             }
10632             break;
10633         case SAVEt_COMPPAD:
10634             av = (AV*)POPPTR(ss,ix);
10635             TOPPTR(nss,ix) = av_dup(av, param);
10636             break;
10637         case SAVEt_PADSV:
10638             longval = (long)POPLONG(ss,ix);
10639             TOPLONG(nss,ix) = longval;
10640             ptr = POPPTR(ss,ix);
10641             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10642             sv = (SV*)POPPTR(ss,ix);
10643             TOPPTR(nss,ix) = sv_dup(sv, param);
10644             break;
10645         case SAVEt_BOOL:
10646             ptr = POPPTR(ss,ix);
10647             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10648             longval = (long)POPBOOL(ss,ix);
10649             TOPBOOL(nss,ix) = (bool)longval;
10650             break;
10651         case SAVEt_SET_SVFLAGS:
10652             i = POPINT(ss,ix);
10653             TOPINT(nss,ix) = i;
10654             i = POPINT(ss,ix);
10655             TOPINT(nss,ix) = i;
10656             sv = (SV*)POPPTR(ss,ix);
10657             TOPPTR(nss,ix) = sv_dup(sv, param);
10658             break;
10659         case SAVEt_RE_STATE:
10660             {
10661                 const struct re_save_state *const old_state
10662                     = (struct re_save_state *)
10663                     (ss + ix - SAVESTACK_ALLOC_FOR_RE_SAVE_STATE);
10664                 struct re_save_state *const new_state
10665                     = (struct re_save_state *)
10666                     (nss + ix - SAVESTACK_ALLOC_FOR_RE_SAVE_STATE);
10667
10668                 Copy(old_state, new_state, 1, struct re_save_state);
10669                 ix -= SAVESTACK_ALLOC_FOR_RE_SAVE_STATE;
10670
10671                 new_state->re_state_bostr
10672                     = pv_dup(old_state->re_state_bostr);
10673                 new_state->re_state_reginput
10674                     = pv_dup(old_state->re_state_reginput);
10675                 new_state->re_state_regeol
10676                     = pv_dup(old_state->re_state_regeol);
10677                 new_state->re_state_regstartp
10678                     = any_dup(old_state->re_state_regstartp, proto_perl);
10679                 new_state->re_state_regendp
10680                     = any_dup(old_state->re_state_regendp, proto_perl);
10681                 new_state->re_state_reglastparen
10682                     = any_dup(old_state->re_state_reglastparen, proto_perl);
10683                 new_state->re_state_reglastcloseparen
10684                     = any_dup(old_state->re_state_reglastcloseparen,
10685                               proto_perl);
10686                 /* XXX This just has to be broken. The old save_re_context
10687                    code did SAVEGENERICPV(PL_reg_start_tmp);
10688                    PL_reg_start_tmp is char **.
10689                    Look above to what the dup code does for
10690                    SAVEt_GENERIC_PVREF
10691                    It can never have worked.
10692                    So this is merely a faithful copy of the exiting bug:  */
10693                 new_state->re_state_reg_start_tmp
10694                     = (char **) pv_dup((char *)
10695                                       old_state->re_state_reg_start_tmp);
10696                 /* I assume that it only ever "worked" because no-one called
10697                    (pseudo)fork while the regexp engine had re-entered itself.
10698                 */
10699 #ifdef PERL_OLD_COPY_ON_WRITE
10700                 new_state->re_state_nrs
10701                     = sv_dup(old_state->re_state_nrs, param);
10702 #endif
10703                 new_state->re_state_reg_magic
10704                     = any_dup(old_state->re_state_reg_magic, proto_perl);
10705                 new_state->re_state_reg_oldcurpm
10706                     = any_dup(old_state->re_state_reg_oldcurpm, proto_perl);
10707                 new_state->re_state_reg_curpm
10708                     = any_dup(old_state->re_state_reg_curpm, proto_perl);
10709                 new_state->re_state_reg_oldsaved
10710                     = pv_dup(old_state->re_state_reg_oldsaved);
10711                 new_state->re_state_reg_poscache
10712                     = pv_dup(old_state->re_state_reg_poscache);
10713                 new_state->re_state_reg_starttry
10714                     = pv_dup(old_state->re_state_reg_starttry);
10715                 break;
10716             }
10717         case SAVEt_COMPILE_WARNINGS:
10718             ptr = POPPTR(ss,ix);
10719             TOPPTR(nss,ix) = DUP_WARNINGS((STRLEN*)ptr);
10720             break;
10721         default:
10722             Perl_croak(aTHX_ "panic: ss_dup inconsistency (%"IVdf")", (IV) i);
10723         }
10724     }
10725
10726     return nss;
10727 }
10728
10729
10730 /* if sv is a stash, call $class->CLONE_SKIP(), and set the SVphv_CLONEABLE
10731  * flag to the result. This is done for each stash before cloning starts,
10732  * so we know which stashes want their objects cloned */
10733
10734 static void
10735 do_mark_cloneable_stash(pTHX_ SV *sv)
10736 {
10737     const HEK * const hvname = HvNAME_HEK((HV*)sv);
10738     if (hvname) {
10739         GV* const cloner = gv_fetchmethod_autoload((HV*)sv, "CLONE_SKIP", 0);
10740         SvFLAGS(sv) |= SVphv_CLONEABLE; /* clone objects by default */
10741         if (cloner && GvCV(cloner)) {
10742             dSP;
10743             UV status;
10744
10745             ENTER;
10746             SAVETMPS;
10747             PUSHMARK(SP);
10748             XPUSHs(sv_2mortal(newSVhek(hvname)));
10749             PUTBACK;
10750             call_sv((SV*)GvCV(cloner), G_SCALAR);
10751             SPAGAIN;
10752             status = POPu;
10753             PUTBACK;
10754             FREETMPS;
10755             LEAVE;
10756             if (status)
10757                 SvFLAGS(sv) &= ~SVphv_CLONEABLE;
10758         }
10759     }
10760 }
10761
10762
10763
10764 /*
10765 =for apidoc perl_clone
10766
10767 Create and return a new interpreter by cloning the current one.
10768
10769 perl_clone takes these flags as parameters:
10770
10771 CLONEf_COPY_STACKS - is used to, well, copy the stacks also,
10772 without it we only clone the data and zero the stacks,
10773 with it we copy the stacks and the new perl interpreter is
10774 ready to run at the exact same point as the previous one.
10775 The pseudo-fork code uses COPY_STACKS while the
10776 threads->new doesn't.
10777
10778 CLONEf_KEEP_PTR_TABLE
10779 perl_clone keeps a ptr_table with the pointer of the old
10780 variable as a key and the new variable as a value,
10781 this allows it to check if something has been cloned and not
10782 clone it again but rather just use the value and increase the
10783 refcount. If KEEP_PTR_TABLE is not set then perl_clone will kill
10784 the ptr_table using the function
10785 C<ptr_table_free(PL_ptr_table); PL_ptr_table = NULL;>,
10786 reason to keep it around is if you want to dup some of your own
10787 variable who are outside the graph perl scans, example of this
10788 code is in threads.xs create
10789
10790 CLONEf_CLONE_HOST
10791 This is a win32 thing, it is ignored on unix, it tells perls
10792 win32host code (which is c++) to clone itself, this is needed on
10793 win32 if you want to run two threads at the same time,
10794 if you just want to do some stuff in a separate perl interpreter
10795 and then throw it away and return to the original one,
10796 you don't need to do anything.
10797
10798 =cut
10799 */
10800
10801 /* XXX the above needs expanding by someone who actually understands it ! */
10802 EXTERN_C PerlInterpreter *
10803 perl_clone_host(PerlInterpreter* proto_perl, UV flags);
10804
10805 PerlInterpreter *
10806 perl_clone(PerlInterpreter *proto_perl, UV flags)
10807 {
10808    dVAR;
10809 #ifdef PERL_IMPLICIT_SYS
10810
10811    /* perlhost.h so we need to call into it
10812    to clone the host, CPerlHost should have a c interface, sky */
10813
10814    if (flags & CLONEf_CLONE_HOST) {
10815        return perl_clone_host(proto_perl,flags);
10816    }
10817    return perl_clone_using(proto_perl, flags,
10818                             proto_perl->IMem,
10819                             proto_perl->IMemShared,
10820                             proto_perl->IMemParse,
10821                             proto_perl->IEnv,
10822                             proto_perl->IStdIO,
10823                             proto_perl->ILIO,
10824                             proto_perl->IDir,
10825                             proto_perl->ISock,
10826                             proto_perl->IProc);
10827 }
10828
10829 PerlInterpreter *
10830 perl_clone_using(PerlInterpreter *proto_perl, UV flags,
10831                  struct IPerlMem* ipM, struct IPerlMem* ipMS,
10832                  struct IPerlMem* ipMP, struct IPerlEnv* ipE,
10833                  struct IPerlStdIO* ipStd, struct IPerlLIO* ipLIO,
10834                  struct IPerlDir* ipD, struct IPerlSock* ipS,
10835                  struct IPerlProc* ipP)
10836 {
10837     /* XXX many of the string copies here can be optimized if they're
10838      * constants; they need to be allocated as common memory and just
10839      * their pointers copied. */
10840
10841     IV i;
10842     CLONE_PARAMS clone_params;
10843     CLONE_PARAMS* const param = &clone_params;
10844
10845     PerlInterpreter * const my_perl = (PerlInterpreter*)(*ipM->pMalloc)(ipM, sizeof(PerlInterpreter));
10846     /* for each stash, determine whether its objects should be cloned */
10847     S_visit(proto_perl, do_mark_cloneable_stash, SVt_PVHV, SVTYPEMASK);
10848     PERL_SET_THX(my_perl);
10849
10850 #  ifdef DEBUGGING
10851     PoisonNew(my_perl, 1, PerlInterpreter);
10852     PL_op = NULL;
10853     PL_curcop = NULL;
10854     PL_markstack = 0;
10855     PL_scopestack = 0;
10856     PL_savestack = 0;
10857     PL_savestack_ix = 0;
10858     PL_savestack_max = -1;
10859     PL_sig_pending = 0;
10860     Zero(&PL_debug_pad, 1, struct perl_debug_pad);
10861 #  else /* !DEBUGGING */
10862     Zero(my_perl, 1, PerlInterpreter);
10863 #  endif        /* DEBUGGING */
10864
10865     /* host pointers */
10866     PL_Mem              = ipM;
10867     PL_MemShared        = ipMS;
10868     PL_MemParse         = ipMP;
10869     PL_Env              = ipE;
10870     PL_StdIO            = ipStd;
10871     PL_LIO              = ipLIO;
10872     PL_Dir              = ipD;
10873     PL_Sock             = ipS;
10874     PL_Proc             = ipP;
10875 #else           /* !PERL_IMPLICIT_SYS */
10876     IV i;
10877     CLONE_PARAMS clone_params;
10878     CLONE_PARAMS* param = &clone_params;
10879     PerlInterpreter * const my_perl = (PerlInterpreter*)PerlMem_malloc(sizeof(PerlInterpreter));
10880     /* for each stash, determine whether its objects should be cloned */
10881     S_visit(proto_perl, do_mark_cloneable_stash, SVt_PVHV, SVTYPEMASK);
10882     PERL_SET_THX(my_perl);
10883
10884 #    ifdef DEBUGGING
10885     PoisonNew(my_perl, 1, PerlInterpreter);
10886     PL_op = NULL;
10887     PL_curcop = NULL;
10888     PL_markstack = 0;
10889     PL_scopestack = 0;
10890     PL_savestack = 0;
10891     PL_savestack_ix = 0;
10892     PL_savestack_max = -1;
10893     PL_sig_pending = 0;
10894     Zero(&PL_debug_pad, 1, struct perl_debug_pad);
10895 #    else       /* !DEBUGGING */
10896     Zero(my_perl, 1, PerlInterpreter);
10897 #    endif      /* DEBUGGING */
10898 #endif          /* PERL_IMPLICIT_SYS */
10899     param->flags = flags;
10900     param->proto_perl = proto_perl;
10901
10902     INIT_TRACK_MEMPOOL(my_perl->Imemory_debug_header, my_perl);
10903
10904     PL_body_arenas = NULL;
10905     Zero(&PL_body_roots, 1, PL_body_roots);
10906     
10907     PL_nice_chunk       = NULL;
10908     PL_nice_chunk_size  = 0;
10909     PL_sv_count         = 0;
10910     PL_sv_objcount      = 0;
10911     PL_sv_root          = NULL;
10912     PL_sv_arenaroot     = NULL;
10913
10914     PL_debug            = proto_perl->Idebug;
10915
10916     PL_hash_seed        = proto_perl->Ihash_seed;
10917     PL_rehash_seed      = proto_perl->Irehash_seed;
10918
10919 #ifdef USE_REENTRANT_API
10920     /* XXX: things like -Dm will segfault here in perlio, but doing
10921      *  PERL_SET_CONTEXT(proto_perl);
10922      * breaks too many other things
10923      */
10924     Perl_reentrant_init(aTHX);
10925 #endif
10926
10927     /* create SV map for pointer relocation */
10928     PL_ptr_table = ptr_table_new();
10929
10930     /* initialize these special pointers as early as possible */
10931     SvANY(&PL_sv_undef)         = NULL;
10932     SvREFCNT(&PL_sv_undef)      = (~(U32)0)/2;
10933     SvFLAGS(&PL_sv_undef)       = SVf_READONLY|SVt_NULL;
10934     ptr_table_store(PL_ptr_table, &proto_perl->Isv_undef, &PL_sv_undef);
10935
10936     SvANY(&PL_sv_no)            = new_XPVNV();
10937     SvREFCNT(&PL_sv_no)         = (~(U32)0)/2;
10938     SvFLAGS(&PL_sv_no)          = SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
10939                                   |SVp_POK|SVf_POK|SVf_READONLY|SVt_PVNV;
10940     SvPV_set(&PL_sv_no, savepvn(PL_No, 0));
10941     SvCUR_set(&PL_sv_no, 0);
10942     SvLEN_set(&PL_sv_no, 1);
10943     SvIV_set(&PL_sv_no, 0);
10944     SvNV_set(&PL_sv_no, 0);
10945     ptr_table_store(PL_ptr_table, &proto_perl->Isv_no, &PL_sv_no);
10946
10947     SvANY(&PL_sv_yes)           = new_XPVNV();
10948     SvREFCNT(&PL_sv_yes)        = (~(U32)0)/2;
10949     SvFLAGS(&PL_sv_yes)         = SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
10950                                   |SVp_POK|SVf_POK|SVf_READONLY|SVt_PVNV;
10951     SvPV_set(&PL_sv_yes, savepvn(PL_Yes, 1));
10952     SvCUR_set(&PL_sv_yes, 1);
10953     SvLEN_set(&PL_sv_yes, 2);
10954     SvIV_set(&PL_sv_yes, 1);
10955     SvNV_set(&PL_sv_yes, 1);
10956     ptr_table_store(PL_ptr_table, &proto_perl->Isv_yes, &PL_sv_yes);
10957
10958     /* create (a non-shared!) shared string table */
10959     PL_strtab           = newHV();
10960     HvSHAREKEYS_off(PL_strtab);
10961     hv_ksplit(PL_strtab, HvTOTALKEYS(proto_perl->Istrtab));
10962     ptr_table_store(PL_ptr_table, proto_perl->Istrtab, PL_strtab);
10963
10964     PL_compiling = proto_perl->Icompiling;
10965
10966     /* These two PVs will be free'd special way so must set them same way op.c does */
10967     PL_compiling.cop_stashpv = savesharedpv(PL_compiling.cop_stashpv);
10968     ptr_table_store(PL_ptr_table, proto_perl->Icompiling.cop_stashpv, PL_compiling.cop_stashpv);
10969
10970     PL_compiling.cop_file    = savesharedpv(PL_compiling.cop_file);
10971     ptr_table_store(PL_ptr_table, proto_perl->Icompiling.cop_file, PL_compiling.cop_file);
10972
10973     ptr_table_store(PL_ptr_table, &proto_perl->Icompiling, &PL_compiling);
10974     PL_compiling.cop_warnings = DUP_WARNINGS(PL_compiling.cop_warnings);
10975     if (PL_compiling.cop_hints_hash) {
10976         HINTS_REFCNT_LOCK;
10977         PL_compiling.cop_hints_hash->refcounted_he_refcnt++;
10978         HINTS_REFCNT_UNLOCK;
10979     }
10980     PL_curcop           = (COP*)any_dup(proto_perl->Tcurcop, proto_perl);
10981
10982     /* pseudo environmental stuff */
10983     PL_origargc         = proto_perl->Iorigargc;
10984     PL_origargv         = proto_perl->Iorigargv;
10985
10986     param->stashes      = newAV();  /* Setup array of objects to call clone on */
10987
10988     /* Set tainting stuff before PerlIO_debug can possibly get called */
10989     PL_tainting         = proto_perl->Itainting;
10990     PL_taint_warn       = proto_perl->Itaint_warn;
10991
10992 #ifdef PERLIO_LAYERS
10993     /* Clone PerlIO tables as soon as we can handle general xx_dup() */
10994     PerlIO_clone(aTHX_ proto_perl, param);
10995 #endif
10996
10997     PL_envgv            = gv_dup(proto_perl->Ienvgv, param);
10998     PL_incgv            = gv_dup(proto_perl->Iincgv, param);
10999     PL_hintgv           = gv_dup(proto_perl->Ihintgv, param);
11000     PL_origfilename     = SAVEPV(proto_perl->Iorigfilename);
11001     PL_diehook          = sv_dup_inc(proto_perl->Idiehook, param);
11002     PL_warnhook         = sv_dup_inc(proto_perl->Iwarnhook, param);
11003
11004     /* switches */
11005     PL_minus_c          = proto_perl->Iminus_c;
11006     PL_patchlevel       = sv_dup_inc(proto_perl->Ipatchlevel, param);
11007     PL_localpatches     = proto_perl->Ilocalpatches;
11008     PL_splitstr         = proto_perl->Isplitstr;
11009     PL_preprocess       = proto_perl->Ipreprocess;
11010     PL_minus_n          = proto_perl->Iminus_n;
11011     PL_minus_p          = proto_perl->Iminus_p;
11012     PL_minus_l          = proto_perl->Iminus_l;
11013     PL_minus_a          = proto_perl->Iminus_a;
11014     PL_minus_E          = proto_perl->Iminus_E;
11015     PL_minus_F          = proto_perl->Iminus_F;
11016     PL_doswitches       = proto_perl->Idoswitches;
11017     PL_dowarn           = proto_perl->Idowarn;
11018     PL_doextract        = proto_perl->Idoextract;
11019     PL_sawampersand     = proto_perl->Isawampersand;
11020     PL_unsafe           = proto_perl->Iunsafe;
11021     PL_inplace          = SAVEPV(proto_perl->Iinplace);
11022     PL_e_script         = sv_dup_inc(proto_perl->Ie_script, param);
11023     PL_perldb           = proto_perl->Iperldb;
11024     PL_perl_destruct_level = proto_perl->Iperl_destruct_level;
11025     PL_exit_flags       = proto_perl->Iexit_flags;
11026
11027     /* magical thingies */
11028     /* XXX time(&PL_basetime) when asked for? */
11029     PL_basetime         = proto_perl->Ibasetime;
11030     PL_formfeed         = sv_dup(proto_perl->Iformfeed, param);
11031
11032     PL_maxsysfd         = proto_perl->Imaxsysfd;
11033     PL_statusvalue      = proto_perl->Istatusvalue;
11034 #ifdef VMS
11035     PL_statusvalue_vms  = proto_perl->Istatusvalue_vms;
11036 #else
11037     PL_statusvalue_posix = proto_perl->Istatusvalue_posix;
11038 #endif
11039     PL_encoding         = sv_dup(proto_perl->Iencoding, param);
11040
11041     sv_setpvn(PERL_DEBUG_PAD(0), "", 0);        /* For regex debugging. */
11042     sv_setpvn(PERL_DEBUG_PAD(1), "", 0);        /* ext/re needs these */
11043     sv_setpvn(PERL_DEBUG_PAD(2), "", 0);        /* even without DEBUGGING. */
11044
11045     /* Clone the regex array */
11046     PL_regex_padav = newAV();
11047     {
11048         const I32 len = av_len((AV*)proto_perl->Iregex_padav);
11049         SV* const * const regexen = AvARRAY((AV*)proto_perl->Iregex_padav);
11050         IV i;
11051         av_push(PL_regex_padav, sv_dup_inc_NN(regexen[0],param));
11052         for(i = 1; i <= len; i++) {
11053             const SV * const regex = regexen[i];
11054             SV * const sv =
11055                 SvREPADTMP(regex)
11056                     ? sv_dup_inc(regex, param)
11057                     : SvREFCNT_inc(
11058                         newSViv(PTR2IV(re_dup(
11059                                 INT2PTR(REGEXP *, SvIVX(regex)), param))))
11060                 ;
11061             av_push(PL_regex_padav, sv);
11062         }
11063     }
11064     PL_regex_pad = AvARRAY(PL_regex_padav);
11065
11066     /* shortcuts to various I/O objects */
11067     PL_stdingv          = gv_dup(proto_perl->Istdingv, param);
11068     PL_stderrgv         = gv_dup(proto_perl->Istderrgv, param);
11069     PL_defgv            = gv_dup(proto_perl->Idefgv, param);
11070     PL_argvgv           = gv_dup(proto_perl->Iargvgv, param);
11071     PL_argvoutgv        = gv_dup(proto_perl->Iargvoutgv, param);
11072     PL_argvout_stack    = av_dup_inc(proto_perl->Iargvout_stack, param);
11073
11074     /* shortcuts to regexp stuff */
11075     PL_replgv           = gv_dup(proto_perl->Ireplgv, param);
11076
11077     /* shortcuts to misc objects */
11078     PL_errgv            = gv_dup(proto_perl->Ierrgv, param);
11079
11080     /* shortcuts to debugging objects */
11081     PL_DBgv             = gv_dup(proto_perl->IDBgv, param);
11082     PL_DBline           = gv_dup(proto_perl->IDBline, param);
11083     PL_DBsub            = gv_dup(proto_perl->IDBsub, param);
11084     PL_DBsingle         = sv_dup(proto_perl->IDBsingle, param);
11085     PL_DBtrace          = sv_dup(proto_perl->IDBtrace, param);
11086     PL_DBsignal         = sv_dup(proto_perl->IDBsignal, param);
11087     PL_DBassertion      = sv_dup(proto_perl->IDBassertion, param);
11088     PL_lineary          = av_dup(proto_perl->Ilineary, param);
11089     PL_dbargs           = av_dup(proto_perl->Idbargs, param);
11090
11091     /* symbol tables */
11092     PL_defstash         = hv_dup_inc(proto_perl->Tdefstash, param);
11093     PL_curstash         = hv_dup(proto_perl->Tcurstash, param);
11094     PL_debstash         = hv_dup(proto_perl->Idebstash, param);
11095     PL_globalstash      = hv_dup(proto_perl->Iglobalstash, param);
11096     PL_curstname        = sv_dup_inc(proto_perl->Icurstname, param);
11097
11098     PL_beginav          = av_dup_inc(proto_perl->Ibeginav, param);
11099     PL_beginav_save     = av_dup_inc(proto_perl->Ibeginav_save, param);
11100     PL_checkav_save     = av_dup_inc(proto_perl->Icheckav_save, param);
11101     PL_endav            = av_dup_inc(proto_perl->Iendav, param);
11102     PL_checkav          = av_dup_inc(proto_perl->Icheckav, param);
11103     PL_initav           = av_dup_inc(proto_perl->Iinitav, param);
11104
11105     PL_sub_generation   = proto_perl->Isub_generation;
11106
11107     /* funky return mechanisms */
11108     PL_forkprocess      = proto_perl->Iforkprocess;
11109
11110     /* subprocess state */
11111     PL_fdpid            = av_dup_inc(proto_perl->Ifdpid, param);
11112
11113     /* internal state */
11114     PL_maxo             = proto_perl->Imaxo;
11115     if (proto_perl->Iop_mask)
11116         PL_op_mask      = SAVEPVN(proto_perl->Iop_mask, PL_maxo);
11117     else
11118         PL_op_mask      = NULL;
11119     /* PL_asserting        = proto_perl->Iasserting; */
11120
11121     /* current interpreter roots */
11122     PL_main_cv          = cv_dup_inc(proto_perl->Imain_cv, param);
11123     PL_main_root        = OpREFCNT_inc(proto_perl->Imain_root);
11124     PL_main_start       = proto_perl->Imain_start;
11125     PL_eval_root        = proto_perl->Ieval_root;
11126     PL_eval_start       = proto_perl->Ieval_start;
11127
11128     /* runtime control stuff */
11129     PL_curcopdb         = (COP*)any_dup(proto_perl->Icurcopdb, proto_perl);
11130     PL_copline          = proto_perl->Icopline;
11131
11132     PL_filemode         = proto_perl->Ifilemode;
11133     PL_lastfd           = proto_perl->Ilastfd;
11134     PL_oldname          = proto_perl->Ioldname;         /* XXX not quite right */
11135     PL_Argv             = NULL;
11136     PL_Cmd              = NULL;
11137     PL_gensym           = proto_perl->Igensym;
11138     PL_preambled        = proto_perl->Ipreambled;
11139     PL_preambleav       = av_dup_inc(proto_perl->Ipreambleav, param);
11140     PL_laststatval      = proto_perl->Ilaststatval;
11141     PL_laststype        = proto_perl->Ilaststype;
11142     PL_mess_sv          = NULL;
11143
11144     PL_ors_sv           = sv_dup_inc(proto_perl->Iors_sv, param);
11145
11146     /* interpreter atexit processing */
11147     PL_exitlistlen      = proto_perl->Iexitlistlen;
11148     if (PL_exitlistlen) {
11149         Newx(PL_exitlist, PL_exitlistlen, PerlExitListEntry);
11150         Copy(proto_perl->Iexitlist, PL_exitlist, PL_exitlistlen, PerlExitListEntry);
11151     }
11152     else
11153         PL_exitlist     = (PerlExitListEntry*)NULL;
11154
11155     PL_my_cxt_size = proto_perl->Imy_cxt_size;
11156     if (PL_my_cxt_size) {
11157         Newx(PL_my_cxt_list, PL_my_cxt_size, void *);
11158         Copy(proto_perl->Imy_cxt_list, PL_my_cxt_list, PL_my_cxt_size, void *);
11159     }
11160     else
11161         PL_my_cxt_list  = (void**)NULL;
11162     PL_modglobal        = hv_dup_inc(proto_perl->Imodglobal, param);
11163     PL_custom_op_names  = hv_dup_inc(proto_perl->Icustom_op_names,param);
11164     PL_custom_op_descs  = hv_dup_inc(proto_perl->Icustom_op_descs,param);
11165
11166     PL_profiledata      = NULL;
11167     PL_rsfp             = fp_dup(proto_perl->Irsfp, '<', param);
11168     /* PL_rsfp_filters entries have fake IoDIRP() */
11169     PL_rsfp_filters     = av_dup_inc(proto_perl->Irsfp_filters, param);
11170
11171     PL_compcv                   = cv_dup(proto_perl->Icompcv, param);
11172
11173     PAD_CLONE_VARS(proto_perl, param);
11174
11175 #ifdef HAVE_INTERP_INTERN
11176     sys_intern_dup(&proto_perl->Isys_intern, &PL_sys_intern);
11177 #endif
11178
11179     /* more statics moved here */
11180     PL_generation       = proto_perl->Igeneration;
11181     PL_DBcv             = cv_dup(proto_perl->IDBcv, param);
11182
11183     PL_in_clean_objs    = proto_perl->Iin_clean_objs;
11184     PL_in_clean_all     = proto_perl->Iin_clean_all;
11185
11186     PL_uid              = proto_perl->Iuid;
11187     PL_euid             = proto_perl->Ieuid;
11188     PL_gid              = proto_perl->Igid;
11189     PL_egid             = proto_perl->Iegid;
11190     PL_nomemok          = proto_perl->Inomemok;
11191     PL_an               = proto_perl->Ian;
11192     PL_evalseq          = proto_perl->Ievalseq;
11193     PL_origenviron      = proto_perl->Iorigenviron;     /* XXX not quite right */
11194     PL_origalen         = proto_perl->Iorigalen;
11195 #ifdef PERL_USES_PL_PIDSTATUS
11196     PL_pidstatus        = newHV();                      /* XXX flag for cloning? */
11197 #endif
11198     PL_osname           = SAVEPV(proto_perl->Iosname);
11199     PL_sighandlerp      = proto_perl->Isighandlerp;
11200
11201     PL_runops           = proto_perl->Irunops;
11202
11203     Copy(proto_perl->Itokenbuf, PL_tokenbuf, 256, char);
11204
11205 #ifdef CSH
11206     PL_cshlen           = proto_perl->Icshlen;
11207     PL_cshname          = proto_perl->Icshname; /* XXX never deallocated */
11208 #endif
11209
11210     PL_lex_state        = proto_perl->Ilex_state;
11211     PL_lex_defer        = proto_perl->Ilex_defer;
11212     PL_lex_expect       = proto_perl->Ilex_expect;
11213     PL_lex_formbrack    = proto_perl->Ilex_formbrack;
11214     PL_lex_dojoin       = proto_perl->Ilex_dojoin;
11215     PL_lex_starts       = proto_perl->Ilex_starts;
11216     PL_lex_stuff        = sv_dup_inc(proto_perl->Ilex_stuff, param);
11217     PL_lex_repl         = sv_dup_inc(proto_perl->Ilex_repl, param);
11218     PL_lex_op           = proto_perl->Ilex_op;
11219     PL_lex_inpat        = proto_perl->Ilex_inpat;
11220     PL_lex_inwhat       = proto_perl->Ilex_inwhat;
11221     PL_lex_brackets     = proto_perl->Ilex_brackets;
11222     i = (PL_lex_brackets < 120 ? 120 : PL_lex_brackets);
11223     PL_lex_brackstack   = SAVEPVN(proto_perl->Ilex_brackstack,i);
11224     PL_lex_casemods     = proto_perl->Ilex_casemods;
11225     i = (PL_lex_casemods < 12 ? 12 : PL_lex_casemods);
11226     PL_lex_casestack    = SAVEPVN(proto_perl->Ilex_casestack,i);
11227
11228 #ifdef PERL_MAD
11229     Copy(proto_perl->Inexttoke, PL_nexttoke, 5, NEXTTOKE);
11230     PL_lasttoke         = proto_perl->Ilasttoke;
11231     PL_realtokenstart   = proto_perl->Irealtokenstart;
11232     PL_faketokens       = proto_perl->Ifaketokens;
11233     PL_thismad          = proto_perl->Ithismad;
11234     PL_thistoken        = proto_perl->Ithistoken;
11235     PL_thisopen         = proto_perl->Ithisopen;
11236     PL_thisstuff        = proto_perl->Ithisstuff;
11237     PL_thisclose        = proto_perl->Ithisclose;
11238     PL_thiswhite        = proto_perl->Ithiswhite;
11239     PL_nextwhite        = proto_perl->Inextwhite;
11240     PL_skipwhite        = proto_perl->Iskipwhite;
11241     PL_endwhite         = proto_perl->Iendwhite;
11242     PL_curforce         = proto_perl->Icurforce;
11243 #else
11244     Copy(proto_perl->Inextval, PL_nextval, 5, YYSTYPE);
11245     Copy(proto_perl->Inexttype, PL_nexttype, 5, I32);
11246     PL_nexttoke         = proto_perl->Inexttoke;
11247 #endif
11248
11249     /* XXX This is probably masking the deeper issue of why
11250      * SvANY(proto_perl->Ilinestr) can be NULL at this point. For test case:
11251      * http://archive.develooper.com/perl5-porters%40perl.org/msg83298.html
11252      * (A little debugging with a watchpoint on it may help.)
11253      */
11254     if (SvANY(proto_perl->Ilinestr)) {
11255         PL_linestr              = sv_dup_inc(proto_perl->Ilinestr, param);
11256         i = proto_perl->Ibufptr - SvPVX_const(proto_perl->Ilinestr);
11257         PL_bufptr               = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11258         i = proto_perl->Ioldbufptr - SvPVX_const(proto_perl->Ilinestr);
11259         PL_oldbufptr    = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11260         i = proto_perl->Ioldoldbufptr - SvPVX_const(proto_perl->Ilinestr);
11261         PL_oldoldbufptr = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11262         i = proto_perl->Ilinestart - SvPVX_const(proto_perl->Ilinestr);
11263         PL_linestart    = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11264     }
11265     else {
11266         PL_linestr = newSV(79);
11267         sv_upgrade(PL_linestr,SVt_PVIV);
11268         sv_setpvn(PL_linestr,"",0);
11269         PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart = SvPVX(PL_linestr);
11270     }
11271     PL_bufend           = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11272     PL_pending_ident    = proto_perl->Ipending_ident;
11273     PL_sublex_info      = proto_perl->Isublex_info;     /* XXX not quite right */
11274
11275     PL_expect           = proto_perl->Iexpect;
11276
11277     PL_multi_start      = proto_perl->Imulti_start;
11278     PL_multi_end        = proto_perl->Imulti_end;
11279     PL_multi_open       = proto_perl->Imulti_open;
11280     PL_multi_close      = proto_perl->Imulti_close;
11281
11282     PL_error_count      = proto_perl->Ierror_count;
11283     PL_subline          = proto_perl->Isubline;
11284     PL_subname          = sv_dup_inc(proto_perl->Isubname, param);
11285
11286     /* XXX See comment on SvANY(proto_perl->Ilinestr) above */
11287     if (SvANY(proto_perl->Ilinestr)) {
11288         i = proto_perl->Ilast_uni - SvPVX_const(proto_perl->Ilinestr);
11289         PL_last_uni             = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11290         i = proto_perl->Ilast_lop - SvPVX_const(proto_perl->Ilinestr);
11291         PL_last_lop             = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11292         PL_last_lop_op  = proto_perl->Ilast_lop_op;
11293     }
11294     else {
11295         PL_last_uni     = SvPVX(PL_linestr);
11296         PL_last_lop     = SvPVX(PL_linestr);
11297         PL_last_lop_op  = 0;
11298     }
11299     PL_in_my            = proto_perl->Iin_my;
11300     PL_in_my_stash      = hv_dup(proto_perl->Iin_my_stash, param);
11301 #ifdef FCRYPT
11302     PL_cryptseen        = proto_perl->Icryptseen;
11303 #endif
11304
11305     PL_hints            = proto_perl->Ihints;
11306
11307     PL_amagic_generation        = proto_perl->Iamagic_generation;
11308
11309 #ifdef USE_LOCALE_COLLATE
11310     PL_collation_ix     = proto_perl->Icollation_ix;
11311     PL_collation_name   = SAVEPV(proto_perl->Icollation_name);
11312     PL_collation_standard       = proto_perl->Icollation_standard;
11313     PL_collxfrm_base    = proto_perl->Icollxfrm_base;
11314     PL_collxfrm_mult    = proto_perl->Icollxfrm_mult;
11315 #endif /* USE_LOCALE_COLLATE */
11316
11317 #ifdef USE_LOCALE_NUMERIC
11318     PL_numeric_name     = SAVEPV(proto_perl->Inumeric_name);
11319     PL_numeric_standard = proto_perl->Inumeric_standard;
11320     PL_numeric_local    = proto_perl->Inumeric_local;
11321     PL_numeric_radix_sv = sv_dup_inc(proto_perl->Inumeric_radix_sv, param);
11322 #endif /* !USE_LOCALE_NUMERIC */
11323
11324     /* utf8 character classes */
11325     PL_utf8_alnum       = sv_dup_inc(proto_perl->Iutf8_alnum, param);
11326     PL_utf8_alnumc      = sv_dup_inc(proto_perl->Iutf8_alnumc, param);
11327     PL_utf8_ascii       = sv_dup_inc(proto_perl->Iutf8_ascii, param);
11328     PL_utf8_alpha       = sv_dup_inc(proto_perl->Iutf8_alpha, param);
11329     PL_utf8_space       = sv_dup_inc(proto_perl->Iutf8_space, param);
11330     PL_utf8_cntrl       = sv_dup_inc(proto_perl->Iutf8_cntrl, param);
11331     PL_utf8_graph       = sv_dup_inc(proto_perl->Iutf8_graph, param);
11332     PL_utf8_digit       = sv_dup_inc(proto_perl->Iutf8_digit, param);
11333     PL_utf8_upper       = sv_dup_inc(proto_perl->Iutf8_upper, param);
11334     PL_utf8_lower       = sv_dup_inc(proto_perl->Iutf8_lower, param);
11335     PL_utf8_print       = sv_dup_inc(proto_perl->Iutf8_print, param);
11336     PL_utf8_punct       = sv_dup_inc(proto_perl->Iutf8_punct, param);
11337     PL_utf8_xdigit      = sv_dup_inc(proto_perl->Iutf8_xdigit, param);
11338     PL_utf8_mark        = sv_dup_inc(proto_perl->Iutf8_mark, param);
11339     PL_utf8_toupper     = sv_dup_inc(proto_perl->Iutf8_toupper, param);
11340     PL_utf8_totitle     = sv_dup_inc(proto_perl->Iutf8_totitle, param);
11341     PL_utf8_tolower     = sv_dup_inc(proto_perl->Iutf8_tolower, param);
11342     PL_utf8_tofold      = sv_dup_inc(proto_perl->Iutf8_tofold, param);
11343     PL_utf8_idstart     = sv_dup_inc(proto_perl->Iutf8_idstart, param);
11344     PL_utf8_idcont      = sv_dup_inc(proto_perl->Iutf8_idcont, param);
11345
11346     /* Did the locale setup indicate UTF-8? */
11347     PL_utf8locale       = proto_perl->Iutf8locale;
11348     /* Unicode features (see perlrun/-C) */
11349     PL_unicode          = proto_perl->Iunicode;
11350
11351     /* Pre-5.8 signals control */
11352     PL_signals          = proto_perl->Isignals;
11353
11354     /* times() ticks per second */
11355     PL_clocktick        = proto_perl->Iclocktick;
11356
11357     /* Recursion stopper for PerlIO_find_layer */
11358     PL_in_load_module   = proto_perl->Iin_load_module;
11359
11360     /* sort() routine */
11361     PL_sort_RealCmp     = proto_perl->Isort_RealCmp;
11362
11363     /* Not really needed/useful since the reenrant_retint is "volatile",
11364      * but do it for consistency's sake. */
11365     PL_reentrant_retint = proto_perl->Ireentrant_retint;
11366
11367     /* Hooks to shared SVs and locks. */
11368     PL_sharehook        = proto_perl->Isharehook;
11369     PL_lockhook         = proto_perl->Ilockhook;
11370     PL_unlockhook       = proto_perl->Iunlockhook;
11371     PL_threadhook       = proto_perl->Ithreadhook;
11372
11373     PL_runops_std       = proto_perl->Irunops_std;
11374     PL_runops_dbg       = proto_perl->Irunops_dbg;
11375
11376 #ifdef THREADS_HAVE_PIDS
11377     PL_ppid             = proto_perl->Ippid;
11378 #endif
11379
11380     /* swatch cache */
11381     PL_last_swash_hv    = NULL; /* reinits on demand */
11382     PL_last_swash_klen  = 0;
11383     PL_last_swash_key[0]= '\0';
11384     PL_last_swash_tmps  = (U8*)NULL;
11385     PL_last_swash_slen  = 0;
11386
11387     PL_glob_index       = proto_perl->Iglob_index;
11388     PL_srand_called     = proto_perl->Isrand_called;
11389     PL_uudmap['M']      = 0;            /* reinits on demand */
11390     PL_bitcount         = NULL; /* reinits on demand */
11391
11392     if (proto_perl->Ipsig_pend) {
11393         Newxz(PL_psig_pend, SIG_SIZE, int);
11394     }
11395     else {
11396         PL_psig_pend    = (int*)NULL;
11397     }
11398
11399     if (proto_perl->Ipsig_ptr) {
11400         Newxz(PL_psig_ptr,  SIG_SIZE, SV*);
11401         Newxz(PL_psig_name, SIG_SIZE, SV*);
11402         for (i = 1; i < SIG_SIZE; i++) {
11403             PL_psig_ptr[i]  = sv_dup_inc(proto_perl->Ipsig_ptr[i], param);
11404             PL_psig_name[i] = sv_dup_inc(proto_perl->Ipsig_name[i], param);
11405         }
11406     }
11407     else {
11408         PL_psig_ptr     = (SV**)NULL;
11409         PL_psig_name    = (SV**)NULL;
11410     }
11411
11412     /* thrdvar.h stuff */
11413
11414     if (flags & CLONEf_COPY_STACKS) {
11415         /* next allocation will be PL_tmps_stack[PL_tmps_ix+1] */
11416         PL_tmps_ix              = proto_perl->Ttmps_ix;
11417         PL_tmps_max             = proto_perl->Ttmps_max;
11418         PL_tmps_floor           = proto_perl->Ttmps_floor;
11419         Newxz(PL_tmps_stack, PL_tmps_max, SV*);
11420         i = 0;
11421         while (i <= PL_tmps_ix) {
11422             PL_tmps_stack[i]    = sv_dup_inc(proto_perl->Ttmps_stack[i], param);
11423             ++i;
11424         }
11425
11426         /* next PUSHMARK() sets *(PL_markstack_ptr+1) */
11427         i = proto_perl->Tmarkstack_max - proto_perl->Tmarkstack;
11428         Newxz(PL_markstack, i, I32);
11429         PL_markstack_max        = PL_markstack + (proto_perl->Tmarkstack_max
11430                                                   - proto_perl->Tmarkstack);
11431         PL_markstack_ptr        = PL_markstack + (proto_perl->Tmarkstack_ptr
11432                                                   - proto_perl->Tmarkstack);
11433         Copy(proto_perl->Tmarkstack, PL_markstack,
11434              PL_markstack_ptr - PL_markstack + 1, I32);
11435
11436         /* next push_scope()/ENTER sets PL_scopestack[PL_scopestack_ix]
11437          * NOTE: unlike the others! */
11438         PL_scopestack_ix        = proto_perl->Tscopestack_ix;
11439         PL_scopestack_max       = proto_perl->Tscopestack_max;
11440         Newxz(PL_scopestack, PL_scopestack_max, I32);
11441         Copy(proto_perl->Tscopestack, PL_scopestack, PL_scopestack_ix, I32);
11442
11443         /* NOTE: si_dup() looks at PL_markstack */
11444         PL_curstackinfo         = si_dup(proto_perl->Tcurstackinfo, param);
11445
11446         /* PL_curstack          = PL_curstackinfo->si_stack; */
11447         PL_curstack             = av_dup(proto_perl->Tcurstack, param);
11448         PL_mainstack            = av_dup(proto_perl->Tmainstack, param);
11449
11450         /* next PUSHs() etc. set *(PL_stack_sp+1) */
11451         PL_stack_base           = AvARRAY(PL_curstack);
11452         PL_stack_sp             = PL_stack_base + (proto_perl->Tstack_sp
11453                                                    - proto_perl->Tstack_base);
11454         PL_stack_max            = PL_stack_base + AvMAX(PL_curstack);
11455
11456         /* next SSPUSHFOO() sets PL_savestack[PL_savestack_ix]
11457          * NOTE: unlike the others! */
11458         PL_savestack_ix         = proto_perl->Tsavestack_ix;
11459         PL_savestack_max        = proto_perl->Tsavestack_max;
11460         /*Newxz(PL_savestack, PL_savestack_max, ANY);*/
11461         PL_savestack            = ss_dup(proto_perl, param);
11462     }
11463     else {
11464         init_stacks();
11465         ENTER;                  /* perl_destruct() wants to LEAVE; */
11466
11467         /* although we're not duplicating the tmps stack, we should still
11468          * add entries for any SVs on the tmps stack that got cloned by a
11469          * non-refcount means (eg a temp in @_); otherwise they will be
11470          * orphaned
11471          */
11472         for (i = 0; i<= proto_perl->Ttmps_ix; i++) {
11473             SV * const nsv = (SV*)ptr_table_fetch(PL_ptr_table,
11474                     proto_perl->Ttmps_stack[i]);
11475             if (nsv && !SvREFCNT(nsv)) {
11476                 EXTEND_MORTAL(1);
11477                 PL_tmps_stack[++PL_tmps_ix] = SvREFCNT_inc_simple(nsv);
11478             }
11479         }
11480     }
11481
11482     PL_start_env        = proto_perl->Tstart_env;       /* XXXXXX */
11483     PL_top_env          = &PL_start_env;
11484
11485     PL_op               = proto_perl->Top;
11486
11487     PL_Sv               = NULL;
11488     PL_Xpv              = (XPV*)NULL;
11489     PL_na               = proto_perl->Tna;
11490
11491     PL_statbuf          = proto_perl->Tstatbuf;
11492     PL_statcache        = proto_perl->Tstatcache;
11493     PL_statgv           = gv_dup(proto_perl->Tstatgv, param);
11494     PL_statname         = sv_dup_inc(proto_perl->Tstatname, param);
11495 #ifdef HAS_TIMES
11496     PL_timesbuf         = proto_perl->Ttimesbuf;
11497 #endif
11498
11499     PL_tainted          = proto_perl->Ttainted;
11500     PL_curpm            = proto_perl->Tcurpm;   /* XXX No PMOP ref count */
11501     PL_rs               = sv_dup_inc(proto_perl->Trs, param);
11502     PL_last_in_gv       = gv_dup(proto_perl->Tlast_in_gv, param);
11503     PL_ofs_sv           = sv_dup_inc(proto_perl->Tofs_sv, param);
11504     PL_defoutgv         = gv_dup_inc(proto_perl->Tdefoutgv, param);
11505     PL_chopset          = proto_perl->Tchopset; /* XXX never deallocated */
11506     PL_toptarget        = sv_dup_inc(proto_perl->Ttoptarget, param);
11507     PL_bodytarget       = sv_dup_inc(proto_perl->Tbodytarget, param);
11508     PL_formtarget       = sv_dup(proto_perl->Tformtarget, param);
11509
11510     PL_restartop        = proto_perl->Trestartop;
11511     PL_in_eval          = proto_perl->Tin_eval;
11512     PL_delaymagic       = proto_perl->Tdelaymagic;
11513     PL_dirty            = proto_perl->Tdirty;
11514     PL_localizing       = proto_perl->Tlocalizing;
11515
11516     PL_errors           = sv_dup_inc(proto_perl->Terrors, param);
11517     PL_hv_fetch_ent_mh  = NULL;
11518     PL_modcount         = proto_perl->Tmodcount;
11519     PL_lastgotoprobe    = NULL;
11520     PL_dumpindent       = proto_perl->Tdumpindent;
11521
11522     PL_sortcop          = (OP*)any_dup(proto_perl->Tsortcop, proto_perl);
11523     PL_sortstash        = hv_dup(proto_perl->Tsortstash, param);
11524     PL_firstgv          = gv_dup(proto_perl->Tfirstgv, param);
11525     PL_secondgv         = gv_dup(proto_perl->Tsecondgv, param);
11526     PL_efloatbuf        = NULL;         /* reinits on demand */
11527     PL_efloatsize       = 0;                    /* reinits on demand */
11528
11529     /* regex stuff */
11530
11531     PL_screamfirst      = NULL;
11532     PL_screamnext       = NULL;
11533     PL_maxscream        = -1;                   /* reinits on demand */
11534     PL_lastscream       = NULL;
11535
11536     PL_watchaddr        = NULL;
11537     PL_watchok          = NULL;
11538
11539     PL_regdummy         = proto_perl->Tregdummy;
11540     PL_colorset         = 0;            /* reinits PL_colors[] */
11541     /*PL_colors[6]      = {0,0,0,0,0,0};*/
11542
11543     /* RE engine - function pointers */
11544     PL_regcompp         = proto_perl->Tregcompp;
11545     PL_regexecp         = proto_perl->Tregexecp;
11546     PL_regint_start     = proto_perl->Tregint_start;
11547     PL_regint_string    = proto_perl->Tregint_string;
11548     PL_regfree          = proto_perl->Tregfree;
11549     Zero(&PL_reg_state, 1, struct re_save_state);
11550     PL_reginterp_cnt    = 0;
11551     PL_regmatch_slab    = NULL;
11552
11553     /* Pluggable optimizer */
11554     PL_peepp            = proto_perl->Tpeepp;
11555
11556     PL_stashcache       = newHV();
11557
11558     if (!(flags & CLONEf_KEEP_PTR_TABLE)) {
11559         ptr_table_free(PL_ptr_table);
11560         PL_ptr_table = NULL;
11561     }
11562
11563     /* Call the ->CLONE method, if it exists, for each of the stashes
11564        identified by sv_dup() above.
11565     */
11566     while(av_len(param->stashes) != -1) {
11567         HV* const stash = (HV*) av_shift(param->stashes);
11568         GV* const cloner = gv_fetchmethod_autoload(stash, "CLONE", 0);
11569         if (cloner && GvCV(cloner)) {
11570             dSP;
11571             ENTER;
11572             SAVETMPS;
11573             PUSHMARK(SP);
11574             XPUSHs(sv_2mortal(newSVhek(HvNAME_HEK(stash))));
11575             PUTBACK;
11576             call_sv((SV*)GvCV(cloner), G_DISCARD);
11577             FREETMPS;
11578             LEAVE;
11579         }
11580     }
11581
11582     SvREFCNT_dec(param->stashes);
11583
11584     /* orphaned? eg threads->new inside BEGIN or use */
11585     if (PL_compcv && ! SvREFCNT(PL_compcv)) {
11586         SvREFCNT_inc_simple_void(PL_compcv);
11587         SAVEFREESV(PL_compcv);
11588     }
11589
11590     return my_perl;
11591 }
11592
11593 #endif /* USE_ITHREADS */
11594
11595 /*
11596 =head1 Unicode Support
11597
11598 =for apidoc sv_recode_to_utf8
11599
11600 The encoding is assumed to be an Encode object, on entry the PV
11601 of the sv is assumed to be octets in that encoding, and the sv
11602 will be converted into Unicode (and UTF-8).
11603
11604 If the sv already is UTF-8 (or if it is not POK), or if the encoding
11605 is not a reference, nothing is done to the sv.  If the encoding is not
11606 an C<Encode::XS> Encoding object, bad things will happen.
11607 (See F<lib/encoding.pm> and L<Encode>).
11608
11609 The PV of the sv is returned.
11610
11611 =cut */
11612
11613 char *
11614 Perl_sv_recode_to_utf8(pTHX_ SV *sv, SV *encoding)
11615 {
11616     dVAR;
11617     if (SvPOK(sv) && !SvUTF8(sv) && !IN_BYTES && SvROK(encoding)) {
11618         SV *uni;
11619         STRLEN len;
11620         const char *s;
11621         dSP;
11622         ENTER;
11623         SAVETMPS;
11624         save_re_context();
11625         PUSHMARK(sp);
11626         EXTEND(SP, 3);
11627         XPUSHs(encoding);
11628         XPUSHs(sv);
11629 /*
11630   NI-S 2002/07/09
11631   Passing sv_yes is wrong - it needs to be or'ed set of constants
11632   for Encode::XS, while UTf-8 decode (currently) assumes a true value means
11633   remove converted chars from source.
11634
11635   Both will default the value - let them.
11636
11637         XPUSHs(&PL_sv_yes);
11638 */
11639         PUTBACK;
11640         call_method("decode", G_SCALAR);
11641         SPAGAIN;
11642         uni = POPs;
11643         PUTBACK;
11644         s = SvPV_const(uni, len);
11645         if (s != SvPVX_const(sv)) {
11646             SvGROW(sv, len + 1);
11647             Move(s, SvPVX(sv), len + 1, char);
11648             SvCUR_set(sv, len);
11649         }
11650         FREETMPS;
11651         LEAVE;
11652         SvUTF8_on(sv);
11653         return SvPVX(sv);
11654     }
11655     return SvPOKp(sv) ? SvPVX(sv) : NULL;
11656 }
11657
11658 /*
11659 =for apidoc sv_cat_decode
11660
11661 The encoding is assumed to be an Encode object, the PV of the ssv is
11662 assumed to be octets in that encoding and decoding the input starts
11663 from the position which (PV + *offset) pointed to.  The dsv will be
11664 concatenated the decoded UTF-8 string from ssv.  Decoding will terminate
11665 when the string tstr appears in decoding output or the input ends on
11666 the PV of the ssv. The value which the offset points will be modified
11667 to the last input position on the ssv.
11668
11669 Returns TRUE if the terminator was found, else returns FALSE.
11670
11671 =cut */
11672
11673 bool
11674 Perl_sv_cat_decode(pTHX_ SV *dsv, SV *encoding,
11675                    SV *ssv, int *offset, char *tstr, int tlen)
11676 {
11677     dVAR;
11678     bool ret = FALSE;
11679     if (SvPOK(ssv) && SvPOK(dsv) && SvROK(encoding) && offset) {
11680         SV *offsv;
11681         dSP;
11682         ENTER;
11683         SAVETMPS;
11684         save_re_context();
11685         PUSHMARK(sp);
11686         EXTEND(SP, 6);
11687         XPUSHs(encoding);
11688         XPUSHs(dsv);
11689         XPUSHs(ssv);
11690         XPUSHs(offsv = sv_2mortal(newSViv(*offset)));
11691         XPUSHs(sv_2mortal(newSVpvn(tstr, tlen)));
11692         PUTBACK;
11693         call_method("cat_decode", G_SCALAR);
11694         SPAGAIN;
11695         ret = SvTRUE(TOPs);
11696         *offset = SvIV(offsv);
11697         PUTBACK;
11698         FREETMPS;
11699         LEAVE;
11700     }
11701     else
11702         Perl_croak(aTHX_ "Invalid argument to sv_cat_decode");
11703     return ret;
11704
11705 }
11706
11707 /* ---------------------------------------------------------------------
11708  *
11709  * support functions for report_uninit()
11710  */
11711
11712 /* the maxiumum size of array or hash where we will scan looking
11713  * for the undefined element that triggered the warning */
11714
11715 #define FUV_MAX_SEARCH_SIZE 1000
11716
11717 /* Look for an entry in the hash whose value has the same SV as val;
11718  * If so, return a mortal copy of the key. */
11719
11720 STATIC SV*
11721 S_find_hash_subscript(pTHX_ HV *hv, SV* val)
11722 {
11723     dVAR;
11724     register HE **array;
11725     I32 i;
11726
11727     if (!hv || SvMAGICAL(hv) || !HvARRAY(hv) ||
11728                         (HvTOTALKEYS(hv) > FUV_MAX_SEARCH_SIZE))
11729         return NULL;
11730
11731     array = HvARRAY(hv);
11732
11733     for (i=HvMAX(hv); i>0; i--) {
11734         register HE *entry;
11735         for (entry = array[i]; entry; entry = HeNEXT(entry)) {
11736             if (HeVAL(entry) != val)
11737                 continue;
11738             if (    HeVAL(entry) == &PL_sv_undef ||
11739                     HeVAL(entry) == &PL_sv_placeholder)
11740                 continue;
11741             if (!HeKEY(entry))
11742                 return NULL;
11743             if (HeKLEN(entry) == HEf_SVKEY)
11744                 return sv_mortalcopy(HeKEY_sv(entry));
11745             return sv_2mortal(newSVpvn(HeKEY(entry), HeKLEN(entry)));
11746         }
11747     }
11748     return NULL;
11749 }
11750
11751 /* Look for an entry in the array whose value has the same SV as val;
11752  * If so, return the index, otherwise return -1. */
11753
11754 STATIC I32
11755 S_find_array_subscript(pTHX_ AV *av, SV* val)
11756 {
11757     dVAR;
11758     if (!av || SvMAGICAL(av) || !AvARRAY(av) ||
11759                         (AvFILLp(av) > FUV_MAX_SEARCH_SIZE))
11760         return -1;
11761
11762     if (val != &PL_sv_undef) {
11763         SV ** const svp = AvARRAY(av);
11764         I32 i;
11765
11766         for (i=AvFILLp(av); i>=0; i--)
11767             if (svp[i] == val)
11768                 return i;
11769     }
11770     return -1;
11771 }
11772
11773 /* S_varname(): return the name of a variable, optionally with a subscript.
11774  * If gv is non-zero, use the name of that global, along with gvtype (one
11775  * of "$", "@", "%"); otherwise use the name of the lexical at pad offset
11776  * targ.  Depending on the value of the subscript_type flag, return:
11777  */
11778
11779 #define FUV_SUBSCRIPT_NONE      1       /* "@foo"          */
11780 #define FUV_SUBSCRIPT_ARRAY     2       /* "$foo[aindex]"  */
11781 #define FUV_SUBSCRIPT_HASH      3       /* "$foo{keyname}" */
11782 #define FUV_SUBSCRIPT_WITHIN    4       /* "within @foo"   */
11783
11784 STATIC SV*
11785 S_varname(pTHX_ GV *gv, const char gvtype, PADOFFSET targ,
11786         SV* keyname, I32 aindex, int subscript_type)
11787 {
11788
11789     SV * const name = sv_newmortal();
11790     if (gv) {
11791         char buffer[2];
11792         buffer[0] = gvtype;
11793         buffer[1] = 0;
11794
11795         /* as gv_fullname4(), but add literal '^' for $^FOO names  */
11796
11797         gv_fullname4(name, gv, buffer, 0);
11798
11799         if ((unsigned int)SvPVX(name)[1] <= 26) {
11800             buffer[0] = '^';
11801             buffer[1] = SvPVX(name)[1] + 'A' - 1;
11802
11803             /* Swap the 1 unprintable control character for the 2 byte pretty
11804                version - ie substr($name, 1, 1) = $buffer; */
11805             sv_insert(name, 1, 1, buffer, 2);
11806         }
11807     }
11808     else {
11809         U32 unused;
11810         CV * const cv = find_runcv(&unused);
11811         SV *sv;
11812         AV *av;
11813
11814         if (!cv || !CvPADLIST(cv))
11815             return NULL;
11816         av = (AV*)(*av_fetch(CvPADLIST(cv), 0, FALSE));
11817         sv = *av_fetch(av, targ, FALSE);
11818         /* SvLEN in a pad name is not to be trusted */
11819         sv_setpv(name, SvPV_nolen_const(sv));
11820     }
11821
11822     if (subscript_type == FUV_SUBSCRIPT_HASH) {
11823         SV * const sv = newSV(0);
11824         *SvPVX(name) = '$';
11825         Perl_sv_catpvf(aTHX_ name, "{%s}",
11826             pv_display(sv,SvPVX_const(keyname), SvCUR(keyname), 0, 32));
11827         SvREFCNT_dec(sv);
11828     }
11829     else if (subscript_type == FUV_SUBSCRIPT_ARRAY) {
11830         *SvPVX(name) = '$';
11831         Perl_sv_catpvf(aTHX_ name, "[%"IVdf"]", (IV)aindex);
11832     }
11833     else if (subscript_type == FUV_SUBSCRIPT_WITHIN)
11834         Perl_sv_insert(aTHX_ name, 0, 0,  STR_WITH_LEN("within "));
11835
11836     return name;
11837 }
11838
11839
11840 /*
11841 =for apidoc find_uninit_var
11842
11843 Find the name of the undefined variable (if any) that caused the operator o
11844 to issue a "Use of uninitialized value" warning.
11845 If match is true, only return a name if it's value matches uninit_sv.
11846 So roughly speaking, if a unary operator (such as OP_COS) generates a
11847 warning, then following the direct child of the op may yield an
11848 OP_PADSV or OP_GV that gives the name of the undefined variable. On the
11849 other hand, with OP_ADD there are two branches to follow, so we only print
11850 the variable name if we get an exact match.
11851
11852 The name is returned as a mortal SV.
11853
11854 Assumes that PL_op is the op that originally triggered the error, and that
11855 PL_comppad/PL_curpad points to the currently executing pad.
11856
11857 =cut
11858 */
11859
11860 STATIC SV *
11861 S_find_uninit_var(pTHX_ OP* obase, SV* uninit_sv, bool match)
11862 {
11863     dVAR;
11864     SV *sv;
11865     AV *av;
11866     GV *gv;
11867     OP *o, *o2, *kid;
11868
11869     if (!obase || (match && (!uninit_sv || uninit_sv == &PL_sv_undef ||
11870                             uninit_sv == &PL_sv_placeholder)))
11871         return NULL;
11872
11873     switch (obase->op_type) {
11874
11875     case OP_RV2AV:
11876     case OP_RV2HV:
11877     case OP_PADAV:
11878     case OP_PADHV:
11879       {
11880         const bool pad  = (obase->op_type == OP_PADAV || obase->op_type == OP_PADHV);
11881         const bool hash = (obase->op_type == OP_PADHV || obase->op_type == OP_RV2HV);
11882         I32 index = 0;
11883         SV *keysv = NULL;
11884         int subscript_type = FUV_SUBSCRIPT_WITHIN;
11885
11886         if (pad) { /* @lex, %lex */
11887             sv = PAD_SVl(obase->op_targ);
11888             gv = NULL;
11889         }
11890         else {
11891             if (cUNOPx(obase)->op_first->op_type == OP_GV) {
11892             /* @global, %global */
11893                 gv = cGVOPx_gv(cUNOPx(obase)->op_first);
11894                 if (!gv)
11895                     break;
11896                 sv = hash ? (SV*)GvHV(gv): (SV*)GvAV(gv);
11897             }
11898             else /* @{expr}, %{expr} */
11899                 return find_uninit_var(cUNOPx(obase)->op_first,
11900                                                     uninit_sv, match);
11901         }
11902
11903         /* attempt to find a match within the aggregate */
11904         if (hash) {
11905             keysv = find_hash_subscript((HV*)sv, uninit_sv);
11906             if (keysv)
11907                 subscript_type = FUV_SUBSCRIPT_HASH;
11908         }
11909         else {
11910             index = find_array_subscript((AV*)sv, uninit_sv);
11911             if (index >= 0)
11912                 subscript_type = FUV_SUBSCRIPT_ARRAY;
11913         }
11914
11915         if (match && subscript_type == FUV_SUBSCRIPT_WITHIN)
11916             break;
11917
11918         return varname(gv, hash ? '%' : '@', obase->op_targ,
11919                                     keysv, index, subscript_type);
11920       }
11921
11922     case OP_PADSV:
11923         if (match && PAD_SVl(obase->op_targ) != uninit_sv)
11924             break;
11925         return varname(NULL, '$', obase->op_targ,
11926                                     NULL, 0, FUV_SUBSCRIPT_NONE);
11927
11928     case OP_GVSV:
11929         gv = cGVOPx_gv(obase);
11930         if (!gv || (match && GvSV(gv) != uninit_sv))
11931             break;
11932         return varname(gv, '$', 0, NULL, 0, FUV_SUBSCRIPT_NONE);
11933
11934     case OP_AELEMFAST:
11935         if (obase->op_flags & OPf_SPECIAL) { /* lexical array */
11936             if (match) {
11937                 SV **svp;
11938                 av = (AV*)PAD_SV(obase->op_targ);
11939                 if (!av || SvRMAGICAL(av))
11940                     break;
11941                 svp = av_fetch(av, (I32)obase->op_private, FALSE);
11942                 if (!svp || *svp != uninit_sv)
11943                     break;
11944             }
11945             return varname(NULL, '$', obase->op_targ,
11946                     NULL, (I32)obase->op_private, FUV_SUBSCRIPT_ARRAY);
11947         }
11948         else {
11949             gv = cGVOPx_gv(obase);
11950             if (!gv)
11951                 break;
11952             if (match) {
11953                 SV **svp;
11954                 av = GvAV(gv);
11955                 if (!av || SvRMAGICAL(av))
11956                     break;
11957                 svp = av_fetch(av, (I32)obase->op_private, FALSE);
11958                 if (!svp || *svp != uninit_sv)
11959                     break;
11960             }
11961             return varname(gv, '$', 0,
11962                     NULL, (I32)obase->op_private, FUV_SUBSCRIPT_ARRAY);
11963         }
11964         break;
11965
11966     case OP_EXISTS:
11967         o = cUNOPx(obase)->op_first;
11968         if (!o || o->op_type != OP_NULL ||
11969                 ! (o->op_targ == OP_AELEM || o->op_targ == OP_HELEM))
11970             break;
11971         return find_uninit_var(cBINOPo->op_last, uninit_sv, match);
11972
11973     case OP_AELEM:
11974     case OP_HELEM:
11975         if (PL_op == obase)
11976             /* $a[uninit_expr] or $h{uninit_expr} */
11977             return find_uninit_var(cBINOPx(obase)->op_last, uninit_sv, match);
11978
11979         gv = NULL;
11980         o = cBINOPx(obase)->op_first;
11981         kid = cBINOPx(obase)->op_last;
11982
11983         /* get the av or hv, and optionally the gv */
11984         sv = NULL;
11985         if  (o->op_type == OP_PADAV || o->op_type == OP_PADHV) {
11986             sv = PAD_SV(o->op_targ);
11987         }
11988         else if ((o->op_type == OP_RV2AV || o->op_type == OP_RV2HV)
11989                 && cUNOPo->op_first->op_type == OP_GV)
11990         {
11991             gv = cGVOPx_gv(cUNOPo->op_first);
11992             if (!gv)
11993                 break;
11994             sv = o->op_type == OP_RV2HV ? (SV*)GvHV(gv) : (SV*)GvAV(gv);
11995         }
11996         if (!sv)
11997             break;
11998
11999         if (kid && kid->op_type == OP_CONST && SvOK(cSVOPx_sv(kid))) {
12000             /* index is constant */
12001             if (match) {
12002                 if (SvMAGICAL(sv))
12003                     break;
12004                 if (obase->op_type == OP_HELEM) {
12005                     HE* he = hv_fetch_ent((HV*)sv, cSVOPx_sv(kid), 0, 0);
12006                     if (!he || HeVAL(he) != uninit_sv)
12007                         break;
12008                 }
12009                 else {
12010                     SV * const * const svp = av_fetch((AV*)sv, SvIV(cSVOPx_sv(kid)), FALSE);
12011                     if (!svp || *svp != uninit_sv)
12012                         break;
12013                 }
12014             }
12015             if (obase->op_type == OP_HELEM)
12016                 return varname(gv, '%', o->op_targ,
12017                             cSVOPx_sv(kid), 0, FUV_SUBSCRIPT_HASH);
12018             else
12019                 return varname(gv, '@', o->op_targ, NULL,
12020                             SvIV(cSVOPx_sv(kid)), FUV_SUBSCRIPT_ARRAY);
12021         }
12022         else  {
12023             /* index is an expression;
12024              * attempt to find a match within the aggregate */
12025             if (obase->op_type == OP_HELEM) {
12026                 SV * const keysv = find_hash_subscript((HV*)sv, uninit_sv);
12027                 if (keysv)
12028                     return varname(gv, '%', o->op_targ,
12029                                                 keysv, 0, FUV_SUBSCRIPT_HASH);
12030             }
12031             else {
12032                 const I32 index = find_array_subscript((AV*)sv, uninit_sv);
12033                 if (index >= 0)
12034                     return varname(gv, '@', o->op_targ,
12035                                         NULL, index, FUV_SUBSCRIPT_ARRAY);
12036             }
12037             if (match)
12038                 break;
12039             return varname(gv,
12040                 (o->op_type == OP_PADAV || o->op_type == OP_RV2AV)
12041                 ? '@' : '%',
12042                 o->op_targ, NULL, 0, FUV_SUBSCRIPT_WITHIN);
12043         }
12044         break;
12045
12046     case OP_AASSIGN:
12047         /* only examine RHS */
12048         return find_uninit_var(cBINOPx(obase)->op_first, uninit_sv, match);
12049
12050     case OP_OPEN:
12051         o = cUNOPx(obase)->op_first;
12052         if (o->op_type == OP_PUSHMARK)
12053             o = o->op_sibling;
12054
12055         if (!o->op_sibling) {
12056             /* one-arg version of open is highly magical */
12057
12058             if (o->op_type == OP_GV) { /* open FOO; */
12059                 gv = cGVOPx_gv(o);
12060                 if (match && GvSV(gv) != uninit_sv)
12061                     break;
12062                 return varname(gv, '$', 0,
12063                             NULL, 0, FUV_SUBSCRIPT_NONE);
12064             }
12065             /* other possibilities not handled are:
12066              * open $x; or open my $x;  should return '${*$x}'
12067              * open expr;               should return '$'.expr ideally
12068              */
12069              break;
12070         }
12071         goto do_op;
12072
12073     /* ops where $_ may be an implicit arg */
12074     case OP_TRANS:
12075     case OP_SUBST:
12076     case OP_MATCH:
12077         if ( !(obase->op_flags & OPf_STACKED)) {
12078             if (uninit_sv == ((obase->op_private & OPpTARGET_MY)
12079                                  ? PAD_SVl(obase->op_targ)
12080                                  : DEFSV))
12081             {
12082                 sv = sv_newmortal();
12083                 sv_setpvn(sv, "$_", 2);
12084                 return sv;
12085             }
12086         }
12087         goto do_op;
12088
12089     case OP_PRTF:
12090     case OP_PRINT:
12091         /* skip filehandle as it can't produce 'undef' warning  */
12092         o = cUNOPx(obase)->op_first;
12093         if ((obase->op_flags & OPf_STACKED) && o->op_type == OP_PUSHMARK)
12094             o = o->op_sibling->op_sibling;
12095         goto do_op2;
12096
12097
12098     case OP_RV2SV:
12099     case OP_CUSTOM:
12100     case OP_ENTERSUB:
12101         match = 1; /* XS or custom code could trigger random warnings */
12102         goto do_op;
12103
12104     case OP_SCHOMP:
12105     case OP_CHOMP:
12106         if (SvROK(PL_rs) && uninit_sv == SvRV(PL_rs))
12107             return sv_2mortal(newSVpvs("${$/}"));
12108         /*FALLTHROUGH*/
12109
12110     default:
12111     do_op:
12112         if (!(obase->op_flags & OPf_KIDS))
12113             break;
12114         o = cUNOPx(obase)->op_first;
12115         
12116     do_op2:
12117         if (!o)
12118             break;
12119
12120         /* if all except one arg are constant, or have no side-effects,
12121          * or are optimized away, then it's unambiguous */
12122         o2 = NULL;
12123         for (kid=o; kid; kid = kid->op_sibling) {
12124             if (kid) {
12125                 const OPCODE type = kid->op_type;
12126                 if ( (type == OP_CONST && SvOK(cSVOPx_sv(kid)))
12127                   || (type == OP_NULL  && ! (kid->op_flags & OPf_KIDS))
12128                   || (type == OP_PUSHMARK)
12129                 )
12130                 continue;
12131             }
12132             if (o2) { /* more than one found */
12133                 o2 = NULL;
12134                 break;
12135             }
12136             o2 = kid;
12137         }
12138         if (o2)
12139             return find_uninit_var(o2, uninit_sv, match);
12140
12141         /* scan all args */
12142         while (o) {
12143             sv = find_uninit_var(o, uninit_sv, 1);
12144             if (sv)
12145                 return sv;
12146             o = o->op_sibling;
12147         }
12148         break;
12149     }
12150     return NULL;
12151 }
12152
12153
12154 /*
12155 =for apidoc report_uninit
12156
12157 Print appropriate "Use of uninitialized variable" warning
12158
12159 =cut
12160 */
12161
12162 void
12163 Perl_report_uninit(pTHX_ SV* uninit_sv)
12164 {
12165     dVAR;
12166     if (PL_op) {
12167         SV* varname = NULL;
12168         if (uninit_sv) {
12169             varname = find_uninit_var(PL_op, uninit_sv,0);
12170             if (varname)
12171                 sv_insert(varname, 0, 0, " ", 1);
12172         }
12173         Perl_warner(aTHX_ packWARN(WARN_UNINITIALIZED), PL_warn_uninit,
12174                 varname ? SvPV_nolen_const(varname) : "",
12175                 " in ", OP_DESC(PL_op));
12176     }
12177     else
12178         Perl_warner(aTHX_ packWARN(WARN_UNINITIALIZED), PL_warn_uninit,
12179                     "", "", "");
12180 }
12181
12182 /*
12183  * Local variables:
12184  * c-indentation-style: bsd
12185  * c-basic-offset: 4
12186  * indent-tabs-mode: t
12187  * End:
12188  *
12189  * ex: set ts=8 sts=4 sw=4 noet:
12190  */