Provide a new flag for sv_usepvn_flags, SV_HAS_TRAILING_NUL, which
[p5sagit/p5-mst-13.2.git] / sv.c
1 /*    sv.c
2  *
3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
4  *    2000, 2001, 2002, 2003, 2004, 2005, 2006, by Larry Wall and others
5  *
6  *    You may distribute under the terms of either the GNU General Public
7  *    License or the Artistic License, as specified in the README file.
8  *
9  * "I wonder what the Entish is for 'yes' and 'no'," he thought.
10  *
11  *
12  * This file contains the code that creates, manipulates and destroys
13  * scalar values (SVs). The other types (AV, HV, GV, etc.) reuse the
14  * structure of an SV, so their creation and destruction is handled
15  * here; higher-level functions are in av.c, hv.c, and so on. Opcode
16  * level functions (eg. substr, split, join) for each of the types are
17  * in the pp*.c files.
18  */
19
20 #include "EXTERN.h"
21 #define PERL_IN_SV_C
22 #include "perl.h"
23 #include "regcomp.h"
24
25 #define FCALL *f
26
27 #ifdef __Lynx__
28 /* Missing proto on LynxOS */
29   char *gconvert(double, int, int,  char *);
30 #endif
31
32 #ifdef PERL_UTF8_CACHE_ASSERT
33 /* if adding more checks watch out for the following tests:
34  *   t/op/index.t t/op/length.t t/op/pat.t t/op/substr.t
35  *   lib/utf8.t lib/Unicode/Collate/t/index.t
36  * --jhi
37  */
38 #define ASSERT_UTF8_CACHE(cache) \
39     STMT_START { if (cache) { assert((cache)[0] <= (cache)[1]); \
40                               assert((cache)[2] <= (cache)[3]); \
41                               assert((cache)[3] <= (cache)[1]);} \
42                               } STMT_END
43 #else
44 #define ASSERT_UTF8_CACHE(cache) NOOP
45 #endif
46
47 #ifdef PERL_OLD_COPY_ON_WRITE
48 #define SV_COW_NEXT_SV(sv)      INT2PTR(SV *,SvUVX(sv))
49 #define SV_COW_NEXT_SV_SET(current,next)        SvUV_set(current, PTR2UV(next))
50 /* This is a pessimistic view. Scalar must be purely a read-write PV to copy-
51    on-write.  */
52 #endif
53
54 /* ============================================================================
55
56 =head1 Allocation and deallocation of SVs.
57
58 An SV (or AV, HV, etc.) is allocated in two parts: the head (struct
59 sv, av, hv...) contains type and reference count information, and for
60 many types, a pointer to the body (struct xrv, xpv, xpviv...), which
61 contains fields specific to each type.  Some types store all they need
62 in the head, so don't have a body.
63
64 In all but the most memory-paranoid configuations (ex: PURIFY), heads
65 and bodies are allocated out of arenas, which by default are
66 approximately 4K chunks of memory parcelled up into N heads or bodies.
67 Sv-bodies are allocated by their sv-type, guaranteeing size
68 consistency needed to allocate safely from arrays.
69
70 For SV-heads, the first slot in each arena is reserved, and holds a
71 link to the next arena, some flags, and a note of the number of slots.
72 Snaked through each arena chain is a linked list of free items; when
73 this becomes empty, an extra arena is allocated and divided up into N
74 items which are threaded into the free list.
75
76 SV-bodies are similar, but they use arena-sets by default, which
77 separate the link and info from the arena itself, and reclaim the 1st
78 slot in the arena.  SV-bodies are further described later.
79
80 The following global variables are associated with arenas:
81
82     PL_sv_arenaroot     pointer to list of SV arenas
83     PL_sv_root          pointer to list of free SV structures
84
85     PL_body_arenas      head of linked-list of body arenas
86     PL_body_roots[]     array of pointers to list of free bodies of svtype
87                         arrays are indexed by the svtype needed
88
89 A few special SV heads are not allocated from an arena, but are
90 instead directly created in the interpreter structure, eg PL_sv_undef.
91 The size of arenas can be changed from the default by setting
92 PERL_ARENA_SIZE appropriately at compile time.
93
94 The SV arena serves the secondary purpose of allowing still-live SVs
95 to be located and destroyed during final cleanup.
96
97 At the lowest level, the macros new_SV() and del_SV() grab and free
98 an SV head.  (If debugging with -DD, del_SV() calls the function S_del_sv()
99 to return the SV to the free list with error checking.) new_SV() calls
100 more_sv() / sv_add_arena() to add an extra arena if the free list is empty.
101 SVs in the free list have their SvTYPE field set to all ones.
102
103 At the time of very final cleanup, sv_free_arenas() is called from
104 perl_destruct() to physically free all the arenas allocated since the
105 start of the interpreter.
106
107 Manipulation of any of the PL_*root pointers is protected by enclosing
108 LOCK_SV_MUTEX; ... UNLOCK_SV_MUTEX calls which should Do the Right Thing
109 if threads are enabled.
110
111 The function visit() scans the SV arenas list, and calls a specified
112 function for each SV it finds which is still live - ie which has an SvTYPE
113 other than all 1's, and a non-zero SvREFCNT. visit() is used by the
114 following functions (specified as [function that calls visit()] / [function
115 called by visit() for each SV]):
116
117     sv_report_used() / do_report_used()
118                         dump all remaining SVs (debugging aid)
119
120     sv_clean_objs() / do_clean_objs(),do_clean_named_objs()
121                         Attempt to free all objects pointed to by RVs,
122                         and, unless DISABLE_DESTRUCTOR_KLUDGE is defined,
123                         try to do the same for all objects indirectly
124                         referenced by typeglobs too.  Called once from
125                         perl_destruct(), prior to calling sv_clean_all()
126                         below.
127
128     sv_clean_all() / do_clean_all()
129                         SvREFCNT_dec(sv) each remaining SV, possibly
130                         triggering an sv_free(). It also sets the
131                         SVf_BREAK flag on the SV to indicate that the
132                         refcnt has been artificially lowered, and thus
133                         stopping sv_free() from giving spurious warnings
134                         about SVs which unexpectedly have a refcnt
135                         of zero.  called repeatedly from perl_destruct()
136                         until there are no SVs left.
137
138 =head2 Arena allocator API Summary
139
140 Private API to rest of sv.c
141
142     new_SV(),  del_SV(),
143
144     new_XIV(), del_XIV(),
145     new_XNV(), del_XNV(),
146     etc
147
148 Public API:
149
150     sv_report_used(), sv_clean_objs(), sv_clean_all(), sv_free_arenas()
151
152 =cut
153
154 ============================================================================ */
155
156 /*
157  * "A time to plant, and a time to uproot what was planted..."
158  */
159
160 /*
161  * nice_chunk and nice_chunk size need to be set
162  * and queried under the protection of sv_mutex
163  */
164 void
165 Perl_offer_nice_chunk(pTHX_ void *chunk, U32 chunk_size)
166 {
167     dVAR;
168     void *new_chunk;
169     U32 new_chunk_size;
170     LOCK_SV_MUTEX;
171     new_chunk = (void *)(chunk);
172     new_chunk_size = (chunk_size);
173     if (new_chunk_size > PL_nice_chunk_size) {
174         Safefree(PL_nice_chunk);
175         PL_nice_chunk = (char *) new_chunk;
176         PL_nice_chunk_size = new_chunk_size;
177     } else {
178         Safefree(chunk);
179     }
180     UNLOCK_SV_MUTEX;
181 }
182
183 #ifdef DEBUG_LEAKING_SCALARS
184 #  define FREE_SV_DEBUG_FILE(sv) Safefree((sv)->sv_debug_file)
185 #else
186 #  define FREE_SV_DEBUG_FILE(sv)
187 #endif
188
189 #ifdef PERL_POISON
190 #  define SvARENA_CHAIN(sv)     ((sv)->sv_u.svu_rv)
191 /* Whilst I'd love to do this, it seems that things like to check on
192    unreferenced scalars
193 #  define POSION_SV_HEAD(sv)    PoisonNew(sv, 1, struct STRUCT_SV)
194 */
195 #  define POSION_SV_HEAD(sv)    PoisonNew(&SvANY(sv), 1, void *), \
196                                 PoisonNew(&SvREFCNT(sv), 1, U32)
197 #else
198 #  define SvARENA_CHAIN(sv)     SvANY(sv)
199 #  define POSION_SV_HEAD(sv)
200 #endif
201
202 #define plant_SV(p) \
203     STMT_START {                                        \
204         FREE_SV_DEBUG_FILE(p);                          \
205         POSION_SV_HEAD(p);                              \
206         SvARENA_CHAIN(p) = (void *)PL_sv_root;          \
207         SvFLAGS(p) = SVTYPEMASK;                        \
208         PL_sv_root = (p);                               \
209         --PL_sv_count;                                  \
210     } STMT_END
211
212 /* sv_mutex must be held while calling uproot_SV() */
213 #define uproot_SV(p) \
214     STMT_START {                                        \
215         (p) = PL_sv_root;                               \
216         PL_sv_root = (SV*)SvARENA_CHAIN(p);             \
217         ++PL_sv_count;                                  \
218     } STMT_END
219
220
221 /* make some more SVs by adding another arena */
222
223 /* sv_mutex must be held while calling more_sv() */
224 STATIC SV*
225 S_more_sv(pTHX)
226 {
227     dVAR;
228     SV* sv;
229
230     if (PL_nice_chunk) {
231         sv_add_arena(PL_nice_chunk, PL_nice_chunk_size, 0);
232         PL_nice_chunk = NULL;
233         PL_nice_chunk_size = 0;
234     }
235     else {
236         char *chunk;                /* must use New here to match call to */
237         Newx(chunk,PERL_ARENA_SIZE,char);  /* Safefree() in sv_free_arenas() */
238         sv_add_arena(chunk, PERL_ARENA_SIZE, 0);
239     }
240     uproot_SV(sv);
241     return sv;
242 }
243
244 /* new_SV(): return a new, empty SV head */
245
246 #ifdef DEBUG_LEAKING_SCALARS
247 /* provide a real function for a debugger to play with */
248 STATIC SV*
249 S_new_SV(pTHX)
250 {
251     SV* sv;
252
253     LOCK_SV_MUTEX;
254     if (PL_sv_root)
255         uproot_SV(sv);
256     else
257         sv = S_more_sv(aTHX);
258     UNLOCK_SV_MUTEX;
259     SvANY(sv) = 0;
260     SvREFCNT(sv) = 1;
261     SvFLAGS(sv) = 0;
262     sv->sv_debug_optype = PL_op ? PL_op->op_type : 0;
263     sv->sv_debug_line = (U16) ((PL_copline == NOLINE) ?
264         (PL_curcop ? CopLINE(PL_curcop) : 0) : PL_copline);
265     sv->sv_debug_inpad = 0;
266     sv->sv_debug_cloned = 0;
267     sv->sv_debug_file = PL_curcop ? savepv(CopFILE(PL_curcop)): NULL;
268     
269     return sv;
270 }
271 #  define new_SV(p) (p)=S_new_SV(aTHX)
272
273 #else
274 #  define new_SV(p) \
275     STMT_START {                                        \
276         LOCK_SV_MUTEX;                                  \
277         if (PL_sv_root)                                 \
278             uproot_SV(p);                               \
279         else                                            \
280             (p) = S_more_sv(aTHX);                      \
281         UNLOCK_SV_MUTEX;                                \
282         SvANY(p) = 0;                                   \
283         SvREFCNT(p) = 1;                                \
284         SvFLAGS(p) = 0;                                 \
285     } STMT_END
286 #endif
287
288
289 /* del_SV(): return an empty SV head to the free list */
290
291 #ifdef DEBUGGING
292
293 #define del_SV(p) \
294     STMT_START {                                        \
295         LOCK_SV_MUTEX;                                  \
296         if (DEBUG_D_TEST)                               \
297             del_sv(p);                                  \
298         else                                            \
299             plant_SV(p);                                \
300         UNLOCK_SV_MUTEX;                                \
301     } STMT_END
302
303 STATIC void
304 S_del_sv(pTHX_ SV *p)
305 {
306     dVAR;
307     if (DEBUG_D_TEST) {
308         SV* sva;
309         bool ok = 0;
310         for (sva = PL_sv_arenaroot; sva; sva = (SV *) SvANY(sva)) {
311             const SV * const sv = sva + 1;
312             const SV * const svend = &sva[SvREFCNT(sva)];
313             if (p >= sv && p < svend) {
314                 ok = 1;
315                 break;
316             }
317         }
318         if (!ok) {
319             if (ckWARN_d(WARN_INTERNAL))        
320                 Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
321                             "Attempt to free non-arena SV: 0x%"UVxf
322                             pTHX__FORMAT, PTR2UV(p) pTHX__VALUE);
323             return;
324         }
325     }
326     plant_SV(p);
327 }
328
329 #else /* ! DEBUGGING */
330
331 #define del_SV(p)   plant_SV(p)
332
333 #endif /* DEBUGGING */
334
335
336 /*
337 =head1 SV Manipulation Functions
338
339 =for apidoc sv_add_arena
340
341 Given a chunk of memory, link it to the head of the list of arenas,
342 and split it into a list of free SVs.
343
344 =cut
345 */
346
347 void
348 Perl_sv_add_arena(pTHX_ char *ptr, U32 size, U32 flags)
349 {
350     dVAR;
351     SV* const sva = (SV*)ptr;
352     register SV* sv;
353     register SV* svend;
354
355     /* The first SV in an arena isn't an SV. */
356     SvANY(sva) = (void *) PL_sv_arenaroot;              /* ptr to next arena */
357     SvREFCNT(sva) = size / sizeof(SV);          /* number of SV slots */
358     SvFLAGS(sva) = flags;                       /* FAKE if not to be freed */
359
360     PL_sv_arenaroot = sva;
361     PL_sv_root = sva + 1;
362
363     svend = &sva[SvREFCNT(sva) - 1];
364     sv = sva + 1;
365     while (sv < svend) {
366         SvARENA_CHAIN(sv) = (void *)(SV*)(sv + 1);
367 #ifdef DEBUGGING
368         SvREFCNT(sv) = 0;
369 #endif
370         /* Must always set typemask because it's awlays checked in on cleanup
371            when the arenas are walked looking for objects.  */
372         SvFLAGS(sv) = SVTYPEMASK;
373         sv++;
374     }
375     SvARENA_CHAIN(sv) = 0;
376 #ifdef DEBUGGING
377     SvREFCNT(sv) = 0;
378 #endif
379     SvFLAGS(sv) = SVTYPEMASK;
380 }
381
382 /* visit(): call the named function for each non-free SV in the arenas
383  * whose flags field matches the flags/mask args. */
384
385 STATIC I32
386 S_visit(pTHX_ SVFUNC_t f, U32 flags, U32 mask)
387 {
388     dVAR;
389     SV* sva;
390     I32 visited = 0;
391
392     for (sva = PL_sv_arenaroot; sva; sva = (SV*)SvANY(sva)) {
393         register const SV * const svend = &sva[SvREFCNT(sva)];
394         register SV* sv;
395         for (sv = sva + 1; sv < svend; ++sv) {
396             if (SvTYPE(sv) != SVTYPEMASK
397                     && (sv->sv_flags & mask) == flags
398                     && SvREFCNT(sv))
399             {
400                 (FCALL)(aTHX_ sv);
401                 ++visited;
402             }
403         }
404     }
405     return visited;
406 }
407
408 #ifdef DEBUGGING
409
410 /* called by sv_report_used() for each live SV */
411
412 static void
413 do_report_used(pTHX_ SV *sv)
414 {
415     if (SvTYPE(sv) != SVTYPEMASK) {
416         PerlIO_printf(Perl_debug_log, "****\n");
417         sv_dump(sv);
418     }
419 }
420 #endif
421
422 /*
423 =for apidoc sv_report_used
424
425 Dump the contents of all SVs not yet freed. (Debugging aid).
426
427 =cut
428 */
429
430 void
431 Perl_sv_report_used(pTHX)
432 {
433 #ifdef DEBUGGING
434     visit(do_report_used, 0, 0);
435 #else
436     PERL_UNUSED_CONTEXT;
437 #endif
438 }
439
440 /* called by sv_clean_objs() for each live SV */
441
442 static void
443 do_clean_objs(pTHX_ SV *ref)
444 {
445     dVAR;
446     if (SvROK(ref)) {
447         SV * const target = SvRV(ref);
448         if (SvOBJECT(target)) {
449             DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning object ref:\n "), sv_dump(ref)));
450             if (SvWEAKREF(ref)) {
451                 sv_del_backref(target, ref);
452                 SvWEAKREF_off(ref);
453                 SvRV_set(ref, NULL);
454             } else {
455                 SvROK_off(ref);
456                 SvRV_set(ref, NULL);
457                 SvREFCNT_dec(target);
458             }
459         }
460     }
461
462     /* XXX Might want to check arrays, etc. */
463 }
464
465 /* called by sv_clean_objs() for each live SV */
466
467 #ifndef DISABLE_DESTRUCTOR_KLUDGE
468 static void
469 do_clean_named_objs(pTHX_ SV *sv)
470 {
471     dVAR;
472     if (SvTYPE(sv) == SVt_PVGV && isGV_with_GP(sv) && GvGP(sv)) {
473         if ((
474 #ifdef PERL_DONT_CREATE_GVSV
475              GvSV(sv) &&
476 #endif
477              SvOBJECT(GvSV(sv))) ||
478              (GvAV(sv) && SvOBJECT(GvAV(sv))) ||
479              (GvHV(sv) && SvOBJECT(GvHV(sv))) ||
480              (GvIO(sv) && SvOBJECT(GvIO(sv))) ||
481              (GvCV(sv) && SvOBJECT(GvCV(sv))) )
482         {
483             DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning named glob object:\n "), sv_dump(sv)));
484             SvFLAGS(sv) |= SVf_BREAK;
485             SvREFCNT_dec(sv);
486         }
487     }
488 }
489 #endif
490
491 /*
492 =for apidoc sv_clean_objs
493
494 Attempt to destroy all objects not yet freed
495
496 =cut
497 */
498
499 void
500 Perl_sv_clean_objs(pTHX)
501 {
502     dVAR;
503     PL_in_clean_objs = TRUE;
504     visit(do_clean_objs, SVf_ROK, SVf_ROK);
505 #ifndef DISABLE_DESTRUCTOR_KLUDGE
506     /* some barnacles may yet remain, clinging to typeglobs */
507     visit(do_clean_named_objs, SVt_PVGV, SVTYPEMASK);
508 #endif
509     PL_in_clean_objs = FALSE;
510 }
511
512 /* called by sv_clean_all() for each live SV */
513
514 static void
515 do_clean_all(pTHX_ SV *sv)
516 {
517     dVAR;
518     DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning loops: SV at 0x%"UVxf"\n", PTR2UV(sv)) ));
519     SvFLAGS(sv) |= SVf_BREAK;
520     if (PL_comppad == (AV*)sv) {
521         PL_comppad = NULL;
522         PL_curpad = NULL;
523     }
524     SvREFCNT_dec(sv);
525 }
526
527 /*
528 =for apidoc sv_clean_all
529
530 Decrement the refcnt of each remaining SV, possibly triggering a
531 cleanup. This function may have to be called multiple times to free
532 SVs which are in complex self-referential hierarchies.
533
534 =cut
535 */
536
537 I32
538 Perl_sv_clean_all(pTHX)
539 {
540     dVAR;
541     I32 cleaned;
542     PL_in_clean_all = TRUE;
543     cleaned = visit(do_clean_all, 0,0);
544     PL_in_clean_all = FALSE;
545     return cleaned;
546 }
547
548 /*
549   ARENASETS: a meta-arena implementation which separates arena-info
550   into struct arena_set, which contains an array of struct
551   arena_descs, each holding info for a single arena.  By separating
552   the meta-info from the arena, we recover the 1st slot, formerly
553   borrowed for list management.  The arena_set is about the size of an
554   arena, avoiding the needless malloc overhead of a naive linked-list
555
556   The cost is 1 arena-set malloc per ~320 arena-mallocs, + the unused
557   memory in the last arena-set (1/2 on average).  In trade, we get
558   back the 1st slot in each arena (ie 1.7% of a CV-arena, less for
559   smaller types).  The recovery of the wasted space allows use of
560   small arenas for large, rare body types,
561 */
562 struct arena_desc {
563     char       *arena;          /* the raw storage, allocated aligned */
564     size_t      size;           /* its size ~4k typ */
565     int         unit_type;      /* useful for arena audits */
566     /* info for sv-heads (eventually)
567        int count, flags;
568     */
569 };
570
571 struct arena_set;
572
573 /* Get the maximum number of elements in set[] such that struct arena_set
574    will fit within PERL_ARENA_SIZE, which is probabably just under 4K, and
575    therefore likely to be 1 aligned memory page.  */
576
577 #define ARENAS_PER_SET  ((PERL_ARENA_SIZE - sizeof(struct arena_set*) \
578                           - 2 * sizeof(int)) / sizeof (struct arena_desc))
579
580 struct arena_set {
581     struct arena_set* next;
582     int   set_size;             /* ie ARENAS_PER_SET */
583     int   curr;                 /* index of next available arena-desc */
584     struct arena_desc set[ARENAS_PER_SET];
585 };
586
587 /*
588 =for apidoc sv_free_arenas
589
590 Deallocate the memory used by all arenas. Note that all the individual SV
591 heads and bodies within the arenas must already have been freed.
592
593 =cut
594 */
595 void
596 Perl_sv_free_arenas(pTHX)
597 {
598     dVAR;
599     SV* sva;
600     SV* svanext;
601     int i;
602
603     /* Free arenas here, but be careful about fake ones.  (We assume
604        contiguity of the fake ones with the corresponding real ones.) */
605
606     for (sva = PL_sv_arenaroot; sva; sva = svanext) {
607         svanext = (SV*) SvANY(sva);
608         while (svanext && SvFAKE(svanext))
609             svanext = (SV*) SvANY(svanext);
610
611         if (!SvFAKE(sva))
612             Safefree(sva);
613     }
614
615     {
616         struct arena_set *next, *aroot = (struct arena_set*) PL_body_arenas;
617         
618         for (; aroot; aroot = next) {
619             const int max = aroot->curr;
620             for (i=0; i<max; i++) {
621                 assert(aroot->set[i].arena);
622                 Safefree(aroot->set[i].arena);
623             }
624             next = aroot->next;
625             Safefree(aroot);
626         }
627     }
628     PL_body_arenas = 0;
629
630     for (i=0; i<PERL_ARENA_ROOTS_SIZE; i++)
631         PL_body_roots[i] = 0;
632
633     Safefree(PL_nice_chunk);
634     PL_nice_chunk = NULL;
635     PL_nice_chunk_size = 0;
636     PL_sv_arenaroot = 0;
637     PL_sv_root = 0;
638 }
639
640 /*
641   Here are mid-level routines that manage the allocation of bodies out
642   of the various arenas.  There are 5 kinds of arenas:
643
644   1. SV-head arenas, which are discussed and handled above
645   2. regular body arenas
646   3. arenas for reduced-size bodies
647   4. Hash-Entry arenas
648   5. pte arenas (thread related)
649
650   Arena types 2 & 3 are chained by body-type off an array of
651   arena-root pointers, which is indexed by svtype.  Some of the
652   larger/less used body types are malloced singly, since a large
653   unused block of them is wasteful.  Also, several svtypes dont have
654   bodies; the data fits into the sv-head itself.  The arena-root
655   pointer thus has a few unused root-pointers (which may be hijacked
656   later for arena types 4,5)
657
658   3 differs from 2 as an optimization; some body types have several
659   unused fields in the front of the structure (which are kept in-place
660   for consistency).  These bodies can be allocated in smaller chunks,
661   because the leading fields arent accessed.  Pointers to such bodies
662   are decremented to point at the unused 'ghost' memory, knowing that
663   the pointers are used with offsets to the real memory.
664
665   HE, HEK arenas are managed separately, with separate code, but may
666   be merge-able later..
667
668   PTE arenas are not sv-bodies, but they share these mid-level
669   mechanics, so are considered here.  The new mid-level mechanics rely
670   on the sv_type of the body being allocated, so we just reserve one
671   of the unused body-slots for PTEs, then use it in those (2) PTE
672   contexts below (line ~10k)
673 */
674
675 /* get_arena(size): this creates custom-sized arenas
676    TBD: export properly for hv.c: S_more_he().
677 */
678 void*
679 Perl_get_arena(pTHX_ int arena_size)
680 {
681     struct arena_desc* adesc;
682     struct arena_set *newroot, **aroot = (struct arena_set**) &PL_body_arenas;
683     int curr;
684
685     /* shouldnt need this
686     if (!arena_size)    arena_size = PERL_ARENA_SIZE;
687     */
688
689     /* may need new arena-set to hold new arena */
690     if (!*aroot || (*aroot)->curr >= (*aroot)->set_size) {
691         Newxz(newroot, 1, struct arena_set);
692         newroot->set_size = ARENAS_PER_SET;
693         newroot->next = *aroot;
694         *aroot = newroot;
695         DEBUG_m(PerlIO_printf(Perl_debug_log, "new arenaset %p\n", *aroot));
696     }
697
698     /* ok, now have arena-set with at least 1 empty/available arena-desc */
699     curr = (*aroot)->curr++;
700     adesc = &((*aroot)->set[curr]);
701     assert(!adesc->arena);
702     
703     Newxz(adesc->arena, arena_size, char);
704     adesc->size = arena_size;
705     DEBUG_m(PerlIO_printf(Perl_debug_log, "arena %d added: %p size %d\n", 
706                           curr, adesc->arena, arena_size));
707
708     return adesc->arena;
709 }
710
711
712 /* return a thing to the free list */
713
714 #define del_body(thing, root)                   \
715     STMT_START {                                \
716         void ** const thing_copy = (void **)thing;\
717         LOCK_SV_MUTEX;                          \
718         *thing_copy = *root;                    \
719         *root = (void*)thing_copy;              \
720         UNLOCK_SV_MUTEX;                        \
721     } STMT_END
722
723 /* 
724
725 =head1 SV-Body Allocation
726
727 Allocation of SV-bodies is similar to SV-heads, differing as follows;
728 the allocation mechanism is used for many body types, so is somewhat
729 more complicated, it uses arena-sets, and has no need for still-live
730 SV detection.
731
732 At the outermost level, (new|del)_X*V macros return bodies of the
733 appropriate type.  These macros call either (new|del)_body_type or
734 (new|del)_body_allocated macro pairs, depending on specifics of the
735 type.  Most body types use the former pair, the latter pair is used to
736 allocate body types with "ghost fields".
737
738 "ghost fields" are fields that are unused in certain types, and
739 consequently dont need to actually exist.  They are declared because
740 they're part of a "base type", which allows use of functions as
741 methods.  The simplest examples are AVs and HVs, 2 aggregate types
742 which don't use the fields which support SCALAR semantics.
743
744 For these types, the arenas are carved up into *_allocated size
745 chunks, we thus avoid wasted memory for those unaccessed members.
746 When bodies are allocated, we adjust the pointer back in memory by the
747 size of the bit not allocated, so it's as if we allocated the full
748 structure.  (But things will all go boom if you write to the part that
749 is "not there", because you'll be overwriting the last members of the
750 preceding structure in memory.)
751
752 We calculate the correction using the STRUCT_OFFSET macro. For
753 example, if xpv_allocated is the same structure as XPV then the two
754 OFFSETs sum to zero, and the pointer is unchanged. If the allocated
755 structure is smaller (no initial NV actually allocated) then the net
756 effect is to subtract the size of the NV from the pointer, to return a
757 new pointer as if an initial NV were actually allocated.
758
759 This is the same trick as was used for NV and IV bodies. Ironically it
760 doesn't need to be used for NV bodies any more, because NV is now at
761 the start of the structure. IV bodies don't need it either, because
762 they are no longer allocated.
763
764 In turn, the new_body_* allocators call S_new_body(), which invokes
765 new_body_inline macro, which takes a lock, and takes a body off the
766 linked list at PL_body_roots[sv_type], calling S_more_bodies() if
767 necessary to refresh an empty list.  Then the lock is released, and
768 the body is returned.
769
770 S_more_bodies calls get_arena(), and carves it up into an array of N
771 bodies, which it strings into a linked list.  It looks up arena-size
772 and body-size from the body_details table described below, thus
773 supporting the multiple body-types.
774
775 If PURIFY is defined, or PERL_ARENA_SIZE=0, arenas are not used, and
776 the (new|del)_X*V macros are mapped directly to malloc/free.
777
778 */
779
780 /* 
781
782 For each sv-type, struct body_details bodies_by_type[] carries
783 parameters which control these aspects of SV handling:
784
785 Arena_size determines whether arenas are used for this body type, and if
786 so, how big they are.  PURIFY or PERL_ARENA_SIZE=0 set this field to
787 zero, forcing individual mallocs and frees.
788
789 Body_size determines how big a body is, and therefore how many fit into
790 each arena.  Offset carries the body-pointer adjustment needed for
791 *_allocated body types, and is used in *_allocated macros.
792
793 But its main purpose is to parameterize info needed in
794 Perl_sv_upgrade().  The info here dramatically simplifies the function
795 vs the implementation in 5.8.7, making it table-driven.  All fields
796 are used for this, except for arena_size.
797
798 For the sv-types that have no bodies, arenas are not used, so those
799 PL_body_roots[sv_type] are unused, and can be overloaded.  In
800 something of a special case, SVt_NULL is borrowed for HE arenas;
801 PL_body_roots[SVt_NULL] is filled by S_more_he, but the
802 bodies_by_type[SVt_NULL] slot is not used, as the table is not
803 available in hv.c,
804
805 PTEs also use arenas, but are never seen in Perl_sv_upgrade.
806 Nonetheless, they get their own slot in bodies_by_type[SVt_NULL], so
807 they can just use the same allocation semantics.  At first, PTEs were
808 also overloaded to a non-body sv-type, but this yielded hard-to-find
809 malloc bugs, so was simplified by claiming a new slot.  This choice
810 has no consequence at this time.
811
812 */
813
814 struct body_details {
815     U8 body_size;       /* Size to allocate  */
816     U8 copy;            /* Size of structure to copy (may be shorter)  */
817     U8 offset;
818     unsigned int type : 4;          /* We have space for a sanity check.  */
819     unsigned int cant_upgrade : 1;  /* Cannot upgrade this type */
820     unsigned int zero_nv : 1;       /* zero the NV when upgrading from this */
821     unsigned int arena : 1;         /* Allocated from an arena */
822     size_t arena_size;              /* Size of arena to allocate */
823 };
824
825 #define HADNV FALSE
826 #define NONV TRUE
827
828
829 #ifdef PURIFY
830 /* With -DPURFIY we allocate everything directly, and don't use arenas.
831    This seems a rather elegant way to simplify some of the code below.  */
832 #define HASARENA FALSE
833 #else
834 #define HASARENA TRUE
835 #endif
836 #define NOARENA FALSE
837
838 /* Size the arenas to exactly fit a given number of bodies.  A count
839    of 0 fits the max number bodies into a PERL_ARENA_SIZE.block,
840    simplifying the default.  If count > 0, the arena is sized to fit
841    only that many bodies, allowing arenas to be used for large, rare
842    bodies (XPVFM, XPVIO) without undue waste.  The arena size is
843    limited by PERL_ARENA_SIZE, so we can safely oversize the
844    declarations.
845  */
846 #define FIT_ARENA0(body_size)                           \
847     ((size_t)(PERL_ARENA_SIZE / body_size) * body_size)
848 #define FIT_ARENAn(count,body_size)                     \
849     ( count * body_size <= PERL_ARENA_SIZE)             \
850     ? count * body_size                                 \
851     : FIT_ARENA0 (body_size)
852 #define FIT_ARENA(count,body_size)                      \
853     count                                               \
854     ? FIT_ARENAn (count, body_size)                     \
855     : FIT_ARENA0 (body_size)
856
857 /* A macro to work out the offset needed to subtract from a pointer to (say)
858
859 typedef struct {
860     STRLEN      xpv_cur;
861     STRLEN      xpv_len;
862 } xpv_allocated;
863
864 to make its members accessible via a pointer to (say)
865
866 struct xpv {
867     NV          xnv_nv;
868     STRLEN      xpv_cur;
869     STRLEN      xpv_len;
870 };
871
872 */
873
874 #define relative_STRUCT_OFFSET(longer, shorter, member) \
875     (STRUCT_OFFSET(shorter, member) - STRUCT_OFFSET(longer, member))
876
877 /* Calculate the length to copy. Specifically work out the length less any
878    final padding the compiler needed to add.  See the comment in sv_upgrade
879    for why copying the padding proved to be a bug.  */
880
881 #define copy_length(type, last_member) \
882         STRUCT_OFFSET(type, last_member) \
883         + sizeof (((type*)SvANY((SV*)0))->last_member)
884
885 static const struct body_details bodies_by_type[] = {
886     { sizeof(HE), 0, 0, SVt_NULL,
887       FALSE, NONV, NOARENA, FIT_ARENA(0, sizeof(HE)) },
888
889     /* IVs are in the head, so the allocation size is 0.
890        However, the slot is overloaded for PTEs.  */
891     { sizeof(struct ptr_tbl_ent), /* This is used for PTEs.  */
892       sizeof(IV), /* This is used to copy out the IV body.  */
893       STRUCT_OFFSET(XPVIV, xiv_iv), SVt_IV, FALSE, NONV,
894       NOARENA /* IVS don't need an arena  */,
895       /* But PTEs need to know the size of their arena  */
896       FIT_ARENA(0, sizeof(struct ptr_tbl_ent))
897     },
898
899     /* 8 bytes on most ILP32 with IEEE doubles */
900     { sizeof(NV), sizeof(NV), 0, SVt_NV, FALSE, HADNV, HASARENA,
901       FIT_ARENA(0, sizeof(NV)) },
902
903     /* RVs are in the head now.  */
904     { 0, 0, 0, SVt_RV, FALSE, NONV, NOARENA, 0 },
905
906     /* 8 bytes on most ILP32 with IEEE doubles */
907     { sizeof(xpv_allocated),
908       copy_length(XPV, xpv_len)
909       - relative_STRUCT_OFFSET(xpv_allocated, XPV, xpv_cur),
910       + relative_STRUCT_OFFSET(xpv_allocated, XPV, xpv_cur),
911       SVt_PV, FALSE, NONV, HASARENA, FIT_ARENA(0, sizeof(xpv_allocated)) },
912
913     /* 12 */
914     { sizeof(xpviv_allocated),
915       copy_length(XPVIV, xiv_u)
916       - relative_STRUCT_OFFSET(xpviv_allocated, XPVIV, xpv_cur),
917       + relative_STRUCT_OFFSET(xpviv_allocated, XPVIV, xpv_cur),
918       SVt_PVIV, FALSE, NONV, HASARENA, FIT_ARENA(0, sizeof(xpviv_allocated)) },
919
920     /* 20 */
921     { sizeof(XPVNV), copy_length(XPVNV, xiv_u), 0, SVt_PVNV, FALSE, HADNV,
922       HASARENA, FIT_ARENA(0, sizeof(XPVNV)) },
923
924     /* 28 */
925     { sizeof(XPVMG), copy_length(XPVMG, xmg_stash), 0, SVt_PVMG, FALSE, HADNV,
926       HASARENA, FIT_ARENA(0, sizeof(XPVMG)) },
927     
928     /* 36 */
929     { sizeof(XPVBM), sizeof(XPVBM), 0, SVt_PVBM, TRUE, HADNV,
930       HASARENA, FIT_ARENA(0, sizeof(XPVBM)) },
931
932     /* 48 */
933     { sizeof(XPVGV), sizeof(XPVGV), 0, SVt_PVGV, TRUE, HADNV,
934       HASARENA, FIT_ARENA(0, sizeof(XPVGV)) },
935     
936     /* 64 */
937     { sizeof(XPVLV), sizeof(XPVLV), 0, SVt_PVLV, TRUE, HADNV,
938       HASARENA, FIT_ARENA(0, sizeof(XPVLV)) },
939
940     { sizeof(xpvav_allocated),
941       copy_length(XPVAV, xmg_stash)
942       - relative_STRUCT_OFFSET(xpvav_allocated, XPVAV, xav_fill),
943       + relative_STRUCT_OFFSET(xpvav_allocated, XPVAV, xav_fill),
944       SVt_PVAV, TRUE, HADNV, HASARENA, FIT_ARENA(0, sizeof(xpvav_allocated)) },
945
946     { sizeof(xpvhv_allocated),
947       copy_length(XPVHV, xmg_stash)
948       - relative_STRUCT_OFFSET(xpvhv_allocated, XPVHV, xhv_fill),
949       + relative_STRUCT_OFFSET(xpvhv_allocated, XPVHV, xhv_fill),
950       SVt_PVHV, TRUE, HADNV, HASARENA, FIT_ARENA(0, sizeof(xpvhv_allocated)) },
951
952     /* 56 */
953     { sizeof(xpvcv_allocated), sizeof(xpvcv_allocated),
954       + relative_STRUCT_OFFSET(xpvcv_allocated, XPVCV, xpv_cur),
955       SVt_PVCV, TRUE, NONV, HASARENA, FIT_ARENA(0, sizeof(xpvcv_allocated)) },
956
957     { sizeof(xpvfm_allocated), sizeof(xpvfm_allocated),
958       + relative_STRUCT_OFFSET(xpvfm_allocated, XPVFM, xpv_cur),
959       SVt_PVFM, TRUE, NONV, NOARENA, FIT_ARENA(20, sizeof(xpvfm_allocated)) },
960
961     /* XPVIO is 84 bytes, fits 48x */
962     { sizeof(XPVIO), sizeof(XPVIO), 0, SVt_PVIO, TRUE, HADNV,
963       HASARENA, FIT_ARENA(24, sizeof(XPVIO)) },
964 };
965
966 #define new_body_type(sv_type)          \
967     (void *)((char *)S_new_body(aTHX_ sv_type))
968
969 #define del_body_type(p, sv_type)       \
970     del_body(p, &PL_body_roots[sv_type])
971
972
973 #define new_body_allocated(sv_type)             \
974     (void *)((char *)S_new_body(aTHX_ sv_type)  \
975              - bodies_by_type[sv_type].offset)
976
977 #define del_body_allocated(p, sv_type)          \
978     del_body(p + bodies_by_type[sv_type].offset, &PL_body_roots[sv_type])
979
980
981 #define my_safemalloc(s)        (void*)safemalloc(s)
982 #define my_safecalloc(s)        (void*)safecalloc(s, 1)
983 #define my_safefree(p)  safefree((char*)p)
984
985 #ifdef PURIFY
986
987 #define new_XNV()       my_safemalloc(sizeof(XPVNV))
988 #define del_XNV(p)      my_safefree(p)
989
990 #define new_XPVNV()     my_safemalloc(sizeof(XPVNV))
991 #define del_XPVNV(p)    my_safefree(p)
992
993 #define new_XPVAV()     my_safemalloc(sizeof(XPVAV))
994 #define del_XPVAV(p)    my_safefree(p)
995
996 #define new_XPVHV()     my_safemalloc(sizeof(XPVHV))
997 #define del_XPVHV(p)    my_safefree(p)
998
999 #define new_XPVMG()     my_safemalloc(sizeof(XPVMG))
1000 #define del_XPVMG(p)    my_safefree(p)
1001
1002 #define new_XPVGV()     my_safemalloc(sizeof(XPVGV))
1003 #define del_XPVGV(p)    my_safefree(p)
1004
1005 #else /* !PURIFY */
1006
1007 #define new_XNV()       new_body_type(SVt_NV)
1008 #define del_XNV(p)      del_body_type(p, SVt_NV)
1009
1010 #define new_XPVNV()     new_body_type(SVt_PVNV)
1011 #define del_XPVNV(p)    del_body_type(p, SVt_PVNV)
1012
1013 #define new_XPVAV()     new_body_allocated(SVt_PVAV)
1014 #define del_XPVAV(p)    del_body_allocated(p, SVt_PVAV)
1015
1016 #define new_XPVHV()     new_body_allocated(SVt_PVHV)
1017 #define del_XPVHV(p)    del_body_allocated(p, SVt_PVHV)
1018
1019 #define new_XPVMG()     new_body_type(SVt_PVMG)
1020 #define del_XPVMG(p)    del_body_type(p, SVt_PVMG)
1021
1022 #define new_XPVGV()     new_body_type(SVt_PVGV)
1023 #define del_XPVGV(p)    del_body_type(p, SVt_PVGV)
1024
1025 #endif /* PURIFY */
1026
1027 /* no arena for you! */
1028
1029 #define new_NOARENA(details) \
1030         my_safemalloc((details)->body_size + (details)->offset)
1031 #define new_NOARENAZ(details) \
1032         my_safecalloc((details)->body_size + (details)->offset)
1033
1034 #ifdef DEBUGGING
1035 static bool done_sanity_check;
1036 #endif
1037
1038 STATIC void *
1039 S_more_bodies (pTHX_ svtype sv_type)
1040 {
1041     dVAR;
1042     void ** const root = &PL_body_roots[sv_type];
1043     const struct body_details * const bdp = &bodies_by_type[sv_type];
1044     const size_t body_size = bdp->body_size;
1045     char *start;
1046     const char *end;
1047
1048     assert(bdp->arena_size);
1049
1050 #ifdef DEBUGGING
1051     if (!done_sanity_check) {
1052         unsigned int i = SVt_LAST;
1053
1054         done_sanity_check = TRUE;
1055
1056         while (i--)
1057             assert (bodies_by_type[i].type == i);
1058     }
1059 #endif
1060
1061     start = (char*) Perl_get_arena(aTHX_ bdp->arena_size);
1062
1063     end = start + bdp->arena_size - body_size;
1064
1065     /* computed count doesnt reflect the 1st slot reservation */
1066     DEBUG_m(PerlIO_printf(Perl_debug_log,
1067                           "arena %p end %p arena-size %d type %d size %d ct %d\n",
1068                           start, end, bdp->arena_size, sv_type, body_size,
1069                           bdp->arena_size / body_size));
1070
1071     *root = (void *)start;
1072
1073     while (start < end) {
1074         char * const next = start + body_size;
1075         *(void**) start = (void *)next;
1076         start = next;
1077     }
1078     *(void **)start = 0;
1079
1080     return *root;
1081 }
1082
1083 /* grab a new thing from the free list, allocating more if necessary.
1084    The inline version is used for speed in hot routines, and the
1085    function using it serves the rest (unless PURIFY).
1086 */
1087 #define new_body_inline(xpv, sv_type) \
1088     STMT_START { \
1089         void ** const r3wt = &PL_body_roots[sv_type]; \
1090         LOCK_SV_MUTEX; \
1091         xpv = *((void **)(r3wt)) \
1092           ? *((void **)(r3wt)) : more_bodies(sv_type); \
1093         *(r3wt) = *(void**)(xpv); \
1094         UNLOCK_SV_MUTEX; \
1095     } STMT_END
1096
1097 #ifndef PURIFY
1098
1099 STATIC void *
1100 S_new_body(pTHX_ svtype sv_type)
1101 {
1102     dVAR;
1103     void *xpv;
1104     new_body_inline(xpv, sv_type);
1105     return xpv;
1106 }
1107
1108 #endif
1109
1110 /*
1111 =for apidoc sv_upgrade
1112
1113 Upgrade an SV to a more complex form.  Generally adds a new body type to the
1114 SV, then copies across as much information as possible from the old body.
1115 You generally want to use the C<SvUPGRADE> macro wrapper. See also C<svtype>.
1116
1117 =cut
1118 */
1119
1120 void
1121 Perl_sv_upgrade(pTHX_ register SV *sv, U32 new_type)
1122 {
1123     dVAR;
1124     void*       old_body;
1125     void*       new_body;
1126     const U32   old_type = SvTYPE(sv);
1127     const struct body_details *new_type_details;
1128     const struct body_details *const old_type_details
1129         = bodies_by_type + old_type;
1130
1131     if (new_type != SVt_PV && SvIsCOW(sv)) {
1132         sv_force_normal_flags(sv, 0);
1133     }
1134
1135     if (old_type == new_type)
1136         return;
1137
1138     if (old_type > new_type)
1139         Perl_croak(aTHX_ "sv_upgrade from type %d down to type %d",
1140                 (int)old_type, (int)new_type);
1141
1142
1143     old_body = SvANY(sv);
1144
1145     /* Copying structures onto other structures that have been neatly zeroed
1146        has a subtle gotcha. Consider XPVMG
1147
1148        +------+------+------+------+------+-------+-------+
1149        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH |
1150        +------+------+------+------+------+-------+-------+
1151        0      4      8     12     16     20      24      28
1152
1153        where NVs are aligned to 8 bytes, so that sizeof that structure is
1154        actually 32 bytes long, with 4 bytes of padding at the end:
1155
1156        +------+------+------+------+------+-------+-------+------+
1157        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH | ???  |
1158        +------+------+------+------+------+-------+-------+------+
1159        0      4      8     12     16     20      24      28     32
1160
1161        so what happens if you allocate memory for this structure:
1162
1163        +------+------+------+------+------+-------+-------+------+------+...
1164        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH |  GP  | NAME |
1165        +------+------+------+------+------+-------+-------+------+------+...
1166        0      4      8     12     16     20      24      28     32     36
1167
1168        zero it, then copy sizeof(XPVMG) bytes on top of it? Not quite what you
1169        expect, because you copy the area marked ??? onto GP. Now, ??? may have
1170        started out as zero once, but it's quite possible that it isn't. So now,
1171        rather than a nicely zeroed GP, you have it pointing somewhere random.
1172        Bugs ensue.
1173
1174        (In fact, GP ends up pointing at a previous GP structure, because the
1175        principle cause of the padding in XPVMG getting garbage is a copy of
1176        sizeof(XPVMG) bytes from a XPVGV structure in sv_unglob)
1177
1178        So we are careful and work out the size of used parts of all the
1179        structures.  */
1180
1181     switch (old_type) {
1182     case SVt_NULL:
1183         break;
1184     case SVt_IV:
1185         if (new_type < SVt_PVIV) {
1186             new_type = (new_type == SVt_NV)
1187                 ? SVt_PVNV : SVt_PVIV;
1188         }
1189         break;
1190     case SVt_NV:
1191         if (new_type < SVt_PVNV) {
1192             new_type = SVt_PVNV;
1193         }
1194         break;
1195     case SVt_RV:
1196         break;
1197     case SVt_PV:
1198         assert(new_type > SVt_PV);
1199         assert(SVt_IV < SVt_PV);
1200         assert(SVt_NV < SVt_PV);
1201         break;
1202     case SVt_PVIV:
1203         break;
1204     case SVt_PVNV:
1205         break;
1206     case SVt_PVMG:
1207         /* Because the XPVMG of PL_mess_sv isn't allocated from the arena,
1208            there's no way that it can be safely upgraded, because perl.c
1209            expects to Safefree(SvANY(PL_mess_sv))  */
1210         assert(sv != PL_mess_sv);
1211         /* This flag bit is used to mean other things in other scalar types.
1212            Given that it only has meaning inside the pad, it shouldn't be set
1213            on anything that can get upgraded.  */
1214         assert(!SvPAD_TYPED(sv));
1215         break;
1216     default:
1217         if (old_type_details->cant_upgrade)
1218             Perl_croak(aTHX_ "Can't upgrade %s (%" UVuf ") to %" UVuf,
1219                        sv_reftype(sv, 0), (UV) old_type, (UV) new_type);
1220     }
1221     new_type_details = bodies_by_type + new_type;
1222
1223     SvFLAGS(sv) &= ~SVTYPEMASK;
1224     SvFLAGS(sv) |= new_type;
1225
1226     /* This can't happen, as SVt_NULL is <= all values of new_type, so one of
1227        the return statements above will have triggered.  */
1228     assert (new_type != SVt_NULL);
1229     switch (new_type) {
1230     case SVt_IV:
1231         assert(old_type == SVt_NULL);
1232         SvANY(sv) = (XPVIV*)((char*)&(sv->sv_u.svu_iv) - STRUCT_OFFSET(XPVIV, xiv_iv));
1233         SvIV_set(sv, 0);
1234         return;
1235     case SVt_NV:
1236         assert(old_type == SVt_NULL);
1237         SvANY(sv) = new_XNV();
1238         SvNV_set(sv, 0);
1239         return;
1240     case SVt_RV:
1241         assert(old_type == SVt_NULL);
1242         SvANY(sv) = &sv->sv_u.svu_rv;
1243         SvRV_set(sv, 0);
1244         return;
1245     case SVt_PVHV:
1246     case SVt_PVAV:
1247         assert(new_type_details->body_size);
1248
1249 #ifndef PURIFY  
1250         assert(new_type_details->arena);
1251         assert(new_type_details->arena_size);
1252         /* This points to the start of the allocated area.  */
1253         new_body_inline(new_body, new_type);
1254         Zero(new_body, new_type_details->body_size, char);
1255         new_body = ((char *)new_body) - new_type_details->offset;
1256 #else
1257         /* We always allocated the full length item with PURIFY. To do this
1258            we fake things so that arena is false for all 16 types..  */
1259         new_body = new_NOARENAZ(new_type_details);
1260 #endif
1261         SvANY(sv) = new_body;
1262         if (new_type == SVt_PVAV) {
1263             AvMAX(sv)   = -1;
1264             AvFILLp(sv) = -1;
1265             AvREAL_only(sv);
1266         }
1267
1268         /* SVt_NULL isn't the only thing upgraded to AV or HV.
1269            The target created by newSVrv also is, and it can have magic.
1270            However, it never has SvPVX set.
1271         */
1272         if (old_type >= SVt_RV) {
1273             assert(SvPVX_const(sv) == 0);
1274         }
1275
1276         /* Could put this in the else clause below, as PVMG must have SvPVX
1277            0 already (the assertion above)  */
1278         SvPV_set(sv, NULL);
1279
1280         if (old_type >= SVt_PVMG) {
1281             SvMAGIC_set(sv, ((XPVMG*)old_body)->xmg_u.xmg_magic);
1282             SvSTASH_set(sv, ((XPVMG*)old_body)->xmg_stash);
1283         }
1284         break;
1285
1286
1287     case SVt_PVIV:
1288         /* XXX Is this still needed?  Was it ever needed?   Surely as there is
1289            no route from NV to PVIV, NOK can never be true  */
1290         assert(!SvNOKp(sv));
1291         assert(!SvNOK(sv));
1292     case SVt_PVIO:
1293     case SVt_PVFM:
1294     case SVt_PVBM:
1295     case SVt_PVGV:
1296     case SVt_PVCV:
1297     case SVt_PVLV:
1298     case SVt_PVMG:
1299     case SVt_PVNV:
1300     case SVt_PV:
1301
1302         assert(new_type_details->body_size);
1303         /* We always allocated the full length item with PURIFY. To do this
1304            we fake things so that arena is false for all 16 types..  */
1305         if(new_type_details->arena) {
1306             /* This points to the start of the allocated area.  */
1307             new_body_inline(new_body, new_type);
1308             Zero(new_body, new_type_details->body_size, char);
1309             new_body = ((char *)new_body) - new_type_details->offset;
1310         } else {
1311             new_body = new_NOARENAZ(new_type_details);
1312         }
1313         SvANY(sv) = new_body;
1314
1315         if (old_type_details->copy) {
1316             /* There is now the potential for an upgrade from something without
1317                an offset (PVNV or PVMG) to something with one (PVCV, PVFM)  */
1318             int offset = old_type_details->offset;
1319             int length = old_type_details->copy;
1320
1321             if (new_type_details->offset > old_type_details->offset) {
1322                 const int difference
1323                     = new_type_details->offset - old_type_details->offset;
1324                 offset += difference;
1325                 length -= difference;
1326             }
1327             assert (length >= 0);
1328                 
1329             Copy((char *)old_body + offset, (char *)new_body + offset, length,
1330                  char);
1331         }
1332
1333 #ifndef NV_ZERO_IS_ALLBITS_ZERO
1334         /* If NV 0.0 is stores as all bits 0 then Zero() already creates a
1335          * correct 0.0 for us.  Otherwise, if the old body didn't have an
1336          * NV slot, but the new one does, then we need to initialise the
1337          * freshly created NV slot with whatever the correct bit pattern is
1338          * for 0.0  */
1339         if (old_type_details->zero_nv && !new_type_details->zero_nv)
1340             SvNV_set(sv, 0);
1341 #endif
1342
1343         if (new_type == SVt_PVIO)
1344             IoPAGE_LEN(sv) = 60;
1345         if (old_type < SVt_RV)
1346             SvPV_set(sv, NULL);
1347         break;
1348     default:
1349         Perl_croak(aTHX_ "panic: sv_upgrade to unknown type %lu",
1350                    (unsigned long)new_type);
1351     }
1352
1353     if (old_type_details->arena) {
1354         /* If there was an old body, then we need to free it.
1355            Note that there is an assumption that all bodies of types that
1356            can be upgraded came from arenas. Only the more complex non-
1357            upgradable types are allowed to be directly malloc()ed.  */
1358 #ifdef PURIFY
1359         my_safefree(old_body);
1360 #else
1361         del_body((void*)((char*)old_body + old_type_details->offset),
1362                  &PL_body_roots[old_type]);
1363 #endif
1364     }
1365 }
1366
1367 /*
1368 =for apidoc sv_backoff
1369
1370 Remove any string offset. You should normally use the C<SvOOK_off> macro
1371 wrapper instead.
1372
1373 =cut
1374 */
1375
1376 int
1377 Perl_sv_backoff(pTHX_ register SV *sv)
1378 {
1379     PERL_UNUSED_CONTEXT;
1380     assert(SvOOK(sv));
1381     assert(SvTYPE(sv) != SVt_PVHV);
1382     assert(SvTYPE(sv) != SVt_PVAV);
1383     if (SvIVX(sv)) {
1384         const char * const s = SvPVX_const(sv);
1385         SvLEN_set(sv, SvLEN(sv) + SvIVX(sv));
1386         SvPV_set(sv, SvPVX(sv) - SvIVX(sv));
1387         SvIV_set(sv, 0);
1388         Move(s, SvPVX(sv), SvCUR(sv)+1, char);
1389     }
1390     SvFLAGS(sv) &= ~SVf_OOK;
1391     return 0;
1392 }
1393
1394 /*
1395 =for apidoc sv_grow
1396
1397 Expands the character buffer in the SV.  If necessary, uses C<sv_unref> and
1398 upgrades the SV to C<SVt_PV>.  Returns a pointer to the character buffer.
1399 Use the C<SvGROW> wrapper instead.
1400
1401 =cut
1402 */
1403
1404 char *
1405 Perl_sv_grow(pTHX_ register SV *sv, register STRLEN newlen)
1406 {
1407     register char *s;
1408
1409     if (PL_madskills && newlen >= 0x100000) {
1410         PerlIO_printf(Perl_debug_log,
1411                       "Allocation too large: %"UVxf"\n", (UV)newlen);
1412     }
1413 #ifdef HAS_64K_LIMIT
1414     if (newlen >= 0x10000) {
1415         PerlIO_printf(Perl_debug_log,
1416                       "Allocation too large: %"UVxf"\n", (UV)newlen);
1417         my_exit(1);
1418     }
1419 #endif /* HAS_64K_LIMIT */
1420     if (SvROK(sv))
1421         sv_unref(sv);
1422     if (SvTYPE(sv) < SVt_PV) {
1423         sv_upgrade(sv, SVt_PV);
1424         s = SvPVX_mutable(sv);
1425     }
1426     else if (SvOOK(sv)) {       /* pv is offset? */
1427         sv_backoff(sv);
1428         s = SvPVX_mutable(sv);
1429         if (newlen > SvLEN(sv))
1430             newlen += 10 * (newlen - SvCUR(sv)); /* avoid copy each time */
1431 #ifdef HAS_64K_LIMIT
1432         if (newlen >= 0x10000)
1433             newlen = 0xFFFF;
1434 #endif
1435     }
1436     else
1437         s = SvPVX_mutable(sv);
1438
1439     if (newlen > SvLEN(sv)) {           /* need more room? */
1440         newlen = PERL_STRLEN_ROUNDUP(newlen);
1441         if (SvLEN(sv) && s) {
1442 #ifdef MYMALLOC
1443             const STRLEN l = malloced_size((void*)SvPVX_const(sv));
1444             if (newlen <= l) {
1445                 SvLEN_set(sv, l);
1446                 return s;
1447             } else
1448 #endif
1449             s = saferealloc(s, newlen);
1450         }
1451         else {
1452             s = safemalloc(newlen);
1453             if (SvPVX_const(sv) && SvCUR(sv)) {
1454                 Move(SvPVX_const(sv), s, (newlen < SvCUR(sv)) ? newlen : SvCUR(sv), char);
1455             }
1456         }
1457         SvPV_set(sv, s);
1458         SvLEN_set(sv, newlen);
1459     }
1460     return s;
1461 }
1462
1463 /*
1464 =for apidoc sv_setiv
1465
1466 Copies an integer into the given SV, upgrading first if necessary.
1467 Does not handle 'set' magic.  See also C<sv_setiv_mg>.
1468
1469 =cut
1470 */
1471
1472 void
1473 Perl_sv_setiv(pTHX_ register SV *sv, IV i)
1474 {
1475     dVAR;
1476     SV_CHECK_THINKFIRST_COW_DROP(sv);
1477     switch (SvTYPE(sv)) {
1478     case SVt_NULL:
1479         sv_upgrade(sv, SVt_IV);
1480         break;
1481     case SVt_NV:
1482         sv_upgrade(sv, SVt_PVNV);
1483         break;
1484     case SVt_RV:
1485     case SVt_PV:
1486         sv_upgrade(sv, SVt_PVIV);
1487         break;
1488
1489     case SVt_PVGV:
1490     case SVt_PVAV:
1491     case SVt_PVHV:
1492     case SVt_PVCV:
1493     case SVt_PVFM:
1494     case SVt_PVIO:
1495         Perl_croak(aTHX_ "Can't coerce %s to integer in %s", sv_reftype(sv,0),
1496                    OP_DESC(PL_op));
1497     }
1498     (void)SvIOK_only(sv);                       /* validate number */
1499     SvIV_set(sv, i);
1500     SvTAINT(sv);
1501 }
1502
1503 /*
1504 =for apidoc sv_setiv_mg
1505
1506 Like C<sv_setiv>, but also handles 'set' magic.
1507
1508 =cut
1509 */
1510
1511 void
1512 Perl_sv_setiv_mg(pTHX_ register SV *sv, IV i)
1513 {
1514     sv_setiv(sv,i);
1515     SvSETMAGIC(sv);
1516 }
1517
1518 /*
1519 =for apidoc sv_setuv
1520
1521 Copies an unsigned integer into the given SV, upgrading first if necessary.
1522 Does not handle 'set' magic.  See also C<sv_setuv_mg>.
1523
1524 =cut
1525 */
1526
1527 void
1528 Perl_sv_setuv(pTHX_ register SV *sv, UV u)
1529 {
1530     /* With these two if statements:
1531        u=1.49  s=0.52  cu=72.49  cs=10.64  scripts=270  tests=20865
1532
1533        without
1534        u=1.35  s=0.47  cu=73.45  cs=11.43  scripts=270  tests=20865
1535
1536        If you wish to remove them, please benchmark to see what the effect is
1537     */
1538     if (u <= (UV)IV_MAX) {
1539        sv_setiv(sv, (IV)u);
1540        return;
1541     }
1542     sv_setiv(sv, 0);
1543     SvIsUV_on(sv);
1544     SvUV_set(sv, u);
1545 }
1546
1547 /*
1548 =for apidoc sv_setuv_mg
1549
1550 Like C<sv_setuv>, but also handles 'set' magic.
1551
1552 =cut
1553 */
1554
1555 void
1556 Perl_sv_setuv_mg(pTHX_ register SV *sv, UV u)
1557 {
1558     sv_setiv(sv, 0);
1559     SvIsUV_on(sv);
1560     sv_setuv(sv,u);
1561     SvSETMAGIC(sv);
1562 }
1563
1564 /*
1565 =for apidoc sv_setnv
1566
1567 Copies a double into the given SV, upgrading first if necessary.
1568 Does not handle 'set' magic.  See also C<sv_setnv_mg>.
1569
1570 =cut
1571 */
1572
1573 void
1574 Perl_sv_setnv(pTHX_ register SV *sv, NV num)
1575 {
1576     dVAR;
1577     SV_CHECK_THINKFIRST_COW_DROP(sv);
1578     switch (SvTYPE(sv)) {
1579     case SVt_NULL:
1580     case SVt_IV:
1581         sv_upgrade(sv, SVt_NV);
1582         break;
1583     case SVt_RV:
1584     case SVt_PV:
1585     case SVt_PVIV:
1586         sv_upgrade(sv, SVt_PVNV);
1587         break;
1588
1589     case SVt_PVGV:
1590     case SVt_PVAV:
1591     case SVt_PVHV:
1592     case SVt_PVCV:
1593     case SVt_PVFM:
1594     case SVt_PVIO:
1595         Perl_croak(aTHX_ "Can't coerce %s to number in %s", sv_reftype(sv,0),
1596                    OP_NAME(PL_op));
1597     }
1598     SvNV_set(sv, num);
1599     (void)SvNOK_only(sv);                       /* validate number */
1600     SvTAINT(sv);
1601 }
1602
1603 /*
1604 =for apidoc sv_setnv_mg
1605
1606 Like C<sv_setnv>, but also handles 'set' magic.
1607
1608 =cut
1609 */
1610
1611 void
1612 Perl_sv_setnv_mg(pTHX_ register SV *sv, NV num)
1613 {
1614     sv_setnv(sv,num);
1615     SvSETMAGIC(sv);
1616 }
1617
1618 /* Print an "isn't numeric" warning, using a cleaned-up,
1619  * printable version of the offending string
1620  */
1621
1622 STATIC void
1623 S_not_a_number(pTHX_ SV *sv)
1624 {
1625      dVAR;
1626      SV *dsv;
1627      char tmpbuf[64];
1628      const char *pv;
1629
1630      if (DO_UTF8(sv)) {
1631           dsv = sv_2mortal(newSVpvs(""));
1632           pv = sv_uni_display(dsv, sv, 10, 0);
1633      } else {
1634           char *d = tmpbuf;
1635           const char * const limit = tmpbuf + sizeof(tmpbuf) - 8;
1636           /* each *s can expand to 4 chars + "...\0",
1637              i.e. need room for 8 chars */
1638         
1639           const char *s = SvPVX_const(sv);
1640           const char * const end = s + SvCUR(sv);
1641           for ( ; s < end && d < limit; s++ ) {
1642                int ch = *s & 0xFF;
1643                if (ch & 128 && !isPRINT_LC(ch)) {
1644                     *d++ = 'M';
1645                     *d++ = '-';
1646                     ch &= 127;
1647                }
1648                if (ch == '\n') {
1649                     *d++ = '\\';
1650                     *d++ = 'n';
1651                }
1652                else if (ch == '\r') {
1653                     *d++ = '\\';
1654                     *d++ = 'r';
1655                }
1656                else if (ch == '\f') {
1657                     *d++ = '\\';
1658                     *d++ = 'f';
1659                }
1660                else if (ch == '\\') {
1661                     *d++ = '\\';
1662                     *d++ = '\\';
1663                }
1664                else if (ch == '\0') {
1665                     *d++ = '\\';
1666                     *d++ = '0';
1667                }
1668                else if (isPRINT_LC(ch))
1669                     *d++ = ch;
1670                else {
1671                     *d++ = '^';
1672                     *d++ = toCTRL(ch);
1673                }
1674           }
1675           if (s < end) {
1676                *d++ = '.';
1677                *d++ = '.';
1678                *d++ = '.';
1679           }
1680           *d = '\0';
1681           pv = tmpbuf;
1682     }
1683
1684     if (PL_op)
1685         Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1686                     "Argument \"%s\" isn't numeric in %s", pv,
1687                     OP_DESC(PL_op));
1688     else
1689         Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1690                     "Argument \"%s\" isn't numeric", pv);
1691 }
1692
1693 /*
1694 =for apidoc looks_like_number
1695
1696 Test if the content of an SV looks like a number (or is a number).
1697 C<Inf> and C<Infinity> are treated as numbers (so will not issue a
1698 non-numeric warning), even if your atof() doesn't grok them.
1699
1700 =cut
1701 */
1702
1703 I32
1704 Perl_looks_like_number(pTHX_ SV *sv)
1705 {
1706     register const char *sbegin;
1707     STRLEN len;
1708
1709     if (SvPOK(sv)) {
1710         sbegin = SvPVX_const(sv);
1711         len = SvCUR(sv);
1712     }
1713     else if (SvPOKp(sv))
1714         sbegin = SvPV_const(sv, len);
1715     else
1716         return SvFLAGS(sv) & (SVf_NOK|SVp_NOK|SVf_IOK|SVp_IOK);
1717     return grok_number(sbegin, len, NULL);
1718 }
1719
1720 STATIC char *
1721 S_glob_2inpuv(pTHX_ GV *gv, STRLEN *len, bool want_number)
1722 {
1723     const U32 wasfake = SvFLAGS(gv) & SVf_FAKE;
1724     SV *const buffer = sv_newmortal();
1725
1726     /* FAKE globs can get coerced, so need to turn this off temporarily if it
1727        is on.  */
1728     SvFAKE_off(gv);
1729     gv_efullname3(buffer, gv, "*");
1730     SvFLAGS(gv) |= wasfake;
1731
1732     if (want_number) {
1733         /* We know that all GVs stringify to something that is not-a-number,
1734            so no need to test that.  */
1735         if (ckWARN(WARN_NUMERIC))
1736             not_a_number(buffer);
1737         /* We just want something true to return, so that S_sv_2iuv_common
1738            can tail call us and return true.  */
1739         return (char *) 1;
1740     } else {
1741         assert(SvPOK(buffer));
1742         if (len) {
1743             *len = SvCUR(buffer);
1744         }
1745         return SvPVX(buffer);
1746     }
1747 }
1748
1749 /* Actually, ISO C leaves conversion of UV to IV undefined, but
1750    until proven guilty, assume that things are not that bad... */
1751
1752 /*
1753    NV_PRESERVES_UV:
1754
1755    As 64 bit platforms often have an NV that doesn't preserve all bits of
1756    an IV (an assumption perl has been based on to date) it becomes necessary
1757    to remove the assumption that the NV always carries enough precision to
1758    recreate the IV whenever needed, and that the NV is the canonical form.
1759    Instead, IV/UV and NV need to be given equal rights. So as to not lose
1760    precision as a side effect of conversion (which would lead to insanity
1761    and the dragon(s) in t/op/numconvert.t getting very angry) the intent is
1762    1) to distinguish between IV/UV/NV slots that have cached a valid
1763       conversion where precision was lost and IV/UV/NV slots that have a
1764       valid conversion which has lost no precision
1765    2) to ensure that if a numeric conversion to one form is requested that
1766       would lose precision, the precise conversion (or differently
1767       imprecise conversion) is also performed and cached, to prevent
1768       requests for different numeric formats on the same SV causing
1769       lossy conversion chains. (lossless conversion chains are perfectly
1770       acceptable (still))
1771
1772
1773    flags are used:
1774    SvIOKp is true if the IV slot contains a valid value
1775    SvIOK  is true only if the IV value is accurate (UV if SvIOK_UV true)
1776    SvNOKp is true if the NV slot contains a valid value
1777    SvNOK  is true only if the NV value is accurate
1778
1779    so
1780    while converting from PV to NV, check to see if converting that NV to an
1781    IV(or UV) would lose accuracy over a direct conversion from PV to
1782    IV(or UV). If it would, cache both conversions, return NV, but mark
1783    SV as IOK NOKp (ie not NOK).
1784
1785    While converting from PV to IV, check to see if converting that IV to an
1786    NV would lose accuracy over a direct conversion from PV to NV. If it
1787    would, cache both conversions, flag similarly.
1788
1789    Before, the SV value "3.2" could become NV=3.2 IV=3 NOK, IOK quite
1790    correctly because if IV & NV were set NV *always* overruled.
1791    Now, "3.2" will become NV=3.2 IV=3 NOK, IOKp, because the flag's meaning
1792    changes - now IV and NV together means that the two are interchangeable:
1793    SvIVX == (IV) SvNVX && SvNVX == (NV) SvIVX;
1794
1795    The benefit of this is that operations such as pp_add know that if
1796    SvIOK is true for both left and right operands, then integer addition
1797    can be used instead of floating point (for cases where the result won't
1798    overflow). Before, floating point was always used, which could lead to
1799    loss of precision compared with integer addition.
1800
1801    * making IV and NV equal status should make maths accurate on 64 bit
1802      platforms
1803    * may speed up maths somewhat if pp_add and friends start to use
1804      integers when possible instead of fp. (Hopefully the overhead in
1805      looking for SvIOK and checking for overflow will not outweigh the
1806      fp to integer speedup)
1807    * will slow down integer operations (callers of SvIV) on "inaccurate"
1808      values, as the change from SvIOK to SvIOKp will cause a call into
1809      sv_2iv each time rather than a macro access direct to the IV slot
1810    * should speed up number->string conversion on integers as IV is
1811      favoured when IV and NV are equally accurate
1812
1813    ####################################################################
1814    You had better be using SvIOK_notUV if you want an IV for arithmetic:
1815    SvIOK is true if (IV or UV), so you might be getting (IV)SvUV.
1816    On the other hand, SvUOK is true iff UV.
1817    ####################################################################
1818
1819    Your mileage will vary depending your CPU's relative fp to integer
1820    performance ratio.
1821 */
1822
1823 #ifndef NV_PRESERVES_UV
1824 #  define IS_NUMBER_UNDERFLOW_IV 1
1825 #  define IS_NUMBER_UNDERFLOW_UV 2
1826 #  define IS_NUMBER_IV_AND_UV    2
1827 #  define IS_NUMBER_OVERFLOW_IV  4
1828 #  define IS_NUMBER_OVERFLOW_UV  5
1829
1830 /* sv_2iuv_non_preserve(): private routine for use by sv_2iv() and sv_2uv() */
1831
1832 /* For sv_2nv these three cases are "SvNOK and don't bother casting"  */
1833 STATIC int
1834 S_sv_2iuv_non_preserve(pTHX_ register SV *sv, I32 numtype)
1835 {
1836     dVAR;
1837     DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_2iuv_non '%s', IV=0x%"UVxf" NV=%"NVgf" inttype=%"UVXf"\n", SvPVX_const(sv), SvIVX(sv), SvNVX(sv), (UV)numtype));
1838     if (SvNVX(sv) < (NV)IV_MIN) {
1839         (void)SvIOKp_on(sv);
1840         (void)SvNOK_on(sv);
1841         SvIV_set(sv, IV_MIN);
1842         return IS_NUMBER_UNDERFLOW_IV;
1843     }
1844     if (SvNVX(sv) > (NV)UV_MAX) {
1845         (void)SvIOKp_on(sv);
1846         (void)SvNOK_on(sv);
1847         SvIsUV_on(sv);
1848         SvUV_set(sv, UV_MAX);
1849         return IS_NUMBER_OVERFLOW_UV;
1850     }
1851     (void)SvIOKp_on(sv);
1852     (void)SvNOK_on(sv);
1853     /* Can't use strtol etc to convert this string.  (See truth table in
1854        sv_2iv  */
1855     if (SvNVX(sv) <= (UV)IV_MAX) {
1856         SvIV_set(sv, I_V(SvNVX(sv)));
1857         if ((NV)(SvIVX(sv)) == SvNVX(sv)) {
1858             SvIOK_on(sv); /* Integer is precise. NOK, IOK */
1859         } else {
1860             /* Integer is imprecise. NOK, IOKp */
1861         }
1862         return SvNVX(sv) < 0 ? IS_NUMBER_UNDERFLOW_UV : IS_NUMBER_IV_AND_UV;
1863     }
1864     SvIsUV_on(sv);
1865     SvUV_set(sv, U_V(SvNVX(sv)));
1866     if ((NV)(SvUVX(sv)) == SvNVX(sv)) {
1867         if (SvUVX(sv) == UV_MAX) {
1868             /* As we know that NVs don't preserve UVs, UV_MAX cannot
1869                possibly be preserved by NV. Hence, it must be overflow.
1870                NOK, IOKp */
1871             return IS_NUMBER_OVERFLOW_UV;
1872         }
1873         SvIOK_on(sv); /* Integer is precise. NOK, UOK */
1874     } else {
1875         /* Integer is imprecise. NOK, IOKp */
1876     }
1877     return IS_NUMBER_OVERFLOW_IV;
1878 }
1879 #endif /* !NV_PRESERVES_UV*/
1880
1881 STATIC bool
1882 S_sv_2iuv_common(pTHX_ SV *sv) {
1883     dVAR;
1884     if (SvNOKp(sv)) {
1885         /* erm. not sure. *should* never get NOKp (without NOK) from sv_2nv
1886          * without also getting a cached IV/UV from it at the same time
1887          * (ie PV->NV conversion should detect loss of accuracy and cache
1888          * IV or UV at same time to avoid this. */
1889         /* IV-over-UV optimisation - choose to cache IV if possible */
1890
1891         if (SvTYPE(sv) == SVt_NV)
1892             sv_upgrade(sv, SVt_PVNV);
1893
1894         (void)SvIOKp_on(sv);    /* Must do this first, to clear any SvOOK */
1895         /* < not <= as for NV doesn't preserve UV, ((NV)IV_MAX+1) will almost
1896            certainly cast into the IV range at IV_MAX, whereas the correct
1897            answer is the UV IV_MAX +1. Hence < ensures that dodgy boundary
1898            cases go to UV */
1899 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
1900         if (Perl_isnan(SvNVX(sv))) {
1901             SvUV_set(sv, 0);
1902             SvIsUV_on(sv);
1903             return FALSE;
1904         }
1905 #endif
1906         if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
1907             SvIV_set(sv, I_V(SvNVX(sv)));
1908             if (SvNVX(sv) == (NV) SvIVX(sv)
1909 #ifndef NV_PRESERVES_UV
1910                 && (((UV)1 << NV_PRESERVES_UV_BITS) >
1911                     (UV)(SvIVX(sv) > 0 ? SvIVX(sv) : -SvIVX(sv)))
1912                 /* Don't flag it as "accurately an integer" if the number
1913                    came from a (by definition imprecise) NV operation, and
1914                    we're outside the range of NV integer precision */
1915 #endif
1916                 ) {
1917                 SvIOK_on(sv);  /* Can this go wrong with rounding? NWC */
1918                 DEBUG_c(PerlIO_printf(Perl_debug_log,
1919                                       "0x%"UVxf" iv(%"NVgf" => %"IVdf") (precise)\n",
1920                                       PTR2UV(sv),
1921                                       SvNVX(sv),
1922                                       SvIVX(sv)));
1923
1924             } else {
1925                 /* IV not precise.  No need to convert from PV, as NV
1926                    conversion would already have cached IV if it detected
1927                    that PV->IV would be better than PV->NV->IV
1928                    flags already correct - don't set public IOK.  */
1929                 DEBUG_c(PerlIO_printf(Perl_debug_log,
1930                                       "0x%"UVxf" iv(%"NVgf" => %"IVdf") (imprecise)\n",
1931                                       PTR2UV(sv),
1932                                       SvNVX(sv),
1933                                       SvIVX(sv)));
1934             }
1935             /* Can the above go wrong if SvIVX == IV_MIN and SvNVX < IV_MIN,
1936                but the cast (NV)IV_MIN rounds to a the value less (more
1937                negative) than IV_MIN which happens to be equal to SvNVX ??
1938                Analogous to 0xFFFFFFFFFFFFFFFF rounding up to NV (2**64) and
1939                NV rounding back to 0xFFFFFFFFFFFFFFFF, so UVX == UV(NVX) and
1940                (NV)UVX == NVX are both true, but the values differ. :-(
1941                Hopefully for 2s complement IV_MIN is something like
1942                0x8000000000000000 which will be exact. NWC */
1943         }
1944         else {
1945             SvUV_set(sv, U_V(SvNVX(sv)));
1946             if (
1947                 (SvNVX(sv) == (NV) SvUVX(sv))
1948 #ifndef  NV_PRESERVES_UV
1949                 /* Make sure it's not 0xFFFFFFFFFFFFFFFF */
1950                 /*&& (SvUVX(sv) != UV_MAX) irrelevant with code below */
1951                 && (((UV)1 << NV_PRESERVES_UV_BITS) > SvUVX(sv))
1952                 /* Don't flag it as "accurately an integer" if the number
1953                    came from a (by definition imprecise) NV operation, and
1954                    we're outside the range of NV integer precision */
1955 #endif
1956                 )
1957                 SvIOK_on(sv);
1958             SvIsUV_on(sv);
1959             DEBUG_c(PerlIO_printf(Perl_debug_log,
1960                                   "0x%"UVxf" 2iv(%"UVuf" => %"IVdf") (as unsigned)\n",
1961                                   PTR2UV(sv),
1962                                   SvUVX(sv),
1963                                   SvUVX(sv)));
1964         }
1965     }
1966     else if (SvPOKp(sv) && SvLEN(sv)) {
1967         UV value;
1968         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
1969         /* We want to avoid a possible problem when we cache an IV/ a UV which
1970            may be later translated to an NV, and the resulting NV is not
1971            the same as the direct translation of the initial string
1972            (eg 123.456 can shortcut to the IV 123 with atol(), but we must
1973            be careful to ensure that the value with the .456 is around if the
1974            NV value is requested in the future).
1975         
1976            This means that if we cache such an IV/a UV, we need to cache the
1977            NV as well.  Moreover, we trade speed for space, and do not
1978            cache the NV if we are sure it's not needed.
1979          */
1980
1981         /* SVt_PVNV is one higher than SVt_PVIV, hence this order  */
1982         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
1983              == IS_NUMBER_IN_UV) {
1984             /* It's definitely an integer, only upgrade to PVIV */
1985             if (SvTYPE(sv) < SVt_PVIV)
1986                 sv_upgrade(sv, SVt_PVIV);
1987             (void)SvIOK_on(sv);
1988         } else if (SvTYPE(sv) < SVt_PVNV)
1989             sv_upgrade(sv, SVt_PVNV);
1990
1991         /* If NVs preserve UVs then we only use the UV value if we know that
1992            we aren't going to call atof() below. If NVs don't preserve UVs
1993            then the value returned may have more precision than atof() will
1994            return, even though value isn't perfectly accurate.  */
1995         if ((numtype & (IS_NUMBER_IN_UV
1996 #ifdef NV_PRESERVES_UV
1997                         | IS_NUMBER_NOT_INT
1998 #endif
1999             )) == IS_NUMBER_IN_UV) {
2000             /* This won't turn off the public IOK flag if it was set above  */
2001             (void)SvIOKp_on(sv);
2002
2003             if (!(numtype & IS_NUMBER_NEG)) {
2004                 /* positive */;
2005                 if (value <= (UV)IV_MAX) {
2006                     SvIV_set(sv, (IV)value);
2007                 } else {
2008                     /* it didn't overflow, and it was positive. */
2009                     SvUV_set(sv, value);
2010                     SvIsUV_on(sv);
2011                 }
2012             } else {
2013                 /* 2s complement assumption  */
2014                 if (value <= (UV)IV_MIN) {
2015                     SvIV_set(sv, -(IV)value);
2016                 } else {
2017                     /* Too negative for an IV.  This is a double upgrade, but
2018                        I'm assuming it will be rare.  */
2019                     if (SvTYPE(sv) < SVt_PVNV)
2020                         sv_upgrade(sv, SVt_PVNV);
2021                     SvNOK_on(sv);
2022                     SvIOK_off(sv);
2023                     SvIOKp_on(sv);
2024                     SvNV_set(sv, -(NV)value);
2025                     SvIV_set(sv, IV_MIN);
2026                 }
2027             }
2028         }
2029         /* For !NV_PRESERVES_UV and IS_NUMBER_IN_UV and IS_NUMBER_NOT_INT we
2030            will be in the previous block to set the IV slot, and the next
2031            block to set the NV slot.  So no else here.  */
2032         
2033         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2034             != IS_NUMBER_IN_UV) {
2035             /* It wasn't an (integer that doesn't overflow the UV). */
2036             SvNV_set(sv, Atof(SvPVX_const(sv)));
2037
2038             if (! numtype && ckWARN(WARN_NUMERIC))
2039                 not_a_number(sv);
2040
2041 #if defined(USE_LONG_DOUBLE)
2042             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2iv(%" PERL_PRIgldbl ")\n",
2043                                   PTR2UV(sv), SvNVX(sv)));
2044 #else
2045             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2iv(%"NVgf")\n",
2046                                   PTR2UV(sv), SvNVX(sv)));
2047 #endif
2048
2049 #ifdef NV_PRESERVES_UV
2050             (void)SvIOKp_on(sv);
2051             (void)SvNOK_on(sv);
2052             if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2053                 SvIV_set(sv, I_V(SvNVX(sv)));
2054                 if ((NV)(SvIVX(sv)) == SvNVX(sv)) {
2055                     SvIOK_on(sv);
2056                 } else {
2057                     /*EMPTY*/;  /* Integer is imprecise. NOK, IOKp */
2058                 }
2059                 /* UV will not work better than IV */
2060             } else {
2061                 if (SvNVX(sv) > (NV)UV_MAX) {
2062                     SvIsUV_on(sv);
2063                     /* Integer is inaccurate. NOK, IOKp, is UV */
2064                     SvUV_set(sv, UV_MAX);
2065                 } else {
2066                     SvUV_set(sv, U_V(SvNVX(sv)));
2067                     /* 0xFFFFFFFFFFFFFFFF not an issue in here, NVs
2068                        NV preservse UV so can do correct comparison.  */
2069                     if ((NV)(SvUVX(sv)) == SvNVX(sv)) {
2070                         SvIOK_on(sv);
2071                     } else {
2072                         /*EMPTY*/;   /* Integer is imprecise. NOK, IOKp, is UV */
2073                     }
2074                 }
2075                 SvIsUV_on(sv);
2076             }
2077 #else /* NV_PRESERVES_UV */
2078             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2079                 == (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT)) {
2080                 /* The IV/UV slot will have been set from value returned by
2081                    grok_number above.  The NV slot has just been set using
2082                    Atof.  */
2083                 SvNOK_on(sv);
2084                 assert (SvIOKp(sv));
2085             } else {
2086                 if (((UV)1 << NV_PRESERVES_UV_BITS) >
2087                     U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))) {
2088                     /* Small enough to preserve all bits. */
2089                     (void)SvIOKp_on(sv);
2090                     SvNOK_on(sv);
2091                     SvIV_set(sv, I_V(SvNVX(sv)));
2092                     if ((NV)(SvIVX(sv)) == SvNVX(sv))
2093                         SvIOK_on(sv);
2094                     /* Assumption: first non-preserved integer is < IV_MAX,
2095                        this NV is in the preserved range, therefore: */
2096                     if (!(U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))
2097                           < (UV)IV_MAX)) {
2098                         Perl_croak(aTHX_ "sv_2iv assumed (U_V(fabs((double)SvNVX(sv))) < (UV)IV_MAX) but SvNVX(sv)=%"NVgf" U_V is 0x%"UVxf", IV_MAX is 0x%"UVxf"\n", SvNVX(sv), U_V(SvNVX(sv)), (UV)IV_MAX);
2099                     }
2100                 } else {
2101                     /* IN_UV NOT_INT
2102                          0      0       already failed to read UV.
2103                          0      1       already failed to read UV.
2104                          1      0       you won't get here in this case. IV/UV
2105                                         slot set, public IOK, Atof() unneeded.
2106                          1      1       already read UV.
2107                        so there's no point in sv_2iuv_non_preserve() attempting
2108                        to use atol, strtol, strtoul etc.  */
2109                     sv_2iuv_non_preserve (sv, numtype);
2110                 }
2111             }
2112 #endif /* NV_PRESERVES_UV */
2113         }
2114     }
2115     else  {
2116         if (isGV_with_GP(sv)) {
2117             return (bool)PTR2IV(glob_2inpuv((GV *)sv, NULL, TRUE));
2118         }
2119
2120         if (!(SvFLAGS(sv) & SVs_PADTMP)) {
2121             if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
2122                 report_uninit(sv);
2123         }
2124         if (SvTYPE(sv) < SVt_IV)
2125             /* Typically the caller expects that sv_any is not NULL now.  */
2126             sv_upgrade(sv, SVt_IV);
2127         /* Return 0 from the caller.  */
2128         return TRUE;
2129     }
2130     return FALSE;
2131 }
2132
2133 /*
2134 =for apidoc sv_2iv_flags
2135
2136 Return the integer value of an SV, doing any necessary string
2137 conversion.  If flags includes SV_GMAGIC, does an mg_get() first.
2138 Normally used via the C<SvIV(sv)> and C<SvIVx(sv)> macros.
2139
2140 =cut
2141 */
2142
2143 IV
2144 Perl_sv_2iv_flags(pTHX_ register SV *sv, I32 flags)
2145 {
2146     dVAR;
2147     if (!sv)
2148         return 0;
2149     if (SvGMAGICAL(sv)) {
2150         if (flags & SV_GMAGIC)
2151             mg_get(sv);
2152         if (SvIOKp(sv))
2153             return SvIVX(sv);
2154         if (SvNOKp(sv)) {
2155             return I_V(SvNVX(sv));
2156         }
2157         if (SvPOKp(sv) && SvLEN(sv)) {
2158             UV value;
2159             const int numtype
2160                 = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
2161
2162             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2163                 == IS_NUMBER_IN_UV) {
2164                 /* It's definitely an integer */
2165                 if (numtype & IS_NUMBER_NEG) {
2166                     if (value < (UV)IV_MIN)
2167                         return -(IV)value;
2168                 } else {
2169                     if (value < (UV)IV_MAX)
2170                         return (IV)value;
2171                 }
2172             }
2173             if (!numtype) {
2174                 if (ckWARN(WARN_NUMERIC))
2175                     not_a_number(sv);
2176             }
2177             return I_V(Atof(SvPVX_const(sv)));
2178         }
2179         if (SvROK(sv)) {
2180             goto return_rok;
2181         }
2182         assert(SvTYPE(sv) >= SVt_PVMG);
2183         /* This falls through to the report_uninit inside S_sv_2iuv_common.  */
2184     } else if (SvTHINKFIRST(sv)) {
2185         if (SvROK(sv)) {
2186         return_rok:
2187             if (SvAMAGIC(sv)) {
2188                 SV * const tmpstr=AMG_CALLun(sv,numer);
2189                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2190                     return SvIV(tmpstr);
2191                 }
2192             }
2193             return PTR2IV(SvRV(sv));
2194         }
2195         if (SvIsCOW(sv)) {
2196             sv_force_normal_flags(sv, 0);
2197         }
2198         if (SvREADONLY(sv) && !SvOK(sv)) {
2199             if (ckWARN(WARN_UNINITIALIZED))
2200                 report_uninit(sv);
2201             return 0;
2202         }
2203     }
2204     if (!SvIOKp(sv)) {
2205         if (S_sv_2iuv_common(aTHX_ sv))
2206             return 0;
2207     }
2208     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2iv(%"IVdf")\n",
2209         PTR2UV(sv),SvIVX(sv)));
2210     return SvIsUV(sv) ? (IV)SvUVX(sv) : SvIVX(sv);
2211 }
2212
2213 /*
2214 =for apidoc sv_2uv_flags
2215
2216 Return the unsigned integer value of an SV, doing any necessary string
2217 conversion.  If flags includes SV_GMAGIC, does an mg_get() first.
2218 Normally used via the C<SvUV(sv)> and C<SvUVx(sv)> macros.
2219
2220 =cut
2221 */
2222
2223 UV
2224 Perl_sv_2uv_flags(pTHX_ register SV *sv, I32 flags)
2225 {
2226     dVAR;
2227     if (!sv)
2228         return 0;
2229     if (SvGMAGICAL(sv)) {
2230         if (flags & SV_GMAGIC)
2231             mg_get(sv);
2232         if (SvIOKp(sv))
2233             return SvUVX(sv);
2234         if (SvNOKp(sv))
2235             return U_V(SvNVX(sv));
2236         if (SvPOKp(sv) && SvLEN(sv)) {
2237             UV value;
2238             const int numtype
2239                 = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
2240
2241             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2242                 == IS_NUMBER_IN_UV) {
2243                 /* It's definitely an integer */
2244                 if (!(numtype & IS_NUMBER_NEG))
2245                     return value;
2246             }
2247             if (!numtype) {
2248                 if (ckWARN(WARN_NUMERIC))
2249                     not_a_number(sv);
2250             }
2251             return U_V(Atof(SvPVX_const(sv)));
2252         }
2253         if (SvROK(sv)) {
2254             goto return_rok;
2255         }
2256         assert(SvTYPE(sv) >= SVt_PVMG);
2257         /* This falls through to the report_uninit inside S_sv_2iuv_common.  */
2258     } else if (SvTHINKFIRST(sv)) {
2259         if (SvROK(sv)) {
2260         return_rok:
2261             if (SvAMAGIC(sv)) {
2262                 SV *const tmpstr = AMG_CALLun(sv,numer);
2263                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2264                     return SvUV(tmpstr);
2265                 }
2266             }
2267             return PTR2UV(SvRV(sv));
2268         }
2269         if (SvIsCOW(sv)) {
2270             sv_force_normal_flags(sv, 0);
2271         }
2272         if (SvREADONLY(sv) && !SvOK(sv)) {
2273             if (ckWARN(WARN_UNINITIALIZED))
2274                 report_uninit(sv);
2275             return 0;
2276         }
2277     }
2278     if (!SvIOKp(sv)) {
2279         if (S_sv_2iuv_common(aTHX_ sv))
2280             return 0;
2281     }
2282
2283     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2uv(%"UVuf")\n",
2284                           PTR2UV(sv),SvUVX(sv)));
2285     return SvIsUV(sv) ? SvUVX(sv) : (UV)SvIVX(sv);
2286 }
2287
2288 /*
2289 =for apidoc sv_2nv
2290
2291 Return the num value of an SV, doing any necessary string or integer
2292 conversion, magic etc. Normally used via the C<SvNV(sv)> and C<SvNVx(sv)>
2293 macros.
2294
2295 =cut
2296 */
2297
2298 NV
2299 Perl_sv_2nv(pTHX_ register SV *sv)
2300 {
2301     dVAR;
2302     if (!sv)
2303         return 0.0;
2304     if (SvGMAGICAL(sv)) {
2305         mg_get(sv);
2306         if (SvNOKp(sv))
2307             return SvNVX(sv);
2308         if ((SvPOKp(sv) && SvLEN(sv)) && !SvIOKp(sv)) {
2309             if (!SvIOKp(sv) && ckWARN(WARN_NUMERIC) &&
2310                 !grok_number(SvPVX_const(sv), SvCUR(sv), NULL))
2311                 not_a_number(sv);
2312             return Atof(SvPVX_const(sv));
2313         }
2314         if (SvIOKp(sv)) {
2315             if (SvIsUV(sv))
2316                 return (NV)SvUVX(sv);
2317             else
2318                 return (NV)SvIVX(sv);
2319         }
2320         if (SvROK(sv)) {
2321             goto return_rok;
2322         }
2323         assert(SvTYPE(sv) >= SVt_PVMG);
2324         /* This falls through to the report_uninit near the end of the
2325            function. */
2326     } else if (SvTHINKFIRST(sv)) {
2327         if (SvROK(sv)) {
2328         return_rok:
2329             if (SvAMAGIC(sv)) {
2330                 SV *const tmpstr = AMG_CALLun(sv,numer);
2331                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2332                     return SvNV(tmpstr);
2333                 }
2334             }
2335             return PTR2NV(SvRV(sv));
2336         }
2337         if (SvIsCOW(sv)) {
2338             sv_force_normal_flags(sv, 0);
2339         }
2340         if (SvREADONLY(sv) && !SvOK(sv)) {
2341             if (ckWARN(WARN_UNINITIALIZED))
2342                 report_uninit(sv);
2343             return 0.0;
2344         }
2345     }
2346     if (SvTYPE(sv) < SVt_NV) {
2347         /* The logic to use SVt_PVNV if necessary is in sv_upgrade.  */
2348         sv_upgrade(sv, SVt_NV);
2349 #ifdef USE_LONG_DOUBLE
2350         DEBUG_c({
2351             STORE_NUMERIC_LOCAL_SET_STANDARD();
2352             PerlIO_printf(Perl_debug_log,
2353                           "0x%"UVxf" num(%" PERL_PRIgldbl ")\n",
2354                           PTR2UV(sv), SvNVX(sv));
2355             RESTORE_NUMERIC_LOCAL();
2356         });
2357 #else
2358         DEBUG_c({
2359             STORE_NUMERIC_LOCAL_SET_STANDARD();
2360             PerlIO_printf(Perl_debug_log, "0x%"UVxf" num(%"NVgf")\n",
2361                           PTR2UV(sv), SvNVX(sv));
2362             RESTORE_NUMERIC_LOCAL();
2363         });
2364 #endif
2365     }
2366     else if (SvTYPE(sv) < SVt_PVNV)
2367         sv_upgrade(sv, SVt_PVNV);
2368     if (SvNOKp(sv)) {
2369         return SvNVX(sv);
2370     }
2371     if (SvIOKp(sv)) {
2372         SvNV_set(sv, SvIsUV(sv) ? (NV)SvUVX(sv) : (NV)SvIVX(sv));
2373 #ifdef NV_PRESERVES_UV
2374         SvNOK_on(sv);
2375 #else
2376         /* Only set the public NV OK flag if this NV preserves the IV  */
2377         /* Check it's not 0xFFFFFFFFFFFFFFFF */
2378         if (SvIsUV(sv) ? ((SvUVX(sv) != UV_MAX)&&(SvUVX(sv) == U_V(SvNVX(sv))))
2379                        : (SvIVX(sv) == I_V(SvNVX(sv))))
2380             SvNOK_on(sv);
2381         else
2382             SvNOKp_on(sv);
2383 #endif
2384     }
2385     else if (SvPOKp(sv) && SvLEN(sv)) {
2386         UV value;
2387         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
2388         if (!SvIOKp(sv) && !numtype && ckWARN(WARN_NUMERIC))
2389             not_a_number(sv);
2390 #ifdef NV_PRESERVES_UV
2391         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2392             == IS_NUMBER_IN_UV) {
2393             /* It's definitely an integer */
2394             SvNV_set(sv, (numtype & IS_NUMBER_NEG) ? -(NV)value : (NV)value);
2395         } else
2396             SvNV_set(sv, Atof(SvPVX_const(sv)));
2397         SvNOK_on(sv);
2398 #else
2399         SvNV_set(sv, Atof(SvPVX_const(sv)));
2400         /* Only set the public NV OK flag if this NV preserves the value in
2401            the PV at least as well as an IV/UV would.
2402            Not sure how to do this 100% reliably. */
2403         /* if that shift count is out of range then Configure's test is
2404            wonky. We shouldn't be in here with NV_PRESERVES_UV_BITS ==
2405            UV_BITS */
2406         if (((UV)1 << NV_PRESERVES_UV_BITS) >
2407             U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))) {
2408             SvNOK_on(sv); /* Definitely small enough to preserve all bits */
2409         } else if (!(numtype & IS_NUMBER_IN_UV)) {
2410             /* Can't use strtol etc to convert this string, so don't try.
2411                sv_2iv and sv_2uv will use the NV to convert, not the PV.  */
2412             SvNOK_on(sv);
2413         } else {
2414             /* value has been set.  It may not be precise.  */
2415             if ((numtype & IS_NUMBER_NEG) && (value > (UV)IV_MIN)) {
2416                 /* 2s complement assumption for (UV)IV_MIN  */
2417                 SvNOK_on(sv); /* Integer is too negative.  */
2418             } else {
2419                 SvNOKp_on(sv);
2420                 SvIOKp_on(sv);
2421
2422                 if (numtype & IS_NUMBER_NEG) {
2423                     SvIV_set(sv, -(IV)value);
2424                 } else if (value <= (UV)IV_MAX) {
2425                     SvIV_set(sv, (IV)value);
2426                 } else {
2427                     SvUV_set(sv, value);
2428                     SvIsUV_on(sv);
2429                 }
2430
2431                 if (numtype & IS_NUMBER_NOT_INT) {
2432                     /* I believe that even if the original PV had decimals,
2433                        they are lost beyond the limit of the FP precision.
2434                        However, neither is canonical, so both only get p
2435                        flags.  NWC, 2000/11/25 */
2436                     /* Both already have p flags, so do nothing */
2437                 } else {
2438                     const NV nv = SvNVX(sv);
2439                     if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2440                         if (SvIVX(sv) == I_V(nv)) {
2441                             SvNOK_on(sv);
2442                         } else {
2443                             /* It had no "." so it must be integer.  */
2444                         }
2445                         SvIOK_on(sv);
2446                     } else {
2447                         /* between IV_MAX and NV(UV_MAX).
2448                            Could be slightly > UV_MAX */
2449
2450                         if (numtype & IS_NUMBER_NOT_INT) {
2451                             /* UV and NV both imprecise.  */
2452                         } else {
2453                             const UV nv_as_uv = U_V(nv);
2454
2455                             if (value == nv_as_uv && SvUVX(sv) != UV_MAX) {
2456                                 SvNOK_on(sv);
2457                             }
2458                             SvIOK_on(sv);
2459                         }
2460                     }
2461                 }
2462             }
2463         }
2464 #endif /* NV_PRESERVES_UV */
2465     }
2466     else  {
2467         if (isGV_with_GP(sv)) {
2468             glob_2inpuv((GV *)sv, NULL, TRUE);
2469             return 0.0;
2470         }
2471
2472         if (!PL_localizing && !(SvFLAGS(sv) & SVs_PADTMP) && ckWARN(WARN_UNINITIALIZED))
2473             report_uninit(sv);
2474         assert (SvTYPE(sv) >= SVt_NV);
2475         /* Typically the caller expects that sv_any is not NULL now.  */
2476         /* XXX Ilya implies that this is a bug in callers that assume this
2477            and ideally should be fixed.  */
2478         return 0.0;
2479     }
2480 #if defined(USE_LONG_DOUBLE)
2481     DEBUG_c({
2482         STORE_NUMERIC_LOCAL_SET_STANDARD();
2483         PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2nv(%" PERL_PRIgldbl ")\n",
2484                       PTR2UV(sv), SvNVX(sv));
2485         RESTORE_NUMERIC_LOCAL();
2486     });
2487 #else
2488     DEBUG_c({
2489         STORE_NUMERIC_LOCAL_SET_STANDARD();
2490         PerlIO_printf(Perl_debug_log, "0x%"UVxf" 1nv(%"NVgf")\n",
2491                       PTR2UV(sv), SvNVX(sv));
2492         RESTORE_NUMERIC_LOCAL();
2493     });
2494 #endif
2495     return SvNVX(sv);
2496 }
2497
2498 /* uiv_2buf(): private routine for use by sv_2pv_flags(): print an IV or
2499  * UV as a string towards the end of buf, and return pointers to start and
2500  * end of it.
2501  *
2502  * We assume that buf is at least TYPE_CHARS(UV) long.
2503  */
2504
2505 static char *
2506 S_uiv_2buf(char *buf, IV iv, UV uv, int is_uv, char **peob)
2507 {
2508     char *ptr = buf + TYPE_CHARS(UV);
2509     char * const ebuf = ptr;
2510     int sign;
2511
2512     if (is_uv)
2513         sign = 0;
2514     else if (iv >= 0) {
2515         uv = iv;
2516         sign = 0;
2517     } else {
2518         uv = -iv;
2519         sign = 1;
2520     }
2521     do {
2522         *--ptr = '0' + (char)(uv % 10);
2523     } while (uv /= 10);
2524     if (sign)
2525         *--ptr = '-';
2526     *peob = ebuf;
2527     return ptr;
2528 }
2529
2530 /* stringify_regexp(): private routine for use by sv_2pv_flags(): converts
2531  * a regexp to its stringified form.
2532  */
2533
2534 static char *
2535 S_stringify_regexp(pTHX_ SV *sv, MAGIC *mg, STRLEN *lp) {
2536     dVAR;
2537     const regexp * const re = (regexp *)mg->mg_obj;
2538
2539     if (!mg->mg_ptr) {
2540         const char *fptr = "msix";
2541         char reflags[6];
2542         char ch;
2543         int left = 0;
2544         int right = 4;
2545         bool need_newline = 0;
2546         U16 reganch = (U16)((re->reganch & PMf_COMPILETIME) >> 12);
2547
2548         while((ch = *fptr++)) {
2549             if(reganch & 1) {
2550                 reflags[left++] = ch;
2551             }
2552             else {
2553                 reflags[right--] = ch;
2554             }
2555             reganch >>= 1;
2556         }
2557         if(left != 4) {
2558             reflags[left] = '-';
2559             left = 5;
2560         }
2561
2562         mg->mg_len = re->prelen + 4 + left;
2563         /*
2564          * If /x was used, we have to worry about a regex ending with a
2565          * comment later being embedded within another regex. If so, we don't
2566          * want this regex's "commentization" to leak out to the right part of
2567          * the enclosing regex, we must cap it with a newline.
2568          *
2569          * So, if /x was used, we scan backwards from the end of the regex. If
2570          * we find a '#' before we find a newline, we need to add a newline
2571          * ourself. If we find a '\n' first (or if we don't find '#' or '\n'),
2572          * we don't need to add anything.  -jfriedl
2573          */
2574         if (PMf_EXTENDED & re->reganch) {
2575             const char *endptr = re->precomp + re->prelen;
2576             while (endptr >= re->precomp) {
2577                 const char c = *(endptr--);
2578                 if (c == '\n')
2579                     break; /* don't need another */
2580                 if (c == '#') {
2581                     /* we end while in a comment, so we need a newline */
2582                     mg->mg_len++; /* save space for it */
2583                     need_newline = 1; /* note to add it */
2584                     break;
2585                 }
2586             }
2587         }
2588
2589         Newx(mg->mg_ptr, mg->mg_len + 1 + left, char);
2590         mg->mg_ptr[0] = '(';
2591         mg->mg_ptr[1] = '?';
2592         Copy(reflags, mg->mg_ptr+2, left, char);
2593         *(mg->mg_ptr+left+2) = ':';
2594         Copy(re->precomp, mg->mg_ptr+3+left, re->prelen, char);
2595         if (need_newline)
2596             mg->mg_ptr[mg->mg_len - 2] = '\n';
2597         mg->mg_ptr[mg->mg_len - 1] = ')';
2598         mg->mg_ptr[mg->mg_len] = 0;
2599     }
2600     PL_reginterp_cnt += re->program[0].next_off;
2601     
2602     if (re->reganch & ROPT_UTF8)
2603         SvUTF8_on(sv);
2604     else
2605         SvUTF8_off(sv);
2606     if (lp)
2607         *lp = mg->mg_len;
2608     return mg->mg_ptr;
2609 }
2610
2611 /*
2612 =for apidoc sv_2pv_flags
2613
2614 Returns a pointer to the string value of an SV, and sets *lp to its length.
2615 If flags includes SV_GMAGIC, does an mg_get() first. Coerces sv to a string
2616 if necessary.
2617 Normally invoked via the C<SvPV_flags> macro. C<sv_2pv()> and C<sv_2pv_nomg>
2618 usually end up here too.
2619
2620 =cut
2621 */
2622
2623 char *
2624 Perl_sv_2pv_flags(pTHX_ register SV *sv, STRLEN *lp, I32 flags)
2625 {
2626     dVAR;
2627     register char *s;
2628
2629     if (!sv) {
2630         if (lp)
2631             *lp = 0;
2632         return (char *)"";
2633     }
2634     if (SvGMAGICAL(sv)) {
2635         if (flags & SV_GMAGIC)
2636             mg_get(sv);
2637         if (SvPOKp(sv)) {
2638             if (lp)
2639                 *lp = SvCUR(sv);
2640             if (flags & SV_MUTABLE_RETURN)
2641                 return SvPVX_mutable(sv);
2642             if (flags & SV_CONST_RETURN)
2643                 return (char *)SvPVX_const(sv);
2644             return SvPVX(sv);
2645         }
2646         if (SvIOKp(sv) || SvNOKp(sv)) {
2647             char tbuf[64];  /* Must fit sprintf/Gconvert of longest IV/NV */
2648             STRLEN len;
2649
2650             if (SvIOKp(sv)) {
2651                 len = SvIsUV(sv) ? my_sprintf(tbuf,"%"UVuf, (UV)SvUVX(sv))
2652                     : my_sprintf(tbuf,"%"IVdf, (IV)SvIVX(sv));
2653             } else {
2654                 Gconvert(SvNVX(sv), NV_DIG, 0, tbuf);
2655                 len = strlen(tbuf);
2656             }
2657             assert(!SvROK(sv));
2658             {
2659                 dVAR;
2660
2661 #ifdef FIXNEGATIVEZERO
2662                 if (len == 2 && tbuf[0] == '-' && tbuf[1] == '0') {
2663                     tbuf[0] = '0';
2664                     tbuf[1] = 0;
2665                     len = 1;
2666                 }
2667 #endif
2668                 SvUPGRADE(sv, SVt_PV);
2669                 if (lp)
2670                     *lp = len;
2671                 s = SvGROW_mutable(sv, len + 1);
2672                 SvCUR_set(sv, len);
2673                 SvPOKp_on(sv);
2674                 return memcpy(s, tbuf, len + 1);
2675             }
2676         }
2677         if (SvROK(sv)) {
2678             goto return_rok;
2679         }
2680         assert(SvTYPE(sv) >= SVt_PVMG);
2681         /* This falls through to the report_uninit near the end of the
2682            function. */
2683     } else if (SvTHINKFIRST(sv)) {
2684         if (SvROK(sv)) {
2685         return_rok:
2686             if (SvAMAGIC(sv)) {
2687                 SV *const tmpstr = AMG_CALLun(sv,string);
2688                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2689                     /* Unwrap this:  */
2690                     /* char *pv = lp ? SvPV(tmpstr, *lp) : SvPV_nolen(tmpstr);
2691                      */
2692
2693                     char *pv;
2694                     if ((SvFLAGS(tmpstr) & (SVf_POK)) == SVf_POK) {
2695                         if (flags & SV_CONST_RETURN) {
2696                             pv = (char *) SvPVX_const(tmpstr);
2697                         } else {
2698                             pv = (flags & SV_MUTABLE_RETURN)
2699                                 ? SvPVX_mutable(tmpstr) : SvPVX(tmpstr);
2700                         }
2701                         if (lp)
2702                             *lp = SvCUR(tmpstr);
2703                     } else {
2704                         pv = sv_2pv_flags(tmpstr, lp, flags);
2705                     }
2706                     if (SvUTF8(tmpstr))
2707                         SvUTF8_on(sv);
2708                     else
2709                         SvUTF8_off(sv);
2710                     return pv;
2711                 }
2712             }
2713             {
2714                 SV *tsv;
2715                 MAGIC *mg;
2716                 const SV *const referent = (SV*)SvRV(sv);
2717
2718                 if (!referent) {
2719                     tsv = sv_2mortal(newSVpvs("NULLREF"));
2720                 } else if (SvTYPE(referent) == SVt_PVMG
2721                            && ((SvFLAGS(referent) &
2722                                 (SVs_OBJECT|SVf_OK|SVs_GMG|SVs_SMG|SVs_RMG))
2723                                == (SVs_OBJECT|SVs_SMG))
2724                            && (mg = mg_find(referent, PERL_MAGIC_qr))) {
2725                     return stringify_regexp(sv, mg, lp);
2726                 } else {
2727                     const char *const typestr = sv_reftype(referent, 0);
2728
2729                     tsv = sv_newmortal();
2730                     if (SvOBJECT(referent)) {
2731                         const char *const name = HvNAME_get(SvSTASH(referent));
2732                         Perl_sv_setpvf(aTHX_ tsv, "%s=%s(0x%"UVxf")",
2733                                        name ? name : "__ANON__" , typestr,
2734                                        PTR2UV(referent));
2735                     }
2736                     else
2737                         Perl_sv_setpvf(aTHX_ tsv, "%s(0x%"UVxf")", typestr,
2738                                        PTR2UV(referent));
2739                 }
2740                 if (lp)
2741                     *lp = SvCUR(tsv);
2742                 return SvPVX(tsv);
2743             }
2744         }
2745         if (SvREADONLY(sv) && !SvOK(sv)) {
2746             if (ckWARN(WARN_UNINITIALIZED))
2747                 report_uninit(sv);
2748             if (lp)
2749                 *lp = 0;
2750             return (char *)"";
2751         }
2752     }
2753     if (SvIOK(sv) || ((SvIOKp(sv) && !SvNOKp(sv)))) {
2754         /* I'm assuming that if both IV and NV are equally valid then
2755            converting the IV is going to be more efficient */
2756         const U32 isIOK = SvIOK(sv);
2757         const U32 isUIOK = SvIsUV(sv);
2758         char buf[TYPE_CHARS(UV)];
2759         char *ebuf, *ptr;
2760
2761         if (SvTYPE(sv) < SVt_PVIV)
2762             sv_upgrade(sv, SVt_PVIV);
2763         ptr = uiv_2buf(buf, SvIVX(sv), SvUVX(sv), isUIOK, &ebuf);
2764         /* inlined from sv_setpvn */
2765         SvGROW_mutable(sv, (STRLEN)(ebuf - ptr + 1));
2766         Move(ptr,SvPVX_mutable(sv),ebuf - ptr,char);
2767         SvCUR_set(sv, ebuf - ptr);
2768         s = SvEND(sv);
2769         *s = '\0';
2770         if (isIOK)
2771             SvIOK_on(sv);
2772         else
2773             SvIOKp_on(sv);
2774         if (isUIOK)
2775             SvIsUV_on(sv);
2776     }
2777     else if (SvNOKp(sv)) {
2778         const int olderrno = errno;
2779         if (SvTYPE(sv) < SVt_PVNV)
2780             sv_upgrade(sv, SVt_PVNV);
2781         /* The +20 is pure guesswork.  Configure test needed. --jhi */
2782         s = SvGROW_mutable(sv, NV_DIG + 20);
2783         /* some Xenix systems wipe out errno here */
2784 #ifdef apollo
2785         if (SvNVX(sv) == 0.0)
2786             (void)strcpy(s,"0");
2787         else
2788 #endif /*apollo*/
2789         {
2790             Gconvert(SvNVX(sv), NV_DIG, 0, s);
2791         }
2792         errno = olderrno;
2793 #ifdef FIXNEGATIVEZERO
2794         if (*s == '-' && s[1] == '0' && !s[2])
2795             strcpy(s,"0");
2796 #endif
2797         while (*s) s++;
2798 #ifdef hcx
2799         if (s[-1] == '.')
2800             *--s = '\0';
2801 #endif
2802     }
2803     else {
2804         if (isGV_with_GP(sv)) {
2805             return glob_2inpuv((GV *)sv, lp, FALSE);
2806         }
2807
2808         if (!PL_localizing && !(SvFLAGS(sv) & SVs_PADTMP) && ckWARN(WARN_UNINITIALIZED))
2809             report_uninit(sv);
2810         if (lp)
2811             *lp = 0;
2812         if (SvTYPE(sv) < SVt_PV)
2813             /* Typically the caller expects that sv_any is not NULL now.  */
2814             sv_upgrade(sv, SVt_PV);
2815         return (char *)"";
2816     }
2817     {
2818         const STRLEN len = s - SvPVX_const(sv);
2819         if (lp) 
2820             *lp = len;
2821         SvCUR_set(sv, len);
2822     }
2823     SvPOK_on(sv);
2824     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2pv(%s)\n",
2825                           PTR2UV(sv),SvPVX_const(sv)));
2826     if (flags & SV_CONST_RETURN)
2827         return (char *)SvPVX_const(sv);
2828     if (flags & SV_MUTABLE_RETURN)
2829         return SvPVX_mutable(sv);
2830     return SvPVX(sv);
2831 }
2832
2833 /*
2834 =for apidoc sv_copypv
2835
2836 Copies a stringified representation of the source SV into the
2837 destination SV.  Automatically performs any necessary mg_get and
2838 coercion of numeric values into strings.  Guaranteed to preserve
2839 UTF-8 flag even from overloaded objects.  Similar in nature to
2840 sv_2pv[_flags] but operates directly on an SV instead of just the
2841 string.  Mostly uses sv_2pv_flags to do its work, except when that
2842 would lose the UTF-8'ness of the PV.
2843
2844 =cut
2845 */
2846
2847 void
2848 Perl_sv_copypv(pTHX_ SV *dsv, register SV *ssv)
2849 {
2850     STRLEN len;
2851     const char * const s = SvPV_const(ssv,len);
2852     sv_setpvn(dsv,s,len);
2853     if (SvUTF8(ssv))
2854         SvUTF8_on(dsv);
2855     else
2856         SvUTF8_off(dsv);
2857 }
2858
2859 /*
2860 =for apidoc sv_2pvbyte
2861
2862 Return a pointer to the byte-encoded representation of the SV, and set *lp
2863 to its length.  May cause the SV to be downgraded from UTF-8 as a
2864 side-effect.
2865
2866 Usually accessed via the C<SvPVbyte> macro.
2867
2868 =cut
2869 */
2870
2871 char *
2872 Perl_sv_2pvbyte(pTHX_ register SV *sv, STRLEN *lp)
2873 {
2874     sv_utf8_downgrade(sv,0);
2875     return lp ? SvPV(sv,*lp) : SvPV_nolen(sv);
2876 }
2877
2878 /*
2879 =for apidoc sv_2pvutf8
2880
2881 Return a pointer to the UTF-8-encoded representation of the SV, and set *lp
2882 to its length.  May cause the SV to be upgraded to UTF-8 as a side-effect.
2883
2884 Usually accessed via the C<SvPVutf8> macro.
2885
2886 =cut
2887 */
2888
2889 char *
2890 Perl_sv_2pvutf8(pTHX_ register SV *sv, STRLEN *lp)
2891 {
2892     sv_utf8_upgrade(sv);
2893     return lp ? SvPV(sv,*lp) : SvPV_nolen(sv);
2894 }
2895
2896
2897 /*
2898 =for apidoc sv_2bool
2899
2900 This function is only called on magical items, and is only used by
2901 sv_true() or its macro equivalent.
2902
2903 =cut
2904 */
2905
2906 bool
2907 Perl_sv_2bool(pTHX_ register SV *sv)
2908 {
2909     dVAR;
2910     SvGETMAGIC(sv);
2911
2912     if (!SvOK(sv))
2913         return 0;
2914     if (SvROK(sv)) {
2915         if (SvAMAGIC(sv)) {
2916             SV * const tmpsv = AMG_CALLun(sv,bool_);
2917             if (tmpsv && (!SvROK(tmpsv) || (SvRV(tmpsv) != SvRV(sv))))
2918                 return (bool)SvTRUE(tmpsv);
2919         }
2920         return SvRV(sv) != 0;
2921     }
2922     if (SvPOKp(sv)) {
2923         register XPV* const Xpvtmp = (XPV*)SvANY(sv);
2924         if (Xpvtmp &&
2925                 (*sv->sv_u.svu_pv > '0' ||
2926                 Xpvtmp->xpv_cur > 1 ||
2927                 (Xpvtmp->xpv_cur && *sv->sv_u.svu_pv != '0')))
2928             return 1;
2929         else
2930             return 0;
2931     }
2932     else {
2933         if (SvIOKp(sv))
2934             return SvIVX(sv) != 0;
2935         else {
2936             if (SvNOKp(sv))
2937                 return SvNVX(sv) != 0.0;
2938             else {
2939                 if (isGV_with_GP(sv))
2940                     return TRUE;
2941                 else
2942                     return FALSE;
2943             }
2944         }
2945     }
2946 }
2947
2948 /*
2949 =for apidoc sv_utf8_upgrade
2950
2951 Converts the PV of an SV to its UTF-8-encoded form.
2952 Forces the SV to string form if it is not already.
2953 Always sets the SvUTF8 flag to avoid future validity checks even
2954 if all the bytes have hibit clear.
2955
2956 This is not as a general purpose byte encoding to Unicode interface:
2957 use the Encode extension for that.
2958
2959 =for apidoc sv_utf8_upgrade_flags
2960
2961 Converts the PV of an SV to its UTF-8-encoded form.
2962 Forces the SV to string form if it is not already.
2963 Always sets the SvUTF8 flag to avoid future validity checks even
2964 if all the bytes have hibit clear. If C<flags> has C<SV_GMAGIC> bit set,
2965 will C<mg_get> on C<sv> if appropriate, else not. C<sv_utf8_upgrade> and
2966 C<sv_utf8_upgrade_nomg> are implemented in terms of this function.
2967
2968 This is not as a general purpose byte encoding to Unicode interface:
2969 use the Encode extension for that.
2970
2971 =cut
2972 */
2973
2974 STRLEN
2975 Perl_sv_utf8_upgrade_flags(pTHX_ register SV *sv, I32 flags)
2976 {
2977     dVAR;
2978     if (sv == &PL_sv_undef)
2979         return 0;
2980     if (!SvPOK(sv)) {
2981         STRLEN len = 0;
2982         if (SvREADONLY(sv) && (SvPOKp(sv) || SvIOKp(sv) || SvNOKp(sv))) {
2983             (void) sv_2pv_flags(sv,&len, flags);
2984             if (SvUTF8(sv))
2985                 return len;
2986         } else {
2987             (void) SvPV_force(sv,len);
2988         }
2989     }
2990
2991     if (SvUTF8(sv)) {
2992         return SvCUR(sv);
2993     }
2994
2995     if (SvIsCOW(sv)) {
2996         sv_force_normal_flags(sv, 0);
2997     }
2998
2999     if (PL_encoding && !(flags & SV_UTF8_NO_ENCODING))
3000         sv_recode_to_utf8(sv, PL_encoding);
3001     else { /* Assume Latin-1/EBCDIC */
3002         /* This function could be much more efficient if we
3003          * had a FLAG in SVs to signal if there are any hibit
3004          * chars in the PV.  Given that there isn't such a flag
3005          * make the loop as fast as possible. */
3006         const U8 * const s = (U8 *) SvPVX_const(sv);
3007         const U8 * const e = (U8 *) SvEND(sv);
3008         const U8 *t = s;
3009         
3010         while (t < e) {
3011             const U8 ch = *t++;
3012             /* Check for hi bit */
3013             if (!NATIVE_IS_INVARIANT(ch)) {
3014                 STRLEN len = SvCUR(sv) + 1; /* Plus the \0 */
3015                 U8 * const recoded = bytes_to_utf8((U8*)s, &len);
3016
3017                 SvPV_free(sv); /* No longer using what was there before. */
3018                 SvPV_set(sv, (char*)recoded);
3019                 SvCUR_set(sv, len - 1);
3020                 SvLEN_set(sv, len); /* No longer know the real size. */
3021                 break;
3022             }
3023         }
3024         /* Mark as UTF-8 even if no hibit - saves scanning loop */
3025         SvUTF8_on(sv);
3026     }
3027     return SvCUR(sv);
3028 }
3029
3030 /*
3031 =for apidoc sv_utf8_downgrade
3032
3033 Attempts to convert the PV of an SV from characters to bytes.
3034 If the PV contains a character beyond byte, this conversion will fail;
3035 in this case, either returns false or, if C<fail_ok> is not
3036 true, croaks.
3037
3038 This is not as a general purpose Unicode to byte encoding interface:
3039 use the Encode extension for that.
3040
3041 =cut
3042 */
3043
3044 bool
3045 Perl_sv_utf8_downgrade(pTHX_ register SV* sv, bool fail_ok)
3046 {
3047     dVAR;
3048     if (SvPOKp(sv) && SvUTF8(sv)) {
3049         if (SvCUR(sv)) {
3050             U8 *s;
3051             STRLEN len;
3052
3053             if (SvIsCOW(sv)) {
3054                 sv_force_normal_flags(sv, 0);
3055             }
3056             s = (U8 *) SvPV(sv, len);
3057             if (!utf8_to_bytes(s, &len)) {
3058                 if (fail_ok)
3059                     return FALSE;
3060                 else {
3061                     if (PL_op)
3062                         Perl_croak(aTHX_ "Wide character in %s",
3063                                    OP_DESC(PL_op));
3064                     else
3065                         Perl_croak(aTHX_ "Wide character");
3066                 }
3067             }
3068             SvCUR_set(sv, len);
3069         }
3070     }
3071     SvUTF8_off(sv);
3072     return TRUE;
3073 }
3074
3075 /*
3076 =for apidoc sv_utf8_encode
3077
3078 Converts the PV of an SV to UTF-8, but then turns the C<SvUTF8>
3079 flag off so that it looks like octets again.
3080
3081 =cut
3082 */
3083
3084 void
3085 Perl_sv_utf8_encode(pTHX_ register SV *sv)
3086 {
3087     (void) sv_utf8_upgrade(sv);
3088     if (SvIsCOW(sv)) {
3089         sv_force_normal_flags(sv, 0);
3090     }
3091     if (SvREADONLY(sv)) {
3092         Perl_croak(aTHX_ PL_no_modify);
3093     }
3094     SvUTF8_off(sv);
3095 }
3096
3097 /*
3098 =for apidoc sv_utf8_decode
3099
3100 If the PV of the SV is an octet sequence in UTF-8
3101 and contains a multiple-byte character, the C<SvUTF8> flag is turned on
3102 so that it looks like a character. If the PV contains only single-byte
3103 characters, the C<SvUTF8> flag stays being off.
3104 Scans PV for validity and returns false if the PV is invalid UTF-8.
3105
3106 =cut
3107 */
3108
3109 bool
3110 Perl_sv_utf8_decode(pTHX_ register SV *sv)
3111 {
3112     if (SvPOKp(sv)) {
3113         const U8 *c;
3114         const U8 *e;
3115
3116         /* The octets may have got themselves encoded - get them back as
3117          * bytes
3118          */
3119         if (!sv_utf8_downgrade(sv, TRUE))
3120             return FALSE;
3121
3122         /* it is actually just a matter of turning the utf8 flag on, but
3123          * we want to make sure everything inside is valid utf8 first.
3124          */
3125         c = (const U8 *) SvPVX_const(sv);
3126         if (!is_utf8_string(c, SvCUR(sv)+1))
3127             return FALSE;
3128         e = (const U8 *) SvEND(sv);
3129         while (c < e) {
3130             const U8 ch = *c++;
3131             if (!UTF8_IS_INVARIANT(ch)) {
3132                 SvUTF8_on(sv);
3133                 break;
3134             }
3135         }
3136     }
3137     return TRUE;
3138 }
3139
3140 /*
3141 =for apidoc sv_setsv
3142
3143 Copies the contents of the source SV C<ssv> into the destination SV
3144 C<dsv>.  The source SV may be destroyed if it is mortal, so don't use this
3145 function if the source SV needs to be reused. Does not handle 'set' magic.
3146 Loosely speaking, it performs a copy-by-value, obliterating any previous
3147 content of the destination.
3148
3149 You probably want to use one of the assortment of wrappers, such as
3150 C<SvSetSV>, C<SvSetSV_nosteal>, C<SvSetMagicSV> and
3151 C<SvSetMagicSV_nosteal>.
3152
3153 =for apidoc sv_setsv_flags
3154
3155 Copies the contents of the source SV C<ssv> into the destination SV
3156 C<dsv>.  The source SV may be destroyed if it is mortal, so don't use this
3157 function if the source SV needs to be reused. Does not handle 'set' magic.
3158 Loosely speaking, it performs a copy-by-value, obliterating any previous
3159 content of the destination.
3160 If the C<flags> parameter has the C<SV_GMAGIC> bit set, will C<mg_get> on
3161 C<ssv> if appropriate, else not. If the C<flags> parameter has the
3162 C<NOSTEAL> bit set then the buffers of temps will not be stolen. <sv_setsv>
3163 and C<sv_setsv_nomg> are implemented in terms of this function.
3164
3165 You probably want to use one of the assortment of wrappers, such as
3166 C<SvSetSV>, C<SvSetSV_nosteal>, C<SvSetMagicSV> and
3167 C<SvSetMagicSV_nosteal>.
3168
3169 This is the primary function for copying scalars, and most other
3170 copy-ish functions and macros use this underneath.
3171
3172 =cut
3173 */
3174
3175 static void
3176 S_glob_assign_glob(pTHX_ SV *dstr, SV *sstr, const int dtype)
3177 {
3178     if (dtype != SVt_PVGV) {
3179         const char * const name = GvNAME(sstr);
3180         const STRLEN len = GvNAMELEN(sstr);
3181         /* don't upgrade SVt_PVLV: it can hold a glob */
3182         if (dtype != SVt_PVLV) {
3183             if (dtype >= SVt_PV) {
3184                 SvPV_free(dstr);
3185                 SvPV_set(dstr, 0);
3186                 SvLEN_set(dstr, 0);
3187                 SvCUR_set(dstr, 0);
3188             }
3189             sv_upgrade(dstr, SVt_PVGV);
3190             (void)SvOK_off(dstr);
3191             SvSCREAM_on(dstr);
3192         }
3193         GvSTASH(dstr) = GvSTASH(sstr);
3194         if (GvSTASH(dstr))
3195             Perl_sv_add_backref(aTHX_ (SV*)GvSTASH(dstr), dstr);
3196         gv_name_set((GV *)dstr, name, len, GV_ADD);
3197         SvFAKE_on(dstr);        /* can coerce to non-glob */
3198     }
3199
3200 #ifdef GV_UNIQUE_CHECK
3201     if (GvUNIQUE((GV*)dstr)) {
3202         Perl_croak(aTHX_ PL_no_modify);
3203     }
3204 #endif
3205
3206     gp_free((GV*)dstr);
3207     SvSCREAM_off(dstr);
3208     (void)SvOK_off(dstr);
3209     SvSCREAM_on(dstr);
3210     GvINTRO_off(dstr);          /* one-shot flag */
3211     GvGP(dstr) = gp_ref(GvGP(sstr));
3212     if (SvTAINTED(sstr))
3213         SvTAINT(dstr);
3214     if (GvIMPORTED(dstr) != GVf_IMPORTED
3215         && CopSTASH_ne(PL_curcop, GvSTASH(dstr)))
3216         {
3217             GvIMPORTED_on(dstr);
3218         }
3219     GvMULTI_on(dstr);
3220     return;
3221 }
3222
3223 static void
3224 S_glob_assign_ref(pTHX_ SV *dstr, SV *sstr) {
3225     SV * const sref = SvREFCNT_inc(SvRV(sstr));
3226     SV *dref = NULL;
3227     const int intro = GvINTRO(dstr);
3228     SV **location;
3229     U8 import_flag = 0;
3230     const U32 stype = SvTYPE(sref);
3231
3232
3233 #ifdef GV_UNIQUE_CHECK
3234     if (GvUNIQUE((GV*)dstr)) {
3235         Perl_croak(aTHX_ PL_no_modify);
3236     }
3237 #endif
3238
3239     if (intro) {
3240         GvINTRO_off(dstr);      /* one-shot flag */
3241         GvLINE(dstr) = CopLINE(PL_curcop);
3242         GvEGV(dstr) = (GV*)dstr;
3243     }
3244     GvMULTI_on(dstr);
3245     switch (stype) {
3246     case SVt_PVCV:
3247         location = (SV **) &GvCV(dstr);
3248         import_flag = GVf_IMPORTED_CV;
3249         goto common;
3250     case SVt_PVHV:
3251         location = (SV **) &GvHV(dstr);
3252         import_flag = GVf_IMPORTED_HV;
3253         goto common;
3254     case SVt_PVAV:
3255         location = (SV **) &GvAV(dstr);
3256         import_flag = GVf_IMPORTED_AV;
3257         goto common;
3258     case SVt_PVIO:
3259         location = (SV **) &GvIOp(dstr);
3260         goto common;
3261     case SVt_PVFM:
3262         location = (SV **) &GvFORM(dstr);
3263     default:
3264         location = &GvSV(dstr);
3265         import_flag = GVf_IMPORTED_SV;
3266     common:
3267         if (intro) {
3268             if (stype == SVt_PVCV) {
3269                 if (GvCVGEN(dstr) && GvCV(dstr) != (CV*)sref) {
3270                     SvREFCNT_dec(GvCV(dstr));
3271                     GvCV(dstr) = NULL;
3272                     GvCVGEN(dstr) = 0; /* Switch off cacheness. */
3273                     PL_sub_generation++;
3274                 }
3275             }
3276             SAVEGENERICSV(*location);
3277         }
3278         else
3279             dref = *location;
3280         if (stype == SVt_PVCV && *location != sref) {
3281             CV* const cv = (CV*)*location;
3282             if (cv) {
3283                 if (!GvCVGEN((GV*)dstr) &&
3284                     (CvROOT(cv) || CvXSUB(cv)))
3285                     {
3286                         /* Redefining a sub - warning is mandatory if
3287                            it was a const and its value changed. */
3288                         if (CvCONST(cv) && CvCONST((CV*)sref)
3289                             && cv_const_sv(cv) == cv_const_sv((CV*)sref)) {
3290                             /*EMPTY*/
3291                             /* They are 2 constant subroutines generated from
3292                                the same constant. This probably means that
3293                                they are really the "same" proxy subroutine
3294                                instantiated in 2 places. Most likely this is
3295                                when a constant is exported twice.  Don't warn.
3296                             */
3297                         }
3298                         else if (ckWARN(WARN_REDEFINE)
3299                                  || (CvCONST(cv)
3300                                      && (!CvCONST((CV*)sref)
3301                                          || sv_cmp(cv_const_sv(cv),
3302                                                    cv_const_sv((CV*)sref))))) {
3303                             Perl_warner(aTHX_ packWARN(WARN_REDEFINE),
3304                                         CvCONST(cv)
3305                                         ? "Constant subroutine %s::%s redefined"
3306                                         : "Subroutine %s::%s redefined",
3307                                         HvNAME_get(GvSTASH((GV*)dstr)),
3308                                         GvENAME((GV*)dstr));
3309                         }
3310                     }
3311                 if (!intro)
3312                     cv_ckproto(cv, (GV*)dstr,
3313                                SvPOK(sref) ? SvPVX_const(sref) : NULL);
3314             }
3315             GvCVGEN(dstr) = 0; /* Switch off cacheness. */
3316             GvASSUMECV_on(dstr);
3317             PL_sub_generation++;
3318         }
3319         *location = sref;
3320         if (import_flag && !(GvFLAGS(dstr) & import_flag)
3321             && CopSTASH_ne(PL_curcop, GvSTASH(dstr))) {
3322             GvFLAGS(dstr) |= import_flag;
3323         }
3324         break;
3325     }
3326     SvREFCNT_dec(dref);
3327     if (SvTAINTED(sstr))
3328         SvTAINT(dstr);
3329     return;
3330 }
3331
3332 void
3333 Perl_sv_setsv_flags(pTHX_ SV *dstr, register SV *sstr, I32 flags)
3334 {
3335     dVAR;
3336     register U32 sflags;
3337     register int dtype;
3338     register int stype;
3339
3340     if (sstr == dstr)
3341         return;
3342     SV_CHECK_THINKFIRST_COW_DROP(dstr);
3343     if (!sstr)
3344         sstr = &PL_sv_undef;
3345     stype = SvTYPE(sstr);
3346     dtype = SvTYPE(dstr);
3347
3348     SvAMAGIC_off(dstr);
3349     if ( SvVOK(dstr) )
3350     {
3351         /* need to nuke the magic */
3352         mg_free(dstr);
3353         SvRMAGICAL_off(dstr);
3354     }
3355
3356     /* There's a lot of redundancy below but we're going for speed here */
3357
3358     switch (stype) {
3359     case SVt_NULL:
3360       undef_sstr:
3361         if (dtype != SVt_PVGV) {
3362             (void)SvOK_off(dstr);
3363             return;
3364         }
3365         break;
3366     case SVt_IV:
3367         if (SvIOK(sstr)) {
3368             switch (dtype) {
3369             case SVt_NULL:
3370                 sv_upgrade(dstr, SVt_IV);
3371                 break;
3372             case SVt_NV:
3373             case SVt_RV:
3374             case SVt_PV:
3375                 sv_upgrade(dstr, SVt_PVIV);
3376                 break;
3377             }
3378             (void)SvIOK_only(dstr);
3379             SvIV_set(dstr,  SvIVX(sstr));
3380             if (SvIsUV(sstr))
3381                 SvIsUV_on(dstr);
3382             /* SvTAINTED can only be true if the SV has taint magic, which in
3383                turn means that the SV type is PVMG (or greater). This is the
3384                case statement for SVt_IV, so this cannot be true (whatever gcov
3385                may say).  */
3386             assert(!SvTAINTED(sstr));
3387             return;
3388         }
3389         goto undef_sstr;
3390
3391     case SVt_NV:
3392         if (SvNOK(sstr)) {
3393             switch (dtype) {
3394             case SVt_NULL:
3395             case SVt_IV:
3396                 sv_upgrade(dstr, SVt_NV);
3397                 break;
3398             case SVt_RV:
3399             case SVt_PV:
3400             case SVt_PVIV:
3401                 sv_upgrade(dstr, SVt_PVNV);
3402                 break;
3403             }
3404             SvNV_set(dstr, SvNVX(sstr));
3405             (void)SvNOK_only(dstr);
3406             /* SvTAINTED can only be true if the SV has taint magic, which in
3407                turn means that the SV type is PVMG (or greater). This is the
3408                case statement for SVt_NV, so this cannot be true (whatever gcov
3409                may say).  */
3410             assert(!SvTAINTED(sstr));
3411             return;
3412         }
3413         goto undef_sstr;
3414
3415     case SVt_RV:
3416         if (dtype < SVt_RV)
3417             sv_upgrade(dstr, SVt_RV);
3418         break;
3419     case SVt_PVFM:
3420 #ifdef PERL_OLD_COPY_ON_WRITE
3421         if ((SvFLAGS(sstr) & CAN_COW_MASK) == CAN_COW_FLAGS) {
3422             if (dtype < SVt_PVIV)
3423                 sv_upgrade(dstr, SVt_PVIV);
3424             break;
3425         }
3426         /* Fall through */
3427 #endif
3428     case SVt_PV:
3429         if (dtype < SVt_PV)
3430             sv_upgrade(dstr, SVt_PV);
3431         break;
3432     case SVt_PVIV:
3433         if (dtype < SVt_PVIV)
3434             sv_upgrade(dstr, SVt_PVIV);
3435         break;
3436     case SVt_PVNV:
3437         if (dtype < SVt_PVNV)
3438             sv_upgrade(dstr, SVt_PVNV);
3439         break;
3440     default:
3441         {
3442         const char * const type = sv_reftype(sstr,0);
3443         if (PL_op)
3444             Perl_croak(aTHX_ "Bizarre copy of %s in %s", type, OP_NAME(PL_op));
3445         else
3446             Perl_croak(aTHX_ "Bizarre copy of %s", type);
3447         }
3448         break;
3449
3450     case SVt_PVGV:
3451         if (dtype <= SVt_PVGV) {
3452             glob_assign_glob(dstr, sstr, dtype);
3453             return;
3454         }
3455         /*FALLTHROUGH*/
3456
3457     case SVt_PVMG:
3458     case SVt_PVLV:
3459     case SVt_PVBM:
3460         if (SvGMAGICAL(sstr) && (flags & SV_GMAGIC)) {
3461             mg_get(sstr);
3462             if ((int)SvTYPE(sstr) != stype) {
3463                 stype = SvTYPE(sstr);
3464                 if (stype == SVt_PVGV && dtype <= SVt_PVGV) {
3465                     glob_assign_glob(dstr, sstr, dtype);
3466                     return;
3467                 }
3468             }
3469         }
3470         if (stype == SVt_PVLV)
3471             SvUPGRADE(dstr, SVt_PVNV);
3472         else
3473             SvUPGRADE(dstr, (U32)stype);
3474     }
3475
3476     /* dstr may have been upgraded.  */
3477     dtype = SvTYPE(dstr);
3478     sflags = SvFLAGS(sstr);
3479
3480     if (sflags & SVf_ROK) {
3481         if (dtype == SVt_PVGV &&
3482             SvROK(sstr) && SvTYPE(SvRV(sstr)) == SVt_PVGV) {
3483             sstr = SvRV(sstr);
3484             if (sstr == dstr) {
3485                 if (GvIMPORTED(dstr) != GVf_IMPORTED
3486                     && CopSTASH_ne(PL_curcop, GvSTASH(dstr)))
3487                 {
3488                     GvIMPORTED_on(dstr);
3489                 }
3490                 GvMULTI_on(dstr);
3491                 return;
3492             }
3493             glob_assign_glob(dstr, sstr, dtype);
3494             return;
3495         }
3496
3497         if (dtype >= SVt_PV) {
3498             if (dtype == SVt_PVGV) {
3499                 glob_assign_ref(dstr, sstr);
3500                 return;
3501             }
3502             if (SvPVX_const(dstr)) {
3503                 SvPV_free(dstr);
3504                 SvLEN_set(dstr, 0);
3505                 SvCUR_set(dstr, 0);
3506             }
3507         }
3508         (void)SvOK_off(dstr);
3509         SvRV_set(dstr, SvREFCNT_inc(SvRV(sstr)));
3510         SvFLAGS(dstr) |= sflags & (SVf_ROK|SVf_AMAGIC);
3511         assert(!(sflags & SVp_NOK));
3512         assert(!(sflags & SVp_IOK));
3513         assert(!(sflags & SVf_NOK));
3514         assert(!(sflags & SVf_IOK));
3515     }
3516     else if (dtype == SVt_PVGV) {
3517         if (!(sflags & SVf_OK)) {
3518             if (ckWARN(WARN_MISC))
3519                 Perl_warner(aTHX_ packWARN(WARN_MISC),
3520                             "Undefined value assigned to typeglob");
3521         }
3522         else {
3523             GV *gv = gv_fetchsv(sstr, GV_ADD, SVt_PVGV);
3524             if (dstr != (SV*)gv) {
3525                 if (GvGP(dstr))
3526                     gp_free((GV*)dstr);
3527                 GvGP(dstr) = gp_ref(GvGP(gv));
3528             }
3529         }
3530     }
3531     else if (sflags & SVp_POK) {
3532         bool isSwipe = 0;
3533
3534         /*
3535          * Check to see if we can just swipe the string.  If so, it's a
3536          * possible small lose on short strings, but a big win on long ones.
3537          * It might even be a win on short strings if SvPVX_const(dstr)
3538          * has to be allocated and SvPVX_const(sstr) has to be freed.
3539          */
3540
3541         /* Whichever path we take through the next code, we want this true,
3542            and doing it now facilitates the COW check.  */
3543         (void)SvPOK_only(dstr);
3544
3545         if (
3546             /* We're not already COW  */
3547             ((sflags & (SVf_FAKE | SVf_READONLY)) != (SVf_FAKE | SVf_READONLY)
3548 #ifndef PERL_OLD_COPY_ON_WRITE
3549              /* or we are, but dstr isn't a suitable target.  */
3550              || (SvFLAGS(dstr) & CAN_COW_MASK) != CAN_COW_FLAGS
3551 #endif
3552              )
3553             &&
3554             !(isSwipe =
3555                  (sflags & SVs_TEMP) &&   /* slated for free anyway? */
3556                  !(sflags & SVf_OOK) &&   /* and not involved in OOK hack? */
3557                  (!(flags & SV_NOSTEAL)) &&
3558                                         /* and we're allowed to steal temps */
3559                  SvREFCNT(sstr) == 1 &&   /* and no other references to it? */
3560                  SvLEN(sstr)    &&        /* and really is a string */
3561                                 /* and won't be needed again, potentially */
3562               !(PL_op && PL_op->op_type == OP_AASSIGN))
3563 #ifdef PERL_OLD_COPY_ON_WRITE
3564             && !((sflags & CAN_COW_MASK) == CAN_COW_FLAGS
3565                  && (SvFLAGS(dstr) & CAN_COW_MASK) == CAN_COW_FLAGS
3566                  && SvTYPE(sstr) >= SVt_PVIV)
3567 #endif
3568             ) {
3569             /* Failed the swipe test, and it's not a shared hash key either.
3570                Have to copy the string.  */
3571             STRLEN len = SvCUR(sstr);
3572             SvGROW(dstr, len + 1);      /* inlined from sv_setpvn */
3573             Move(SvPVX_const(sstr),SvPVX(dstr),len,char);
3574             SvCUR_set(dstr, len);
3575             *SvEND(dstr) = '\0';
3576         } else {
3577             /* If PERL_OLD_COPY_ON_WRITE is not defined, then isSwipe will always
3578                be true in here.  */
3579             /* Either it's a shared hash key, or it's suitable for
3580                copy-on-write or we can swipe the string.  */
3581             if (DEBUG_C_TEST) {
3582                 PerlIO_printf(Perl_debug_log, "Copy on write: sstr --> dstr\n");
3583                 sv_dump(sstr);
3584                 sv_dump(dstr);
3585             }
3586 #ifdef PERL_OLD_COPY_ON_WRITE
3587             if (!isSwipe) {
3588                 /* I believe I should acquire a global SV mutex if
3589                    it's a COW sv (not a shared hash key) to stop
3590                    it going un copy-on-write.
3591                    If the source SV has gone un copy on write between up there
3592                    and down here, then (assert() that) it is of the correct
3593                    form to make it copy on write again */
3594                 if ((sflags & (SVf_FAKE | SVf_READONLY))
3595                     != (SVf_FAKE | SVf_READONLY)) {
3596                     SvREADONLY_on(sstr);
3597                     SvFAKE_on(sstr);
3598                     /* Make the source SV into a loop of 1.
3599                        (about to become 2) */
3600                     SV_COW_NEXT_SV_SET(sstr, sstr);
3601                 }
3602             }
3603 #endif
3604             /* Initial code is common.  */
3605             if (SvPVX_const(dstr)) {    /* we know that dtype >= SVt_PV */
3606                 SvPV_free(dstr);
3607             }
3608
3609             if (!isSwipe) {
3610                 /* making another shared SV.  */
3611                 STRLEN cur = SvCUR(sstr);
3612                 STRLEN len = SvLEN(sstr);
3613 #ifdef PERL_OLD_COPY_ON_WRITE
3614                 if (len) {
3615                     assert (SvTYPE(dstr) >= SVt_PVIV);
3616                     /* SvIsCOW_normal */
3617                     /* splice us in between source and next-after-source.  */
3618                     SV_COW_NEXT_SV_SET(dstr, SV_COW_NEXT_SV(sstr));
3619                     SV_COW_NEXT_SV_SET(sstr, dstr);
3620                     SvPV_set(dstr, SvPVX_mutable(sstr));
3621                 } else
3622 #endif
3623                 {
3624                     /* SvIsCOW_shared_hash */
3625                     DEBUG_C(PerlIO_printf(Perl_debug_log,
3626                                           "Copy on write: Sharing hash\n"));
3627
3628                     assert (SvTYPE(dstr) >= SVt_PV);
3629                     SvPV_set(dstr,
3630                              HEK_KEY(share_hek_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr)))));
3631                 }
3632                 SvLEN_set(dstr, len);
3633                 SvCUR_set(dstr, cur);
3634                 SvREADONLY_on(dstr);
3635                 SvFAKE_on(dstr);
3636                 /* Relesase a global SV mutex.  */
3637             }
3638             else
3639                 {       /* Passes the swipe test.  */
3640                 SvPV_set(dstr, SvPVX_mutable(sstr));
3641                 SvLEN_set(dstr, SvLEN(sstr));
3642                 SvCUR_set(dstr, SvCUR(sstr));
3643
3644                 SvTEMP_off(dstr);
3645                 (void)SvOK_off(sstr);   /* NOTE: nukes most SvFLAGS on sstr */
3646                 SvPV_set(sstr, NULL);
3647                 SvLEN_set(sstr, 0);
3648                 SvCUR_set(sstr, 0);
3649                 SvTEMP_off(sstr);
3650             }
3651         }
3652         if (sflags & SVp_NOK) {
3653             SvNV_set(dstr, SvNVX(sstr));
3654         }
3655         if (sflags & SVp_IOK) {
3656             SvRELEASE_IVX(dstr);
3657             SvIV_set(dstr, SvIVX(sstr));
3658             /* Must do this otherwise some other overloaded use of 0x80000000
3659                gets confused. I guess SVpbm_VALID */
3660             if (sflags & SVf_IVisUV)
3661                 SvIsUV_on(dstr);
3662         }
3663         SvFLAGS(dstr) |= sflags & (SVf_IOK|SVp_IOK|SVf_NOK|SVp_NOK|SVf_UTF8
3664                                    |SVf_AMAGIC);
3665         {
3666             const MAGIC * const smg = SvVOK(sstr);
3667             if (smg) {
3668                 sv_magic(dstr, NULL, PERL_MAGIC_vstring,
3669                          smg->mg_ptr, smg->mg_len);
3670                 SvRMAGICAL_on(dstr);
3671             }
3672         }
3673     }
3674     else if (sflags & (SVp_IOK|SVp_NOK)) {
3675         (void)SvOK_off(dstr);
3676         SvFLAGS(dstr) |= sflags & (SVf_IOK|SVp_IOK|SVf_IVisUV|SVf_NOK|SVp_NOK
3677                                    |SVf_AMAGIC);
3678         if (sflags & SVp_IOK) {
3679             /* XXXX Do we want to set IsUV for IV(ROK)?  Be extra safe... */
3680             SvIV_set(dstr, SvIVX(sstr));
3681         }
3682         if (sflags & SVp_NOK) {
3683             SvNV_set(dstr, SvNVX(sstr));
3684         }
3685     }
3686     else {
3687         if (isGV_with_GP(sstr)) {
3688             /* This stringification rule for globs is spread in 3 places.
3689                This feels bad. FIXME.  */
3690             const U32 wasfake = sflags & SVf_FAKE;
3691
3692             /* FAKE globs can get coerced, so need to turn this off
3693                temporarily if it is on.  */
3694             SvFAKE_off(sstr);
3695             gv_efullname3(dstr, (GV *)sstr, "*");
3696             SvFLAGS(sstr) |= wasfake;
3697             SvFLAGS(dstr) |= sflags & SVf_AMAGIC;
3698         }
3699         else
3700             (void)SvOK_off(dstr);
3701     }
3702     if (SvTAINTED(sstr))
3703         SvTAINT(dstr);
3704 }
3705
3706 /*
3707 =for apidoc sv_setsv_mg
3708
3709 Like C<sv_setsv>, but also handles 'set' magic.
3710
3711 =cut
3712 */
3713
3714 void
3715 Perl_sv_setsv_mg(pTHX_ SV *dstr, register SV *sstr)
3716 {
3717     sv_setsv(dstr,sstr);
3718     SvSETMAGIC(dstr);
3719 }
3720
3721 #ifdef PERL_OLD_COPY_ON_WRITE
3722 SV *
3723 Perl_sv_setsv_cow(pTHX_ SV *dstr, SV *sstr)
3724 {
3725     STRLEN cur = SvCUR(sstr);
3726     STRLEN len = SvLEN(sstr);
3727     register char *new_pv;
3728
3729     if (DEBUG_C_TEST) {
3730         PerlIO_printf(Perl_debug_log, "Fast copy on write: %p -> %p\n",
3731                       sstr, dstr);
3732         sv_dump(sstr);
3733         if (dstr)
3734                     sv_dump(dstr);
3735     }
3736
3737     if (dstr) {
3738         if (SvTHINKFIRST(dstr))
3739             sv_force_normal_flags(dstr, SV_COW_DROP_PV);
3740         else if (SvPVX_const(dstr))
3741             Safefree(SvPVX_const(dstr));
3742     }
3743     else
3744         new_SV(dstr);
3745     SvUPGRADE(dstr, SVt_PVIV);
3746
3747     assert (SvPOK(sstr));
3748     assert (SvPOKp(sstr));
3749     assert (!SvIOK(sstr));
3750     assert (!SvIOKp(sstr));
3751     assert (!SvNOK(sstr));
3752     assert (!SvNOKp(sstr));
3753
3754     if (SvIsCOW(sstr)) {
3755
3756         if (SvLEN(sstr) == 0) {
3757             /* source is a COW shared hash key.  */
3758             DEBUG_C(PerlIO_printf(Perl_debug_log,
3759                                   "Fast copy on write: Sharing hash\n"));
3760             new_pv = HEK_KEY(share_hek_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr))));
3761             goto common_exit;
3762         }
3763         SV_COW_NEXT_SV_SET(dstr, SV_COW_NEXT_SV(sstr));
3764     } else {
3765         assert ((SvFLAGS(sstr) & CAN_COW_MASK) == CAN_COW_FLAGS);
3766         SvUPGRADE(sstr, SVt_PVIV);
3767         SvREADONLY_on(sstr);
3768         SvFAKE_on(sstr);
3769         DEBUG_C(PerlIO_printf(Perl_debug_log,
3770                               "Fast copy on write: Converting sstr to COW\n"));
3771         SV_COW_NEXT_SV_SET(dstr, sstr);
3772     }
3773     SV_COW_NEXT_SV_SET(sstr, dstr);
3774     new_pv = SvPVX_mutable(sstr);
3775
3776   common_exit:
3777     SvPV_set(dstr, new_pv);
3778     SvFLAGS(dstr) = (SVt_PVIV|SVf_POK|SVp_POK|SVf_FAKE|SVf_READONLY);
3779     if (SvUTF8(sstr))
3780         SvUTF8_on(dstr);
3781     SvLEN_set(dstr, len);
3782     SvCUR_set(dstr, cur);
3783     if (DEBUG_C_TEST) {
3784         sv_dump(dstr);
3785     }
3786     return dstr;
3787 }
3788 #endif
3789
3790 /*
3791 =for apidoc sv_setpvn
3792
3793 Copies a string into an SV.  The C<len> parameter indicates the number of
3794 bytes to be copied.  If the C<ptr> argument is NULL the SV will become
3795 undefined.  Does not handle 'set' magic.  See C<sv_setpvn_mg>.
3796
3797 =cut
3798 */
3799
3800 void
3801 Perl_sv_setpvn(pTHX_ register SV *sv, register const char *ptr, register STRLEN len)
3802 {
3803     dVAR;
3804     register char *dptr;
3805
3806     SV_CHECK_THINKFIRST_COW_DROP(sv);
3807     if (!ptr) {
3808         (void)SvOK_off(sv);
3809         return;
3810     }
3811     else {
3812         /* len is STRLEN which is unsigned, need to copy to signed */
3813         const IV iv = len;
3814         if (iv < 0)
3815             Perl_croak(aTHX_ "panic: sv_setpvn called with negative strlen");
3816     }
3817     SvUPGRADE(sv, SVt_PV);
3818
3819     dptr = SvGROW(sv, len + 1);
3820     Move(ptr,dptr,len,char);
3821     dptr[len] = '\0';
3822     SvCUR_set(sv, len);
3823     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
3824     SvTAINT(sv);
3825 }
3826
3827 /*
3828 =for apidoc sv_setpvn_mg
3829
3830 Like C<sv_setpvn>, but also handles 'set' magic.
3831
3832 =cut
3833 */
3834
3835 void
3836 Perl_sv_setpvn_mg(pTHX_ register SV *sv, register const char *ptr, register STRLEN len)
3837 {
3838     sv_setpvn(sv,ptr,len);
3839     SvSETMAGIC(sv);
3840 }
3841
3842 /*
3843 =for apidoc sv_setpv
3844
3845 Copies a string into an SV.  The string must be null-terminated.  Does not
3846 handle 'set' magic.  See C<sv_setpv_mg>.
3847
3848 =cut
3849 */
3850
3851 void
3852 Perl_sv_setpv(pTHX_ register SV *sv, register const char *ptr)
3853 {
3854     dVAR;
3855     register STRLEN len;
3856
3857     SV_CHECK_THINKFIRST_COW_DROP(sv);
3858     if (!ptr) {
3859         (void)SvOK_off(sv);
3860         return;
3861     }
3862     len = strlen(ptr);
3863     SvUPGRADE(sv, SVt_PV);
3864
3865     SvGROW(sv, len + 1);
3866     Move(ptr,SvPVX(sv),len+1,char);
3867     SvCUR_set(sv, len);
3868     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
3869     SvTAINT(sv);
3870 }
3871
3872 /*
3873 =for apidoc sv_setpv_mg
3874
3875 Like C<sv_setpv>, but also handles 'set' magic.
3876
3877 =cut
3878 */
3879
3880 void
3881 Perl_sv_setpv_mg(pTHX_ register SV *sv, register const char *ptr)
3882 {
3883     sv_setpv(sv,ptr);
3884     SvSETMAGIC(sv);
3885 }
3886
3887 /*
3888 =for apidoc sv_usepvn_flags
3889
3890 Tells an SV to use C<ptr> to find its string value.  Normally the
3891 string is stored inside the SV but sv_usepvn allows the SV to use an
3892 outside string.  The C<ptr> should point to memory that was allocated
3893 by C<malloc>.  The string length, C<len>, must be supplied.  By default
3894 this function will realloc (i.e. move) the memory pointed to by C<ptr>,
3895 so that pointer should not be freed or used by the programmer after
3896 giving it to sv_usepvn, and neither should any pointers from "behind"
3897 that pointer (e.g. ptr + 1) be used.
3898
3899 If C<flags> & SV_SMAGIC is true, will call SvSETMAGIC. If C<flags> &
3900 SV_HAS_TRAILING_NUL is true, then C<ptr[len]> must be NUL, and the realloc
3901 I<may> be skipped. (i.e. the buffer is actually at least 1 byte longer than
3902 C<len>, and already meets the requirements for storing in C<SvPVX>)
3903
3904 =cut
3905 */
3906
3907 void
3908 Perl_sv_usepvn_flags(pTHX_ SV *sv, char *ptr, STRLEN len, U32 flags)
3909 {
3910     dVAR;
3911     STRLEN allocate;
3912     SV_CHECK_THINKFIRST_COW_DROP(sv);
3913     SvUPGRADE(sv, SVt_PV);
3914     if (!ptr) {
3915         (void)SvOK_off(sv);
3916         if (flags & SV_SMAGIC)
3917             SvSETMAGIC(sv);
3918         return;
3919     }
3920     if (SvPVX_const(sv))
3921         SvPV_free(sv);
3922
3923     allocate = (flags & SV_HAS_TRAILING_NUL)
3924         ? len : PERL_STRLEN_ROUNDUP(len + 1);
3925 #ifdef DEBUGGING
3926     {
3927         /* Force a move to shake out bugs in callers.  */
3928         char *new_ptr = safemalloc(allocate);
3929         Copy(ptr, new_ptr, len, char);
3930         PoisonFree(ptr,len,char);
3931         Safefree(ptr);
3932         ptr = new_ptr;
3933     }
3934 #else
3935     if (!(flags & SV_HAS_TRAILING_NUL)) {
3936         ptr = saferealloc (ptr, allocate);
3937     }
3938 #endif
3939     SvPV_set(sv, ptr);
3940     SvCUR_set(sv, len);
3941     SvLEN_set(sv, allocate);
3942     if (!(flags & SV_HAS_TRAILING_NUL)) {
3943         *SvEND(sv) = '\0';
3944     }
3945     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
3946     SvTAINT(sv);
3947     if (flags & SV_SMAGIC)
3948         SvSETMAGIC(sv);
3949 }
3950
3951 #ifdef PERL_OLD_COPY_ON_WRITE
3952 /* Need to do this *after* making the SV normal, as we need the buffer
3953    pointer to remain valid until after we've copied it.  If we let go too early,
3954    another thread could invalidate it by unsharing last of the same hash key
3955    (which it can do by means other than releasing copy-on-write Svs)
3956    or by changing the other copy-on-write SVs in the loop.  */
3957 STATIC void
3958 S_sv_release_COW(pTHX_ register SV *sv, const char *pvx, STRLEN len, SV *after)
3959 {
3960     if (len) { /* this SV was SvIsCOW_normal(sv) */
3961          /* we need to find the SV pointing to us.  */
3962         SV *current = SV_COW_NEXT_SV(after);
3963
3964         if (current == sv) {
3965             /* The SV we point to points back to us (there were only two of us
3966                in the loop.)
3967                Hence other SV is no longer copy on write either.  */
3968             SvFAKE_off(after);
3969             SvREADONLY_off(after);
3970         } else {
3971             /* We need to follow the pointers around the loop.  */
3972             SV *next;
3973             while ((next = SV_COW_NEXT_SV(current)) != sv) {
3974                 assert (next);
3975                 current = next;
3976                  /* don't loop forever if the structure is bust, and we have
3977                     a pointer into a closed loop.  */
3978                 assert (current != after);
3979                 assert (SvPVX_const(current) == pvx);
3980             }
3981             /* Make the SV before us point to the SV after us.  */
3982             SV_COW_NEXT_SV_SET(current, after);
3983         }
3984     } else {
3985         unshare_hek(SvSHARED_HEK_FROM_PV(pvx));
3986     }
3987 }
3988
3989 int
3990 Perl_sv_release_IVX(pTHX_ register SV *sv)
3991 {
3992     if (SvIsCOW(sv))
3993         sv_force_normal_flags(sv, 0);
3994     SvOOK_off(sv);
3995     return 0;
3996 }
3997 #endif
3998 /*
3999 =for apidoc sv_force_normal_flags
4000
4001 Undo various types of fakery on an SV: if the PV is a shared string, make
4002 a private copy; if we're a ref, stop refing; if we're a glob, downgrade to
4003 an xpvmg; if we're a copy-on-write scalar, this is the on-write time when
4004 we do the copy, and is also used locally. If C<SV_COW_DROP_PV> is set
4005 then a copy-on-write scalar drops its PV buffer (if any) and becomes
4006 SvPOK_off rather than making a copy. (Used where this scalar is about to be
4007 set to some other value.) In addition, the C<flags> parameter gets passed to
4008 C<sv_unref_flags()> when unrefing. C<sv_force_normal> calls this function
4009 with flags set to 0.
4010
4011 =cut
4012 */
4013
4014 void
4015 Perl_sv_force_normal_flags(pTHX_ register SV *sv, U32 flags)
4016 {
4017     dVAR;
4018 #ifdef PERL_OLD_COPY_ON_WRITE
4019     if (SvREADONLY(sv)) {
4020         /* At this point I believe I should acquire a global SV mutex.  */
4021         if (SvFAKE(sv)) {
4022             const char * const pvx = SvPVX_const(sv);
4023             const STRLEN len = SvLEN(sv);
4024             const STRLEN cur = SvCUR(sv);
4025             SV * const next = SV_COW_NEXT_SV(sv);   /* next COW sv in the loop. */
4026             if (DEBUG_C_TEST) {
4027                 PerlIO_printf(Perl_debug_log,
4028                               "Copy on write: Force normal %ld\n",
4029                               (long) flags);
4030                 sv_dump(sv);
4031             }
4032             SvFAKE_off(sv);
4033             SvREADONLY_off(sv);
4034             /* This SV doesn't own the buffer, so need to Newx() a new one:  */
4035             SvPV_set(sv, NULL);
4036             SvLEN_set(sv, 0);
4037             if (flags & SV_COW_DROP_PV) {
4038                 /* OK, so we don't need to copy our buffer.  */
4039                 SvPOK_off(sv);
4040             } else {
4041                 SvGROW(sv, cur + 1);
4042                 Move(pvx,SvPVX(sv),cur,char);
4043                 SvCUR_set(sv, cur);
4044                 *SvEND(sv) = '\0';
4045             }
4046             sv_release_COW(sv, pvx, len, next);
4047             if (DEBUG_C_TEST) {
4048                 sv_dump(sv);
4049             }
4050         }
4051         else if (IN_PERL_RUNTIME)
4052             Perl_croak(aTHX_ PL_no_modify);
4053         /* At this point I believe that I can drop the global SV mutex.  */
4054     }
4055 #else
4056     if (SvREADONLY(sv)) {
4057         if (SvFAKE(sv)) {
4058             const char * const pvx = SvPVX_const(sv);
4059             const STRLEN len = SvCUR(sv);
4060             SvFAKE_off(sv);
4061             SvREADONLY_off(sv);
4062             SvPV_set(sv, NULL);
4063             SvLEN_set(sv, 0);
4064             SvGROW(sv, len + 1);
4065             Move(pvx,SvPVX(sv),len,char);
4066             *SvEND(sv) = '\0';
4067             unshare_hek(SvSHARED_HEK_FROM_PV(pvx));
4068         }
4069         else if (IN_PERL_RUNTIME)
4070             Perl_croak(aTHX_ PL_no_modify);
4071     }
4072 #endif
4073     if (SvROK(sv))
4074         sv_unref_flags(sv, flags);
4075     else if (SvFAKE(sv) && SvTYPE(sv) == SVt_PVGV)
4076         sv_unglob(sv);
4077 }
4078
4079 /*
4080 =for apidoc sv_chop
4081
4082 Efficient removal of characters from the beginning of the string buffer.
4083 SvPOK(sv) must be true and the C<ptr> must be a pointer to somewhere inside
4084 the string buffer.  The C<ptr> becomes the first character of the adjusted
4085 string. Uses the "OOK hack".
4086 Beware: after this function returns, C<ptr> and SvPVX_const(sv) may no longer
4087 refer to the same chunk of data.
4088
4089 =cut
4090 */
4091
4092 void
4093 Perl_sv_chop(pTHX_ register SV *sv, register const char *ptr)
4094 {
4095     register STRLEN delta;
4096     if (!ptr || !SvPOKp(sv))
4097         return;
4098     delta = ptr - SvPVX_const(sv);
4099     SV_CHECK_THINKFIRST(sv);
4100     if (SvTYPE(sv) < SVt_PVIV)
4101         sv_upgrade(sv,SVt_PVIV);
4102
4103     if (!SvOOK(sv)) {
4104         if (!SvLEN(sv)) { /* make copy of shared string */
4105             const char *pvx = SvPVX_const(sv);
4106             const STRLEN len = SvCUR(sv);
4107             SvGROW(sv, len + 1);
4108             Move(pvx,SvPVX(sv),len,char);
4109             *SvEND(sv) = '\0';
4110         }
4111         SvIV_set(sv, 0);
4112         /* Same SvOOK_on but SvOOK_on does a SvIOK_off
4113            and we do that anyway inside the SvNIOK_off
4114         */
4115         SvFLAGS(sv) |= SVf_OOK;
4116     }
4117     SvNIOK_off(sv);
4118     SvLEN_set(sv, SvLEN(sv) - delta);
4119     SvCUR_set(sv, SvCUR(sv) - delta);
4120     SvPV_set(sv, SvPVX(sv) + delta);
4121     SvIV_set(sv, SvIVX(sv) + delta);
4122 }
4123
4124 /*
4125 =for apidoc sv_catpvn
4126
4127 Concatenates the string onto the end of the string which is in the SV.  The
4128 C<len> indicates number of bytes to copy.  If the SV has the UTF-8
4129 status set, then the bytes appended should be valid UTF-8.
4130 Handles 'get' magic, but not 'set' magic.  See C<sv_catpvn_mg>.
4131
4132 =for apidoc sv_catpvn_flags
4133
4134 Concatenates the string onto the end of the string which is in the SV.  The
4135 C<len> indicates number of bytes to copy.  If the SV has the UTF-8
4136 status set, then the bytes appended should be valid UTF-8.
4137 If C<flags> has C<SV_GMAGIC> bit set, will C<mg_get> on C<dsv> if
4138 appropriate, else not. C<sv_catpvn> and C<sv_catpvn_nomg> are implemented
4139 in terms of this function.
4140
4141 =cut
4142 */
4143
4144 void
4145 Perl_sv_catpvn_flags(pTHX_ register SV *dsv, register const char *sstr, register STRLEN slen, I32 flags)
4146 {
4147     dVAR;
4148     STRLEN dlen;
4149     const char * const dstr = SvPV_force_flags(dsv, dlen, flags);
4150
4151     SvGROW(dsv, dlen + slen + 1);
4152     if (sstr == dstr)
4153         sstr = SvPVX_const(dsv);
4154     Move(sstr, SvPVX(dsv) + dlen, slen, char);
4155     SvCUR_set(dsv, SvCUR(dsv) + slen);
4156     *SvEND(dsv) = '\0';
4157     (void)SvPOK_only_UTF8(dsv);         /* validate pointer */
4158     SvTAINT(dsv);
4159     if (flags & SV_SMAGIC)
4160         SvSETMAGIC(dsv);
4161 }
4162
4163 /*
4164 =for apidoc sv_catsv
4165
4166 Concatenates the string from SV C<ssv> onto the end of the string in
4167 SV C<dsv>.  Modifies C<dsv> but not C<ssv>.  Handles 'get' magic, but
4168 not 'set' magic.  See C<sv_catsv_mg>.
4169
4170 =for apidoc sv_catsv_flags
4171
4172 Concatenates the string from SV C<ssv> onto the end of the string in
4173 SV C<dsv>.  Modifies C<dsv> but not C<ssv>.  If C<flags> has C<SV_GMAGIC>
4174 bit set, will C<mg_get> on the SVs if appropriate, else not. C<sv_catsv>
4175 and C<sv_catsv_nomg> are implemented in terms of this function.
4176
4177 =cut */
4178
4179 void
4180 Perl_sv_catsv_flags(pTHX_ SV *dsv, register SV *ssv, I32 flags)
4181 {
4182     dVAR;
4183     if (ssv) {
4184         STRLEN slen;
4185         const char *spv = SvPV_const(ssv, slen);
4186         if (spv) {
4187             /*  sutf8 and dutf8 were type bool, but under USE_ITHREADS,
4188                 gcc version 2.95.2 20000220 (Debian GNU/Linux) for
4189                 Linux xxx 2.2.17 on sparc64 with gcc -O2, we erroneously
4190                 get dutf8 = 0x20000000, (i.e.  SVf_UTF8) even though
4191                 dsv->sv_flags doesn't have that bit set.
4192                 Andy Dougherty  12 Oct 2001
4193             */
4194             const I32 sutf8 = DO_UTF8(ssv);
4195             I32 dutf8;
4196
4197             if (SvGMAGICAL(dsv) && (flags & SV_GMAGIC))
4198                 mg_get(dsv);
4199             dutf8 = DO_UTF8(dsv);
4200
4201             if (dutf8 != sutf8) {
4202                 if (dutf8) {
4203                     /* Not modifying source SV, so taking a temporary copy. */
4204                     SV* const csv = sv_2mortal(newSVpvn(spv, slen));
4205
4206                     sv_utf8_upgrade(csv);
4207                     spv = SvPV_const(csv, slen);
4208                 }
4209                 else
4210                     sv_utf8_upgrade_nomg(dsv);
4211             }
4212             sv_catpvn_nomg(dsv, spv, slen);
4213         }
4214     }
4215     if (flags & SV_SMAGIC)
4216         SvSETMAGIC(dsv);
4217 }
4218
4219 /*
4220 =for apidoc sv_catpv
4221
4222 Concatenates the string onto the end of the string which is in the SV.
4223 If the SV has the UTF-8 status set, then the bytes appended should be
4224 valid UTF-8.  Handles 'get' magic, but not 'set' magic.  See C<sv_catpv_mg>.
4225
4226 =cut */
4227
4228 void
4229 Perl_sv_catpv(pTHX_ register SV *sv, register const char *ptr)
4230 {
4231     dVAR;
4232     register STRLEN len;
4233     STRLEN tlen;
4234     char *junk;
4235
4236     if (!ptr)
4237         return;
4238     junk = SvPV_force(sv, tlen);
4239     len = strlen(ptr);
4240     SvGROW(sv, tlen + len + 1);
4241     if (ptr == junk)
4242         ptr = SvPVX_const(sv);
4243     Move(ptr,SvPVX(sv)+tlen,len+1,char);
4244     SvCUR_set(sv, SvCUR(sv) + len);
4245     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
4246     SvTAINT(sv);
4247 }
4248
4249 /*
4250 =for apidoc sv_catpv_mg
4251
4252 Like C<sv_catpv>, but also handles 'set' magic.
4253
4254 =cut
4255 */
4256
4257 void
4258 Perl_sv_catpv_mg(pTHX_ register SV *sv, register const char *ptr)
4259 {
4260     sv_catpv(sv,ptr);
4261     SvSETMAGIC(sv);
4262 }
4263
4264 /*
4265 =for apidoc newSV
4266
4267 Creates a new SV.  A non-zero C<len> parameter indicates the number of
4268 bytes of preallocated string space the SV should have.  An extra byte for a
4269 trailing NUL is also reserved.  (SvPOK is not set for the SV even if string
4270 space is allocated.)  The reference count for the new SV is set to 1.
4271
4272 In 5.9.3, newSV() replaces the older NEWSV() API, and drops the first
4273 parameter, I<x>, a debug aid which allowed callers to identify themselves.
4274 This aid has been superseded by a new build option, PERL_MEM_LOG (see
4275 L<perlhack/PERL_MEM_LOG>).  The older API is still there for use in XS
4276 modules supporting older perls.
4277
4278 =cut
4279 */
4280
4281 SV *
4282 Perl_newSV(pTHX_ STRLEN len)
4283 {
4284     dVAR;
4285     register SV *sv;
4286
4287     new_SV(sv);
4288     if (len) {
4289         sv_upgrade(sv, SVt_PV);
4290         SvGROW(sv, len + 1);
4291     }
4292     return sv;
4293 }
4294 /*
4295 =for apidoc sv_magicext
4296
4297 Adds magic to an SV, upgrading it if necessary. Applies the
4298 supplied vtable and returns a pointer to the magic added.
4299
4300 Note that C<sv_magicext> will allow things that C<sv_magic> will not.
4301 In particular, you can add magic to SvREADONLY SVs, and add more than
4302 one instance of the same 'how'.
4303
4304 If C<namlen> is greater than zero then a C<savepvn> I<copy> of C<name> is
4305 stored, if C<namlen> is zero then C<name> is stored as-is and - as another
4306 special case - if C<(name && namlen == HEf_SVKEY)> then C<name> is assumed
4307 to contain an C<SV*> and is stored as-is with its REFCNT incremented.
4308
4309 (This is now used as a subroutine by C<sv_magic>.)
4310
4311 =cut
4312 */
4313 MAGIC * 
4314 Perl_sv_magicext(pTHX_ SV* sv, SV* obj, int how, MGVTBL *vtable,
4315                  const char* name, I32 namlen)
4316 {
4317     dVAR;
4318     MAGIC* mg;
4319
4320     if (SvTYPE(sv) < SVt_PVMG) {
4321         SvUPGRADE(sv, SVt_PVMG);
4322     }
4323     Newxz(mg, 1, MAGIC);
4324     mg->mg_moremagic = SvMAGIC(sv);
4325     SvMAGIC_set(sv, mg);
4326
4327     /* Sometimes a magic contains a reference loop, where the sv and
4328        object refer to each other.  To prevent a reference loop that
4329        would prevent such objects being freed, we look for such loops
4330        and if we find one we avoid incrementing the object refcount.
4331
4332        Note we cannot do this to avoid self-tie loops as intervening RV must
4333        have its REFCNT incremented to keep it in existence.
4334
4335     */
4336     if (!obj || obj == sv ||
4337         how == PERL_MAGIC_arylen ||
4338         how == PERL_MAGIC_qr ||
4339         how == PERL_MAGIC_symtab ||
4340         (SvTYPE(obj) == SVt_PVGV &&
4341             (GvSV(obj) == sv || GvHV(obj) == (HV*)sv || GvAV(obj) == (AV*)sv ||
4342             GvCV(obj) == (CV*)sv || GvIOp(obj) == (IO*)sv ||
4343             GvFORM(obj) == (CV*)sv)))
4344     {
4345         mg->mg_obj = obj;
4346     }
4347     else {
4348         mg->mg_obj = SvREFCNT_inc_simple(obj);
4349         mg->mg_flags |= MGf_REFCOUNTED;
4350     }
4351
4352     /* Normal self-ties simply pass a null object, and instead of
4353        using mg_obj directly, use the SvTIED_obj macro to produce a
4354        new RV as needed.  For glob "self-ties", we are tieing the PVIO
4355        with an RV obj pointing to the glob containing the PVIO.  In
4356        this case, to avoid a reference loop, we need to weaken the
4357        reference.
4358     */
4359
4360     if (how == PERL_MAGIC_tiedscalar && SvTYPE(sv) == SVt_PVIO &&
4361         obj && SvROK(obj) && GvIO(SvRV(obj)) == (IO*)sv)
4362     {
4363       sv_rvweaken(obj);
4364     }
4365
4366     mg->mg_type = how;
4367     mg->mg_len = namlen;
4368     if (name) {
4369         if (namlen > 0)
4370             mg->mg_ptr = savepvn(name, namlen);
4371         else if (namlen == HEf_SVKEY)
4372             mg->mg_ptr = (char*)SvREFCNT_inc_simple_NN((SV*)name);
4373         else
4374             mg->mg_ptr = (char *) name;
4375     }
4376     mg->mg_virtual = vtable;
4377
4378     mg_magical(sv);
4379     if (SvGMAGICAL(sv))
4380         SvFLAGS(sv) &= ~(SVf_IOK|SVf_NOK|SVf_POK);
4381     return mg;
4382 }
4383
4384 /*
4385 =for apidoc sv_magic
4386
4387 Adds magic to an SV. First upgrades C<sv> to type C<SVt_PVMG> if necessary,
4388 then adds a new magic item of type C<how> to the head of the magic list.
4389
4390 See C<sv_magicext> (which C<sv_magic> now calls) for a description of the
4391 handling of the C<name> and C<namlen> arguments.
4392
4393 You need to use C<sv_magicext> to add magic to SvREADONLY SVs and also
4394 to add more than one instance of the same 'how'.
4395
4396 =cut
4397 */
4398
4399 void
4400 Perl_sv_magic(pTHX_ register SV *sv, SV *obj, int how, const char *name, I32 namlen)
4401 {
4402     dVAR;
4403     MGVTBL *vtable;
4404     MAGIC* mg;
4405
4406 #ifdef PERL_OLD_COPY_ON_WRITE
4407     if (SvIsCOW(sv))
4408         sv_force_normal_flags(sv, 0);
4409 #endif
4410     if (SvREADONLY(sv)) {
4411         if (
4412             /* its okay to attach magic to shared strings; the subsequent
4413              * upgrade to PVMG will unshare the string */
4414             !(SvFAKE(sv) && SvTYPE(sv) < SVt_PVMG)
4415
4416             && IN_PERL_RUNTIME
4417             && how != PERL_MAGIC_regex_global
4418             && how != PERL_MAGIC_bm
4419             && how != PERL_MAGIC_fm
4420             && how != PERL_MAGIC_sv
4421             && how != PERL_MAGIC_backref
4422            )
4423         {
4424             Perl_croak(aTHX_ PL_no_modify);
4425         }
4426     }
4427     if (SvMAGICAL(sv) || (how == PERL_MAGIC_taint && SvTYPE(sv) >= SVt_PVMG)) {
4428         if (SvMAGIC(sv) && (mg = mg_find(sv, how))) {
4429             /* sv_magic() refuses to add a magic of the same 'how' as an
4430                existing one
4431              */
4432             if (how == PERL_MAGIC_taint) {
4433                 mg->mg_len |= 1;
4434                 /* Any scalar which already had taint magic on which someone
4435                    (erroneously?) did SvIOK_on() or similar will now be
4436                    incorrectly sporting public "OK" flags.  */
4437                 SvFLAGS(sv) &= ~(SVf_IOK|SVf_NOK|SVf_POK);
4438             }
4439             return;
4440         }
4441     }
4442
4443     switch (how) {
4444     case PERL_MAGIC_sv:
4445         vtable = &PL_vtbl_sv;
4446         break;
4447     case PERL_MAGIC_overload:
4448         vtable = &PL_vtbl_amagic;
4449         break;
4450     case PERL_MAGIC_overload_elem:
4451         vtable = &PL_vtbl_amagicelem;
4452         break;
4453     case PERL_MAGIC_overload_table:
4454         vtable = &PL_vtbl_ovrld;
4455         break;
4456     case PERL_MAGIC_bm:
4457         vtable = &PL_vtbl_bm;
4458         break;
4459     case PERL_MAGIC_regdata:
4460         vtable = &PL_vtbl_regdata;
4461         break;
4462     case PERL_MAGIC_regdatum:
4463         vtable = &PL_vtbl_regdatum;
4464         break;
4465     case PERL_MAGIC_env:
4466         vtable = &PL_vtbl_env;
4467         break;
4468     case PERL_MAGIC_fm:
4469         vtable = &PL_vtbl_fm;
4470         break;
4471     case PERL_MAGIC_envelem:
4472         vtable = &PL_vtbl_envelem;
4473         break;
4474     case PERL_MAGIC_regex_global:
4475         vtable = &PL_vtbl_mglob;
4476         break;
4477     case PERL_MAGIC_isa:
4478         vtable = &PL_vtbl_isa;
4479         break;
4480     case PERL_MAGIC_isaelem:
4481         vtable = &PL_vtbl_isaelem;
4482         break;
4483     case PERL_MAGIC_nkeys:
4484         vtable = &PL_vtbl_nkeys;
4485         break;
4486     case PERL_MAGIC_dbfile:
4487         vtable = NULL;
4488         break;
4489     case PERL_MAGIC_dbline:
4490         vtable = &PL_vtbl_dbline;
4491         break;
4492 #ifdef USE_LOCALE_COLLATE
4493     case PERL_MAGIC_collxfrm:
4494         vtable = &PL_vtbl_collxfrm;
4495         break;
4496 #endif /* USE_LOCALE_COLLATE */
4497     case PERL_MAGIC_tied:
4498         vtable = &PL_vtbl_pack;
4499         break;
4500     case PERL_MAGIC_tiedelem:
4501     case PERL_MAGIC_tiedscalar:
4502         vtable = &PL_vtbl_packelem;
4503         break;
4504     case PERL_MAGIC_qr:
4505         vtable = &PL_vtbl_regexp;
4506         break;
4507     case PERL_MAGIC_hints:
4508         /* As this vtable is all NULL, we can reuse it.  */
4509     case PERL_MAGIC_sig:
4510         vtable = &PL_vtbl_sig;
4511         break;
4512     case PERL_MAGIC_sigelem:
4513         vtable = &PL_vtbl_sigelem;
4514         break;
4515     case PERL_MAGIC_taint:
4516         vtable = &PL_vtbl_taint;
4517         break;
4518     case PERL_MAGIC_uvar:
4519         vtable = &PL_vtbl_uvar;
4520         break;
4521     case PERL_MAGIC_vec:
4522         vtable = &PL_vtbl_vec;
4523         break;
4524     case PERL_MAGIC_arylen_p:
4525     case PERL_MAGIC_rhash:
4526     case PERL_MAGIC_symtab:
4527     case PERL_MAGIC_vstring:
4528         vtable = NULL;
4529         break;
4530     case PERL_MAGIC_utf8:
4531         vtable = &PL_vtbl_utf8;
4532         break;
4533     case PERL_MAGIC_substr:
4534         vtable = &PL_vtbl_substr;
4535         break;
4536     case PERL_MAGIC_defelem:
4537         vtable = &PL_vtbl_defelem;
4538         break;
4539     case PERL_MAGIC_arylen:
4540         vtable = &PL_vtbl_arylen;
4541         break;
4542     case PERL_MAGIC_pos:
4543         vtable = &PL_vtbl_pos;
4544         break;
4545     case PERL_MAGIC_backref:
4546         vtable = &PL_vtbl_backref;
4547         break;
4548     case PERL_MAGIC_hintselem:
4549         vtable = &PL_vtbl_hintselem;
4550         break;
4551     case PERL_MAGIC_ext:
4552         /* Reserved for use by extensions not perl internals.           */
4553         /* Useful for attaching extension internal data to perl vars.   */
4554         /* Note that multiple extensions may clash if magical scalars   */
4555         /* etc holding private data from one are passed to another.     */
4556         vtable = NULL;
4557         break;
4558     default:
4559         Perl_croak(aTHX_ "Don't know how to handle magic of type \\%o", how);
4560     }
4561
4562     /* Rest of work is done else where */
4563     mg = sv_magicext(sv,obj,how,vtable,name,namlen);
4564
4565     switch (how) {
4566     case PERL_MAGIC_taint:
4567         mg->mg_len = 1;
4568         break;
4569     case PERL_MAGIC_ext:
4570     case PERL_MAGIC_dbfile:
4571         SvRMAGICAL_on(sv);
4572         break;
4573     }
4574 }
4575
4576 /*
4577 =for apidoc sv_unmagic
4578
4579 Removes all magic of type C<type> from an SV.
4580
4581 =cut
4582 */
4583
4584 int
4585 Perl_sv_unmagic(pTHX_ SV *sv, int type)
4586 {
4587     MAGIC* mg;
4588     MAGIC** mgp;
4589     if (SvTYPE(sv) < SVt_PVMG || !SvMAGIC(sv))
4590         return 0;
4591     mgp = &(((XPVMG*) SvANY(sv))->xmg_u.xmg_magic);
4592     for (mg = *mgp; mg; mg = *mgp) {
4593         if (mg->mg_type == type) {
4594             const MGVTBL* const vtbl = mg->mg_virtual;
4595             *mgp = mg->mg_moremagic;
4596             if (vtbl && vtbl->svt_free)
4597                 CALL_FPTR(vtbl->svt_free)(aTHX_ sv, mg);
4598             if (mg->mg_ptr && mg->mg_type != PERL_MAGIC_regex_global) {
4599                 if (mg->mg_len > 0)
4600                     Safefree(mg->mg_ptr);
4601                 else if (mg->mg_len == HEf_SVKEY)
4602                     SvREFCNT_dec((SV*)mg->mg_ptr);
4603                 else if (mg->mg_type == PERL_MAGIC_utf8)
4604                     Safefree(mg->mg_ptr);
4605             }
4606             if (mg->mg_flags & MGf_REFCOUNTED)
4607                 SvREFCNT_dec(mg->mg_obj);
4608             Safefree(mg);
4609         }
4610         else
4611             mgp = &mg->mg_moremagic;
4612     }
4613     if (!SvMAGIC(sv)) {
4614         SvMAGICAL_off(sv);
4615         SvFLAGS(sv) |= (SvFLAGS(sv) & (SVp_IOK|SVp_NOK|SVp_POK)) >> PRIVSHIFT;
4616         SvMAGIC_set(sv, NULL);
4617     }
4618
4619     return 0;
4620 }
4621
4622 /*
4623 =for apidoc sv_rvweaken
4624
4625 Weaken a reference: set the C<SvWEAKREF> flag on this RV; give the
4626 referred-to SV C<PERL_MAGIC_backref> magic if it hasn't already; and
4627 push a back-reference to this RV onto the array of backreferences
4628 associated with that magic.
4629
4630 =cut
4631 */
4632
4633 SV *
4634 Perl_sv_rvweaken(pTHX_ SV *sv)
4635 {
4636     SV *tsv;
4637     if (!SvOK(sv))  /* let undefs pass */
4638         return sv;
4639     if (!SvROK(sv))
4640         Perl_croak(aTHX_ "Can't weaken a nonreference");
4641     else if (SvWEAKREF(sv)) {
4642         if (ckWARN(WARN_MISC))
4643             Perl_warner(aTHX_ packWARN(WARN_MISC), "Reference is already weak");
4644         return sv;
4645     }
4646     tsv = SvRV(sv);
4647     Perl_sv_add_backref(aTHX_ tsv, sv);
4648     SvWEAKREF_on(sv);
4649     SvREFCNT_dec(tsv);
4650     return sv;
4651 }
4652
4653 /* Give tsv backref magic if it hasn't already got it, then push a
4654  * back-reference to sv onto the array associated with the backref magic.
4655  */
4656
4657 void
4658 Perl_sv_add_backref(pTHX_ SV *tsv, SV *sv)
4659 {
4660     dVAR;
4661     AV *av;
4662
4663     if (SvTYPE(tsv) == SVt_PVHV) {
4664         AV **const avp = Perl_hv_backreferences_p(aTHX_ (HV*)tsv);
4665
4666         av = *avp;
4667         if (!av) {
4668             /* There is no AV in the offical place - try a fixup.  */
4669             MAGIC *const mg = mg_find(tsv, PERL_MAGIC_backref);
4670
4671             if (mg) {
4672                 /* Aha. They've got it stowed in magic.  Bring it back.  */
4673                 av = (AV*)mg->mg_obj;
4674                 /* Stop mg_free decreasing the refernce count.  */
4675                 mg->mg_obj = NULL;
4676                 /* Stop mg_free even calling the destructor, given that
4677                    there's no AV to free up.  */
4678                 mg->mg_virtual = 0;
4679                 sv_unmagic(tsv, PERL_MAGIC_backref);
4680             } else {
4681                 av = newAV();
4682                 AvREAL_off(av);
4683                 SvREFCNT_inc_simple_void(av);
4684             }
4685             *avp = av;
4686         }
4687     } else {
4688         const MAGIC *const mg
4689             = SvMAGICAL(tsv) ? mg_find(tsv, PERL_MAGIC_backref) : NULL;
4690         if (mg)
4691             av = (AV*)mg->mg_obj;
4692         else {
4693             av = newAV();
4694             AvREAL_off(av);
4695             sv_magic(tsv, (SV*)av, PERL_MAGIC_backref, NULL, 0);
4696             /* av now has a refcnt of 2, which avoids it getting freed
4697              * before us during global cleanup. The extra ref is removed
4698              * by magic_killbackrefs() when tsv is being freed */
4699         }
4700     }
4701     if (AvFILLp(av) >= AvMAX(av)) {
4702         av_extend(av, AvFILLp(av)+1);
4703     }
4704     AvARRAY(av)[++AvFILLp(av)] = sv; /* av_push() */
4705 }
4706
4707 /* delete a back-reference to ourselves from the backref magic associated
4708  * with the SV we point to.
4709  */
4710
4711 STATIC void
4712 S_sv_del_backref(pTHX_ SV *tsv, SV *sv)
4713 {
4714     dVAR;
4715     AV *av = NULL;
4716     SV **svp;
4717     I32 i;
4718
4719     if (SvTYPE(tsv) == SVt_PVHV && SvOOK(tsv)) {
4720         av = *Perl_hv_backreferences_p(aTHX_ (HV*)tsv);
4721         /* We mustn't attempt to "fix up" the hash here by moving the
4722            backreference array back to the hv_aux structure, as that is stored
4723            in the main HvARRAY(), and hfreentries assumes that no-one
4724            reallocates HvARRAY() while it is running.  */
4725     }
4726     if (!av) {
4727         const MAGIC *const mg
4728             = SvMAGICAL(tsv) ? mg_find(tsv, PERL_MAGIC_backref) : NULL;
4729         if (mg)
4730             av = (AV *)mg->mg_obj;
4731     }
4732     if (!av) {
4733         if (PL_in_clean_all)
4734             return;
4735         Perl_croak(aTHX_ "panic: del_backref");
4736     }
4737
4738     if (SvIS_FREED(av))
4739         return;
4740
4741     svp = AvARRAY(av);
4742     /* We shouldn't be in here more than once, but for paranoia reasons lets
4743        not assume this.  */
4744     for (i = AvFILLp(av); i >= 0; i--) {
4745         if (svp[i] == sv) {
4746             const SSize_t fill = AvFILLp(av);
4747             if (i != fill) {
4748                 /* We weren't the last entry.
4749                    An unordered list has this property that you can take the
4750                    last element off the end to fill the hole, and it's still
4751                    an unordered list :-)
4752                 */
4753                 svp[i] = svp[fill];
4754             }
4755             svp[fill] = NULL;
4756             AvFILLp(av) = fill - 1;
4757         }
4758     }
4759 }
4760
4761 int
4762 Perl_sv_kill_backrefs(pTHX_ SV *sv, AV *av)
4763 {
4764     SV **svp = AvARRAY(av);
4765
4766     PERL_UNUSED_ARG(sv);
4767
4768     /* Not sure why the av can get freed ahead of its sv, but somehow it does
4769        in ext/B/t/bytecode.t test 15 (involving print <DATA>)  */
4770     if (svp && !SvIS_FREED(av)) {
4771         SV *const *const last = svp + AvFILLp(av);
4772
4773         while (svp <= last) {
4774             if (*svp) {
4775                 SV *const referrer = *svp;
4776                 if (SvWEAKREF(referrer)) {
4777                     /* XXX Should we check that it hasn't changed? */
4778                     SvRV_set(referrer, 0);
4779                     SvOK_off(referrer);
4780                     SvWEAKREF_off(referrer);
4781                 } else if (SvTYPE(referrer) == SVt_PVGV ||
4782                            SvTYPE(referrer) == SVt_PVLV) {
4783                     /* You lookin' at me?  */
4784                     assert(GvSTASH(referrer));
4785                     assert(GvSTASH(referrer) == (HV*)sv);
4786                     GvSTASH(referrer) = 0;
4787                 } else {
4788                     Perl_croak(aTHX_
4789                                "panic: magic_killbackrefs (flags=%"UVxf")",
4790                                (UV)SvFLAGS(referrer));
4791                 }
4792
4793                 *svp = NULL;
4794             }
4795             svp++;
4796         }
4797     }
4798     SvREFCNT_dec(av); /* remove extra count added by sv_add_backref() */
4799     return 0;
4800 }
4801
4802 /*
4803 =for apidoc sv_insert
4804
4805 Inserts a string at the specified offset/length within the SV. Similar to
4806 the Perl substr() function.
4807
4808 =cut
4809 */
4810
4811 void
4812 Perl_sv_insert(pTHX_ SV *bigstr, STRLEN offset, STRLEN len, const char *little, STRLEN littlelen)
4813 {
4814     dVAR;
4815     register char *big;
4816     register char *mid;
4817     register char *midend;
4818     register char *bigend;
4819     register I32 i;
4820     STRLEN curlen;
4821
4822
4823     if (!bigstr)
4824         Perl_croak(aTHX_ "Can't modify non-existent substring");
4825     SvPV_force(bigstr, curlen);
4826     (void)SvPOK_only_UTF8(bigstr);
4827     if (offset + len > curlen) {
4828         SvGROW(bigstr, offset+len+1);
4829         Zero(SvPVX(bigstr)+curlen, offset+len-curlen, char);
4830         SvCUR_set(bigstr, offset+len);
4831     }
4832
4833     SvTAINT(bigstr);
4834     i = littlelen - len;
4835     if (i > 0) {                        /* string might grow */
4836         big = SvGROW(bigstr, SvCUR(bigstr) + i + 1);
4837         mid = big + offset + len;
4838         midend = bigend = big + SvCUR(bigstr);
4839         bigend += i;
4840         *bigend = '\0';
4841         while (midend > mid)            /* shove everything down */
4842             *--bigend = *--midend;
4843         Move(little,big+offset,littlelen,char);
4844         SvCUR_set(bigstr, SvCUR(bigstr) + i);
4845         SvSETMAGIC(bigstr);
4846         return;
4847     }
4848     else if (i == 0) {
4849         Move(little,SvPVX(bigstr)+offset,len,char);
4850         SvSETMAGIC(bigstr);
4851         return;
4852     }
4853
4854     big = SvPVX(bigstr);
4855     mid = big + offset;
4856     midend = mid + len;
4857     bigend = big + SvCUR(bigstr);
4858
4859     if (midend > bigend)
4860         Perl_croak(aTHX_ "panic: sv_insert");
4861
4862     if (mid - big > bigend - midend) {  /* faster to shorten from end */
4863         if (littlelen) {
4864             Move(little, mid, littlelen,char);
4865             mid += littlelen;
4866         }
4867         i = bigend - midend;
4868         if (i > 0) {
4869             Move(midend, mid, i,char);
4870             mid += i;
4871         }
4872         *mid = '\0';
4873         SvCUR_set(bigstr, mid - big);
4874     }
4875     else if ((i = mid - big)) { /* faster from front */
4876         midend -= littlelen;
4877         mid = midend;
4878         sv_chop(bigstr,midend-i);
4879         big += i;
4880         while (i--)
4881             *--midend = *--big;
4882         if (littlelen)
4883             Move(little, mid, littlelen,char);
4884     }
4885     else if (littlelen) {
4886         midend -= littlelen;
4887         sv_chop(bigstr,midend);
4888         Move(little,midend,littlelen,char);
4889     }
4890     else {
4891         sv_chop(bigstr,midend);
4892     }
4893     SvSETMAGIC(bigstr);
4894 }
4895
4896 /*
4897 =for apidoc sv_replace
4898
4899 Make the first argument a copy of the second, then delete the original.
4900 The target SV physically takes over ownership of the body of the source SV
4901 and inherits its flags; however, the target keeps any magic it owns,
4902 and any magic in the source is discarded.
4903 Note that this is a rather specialist SV copying operation; most of the
4904 time you'll want to use C<sv_setsv> or one of its many macro front-ends.
4905
4906 =cut
4907 */
4908
4909 void
4910 Perl_sv_replace(pTHX_ register SV *sv, register SV *nsv)
4911 {
4912     dVAR;
4913     const U32 refcnt = SvREFCNT(sv);
4914     SV_CHECK_THINKFIRST_COW_DROP(sv);
4915     if (SvREFCNT(nsv) != 1) {
4916         Perl_croak(aTHX_ "panic: reference miscount on nsv in sv_replace() (%"
4917                    UVuf " != 1)", (UV) SvREFCNT(nsv));
4918     }
4919     if (SvMAGICAL(sv)) {
4920         if (SvMAGICAL(nsv))
4921             mg_free(nsv);
4922         else
4923             sv_upgrade(nsv, SVt_PVMG);
4924         SvMAGIC_set(nsv, SvMAGIC(sv));
4925         SvFLAGS(nsv) |= SvMAGICAL(sv);
4926         SvMAGICAL_off(sv);
4927         SvMAGIC_set(sv, NULL);
4928     }
4929     SvREFCNT(sv) = 0;
4930     sv_clear(sv);
4931     assert(!SvREFCNT(sv));
4932 #ifdef DEBUG_LEAKING_SCALARS
4933     sv->sv_flags  = nsv->sv_flags;
4934     sv->sv_any    = nsv->sv_any;
4935     sv->sv_refcnt = nsv->sv_refcnt;
4936     sv->sv_u      = nsv->sv_u;
4937 #else
4938     StructCopy(nsv,sv,SV);
4939 #endif
4940     /* Currently could join these into one piece of pointer arithmetic, but
4941        it would be unclear.  */
4942     if(SvTYPE(sv) == SVt_IV)
4943         SvANY(sv)
4944             = (XPVIV*)((char*)&(sv->sv_u.svu_iv) - STRUCT_OFFSET(XPVIV, xiv_iv));
4945     else if (SvTYPE(sv) == SVt_RV) {
4946         SvANY(sv) = &sv->sv_u.svu_rv;
4947     }
4948         
4949
4950 #ifdef PERL_OLD_COPY_ON_WRITE
4951     if (SvIsCOW_normal(nsv)) {
4952         /* We need to follow the pointers around the loop to make the
4953            previous SV point to sv, rather than nsv.  */
4954         SV *next;
4955         SV *current = nsv;
4956         while ((next = SV_COW_NEXT_SV(current)) != nsv) {
4957             assert(next);
4958             current = next;
4959             assert(SvPVX_const(current) == SvPVX_const(nsv));
4960         }
4961         /* Make the SV before us point to the SV after us.  */
4962         if (DEBUG_C_TEST) {
4963             PerlIO_printf(Perl_debug_log, "previous is\n");
4964             sv_dump(current);
4965             PerlIO_printf(Perl_debug_log,
4966                           "move it from 0x%"UVxf" to 0x%"UVxf"\n",
4967                           (UV) SV_COW_NEXT_SV(current), (UV) sv);
4968         }
4969         SV_COW_NEXT_SV_SET(current, sv);
4970     }
4971 #endif
4972     SvREFCNT(sv) = refcnt;
4973     SvFLAGS(nsv) |= SVTYPEMASK;         /* Mark as freed */
4974     SvREFCNT(nsv) = 0;
4975     del_SV(nsv);
4976 }
4977
4978 /*
4979 =for apidoc sv_clear
4980
4981 Clear an SV: call any destructors, free up any memory used by the body,
4982 and free the body itself. The SV's head is I<not> freed, although
4983 its type is set to all 1's so that it won't inadvertently be assumed
4984 to be live during global destruction etc.
4985 This function should only be called when REFCNT is zero. Most of the time
4986 you'll want to call C<sv_free()> (or its macro wrapper C<SvREFCNT_dec>)
4987 instead.
4988
4989 =cut
4990 */
4991
4992 void
4993 Perl_sv_clear(pTHX_ register SV *sv)
4994 {
4995     dVAR;
4996     const U32 type = SvTYPE(sv);
4997     const struct body_details *const sv_type_details
4998         = bodies_by_type + type;
4999
5000     assert(sv);
5001     assert(SvREFCNT(sv) == 0);
5002
5003     if (type <= SVt_IV) {
5004         /* See the comment in sv.h about the collusion between this early
5005            return and the overloading of the NULL and IV slots in the size
5006            table.  */
5007         return;
5008     }
5009
5010     if (SvOBJECT(sv)) {
5011         if (PL_defstash) {              /* Still have a symbol table? */
5012             dSP;
5013             HV* stash;
5014             do {        
5015                 CV* destructor;
5016                 stash = SvSTASH(sv);
5017                 destructor = StashHANDLER(stash,DESTROY);
5018                 if (destructor) {
5019                     SV* const tmpref = newRV(sv);
5020                     SvREADONLY_on(tmpref);   /* DESTROY() could be naughty */
5021                     ENTER;
5022                     PUSHSTACKi(PERLSI_DESTROY);
5023                     EXTEND(SP, 2);
5024                     PUSHMARK(SP);
5025                     PUSHs(tmpref);
5026                     PUTBACK;
5027                     call_sv((SV*)destructor, G_DISCARD|G_EVAL|G_KEEPERR|G_VOID);
5028                 
5029                 
5030                     POPSTACK;
5031                     SPAGAIN;
5032                     LEAVE;
5033                     if(SvREFCNT(tmpref) < 2) {
5034                         /* tmpref is not kept alive! */
5035                         SvREFCNT(sv)--;
5036                         SvRV_set(tmpref, NULL);
5037                         SvROK_off(tmpref);
5038                     }
5039                     SvREFCNT_dec(tmpref);
5040                 }
5041             } while (SvOBJECT(sv) && SvSTASH(sv) != stash);
5042
5043
5044             if (SvREFCNT(sv)) {
5045                 if (PL_in_clean_objs)
5046                     Perl_croak(aTHX_ "DESTROY created new reference to dead object '%s'",
5047                           HvNAME_get(stash));
5048                 /* DESTROY gave object new lease on life */
5049                 return;
5050             }
5051         }
5052
5053         if (SvOBJECT(sv)) {
5054             SvREFCNT_dec(SvSTASH(sv));  /* possibly of changed persuasion */
5055             SvOBJECT_off(sv);   /* Curse the object. */
5056             if (type != SVt_PVIO)
5057                 --PL_sv_objcount;       /* XXX Might want something more general */
5058         }
5059     }
5060     if (type >= SVt_PVMG) {
5061         HV *ourstash;
5062         if ((type == SVt_PVMG || type == SVt_PVGV) &&
5063             (ourstash = OURSTASH(sv))) {
5064             SvREFCNT_dec(ourstash);
5065         } else if (SvMAGIC(sv))
5066             mg_free(sv);
5067         if (type == SVt_PVMG && SvPAD_TYPED(sv))
5068             SvREFCNT_dec(SvSTASH(sv));
5069     }
5070     switch (type) {
5071     case SVt_PVIO:
5072         if (IoIFP(sv) &&
5073             IoIFP(sv) != PerlIO_stdin() &&
5074             IoIFP(sv) != PerlIO_stdout() &&
5075             IoIFP(sv) != PerlIO_stderr())
5076         {
5077             io_close((IO*)sv, FALSE);
5078         }
5079         if (IoDIRP(sv) && !(IoFLAGS(sv) & IOf_FAKE_DIRP))
5080             PerlDir_close(IoDIRP(sv));
5081         IoDIRP(sv) = (DIR*)NULL;
5082         Safefree(IoTOP_NAME(sv));
5083         Safefree(IoFMT_NAME(sv));
5084         Safefree(IoBOTTOM_NAME(sv));
5085         goto freescalar;
5086     case SVt_PVBM:
5087         goto freescalar;
5088     case SVt_PVCV:
5089     case SVt_PVFM:
5090         cv_undef((CV*)sv);
5091         goto freescalar;
5092     case SVt_PVHV:
5093         Perl_hv_kill_backrefs(aTHX_ (HV*)sv);
5094         hv_undef((HV*)sv);
5095         break;
5096     case SVt_PVAV:
5097         av_undef((AV*)sv);
5098         break;
5099     case SVt_PVLV:
5100         if (LvTYPE(sv) == 'T') { /* for tie: return HE to pool */
5101             SvREFCNT_dec(HeKEY_sv((HE*)LvTARG(sv)));
5102             HeNEXT((HE*)LvTARG(sv)) = PL_hv_fetch_ent_mh;
5103             PL_hv_fetch_ent_mh = (HE*)LvTARG(sv);
5104         }
5105         else if (LvTYPE(sv) != 't') /* unless tie: unrefcnted fake SV**  */
5106             SvREFCNT_dec(LvTARG(sv));
5107         goto freescalar;
5108     case SVt_PVGV:
5109         gp_free((GV*)sv);
5110         if (GvNAME_HEK(sv)) {
5111             unshare_hek(GvNAME_HEK(sv));
5112         }
5113         /* If we're in a stash, we don't own a reference to it. However it does
5114            have a back reference to us, which needs to be cleared.  */
5115         if (GvSTASH(sv))
5116             sv_del_backref((SV*)GvSTASH(sv), sv);
5117     case SVt_PVMG:
5118     case SVt_PVNV:
5119     case SVt_PVIV:
5120       freescalar:
5121         /* Don't bother with SvOOK_off(sv); as we're only going to free it.  */
5122         if (SvOOK(sv)) {
5123             SvPV_set(sv, SvPVX_mutable(sv) - SvIVX(sv));
5124             /* Don't even bother with turning off the OOK flag.  */
5125         }
5126     case SVt_PV:
5127     case SVt_RV:
5128         if (SvROK(sv)) {
5129             SV * const target = SvRV(sv);
5130             if (SvWEAKREF(sv))
5131                 sv_del_backref(target, sv);
5132             else
5133                 SvREFCNT_dec(target);
5134         }
5135 #ifdef PERL_OLD_COPY_ON_WRITE
5136         else if (SvPVX_const(sv)) {
5137             if (SvIsCOW(sv)) {
5138                 /* I believe I need to grab the global SV mutex here and
5139                    then recheck the COW status.  */
5140                 if (DEBUG_C_TEST) {
5141                     PerlIO_printf(Perl_debug_log, "Copy on write: clear\n");
5142                     sv_dump(sv);
5143                 }
5144                 sv_release_COW(sv, SvPVX_const(sv), SvLEN(sv),
5145                                SV_COW_NEXT_SV(sv));
5146                 /* And drop it here.  */
5147                 SvFAKE_off(sv);
5148             } else if (SvLEN(sv)) {
5149                 Safefree(SvPVX_const(sv));
5150             }
5151         }
5152 #else
5153         else if (SvPVX_const(sv) && SvLEN(sv))
5154             Safefree(SvPVX_mutable(sv));
5155         else if (SvPVX_const(sv) && SvREADONLY(sv) && SvFAKE(sv)) {
5156             unshare_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sv)));
5157             SvFAKE_off(sv);
5158         }
5159 #endif
5160         break;
5161     case SVt_NV:
5162         break;
5163     }
5164
5165     SvFLAGS(sv) &= SVf_BREAK;
5166     SvFLAGS(sv) |= SVTYPEMASK;
5167
5168     if (sv_type_details->arena) {
5169         del_body(((char *)SvANY(sv) + sv_type_details->offset),
5170                  &PL_body_roots[type]);
5171     }
5172     else if (sv_type_details->body_size) {
5173         my_safefree(SvANY(sv));
5174     }
5175 }
5176
5177 /*
5178 =for apidoc sv_newref
5179
5180 Increment an SV's reference count. Use the C<SvREFCNT_inc()> wrapper
5181 instead.
5182
5183 =cut
5184 */
5185
5186 SV *
5187 Perl_sv_newref(pTHX_ SV *sv)
5188 {
5189     PERL_UNUSED_CONTEXT;
5190     if (sv)
5191         (SvREFCNT(sv))++;
5192     return sv;
5193 }
5194
5195 /*
5196 =for apidoc sv_free
5197
5198 Decrement an SV's reference count, and if it drops to zero, call
5199 C<sv_clear> to invoke destructors and free up any memory used by
5200 the body; finally, deallocate the SV's head itself.
5201 Normally called via a wrapper macro C<SvREFCNT_dec>.
5202
5203 =cut
5204 */
5205
5206 void
5207 Perl_sv_free(pTHX_ SV *sv)
5208 {
5209     dVAR;
5210     if (!sv)
5211         return;
5212     if (SvREFCNT(sv) == 0) {
5213         if (SvFLAGS(sv) & SVf_BREAK)
5214             /* this SV's refcnt has been artificially decremented to
5215              * trigger cleanup */
5216             return;
5217         if (PL_in_clean_all) /* All is fair */
5218             return;
5219         if (SvREADONLY(sv) && SvIMMORTAL(sv)) {
5220             /* make sure SvREFCNT(sv)==0 happens very seldom */
5221             SvREFCNT(sv) = (~(U32)0)/2;
5222             return;
5223         }
5224         if (ckWARN_d(WARN_INTERNAL)) {
5225             Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
5226                         "Attempt to free unreferenced scalar: SV 0x%"UVxf
5227                         pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
5228 #ifdef DEBUG_LEAKING_SCALARS_FORK_DUMP
5229             Perl_dump_sv_child(aTHX_ sv);
5230 #endif
5231         }
5232         return;
5233     }
5234     if (--(SvREFCNT(sv)) > 0)
5235         return;
5236     Perl_sv_free2(aTHX_ sv);
5237 }
5238
5239 void
5240 Perl_sv_free2(pTHX_ SV *sv)
5241 {
5242     dVAR;
5243 #ifdef DEBUGGING
5244     if (SvTEMP(sv)) {
5245         if (ckWARN_d(WARN_DEBUGGING))
5246             Perl_warner(aTHX_ packWARN(WARN_DEBUGGING),
5247                         "Attempt to free temp prematurely: SV 0x%"UVxf
5248                         pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
5249         return;
5250     }
5251 #endif
5252     if (SvREADONLY(sv) && SvIMMORTAL(sv)) {
5253         /* make sure SvREFCNT(sv)==0 happens very seldom */
5254         SvREFCNT(sv) = (~(U32)0)/2;
5255         return;
5256     }
5257     sv_clear(sv);
5258     if (! SvREFCNT(sv))
5259         del_SV(sv);
5260 }
5261
5262 /*
5263 =for apidoc sv_len
5264
5265 Returns the length of the string in the SV. Handles magic and type
5266 coercion.  See also C<SvCUR>, which gives raw access to the xpv_cur slot.
5267
5268 =cut
5269 */
5270
5271 STRLEN
5272 Perl_sv_len(pTHX_ register SV *sv)
5273 {
5274     STRLEN len;
5275
5276     if (!sv)
5277         return 0;
5278
5279     if (SvGMAGICAL(sv))
5280         len = mg_length(sv);
5281     else
5282         (void)SvPV_const(sv, len);
5283     return len;
5284 }
5285
5286 /*
5287 =for apidoc sv_len_utf8
5288
5289 Returns the number of characters in the string in an SV, counting wide
5290 UTF-8 bytes as a single character. Handles magic and type coercion.
5291
5292 =cut
5293 */
5294
5295 /*
5296  * The length is cached in PERL_UTF8_magic, in the mg_len field.  Also the
5297  * mg_ptr is used, by sv_pos_u2b() and sv_pos_b2u() - see the comments below.
5298  * (Note that the mg_len is not the length of the mg_ptr field.
5299  * This allows the cache to store the character length of the string without
5300  * needing to malloc() extra storage to attach to the mg_ptr.)
5301  *
5302  */
5303
5304 STRLEN
5305 Perl_sv_len_utf8(pTHX_ register SV *sv)
5306 {
5307     if (!sv)
5308         return 0;
5309
5310     if (SvGMAGICAL(sv))
5311         return mg_length(sv);
5312     else
5313     {
5314         STRLEN len;
5315         const U8 *s = (U8*)SvPV_const(sv, len);
5316
5317         if (PL_utf8cache) {
5318             STRLEN ulen;
5319             MAGIC *mg = SvMAGICAL(sv) ? mg_find(sv, PERL_MAGIC_utf8) : 0;
5320
5321             if (mg && mg->mg_len != -1) {
5322                 ulen = mg->mg_len;
5323                 if (PL_utf8cache < 0) {
5324                     const STRLEN real = Perl_utf8_length(aTHX_ s, s + len);
5325                     if (real != ulen) {
5326                         /* Need to turn the assertions off otherwise we may
5327                            recurse infinitely while printing error messages.
5328                         */
5329                         SAVEI8(PL_utf8cache);
5330                         PL_utf8cache = 0;
5331                         Perl_croak(aTHX_ "panic: sv_len_utf8 cache %"UVf
5332                                    " real %"UVf" for %"SVf,
5333                                    (UV) ulen, (UV) real, sv);
5334                     }
5335                 }
5336             }
5337             else {
5338                 ulen = Perl_utf8_length(aTHX_ s, s + len);
5339                 if (!SvREADONLY(sv)) {
5340                     if (!mg) {
5341                         mg = sv_magicext(sv, 0, PERL_MAGIC_utf8,
5342                                          &PL_vtbl_utf8, 0, 0);
5343                     }
5344                     assert(mg);
5345                     mg->mg_len = ulen;
5346                 }
5347             }
5348             return ulen;
5349         }
5350         return Perl_utf8_length(aTHX_ s, s + len);
5351     }
5352 }
5353
5354 /* Walk forwards to find the byte corresponding to the passed in UTF-8
5355    offset.  */
5356 static STRLEN
5357 S_sv_pos_u2b_forwards(pTHX_ const U8 *const start, const U8 *const send,
5358                       STRLEN uoffset)
5359 {
5360     const U8 *s = start;
5361
5362     PERL_UNUSED_CONTEXT;
5363
5364     while (s < send && uoffset--)
5365         s += UTF8SKIP(s);
5366     if (s > send) {
5367         /* This is the existing behaviour. Possibly it should be a croak, as
5368            it's actually a bounds error  */
5369         s = send;
5370     }
5371     return s - start;
5372 }
5373
5374 /* Given the length of the string in both bytes and UTF-8 characters, decide
5375    whether to walk forwards or backwards to find the byte corresponding to
5376    the passed in UTF-8 offset.  */
5377 static STRLEN
5378 S_sv_pos_u2b_midway(pTHX_ const U8 *const start, const U8 *send,
5379                       STRLEN uoffset, STRLEN uend)
5380 {
5381     STRLEN backw = uend - uoffset;
5382     if (uoffset < 2 * backw) {
5383         /* The assumption is that going forwards is twice the speed of going
5384            forward (that's where the 2 * backw comes from).
5385            (The real figure of course depends on the UTF-8 data.)  */
5386         return S_sv_pos_u2b_forwards(aTHX_ start, send, uoffset);
5387     }
5388
5389     while (backw--) {
5390         send--;
5391         while (UTF8_IS_CONTINUATION(*send))
5392             send--;
5393     }
5394     return send - start;
5395 }
5396
5397 /* For the string representation of the given scalar, find the byte
5398    corresponding to the passed in UTF-8 offset.  uoffset0 and boffset0
5399    give another position in the string, *before* the sought offset, which
5400    (which is always true, as 0, 0 is a valid pair of positions), which should
5401    help reduce the amount of linear searching.
5402    If *mgp is non-NULL, it should point to the UTF-8 cache magic, which
5403    will be used to reduce the amount of linear searching. The cache will be
5404    created if necessary, and the found value offered to it for update.  */
5405 static STRLEN
5406 S_sv_pos_u2b_cached(pTHX_ SV *sv, MAGIC **mgp, const U8 *const start,
5407                     const U8 *const send, STRLEN uoffset,
5408                     STRLEN uoffset0, STRLEN boffset0) {
5409     STRLEN boffset = 0; /* Actually always set, but let's keep gcc happy.  */
5410     bool found = FALSE;
5411
5412     assert (uoffset >= uoffset0);
5413
5414     if (SvMAGICAL(sv) && !SvREADONLY(sv) && PL_utf8cache
5415         && (*mgp || (*mgp = mg_find(sv, PERL_MAGIC_utf8)))) {
5416         if ((*mgp)->mg_ptr) {
5417             STRLEN *cache = (STRLEN *) (*mgp)->mg_ptr;
5418             if (cache[0] == uoffset) {
5419                 /* An exact match. */
5420                 return cache[1];
5421             }
5422             if (cache[2] == uoffset) {
5423                 /* An exact match. */
5424                 return cache[3];
5425             }
5426
5427             if (cache[0] < uoffset) {
5428                 /* The cache already knows part of the way.   */
5429                 if (cache[0] > uoffset0) {
5430                     /* The cache knows more than the passed in pair  */
5431                     uoffset0 = cache[0];
5432                     boffset0 = cache[1];
5433                 }
5434                 if ((*mgp)->mg_len != -1) {
5435                     /* And we know the end too.  */
5436                     boffset = boffset0
5437                         + S_sv_pos_u2b_midway(aTHX_ start + boffset0, send,
5438                                               uoffset - uoffset0,
5439                                               (*mgp)->mg_len - uoffset0);
5440                 } else {
5441                     boffset = boffset0
5442                         + S_sv_pos_u2b_forwards(aTHX_ start + boffset0,
5443                                                 send, uoffset - uoffset0);
5444                 }
5445             }
5446             else if (cache[2] < uoffset) {
5447                 /* We're between the two cache entries.  */
5448                 if (cache[2] > uoffset0) {
5449                     /* and the cache knows more than the passed in pair  */
5450                     uoffset0 = cache[2];
5451                     boffset0 = cache[3];
5452                 }
5453
5454                 boffset = boffset0
5455                     + S_sv_pos_u2b_midway(aTHX_ start + boffset0,
5456                                           start + cache[1],
5457                                           uoffset - uoffset0,
5458                                           cache[0] - uoffset0);
5459             } else {
5460                 boffset = boffset0
5461                     + S_sv_pos_u2b_midway(aTHX_ start + boffset0,
5462                                           start + cache[3],
5463                                           uoffset - uoffset0,
5464                                           cache[2] - uoffset0);
5465             }
5466             found = TRUE;
5467         }
5468         else if ((*mgp)->mg_len != -1) {
5469             /* If we can take advantage of a passed in offset, do so.  */
5470             /* In fact, offset0 is either 0, or less than offset, so don't
5471                need to worry about the other possibility.  */
5472             boffset = boffset0
5473                 + S_sv_pos_u2b_midway(aTHX_ start + boffset0, send,
5474                                       uoffset - uoffset0,
5475                                       (*mgp)->mg_len - uoffset0);
5476             found = TRUE;
5477         }
5478     }
5479
5480     if (!found || PL_utf8cache < 0) {
5481         const STRLEN real_boffset
5482             = boffset0 + S_sv_pos_u2b_forwards(aTHX_ start + boffset0,
5483                                                send, uoffset - uoffset0);
5484
5485         if (found && PL_utf8cache < 0) {
5486             if (real_boffset != boffset) {
5487                 /* Need to turn the assertions off otherwise we may recurse
5488                    infinitely while printing error messages.  */
5489                 SAVEI8(PL_utf8cache);
5490                 PL_utf8cache = 0;
5491                 Perl_croak(aTHX_ "panic: sv_pos_u2b_cache cache %"UVf
5492                            " real %"UVf" for %"SVf,
5493                            (UV) boffset, (UV) real_boffset, sv);
5494             }
5495         }
5496         boffset = real_boffset;
5497     }
5498
5499     S_utf8_mg_pos_cache_update(aTHX_ sv, mgp, boffset, uoffset, send - start);
5500     return boffset;
5501 }
5502
5503
5504 /*
5505 =for apidoc sv_pos_u2b
5506
5507 Converts the value pointed to by offsetp from a count of UTF-8 chars from
5508 the start of the string, to a count of the equivalent number of bytes; if
5509 lenp is non-zero, it does the same to lenp, but this time starting from
5510 the offset, rather than from the start of the string. Handles magic and
5511 type coercion.
5512
5513 =cut
5514 */
5515
5516 /*
5517  * sv_pos_u2b() uses, like sv_pos_b2u(), the mg_ptr of the potential
5518  * PERL_UTF8_magic of the sv to store the mapping between UTF-8 and
5519  * byte offsets.  See also the comments of S_utf8_mg_pos_cache_update().
5520  *
5521  */
5522
5523 void
5524 Perl_sv_pos_u2b(pTHX_ register SV *sv, I32* offsetp, I32* lenp)
5525 {
5526     const U8 *start;
5527     STRLEN len;
5528
5529     if (!sv)
5530         return;
5531
5532     start = (U8*)SvPV_const(sv, len);
5533     if (len) {
5534         STRLEN uoffset = (STRLEN) *offsetp;
5535         const U8 * const send = start + len;
5536         MAGIC *mg = NULL;
5537         STRLEN boffset = S_sv_pos_u2b_cached(aTHX_ sv, &mg, start, send,
5538                                              uoffset, 0, 0);
5539
5540         *offsetp = (I32) boffset;
5541
5542         if (lenp) {
5543             /* Convert the relative offset to absolute.  */
5544             STRLEN uoffset2 = uoffset + (STRLEN) *lenp;
5545             STRLEN boffset2
5546                 = S_sv_pos_u2b_cached(aTHX_ sv, &mg, start, send, uoffset2,
5547                                       uoffset, boffset) - boffset;
5548
5549             *lenp = boffset2;
5550         }
5551     }
5552     else {
5553          *offsetp = 0;
5554          if (lenp)
5555               *lenp = 0;
5556     }
5557
5558     return;
5559 }
5560
5561 /* Create and update the UTF8 magic offset cache, with the proffered utf8/
5562    byte length pairing. The (byte) length of the total SV is passed in too,
5563    as blen, because for some (more esoteric) SVs, the call to SvPV_const()
5564    may not have updated SvCUR, so we can't rely on reading it directly.
5565
5566    The proffered utf8/byte length pairing isn't used if the cache already has
5567    two pairs, and swapping either for the proffered pair would increase the
5568    RMS of the intervals between known byte offsets.
5569
5570    The cache itself consists of 4 STRLEN values
5571    0: larger UTF-8 offset
5572    1: corresponding byte offset
5573    2: smaller UTF-8 offset
5574    3: corresponding byte offset
5575
5576    Unused cache pairs have the value 0, 0.
5577    Keeping the cache "backwards" means that the invariant of
5578    cache[0] >= cache[2] is maintained even with empty slots, which means that
5579    the code that uses it doesn't need to worry if only 1 entry has actually
5580    been set to non-zero.  It also makes the "position beyond the end of the
5581    cache" logic much simpler, as the first slot is always the one to start
5582    from.   
5583 */
5584 static void
5585 S_utf8_mg_pos_cache_update(pTHX_ SV *sv, MAGIC **mgp, STRLEN byte, STRLEN utf8,
5586                            STRLEN blen)
5587 {
5588     STRLEN *cache;
5589     if (SvREADONLY(sv))
5590         return;
5591
5592     if (!*mgp) {
5593         *mgp = sv_magicext(sv, 0, PERL_MAGIC_utf8, (MGVTBL*)&PL_vtbl_utf8, 0,
5594                            0);
5595         (*mgp)->mg_len = -1;
5596     }
5597     assert(*mgp);
5598
5599     if (!(cache = (STRLEN *)(*mgp)->mg_ptr)) {
5600         Newxz(cache, PERL_MAGIC_UTF8_CACHESIZE * 2, STRLEN);
5601         (*mgp)->mg_ptr = (char *) cache;
5602     }
5603     assert(cache);
5604
5605     if (PL_utf8cache < 0) {
5606         const U8 *start = (const U8 *) SvPVX_const(sv);
5607         const U8 *const end = start + byte;
5608         STRLEN realutf8 = 0;
5609
5610         while (start < end) {
5611             start += UTF8SKIP(start);
5612             realutf8++;
5613         }
5614
5615         /* Can't use S_sv_pos_b2u_forwards as it will scream warnings on
5616            surrogates.  FIXME - is it inconsistent that b2u warns, but u2b
5617            doesn't?  I don't know whether this difference was introduced with
5618            the caching code in 5.8.1.  */
5619
5620         if (realutf8 != utf8) {
5621             /* Need to turn the assertions off otherwise we may recurse
5622                infinitely while printing error messages.  */
5623             SAVEI8(PL_utf8cache);
5624             PL_utf8cache = 0;
5625             Perl_croak(aTHX_ "panic: utf8_mg_pos_cache_update cache %"UVf
5626                        " real %"UVf" for %"SVf, (UV) utf8, (UV) realutf8, sv);
5627         }
5628     }
5629
5630     /* Cache is held with the later position first, to simplify the code
5631        that deals with unbounded ends.  */
5632        
5633     ASSERT_UTF8_CACHE(cache);
5634     if (cache[1] == 0) {
5635         /* Cache is totally empty  */
5636         cache[0] = utf8;
5637         cache[1] = byte;
5638     } else if (cache[3] == 0) {
5639         if (byte > cache[1]) {
5640             /* New one is larger, so goes first.  */
5641             cache[2] = cache[0];
5642             cache[3] = cache[1];
5643             cache[0] = utf8;
5644             cache[1] = byte;
5645         } else {
5646             cache[2] = utf8;
5647             cache[3] = byte;
5648         }
5649     } else {
5650 #define THREEWAY_SQUARE(a,b,c,d) \
5651             ((float)((d) - (c))) * ((float)((d) - (c))) \
5652             + ((float)((c) - (b))) * ((float)((c) - (b))) \
5653                + ((float)((b) - (a))) * ((float)((b) - (a)))
5654
5655         /* Cache has 2 slots in use, and we know three potential pairs.
5656            Keep the two that give the lowest RMS distance. Do the
5657            calcualation in bytes simply because we always know the byte
5658            length.  squareroot has the same ordering as the positive value,
5659            so don't bother with the actual square root.  */
5660         const float existing = THREEWAY_SQUARE(0, cache[3], cache[1], blen);
5661         if (byte > cache[1]) {
5662             /* New position is after the existing pair of pairs.  */
5663             const float keep_earlier
5664                 = THREEWAY_SQUARE(0, cache[3], byte, blen);
5665             const float keep_later
5666                 = THREEWAY_SQUARE(0, cache[1], byte, blen);
5667
5668             if (keep_later < keep_earlier) {
5669                 if (keep_later < existing) {
5670                     cache[2] = cache[0];
5671                     cache[3] = cache[1];
5672                     cache[0] = utf8;
5673                     cache[1] = byte;
5674                 }
5675             }
5676             else {
5677                 if (keep_earlier < existing) {
5678                     cache[0] = utf8;
5679                     cache[1] = byte;
5680                 }
5681             }
5682         }
5683         else if (byte > cache[3]) {
5684             /* New position is between the existing pair of pairs.  */
5685             const float keep_earlier
5686                 = THREEWAY_SQUARE(0, cache[3], byte, blen);
5687             const float keep_later
5688                 = THREEWAY_SQUARE(0, byte, cache[1], blen);
5689
5690             if (keep_later < keep_earlier) {
5691                 if (keep_later < existing) {
5692                     cache[2] = utf8;
5693                     cache[3] = byte;
5694                 }
5695             }
5696             else {
5697                 if (keep_earlier < existing) {
5698                     cache[0] = utf8;
5699                     cache[1] = byte;
5700                 }
5701             }
5702         }
5703         else {
5704             /* New position is before the existing pair of pairs.  */
5705             const float keep_earlier
5706                 = THREEWAY_SQUARE(0, byte, cache[3], blen);
5707             const float keep_later
5708                 = THREEWAY_SQUARE(0, byte, cache[1], blen);
5709
5710             if (keep_later < keep_earlier) {
5711                 if (keep_later < existing) {
5712                     cache[2] = utf8;
5713                     cache[3] = byte;
5714                 }
5715             }
5716             else {
5717                 if (keep_earlier < existing) {
5718                     cache[0] = cache[2];
5719                     cache[1] = cache[3];
5720                     cache[2] = utf8;
5721                     cache[3] = byte;
5722                 }
5723             }
5724         }
5725     }
5726     ASSERT_UTF8_CACHE(cache);
5727 }
5728
5729 /* If we don't know the character offset of the end of a region, our only
5730    option is to walk forwards to the target byte offset.  */
5731 static STRLEN
5732 S_sv_pos_b2u_forwards(pTHX_ const U8 *s, const U8 *const target)
5733 {
5734     STRLEN len = 0;
5735     while (s < target) {
5736         STRLEN n = 1;
5737
5738         /* Call utf8n_to_uvchr() to validate the sequence
5739          * (unless a simple non-UTF character) */
5740         if (!UTF8_IS_INVARIANT(*s))
5741             utf8n_to_uvchr(s, UTF8SKIP(s), &n, 0);
5742         if (n > 0) {
5743             s += n;
5744             len++;
5745         }
5746         else
5747             break;
5748     }
5749     return len;
5750 }
5751
5752 /* We already know all of the way, now we may be able to walk back.  The same
5753    assumption is made as in S_sv_pos_u2b_midway(), namely that walking
5754    backward is half the speed of walking forward. */
5755 static STRLEN
5756 S_sv_pos_b2u_midway(pTHX_ const U8 *s, const U8 *const target, const U8 *end,
5757                     STRLEN endu)
5758 {
5759     const STRLEN forw = target - s;
5760     STRLEN backw = end - target;
5761
5762     if (forw < 2 * backw) {
5763         return S_sv_pos_b2u_forwards(aTHX_ s, target);
5764     }
5765
5766     while (end > target) {
5767         end--;
5768         while (UTF8_IS_CONTINUATION(*end)) {
5769             end--;
5770         }
5771         endu--;
5772     }
5773     return endu;
5774 }
5775
5776 /*
5777 =for apidoc sv_pos_b2u
5778
5779 Converts the value pointed to by offsetp from a count of bytes from the
5780 start of the string, to a count of the equivalent number of UTF-8 chars.
5781 Handles magic and type coercion.
5782
5783 =cut
5784 */
5785
5786 /*
5787  * sv_pos_b2u() uses, like sv_pos_u2b(), the mg_ptr of the potential
5788  * PERL_UTF8_magic of the sv to store the mapping between UTF-8 and
5789  * byte offsets.
5790  *
5791  */
5792 void
5793 Perl_sv_pos_b2u(pTHX_ register SV* sv, I32* offsetp)
5794 {
5795     const U8* s;
5796     const STRLEN byte = *offsetp;
5797     STRLEN len = 0; /* Actually always set, but let's keep gcc happy.  */
5798     STRLEN blen;
5799     MAGIC* mg = NULL;
5800     const U8* send;
5801     bool found = FALSE;
5802
5803     if (!sv)
5804         return;
5805
5806     s = (const U8*)SvPV_const(sv, blen);
5807
5808     if (blen < byte)
5809         Perl_croak(aTHX_ "panic: sv_pos_b2u: bad byte offset");
5810
5811     send = s + byte;
5812
5813     if (SvMAGICAL(sv) && !SvREADONLY(sv) && PL_utf8cache
5814         && (mg = mg_find(sv, PERL_MAGIC_utf8))) {
5815         if (mg->mg_ptr) {
5816             STRLEN * const cache = (STRLEN *) mg->mg_ptr;
5817             if (cache[1] == byte) {
5818                 /* An exact match. */
5819                 *offsetp = cache[0];
5820                 return;
5821             }
5822             if (cache[3] == byte) {
5823                 /* An exact match. */
5824                 *offsetp = cache[2];
5825                 return;
5826             }
5827
5828             if (cache[1] < byte) {
5829                 /* We already know part of the way. */
5830                 if (mg->mg_len != -1) {
5831                     /* Actually, we know the end too.  */
5832                     len = cache[0]
5833                         + S_sv_pos_b2u_midway(aTHX_ s + cache[1], send,
5834                                               s + blen, mg->mg_len - cache[0]);
5835                 } else {
5836                     len = cache[0]
5837                         + S_sv_pos_b2u_forwards(aTHX_ s + cache[1], send);
5838                 }
5839             }
5840             else if (cache[3] < byte) {
5841                 /* We're between the two cached pairs, so we do the calculation
5842                    offset by the byte/utf-8 positions for the earlier pair,
5843                    then add the utf-8 characters from the string start to
5844                    there.  */
5845                 len = S_sv_pos_b2u_midway(aTHX_ s + cache[3], send,
5846                                           s + cache[1], cache[0] - cache[2])
5847                     + cache[2];
5848
5849             }
5850             else { /* cache[3] > byte */
5851                 len = S_sv_pos_b2u_midway(aTHX_ s, send, s + cache[3],
5852                                           cache[2]);
5853
5854             }
5855             ASSERT_UTF8_CACHE(cache);
5856             found = TRUE;
5857         } else if (mg->mg_len != -1) {
5858             len = S_sv_pos_b2u_midway(aTHX_ s, send, s + blen, mg->mg_len);
5859             found = TRUE;
5860         }
5861     }
5862     if (!found || PL_utf8cache < 0) {
5863         const STRLEN real_len = S_sv_pos_b2u_forwards(aTHX_ s, send);
5864
5865         if (found && PL_utf8cache < 0) {
5866             if (len != real_len) {
5867                 /* Need to turn the assertions off otherwise we may recurse
5868                    infinitely while printing error messages.  */
5869                 SAVEI8(PL_utf8cache);
5870                 PL_utf8cache = 0;
5871                 Perl_croak(aTHX_ "panic: sv_pos_b2u cache %"UVf
5872                            " real %"UVf" for %"SVf,
5873                            (UV) len, (UV) real_len, sv);
5874             }
5875         }
5876         len = real_len;
5877     }
5878     *offsetp = len;
5879
5880     S_utf8_mg_pos_cache_update(aTHX_ sv, &mg, byte, len, blen);
5881 }
5882
5883 /*
5884 =for apidoc sv_eq
5885
5886 Returns a boolean indicating whether the strings in the two SVs are
5887 identical. Is UTF-8 and 'use bytes' aware, handles get magic, and will
5888 coerce its args to strings if necessary.
5889
5890 =cut
5891 */
5892
5893 I32
5894 Perl_sv_eq(pTHX_ register SV *sv1, register SV *sv2)
5895 {
5896     dVAR;
5897     const char *pv1;
5898     STRLEN cur1;
5899     const char *pv2;
5900     STRLEN cur2;
5901     I32  eq     = 0;
5902     char *tpv   = NULL;
5903     SV* svrecode = NULL;
5904
5905     if (!sv1) {
5906         pv1 = "";
5907         cur1 = 0;
5908     }
5909     else
5910         pv1 = SvPV_const(sv1, cur1);
5911
5912     if (!sv2){
5913         pv2 = "";
5914         cur2 = 0;
5915     }
5916     else
5917         pv2 = SvPV_const(sv2, cur2);
5918
5919     if (cur1 && cur2 && SvUTF8(sv1) != SvUTF8(sv2) && !IN_BYTES) {
5920         /* Differing utf8ness.
5921          * Do not UTF8size the comparands as a side-effect. */
5922          if (PL_encoding) {
5923               if (SvUTF8(sv1)) {
5924                    svrecode = newSVpvn(pv2, cur2);
5925                    sv_recode_to_utf8(svrecode, PL_encoding);
5926                    pv2 = SvPV_const(svrecode, cur2);
5927               }
5928               else {
5929                    svrecode = newSVpvn(pv1, cur1);
5930                    sv_recode_to_utf8(svrecode, PL_encoding);
5931                    pv1 = SvPV_const(svrecode, cur1);
5932               }
5933               /* Now both are in UTF-8. */
5934               if (cur1 != cur2) {
5935                    SvREFCNT_dec(svrecode);
5936                    return FALSE;
5937               }
5938          }
5939          else {
5940               bool is_utf8 = TRUE;
5941
5942               if (SvUTF8(sv1)) {
5943                    /* sv1 is the UTF-8 one,
5944                     * if is equal it must be downgrade-able */
5945                    char * const pv = (char*)bytes_from_utf8((const U8*)pv1,
5946                                                      &cur1, &is_utf8);
5947                    if (pv != pv1)
5948                         pv1 = tpv = pv;
5949               }
5950               else {
5951                    /* sv2 is the UTF-8 one,
5952                     * if is equal it must be downgrade-able */
5953                    char * const pv = (char *)bytes_from_utf8((const U8*)pv2,
5954                                                       &cur2, &is_utf8);
5955                    if (pv != pv2)
5956                         pv2 = tpv = pv;
5957               }
5958               if (is_utf8) {
5959                    /* Downgrade not possible - cannot be eq */
5960                    assert (tpv == 0);
5961                    return FALSE;
5962               }
5963          }
5964     }
5965
5966     if (cur1 == cur2)
5967         eq = (pv1 == pv2) || memEQ(pv1, pv2, cur1);
5968         
5969     SvREFCNT_dec(svrecode);
5970     if (tpv)
5971         Safefree(tpv);
5972
5973     return eq;
5974 }
5975
5976 /*
5977 =for apidoc sv_cmp
5978
5979 Compares the strings in two SVs.  Returns -1, 0, or 1 indicating whether the
5980 string in C<sv1> is less than, equal to, or greater than the string in
5981 C<sv2>. Is UTF-8 and 'use bytes' aware, handles get magic, and will
5982 coerce its args to strings if necessary.  See also C<sv_cmp_locale>.
5983
5984 =cut
5985 */
5986
5987 I32
5988 Perl_sv_cmp(pTHX_ register SV *sv1, register SV *sv2)
5989 {
5990     dVAR;
5991     STRLEN cur1, cur2;
5992     const char *pv1, *pv2;
5993     char *tpv = NULL;
5994     I32  cmp;
5995     SV *svrecode = NULL;
5996
5997     if (!sv1) {
5998         pv1 = "";
5999         cur1 = 0;
6000     }
6001     else
6002         pv1 = SvPV_const(sv1, cur1);
6003
6004     if (!sv2) {
6005         pv2 = "";
6006         cur2 = 0;
6007     }
6008     else
6009         pv2 = SvPV_const(sv2, cur2);
6010
6011     if (cur1 && cur2 && SvUTF8(sv1) != SvUTF8(sv2) && !IN_BYTES) {
6012         /* Differing utf8ness.
6013          * Do not UTF8size the comparands as a side-effect. */
6014         if (SvUTF8(sv1)) {
6015             if (PL_encoding) {
6016                  svrecode = newSVpvn(pv2, cur2);
6017                  sv_recode_to_utf8(svrecode, PL_encoding);
6018                  pv2 = SvPV_const(svrecode, cur2);
6019             }
6020             else {
6021                  pv2 = tpv = (char*)bytes_to_utf8((const U8*)pv2, &cur2);
6022             }
6023         }
6024         else {
6025             if (PL_encoding) {
6026                  svrecode = newSVpvn(pv1, cur1);
6027                  sv_recode_to_utf8(svrecode, PL_encoding);
6028                  pv1 = SvPV_const(svrecode, cur1);
6029             }
6030             else {
6031                  pv1 = tpv = (char*)bytes_to_utf8((const U8*)pv1, &cur1);
6032             }
6033         }
6034     }
6035
6036     if (!cur1) {
6037         cmp = cur2 ? -1 : 0;
6038     } else if (!cur2) {
6039         cmp = 1;
6040     } else {
6041         const I32 retval = memcmp((const void*)pv1, (const void*)pv2, cur1 < cur2 ? cur1 : cur2);
6042
6043         if (retval) {
6044             cmp = retval < 0 ? -1 : 1;
6045         } else if (cur1 == cur2) {
6046             cmp = 0;
6047         } else {
6048             cmp = cur1 < cur2 ? -1 : 1;
6049         }
6050     }
6051
6052     SvREFCNT_dec(svrecode);
6053     if (tpv)
6054         Safefree(tpv);
6055
6056     return cmp;
6057 }
6058
6059 /*
6060 =for apidoc sv_cmp_locale
6061
6062 Compares the strings in two SVs in a locale-aware manner. Is UTF-8 and
6063 'use bytes' aware, handles get magic, and will coerce its args to strings
6064 if necessary.  See also C<sv_cmp_locale>.  See also C<sv_cmp>.
6065
6066 =cut
6067 */
6068
6069 I32
6070 Perl_sv_cmp_locale(pTHX_ register SV *sv1, register SV *sv2)
6071 {
6072     dVAR;
6073 #ifdef USE_LOCALE_COLLATE
6074
6075     char *pv1, *pv2;
6076     STRLEN len1, len2;
6077     I32 retval;
6078
6079     if (PL_collation_standard)
6080         goto raw_compare;
6081
6082     len1 = 0;
6083     pv1 = sv1 ? sv_collxfrm(sv1, &len1) : (char *) NULL;
6084     len2 = 0;
6085     pv2 = sv2 ? sv_collxfrm(sv2, &len2) : (char *) NULL;
6086
6087     if (!pv1 || !len1) {
6088         if (pv2 && len2)
6089             return -1;
6090         else
6091             goto raw_compare;
6092     }
6093     else {
6094         if (!pv2 || !len2)
6095             return 1;
6096     }
6097
6098     retval = memcmp((void*)pv1, (void*)pv2, len1 < len2 ? len1 : len2);
6099
6100     if (retval)
6101         return retval < 0 ? -1 : 1;
6102
6103     /*
6104      * When the result of collation is equality, that doesn't mean
6105      * that there are no differences -- some locales exclude some
6106      * characters from consideration.  So to avoid false equalities,
6107      * we use the raw string as a tiebreaker.
6108      */
6109
6110   raw_compare:
6111     /*FALLTHROUGH*/
6112
6113 #endif /* USE_LOCALE_COLLATE */
6114
6115     return sv_cmp(sv1, sv2);
6116 }
6117
6118
6119 #ifdef USE_LOCALE_COLLATE
6120
6121 /*
6122 =for apidoc sv_collxfrm
6123
6124 Add Collate Transform magic to an SV if it doesn't already have it.
6125
6126 Any scalar variable may carry PERL_MAGIC_collxfrm magic that contains the
6127 scalar data of the variable, but transformed to such a format that a normal
6128 memory comparison can be used to compare the data according to the locale
6129 settings.
6130
6131 =cut
6132 */
6133
6134 char *
6135 Perl_sv_collxfrm(pTHX_ SV *sv, STRLEN *nxp)
6136 {
6137     dVAR;
6138     MAGIC *mg;
6139
6140     mg = SvMAGICAL(sv) ? mg_find(sv, PERL_MAGIC_collxfrm) : (MAGIC *) NULL;
6141     if (!mg || !mg->mg_ptr || *(U32*)mg->mg_ptr != PL_collation_ix) {
6142         const char *s;
6143         char *xf;
6144         STRLEN len, xlen;
6145
6146         if (mg)
6147             Safefree(mg->mg_ptr);
6148         s = SvPV_const(sv, len);
6149         if ((xf = mem_collxfrm(s, len, &xlen))) {
6150             if (SvREADONLY(sv)) {
6151                 SAVEFREEPV(xf);
6152                 *nxp = xlen;
6153                 return xf + sizeof(PL_collation_ix);
6154             }
6155             if (! mg) {
6156 #ifdef PERL_OLD_COPY_ON_WRITE
6157                 if (SvIsCOW(sv))
6158                     sv_force_normal_flags(sv, 0);
6159 #endif
6160                 mg = sv_magicext(sv, 0, PERL_MAGIC_collxfrm, &PL_vtbl_collxfrm,
6161                                  0, 0);
6162                 assert(mg);
6163             }
6164             mg->mg_ptr = xf;
6165             mg->mg_len = xlen;
6166         }
6167         else {
6168             if (mg) {
6169                 mg->mg_ptr = NULL;
6170                 mg->mg_len = -1;
6171             }
6172         }
6173     }
6174     if (mg && mg->mg_ptr) {
6175         *nxp = mg->mg_len;
6176         return mg->mg_ptr + sizeof(PL_collation_ix);
6177     }
6178     else {
6179         *nxp = 0;
6180         return NULL;
6181     }
6182 }
6183
6184 #endif /* USE_LOCALE_COLLATE */
6185
6186 /*
6187 =for apidoc sv_gets
6188
6189 Get a line from the filehandle and store it into the SV, optionally
6190 appending to the currently-stored string.
6191
6192 =cut
6193 */
6194
6195 char *
6196 Perl_sv_gets(pTHX_ register SV *sv, register PerlIO *fp, I32 append)
6197 {
6198     dVAR;
6199     const char *rsptr;
6200     STRLEN rslen;
6201     register STDCHAR rslast;
6202     register STDCHAR *bp;
6203     register I32 cnt;
6204     I32 i = 0;
6205     I32 rspara = 0;
6206
6207     if (SvTHINKFIRST(sv))
6208         sv_force_normal_flags(sv, append ? 0 : SV_COW_DROP_PV);
6209     /* XXX. If you make this PVIV, then copy on write can copy scalars read
6210        from <>.
6211        However, perlbench says it's slower, because the existing swipe code
6212        is faster than copy on write.
6213        Swings and roundabouts.  */
6214     SvUPGRADE(sv, SVt_PV);
6215
6216     SvSCREAM_off(sv);
6217
6218     if (append) {
6219         if (PerlIO_isutf8(fp)) {
6220             if (!SvUTF8(sv)) {
6221                 sv_utf8_upgrade_nomg(sv);
6222                 sv_pos_u2b(sv,&append,0);
6223             }
6224         } else if (SvUTF8(sv)) {
6225             SV * const tsv = newSV(0);
6226             sv_gets(tsv, fp, 0);
6227             sv_utf8_upgrade_nomg(tsv);
6228             SvCUR_set(sv,append);
6229             sv_catsv(sv,tsv);
6230             sv_free(tsv);
6231             goto return_string_or_null;
6232         }
6233     }
6234
6235     SvPOK_only(sv);
6236     if (PerlIO_isutf8(fp))
6237         SvUTF8_on(sv);
6238
6239     if (IN_PERL_COMPILETIME) {
6240         /* we always read code in line mode */
6241         rsptr = "\n";
6242         rslen = 1;
6243     }
6244     else if (RsSNARF(PL_rs)) {
6245         /* If it is a regular disk file use size from stat() as estimate
6246            of amount we are going to read -- may result in mallocing
6247            more memory than we really need if the layers below reduce
6248            the size we read (e.g. CRLF or a gzip layer).
6249          */
6250         Stat_t st;
6251         if (!PerlLIO_fstat(PerlIO_fileno(fp), &st) && S_ISREG(st.st_mode))  {
6252             const Off_t offset = PerlIO_tell(fp);
6253             if (offset != (Off_t) -1 && st.st_size + append > offset) {
6254                 (void) SvGROW(sv, (STRLEN)((st.st_size - offset) + append + 1));
6255             }
6256         }
6257         rsptr = NULL;
6258         rslen = 0;
6259     }
6260     else if (RsRECORD(PL_rs)) {
6261       I32 bytesread;
6262       char *buffer;
6263       U32 recsize;
6264
6265       /* Grab the size of the record we're getting */
6266       recsize = SvUV(SvRV(PL_rs)); /* RsRECORD() guarantees > 0. */
6267       buffer = SvGROW(sv, (STRLEN)(recsize + append + 1)) + append;
6268       /* Go yank in */
6269 #ifdef VMS
6270       /* VMS wants read instead of fread, because fread doesn't respect */
6271       /* RMS record boundaries. This is not necessarily a good thing to be */
6272       /* doing, but we've got no other real choice - except avoid stdio
6273          as implementation - perhaps write a :vms layer ?
6274        */
6275       bytesread = PerlLIO_read(PerlIO_fileno(fp), buffer, recsize);
6276 #else
6277       bytesread = PerlIO_read(fp, buffer, recsize);
6278 #endif
6279       if (bytesread < 0)
6280           bytesread = 0;
6281       SvCUR_set(sv, bytesread += append);
6282       buffer[bytesread] = '\0';
6283       goto return_string_or_null;
6284     }
6285     else if (RsPARA(PL_rs)) {
6286         rsptr = "\n\n";
6287         rslen = 2;
6288         rspara = 1;
6289     }
6290     else {
6291         /* Get $/ i.e. PL_rs into same encoding as stream wants */
6292         if (PerlIO_isutf8(fp)) {
6293             rsptr = SvPVutf8(PL_rs, rslen);
6294         }
6295         else {
6296             if (SvUTF8(PL_rs)) {
6297                 if (!sv_utf8_downgrade(PL_rs, TRUE)) {
6298                     Perl_croak(aTHX_ "Wide character in $/");
6299                 }
6300             }
6301             rsptr = SvPV_const(PL_rs, rslen);
6302         }
6303     }
6304
6305     rslast = rslen ? rsptr[rslen - 1] : '\0';
6306
6307     if (rspara) {               /* have to do this both before and after */
6308         do {                    /* to make sure file boundaries work right */
6309             if (PerlIO_eof(fp))
6310                 return 0;
6311             i = PerlIO_getc(fp);
6312             if (i != '\n') {
6313                 if (i == -1)
6314                     return 0;
6315                 PerlIO_ungetc(fp,i);
6316                 break;
6317             }
6318         } while (i != EOF);
6319     }
6320
6321     /* See if we know enough about I/O mechanism to cheat it ! */
6322
6323     /* This used to be #ifdef test - it is made run-time test for ease
6324        of abstracting out stdio interface. One call should be cheap
6325        enough here - and may even be a macro allowing compile
6326        time optimization.
6327      */
6328
6329     if (PerlIO_fast_gets(fp)) {
6330
6331     /*
6332      * We're going to steal some values from the stdio struct
6333      * and put EVERYTHING in the innermost loop into registers.
6334      */
6335     register STDCHAR *ptr;
6336     STRLEN bpx;
6337     I32 shortbuffered;
6338
6339 #if defined(VMS) && defined(PERLIO_IS_STDIO)
6340     /* An ungetc()d char is handled separately from the regular
6341      * buffer, so we getc() it back out and stuff it in the buffer.
6342      */
6343     i = PerlIO_getc(fp);
6344     if (i == EOF) return 0;
6345     *(--((*fp)->_ptr)) = (unsigned char) i;
6346     (*fp)->_cnt++;
6347 #endif
6348
6349     /* Here is some breathtakingly efficient cheating */
6350
6351     cnt = PerlIO_get_cnt(fp);                   /* get count into register */
6352     /* make sure we have the room */
6353     if ((I32)(SvLEN(sv) - append) <= cnt + 1) {
6354         /* Not room for all of it
6355            if we are looking for a separator and room for some
6356          */
6357         if (rslen && cnt > 80 && (I32)SvLEN(sv) > append) {
6358             /* just process what we have room for */
6359             shortbuffered = cnt - SvLEN(sv) + append + 1;
6360             cnt -= shortbuffered;
6361         }
6362         else {
6363             shortbuffered = 0;
6364             /* remember that cnt can be negative */
6365             SvGROW(sv, (STRLEN)(append + (cnt <= 0 ? 2 : (cnt + 1))));
6366         }
6367     }
6368     else
6369         shortbuffered = 0;
6370     bp = (STDCHAR*)SvPVX_const(sv) + append;  /* move these two too to registers */
6371     ptr = (STDCHAR*)PerlIO_get_ptr(fp);
6372     DEBUG_P(PerlIO_printf(Perl_debug_log,
6373         "Screamer: entering, ptr=%"UVuf", cnt=%ld\n",PTR2UV(ptr),(long)cnt));
6374     DEBUG_P(PerlIO_printf(Perl_debug_log,
6375         "Screamer: entering: PerlIO * thinks ptr=%"UVuf", cnt=%ld, base=%"UVuf"\n",
6376                PTR2UV(PerlIO_get_ptr(fp)), (long)PerlIO_get_cnt(fp),
6377                PTR2UV(PerlIO_has_base(fp) ? PerlIO_get_base(fp) : 0)));
6378     for (;;) {
6379       screamer:
6380         if (cnt > 0) {
6381             if (rslen) {
6382                 while (cnt > 0) {                    /* this     |  eat */
6383                     cnt--;
6384                     if ((*bp++ = *ptr++) == rslast)  /* really   |  dust */
6385                         goto thats_all_folks;        /* screams  |  sed :-) */
6386                 }
6387             }
6388             else {
6389                 Copy(ptr, bp, cnt, char);            /* this     |  eat */
6390                 bp += cnt;                           /* screams  |  dust */
6391                 ptr += cnt;                          /* louder   |  sed :-) */
6392                 cnt = 0;
6393             }
6394         }
6395         
6396         if (shortbuffered) {            /* oh well, must extend */
6397             cnt = shortbuffered;
6398             shortbuffered = 0;
6399             bpx = bp - (STDCHAR*)SvPVX_const(sv); /* box up before relocation */
6400             SvCUR_set(sv, bpx);
6401             SvGROW(sv, SvLEN(sv) + append + cnt + 2);
6402             bp = (STDCHAR*)SvPVX_const(sv) + bpx; /* unbox after relocation */
6403             continue;
6404         }
6405
6406         DEBUG_P(PerlIO_printf(Perl_debug_log,
6407                               "Screamer: going to getc, ptr=%"UVuf", cnt=%ld\n",
6408                               PTR2UV(ptr),(long)cnt));
6409         PerlIO_set_ptrcnt(fp, (STDCHAR*)ptr, cnt); /* deregisterize cnt and ptr */
6410 #if 0
6411         DEBUG_P(PerlIO_printf(Perl_debug_log,
6412             "Screamer: pre: FILE * thinks ptr=%"UVuf", cnt=%ld, base=%"UVuf"\n",
6413             PTR2UV(PerlIO_get_ptr(fp)), (long)PerlIO_get_cnt(fp),
6414             PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
6415 #endif
6416         /* This used to call 'filbuf' in stdio form, but as that behaves like
6417            getc when cnt <= 0 we use PerlIO_getc here to avoid introducing
6418            another abstraction.  */
6419         i   = PerlIO_getc(fp);          /* get more characters */
6420 #if 0
6421         DEBUG_P(PerlIO_printf(Perl_debug_log,
6422             "Screamer: post: FILE * thinks ptr=%"UVuf", cnt=%ld, base=%"UVuf"\n",
6423             PTR2UV(PerlIO_get_ptr(fp)), (long)PerlIO_get_cnt(fp),
6424             PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
6425 #endif
6426         cnt = PerlIO_get_cnt(fp);
6427         ptr = (STDCHAR*)PerlIO_get_ptr(fp);     /* reregisterize cnt and ptr */
6428         DEBUG_P(PerlIO_printf(Perl_debug_log,
6429             "Screamer: after getc, ptr=%"UVuf", cnt=%ld\n",PTR2UV(ptr),(long)cnt));
6430
6431         if (i == EOF)                   /* all done for ever? */
6432             goto thats_really_all_folks;
6433
6434         bpx = bp - (STDCHAR*)SvPVX_const(sv);   /* box up before relocation */
6435         SvCUR_set(sv, bpx);
6436         SvGROW(sv, bpx + cnt + 2);
6437         bp = (STDCHAR*)SvPVX_const(sv) + bpx;   /* unbox after relocation */
6438
6439         *bp++ = (STDCHAR)i;             /* store character from PerlIO_getc */
6440
6441         if (rslen && (STDCHAR)i == rslast)  /* all done for now? */
6442             goto thats_all_folks;
6443     }
6444
6445 thats_all_folks:
6446     if ((rslen > 1 && (STRLEN)(bp - (STDCHAR*)SvPVX_const(sv)) < rslen) ||
6447           memNE((char*)bp - rslen, rsptr, rslen))
6448         goto screamer;                          /* go back to the fray */
6449 thats_really_all_folks:
6450     if (shortbuffered)
6451         cnt += shortbuffered;
6452         DEBUG_P(PerlIO_printf(Perl_debug_log,
6453             "Screamer: quitting, ptr=%"UVuf", cnt=%ld\n",PTR2UV(ptr),(long)cnt));
6454     PerlIO_set_ptrcnt(fp, (STDCHAR*)ptr, cnt);  /* put these back or we're in trouble */
6455     DEBUG_P(PerlIO_printf(Perl_debug_log,
6456         "Screamer: end: FILE * thinks ptr=%"UVuf", cnt=%ld, base=%"UVuf"\n",
6457         PTR2UV(PerlIO_get_ptr(fp)), (long)PerlIO_get_cnt(fp),
6458         PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
6459     *bp = '\0';
6460     SvCUR_set(sv, bp - (STDCHAR*)SvPVX_const(sv));      /* set length */
6461     DEBUG_P(PerlIO_printf(Perl_debug_log,
6462         "Screamer: done, len=%ld, string=|%.*s|\n",
6463         (long)SvCUR(sv),(int)SvCUR(sv),SvPVX_const(sv)));
6464     }
6465    else
6466     {
6467        /*The big, slow, and stupid way. */
6468 #ifdef USE_HEAP_INSTEAD_OF_STACK        /* Even slower way. */
6469         STDCHAR *buf = NULL;
6470         Newx(buf, 8192, STDCHAR);
6471         assert(buf);
6472 #else
6473         STDCHAR buf[8192];
6474 #endif
6475
6476 screamer2:
6477         if (rslen) {
6478             register const STDCHAR * const bpe = buf + sizeof(buf);
6479             bp = buf;
6480             while ((i = PerlIO_getc(fp)) != EOF && (*bp++ = (STDCHAR)i) != rslast && bp < bpe)
6481                 ; /* keep reading */
6482             cnt = bp - buf;
6483         }
6484         else {
6485             cnt = PerlIO_read(fp,(char*)buf, sizeof(buf));
6486             /* Accomodate broken VAXC compiler, which applies U8 cast to
6487              * both args of ?: operator, causing EOF to change into 255
6488              */
6489             if (cnt > 0)
6490                  i = (U8)buf[cnt - 1];
6491             else
6492                  i = EOF;
6493         }
6494
6495         if (cnt < 0)
6496             cnt = 0;  /* we do need to re-set the sv even when cnt <= 0 */
6497         if (append)
6498              sv_catpvn(sv, (char *) buf, cnt);
6499         else
6500              sv_setpvn(sv, (char *) buf, cnt);
6501
6502         if (i != EOF &&                 /* joy */
6503             (!rslen ||
6504              SvCUR(sv) < rslen ||
6505              memNE(SvPVX_const(sv) + SvCUR(sv) - rslen, rsptr, rslen)))
6506         {
6507             append = -1;
6508             /*
6509              * If we're reading from a TTY and we get a short read,
6510              * indicating that the user hit his EOF character, we need
6511              * to notice it now, because if we try to read from the TTY
6512              * again, the EOF condition will disappear.
6513              *
6514              * The comparison of cnt to sizeof(buf) is an optimization
6515              * that prevents unnecessary calls to feof().
6516              *
6517              * - jik 9/25/96
6518              */
6519             if (!(cnt < sizeof(buf) && PerlIO_eof(fp)))
6520                 goto screamer2;
6521         }
6522
6523 #ifdef USE_HEAP_INSTEAD_OF_STACK
6524         Safefree(buf);
6525 #endif
6526     }
6527
6528     if (rspara) {               /* have to do this both before and after */
6529         while (i != EOF) {      /* to make sure file boundaries work right */
6530             i = PerlIO_getc(fp);
6531             if (i != '\n') {
6532                 PerlIO_ungetc(fp,i);
6533                 break;
6534             }
6535         }
6536     }
6537
6538 return_string_or_null:
6539     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
6540 }
6541
6542 /*
6543 =for apidoc sv_inc
6544
6545 Auto-increment of the value in the SV, doing string to numeric conversion
6546 if necessary. Handles 'get' magic.
6547
6548 =cut
6549 */
6550
6551 void
6552 Perl_sv_inc(pTHX_ register SV *sv)
6553 {
6554     dVAR;
6555     register char *d;
6556     int flags;
6557
6558     if (!sv)
6559         return;
6560     SvGETMAGIC(sv);
6561     if (SvTHINKFIRST(sv)) {
6562         if (SvIsCOW(sv))
6563             sv_force_normal_flags(sv, 0);
6564         if (SvREADONLY(sv)) {
6565             if (IN_PERL_RUNTIME)
6566                 Perl_croak(aTHX_ PL_no_modify);
6567         }
6568         if (SvROK(sv)) {
6569             IV i;
6570             if (SvAMAGIC(sv) && AMG_CALLun(sv,inc))
6571                 return;
6572             i = PTR2IV(SvRV(sv));
6573             sv_unref(sv);
6574             sv_setiv(sv, i);
6575         }
6576     }
6577     flags = SvFLAGS(sv);
6578     if ((flags & (SVp_NOK|SVp_IOK)) == SVp_NOK) {
6579         /* It's (privately or publicly) a float, but not tested as an
6580            integer, so test it to see. */
6581         (void) SvIV(sv);
6582         flags = SvFLAGS(sv);
6583     }
6584     if ((flags & SVf_IOK) || ((flags & (SVp_IOK | SVp_NOK)) == SVp_IOK)) {
6585         /* It's publicly an integer, or privately an integer-not-float */
6586 #ifdef PERL_PRESERVE_IVUV
6587       oops_its_int:
6588 #endif
6589         if (SvIsUV(sv)) {
6590             if (SvUVX(sv) == UV_MAX)
6591                 sv_setnv(sv, UV_MAX_P1);
6592             else
6593                 (void)SvIOK_only_UV(sv);
6594                 SvUV_set(sv, SvUVX(sv) + 1);
6595         } else {
6596             if (SvIVX(sv) == IV_MAX)
6597                 sv_setuv(sv, (UV)IV_MAX + 1);
6598             else {
6599                 (void)SvIOK_only(sv);
6600                 SvIV_set(sv, SvIVX(sv) + 1);
6601             }   
6602         }
6603         return;
6604     }
6605     if (flags & SVp_NOK) {
6606         (void)SvNOK_only(sv);
6607         SvNV_set(sv, SvNVX(sv) + 1.0);
6608         return;
6609     }
6610
6611     if (!(flags & SVp_POK) || !*SvPVX_const(sv)) {
6612         if ((flags & SVTYPEMASK) < SVt_PVIV)
6613             sv_upgrade(sv, ((flags & SVTYPEMASK) > SVt_IV ? SVt_PVIV : SVt_IV));
6614         (void)SvIOK_only(sv);
6615         SvIV_set(sv, 1);
6616         return;
6617     }
6618     d = SvPVX(sv);
6619     while (isALPHA(*d)) d++;
6620     while (isDIGIT(*d)) d++;
6621     if (*d) {
6622 #ifdef PERL_PRESERVE_IVUV
6623         /* Got to punt this as an integer if needs be, but we don't issue
6624            warnings. Probably ought to make the sv_iv_please() that does
6625            the conversion if possible, and silently.  */
6626         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), NULL);
6627         if (numtype && !(numtype & IS_NUMBER_INFINITY)) {
6628             /* Need to try really hard to see if it's an integer.
6629                9.22337203685478e+18 is an integer.
6630                but "9.22337203685478e+18" + 0 is UV=9223372036854779904
6631                so $a="9.22337203685478e+18"; $a+0; $a++
6632                needs to be the same as $a="9.22337203685478e+18"; $a++
6633                or we go insane. */
6634         
6635             (void) sv_2iv(sv);
6636             if (SvIOK(sv))
6637                 goto oops_its_int;
6638
6639             /* sv_2iv *should* have made this an NV */
6640             if (flags & SVp_NOK) {
6641                 (void)SvNOK_only(sv);
6642                 SvNV_set(sv, SvNVX(sv) + 1.0);
6643                 return;
6644             }
6645             /* I don't think we can get here. Maybe I should assert this
6646                And if we do get here I suspect that sv_setnv will croak. NWC
6647                Fall through. */
6648 #if defined(USE_LONG_DOUBLE)
6649             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_inc punt failed to convert '%s' to IOK or NOKp, UV=0x%"UVxf" NV=%"PERL_PRIgldbl"\n",
6650                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
6651 #else
6652             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_inc punt failed to convert '%s' to IOK or NOKp, UV=0x%"UVxf" NV=%"NVgf"\n",
6653                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
6654 #endif
6655         }
6656 #endif /* PERL_PRESERVE_IVUV */
6657         sv_setnv(sv,Atof(SvPVX_const(sv)) + 1.0);
6658         return;
6659     }
6660     d--;
6661     while (d >= SvPVX_const(sv)) {
6662         if (isDIGIT(*d)) {
6663             if (++*d <= '9')
6664                 return;
6665             *(d--) = '0';
6666         }
6667         else {
6668 #ifdef EBCDIC
6669             /* MKS: The original code here died if letters weren't consecutive.
6670              * at least it didn't have to worry about non-C locales.  The
6671              * new code assumes that ('z'-'a')==('Z'-'A'), letters are
6672              * arranged in order (although not consecutively) and that only
6673              * [A-Za-z] are accepted by isALPHA in the C locale.
6674              */
6675             if (*d != 'z' && *d != 'Z') {
6676                 do { ++*d; } while (!isALPHA(*d));
6677                 return;
6678             }
6679             *(d--) -= 'z' - 'a';
6680 #else
6681             ++*d;
6682             if (isALPHA(*d))
6683                 return;
6684             *(d--) -= 'z' - 'a' + 1;
6685 #endif
6686         }
6687     }
6688     /* oh,oh, the number grew */
6689     SvGROW(sv, SvCUR(sv) + 2);
6690     SvCUR_set(sv, SvCUR(sv) + 1);
6691     for (d = SvPVX(sv) + SvCUR(sv); d > SvPVX_const(sv); d--)
6692         *d = d[-1];
6693     if (isDIGIT(d[1]))
6694         *d = '1';
6695     else
6696         *d = d[1];
6697 }
6698
6699 /*
6700 =for apidoc sv_dec
6701
6702 Auto-decrement of the value in the SV, doing string to numeric conversion
6703 if necessary. Handles 'get' magic.
6704
6705 =cut
6706 */
6707
6708 void
6709 Perl_sv_dec(pTHX_ register SV *sv)
6710 {
6711     dVAR;
6712     int flags;
6713
6714     if (!sv)
6715         return;
6716     SvGETMAGIC(sv);
6717     if (SvTHINKFIRST(sv)) {
6718         if (SvIsCOW(sv))
6719             sv_force_normal_flags(sv, 0);
6720         if (SvREADONLY(sv)) {
6721             if (IN_PERL_RUNTIME)
6722                 Perl_croak(aTHX_ PL_no_modify);
6723         }
6724         if (SvROK(sv)) {
6725             IV i;
6726             if (SvAMAGIC(sv) && AMG_CALLun(sv,dec))
6727                 return;
6728             i = PTR2IV(SvRV(sv));
6729             sv_unref(sv);
6730             sv_setiv(sv, i);
6731         }
6732     }
6733     /* Unlike sv_inc we don't have to worry about string-never-numbers
6734        and keeping them magic. But we mustn't warn on punting */
6735     flags = SvFLAGS(sv);
6736     if ((flags & SVf_IOK) || ((flags & (SVp_IOK | SVp_NOK)) == SVp_IOK)) {
6737         /* It's publicly an integer, or privately an integer-not-float */
6738 #ifdef PERL_PRESERVE_IVUV
6739       oops_its_int:
6740 #endif
6741         if (SvIsUV(sv)) {
6742             if (SvUVX(sv) == 0) {
6743                 (void)SvIOK_only(sv);
6744                 SvIV_set(sv, -1);
6745             }
6746             else {
6747                 (void)SvIOK_only_UV(sv);
6748                 SvUV_set(sv, SvUVX(sv) - 1);
6749             }   
6750         } else {
6751             if (SvIVX(sv) == IV_MIN)
6752                 sv_setnv(sv, (NV)IV_MIN - 1.0);
6753             else {
6754                 (void)SvIOK_only(sv);
6755                 SvIV_set(sv, SvIVX(sv) - 1);
6756             }   
6757         }
6758         return;
6759     }
6760     if (flags & SVp_NOK) {
6761         SvNV_set(sv, SvNVX(sv) - 1.0);
6762         (void)SvNOK_only(sv);
6763         return;
6764     }
6765     if (!(flags & SVp_POK)) {
6766         if ((flags & SVTYPEMASK) < SVt_PVIV)
6767             sv_upgrade(sv, ((flags & SVTYPEMASK) > SVt_IV) ? SVt_PVIV : SVt_IV);
6768         SvIV_set(sv, -1);
6769         (void)SvIOK_only(sv);
6770         return;
6771     }
6772 #ifdef PERL_PRESERVE_IVUV
6773     {
6774         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), NULL);
6775         if (numtype && !(numtype & IS_NUMBER_INFINITY)) {
6776             /* Need to try really hard to see if it's an integer.
6777                9.22337203685478e+18 is an integer.
6778                but "9.22337203685478e+18" + 0 is UV=9223372036854779904
6779                so $a="9.22337203685478e+18"; $a+0; $a--
6780                needs to be the same as $a="9.22337203685478e+18"; $a--
6781                or we go insane. */
6782         
6783             (void) sv_2iv(sv);
6784             if (SvIOK(sv))
6785                 goto oops_its_int;
6786
6787             /* sv_2iv *should* have made this an NV */
6788             if (flags & SVp_NOK) {
6789                 (void)SvNOK_only(sv);
6790                 SvNV_set(sv, SvNVX(sv) - 1.0);
6791                 return;
6792             }
6793             /* I don't think we can get here. Maybe I should assert this
6794                And if we do get here I suspect that sv_setnv will croak. NWC
6795                Fall through. */
6796 #if defined(USE_LONG_DOUBLE)
6797             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_dec punt failed to convert '%s' to IOK or NOKp, UV=0x%"UVxf" NV=%"PERL_PRIgldbl"\n",
6798                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
6799 #else
6800             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_dec punt failed to convert '%s' to IOK or NOKp, UV=0x%"UVxf" NV=%"NVgf"\n",
6801                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
6802 #endif
6803         }
6804     }
6805 #endif /* PERL_PRESERVE_IVUV */
6806     sv_setnv(sv,Atof(SvPVX_const(sv)) - 1.0);   /* punt */
6807 }
6808
6809 /*
6810 =for apidoc sv_mortalcopy
6811
6812 Creates a new SV which is a copy of the original SV (using C<sv_setsv>).
6813 The new SV is marked as mortal. It will be destroyed "soon", either by an
6814 explicit call to FREETMPS, or by an implicit call at places such as
6815 statement boundaries.  See also C<sv_newmortal> and C<sv_2mortal>.
6816
6817 =cut
6818 */
6819
6820 /* Make a string that will exist for the duration of the expression
6821  * evaluation.  Actually, it may have to last longer than that, but
6822  * hopefully we won't free it until it has been assigned to a
6823  * permanent location. */
6824
6825 SV *
6826 Perl_sv_mortalcopy(pTHX_ SV *oldstr)
6827 {
6828     dVAR;
6829     register SV *sv;
6830
6831     new_SV(sv);
6832     sv_setsv(sv,oldstr);
6833     EXTEND_MORTAL(1);
6834     PL_tmps_stack[++PL_tmps_ix] = sv;
6835     SvTEMP_on(sv);
6836     return sv;
6837 }
6838
6839 /*
6840 =for apidoc sv_newmortal
6841
6842 Creates a new null SV which is mortal.  The reference count of the SV is
6843 set to 1. It will be destroyed "soon", either by an explicit call to
6844 FREETMPS, or by an implicit call at places such as statement boundaries.
6845 See also C<sv_mortalcopy> and C<sv_2mortal>.
6846
6847 =cut
6848 */
6849
6850 SV *
6851 Perl_sv_newmortal(pTHX)
6852 {
6853     dVAR;
6854     register SV *sv;
6855
6856     new_SV(sv);
6857     SvFLAGS(sv) = SVs_TEMP;
6858     EXTEND_MORTAL(1);
6859     PL_tmps_stack[++PL_tmps_ix] = sv;
6860     return sv;
6861 }
6862
6863 /*
6864 =for apidoc sv_2mortal
6865
6866 Marks an existing SV as mortal.  The SV will be destroyed "soon", either
6867 by an explicit call to FREETMPS, or by an implicit call at places such as
6868 statement boundaries.  SvTEMP() is turned on which means that the SV's
6869 string buffer can be "stolen" if this SV is copied. See also C<sv_newmortal>
6870 and C<sv_mortalcopy>.
6871
6872 =cut
6873 */
6874
6875 SV *
6876 Perl_sv_2mortal(pTHX_ register SV *sv)
6877 {
6878     dVAR;
6879     if (!sv)
6880         return NULL;
6881     if (SvREADONLY(sv) && SvIMMORTAL(sv))
6882         return sv;
6883     EXTEND_MORTAL(1);
6884     PL_tmps_stack[++PL_tmps_ix] = sv;
6885     SvTEMP_on(sv);
6886     return sv;
6887 }
6888
6889 /*
6890 =for apidoc newSVpv
6891
6892 Creates a new SV and copies a string into it.  The reference count for the
6893 SV is set to 1.  If C<len> is zero, Perl will compute the length using
6894 strlen().  For efficiency, consider using C<newSVpvn> instead.
6895
6896 =cut
6897 */
6898
6899 SV *
6900 Perl_newSVpv(pTHX_ const char *s, STRLEN len)
6901 {
6902     dVAR;
6903     register SV *sv;
6904
6905     new_SV(sv);
6906     sv_setpvn(sv,s,len ? len : strlen(s));
6907     return sv;
6908 }
6909
6910 /*
6911 =for apidoc newSVpvn
6912
6913 Creates a new SV and copies a string into it.  The reference count for the
6914 SV is set to 1.  Note that if C<len> is zero, Perl will create a zero length
6915 string.  You are responsible for ensuring that the source string is at least
6916 C<len> bytes long.  If the C<s> argument is NULL the new SV will be undefined.
6917
6918 =cut
6919 */
6920
6921 SV *
6922 Perl_newSVpvn(pTHX_ const char *s, STRLEN len)
6923 {
6924     dVAR;
6925     register SV *sv;
6926
6927     new_SV(sv);
6928     sv_setpvn(sv,s,len);
6929     return sv;
6930 }
6931
6932
6933 /*
6934 =for apidoc newSVhek
6935
6936 Creates a new SV from the hash key structure.  It will generate scalars that
6937 point to the shared string table where possible. Returns a new (undefined)
6938 SV if the hek is NULL.
6939
6940 =cut
6941 */
6942
6943 SV *
6944 Perl_newSVhek(pTHX_ const HEK *hek)
6945 {
6946     dVAR;
6947     if (!hek) {
6948         SV *sv;
6949
6950         new_SV(sv);
6951         return sv;
6952     }
6953
6954     if (HEK_LEN(hek) == HEf_SVKEY) {
6955         return newSVsv(*(SV**)HEK_KEY(hek));
6956     } else {
6957         const int flags = HEK_FLAGS(hek);
6958         if (flags & HVhek_WASUTF8) {
6959             /* Trouble :-)
6960                Andreas would like keys he put in as utf8 to come back as utf8
6961             */
6962             STRLEN utf8_len = HEK_LEN(hek);
6963             const U8 *as_utf8 = bytes_to_utf8 ((U8*)HEK_KEY(hek), &utf8_len);
6964             SV * const sv = newSVpvn ((const char*)as_utf8, utf8_len);
6965
6966             SvUTF8_on (sv);
6967             Safefree (as_utf8); /* bytes_to_utf8() allocates a new string */
6968             return sv;
6969         } else if (flags & HVhek_REHASH) {
6970             /* We don't have a pointer to the hv, so we have to replicate the
6971                flag into every HEK. This hv is using custom a hasing
6972                algorithm. Hence we can't return a shared string scalar, as
6973                that would contain the (wrong) hash value, and might get passed
6974                into an hv routine with a regular hash  */
6975
6976             SV * const sv = newSVpvn (HEK_KEY(hek), HEK_LEN(hek));
6977             if (HEK_UTF8(hek))
6978                 SvUTF8_on (sv);
6979             return sv;
6980         }
6981         /* This will be overwhelminly the most common case.  */
6982         {
6983             /* Inline most of newSVpvn_share(), because share_hek_hek() is far
6984                more efficient than sharepvn().  */
6985             SV *sv;
6986
6987             new_SV(sv);
6988             sv_upgrade(sv, SVt_PV);
6989             SvPV_set(sv, (char *)HEK_KEY(share_hek_hek(hek)));
6990             SvCUR_set(sv, HEK_LEN(hek));
6991             SvLEN_set(sv, 0);
6992             SvREADONLY_on(sv);
6993             SvFAKE_on(sv);
6994             SvPOK_on(sv);
6995             if (HEK_UTF8(hek))
6996                 SvUTF8_on(sv);
6997             return sv;
6998         }
6999     }
7000 }
7001
7002 /*
7003 =for apidoc newSVpvn_share
7004
7005 Creates a new SV with its SvPVX_const pointing to a shared string in the string
7006 table. If the string does not already exist in the table, it is created
7007 first.  Turns on READONLY and FAKE.  The string's hash is stored in the UV
7008 slot of the SV; if the C<hash> parameter is non-zero, that value is used;
7009 otherwise the hash is computed.  The idea here is that as the string table
7010 is used for shared hash keys these strings will have SvPVX_const == HeKEY and
7011 hash lookup will avoid string compare.
7012
7013 =cut
7014 */
7015
7016 SV *
7017 Perl_newSVpvn_share(pTHX_ const char *src, I32 len, U32 hash)
7018 {
7019     dVAR;
7020     register SV *sv;
7021     bool is_utf8 = FALSE;
7022     const char *const orig_src = src;
7023
7024     if (len < 0) {
7025         STRLEN tmplen = -len;
7026         is_utf8 = TRUE;
7027         /* See the note in hv.c:hv_fetch() --jhi */
7028         src = (char*)bytes_from_utf8((const U8*)src, &tmplen, &is_utf8);
7029         len = tmplen;
7030     }
7031     if (!hash)
7032         PERL_HASH(hash, src, len);
7033     new_SV(sv);
7034     sv_upgrade(sv, SVt_PV);
7035     SvPV_set(sv, sharepvn(src, is_utf8?-len:len, hash));
7036     SvCUR_set(sv, len);
7037     SvLEN_set(sv, 0);
7038     SvREADONLY_on(sv);
7039     SvFAKE_on(sv);
7040     SvPOK_on(sv);
7041     if (is_utf8)
7042         SvUTF8_on(sv);
7043     if (src != orig_src)
7044         Safefree(src);
7045     return sv;
7046 }
7047
7048
7049 #if defined(PERL_IMPLICIT_CONTEXT)
7050
7051 /* pTHX_ magic can't cope with varargs, so this is a no-context
7052  * version of the main function, (which may itself be aliased to us).
7053  * Don't access this version directly.
7054  */
7055
7056 SV *
7057 Perl_newSVpvf_nocontext(const char* pat, ...)
7058 {
7059     dTHX;
7060     register SV *sv;
7061     va_list args;
7062     va_start(args, pat);
7063     sv = vnewSVpvf(pat, &args);
7064     va_end(args);
7065     return sv;
7066 }
7067 #endif
7068
7069 /*
7070 =for apidoc newSVpvf
7071
7072 Creates a new SV and initializes it with the string formatted like
7073 C<sprintf>.
7074
7075 =cut
7076 */
7077
7078 SV *
7079 Perl_newSVpvf(pTHX_ const char* pat, ...)
7080 {
7081     register SV *sv;
7082     va_list args;
7083     va_start(args, pat);
7084     sv = vnewSVpvf(pat, &args);
7085     va_end(args);
7086     return sv;
7087 }
7088
7089 /* backend for newSVpvf() and newSVpvf_nocontext() */
7090
7091 SV *
7092 Perl_vnewSVpvf(pTHX_ const char* pat, va_list* args)
7093 {
7094     dVAR;
7095     register SV *sv;
7096     new_SV(sv);
7097     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
7098     return sv;
7099 }
7100
7101 /*
7102 =for apidoc newSVnv
7103
7104 Creates a new SV and copies a floating point value into it.
7105 The reference count for the SV is set to 1.
7106
7107 =cut
7108 */
7109
7110 SV *
7111 Perl_newSVnv(pTHX_ NV n)
7112 {
7113     dVAR;
7114     register SV *sv;
7115
7116     new_SV(sv);
7117     sv_setnv(sv,n);
7118     return sv;
7119 }
7120
7121 /*
7122 =for apidoc newSViv
7123
7124 Creates a new SV and copies an integer into it.  The reference count for the
7125 SV is set to 1.
7126
7127 =cut
7128 */
7129
7130 SV *
7131 Perl_newSViv(pTHX_ IV i)
7132 {
7133     dVAR;
7134     register SV *sv;
7135
7136     new_SV(sv);
7137     sv_setiv(sv,i);
7138     return sv;
7139 }
7140
7141 /*
7142 =for apidoc newSVuv
7143
7144 Creates a new SV and copies an unsigned integer into it.
7145 The reference count for the SV is set to 1.
7146
7147 =cut
7148 */
7149
7150 SV *
7151 Perl_newSVuv(pTHX_ UV u)
7152 {
7153     dVAR;
7154     register SV *sv;
7155
7156     new_SV(sv);
7157     sv_setuv(sv,u);
7158     return sv;
7159 }
7160
7161 /*
7162 =for apidoc newRV_noinc
7163
7164 Creates an RV wrapper for an SV.  The reference count for the original
7165 SV is B<not> incremented.
7166
7167 =cut
7168 */
7169
7170 SV *
7171 Perl_newRV_noinc(pTHX_ SV *tmpRef)
7172 {
7173     dVAR;
7174     register SV *sv;
7175
7176     new_SV(sv);
7177     sv_upgrade(sv, SVt_RV);
7178     SvTEMP_off(tmpRef);
7179     SvRV_set(sv, tmpRef);
7180     SvROK_on(sv);
7181     return sv;
7182 }
7183
7184 /* newRV_inc is the official function name to use now.
7185  * newRV_inc is in fact #defined to newRV in sv.h
7186  */
7187
7188 SV *
7189 Perl_newRV(pTHX_ SV *sv)
7190 {
7191     dVAR;
7192     return newRV_noinc(SvREFCNT_inc_simple_NN(sv));
7193 }
7194
7195 /*
7196 =for apidoc newSVsv
7197
7198 Creates a new SV which is an exact duplicate of the original SV.
7199 (Uses C<sv_setsv>).
7200
7201 =cut
7202 */
7203
7204 SV *
7205 Perl_newSVsv(pTHX_ register SV *old)
7206 {
7207     dVAR;
7208     register SV *sv;
7209
7210     if (!old)
7211         return NULL;
7212     if (SvTYPE(old) == SVTYPEMASK) {
7213         if (ckWARN_d(WARN_INTERNAL))
7214             Perl_warner(aTHX_ packWARN(WARN_INTERNAL), "semi-panic: attempt to dup freed string");
7215         return NULL;
7216     }
7217     new_SV(sv);
7218     /* SV_GMAGIC is the default for sv_setv()
7219        SV_NOSTEAL prevents TEMP buffers being, well, stolen, and saves games
7220        with SvTEMP_off and SvTEMP_on round a call to sv_setsv.  */
7221     sv_setsv_flags(sv, old, SV_GMAGIC | SV_NOSTEAL);
7222     return sv;
7223 }
7224
7225 /*
7226 =for apidoc sv_reset
7227
7228 Underlying implementation for the C<reset> Perl function.
7229 Note that the perl-level function is vaguely deprecated.
7230
7231 =cut
7232 */
7233
7234 void
7235 Perl_sv_reset(pTHX_ register const char *s, HV *stash)
7236 {
7237     dVAR;
7238     char todo[PERL_UCHAR_MAX+1];
7239
7240     if (!stash)
7241         return;
7242
7243     if (!*s) {          /* reset ?? searches */
7244         MAGIC * const mg = mg_find((SV *)stash, PERL_MAGIC_symtab);
7245         if (mg) {
7246             PMOP *pm = (PMOP *) mg->mg_obj;
7247             while (pm) {
7248                 pm->op_pmdynflags &= ~PMdf_USED;
7249                 pm = pm->op_pmnext;
7250             }
7251         }
7252         return;
7253     }
7254
7255     /* reset variables */
7256
7257     if (!HvARRAY(stash))
7258         return;
7259
7260     Zero(todo, 256, char);
7261     while (*s) {
7262         I32 max;
7263         I32 i = (unsigned char)*s;
7264         if (s[1] == '-') {
7265             s += 2;
7266         }
7267         max = (unsigned char)*s++;
7268         for ( ; i <= max; i++) {
7269             todo[i] = 1;
7270         }
7271         for (i = 0; i <= (I32) HvMAX(stash); i++) {
7272             HE *entry;
7273             for (entry = HvARRAY(stash)[i];
7274                  entry;
7275                  entry = HeNEXT(entry))
7276             {
7277                 register GV *gv;
7278                 register SV *sv;
7279
7280                 if (!todo[(U8)*HeKEY(entry)])
7281                     continue;
7282                 gv = (GV*)HeVAL(entry);
7283                 sv = GvSV(gv);
7284                 if (sv) {
7285                     if (SvTHINKFIRST(sv)) {
7286                         if (!SvREADONLY(sv) && SvROK(sv))
7287                             sv_unref(sv);
7288                         /* XXX Is this continue a bug? Why should THINKFIRST
7289                            exempt us from resetting arrays and hashes?  */
7290                         continue;
7291                     }
7292                     SvOK_off(sv);
7293                     if (SvTYPE(sv) >= SVt_PV) {
7294                         SvCUR_set(sv, 0);
7295                         if (SvPVX_const(sv) != NULL)
7296                             *SvPVX(sv) = '\0';
7297                         SvTAINT(sv);
7298                     }
7299                 }
7300                 if (GvAV(gv)) {
7301                     av_clear(GvAV(gv));
7302                 }
7303                 if (GvHV(gv) && !HvNAME_get(GvHV(gv))) {
7304 #if defined(VMS)
7305                     Perl_die(aTHX_ "Can't reset %%ENV on this system");
7306 #else /* ! VMS */
7307                     hv_clear(GvHV(gv));
7308 #  if defined(USE_ENVIRON_ARRAY)
7309                     if (gv == PL_envgv)
7310                         my_clearenv();
7311 #  endif /* USE_ENVIRON_ARRAY */
7312 #endif /* VMS */
7313                 }
7314             }
7315         }
7316     }
7317 }
7318
7319 /*
7320 =for apidoc sv_2io
7321
7322 Using various gambits, try to get an IO from an SV: the IO slot if its a
7323 GV; or the recursive result if we're an RV; or the IO slot of the symbol
7324 named after the PV if we're a string.
7325
7326 =cut
7327 */
7328
7329 IO*
7330 Perl_sv_2io(pTHX_ SV *sv)
7331 {
7332     IO* io;
7333     GV* gv;
7334
7335     switch (SvTYPE(sv)) {
7336     case SVt_PVIO:
7337         io = (IO*)sv;
7338         break;
7339     case SVt_PVGV:
7340         gv = (GV*)sv;
7341         io = GvIO(gv);
7342         if (!io)
7343             Perl_croak(aTHX_ "Bad filehandle: %s", GvNAME(gv));
7344         break;
7345     default:
7346         if (!SvOK(sv))
7347             Perl_croak(aTHX_ PL_no_usym, "filehandle");
7348         if (SvROK(sv))
7349             return sv_2io(SvRV(sv));
7350         gv = gv_fetchsv(sv, 0, SVt_PVIO);
7351         if (gv)
7352             io = GvIO(gv);
7353         else
7354             io = 0;
7355         if (!io)
7356             Perl_croak(aTHX_ "Bad filehandle: %"SVf, sv);
7357         break;
7358     }
7359     return io;
7360 }
7361
7362 /*
7363 =for apidoc sv_2cv
7364
7365 Using various gambits, try to get a CV from an SV; in addition, try if
7366 possible to set C<*st> and C<*gvp> to the stash and GV associated with it.
7367 The flags in C<lref> are passed to sv_fetchsv.
7368
7369 =cut
7370 */
7371
7372 CV *
7373 Perl_sv_2cv(pTHX_ SV *sv, HV **st, GV **gvp, I32 lref)
7374 {
7375     dVAR;
7376     GV *gv = NULL;
7377     CV *cv = NULL;
7378
7379     if (!sv) {
7380         *st = NULL;
7381         *gvp = NULL;
7382         return NULL;
7383     }
7384     switch (SvTYPE(sv)) {
7385     case SVt_PVCV:
7386         *st = CvSTASH(sv);
7387         *gvp = NULL;
7388         return (CV*)sv;
7389     case SVt_PVHV:
7390     case SVt_PVAV:
7391         *st = NULL;
7392         *gvp = NULL;
7393         return NULL;
7394     case SVt_PVGV:
7395         gv = (GV*)sv;
7396         *gvp = gv;
7397         *st = GvESTASH(gv);
7398         goto fix_gv;
7399
7400     default:
7401         SvGETMAGIC(sv);
7402         if (SvROK(sv)) {
7403             SV * const *sp = &sv;       /* Used in tryAMAGICunDEREF macro. */
7404             tryAMAGICunDEREF(to_cv);
7405
7406             sv = SvRV(sv);
7407             if (SvTYPE(sv) == SVt_PVCV) {
7408                 cv = (CV*)sv;
7409                 *gvp = NULL;
7410                 *st = CvSTASH(cv);
7411                 return cv;
7412             }
7413             else if(isGV(sv))
7414                 gv = (GV*)sv;
7415             else
7416                 Perl_croak(aTHX_ "Not a subroutine reference");
7417         }
7418         else if (isGV(sv))
7419             gv = (GV*)sv;
7420         else
7421             gv = gv_fetchsv(sv, lref, SVt_PVCV);
7422         *gvp = gv;
7423         if (!gv) {
7424             *st = NULL;
7425             return NULL;
7426         }
7427         /* Some flags to gv_fetchsv mean don't really create the GV  */
7428         if (SvTYPE(gv) != SVt_PVGV) {
7429             *st = NULL;
7430             return NULL;
7431         }
7432         *st = GvESTASH(gv);
7433     fix_gv:
7434         if (lref && !GvCVu(gv)) {
7435             SV *tmpsv;
7436             ENTER;
7437             tmpsv = newSV(0);
7438             gv_efullname3(tmpsv, gv, NULL);
7439             /* XXX this is probably not what they think they're getting.
7440              * It has the same effect as "sub name;", i.e. just a forward
7441              * declaration! */
7442             newSUB(start_subparse(FALSE, 0),
7443                    newSVOP(OP_CONST, 0, tmpsv),
7444                    NULL, NULL);
7445             LEAVE;
7446             if (!GvCVu(gv))
7447                 Perl_croak(aTHX_ "Unable to create sub named \"%"SVf"\"",
7448                            sv);
7449         }
7450         return GvCVu(gv);
7451     }
7452 }
7453
7454 /*
7455 =for apidoc sv_true
7456
7457 Returns true if the SV has a true value by Perl's rules.
7458 Use the C<SvTRUE> macro instead, which may call C<sv_true()> or may
7459 instead use an in-line version.
7460
7461 =cut
7462 */
7463
7464 I32
7465 Perl_sv_true(pTHX_ register SV *sv)
7466 {
7467     if (!sv)
7468         return 0;
7469     if (SvPOK(sv)) {
7470         register const XPV* const tXpv = (XPV*)SvANY(sv);
7471         if (tXpv &&
7472                 (tXpv->xpv_cur > 1 ||
7473                 (tXpv->xpv_cur && *sv->sv_u.svu_pv != '0')))
7474             return 1;
7475         else
7476             return 0;
7477     }
7478     else {
7479         if (SvIOK(sv))
7480             return SvIVX(sv) != 0;
7481         else {
7482             if (SvNOK(sv))
7483                 return SvNVX(sv) != 0.0;
7484             else
7485                 return sv_2bool(sv);
7486         }
7487     }
7488 }
7489
7490 /*
7491 =for apidoc sv_pvn_force
7492
7493 Get a sensible string out of the SV somehow.
7494 A private implementation of the C<SvPV_force> macro for compilers which
7495 can't cope with complex macro expressions. Always use the macro instead.
7496
7497 =for apidoc sv_pvn_force_flags
7498
7499 Get a sensible string out of the SV somehow.
7500 If C<flags> has C<SV_GMAGIC> bit set, will C<mg_get> on C<sv> if
7501 appropriate, else not. C<sv_pvn_force> and C<sv_pvn_force_nomg> are
7502 implemented in terms of this function.
7503 You normally want to use the various wrapper macros instead: see
7504 C<SvPV_force> and C<SvPV_force_nomg>
7505
7506 =cut
7507 */
7508
7509 char *
7510 Perl_sv_pvn_force_flags(pTHX_ SV *sv, STRLEN *lp, I32 flags)
7511 {
7512     dVAR;
7513     if (SvTHINKFIRST(sv) && !SvROK(sv))
7514         sv_force_normal_flags(sv, 0);
7515
7516     if (SvPOK(sv)) {
7517         if (lp)
7518             *lp = SvCUR(sv);
7519     }
7520     else {
7521         char *s;
7522         STRLEN len;
7523  
7524         if (SvREADONLY(sv) && !(flags & SV_MUTABLE_RETURN)) {
7525             const char * const ref = sv_reftype(sv,0);
7526             if (PL_op)
7527                 Perl_croak(aTHX_ "Can't coerce readonly %s to string in %s",
7528                            ref, OP_NAME(PL_op));
7529             else
7530                 Perl_croak(aTHX_ "Can't coerce readonly %s to string", ref);
7531         }
7532         if (SvTYPE(sv) > SVt_PVLV && SvTYPE(sv) != SVt_PVFM)
7533             Perl_croak(aTHX_ "Can't coerce %s to string in %s", sv_reftype(sv,0),
7534                 OP_NAME(PL_op));
7535         s = sv_2pv_flags(sv, &len, flags);
7536         if (lp)
7537             *lp = len;
7538
7539         if (s != SvPVX_const(sv)) {     /* Almost, but not quite, sv_setpvn() */
7540             if (SvROK(sv))
7541                 sv_unref(sv);
7542             SvUPGRADE(sv, SVt_PV);              /* Never FALSE */
7543             SvGROW(sv, len + 1);
7544             Move(s,SvPVX(sv),len,char);
7545             SvCUR_set(sv, len);
7546             *SvEND(sv) = '\0';
7547         }
7548         if (!SvPOK(sv)) {
7549             SvPOK_on(sv);               /* validate pointer */
7550             SvTAINT(sv);
7551             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%"UVxf" 2pv(%s)\n",
7552                                   PTR2UV(sv),SvPVX_const(sv)));
7553         }
7554     }
7555     return SvPVX_mutable(sv);
7556 }
7557
7558 /*
7559 =for apidoc sv_pvbyten_force
7560
7561 The backend for the C<SvPVbytex_force> macro. Always use the macro instead.
7562
7563 =cut
7564 */
7565
7566 char *
7567 Perl_sv_pvbyten_force(pTHX_ SV *sv, STRLEN *lp)
7568 {
7569     sv_pvn_force(sv,lp);
7570     sv_utf8_downgrade(sv,0);
7571     *lp = SvCUR(sv);
7572     return SvPVX(sv);
7573 }
7574
7575 /*
7576 =for apidoc sv_pvutf8n_force
7577
7578 The backend for the C<SvPVutf8x_force> macro. Always use the macro instead.
7579
7580 =cut
7581 */
7582
7583 char *
7584 Perl_sv_pvutf8n_force(pTHX_ SV *sv, STRLEN *lp)
7585 {
7586     sv_pvn_force(sv,lp);
7587     sv_utf8_upgrade(sv);
7588     *lp = SvCUR(sv);
7589     return SvPVX(sv);
7590 }
7591
7592 /*
7593 =for apidoc sv_reftype
7594
7595 Returns a string describing what the SV is a reference to.
7596
7597 =cut
7598 */
7599
7600 char *
7601 Perl_sv_reftype(pTHX_ const SV *sv, int ob)
7602 {
7603     /* The fact that I don't need to downcast to char * everywhere, only in ?:
7604        inside return suggests a const propagation bug in g++.  */
7605     if (ob && SvOBJECT(sv)) {
7606         char * const name = HvNAME_get(SvSTASH(sv));
7607         return name ? name : (char *) "__ANON__";
7608     }
7609     else {
7610         switch (SvTYPE(sv)) {
7611         case SVt_NULL:
7612         case SVt_IV:
7613         case SVt_NV:
7614         case SVt_RV:
7615         case SVt_PV:
7616         case SVt_PVIV:
7617         case SVt_PVNV:
7618         case SVt_PVMG:
7619         case SVt_PVBM:
7620                                 if (SvVOK(sv))
7621                                     return "VSTRING";
7622                                 if (SvROK(sv))
7623                                     return "REF";
7624                                 else
7625                                     return "SCALAR";
7626
7627         case SVt_PVLV:          return (char *)  (SvROK(sv) ? "REF"
7628                                 /* tied lvalues should appear to be
7629                                  * scalars for backwards compatitbility */
7630                                 : (LvTYPE(sv) == 't' || LvTYPE(sv) == 'T')
7631                                     ? "SCALAR" : "LVALUE");
7632         case SVt_PVAV:          return "ARRAY";
7633         case SVt_PVHV:          return "HASH";
7634         case SVt_PVCV:          return "CODE";
7635         case SVt_PVGV:          return "GLOB";
7636         case SVt_PVFM:          return "FORMAT";
7637         case SVt_PVIO:          return "IO";
7638         default:                return "UNKNOWN";
7639         }
7640     }
7641 }
7642
7643 /*
7644 =for apidoc sv_isobject
7645
7646 Returns a boolean indicating whether the SV is an RV pointing to a blessed
7647 object.  If the SV is not an RV, or if the object is not blessed, then this
7648 will return false.
7649
7650 =cut
7651 */
7652
7653 int
7654 Perl_sv_isobject(pTHX_ SV *sv)
7655 {
7656     if (!sv)
7657         return 0;
7658     SvGETMAGIC(sv);
7659     if (!SvROK(sv))
7660         return 0;
7661     sv = (SV*)SvRV(sv);
7662     if (!SvOBJECT(sv))
7663         return 0;
7664     return 1;
7665 }
7666
7667 /*
7668 =for apidoc sv_isa
7669
7670 Returns a boolean indicating whether the SV is blessed into the specified
7671 class.  This does not check for subtypes; use C<sv_derived_from> to verify
7672 an inheritance relationship.
7673
7674 =cut
7675 */
7676
7677 int
7678 Perl_sv_isa(pTHX_ SV *sv, const char *name)
7679 {
7680     const char *hvname;
7681     if (!sv)
7682         return 0;
7683     SvGETMAGIC(sv);
7684     if (!SvROK(sv))
7685         return 0;
7686     sv = (SV*)SvRV(sv);
7687     if (!SvOBJECT(sv))
7688         return 0;
7689     hvname = HvNAME_get(SvSTASH(sv));
7690     if (!hvname)
7691         return 0;
7692
7693     return strEQ(hvname, name);
7694 }
7695
7696 /*
7697 =for apidoc newSVrv
7698
7699 Creates a new SV for the RV, C<rv>, to point to.  If C<rv> is not an RV then
7700 it will be upgraded to one.  If C<classname> is non-null then the new SV will
7701 be blessed in the specified package.  The new SV is returned and its
7702 reference count is 1.
7703
7704 =cut
7705 */
7706
7707 SV*
7708 Perl_newSVrv(pTHX_ SV *rv, const char *classname)
7709 {
7710     dVAR;
7711     SV *sv;
7712
7713     new_SV(sv);
7714
7715     SV_CHECK_THINKFIRST_COW_DROP(rv);
7716     SvAMAGIC_off(rv);
7717
7718     if (SvTYPE(rv) >= SVt_PVMG) {
7719         const U32 refcnt = SvREFCNT(rv);
7720         SvREFCNT(rv) = 0;
7721         sv_clear(rv);
7722         SvFLAGS(rv) = 0;
7723         SvREFCNT(rv) = refcnt;
7724
7725         sv_upgrade(rv, SVt_RV);
7726     } else if (SvROK(rv)) {
7727         SvREFCNT_dec(SvRV(rv));
7728     } else if (SvTYPE(rv) < SVt_RV)
7729         sv_upgrade(rv, SVt_RV);
7730     else if (SvTYPE(rv) > SVt_RV) {
7731         SvPV_free(rv);
7732         SvCUR_set(rv, 0);
7733         SvLEN_set(rv, 0);
7734     }
7735
7736     SvOK_off(rv);
7737     SvRV_set(rv, sv);
7738     SvROK_on(rv);
7739
7740     if (classname) {
7741         HV* const stash = gv_stashpv(classname, TRUE);
7742         (void)sv_bless(rv, stash);
7743     }
7744     return sv;
7745 }
7746
7747 /*
7748 =for apidoc sv_setref_pv
7749
7750 Copies a pointer into a new SV, optionally blessing the SV.  The C<rv>
7751 argument will be upgraded to an RV.  That RV will be modified to point to
7752 the new SV.  If the C<pv> argument is NULL then C<PL_sv_undef> will be placed
7753 into the SV.  The C<classname> argument indicates the package for the
7754 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
7755 will have a reference count of 1, and the RV will be returned.
7756
7757 Do not use with other Perl types such as HV, AV, SV, CV, because those
7758 objects will become corrupted by the pointer copy process.
7759
7760 Note that C<sv_setref_pvn> copies the string while this copies the pointer.
7761
7762 =cut
7763 */
7764
7765 SV*
7766 Perl_sv_setref_pv(pTHX_ SV *rv, const char *classname, void *pv)
7767 {
7768     dVAR;
7769     if (!pv) {
7770         sv_setsv(rv, &PL_sv_undef);
7771         SvSETMAGIC(rv);
7772     }
7773     else
7774         sv_setiv(newSVrv(rv,classname), PTR2IV(pv));
7775     return rv;
7776 }
7777
7778 /*
7779 =for apidoc sv_setref_iv
7780
7781 Copies an integer into a new SV, optionally blessing the SV.  The C<rv>
7782 argument will be upgraded to an RV.  That RV will be modified to point to
7783 the new SV.  The C<classname> argument indicates the package for the
7784 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
7785 will have a reference count of 1, and the RV will be returned.
7786
7787 =cut
7788 */
7789
7790 SV*
7791 Perl_sv_setref_iv(pTHX_ SV *rv, const char *classname, IV iv)
7792 {
7793     sv_setiv(newSVrv(rv,classname), iv);
7794     return rv;
7795 }
7796
7797 /*
7798 =for apidoc sv_setref_uv
7799
7800 Copies an unsigned integer into a new SV, optionally blessing the SV.  The C<rv>
7801 argument will be upgraded to an RV.  That RV will be modified to point to
7802 the new SV.  The C<classname> argument indicates the package for the
7803 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
7804 will have a reference count of 1, and the RV will be returned.
7805
7806 =cut
7807 */
7808
7809 SV*
7810 Perl_sv_setref_uv(pTHX_ SV *rv, const char *classname, UV uv)
7811 {
7812     sv_setuv(newSVrv(rv,classname), uv);
7813     return rv;
7814 }
7815
7816 /*
7817 =for apidoc sv_setref_nv
7818
7819 Copies a double into a new SV, optionally blessing the SV.  The C<rv>
7820 argument will be upgraded to an RV.  That RV will be modified to point to
7821 the new SV.  The C<classname> argument indicates the package for the
7822 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
7823 will have a reference count of 1, and the RV will be returned.
7824
7825 =cut
7826 */
7827
7828 SV*
7829 Perl_sv_setref_nv(pTHX_ SV *rv, const char *classname, NV nv)
7830 {
7831     sv_setnv(newSVrv(rv,classname), nv);
7832     return rv;
7833 }
7834
7835 /*
7836 =for apidoc sv_setref_pvn
7837
7838 Copies a string into a new SV, optionally blessing the SV.  The length of the
7839 string must be specified with C<n>.  The C<rv> argument will be upgraded to
7840 an RV.  That RV will be modified to point to the new SV.  The C<classname>
7841 argument indicates the package for the blessing.  Set C<classname> to
7842 C<NULL> to avoid the blessing.  The new SV will have a reference count
7843 of 1, and the RV will be returned.
7844
7845 Note that C<sv_setref_pv> copies the pointer while this copies the string.
7846
7847 =cut
7848 */
7849
7850 SV*
7851 Perl_sv_setref_pvn(pTHX_ SV *rv, const char *classname, const char *pv, STRLEN n)
7852 {
7853     sv_setpvn(newSVrv(rv,classname), pv, n);
7854     return rv;
7855 }
7856
7857 /*
7858 =for apidoc sv_bless
7859
7860 Blesses an SV into a specified package.  The SV must be an RV.  The package
7861 must be designated by its stash (see C<gv_stashpv()>).  The reference count
7862 of the SV is unaffected.
7863
7864 =cut
7865 */
7866
7867 SV*
7868 Perl_sv_bless(pTHX_ SV *sv, HV *stash)
7869 {
7870     dVAR;
7871     SV *tmpRef;
7872     if (!SvROK(sv))
7873         Perl_croak(aTHX_ "Can't bless non-reference value");
7874     tmpRef = SvRV(sv);
7875     if (SvFLAGS(tmpRef) & (SVs_OBJECT|SVf_READONLY)) {
7876         if (SvREADONLY(tmpRef))
7877             Perl_croak(aTHX_ PL_no_modify);
7878         if (SvOBJECT(tmpRef)) {
7879             if (SvTYPE(tmpRef) != SVt_PVIO)
7880                 --PL_sv_objcount;
7881             SvREFCNT_dec(SvSTASH(tmpRef));
7882         }
7883     }
7884     SvOBJECT_on(tmpRef);
7885     if (SvTYPE(tmpRef) != SVt_PVIO)
7886         ++PL_sv_objcount;
7887     SvUPGRADE(tmpRef, SVt_PVMG);
7888     SvSTASH_set(tmpRef, (HV*)SvREFCNT_inc_simple(stash));
7889
7890     if (Gv_AMG(stash))
7891         SvAMAGIC_on(sv);
7892     else
7893         SvAMAGIC_off(sv);
7894
7895     if(SvSMAGICAL(tmpRef))
7896         if(mg_find(tmpRef, PERL_MAGIC_ext) || mg_find(tmpRef, PERL_MAGIC_uvar))
7897             mg_set(tmpRef);
7898
7899
7900
7901     return sv;
7902 }
7903
7904 /* Downgrades a PVGV to a PVMG.
7905  */
7906
7907 STATIC void
7908 S_sv_unglob(pTHX_ SV *sv)
7909 {
7910     dVAR;
7911     void *xpvmg;
7912     SV * const temp = sv_newmortal();
7913
7914     assert(SvTYPE(sv) == SVt_PVGV);
7915     SvFAKE_off(sv);
7916     gv_efullname3(temp, (GV *) sv, "*");
7917
7918     if (GvGP(sv)) {
7919         gp_free((GV*)sv);
7920     }
7921     if (GvSTASH(sv)) {
7922         sv_del_backref((SV*)GvSTASH(sv), sv);
7923         GvSTASH(sv) = NULL;
7924     }
7925     GvMULTI_off(sv);
7926     if (GvNAME_HEK(sv)) {
7927         unshare_hek(GvNAME_HEK(sv));
7928     }
7929     SvSCREAM_off(sv);
7930
7931     /* need to keep SvANY(sv) in the right arena */
7932     xpvmg = new_XPVMG();
7933     StructCopy(SvANY(sv), xpvmg, XPVMG);
7934     del_XPVGV(SvANY(sv));
7935     SvANY(sv) = xpvmg;
7936
7937     SvFLAGS(sv) &= ~SVTYPEMASK;
7938     SvFLAGS(sv) |= SVt_PVMG;
7939
7940     /* Intentionally not calling any local SET magic, as this isn't so much a
7941        set operation as merely an internal storage change.  */
7942     sv_setsv_flags(sv, temp, 0);
7943 }
7944
7945 /*
7946 =for apidoc sv_unref_flags
7947
7948 Unsets the RV status of the SV, and decrements the reference count of
7949 whatever was being referenced by the RV.  This can almost be thought of
7950 as a reversal of C<newSVrv>.  The C<cflags> argument can contain
7951 C<SV_IMMEDIATE_UNREF> to force the reference count to be decremented
7952 (otherwise the decrementing is conditional on the reference count being
7953 different from one or the reference being a readonly SV).
7954 See C<SvROK_off>.
7955
7956 =cut
7957 */
7958
7959 void
7960 Perl_sv_unref_flags(pTHX_ SV *ref, U32 flags)
7961 {
7962     SV* const target = SvRV(ref);
7963
7964     if (SvWEAKREF(ref)) {
7965         sv_del_backref(target, ref);
7966         SvWEAKREF_off(ref);
7967         SvRV_set(ref, NULL);
7968         return;
7969     }
7970     SvRV_set(ref, NULL);
7971     SvROK_off(ref);
7972     /* You can't have a || SvREADONLY(target) here, as $a = $$a, where $a was
7973        assigned to as BEGIN {$a = \"Foo"} will fail.  */
7974     if (SvREFCNT(target) != 1 || (flags & SV_IMMEDIATE_UNREF))
7975         SvREFCNT_dec(target);
7976     else /* XXX Hack, but hard to make $a=$a->[1] work otherwise */
7977         sv_2mortal(target);     /* Schedule for freeing later */
7978 }
7979
7980 /*
7981 =for apidoc sv_untaint
7982
7983 Untaint an SV. Use C<SvTAINTED_off> instead.
7984 =cut
7985 */
7986
7987 void
7988 Perl_sv_untaint(pTHX_ SV *sv)
7989 {
7990     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
7991         MAGIC * const mg = mg_find(sv, PERL_MAGIC_taint);
7992         if (mg)
7993             mg->mg_len &= ~1;
7994     }
7995 }
7996
7997 /*
7998 =for apidoc sv_tainted
7999
8000 Test an SV for taintedness. Use C<SvTAINTED> instead.
8001 =cut
8002 */
8003
8004 bool
8005 Perl_sv_tainted(pTHX_ SV *sv)
8006 {
8007     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
8008         const MAGIC * const mg = mg_find(sv, PERL_MAGIC_taint);
8009         if (mg && (mg->mg_len & 1) )
8010             return TRUE;
8011     }
8012     return FALSE;
8013 }
8014
8015 /*
8016 =for apidoc sv_setpviv
8017
8018 Copies an integer into the given SV, also updating its string value.
8019 Does not handle 'set' magic.  See C<sv_setpviv_mg>.
8020
8021 =cut
8022 */
8023
8024 void
8025 Perl_sv_setpviv(pTHX_ SV *sv, IV iv)
8026 {
8027     char buf[TYPE_CHARS(UV)];
8028     char *ebuf;
8029     char * const ptr = uiv_2buf(buf, iv, 0, 0, &ebuf);
8030
8031     sv_setpvn(sv, ptr, ebuf - ptr);
8032 }
8033
8034 /*
8035 =for apidoc sv_setpviv_mg
8036
8037 Like C<sv_setpviv>, but also handles 'set' magic.
8038
8039 =cut
8040 */
8041
8042 void
8043 Perl_sv_setpviv_mg(pTHX_ SV *sv, IV iv)
8044 {
8045     sv_setpviv(sv, iv);
8046     SvSETMAGIC(sv);
8047 }
8048
8049 #if defined(PERL_IMPLICIT_CONTEXT)
8050
8051 /* pTHX_ magic can't cope with varargs, so this is a no-context
8052  * version of the main function, (which may itself be aliased to us).
8053  * Don't access this version directly.
8054  */
8055
8056 void
8057 Perl_sv_setpvf_nocontext(SV *sv, const char* pat, ...)
8058 {
8059     dTHX;
8060     va_list args;
8061     va_start(args, pat);
8062     sv_vsetpvf(sv, pat, &args);
8063     va_end(args);
8064 }
8065
8066 /* pTHX_ magic can't cope with varargs, so this is a no-context
8067  * version of the main function, (which may itself be aliased to us).
8068  * Don't access this version directly.
8069  */
8070
8071 void
8072 Perl_sv_setpvf_mg_nocontext(SV *sv, const char* pat, ...)
8073 {
8074     dTHX;
8075     va_list args;
8076     va_start(args, pat);
8077     sv_vsetpvf_mg(sv, pat, &args);
8078     va_end(args);
8079 }
8080 #endif
8081
8082 /*
8083 =for apidoc sv_setpvf
8084
8085 Works like C<sv_catpvf> but copies the text into the SV instead of
8086 appending it.  Does not handle 'set' magic.  See C<sv_setpvf_mg>.
8087
8088 =cut
8089 */
8090
8091 void
8092 Perl_sv_setpvf(pTHX_ SV *sv, const char* pat, ...)
8093 {
8094     va_list args;
8095     va_start(args, pat);
8096     sv_vsetpvf(sv, pat, &args);
8097     va_end(args);
8098 }
8099
8100 /*
8101 =for apidoc sv_vsetpvf
8102
8103 Works like C<sv_vcatpvf> but copies the text into the SV instead of
8104 appending it.  Does not handle 'set' magic.  See C<sv_vsetpvf_mg>.
8105
8106 Usually used via its frontend C<sv_setpvf>.
8107
8108 =cut
8109 */
8110
8111 void
8112 Perl_sv_vsetpvf(pTHX_ SV *sv, const char* pat, va_list* args)
8113 {
8114     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
8115 }
8116
8117 /*
8118 =for apidoc sv_setpvf_mg
8119
8120 Like C<sv_setpvf>, but also handles 'set' magic.
8121
8122 =cut
8123 */
8124
8125 void
8126 Perl_sv_setpvf_mg(pTHX_ SV *sv, const char* pat, ...)
8127 {
8128     va_list args;
8129     va_start(args, pat);
8130     sv_vsetpvf_mg(sv, pat, &args);
8131     va_end(args);
8132 }
8133
8134 /*
8135 =for apidoc sv_vsetpvf_mg
8136
8137 Like C<sv_vsetpvf>, but also handles 'set' magic.
8138
8139 Usually used via its frontend C<sv_setpvf_mg>.
8140
8141 =cut
8142 */
8143
8144 void
8145 Perl_sv_vsetpvf_mg(pTHX_ SV *sv, const char* pat, va_list* args)
8146 {
8147     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
8148     SvSETMAGIC(sv);
8149 }
8150
8151 #if defined(PERL_IMPLICIT_CONTEXT)
8152
8153 /* pTHX_ magic can't cope with varargs, so this is a no-context
8154  * version of the main function, (which may itself be aliased to us).
8155  * Don't access this version directly.
8156  */
8157
8158 void
8159 Perl_sv_catpvf_nocontext(SV *sv, const char* pat, ...)
8160 {
8161     dTHX;
8162     va_list args;
8163     va_start(args, pat);
8164     sv_vcatpvf(sv, pat, &args);
8165     va_end(args);
8166 }
8167
8168 /* pTHX_ magic can't cope with varargs, so this is a no-context
8169  * version of the main function, (which may itself be aliased to us).
8170  * Don't access this version directly.
8171  */
8172
8173 void
8174 Perl_sv_catpvf_mg_nocontext(SV *sv, const char* pat, ...)
8175 {
8176     dTHX;
8177     va_list args;
8178     va_start(args, pat);
8179     sv_vcatpvf_mg(sv, pat, &args);
8180     va_end(args);
8181 }
8182 #endif
8183
8184 /*
8185 =for apidoc sv_catpvf
8186
8187 Processes its arguments like C<sprintf> and appends the formatted
8188 output to an SV.  If the appended data contains "wide" characters
8189 (including, but not limited to, SVs with a UTF-8 PV formatted with %s,
8190 and characters >255 formatted with %c), the original SV might get
8191 upgraded to UTF-8.  Handles 'get' magic, but not 'set' magic.  See
8192 C<sv_catpvf_mg>. If the original SV was UTF-8, the pattern should be
8193 valid UTF-8; if the original SV was bytes, the pattern should be too.
8194
8195 =cut */
8196
8197 void
8198 Perl_sv_catpvf(pTHX_ SV *sv, const char* pat, ...)
8199 {
8200     va_list args;
8201     va_start(args, pat);
8202     sv_vcatpvf(sv, pat, &args);
8203     va_end(args);
8204 }
8205
8206 /*
8207 =for apidoc sv_vcatpvf
8208
8209 Processes its arguments like C<vsprintf> and appends the formatted output
8210 to an SV.  Does not handle 'set' magic.  See C<sv_vcatpvf_mg>.
8211
8212 Usually used via its frontend C<sv_catpvf>.
8213
8214 =cut
8215 */
8216
8217 void
8218 Perl_sv_vcatpvf(pTHX_ SV *sv, const char* pat, va_list* args)
8219 {
8220     sv_vcatpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
8221 }
8222
8223 /*
8224 =for apidoc sv_catpvf_mg
8225
8226 Like C<sv_catpvf>, but also handles 'set' magic.
8227
8228 =cut
8229 */
8230
8231 void
8232 Perl_sv_catpvf_mg(pTHX_ SV *sv, const char* pat, ...)
8233 {
8234     va_list args;
8235     va_start(args, pat);
8236     sv_vcatpvf_mg(sv, pat, &args);
8237     va_end(args);
8238 }
8239
8240 /*
8241 =for apidoc sv_vcatpvf_mg
8242
8243 Like C<sv_vcatpvf>, but also handles 'set' magic.
8244
8245 Usually used via its frontend C<sv_catpvf_mg>.
8246
8247 =cut
8248 */
8249
8250 void
8251 Perl_sv_vcatpvf_mg(pTHX_ SV *sv, const char* pat, va_list* args)
8252 {
8253     sv_vcatpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
8254     SvSETMAGIC(sv);
8255 }
8256
8257 /*
8258 =for apidoc sv_vsetpvfn
8259
8260 Works like C<sv_vcatpvfn> but copies the text into the SV instead of
8261 appending it.
8262
8263 Usually used via one of its frontends C<sv_vsetpvf> and C<sv_vsetpvf_mg>.
8264
8265 =cut
8266 */
8267
8268 void
8269 Perl_sv_vsetpvfn(pTHX_ SV *sv, const char *pat, STRLEN patlen, va_list *args, SV **svargs, I32 svmax, bool *maybe_tainted)
8270 {
8271     sv_setpvn(sv, "", 0);
8272     sv_vcatpvfn(sv, pat, patlen, args, svargs, svmax, maybe_tainted);
8273 }
8274
8275 STATIC I32
8276 S_expect_number(pTHX_ char** pattern)
8277 {
8278     dVAR;
8279     I32 var = 0;
8280     switch (**pattern) {
8281     case '1': case '2': case '3':
8282     case '4': case '5': case '6':
8283     case '7': case '8': case '9':
8284         var = *(*pattern)++ - '0';
8285         while (isDIGIT(**pattern)) {
8286             const I32 tmp = var * 10 + (*(*pattern)++ - '0');
8287             if (tmp < var)
8288                 Perl_croak(aTHX_ "Integer overflow in format string for %s", (PL_op ? OP_NAME(PL_op) : "sv_vcatpvfn"));
8289             var = tmp;
8290         }
8291     }
8292     return var;
8293 }
8294
8295 STATIC char *
8296 S_F0convert(NV nv, char *endbuf, STRLEN *len)
8297 {
8298     const int neg = nv < 0;
8299     UV uv;
8300
8301     if (neg)
8302         nv = -nv;
8303     if (nv < UV_MAX) {
8304         char *p = endbuf;
8305         nv += 0.5;
8306         uv = (UV)nv;
8307         if (uv & 1 && uv == nv)
8308             uv--;                       /* Round to even */
8309         do {
8310             const unsigned dig = uv % 10;
8311             *--p = '0' + dig;
8312         } while (uv /= 10);
8313         if (neg)
8314             *--p = '-';
8315         *len = endbuf - p;
8316         return p;
8317     }
8318     return NULL;
8319 }
8320
8321
8322 /*
8323 =for apidoc sv_vcatpvfn
8324
8325 Processes its arguments like C<vsprintf> and appends the formatted output
8326 to an SV.  Uses an array of SVs if the C style variable argument list is
8327 missing (NULL).  When running with taint checks enabled, indicates via
8328 C<maybe_tainted> if results are untrustworthy (often due to the use of
8329 locales).
8330
8331 Usually used via one of its frontends C<sv_vcatpvf> and C<sv_vcatpvf_mg>.
8332
8333 =cut
8334 */
8335
8336
8337 #define VECTORIZE_ARGS  vecsv = va_arg(*args, SV*);\
8338                         vecstr = (U8*)SvPV_const(vecsv,veclen);\
8339                         vec_utf8 = DO_UTF8(vecsv);
8340
8341 /* XXX maybe_tainted is never assigned to, so the doc above is lying. */
8342
8343 void
8344 Perl_sv_vcatpvfn(pTHX_ SV *sv, const char *pat, STRLEN patlen, va_list *args, SV **svargs, I32 svmax, bool *maybe_tainted)
8345 {
8346     dVAR;
8347     char *p;
8348     char *q;
8349     const char *patend;
8350     STRLEN origlen;
8351     I32 svix = 0;
8352     static const char nullstr[] = "(null)";
8353     SV *argsv = NULL;
8354     bool has_utf8 = DO_UTF8(sv);    /* has the result utf8? */
8355     const bool pat_utf8 = has_utf8; /* the pattern is in utf8? */
8356     SV *nsv = NULL;
8357     /* Times 4: a decimal digit takes more than 3 binary digits.
8358      * NV_DIG: mantissa takes than many decimal digits.
8359      * Plus 32: Playing safe. */
8360     char ebuf[IV_DIG * 4 + NV_DIG + 32];
8361     /* large enough for "%#.#f" --chip */
8362     /* what about long double NVs? --jhi */
8363
8364     PERL_UNUSED_ARG(maybe_tainted);
8365
8366     /* no matter what, this is a string now */
8367     (void)SvPV_force(sv, origlen);
8368
8369     /* special-case "", "%s", and "%-p" (SVf - see below) */
8370     if (patlen == 0)
8371         return;
8372     if (patlen == 2 && pat[0] == '%' && pat[1] == 's') {
8373         if (args) {
8374             const char * const s = va_arg(*args, char*);
8375             sv_catpv(sv, s ? s : nullstr);
8376         }
8377         else if (svix < svmax) {
8378             sv_catsv(sv, *svargs);
8379         }
8380         return;
8381     }
8382     if (args && patlen == 3 && pat[0] == '%' &&
8383                 pat[1] == '-' && pat[2] == 'p') {
8384         argsv = va_arg(*args, SV*);
8385         sv_catsv(sv, argsv);
8386         return;
8387     }
8388
8389 #ifndef USE_LONG_DOUBLE
8390     /* special-case "%.<number>[gf]" */
8391     if ( !args && patlen <= 5 && pat[0] == '%' && pat[1] == '.'
8392          && (pat[patlen-1] == 'g' || pat[patlen-1] == 'f') ) {
8393         unsigned digits = 0;
8394         const char *pp;
8395
8396         pp = pat + 2;
8397         while (*pp >= '0' && *pp <= '9')
8398             digits = 10 * digits + (*pp++ - '0');
8399         if (pp - pat == (int)patlen - 1) {
8400             NV nv;
8401
8402             if (svix < svmax)
8403                 nv = SvNV(*svargs);
8404             else
8405                 return;
8406             if (*pp == 'g') {
8407                 /* Add check for digits != 0 because it seems that some
8408                    gconverts are buggy in this case, and we don't yet have
8409                    a Configure test for this.  */
8410                 if (digits && digits < sizeof(ebuf) - NV_DIG - 10) {
8411                      /* 0, point, slack */
8412                     Gconvert(nv, (int)digits, 0, ebuf);
8413                     sv_catpv(sv, ebuf);
8414                     if (*ebuf)  /* May return an empty string for digits==0 */
8415                         return;
8416                 }
8417             } else if (!digits) {
8418                 STRLEN l;
8419
8420                 if ((p = F0convert(nv, ebuf + sizeof ebuf, &l))) {
8421                     sv_catpvn(sv, p, l);
8422                     return;
8423                 }
8424             }
8425         }
8426     }
8427 #endif /* !USE_LONG_DOUBLE */
8428
8429     if (!args && svix < svmax && DO_UTF8(*svargs))
8430         has_utf8 = TRUE;
8431
8432     patend = (char*)pat + patlen;
8433     for (p = (char*)pat; p < patend; p = q) {
8434         bool alt = FALSE;
8435         bool left = FALSE;
8436         bool vectorize = FALSE;
8437         bool vectorarg = FALSE;
8438         bool vec_utf8 = FALSE;
8439         char fill = ' ';
8440         char plus = 0;
8441         char intsize = 0;
8442         STRLEN width = 0;
8443         STRLEN zeros = 0;
8444         bool has_precis = FALSE;
8445         STRLEN precis = 0;
8446         const I32 osvix = svix;
8447         bool is_utf8 = FALSE;  /* is this item utf8?   */
8448 #ifdef HAS_LDBL_SPRINTF_BUG
8449         /* This is to try to fix a bug with irix/nonstop-ux/powerux and
8450            with sfio - Allen <allens@cpan.org> */
8451         bool fix_ldbl_sprintf_bug = FALSE;
8452 #endif
8453
8454         char esignbuf[4];
8455         U8 utf8buf[UTF8_MAXBYTES+1];
8456         STRLEN esignlen = 0;
8457
8458         const char *eptr = NULL;
8459         STRLEN elen = 0;
8460         SV *vecsv = NULL;
8461         const U8 *vecstr = NULL;
8462         STRLEN veclen = 0;
8463         char c = 0;
8464         int i;
8465         unsigned base = 0;
8466         IV iv = 0;
8467         UV uv = 0;
8468         /* we need a long double target in case HAS_LONG_DOUBLE but
8469            not USE_LONG_DOUBLE
8470         */
8471 #if defined(HAS_LONG_DOUBLE) && LONG_DOUBLESIZE > DOUBLESIZE
8472         long double nv;
8473 #else
8474         NV nv;
8475 #endif
8476         STRLEN have;
8477         STRLEN need;
8478         STRLEN gap;
8479         const char *dotstr = ".";
8480         STRLEN dotstrlen = 1;
8481         I32 efix = 0; /* explicit format parameter index */
8482         I32 ewix = 0; /* explicit width index */
8483         I32 epix = 0; /* explicit precision index */
8484         I32 evix = 0; /* explicit vector index */
8485         bool asterisk = FALSE;
8486
8487         /* echo everything up to the next format specification */
8488         for (q = p; q < patend && *q != '%'; ++q) ;
8489         if (q > p) {
8490             if (has_utf8 && !pat_utf8)
8491                 sv_catpvn_utf8_upgrade(sv, p, q - p, nsv);
8492             else
8493                 sv_catpvn(sv, p, q - p);
8494             p = q;
8495         }
8496         if (q++ >= patend)
8497             break;
8498
8499 /*
8500     We allow format specification elements in this order:
8501         \d+\$              explicit format parameter index
8502         [-+ 0#]+           flags
8503         v|\*(\d+\$)?v      vector with optional (optionally specified) arg
8504         0                  flag (as above): repeated to allow "v02"     
8505         \d+|\*(\d+\$)?     width using optional (optionally specified) arg
8506         \.(\d*|\*(\d+\$)?) precision using optional (optionally specified) arg
8507         [hlqLV]            size
8508     [%bcdefginopsuxDFOUX] format (mandatory)
8509 */
8510
8511         if (args) {
8512 /*  
8513         As of perl5.9.3, printf format checking is on by default.
8514         Internally, perl uses %p formats to provide an escape to
8515         some extended formatting.  This block deals with those
8516         extensions: if it does not match, (char*)q is reset and
8517         the normal format processing code is used.
8518
8519         Currently defined extensions are:
8520                 %p              include pointer address (standard)      
8521                 %-p     (SVf)   include an SV (previously %_)
8522                 %-<num>p        include an SV with precision <num>      
8523                 %1p     (VDf)   include a v-string (as %vd)
8524                 %<num>p         reserved for future extensions
8525
8526         Robin Barker 2005-07-14
8527 */
8528             char* r = q; 
8529             bool sv = FALSE;    
8530             STRLEN n = 0;
8531             if (*q == '-')
8532                 sv = *q++;
8533             n = expect_number(&q);
8534             if (*q++ == 'p') {
8535                 if (sv) {                       /* SVf */
8536                     if (n) {
8537                         precis = n;
8538                         has_precis = TRUE;
8539                     }
8540                     argsv = va_arg(*args, SV*);
8541                     eptr = SvPVx_const(argsv, elen);
8542                     if (DO_UTF8(argsv))
8543                         is_utf8 = TRUE;
8544                     goto string;
8545                 }
8546 #if vdNUMBER
8547                 else if (n == vdNUMBER) {       /* VDf */
8548                     vectorize = TRUE;
8549                     VECTORIZE_ARGS
8550                     goto format_vd;
8551                 }
8552 #endif
8553                 else if (n) {
8554                     if (ckWARN_d(WARN_INTERNAL))
8555                         Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
8556                         "internal %%<num>p might conflict with future printf extensions");
8557                 }
8558             }
8559             q = r; 
8560         }
8561
8562         if ( (width = expect_number(&q)) ) {
8563             if (*q == '$') {
8564                 ++q;
8565                 efix = width;
8566             } else {
8567                 goto gotwidth;
8568             }
8569         }
8570
8571         /* FLAGS */
8572
8573         while (*q) {
8574             switch (*q) {
8575             case ' ':
8576             case '+':
8577                 plus = *q++;
8578                 continue;
8579
8580             case '-':
8581                 left = TRUE;
8582                 q++;
8583                 continue;
8584
8585             case '0':
8586                 fill = *q++;
8587                 continue;
8588
8589             case '#':
8590                 alt = TRUE;
8591                 q++;
8592                 continue;
8593
8594             default:
8595                 break;
8596             }
8597             break;
8598         }
8599
8600       tryasterisk:
8601         if (*q == '*') {
8602             q++;
8603             if ( (ewix = expect_number(&q)) )
8604                 if (*q++ != '$')
8605                     goto unknown;
8606             asterisk = TRUE;
8607         }
8608         if (*q == 'v') {
8609             q++;
8610             if (vectorize)
8611                 goto unknown;
8612             if ((vectorarg = asterisk)) {
8613                 evix = ewix;
8614                 ewix = 0;
8615                 asterisk = FALSE;
8616             }
8617             vectorize = TRUE;
8618             goto tryasterisk;
8619         }
8620
8621         if (!asterisk)
8622         {
8623             if( *q == '0' )
8624                 fill = *q++;
8625             width = expect_number(&q);
8626         }
8627
8628         if (vectorize) {
8629             if (vectorarg) {
8630                 if (args)
8631                     vecsv = va_arg(*args, SV*);
8632                 else if (evix) {
8633                     vecsv = (evix > 0 && evix <= svmax)
8634                         ? svargs[evix-1] : &PL_sv_undef;
8635                 } else {
8636                     vecsv = svix < svmax ? svargs[svix++] : &PL_sv_undef;
8637                 }
8638                 dotstr = SvPV_const(vecsv, dotstrlen);
8639                 /* Keep the DO_UTF8 test *after* the SvPV call, else things go
8640                    bad with tied or overloaded values that return UTF8.  */
8641                 if (DO_UTF8(vecsv))
8642                     is_utf8 = TRUE;
8643                 else if (has_utf8) {
8644                     vecsv = sv_mortalcopy(vecsv);
8645                     sv_utf8_upgrade(vecsv);
8646                     dotstr = SvPV_const(vecsv, dotstrlen);
8647                     is_utf8 = TRUE;
8648                 }                   
8649             }
8650             if (args) {
8651                 VECTORIZE_ARGS
8652             }
8653             else if (efix ? (efix > 0 && efix <= svmax) : svix < svmax) {
8654                 vecsv = svargs[efix ? efix-1 : svix++];
8655                 vecstr = (U8*)SvPV_const(vecsv,veclen);
8656                 vec_utf8 = DO_UTF8(vecsv);
8657
8658                 /* if this is a version object, we need to convert
8659                  * back into v-string notation and then let the
8660                  * vectorize happen normally
8661                  */
8662                 if (sv_derived_from(vecsv, "version")) {
8663                     char *version = savesvpv(vecsv);
8664                     if ( hv_exists((HV*)SvRV(vecsv), "alpha", 5 ) ) {
8665                         Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
8666                         "vector argument not supported with alpha versions");
8667                         goto unknown;
8668                     }
8669                     vecsv = sv_newmortal();
8670                     /* scan_vstring is expected to be called during
8671                      * tokenization, so we need to fake up the end
8672                      * of the buffer for it
8673                      */
8674                     PL_bufend = version + veclen;
8675                     scan_vstring(version, vecsv);
8676                     vecstr = (U8*)SvPV_const(vecsv, veclen);
8677                     vec_utf8 = DO_UTF8(vecsv);
8678                     Safefree(version);
8679                 }
8680             }
8681             else {
8682                 vecstr = (U8*)"";
8683                 veclen = 0;
8684             }
8685         }
8686
8687         if (asterisk) {
8688             if (args)
8689                 i = va_arg(*args, int);
8690             else
8691                 i = (ewix ? ewix <= svmax : svix < svmax) ?
8692                     SvIVx(svargs[ewix ? ewix-1 : svix++]) : 0;
8693             left |= (i < 0);
8694             width = (i < 0) ? -i : i;
8695         }
8696       gotwidth:
8697
8698         /* PRECISION */
8699
8700         if (*q == '.') {
8701             q++;
8702             if (*q == '*') {
8703                 q++;
8704                 if ( ((epix = expect_number(&q))) && (*q++ != '$') )
8705                     goto unknown;
8706                 /* XXX: todo, support specified precision parameter */
8707                 if (epix)
8708                     goto unknown;
8709                 if (args)
8710                     i = va_arg(*args, int);
8711                 else
8712                     i = (ewix ? ewix <= svmax : svix < svmax)
8713                         ? SvIVx(svargs[ewix ? ewix-1 : svix++]) : 0;
8714                 precis = (i < 0) ? 0 : i;
8715             }
8716             else {
8717                 precis = 0;
8718                 while (isDIGIT(*q))
8719                     precis = precis * 10 + (*q++ - '0');
8720             }
8721             has_precis = TRUE;
8722         }
8723
8724         /* SIZE */
8725
8726         switch (*q) {
8727 #ifdef WIN32
8728         case 'I':                       /* Ix, I32x, and I64x */
8729 #  ifdef WIN64
8730             if (q[1] == '6' && q[2] == '4') {
8731                 q += 3;
8732                 intsize = 'q';
8733                 break;
8734             }
8735 #  endif
8736             if (q[1] == '3' && q[2] == '2') {
8737                 q += 3;
8738                 break;
8739             }
8740 #  ifdef WIN64
8741             intsize = 'q';
8742 #  endif
8743             q++;
8744             break;
8745 #endif
8746 #if defined(HAS_QUAD) || defined(HAS_LONG_DOUBLE)
8747         case 'L':                       /* Ld */
8748             /*FALLTHROUGH*/
8749 #ifdef HAS_QUAD
8750         case 'q':                       /* qd */
8751 #endif
8752             intsize = 'q';
8753             q++;
8754             break;
8755 #endif
8756         case 'l':
8757 #if defined(HAS_QUAD) || defined(HAS_LONG_DOUBLE)
8758             if (*(q + 1) == 'l') {      /* lld, llf */
8759                 intsize = 'q';
8760                 q += 2;
8761                 break;
8762              }
8763 #endif
8764             /*FALLTHROUGH*/
8765         case 'h':
8766             /*FALLTHROUGH*/
8767         case 'V':
8768             intsize = *q++;
8769             break;
8770         }
8771
8772         /* CONVERSION */
8773
8774         if (*q == '%') {
8775             eptr = q++;
8776             elen = 1;
8777             if (vectorize) {
8778                 c = '%';
8779                 goto unknown;
8780             }
8781             goto string;
8782         }
8783
8784         if (!vectorize && !args) {
8785             if (efix) {
8786                 const I32 i = efix-1;
8787                 argsv = (i >= 0 && i < svmax) ? svargs[i] : &PL_sv_undef;
8788             } else {
8789                 argsv = (svix >= 0 && svix < svmax)
8790                     ? svargs[svix++] : &PL_sv_undef;
8791             }
8792         }
8793
8794         switch (c = *q++) {
8795
8796             /* STRINGS */
8797
8798         case 'c':
8799             if (vectorize)
8800                 goto unknown;
8801             uv = (args) ? va_arg(*args, int) : SvIVx(argsv);
8802             if ((uv > 255 ||
8803                  (!UNI_IS_INVARIANT(uv) && SvUTF8(sv)))
8804                 && !IN_BYTES) {
8805                 eptr = (char*)utf8buf;
8806                 elen = uvchr_to_utf8((U8*)eptr, uv) - utf8buf;
8807                 is_utf8 = TRUE;
8808             }
8809             else {
8810                 c = (char)uv;
8811                 eptr = &c;
8812                 elen = 1;
8813             }
8814             goto string;
8815
8816         case 's':
8817             if (vectorize)
8818                 goto unknown;
8819             if (args) {
8820                 eptr = va_arg(*args, char*);
8821                 if (eptr)
8822 #ifdef MACOS_TRADITIONAL
8823                   /* On MacOS, %#s format is used for Pascal strings */
8824                   if (alt)
8825                     elen = *eptr++;
8826                   else
8827 #endif
8828                     elen = strlen(eptr);
8829                 else {
8830                     eptr = (char *)nullstr;
8831                     elen = sizeof nullstr - 1;
8832                 }
8833             }
8834             else {
8835                 eptr = SvPVx_const(argsv, elen);
8836                 if (DO_UTF8(argsv)) {
8837                     if (has_precis && precis < elen) {
8838                         I32 p = precis;
8839                         sv_pos_u2b(argsv, &p, 0); /* sticks at end */
8840                         precis = p;
8841                     }
8842                     if (width) { /* fudge width (can't fudge elen) */
8843                         width += elen - sv_len_utf8(argsv);
8844                     }
8845                     is_utf8 = TRUE;
8846                 }
8847             }
8848
8849         string:
8850             if (has_precis && elen > precis)
8851                 elen = precis;
8852             break;
8853
8854             /* INTEGERS */
8855
8856         case 'p':
8857             if (alt || vectorize)
8858                 goto unknown;
8859             uv = PTR2UV(args ? va_arg(*args, void*) : argsv);
8860             base = 16;
8861             goto integer;
8862
8863         case 'D':
8864 #ifdef IV_IS_QUAD
8865             intsize = 'q';
8866 #else
8867             intsize = 'l';
8868 #endif
8869             /*FALLTHROUGH*/
8870         case 'd':
8871         case 'i':
8872 #if vdNUMBER
8873         format_vd:
8874 #endif
8875             if (vectorize) {
8876                 STRLEN ulen;
8877                 if (!veclen)
8878                     continue;
8879                 if (vec_utf8)
8880                     uv = utf8n_to_uvchr(vecstr, veclen, &ulen,
8881                                         UTF8_ALLOW_ANYUV);
8882                 else {
8883                     uv = *vecstr;
8884                     ulen = 1;
8885                 }
8886                 vecstr += ulen;
8887                 veclen -= ulen;
8888                 if (plus)
8889                      esignbuf[esignlen++] = plus;
8890             }
8891             else if (args) {
8892                 switch (intsize) {
8893                 case 'h':       iv = (short)va_arg(*args, int); break;
8894                 case 'l':       iv = va_arg(*args, long); break;
8895                 case 'V':       iv = va_arg(*args, IV); break;
8896                 default:        iv = va_arg(*args, int); break;
8897 #ifdef HAS_QUAD
8898                 case 'q':       iv = va_arg(*args, Quad_t); break;
8899 #endif
8900                 }
8901             }
8902             else {
8903                 IV tiv = SvIVx(argsv); /* work around GCC bug #13488 */
8904                 switch (intsize) {
8905                 case 'h':       iv = (short)tiv; break;
8906                 case 'l':       iv = (long)tiv; break;
8907                 case 'V':
8908                 default:        iv = tiv; break;
8909 #ifdef HAS_QUAD
8910                 case 'q':       iv = (Quad_t)tiv; break;
8911 #endif
8912                 }
8913             }
8914             if ( !vectorize )   /* we already set uv above */
8915             {
8916                 if (iv >= 0) {
8917                     uv = iv;
8918                     if (plus)
8919                         esignbuf[esignlen++] = plus;
8920                 }
8921                 else {
8922                     uv = -iv;
8923                     esignbuf[esignlen++] = '-';
8924                 }
8925             }
8926             base = 10;
8927             goto integer;
8928
8929         case 'U':
8930 #ifdef IV_IS_QUAD
8931             intsize = 'q';
8932 #else
8933             intsize = 'l';
8934 #endif
8935             /*FALLTHROUGH*/
8936         case 'u':
8937             base = 10;
8938             goto uns_integer;
8939
8940         case 'b':
8941             base = 2;
8942             goto uns_integer;
8943
8944         case 'O':
8945 #ifdef IV_IS_QUAD
8946             intsize = 'q';
8947 #else
8948             intsize = 'l';
8949 #endif
8950             /*FALLTHROUGH*/
8951         case 'o':
8952             base = 8;
8953             goto uns_integer;
8954
8955         case 'X':
8956         case 'x':
8957             base = 16;
8958
8959         uns_integer:
8960             if (vectorize) {
8961                 STRLEN ulen;
8962         vector:
8963                 if (!veclen)
8964                     continue;
8965                 if (vec_utf8)
8966                     uv = utf8n_to_uvchr(vecstr, veclen, &ulen,
8967                                         UTF8_ALLOW_ANYUV);
8968                 else {
8969                     uv = *vecstr;
8970                     ulen = 1;
8971                 }
8972                 vecstr += ulen;
8973                 veclen -= ulen;
8974             }
8975             else if (args) {
8976                 switch (intsize) {
8977                 case 'h':  uv = (unsigned short)va_arg(*args, unsigned); break;
8978                 case 'l':  uv = va_arg(*args, unsigned long); break;
8979                 case 'V':  uv = va_arg(*args, UV); break;
8980                 default:   uv = va_arg(*args, unsigned); break;
8981 #ifdef HAS_QUAD
8982                 case 'q':  uv = va_arg(*args, Uquad_t); break;
8983 #endif
8984                 }
8985             }
8986             else {
8987                 UV tuv = SvUVx(argsv); /* work around GCC bug #13488 */
8988                 switch (intsize) {
8989                 case 'h':       uv = (unsigned short)tuv; break;
8990                 case 'l':       uv = (unsigned long)tuv; break;
8991                 case 'V':
8992                 default:        uv = tuv; break;
8993 #ifdef HAS_QUAD
8994                 case 'q':       uv = (Uquad_t)tuv; break;
8995 #endif
8996                 }
8997             }
8998
8999         integer:
9000             {
9001                 char *ptr = ebuf + sizeof ebuf;
9002                 switch (base) {
9003                     unsigned dig;
9004                 case 16:
9005                     if (!uv)
9006                         alt = FALSE;
9007                     p = (char*)((c == 'X')
9008                                 ? "0123456789ABCDEF" : "0123456789abcdef");
9009                     do {
9010                         dig = uv & 15;
9011                         *--ptr = p[dig];
9012                     } while (uv >>= 4);
9013                     if (alt) {
9014                         esignbuf[esignlen++] = '0';
9015                         esignbuf[esignlen++] = c;  /* 'x' or 'X' */
9016                     }
9017                     break;
9018                 case 8:
9019                     do {
9020                         dig = uv & 7;
9021                         *--ptr = '0' + dig;
9022                     } while (uv >>= 3);
9023                     if (alt && *ptr != '0')
9024                         *--ptr = '0';
9025                     break;
9026                 case 2:
9027                     if (!uv)
9028                         alt = FALSE;
9029                     do {
9030                         dig = uv & 1;
9031                         *--ptr = '0' + dig;
9032                     } while (uv >>= 1);
9033                     if (alt) {
9034                         esignbuf[esignlen++] = '0';
9035                         esignbuf[esignlen++] = 'b';
9036                     }
9037                     break;
9038                 default:                /* it had better be ten or less */
9039                     do {
9040                         dig = uv % base;
9041                         *--ptr = '0' + dig;
9042                     } while (uv /= base);
9043                     break;
9044                 }
9045                 elen = (ebuf + sizeof ebuf) - ptr;
9046                 eptr = ptr;
9047                 if (has_precis) {
9048                     if (precis > elen)
9049                         zeros = precis - elen;
9050                     else if (precis == 0 && elen == 1 && *eptr == '0')
9051                         elen = 0;
9052                 }
9053             }
9054             break;
9055
9056             /* FLOATING POINT */
9057
9058         case 'F':
9059             c = 'f';            /* maybe %F isn't supported here */
9060             /*FALLTHROUGH*/
9061         case 'e': case 'E':
9062         case 'f':
9063         case 'g': case 'G':
9064             if (vectorize)
9065                 goto unknown;
9066
9067             /* This is evil, but floating point is even more evil */
9068
9069             /* for SV-style calling, we can only get NV
9070                for C-style calling, we assume %f is double;
9071                for simplicity we allow any of %Lf, %llf, %qf for long double
9072             */
9073             switch (intsize) {
9074             case 'V':
9075 #if defined(USE_LONG_DOUBLE)
9076                 intsize = 'q';
9077 #endif
9078                 break;
9079 /* [perl #20339] - we should accept and ignore %lf rather than die */
9080             case 'l':
9081                 /*FALLTHROUGH*/
9082             default:
9083 #if defined(USE_LONG_DOUBLE)
9084                 intsize = args ? 0 : 'q';
9085 #endif
9086                 break;
9087             case 'q':
9088 #if defined(HAS_LONG_DOUBLE)
9089                 break;
9090 #else
9091                 /*FALLTHROUGH*/
9092 #endif
9093             case 'h':
9094                 goto unknown;
9095             }
9096
9097             /* now we need (long double) if intsize == 'q', else (double) */
9098             nv = (args) ?
9099 #if LONG_DOUBLESIZE > DOUBLESIZE
9100                 intsize == 'q' ?
9101                     va_arg(*args, long double) :
9102                     va_arg(*args, double)
9103 #else
9104                     va_arg(*args, double)
9105 #endif
9106                 : SvNVx(argsv);
9107
9108             need = 0;
9109             if (c != 'e' && c != 'E') {
9110                 i = PERL_INT_MIN;
9111                 /* FIXME: if HAS_LONG_DOUBLE but not USE_LONG_DOUBLE this
9112                    will cast our (long double) to (double) */
9113                 (void)Perl_frexp(nv, &i);
9114                 if (i == PERL_INT_MIN)
9115                     Perl_die(aTHX_ "panic: frexp");
9116                 if (i > 0)
9117                     need = BIT_DIGITS(i);
9118             }
9119             need += has_precis ? precis : 6; /* known default */
9120
9121             if (need < width)
9122                 need = width;
9123
9124 #ifdef HAS_LDBL_SPRINTF_BUG
9125             /* This is to try to fix a bug with irix/nonstop-ux/powerux and
9126                with sfio - Allen <allens@cpan.org> */
9127
9128 #  ifdef DBL_MAX
9129 #    define MY_DBL_MAX DBL_MAX
9130 #  else /* XXX guessing! HUGE_VAL may be defined as infinity, so not using */
9131 #    if DOUBLESIZE >= 8
9132 #      define MY_DBL_MAX 1.7976931348623157E+308L
9133 #    else
9134 #      define MY_DBL_MAX 3.40282347E+38L
9135 #    endif
9136 #  endif
9137
9138 #  ifdef HAS_LDBL_SPRINTF_BUG_LESS1 /* only between -1L & 1L - Allen */
9139 #    define MY_DBL_MAX_BUG 1L
9140 #  else
9141 #    define MY_DBL_MAX_BUG MY_DBL_MAX
9142 #  endif
9143
9144 #  ifdef DBL_MIN
9145 #    define MY_DBL_MIN DBL_MIN
9146 #  else  /* XXX guessing! -Allen */
9147 #    if DOUBLESIZE >= 8
9148 #      define MY_DBL_MIN 2.2250738585072014E-308L
9149 #    else
9150 #      define MY_DBL_MIN 1.17549435E-38L
9151 #    endif
9152 #  endif
9153
9154             if ((intsize == 'q') && (c == 'f') &&
9155                 ((nv < MY_DBL_MAX_BUG) && (nv > -MY_DBL_MAX_BUG)) &&
9156                 (need < DBL_DIG)) {
9157                 /* it's going to be short enough that
9158                  * long double precision is not needed */
9159
9160                 if ((nv <= 0L) && (nv >= -0L))
9161                     fix_ldbl_sprintf_bug = TRUE; /* 0 is 0 - easiest */
9162                 else {
9163                     /* would use Perl_fp_class as a double-check but not
9164                      * functional on IRIX - see perl.h comments */
9165
9166                     if ((nv >= MY_DBL_MIN) || (nv <= -MY_DBL_MIN)) {
9167                         /* It's within the range that a double can represent */
9168 #if defined(DBL_MAX) && !defined(DBL_MIN)
9169                         if ((nv >= ((long double)1/DBL_MAX)) ||
9170                             (nv <= (-(long double)1/DBL_MAX)))
9171 #endif
9172                         fix_ldbl_sprintf_bug = TRUE;
9173                     }
9174                 }
9175                 if (fix_ldbl_sprintf_bug == TRUE) {
9176                     double temp;
9177
9178                     intsize = 0;
9179                     temp = (double)nv;
9180                     nv = (NV)temp;
9181                 }
9182             }
9183
9184 #  undef MY_DBL_MAX
9185 #  undef MY_DBL_MAX_BUG
9186 #  undef MY_DBL_MIN
9187
9188 #endif /* HAS_LDBL_SPRINTF_BUG */
9189
9190             need += 20; /* fudge factor */
9191             if (PL_efloatsize < need) {
9192                 Safefree(PL_efloatbuf);
9193                 PL_efloatsize = need + 20; /* more fudge */
9194                 Newx(PL_efloatbuf, PL_efloatsize, char);
9195                 PL_efloatbuf[0] = '\0';
9196             }
9197
9198             if ( !(width || left || plus || alt) && fill != '0'
9199                  && has_precis && intsize != 'q' ) {    /* Shortcuts */
9200                 /* See earlier comment about buggy Gconvert when digits,
9201                    aka precis is 0  */
9202                 if ( c == 'g' && precis) {
9203                     Gconvert((NV)nv, (int)precis, 0, PL_efloatbuf);
9204                     /* May return an empty string for digits==0 */
9205                     if (*PL_efloatbuf) {
9206                         elen = strlen(PL_efloatbuf);
9207                         goto float_converted;
9208                     }
9209                 } else if ( c == 'f' && !precis) {
9210                     if ((eptr = F0convert(nv, ebuf + sizeof ebuf, &elen)))
9211                         break;
9212                 }
9213             }
9214             {
9215                 char *ptr = ebuf + sizeof ebuf;
9216                 *--ptr = '\0';
9217                 *--ptr = c;
9218                 /* FIXME: what to do if HAS_LONG_DOUBLE but not PERL_PRIfldbl? */
9219 #if defined(HAS_LONG_DOUBLE) && defined(PERL_PRIfldbl)
9220                 if (intsize == 'q') {
9221                     /* Copy the one or more characters in a long double
9222                      * format before the 'base' ([efgEFG]) character to
9223                      * the format string. */
9224                     static char const prifldbl[] = PERL_PRIfldbl;
9225                     char const *p = prifldbl + sizeof(prifldbl) - 3;
9226                     while (p >= prifldbl) { *--ptr = *p--; }
9227                 }
9228 #endif
9229                 if (has_precis) {
9230                     base = precis;
9231                     do { *--ptr = '0' + (base % 10); } while (base /= 10);
9232                     *--ptr = '.';
9233                 }
9234                 if (width) {
9235                     base = width;
9236                     do { *--ptr = '0' + (base % 10); } while (base /= 10);
9237                 }
9238                 if (fill == '0')
9239                     *--ptr = fill;
9240                 if (left)
9241                     *--ptr = '-';
9242                 if (plus)
9243                     *--ptr = plus;
9244                 if (alt)
9245                     *--ptr = '#';
9246                 *--ptr = '%';
9247
9248                 /* No taint.  Otherwise we are in the strange situation
9249                  * where printf() taints but print($float) doesn't.
9250                  * --jhi */
9251 #if defined(HAS_LONG_DOUBLE)
9252                 elen = ((intsize == 'q')
9253                         ? my_sprintf(PL_efloatbuf, ptr, nv)
9254                         : my_sprintf(PL_efloatbuf, ptr, (double)nv));
9255 #else
9256                 elen = my_sprintf(PL_efloatbuf, ptr, nv);
9257 #endif
9258             }
9259         float_converted:
9260             eptr = PL_efloatbuf;
9261             break;
9262
9263             /* SPECIAL */
9264
9265         case 'n':
9266             if (vectorize)
9267                 goto unknown;
9268             i = SvCUR(sv) - origlen;
9269             if (args) {
9270                 switch (intsize) {
9271                 case 'h':       *(va_arg(*args, short*)) = i; break;
9272                 default:        *(va_arg(*args, int*)) = i; break;
9273                 case 'l':       *(va_arg(*args, long*)) = i; break;
9274                 case 'V':       *(va_arg(*args, IV*)) = i; break;
9275 #ifdef HAS_QUAD
9276                 case 'q':       *(va_arg(*args, Quad_t*)) = i; break;
9277 #endif
9278                 }
9279             }
9280             else
9281                 sv_setuv_mg(argsv, (UV)i);
9282             continue;   /* not "break" */
9283
9284             /* UNKNOWN */
9285
9286         default:
9287       unknown:
9288             if (!args
9289                 && (PL_op->op_type == OP_PRTF || PL_op->op_type == OP_SPRINTF)
9290                 && ckWARN(WARN_PRINTF))
9291             {
9292                 SV * const msg = sv_newmortal();
9293                 Perl_sv_setpvf(aTHX_ msg, "Invalid conversion in %sprintf: ",
9294                           (PL_op->op_type == OP_PRTF) ? "" : "s");
9295                 if (c) {
9296                     if (isPRINT(c))
9297                         Perl_sv_catpvf(aTHX_ msg,
9298                                        "\"%%%c\"", c & 0xFF);
9299                     else
9300                         Perl_sv_catpvf(aTHX_ msg,
9301                                        "\"%%\\%03"UVof"\"",
9302                                        (UV)c & 0xFF);
9303                 } else
9304                     sv_catpvs(msg, "end of string");
9305                 Perl_warner(aTHX_ packWARN(WARN_PRINTF), "%"SVf, msg); /* yes, this is reentrant */
9306             }
9307
9308             /* output mangled stuff ... */
9309             if (c == '\0')
9310                 --q;
9311             eptr = p;
9312             elen = q - p;
9313
9314             /* ... right here, because formatting flags should not apply */
9315             SvGROW(sv, SvCUR(sv) + elen + 1);
9316             p = SvEND(sv);
9317             Copy(eptr, p, elen, char);
9318             p += elen;
9319             *p = '\0';
9320             SvCUR_set(sv, p - SvPVX_const(sv));
9321             svix = osvix;
9322             continue;   /* not "break" */
9323         }
9324
9325         /* calculate width before utf8_upgrade changes it */
9326         have = esignlen + zeros + elen;
9327         if (have < zeros)
9328             Perl_croak_nocontext(PL_memory_wrap);
9329
9330         if (is_utf8 != has_utf8) {
9331              if (is_utf8) {
9332                   if (SvCUR(sv))
9333                        sv_utf8_upgrade(sv);
9334              }
9335              else {
9336                   SV * const nsv = sv_2mortal(newSVpvn(eptr, elen));
9337                   sv_utf8_upgrade(nsv);
9338                   eptr = SvPVX_const(nsv);
9339                   elen = SvCUR(nsv);
9340              }
9341              SvGROW(sv, SvCUR(sv) + elen + 1);
9342              p = SvEND(sv);
9343              *p = '\0';
9344         }
9345
9346         need = (have > width ? have : width);
9347         gap = need - have;
9348
9349         if (need >= (((STRLEN)~0) - SvCUR(sv) - dotstrlen - 1))
9350             Perl_croak_nocontext(PL_memory_wrap);
9351         SvGROW(sv, SvCUR(sv) + need + dotstrlen + 1);
9352         p = SvEND(sv);
9353         if (esignlen && fill == '0') {
9354             int i;
9355             for (i = 0; i < (int)esignlen; i++)
9356                 *p++ = esignbuf[i];
9357         }
9358         if (gap && !left) {
9359             memset(p, fill, gap);
9360             p += gap;
9361         }
9362         if (esignlen && fill != '0') {
9363             int i;
9364             for (i = 0; i < (int)esignlen; i++)
9365                 *p++ = esignbuf[i];
9366         }
9367         if (zeros) {
9368             int i;
9369             for (i = zeros; i; i--)
9370                 *p++ = '0';
9371         }
9372         if (elen) {
9373             Copy(eptr, p, elen, char);
9374             p += elen;
9375         }
9376         if (gap && left) {
9377             memset(p, ' ', gap);
9378             p += gap;
9379         }
9380         if (vectorize) {
9381             if (veclen) {
9382                 Copy(dotstr, p, dotstrlen, char);
9383                 p += dotstrlen;
9384             }
9385             else
9386                 vectorize = FALSE;              /* done iterating over vecstr */
9387         }
9388         if (is_utf8)
9389             has_utf8 = TRUE;
9390         if (has_utf8)
9391             SvUTF8_on(sv);
9392         *p = '\0';
9393         SvCUR_set(sv, p - SvPVX_const(sv));
9394         if (vectorize) {
9395             esignlen = 0;
9396             goto vector;
9397         }
9398     }
9399 }
9400
9401 /* =========================================================================
9402
9403 =head1 Cloning an interpreter
9404
9405 All the macros and functions in this section are for the private use of
9406 the main function, perl_clone().
9407
9408 The foo_dup() functions make an exact copy of an existing foo thinngy.
9409 During the course of a cloning, a hash table is used to map old addresses
9410 to new addresses. The table is created and manipulated with the
9411 ptr_table_* functions.
9412
9413 =cut
9414
9415 ============================================================================*/
9416
9417
9418 #if defined(USE_ITHREADS)
9419
9420 /* XXX Remove this so it doesn't have to go thru the macro and return for nothing */
9421 #ifndef GpREFCNT_inc
9422 #  define GpREFCNT_inc(gp)      ((gp) ? (++(gp)->gp_refcnt, (gp)) : (GP*)NULL)
9423 #endif
9424
9425
9426 /* Certain cases in Perl_ss_dup have been merged, by relying on the fact
9427    that currently av_dup and hv_dup are the same as sv_dup. If this changes,
9428    please unmerge ss_dup.  */
9429 #define sv_dup_inc(s,t) SvREFCNT_inc(sv_dup(s,t))
9430 #define sv_dup_inc_NN(s,t)      SvREFCNT_inc_NN(sv_dup(s,t))
9431 #define av_dup(s,t)     (AV*)sv_dup((SV*)s,t)
9432 #define av_dup_inc(s,t) (AV*)SvREFCNT_inc(sv_dup((SV*)s,t))
9433 #define hv_dup(s,t)     (HV*)sv_dup((SV*)s,t)
9434 #define hv_dup_inc(s,t) (HV*)SvREFCNT_inc(sv_dup((SV*)s,t))
9435 #define cv_dup(s,t)     (CV*)sv_dup((SV*)s,t)
9436 #define cv_dup_inc(s,t) (CV*)SvREFCNT_inc(sv_dup((SV*)s,t))
9437 #define io_dup(s,t)     (IO*)sv_dup((SV*)s,t)
9438 #define io_dup_inc(s,t) (IO*)SvREFCNT_inc(sv_dup((SV*)s,t))
9439 #define gv_dup(s,t)     (GV*)sv_dup((SV*)s,t)
9440 #define gv_dup_inc(s,t) (GV*)SvREFCNT_inc(sv_dup((SV*)s,t))
9441 #define SAVEPV(p)       ((p) ? savepv(p) : NULL)
9442 #define SAVEPVN(p,n)    ((p) ? savepvn(p,n) : NULL)
9443
9444
9445 /* Duplicate a regexp. Required reading: pregcomp() and pregfree() in
9446    regcomp.c. AMS 20010712 */
9447
9448 REGEXP *
9449 Perl_re_dup(pTHX_ const REGEXP *r, CLONE_PARAMS *param)
9450 {
9451     dVAR;
9452     REGEXP *ret;
9453     int i, len, npar;
9454     struct reg_substr_datum *s;
9455
9456     if (!r)
9457         return (REGEXP *)NULL;
9458
9459     if ((ret = (REGEXP *)ptr_table_fetch(PL_ptr_table, r)))
9460         return ret;
9461
9462     len = r->offsets[0];
9463     npar = r->nparens+1;
9464
9465     Newxc(ret, sizeof(regexp) + (len+1)*sizeof(regnode), char, regexp);
9466     Copy(r->program, ret->program, len+1, regnode);
9467
9468     Newx(ret->startp, npar, I32);
9469     Copy(r->startp, ret->startp, npar, I32);
9470     Newx(ret->endp, npar, I32);
9471     Copy(r->startp, ret->startp, npar, I32);
9472
9473     Newx(ret->substrs, 1, struct reg_substr_data);
9474     for (s = ret->substrs->data, i = 0; i < 3; i++, s++) {
9475         s->min_offset = r->substrs->data[i].min_offset;
9476         s->max_offset = r->substrs->data[i].max_offset;
9477         s->substr     = sv_dup_inc(r->substrs->data[i].substr, param);
9478         s->utf8_substr = sv_dup_inc(r->substrs->data[i].utf8_substr, param);
9479     }
9480
9481     ret->regstclass = NULL;
9482     if (r->data) {
9483         struct reg_data *d;
9484         const int count = r->data->count;
9485         int i;
9486
9487         Newxc(d, sizeof(struct reg_data) + count*sizeof(void *),
9488                 char, struct reg_data);
9489         Newx(d->what, count, U8);
9490
9491         d->count = count;
9492         for (i = 0; i < count; i++) {
9493             d->what[i] = r->data->what[i];
9494             switch (d->what[i]) {
9495                 /* legal options are one of: sfpont
9496                    see also regcomp.h and pregfree() */
9497             case 's':
9498                 d->data[i] = sv_dup_inc((SV *)r->data->data[i], param);
9499                 break;
9500             case 'p':
9501                 d->data[i] = av_dup_inc((AV *)r->data->data[i], param);
9502                 break;
9503             case 'f':
9504                 /* This is cheating. */
9505                 Newx(d->data[i], 1, struct regnode_charclass_class);
9506                 StructCopy(r->data->data[i], d->data[i],
9507                             struct regnode_charclass_class);
9508                 ret->regstclass = (regnode*)d->data[i];
9509                 break;
9510             case 'o':
9511                 /* Compiled op trees are readonly, and can thus be
9512                    shared without duplication. */
9513                 OP_REFCNT_LOCK;
9514                 d->data[i] = (void*)OpREFCNT_inc((OP*)r->data->data[i]);
9515                 OP_REFCNT_UNLOCK;
9516                 break;
9517             case 'n':
9518                 d->data[i] = r->data->data[i];
9519                 break;
9520             case 't':
9521                 d->data[i] = r->data->data[i];
9522                 OP_REFCNT_LOCK;
9523                 ((reg_trie_data*)d->data[i])->refcount++;
9524                 OP_REFCNT_UNLOCK;
9525                 break;
9526             default:
9527                 Perl_croak(aTHX_ "panic: re_dup unknown data code '%c'", r->data->what[i]);
9528             }
9529         }
9530
9531         ret->data = d;
9532     }
9533     else
9534         ret->data = NULL;
9535
9536     Newx(ret->offsets, 2*len+1, U32);
9537     Copy(r->offsets, ret->offsets, 2*len+1, U32);
9538
9539     ret->precomp        = SAVEPVN(r->precomp, r->prelen);
9540     ret->refcnt         = r->refcnt;
9541     ret->minlen         = r->minlen;
9542     ret->prelen         = r->prelen;
9543     ret->nparens        = r->nparens;
9544     ret->lastparen      = r->lastparen;
9545     ret->lastcloseparen = r->lastcloseparen;
9546     ret->reganch        = r->reganch;
9547
9548     ret->sublen         = r->sublen;
9549
9550     if (RX_MATCH_COPIED(ret))
9551         ret->subbeg  = SAVEPVN(r->subbeg, r->sublen);
9552     else
9553         ret->subbeg = NULL;
9554 #ifdef PERL_OLD_COPY_ON_WRITE
9555     ret->saved_copy = NULL;
9556 #endif
9557
9558     ptr_table_store(PL_ptr_table, r, ret);
9559     return ret;
9560 }
9561
9562 /* duplicate a file handle */
9563
9564 PerlIO *
9565 Perl_fp_dup(pTHX_ PerlIO *fp, char type, CLONE_PARAMS *param)
9566 {
9567     PerlIO *ret;
9568
9569     PERL_UNUSED_ARG(type);
9570
9571     if (!fp)
9572         return (PerlIO*)NULL;
9573
9574     /* look for it in the table first */
9575     ret = (PerlIO*)ptr_table_fetch(PL_ptr_table, fp);
9576     if (ret)
9577         return ret;
9578
9579     /* create anew and remember what it is */
9580     ret = PerlIO_fdupopen(aTHX_ fp, param, PERLIO_DUP_CLONE);
9581     ptr_table_store(PL_ptr_table, fp, ret);
9582     return ret;
9583 }
9584
9585 /* duplicate a directory handle */
9586
9587 DIR *
9588 Perl_dirp_dup(pTHX_ DIR *dp)
9589 {
9590     PERL_UNUSED_CONTEXT;
9591     if (!dp)
9592         return (DIR*)NULL;
9593     /* XXX TODO */
9594     return dp;
9595 }
9596
9597 /* duplicate a typeglob */
9598
9599 GP *
9600 Perl_gp_dup(pTHX_ GP *gp, CLONE_PARAMS* param)
9601 {
9602     GP *ret;
9603
9604     if (!gp)
9605         return (GP*)NULL;
9606     /* look for it in the table first */
9607     ret = (GP*)ptr_table_fetch(PL_ptr_table, gp);
9608     if (ret)
9609         return ret;
9610
9611     /* create anew and remember what it is */
9612     Newxz(ret, 1, GP);
9613     ptr_table_store(PL_ptr_table, gp, ret);
9614
9615     /* clone */
9616     ret->gp_refcnt      = 0;                    /* must be before any other dups! */
9617     ret->gp_sv          = sv_dup_inc(gp->gp_sv, param);
9618     ret->gp_io          = io_dup_inc(gp->gp_io, param);
9619     ret->gp_form        = cv_dup_inc(gp->gp_form, param);
9620     ret->gp_av          = av_dup_inc(gp->gp_av, param);
9621     ret->gp_hv          = hv_dup_inc(gp->gp_hv, param);
9622     ret->gp_egv = gv_dup(gp->gp_egv, param);/* GvEGV is not refcounted */
9623     ret->gp_cv          = cv_dup_inc(gp->gp_cv, param);
9624     ret->gp_cvgen       = gp->gp_cvgen;
9625     ret->gp_line        = gp->gp_line;
9626     ret->gp_file        = gp->gp_file;          /* points to COP.cop_file */
9627     return ret;
9628 }
9629
9630 /* duplicate a chain of magic */
9631
9632 MAGIC *
9633 Perl_mg_dup(pTHX_ MAGIC *mg, CLONE_PARAMS* param)
9634 {
9635     MAGIC *mgprev = (MAGIC*)NULL;
9636     MAGIC *mgret;
9637     if (!mg)
9638         return (MAGIC*)NULL;
9639     /* look for it in the table first */
9640     mgret = (MAGIC*)ptr_table_fetch(PL_ptr_table, mg);
9641     if (mgret)
9642         return mgret;
9643
9644     for (; mg; mg = mg->mg_moremagic) {
9645         MAGIC *nmg;
9646         Newxz(nmg, 1, MAGIC);
9647         if (mgprev)
9648             mgprev->mg_moremagic = nmg;
9649         else
9650             mgret = nmg;
9651         nmg->mg_virtual = mg->mg_virtual;       /* XXX copy dynamic vtable? */
9652         nmg->mg_private = mg->mg_private;
9653         nmg->mg_type    = mg->mg_type;
9654         nmg->mg_flags   = mg->mg_flags;
9655         if (mg->mg_type == PERL_MAGIC_qr) {
9656             nmg->mg_obj = (SV*)re_dup((REGEXP*)mg->mg_obj, param);
9657         }
9658         else if(mg->mg_type == PERL_MAGIC_backref) {
9659             /* The backref AV has its reference count deliberately bumped by
9660                1.  */
9661             nmg->mg_obj = SvREFCNT_inc(av_dup_inc((AV*) mg->mg_obj, param));
9662         }
9663         else if (mg->mg_type == PERL_MAGIC_symtab) {
9664             nmg->mg_obj = mg->mg_obj;
9665         }
9666         else {
9667             nmg->mg_obj = (mg->mg_flags & MGf_REFCOUNTED)
9668                               ? sv_dup_inc(mg->mg_obj, param)
9669                               : sv_dup(mg->mg_obj, param);
9670         }
9671         nmg->mg_len     = mg->mg_len;
9672         nmg->mg_ptr     = mg->mg_ptr;   /* XXX random ptr? */
9673         if (mg->mg_ptr && mg->mg_type != PERL_MAGIC_regex_global) {
9674             if (mg->mg_len > 0) {
9675                 nmg->mg_ptr     = SAVEPVN(mg->mg_ptr, mg->mg_len);
9676                 if (mg->mg_type == PERL_MAGIC_overload_table &&
9677                         AMT_AMAGIC((AMT*)mg->mg_ptr))
9678                 {
9679                     const AMT * const amtp = (AMT*)mg->mg_ptr;
9680                     AMT * const namtp = (AMT*)nmg->mg_ptr;
9681                     I32 i;
9682                     for (i = 1; i < NofAMmeth; i++) {
9683                         namtp->table[i] = cv_dup_inc(amtp->table[i], param);
9684                     }
9685                 }
9686             }
9687             else if (mg->mg_len == HEf_SVKEY)
9688                 nmg->mg_ptr     = (char*)sv_dup_inc((SV*)mg->mg_ptr, param);
9689         }
9690         if ((mg->mg_flags & MGf_DUP) && mg->mg_virtual && mg->mg_virtual->svt_dup) {
9691             CALL_FPTR(nmg->mg_virtual->svt_dup)(aTHX_ nmg, param);
9692         }
9693         mgprev = nmg;
9694     }
9695     return mgret;
9696 }
9697
9698 /* create a new pointer-mapping table */
9699
9700 PTR_TBL_t *
9701 Perl_ptr_table_new(pTHX)
9702 {
9703     PTR_TBL_t *tbl;
9704     PERL_UNUSED_CONTEXT;
9705
9706     Newxz(tbl, 1, PTR_TBL_t);
9707     tbl->tbl_max        = 511;
9708     tbl->tbl_items      = 0;
9709     Newxz(tbl->tbl_ary, tbl->tbl_max + 1, PTR_TBL_ENT_t*);
9710     return tbl;
9711 }
9712
9713 #define PTR_TABLE_HASH(ptr) \
9714   ((PTR2UV(ptr) >> 3) ^ (PTR2UV(ptr) >> (3 + 7)) ^ (PTR2UV(ptr) >> (3 + 17)))
9715
9716 /* 
9717    we use the PTE_SVSLOT 'reservation' made above, both here (in the
9718    following define) and at call to new_body_inline made below in 
9719    Perl_ptr_table_store()
9720  */
9721
9722 #define del_pte(p)     del_body_type(p, PTE_SVSLOT)
9723
9724 /* map an existing pointer using a table */
9725
9726 STATIC PTR_TBL_ENT_t *
9727 S_ptr_table_find(PTR_TBL_t *tbl, const void *sv) {
9728     PTR_TBL_ENT_t *tblent;
9729     const UV hash = PTR_TABLE_HASH(sv);
9730     assert(tbl);
9731     tblent = tbl->tbl_ary[hash & tbl->tbl_max];
9732     for (; tblent; tblent = tblent->next) {
9733         if (tblent->oldval == sv)
9734             return tblent;
9735     }
9736     return NULL;
9737 }
9738
9739 void *
9740 Perl_ptr_table_fetch(pTHX_ PTR_TBL_t *tbl, const void *sv)
9741 {
9742     PTR_TBL_ENT_t const *const tblent = ptr_table_find(tbl, sv);
9743     PERL_UNUSED_CONTEXT;
9744     return tblent ? tblent->newval : NULL;
9745 }
9746
9747 /* add a new entry to a pointer-mapping table */
9748
9749 void
9750 Perl_ptr_table_store(pTHX_ PTR_TBL_t *tbl, const void *oldsv, void *newsv)
9751 {
9752     PTR_TBL_ENT_t *tblent = ptr_table_find(tbl, oldsv);
9753     PERL_UNUSED_CONTEXT;
9754
9755     if (tblent) {
9756         tblent->newval = newsv;
9757     } else {
9758         const UV entry = PTR_TABLE_HASH(oldsv) & tbl->tbl_max;
9759
9760         new_body_inline(tblent, PTE_SVSLOT);
9761
9762         tblent->oldval = oldsv;
9763         tblent->newval = newsv;
9764         tblent->next = tbl->tbl_ary[entry];
9765         tbl->tbl_ary[entry] = tblent;
9766         tbl->tbl_items++;
9767         if (tblent->next && tbl->tbl_items > tbl->tbl_max)
9768             ptr_table_split(tbl);
9769     }
9770 }
9771
9772 /* double the hash bucket size of an existing ptr table */
9773
9774 void
9775 Perl_ptr_table_split(pTHX_ PTR_TBL_t *tbl)
9776 {
9777     PTR_TBL_ENT_t **ary = tbl->tbl_ary;
9778     const UV oldsize = tbl->tbl_max + 1;
9779     UV newsize = oldsize * 2;
9780     UV i;
9781     PERL_UNUSED_CONTEXT;
9782
9783     Renew(ary, newsize, PTR_TBL_ENT_t*);
9784     Zero(&ary[oldsize], newsize-oldsize, PTR_TBL_ENT_t*);
9785     tbl->tbl_max = --newsize;
9786     tbl->tbl_ary = ary;
9787     for (i=0; i < oldsize; i++, ary++) {
9788         PTR_TBL_ENT_t **curentp, **entp, *ent;
9789         if (!*ary)
9790             continue;
9791         curentp = ary + oldsize;
9792         for (entp = ary, ent = *ary; ent; ent = *entp) {
9793             if ((newsize & PTR_TABLE_HASH(ent->oldval)) != i) {
9794                 *entp = ent->next;
9795                 ent->next = *curentp;
9796                 *curentp = ent;
9797                 continue;
9798             }
9799             else
9800                 entp = &ent->next;
9801         }
9802     }
9803 }
9804
9805 /* remove all the entries from a ptr table */
9806
9807 void
9808 Perl_ptr_table_clear(pTHX_ PTR_TBL_t *tbl)
9809 {
9810     if (tbl && tbl->tbl_items) {
9811         register PTR_TBL_ENT_t * const * const array = tbl->tbl_ary;
9812         UV riter = tbl->tbl_max;
9813
9814         do {
9815             PTR_TBL_ENT_t *entry = array[riter];
9816
9817             while (entry) {
9818                 PTR_TBL_ENT_t * const oentry = entry;
9819                 entry = entry->next;
9820                 del_pte(oentry);
9821             }
9822         } while (riter--);
9823
9824         tbl->tbl_items = 0;
9825     }
9826 }
9827
9828 /* clear and free a ptr table */
9829
9830 void
9831 Perl_ptr_table_free(pTHX_ PTR_TBL_t *tbl)
9832 {
9833     if (!tbl) {
9834         return;
9835     }
9836     ptr_table_clear(tbl);
9837     Safefree(tbl->tbl_ary);
9838     Safefree(tbl);
9839 }
9840
9841
9842 void
9843 Perl_rvpv_dup(pTHX_ SV *dstr, const SV *sstr, CLONE_PARAMS* param)
9844 {
9845     if (SvROK(sstr)) {
9846         SvRV_set(dstr, SvWEAKREF(sstr)
9847                        ? sv_dup(SvRV(sstr), param)
9848                        : sv_dup_inc(SvRV(sstr), param));
9849
9850     }
9851     else if (SvPVX_const(sstr)) {
9852         /* Has something there */
9853         if (SvLEN(sstr)) {
9854             /* Normal PV - clone whole allocated space */
9855             SvPV_set(dstr, SAVEPVN(SvPVX_const(sstr), SvLEN(sstr)-1));
9856             if (SvREADONLY(sstr) && SvFAKE(sstr)) {
9857                 /* Not that normal - actually sstr is copy on write.
9858                    But we are a true, independant SV, so:  */
9859                 SvREADONLY_off(dstr);
9860                 SvFAKE_off(dstr);
9861             }
9862         }
9863         else {
9864             /* Special case - not normally malloced for some reason */
9865             if (isGV_with_GP(sstr)) {
9866                 /* Don't need to do anything here.  */
9867             }
9868             else if ((SvREADONLY(sstr) && SvFAKE(sstr))) {
9869                 /* A "shared" PV - clone it as "shared" PV */
9870                 SvPV_set(dstr,
9871                          HEK_KEY(hek_dup(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr)),
9872                                          param)));
9873             }
9874             else {
9875                 /* Some other special case - random pointer */
9876                 SvPV_set(dstr, SvPVX(sstr));            
9877             }
9878         }
9879     }
9880     else {
9881         /* Copy the NULL */
9882         if (SvTYPE(dstr) == SVt_RV)
9883             SvRV_set(dstr, NULL);
9884         else
9885             SvPV_set(dstr, NULL);
9886     }
9887 }
9888
9889 /* duplicate an SV of any type (including AV, HV etc) */
9890
9891 SV *
9892 Perl_sv_dup(pTHX_ const SV *sstr, CLONE_PARAMS* param)
9893 {
9894     dVAR;
9895     SV *dstr;
9896
9897     if (!sstr || SvTYPE(sstr) == SVTYPEMASK)
9898         return NULL;
9899     /* look for it in the table first */
9900     dstr = (SV*)ptr_table_fetch(PL_ptr_table, sstr);
9901     if (dstr)
9902         return dstr;
9903
9904     if(param->flags & CLONEf_JOIN_IN) {
9905         /** We are joining here so we don't want do clone
9906             something that is bad **/
9907         if (SvTYPE(sstr) == SVt_PVHV) {
9908             const char * const hvname = HvNAME_get(sstr);
9909             if (hvname)
9910                 /** don't clone stashes if they already exist **/
9911                 return (SV*)gv_stashpv(hvname,0);
9912         }
9913     }
9914
9915     /* create anew and remember what it is */
9916     new_SV(dstr);
9917
9918 #ifdef DEBUG_LEAKING_SCALARS
9919     dstr->sv_debug_optype = sstr->sv_debug_optype;
9920     dstr->sv_debug_line = sstr->sv_debug_line;
9921     dstr->sv_debug_inpad = sstr->sv_debug_inpad;
9922     dstr->sv_debug_cloned = 1;
9923     dstr->sv_debug_file = savepv(sstr->sv_debug_file);
9924 #endif
9925
9926     ptr_table_store(PL_ptr_table, sstr, dstr);
9927
9928     /* clone */
9929     SvFLAGS(dstr)       = SvFLAGS(sstr);
9930     SvFLAGS(dstr)       &= ~SVf_OOK;            /* don't propagate OOK hack */
9931     SvREFCNT(dstr)      = 0;                    /* must be before any other dups! */
9932
9933 #ifdef DEBUGGING
9934     if (SvANY(sstr) && PL_watch_pvx && SvPVX_const(sstr) == PL_watch_pvx)
9935         PerlIO_printf(Perl_debug_log, "watch at %p hit, found string \"%s\"\n",
9936                       PL_watch_pvx, SvPVX_const(sstr));
9937 #endif
9938
9939     /* don't clone objects whose class has asked us not to */
9940     if (SvOBJECT(sstr) && ! (SvFLAGS(SvSTASH(sstr)) & SVphv_CLONEABLE)) {
9941         SvFLAGS(dstr) &= ~SVTYPEMASK;
9942         SvOBJECT_off(dstr);
9943         return dstr;
9944     }
9945
9946     switch (SvTYPE(sstr)) {
9947     case SVt_NULL:
9948         SvANY(dstr)     = NULL;
9949         break;
9950     case SVt_IV:
9951         SvANY(dstr)     = (XPVIV*)((char*)&(dstr->sv_u.svu_iv) - STRUCT_OFFSET(XPVIV, xiv_iv));
9952         SvIV_set(dstr, SvIVX(sstr));
9953         break;
9954     case SVt_NV:
9955         SvANY(dstr)     = new_XNV();
9956         SvNV_set(dstr, SvNVX(sstr));
9957         break;
9958     case SVt_RV:
9959         SvANY(dstr)     = &(dstr->sv_u.svu_rv);
9960         Perl_rvpv_dup(aTHX_ dstr, sstr, param);
9961         break;
9962     default:
9963         {
9964             /* These are all the types that need complex bodies allocating.  */
9965             void *new_body;
9966             const svtype sv_type = SvTYPE(sstr);
9967             const struct body_details *const sv_type_details
9968                 = bodies_by_type + sv_type;
9969
9970             switch (sv_type) {
9971             default:
9972                 Perl_croak(aTHX_ "Bizarre SvTYPE [%" IVdf "]", (IV)SvTYPE(sstr));
9973                 break;
9974
9975             case SVt_PVGV:
9976                 if (GvUNIQUE((GV*)sstr)) {
9977                     /*EMPTY*/;   /* Do sharing here, and fall through */
9978                 }
9979             case SVt_PVIO:
9980             case SVt_PVFM:
9981             case SVt_PVHV:
9982             case SVt_PVAV:
9983             case SVt_PVBM:
9984             case SVt_PVCV:
9985             case SVt_PVLV:
9986             case SVt_PVMG:
9987             case SVt_PVNV:
9988             case SVt_PVIV:
9989             case SVt_PV:
9990                 assert(sv_type_details->body_size);
9991                 if (sv_type_details->arena) {
9992                     new_body_inline(new_body, sv_type);
9993                     new_body
9994                         = (void*)((char*)new_body - sv_type_details->offset);
9995                 } else {
9996                     new_body = new_NOARENA(sv_type_details);
9997                 }
9998             }
9999             assert(new_body);
10000             SvANY(dstr) = new_body;
10001
10002 #ifndef PURIFY
10003             Copy(((char*)SvANY(sstr)) + sv_type_details->offset,
10004                  ((char*)SvANY(dstr)) + sv_type_details->offset,
10005                  sv_type_details->copy, char);
10006 #else
10007             Copy(((char*)SvANY(sstr)),
10008                  ((char*)SvANY(dstr)),
10009                  sv_type_details->body_size + sv_type_details->offset, char);
10010 #endif
10011
10012             if (sv_type != SVt_PVAV && sv_type != SVt_PVHV
10013                 && !isGV_with_GP(dstr))
10014                 Perl_rvpv_dup(aTHX_ dstr, sstr, param);
10015
10016             /* The Copy above means that all the source (unduplicated) pointers
10017                are now in the destination.  We can check the flags and the
10018                pointers in either, but it's possible that there's less cache
10019                missing by always going for the destination.
10020                FIXME - instrument and check that assumption  */
10021             if (sv_type >= SVt_PVMG) {
10022                 HV *ourstash;
10023                 if ((sv_type == SVt_PVMG) && (ourstash = OURSTASH(dstr))) {
10024                     OURSTASH_set(dstr, hv_dup_inc(ourstash, param));
10025                 } else if (SvMAGIC(dstr))
10026                     SvMAGIC_set(dstr, mg_dup(SvMAGIC(dstr), param));
10027                 if (SvSTASH(dstr))
10028                     SvSTASH_set(dstr, hv_dup_inc(SvSTASH(dstr), param));
10029             }
10030
10031             /* The cast silences a GCC warning about unhandled types.  */
10032             switch ((int)sv_type) {
10033             case SVt_PV:
10034                 break;
10035             case SVt_PVIV:
10036                 break;
10037             case SVt_PVNV:
10038                 break;
10039             case SVt_PVMG:
10040                 break;
10041             case SVt_PVBM:
10042                 break;
10043             case SVt_PVLV:
10044                 /* XXX LvTARGOFF sometimes holds PMOP* when DEBUGGING */
10045                 if (LvTYPE(dstr) == 't') /* for tie: unrefcnted fake (SV**) */
10046                     LvTARG(dstr) = dstr;
10047                 else if (LvTYPE(dstr) == 'T') /* for tie: fake HE */
10048                     LvTARG(dstr) = (SV*)he_dup((HE*)LvTARG(dstr), 0, param);
10049                 else
10050                     LvTARG(dstr) = sv_dup_inc(LvTARG(dstr), param);
10051                 break;
10052             case SVt_PVGV:
10053                 if (GvNAME_HEK(dstr))
10054                     GvNAME_HEK(dstr) = hek_dup(GvNAME_HEK(dstr), param);
10055
10056                 /* Don't call sv_add_backref here as it's going to be created
10057                    as part of the magic cloning of the symbol table.  */
10058                 GvSTASH(dstr)   = hv_dup(GvSTASH(dstr), param);
10059                 if(isGV_with_GP(sstr)) {
10060                     /* Danger Will Robinson - GvGP(dstr) isn't initialised
10061                        at the point of this comment.  */
10062                     GvGP(dstr)  = gp_dup(GvGP(sstr), param);
10063                     (void)GpREFCNT_inc(GvGP(dstr));
10064                 } else
10065                     Perl_rvpv_dup(aTHX_ dstr, sstr, param);
10066                 break;
10067             case SVt_PVIO:
10068                 IoIFP(dstr)     = fp_dup(IoIFP(dstr), IoTYPE(dstr), param);
10069                 if (IoOFP(dstr) == IoIFP(sstr))
10070                     IoOFP(dstr) = IoIFP(dstr);
10071                 else
10072                     IoOFP(dstr) = fp_dup(IoOFP(dstr), IoTYPE(dstr), param);
10073                 /* PL_rsfp_filters entries have fake IoDIRP() */
10074                 if(IoFLAGS(dstr) & IOf_FAKE_DIRP) {
10075                     /* I have no idea why fake dirp (rsfps)
10076                        should be treated differently but otherwise
10077                        we end up with leaks -- sky*/
10078                     IoTOP_GV(dstr)      = gv_dup_inc(IoTOP_GV(dstr), param);
10079                     IoFMT_GV(dstr)      = gv_dup_inc(IoFMT_GV(dstr), param);
10080                     IoBOTTOM_GV(dstr)   = gv_dup_inc(IoBOTTOM_GV(dstr), param);
10081                 } else {
10082                     IoTOP_GV(dstr)      = gv_dup(IoTOP_GV(dstr), param);
10083                     IoFMT_GV(dstr)      = gv_dup(IoFMT_GV(dstr), param);
10084                     IoBOTTOM_GV(dstr)   = gv_dup(IoBOTTOM_GV(dstr), param);
10085                     if (IoDIRP(dstr)) {
10086                         IoDIRP(dstr)    = dirp_dup(IoDIRP(dstr));
10087                     } else {
10088                         /*EMPTY*/;
10089                         /* IoDIRP(dstr) is already a copy of IoDIRP(sstr)  */
10090                     }
10091                 }
10092                 IoTOP_NAME(dstr)        = SAVEPV(IoTOP_NAME(dstr));
10093                 IoFMT_NAME(dstr)        = SAVEPV(IoFMT_NAME(dstr));
10094                 IoBOTTOM_NAME(dstr)     = SAVEPV(IoBOTTOM_NAME(dstr));
10095                 break;
10096             case SVt_PVAV:
10097                 if (AvARRAY((AV*)sstr)) {
10098                     SV **dst_ary, **src_ary;
10099                     SSize_t items = AvFILLp((AV*)sstr) + 1;
10100
10101                     src_ary = AvARRAY((AV*)sstr);
10102                     Newxz(dst_ary, AvMAX((AV*)sstr)+1, SV*);
10103                     ptr_table_store(PL_ptr_table, src_ary, dst_ary);
10104                     SvPV_set(dstr, (char*)dst_ary);
10105                     AvALLOC((AV*)dstr) = dst_ary;
10106                     if (AvREAL((AV*)sstr)) {
10107                         while (items-- > 0)
10108                             *dst_ary++ = sv_dup_inc(*src_ary++, param);
10109                     }
10110                     else {
10111                         while (items-- > 0)
10112                             *dst_ary++ = sv_dup(*src_ary++, param);
10113                     }
10114                     items = AvMAX((AV*)sstr) - AvFILLp((AV*)sstr);
10115                     while (items-- > 0) {
10116                         *dst_ary++ = &PL_sv_undef;
10117                     }
10118                 }
10119                 else {
10120                     SvPV_set(dstr, NULL);
10121                     AvALLOC((AV*)dstr)  = (SV**)NULL;
10122                 }
10123                 break;
10124             case SVt_PVHV:
10125                 {
10126                     HEK *hvname = NULL;
10127
10128                     if (HvARRAY((HV*)sstr)) {
10129                         STRLEN i = 0;
10130                         const bool sharekeys = !!HvSHAREKEYS(sstr);
10131                         XPVHV * const dxhv = (XPVHV*)SvANY(dstr);
10132                         XPVHV * const sxhv = (XPVHV*)SvANY(sstr);
10133                         char *darray;
10134                         Newx(darray, PERL_HV_ARRAY_ALLOC_BYTES(dxhv->xhv_max+1)
10135                             + (SvOOK(sstr) ? sizeof(struct xpvhv_aux) : 0),
10136                             char);
10137                         HvARRAY(dstr) = (HE**)darray;
10138                         while (i <= sxhv->xhv_max) {
10139                             const HE *source = HvARRAY(sstr)[i];
10140                             HvARRAY(dstr)[i] = source
10141                                 ? he_dup(source, sharekeys, param) : 0;
10142                             ++i;
10143                         }
10144                         if (SvOOK(sstr)) {
10145                             struct xpvhv_aux * const saux = HvAUX(sstr);
10146                             struct xpvhv_aux * const daux = HvAUX(dstr);
10147                             /* This flag isn't copied.  */
10148                             /* SvOOK_on(hv) attacks the IV flags.  */
10149                             SvFLAGS(dstr) |= SVf_OOK;
10150
10151                             hvname = saux->xhv_name;
10152                             daux->xhv_name
10153                                 = hvname ? hek_dup(hvname, param) : hvname;
10154
10155                             daux->xhv_riter = saux->xhv_riter;
10156                             daux->xhv_eiter = saux->xhv_eiter
10157                                 ? he_dup(saux->xhv_eiter,
10158                                          (bool)!!HvSHAREKEYS(sstr), param) : 0;
10159                             daux->xhv_backreferences = saux->xhv_backreferences
10160                                 ? (AV*) SvREFCNT_inc(
10161                                                      sv_dup((SV*)saux->
10162                                                             xhv_backreferences,
10163                                                             param))
10164                                 : 0;
10165                         }
10166                     }
10167                     else {
10168                         SvPV_set(dstr, NULL);
10169                     }
10170                     /* Record stashes for possible cloning in Perl_clone(). */
10171                     if(hvname)
10172                         av_push(param->stashes, dstr);
10173                 }
10174                 break;
10175             case SVt_PVCV:
10176                 if (!(param->flags & CLONEf_COPY_STACKS)) {
10177                     CvDEPTH(dstr) = 0;
10178                 }
10179             case SVt_PVFM:
10180                 /* NOTE: not refcounted */
10181                 CvSTASH(dstr)   = hv_dup(CvSTASH(dstr), param);
10182                 OP_REFCNT_LOCK;
10183                 if (!CvISXSUB(dstr))
10184                     CvROOT(dstr) = OpREFCNT_inc(CvROOT(dstr));
10185                 OP_REFCNT_UNLOCK;
10186                 if (CvCONST(dstr) && CvISXSUB(dstr)) {
10187                     CvXSUBANY(dstr).any_ptr = GvUNIQUE(CvGV(dstr)) ?
10188                         SvREFCNT_inc(CvXSUBANY(dstr).any_ptr) :
10189                         sv_dup_inc((SV *)CvXSUBANY(dstr).any_ptr, param);
10190                 }
10191                 /* don't dup if copying back - CvGV isn't refcounted, so the
10192                  * duped GV may never be freed. A bit of a hack! DAPM */
10193                 CvGV(dstr)      = (param->flags & CLONEf_JOIN_IN) ?
10194                     NULL : gv_dup(CvGV(dstr), param) ;
10195                 PAD_DUP(CvPADLIST(dstr), CvPADLIST(sstr), param);
10196                 CvOUTSIDE(dstr) =
10197                     CvWEAKOUTSIDE(sstr)
10198                     ? cv_dup(    CvOUTSIDE(dstr), param)
10199                     : cv_dup_inc(CvOUTSIDE(dstr), param);
10200                 if (!CvISXSUB(dstr))
10201                     CvFILE(dstr) = SAVEPV(CvFILE(dstr));
10202                 break;
10203             }
10204         }
10205     }
10206
10207     if (SvOBJECT(dstr) && SvTYPE(dstr) != SVt_PVIO)
10208         ++PL_sv_objcount;
10209
10210     return dstr;
10211  }
10212
10213 /* duplicate a context */
10214
10215 PERL_CONTEXT *
10216 Perl_cx_dup(pTHX_ PERL_CONTEXT *cxs, I32 ix, I32 max, CLONE_PARAMS* param)
10217 {
10218     PERL_CONTEXT *ncxs;
10219
10220     if (!cxs)
10221         return (PERL_CONTEXT*)NULL;
10222
10223     /* look for it in the table first */
10224     ncxs = (PERL_CONTEXT*)ptr_table_fetch(PL_ptr_table, cxs);
10225     if (ncxs)
10226         return ncxs;
10227
10228     /* create anew and remember what it is */
10229     Newxz(ncxs, max + 1, PERL_CONTEXT);
10230     ptr_table_store(PL_ptr_table, cxs, ncxs);
10231
10232     while (ix >= 0) {
10233         PERL_CONTEXT * const cx = &cxs[ix];
10234         PERL_CONTEXT * const ncx = &ncxs[ix];
10235         ncx->cx_type    = cx->cx_type;
10236         if (CxTYPE(cx) == CXt_SUBST) {
10237             Perl_croak(aTHX_ "Cloning substitution context is unimplemented");
10238         }
10239         else {
10240             ncx->blk_oldsp      = cx->blk_oldsp;
10241             ncx->blk_oldcop     = cx->blk_oldcop;
10242             ncx->blk_oldmarksp  = cx->blk_oldmarksp;
10243             ncx->blk_oldscopesp = cx->blk_oldscopesp;
10244             ncx->blk_oldpm      = cx->blk_oldpm;
10245             ncx->blk_gimme      = cx->blk_gimme;
10246             switch (CxTYPE(cx)) {
10247             case CXt_SUB:
10248                 ncx->blk_sub.cv         = (cx->blk_sub.olddepth == 0
10249                                            ? cv_dup_inc(cx->blk_sub.cv, param)
10250                                            : cv_dup(cx->blk_sub.cv,param));
10251                 ncx->blk_sub.argarray   = (cx->blk_sub.hasargs
10252                                            ? av_dup_inc(cx->blk_sub.argarray, param)
10253                                            : NULL);
10254                 ncx->blk_sub.savearray  = av_dup_inc(cx->blk_sub.savearray, param);
10255                 ncx->blk_sub.olddepth   = cx->blk_sub.olddepth;
10256                 ncx->blk_sub.hasargs    = cx->blk_sub.hasargs;
10257                 ncx->blk_sub.lval       = cx->blk_sub.lval;
10258                 ncx->blk_sub.retop      = cx->blk_sub.retop;
10259                 break;
10260             case CXt_EVAL:
10261                 ncx->blk_eval.old_in_eval = cx->blk_eval.old_in_eval;
10262                 ncx->blk_eval.old_op_type = cx->blk_eval.old_op_type;
10263                 ncx->blk_eval.old_namesv = sv_dup_inc(cx->blk_eval.old_namesv, param);
10264                 ncx->blk_eval.old_eval_root = cx->blk_eval.old_eval_root;
10265                 ncx->blk_eval.cur_text  = sv_dup(cx->blk_eval.cur_text, param);
10266                 ncx->blk_eval.retop = cx->blk_eval.retop;
10267                 break;
10268             case CXt_LOOP:
10269                 ncx->blk_loop.label     = cx->blk_loop.label;
10270                 ncx->blk_loop.resetsp   = cx->blk_loop.resetsp;
10271                 ncx->blk_loop.redo_op   = cx->blk_loop.redo_op;
10272                 ncx->blk_loop.next_op   = cx->blk_loop.next_op;
10273                 ncx->blk_loop.last_op   = cx->blk_loop.last_op;
10274                 ncx->blk_loop.iterdata  = (CxPADLOOP(cx)
10275                                            ? cx->blk_loop.iterdata
10276                                            : gv_dup((GV*)cx->blk_loop.iterdata, param));
10277                 ncx->blk_loop.oldcomppad
10278                     = (PAD*)ptr_table_fetch(PL_ptr_table,
10279                                             cx->blk_loop.oldcomppad);
10280                 ncx->blk_loop.itersave  = sv_dup_inc(cx->blk_loop.itersave, param);
10281                 ncx->blk_loop.iterlval  = sv_dup_inc(cx->blk_loop.iterlval, param);
10282                 ncx->blk_loop.iterary   = av_dup_inc(cx->blk_loop.iterary, param);
10283                 ncx->blk_loop.iterix    = cx->blk_loop.iterix;
10284                 ncx->blk_loop.itermax   = cx->blk_loop.itermax;
10285                 break;
10286             case CXt_FORMAT:
10287                 ncx->blk_sub.cv         = cv_dup(cx->blk_sub.cv, param);
10288                 ncx->blk_sub.gv         = gv_dup(cx->blk_sub.gv, param);
10289                 ncx->blk_sub.dfoutgv    = gv_dup_inc(cx->blk_sub.dfoutgv, param);
10290                 ncx->blk_sub.hasargs    = cx->blk_sub.hasargs;
10291                 ncx->blk_sub.retop      = cx->blk_sub.retop;
10292                 break;
10293             case CXt_BLOCK:
10294             case CXt_NULL:
10295                 break;
10296             }
10297         }
10298         --ix;
10299     }
10300     return ncxs;
10301 }
10302
10303 /* duplicate a stack info structure */
10304
10305 PERL_SI *
10306 Perl_si_dup(pTHX_ PERL_SI *si, CLONE_PARAMS* param)
10307 {
10308     PERL_SI *nsi;
10309
10310     if (!si)
10311         return (PERL_SI*)NULL;
10312
10313     /* look for it in the table first */
10314     nsi = (PERL_SI*)ptr_table_fetch(PL_ptr_table, si);
10315     if (nsi)
10316         return nsi;
10317
10318     /* create anew and remember what it is */
10319     Newxz(nsi, 1, PERL_SI);
10320     ptr_table_store(PL_ptr_table, si, nsi);
10321
10322     nsi->si_stack       = av_dup_inc(si->si_stack, param);
10323     nsi->si_cxix        = si->si_cxix;
10324     nsi->si_cxmax       = si->si_cxmax;
10325     nsi->si_cxstack     = cx_dup(si->si_cxstack, si->si_cxix, si->si_cxmax, param);
10326     nsi->si_type        = si->si_type;
10327     nsi->si_prev        = si_dup(si->si_prev, param);
10328     nsi->si_next        = si_dup(si->si_next, param);
10329     nsi->si_markoff     = si->si_markoff;
10330
10331     return nsi;
10332 }
10333
10334 #define POPINT(ss,ix)   ((ss)[--(ix)].any_i32)
10335 #define TOPINT(ss,ix)   ((ss)[ix].any_i32)
10336 #define POPLONG(ss,ix)  ((ss)[--(ix)].any_long)
10337 #define TOPLONG(ss,ix)  ((ss)[ix].any_long)
10338 #define POPIV(ss,ix)    ((ss)[--(ix)].any_iv)
10339 #define TOPIV(ss,ix)    ((ss)[ix].any_iv)
10340 #define POPBOOL(ss,ix)  ((ss)[--(ix)].any_bool)
10341 #define TOPBOOL(ss,ix)  ((ss)[ix].any_bool)
10342 #define POPPTR(ss,ix)   ((ss)[--(ix)].any_ptr)
10343 #define TOPPTR(ss,ix)   ((ss)[ix].any_ptr)
10344 #define POPDPTR(ss,ix)  ((ss)[--(ix)].any_dptr)
10345 #define TOPDPTR(ss,ix)  ((ss)[ix].any_dptr)
10346 #define POPDXPTR(ss,ix) ((ss)[--(ix)].any_dxptr)
10347 #define TOPDXPTR(ss,ix) ((ss)[ix].any_dxptr)
10348
10349 /* XXXXX todo */
10350 #define pv_dup_inc(p)   SAVEPV(p)
10351 #define pv_dup(p)       SAVEPV(p)
10352 #define svp_dup_inc(p,pp)       any_dup(p,pp)
10353
10354 /* map any object to the new equivent - either something in the
10355  * ptr table, or something in the interpreter structure
10356  */
10357
10358 void *
10359 Perl_any_dup(pTHX_ void *v, const PerlInterpreter *proto_perl)
10360 {
10361     void *ret;
10362
10363     if (!v)
10364         return (void*)NULL;
10365
10366     /* look for it in the table first */
10367     ret = ptr_table_fetch(PL_ptr_table, v);
10368     if (ret)
10369         return ret;
10370
10371     /* see if it is part of the interpreter structure */
10372     if (v >= (void*)proto_perl && v < (void*)(proto_perl+1))
10373         ret = (void*)(((char*)aTHX) + (((char*)v) - (char*)proto_perl));
10374     else {
10375         ret = v;
10376     }
10377
10378     return ret;
10379 }
10380
10381 /* duplicate the save stack */
10382
10383 ANY *
10384 Perl_ss_dup(pTHX_ PerlInterpreter *proto_perl, CLONE_PARAMS* param)
10385 {
10386     ANY * const ss      = proto_perl->Tsavestack;
10387     const I32 max       = proto_perl->Tsavestack_max;
10388     I32 ix              = proto_perl->Tsavestack_ix;
10389     ANY *nss;
10390     SV *sv;
10391     GV *gv;
10392     AV *av;
10393     HV *hv;
10394     void* ptr;
10395     int intval;
10396     long longval;
10397     GP *gp;
10398     IV iv;
10399     char *c = NULL;
10400     void (*dptr) (void*);
10401     void (*dxptr) (pTHX_ void*);
10402
10403     Newxz(nss, max, ANY);
10404
10405     while (ix > 0) {
10406         I32 i = POPINT(ss,ix);
10407         TOPINT(nss,ix) = i;
10408         switch (i) {
10409         case SAVEt_ITEM:                        /* normal string */
10410         case SAVEt_SV:                          /* scalar reference */
10411             sv = (SV*)POPPTR(ss,ix);
10412             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10413             sv = (SV*)POPPTR(ss,ix);
10414             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10415             break;
10416         case SAVEt_SHARED_PVREF:                /* char* in shared space */
10417             c = (char*)POPPTR(ss,ix);
10418             TOPPTR(nss,ix) = savesharedpv(c);
10419             ptr = POPPTR(ss,ix);
10420             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10421             break;
10422         case SAVEt_GENERIC_SVREF:               /* generic sv */
10423         case SAVEt_SVREF:                       /* scalar reference */
10424             sv = (SV*)POPPTR(ss,ix);
10425             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10426             ptr = POPPTR(ss,ix);
10427             TOPPTR(nss,ix) = svp_dup_inc((SV**)ptr, proto_perl);/* XXXXX */
10428             break;
10429         case SAVEt_HV:                          /* hash reference */
10430         case SAVEt_AV:                          /* array reference */
10431             sv = POPPTR(ss,ix);
10432             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10433             gv = (GV*)POPPTR(ss,ix);
10434             TOPPTR(nss,ix) = gv_dup(gv, param);
10435             break;
10436         case SAVEt_INT:                         /* int reference */
10437             ptr = POPPTR(ss,ix);
10438             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10439             intval = (int)POPINT(ss,ix);
10440             TOPINT(nss,ix) = intval;
10441             break;
10442         case SAVEt_LONG:                        /* long reference */
10443             ptr = POPPTR(ss,ix);
10444             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10445             longval = (long)POPLONG(ss,ix);
10446             TOPLONG(nss,ix) = longval;
10447             break;
10448         case SAVEt_I32:                         /* I32 reference */
10449         case SAVEt_I16:                         /* I16 reference */
10450         case SAVEt_I8:                          /* I8 reference */
10451         case SAVEt_COP_ARYBASE:                 /* call CopARYBASE_set */
10452             ptr = POPPTR(ss,ix);
10453             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10454             i = POPINT(ss,ix);
10455             TOPINT(nss,ix) = i;
10456             break;
10457         case SAVEt_IV:                          /* IV reference */
10458             ptr = POPPTR(ss,ix);
10459             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10460             iv = POPIV(ss,ix);
10461             TOPIV(nss,ix) = iv;
10462             break;
10463         case SAVEt_HPTR:                        /* HV* reference */
10464         case SAVEt_APTR:                        /* AV* reference */
10465         case SAVEt_SPTR:                        /* SV* reference */
10466             ptr = POPPTR(ss,ix);
10467             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10468             sv = (SV*)POPPTR(ss,ix);
10469             TOPPTR(nss,ix) = sv_dup(sv, param);
10470             break;
10471         case SAVEt_VPTR:                        /* random* reference */
10472             ptr = POPPTR(ss,ix);
10473             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10474             ptr = POPPTR(ss,ix);
10475             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10476             break;
10477         case SAVEt_GENERIC_PVREF:               /* generic char* */
10478         case SAVEt_PPTR:                        /* char* reference */
10479             ptr = POPPTR(ss,ix);
10480             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10481             c = (char*)POPPTR(ss,ix);
10482             TOPPTR(nss,ix) = pv_dup(c);
10483             break;
10484         case SAVEt_NSTAB:
10485             gv = (GV*)POPPTR(ss,ix);
10486             TOPPTR(nss,ix) = gv_dup(gv, param);
10487             break;
10488         case SAVEt_GP:                          /* scalar reference */
10489             gp = (GP*)POPPTR(ss,ix);
10490             TOPPTR(nss,ix) = gp = gp_dup(gp, param);
10491             (void)GpREFCNT_inc(gp);
10492             gv = (GV*)POPPTR(ss,ix);
10493             TOPPTR(nss,ix) = gv_dup_inc(gv, param);
10494             c = (char*)POPPTR(ss,ix);
10495             TOPPTR(nss,ix) = pv_dup(c);
10496             iv = POPIV(ss,ix);
10497             TOPIV(nss,ix) = iv;
10498             iv = POPIV(ss,ix);
10499             TOPIV(nss,ix) = iv;
10500             break;
10501         case SAVEt_FREESV:
10502         case SAVEt_MORTALIZESV:
10503             sv = (SV*)POPPTR(ss,ix);
10504             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10505             break;
10506         case SAVEt_FREEOP:
10507             ptr = POPPTR(ss,ix);
10508             if (ptr && (((OP*)ptr)->op_private & OPpREFCOUNTED)) {
10509                 /* these are assumed to be refcounted properly */
10510                 OP *o;
10511                 switch (((OP*)ptr)->op_type) {
10512                 case OP_LEAVESUB:
10513                 case OP_LEAVESUBLV:
10514                 case OP_LEAVEEVAL:
10515                 case OP_LEAVE:
10516                 case OP_SCOPE:
10517                 case OP_LEAVEWRITE:
10518                     TOPPTR(nss,ix) = ptr;
10519                     o = (OP*)ptr;
10520                     OpREFCNT_inc(o);
10521                     break;
10522                 default:
10523                     TOPPTR(nss,ix) = NULL;
10524                     break;
10525                 }
10526             }
10527             else
10528                 TOPPTR(nss,ix) = NULL;
10529             break;
10530         case SAVEt_FREEPV:
10531             c = (char*)POPPTR(ss,ix);
10532             TOPPTR(nss,ix) = pv_dup_inc(c);
10533             break;
10534         case SAVEt_CLEARSV:
10535             longval = POPLONG(ss,ix);
10536             TOPLONG(nss,ix) = longval;
10537             break;
10538         case SAVEt_DELETE:
10539             hv = (HV*)POPPTR(ss,ix);
10540             TOPPTR(nss,ix) = hv_dup_inc(hv, param);
10541             c = (char*)POPPTR(ss,ix);
10542             TOPPTR(nss,ix) = pv_dup_inc(c);
10543             i = POPINT(ss,ix);
10544             TOPINT(nss,ix) = i;
10545             break;
10546         case SAVEt_DESTRUCTOR:
10547             ptr = POPPTR(ss,ix);
10548             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);  /* XXX quite arbitrary */
10549             dptr = POPDPTR(ss,ix);
10550             TOPDPTR(nss,ix) = DPTR2FPTR(void (*)(void*),
10551                                         any_dup(FPTR2DPTR(void *, dptr),
10552                                                 proto_perl));
10553             break;
10554         case SAVEt_DESTRUCTOR_X:
10555             ptr = POPPTR(ss,ix);
10556             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);  /* XXX quite arbitrary */
10557             dxptr = POPDXPTR(ss,ix);
10558             TOPDXPTR(nss,ix) = DPTR2FPTR(void (*)(pTHX_ void*),
10559                                          any_dup(FPTR2DPTR(void *, dxptr),
10560                                                  proto_perl));
10561             break;
10562         case SAVEt_REGCONTEXT:
10563         case SAVEt_ALLOC:
10564             i = POPINT(ss,ix);
10565             TOPINT(nss,ix) = i;
10566             ix -= i;
10567             break;
10568         case SAVEt_STACK_POS:           /* Position on Perl stack */
10569             i = POPINT(ss,ix);
10570             TOPINT(nss,ix) = i;
10571             break;
10572         case SAVEt_AELEM:               /* array element */
10573             sv = (SV*)POPPTR(ss,ix);
10574             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10575             i = POPINT(ss,ix);
10576             TOPINT(nss,ix) = i;
10577             av = (AV*)POPPTR(ss,ix);
10578             TOPPTR(nss,ix) = av_dup_inc(av, param);
10579             break;
10580         case SAVEt_HELEM:               /* hash element */
10581             sv = (SV*)POPPTR(ss,ix);
10582             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10583             sv = (SV*)POPPTR(ss,ix);
10584             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
10585             hv = (HV*)POPPTR(ss,ix);
10586             TOPPTR(nss,ix) = hv_dup_inc(hv, param);
10587             break;
10588         case SAVEt_OP:
10589             ptr = POPPTR(ss,ix);
10590             TOPPTR(nss,ix) = ptr;
10591             break;
10592         case SAVEt_HINTS:
10593             i = POPINT(ss,ix);
10594             TOPINT(nss,ix) = i;
10595             ptr = POPPTR(ss,ix);
10596             if (ptr) {
10597                 HINTS_REFCNT_LOCK;
10598                 ((struct refcounted_he *)ptr)->refcounted_he_refcnt++;
10599                 HINTS_REFCNT_UNLOCK;
10600             }
10601             TOPPTR(nss,ix) = ptr;
10602             if (i & HINT_LOCALIZE_HH) {
10603                 hv = (HV*)POPPTR(ss,ix);
10604                 TOPPTR(nss,ix) = hv_dup_inc(hv, param);
10605             }
10606             break;
10607         case SAVEt_COMPPAD:
10608             av = (AV*)POPPTR(ss,ix);
10609             TOPPTR(nss,ix) = av_dup(av, param);
10610             break;
10611         case SAVEt_PADSV:
10612             longval = (long)POPLONG(ss,ix);
10613             TOPLONG(nss,ix) = longval;
10614             ptr = POPPTR(ss,ix);
10615             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10616             sv = (SV*)POPPTR(ss,ix);
10617             TOPPTR(nss,ix) = sv_dup(sv, param);
10618             break;
10619         case SAVEt_BOOL:
10620             ptr = POPPTR(ss,ix);
10621             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
10622             longval = (long)POPBOOL(ss,ix);
10623             TOPBOOL(nss,ix) = (bool)longval;
10624             break;
10625         case SAVEt_SET_SVFLAGS:
10626             i = POPINT(ss,ix);
10627             TOPINT(nss,ix) = i;
10628             i = POPINT(ss,ix);
10629             TOPINT(nss,ix) = i;
10630             sv = (SV*)POPPTR(ss,ix);
10631             TOPPTR(nss,ix) = sv_dup(sv, param);
10632             break;
10633         case SAVEt_RE_STATE:
10634             {
10635                 const struct re_save_state *const old_state
10636                     = (struct re_save_state *)
10637                     (ss + ix - SAVESTACK_ALLOC_FOR_RE_SAVE_STATE);
10638                 struct re_save_state *const new_state
10639                     = (struct re_save_state *)
10640                     (nss + ix - SAVESTACK_ALLOC_FOR_RE_SAVE_STATE);
10641
10642                 Copy(old_state, new_state, 1, struct re_save_state);
10643                 ix -= SAVESTACK_ALLOC_FOR_RE_SAVE_STATE;
10644
10645                 new_state->re_state_bostr
10646                     = pv_dup(old_state->re_state_bostr);
10647                 new_state->re_state_reginput
10648                     = pv_dup(old_state->re_state_reginput);
10649                 new_state->re_state_regeol
10650                     = pv_dup(old_state->re_state_regeol);
10651                 new_state->re_state_regstartp
10652                     = any_dup(old_state->re_state_regstartp, proto_perl);
10653                 new_state->re_state_regendp
10654                     = any_dup(old_state->re_state_regendp, proto_perl);
10655                 new_state->re_state_reglastparen
10656                     = any_dup(old_state->re_state_reglastparen, proto_perl);
10657                 new_state->re_state_reglastcloseparen
10658                     = any_dup(old_state->re_state_reglastcloseparen,
10659                               proto_perl);
10660                 /* XXX This just has to be broken. The old save_re_context
10661                    code did SAVEGENERICPV(PL_reg_start_tmp);
10662                    PL_reg_start_tmp is char **.
10663                    Look above to what the dup code does for
10664                    SAVEt_GENERIC_PVREF
10665                    It can never have worked.
10666                    So this is merely a faithful copy of the exiting bug:  */
10667                 new_state->re_state_reg_start_tmp
10668                     = (char **) pv_dup((char *)
10669                                       old_state->re_state_reg_start_tmp);
10670                 /* I assume that it only ever "worked" because no-one called
10671                    (pseudo)fork while the regexp engine had re-entered itself.
10672                 */
10673 #ifdef PERL_OLD_COPY_ON_WRITE
10674                 new_state->re_state_nrs
10675                     = sv_dup(old_state->re_state_nrs, param);
10676 #endif
10677                 new_state->re_state_reg_magic
10678                     = any_dup(old_state->re_state_reg_magic, proto_perl);
10679                 new_state->re_state_reg_oldcurpm
10680                     = any_dup(old_state->re_state_reg_oldcurpm, proto_perl);
10681                 new_state->re_state_reg_curpm
10682                     = any_dup(old_state->re_state_reg_curpm, proto_perl);
10683                 new_state->re_state_reg_oldsaved
10684                     = pv_dup(old_state->re_state_reg_oldsaved);
10685                 new_state->re_state_reg_poscache
10686                     = pv_dup(old_state->re_state_reg_poscache);
10687 #ifdef DEBUGGING
10688                 new_state->re_state_reg_starttry
10689                     = pv_dup(old_state->re_state_reg_starttry);
10690 #endif
10691                 break;
10692             }
10693         case SAVEt_COMPILE_WARNINGS:
10694             ptr = POPPTR(ss,ix);
10695             TOPPTR(nss,ix) = DUP_WARNINGS((STRLEN*)ptr);
10696             break;
10697         default:
10698             Perl_croak(aTHX_ "panic: ss_dup inconsistency (%"IVdf")", (IV) i);
10699         }
10700     }
10701
10702     return nss;
10703 }
10704
10705
10706 /* if sv is a stash, call $class->CLONE_SKIP(), and set the SVphv_CLONEABLE
10707  * flag to the result. This is done for each stash before cloning starts,
10708  * so we know which stashes want their objects cloned */
10709
10710 static void
10711 do_mark_cloneable_stash(pTHX_ SV *sv)
10712 {
10713     const HEK * const hvname = HvNAME_HEK((HV*)sv);
10714     if (hvname) {
10715         GV* const cloner = gv_fetchmethod_autoload((HV*)sv, "CLONE_SKIP", 0);
10716         SvFLAGS(sv) |= SVphv_CLONEABLE; /* clone objects by default */
10717         if (cloner && GvCV(cloner)) {
10718             dSP;
10719             UV status;
10720
10721             ENTER;
10722             SAVETMPS;
10723             PUSHMARK(SP);
10724             XPUSHs(sv_2mortal(newSVhek(hvname)));
10725             PUTBACK;
10726             call_sv((SV*)GvCV(cloner), G_SCALAR);
10727             SPAGAIN;
10728             status = POPu;
10729             PUTBACK;
10730             FREETMPS;
10731             LEAVE;
10732             if (status)
10733                 SvFLAGS(sv) &= ~SVphv_CLONEABLE;
10734         }
10735     }
10736 }
10737
10738
10739
10740 /*
10741 =for apidoc perl_clone
10742
10743 Create and return a new interpreter by cloning the current one.
10744
10745 perl_clone takes these flags as parameters:
10746
10747 CLONEf_COPY_STACKS - is used to, well, copy the stacks also,
10748 without it we only clone the data and zero the stacks,
10749 with it we copy the stacks and the new perl interpreter is
10750 ready to run at the exact same point as the previous one.
10751 The pseudo-fork code uses COPY_STACKS while the
10752 threads->new doesn't.
10753
10754 CLONEf_KEEP_PTR_TABLE
10755 perl_clone keeps a ptr_table with the pointer of the old
10756 variable as a key and the new variable as a value,
10757 this allows it to check if something has been cloned and not
10758 clone it again but rather just use the value and increase the
10759 refcount. If KEEP_PTR_TABLE is not set then perl_clone will kill
10760 the ptr_table using the function
10761 C<ptr_table_free(PL_ptr_table); PL_ptr_table = NULL;>,
10762 reason to keep it around is if you want to dup some of your own
10763 variable who are outside the graph perl scans, example of this
10764 code is in threads.xs create
10765
10766 CLONEf_CLONE_HOST
10767 This is a win32 thing, it is ignored on unix, it tells perls
10768 win32host code (which is c++) to clone itself, this is needed on
10769 win32 if you want to run two threads at the same time,
10770 if you just want to do some stuff in a separate perl interpreter
10771 and then throw it away and return to the original one,
10772 you don't need to do anything.
10773
10774 =cut
10775 */
10776
10777 /* XXX the above needs expanding by someone who actually understands it ! */
10778 EXTERN_C PerlInterpreter *
10779 perl_clone_host(PerlInterpreter* proto_perl, UV flags);
10780
10781 PerlInterpreter *
10782 perl_clone(PerlInterpreter *proto_perl, UV flags)
10783 {
10784    dVAR;
10785 #ifdef PERL_IMPLICIT_SYS
10786
10787    /* perlhost.h so we need to call into it
10788    to clone the host, CPerlHost should have a c interface, sky */
10789
10790    if (flags & CLONEf_CLONE_HOST) {
10791        return perl_clone_host(proto_perl,flags);
10792    }
10793    return perl_clone_using(proto_perl, flags,
10794                             proto_perl->IMem,
10795                             proto_perl->IMemShared,
10796                             proto_perl->IMemParse,
10797                             proto_perl->IEnv,
10798                             proto_perl->IStdIO,
10799                             proto_perl->ILIO,
10800                             proto_perl->IDir,
10801                             proto_perl->ISock,
10802                             proto_perl->IProc);
10803 }
10804
10805 PerlInterpreter *
10806 perl_clone_using(PerlInterpreter *proto_perl, UV flags,
10807                  struct IPerlMem* ipM, struct IPerlMem* ipMS,
10808                  struct IPerlMem* ipMP, struct IPerlEnv* ipE,
10809                  struct IPerlStdIO* ipStd, struct IPerlLIO* ipLIO,
10810                  struct IPerlDir* ipD, struct IPerlSock* ipS,
10811                  struct IPerlProc* ipP)
10812 {
10813     /* XXX many of the string copies here can be optimized if they're
10814      * constants; they need to be allocated as common memory and just
10815      * their pointers copied. */
10816
10817     IV i;
10818     CLONE_PARAMS clone_params;
10819     CLONE_PARAMS* const param = &clone_params;
10820
10821     PerlInterpreter * const my_perl = (PerlInterpreter*)(*ipM->pMalloc)(ipM, sizeof(PerlInterpreter));
10822     /* for each stash, determine whether its objects should be cloned */
10823     S_visit(proto_perl, do_mark_cloneable_stash, SVt_PVHV, SVTYPEMASK);
10824     PERL_SET_THX(my_perl);
10825
10826 #  ifdef DEBUGGING
10827     PoisonNew(my_perl, 1, PerlInterpreter);
10828     PL_op = NULL;
10829     PL_curcop = NULL;
10830     PL_markstack = 0;
10831     PL_scopestack = 0;
10832     PL_savestack = 0;
10833     PL_savestack_ix = 0;
10834     PL_savestack_max = -1;
10835     PL_sig_pending = 0;
10836     Zero(&PL_debug_pad, 1, struct perl_debug_pad);
10837 #  else /* !DEBUGGING */
10838     Zero(my_perl, 1, PerlInterpreter);
10839 #  endif        /* DEBUGGING */
10840
10841     /* host pointers */
10842     PL_Mem              = ipM;
10843     PL_MemShared        = ipMS;
10844     PL_MemParse         = ipMP;
10845     PL_Env              = ipE;
10846     PL_StdIO            = ipStd;
10847     PL_LIO              = ipLIO;
10848     PL_Dir              = ipD;
10849     PL_Sock             = ipS;
10850     PL_Proc             = ipP;
10851 #else           /* !PERL_IMPLICIT_SYS */
10852     IV i;
10853     CLONE_PARAMS clone_params;
10854     CLONE_PARAMS* param = &clone_params;
10855     PerlInterpreter * const my_perl = (PerlInterpreter*)PerlMem_malloc(sizeof(PerlInterpreter));
10856     /* for each stash, determine whether its objects should be cloned */
10857     S_visit(proto_perl, do_mark_cloneable_stash, SVt_PVHV, SVTYPEMASK);
10858     PERL_SET_THX(my_perl);
10859
10860 #    ifdef DEBUGGING
10861     PoisonNew(my_perl, 1, PerlInterpreter);
10862     PL_op = NULL;
10863     PL_curcop = NULL;
10864     PL_markstack = 0;
10865     PL_scopestack = 0;
10866     PL_savestack = 0;
10867     PL_savestack_ix = 0;
10868     PL_savestack_max = -1;
10869     PL_sig_pending = 0;
10870     Zero(&PL_debug_pad, 1, struct perl_debug_pad);
10871 #    else       /* !DEBUGGING */
10872     Zero(my_perl, 1, PerlInterpreter);
10873 #    endif      /* DEBUGGING */
10874 #endif          /* PERL_IMPLICIT_SYS */
10875     param->flags = flags;
10876     param->proto_perl = proto_perl;
10877
10878     INIT_TRACK_MEMPOOL(my_perl->Imemory_debug_header, my_perl);
10879
10880     PL_body_arenas = NULL;
10881     Zero(&PL_body_roots, 1, PL_body_roots);
10882     
10883     PL_nice_chunk       = NULL;
10884     PL_nice_chunk_size  = 0;
10885     PL_sv_count         = 0;
10886     PL_sv_objcount      = 0;
10887     PL_sv_root          = NULL;
10888     PL_sv_arenaroot     = NULL;
10889
10890     PL_debug            = proto_perl->Idebug;
10891
10892     PL_hash_seed        = proto_perl->Ihash_seed;
10893     PL_rehash_seed      = proto_perl->Irehash_seed;
10894
10895 #ifdef USE_REENTRANT_API
10896     /* XXX: things like -Dm will segfault here in perlio, but doing
10897      *  PERL_SET_CONTEXT(proto_perl);
10898      * breaks too many other things
10899      */
10900     Perl_reentrant_init(aTHX);
10901 #endif
10902
10903     /* create SV map for pointer relocation */
10904     PL_ptr_table = ptr_table_new();
10905
10906     /* initialize these special pointers as early as possible */
10907     SvANY(&PL_sv_undef)         = NULL;
10908     SvREFCNT(&PL_sv_undef)      = (~(U32)0)/2;
10909     SvFLAGS(&PL_sv_undef)       = SVf_READONLY|SVt_NULL;
10910     ptr_table_store(PL_ptr_table, &proto_perl->Isv_undef, &PL_sv_undef);
10911
10912     SvANY(&PL_sv_no)            = new_XPVNV();
10913     SvREFCNT(&PL_sv_no)         = (~(U32)0)/2;
10914     SvFLAGS(&PL_sv_no)          = SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
10915                                   |SVp_POK|SVf_POK|SVf_READONLY|SVt_PVNV;
10916     SvPV_set(&PL_sv_no, SAVEPVN(PL_No, 0));
10917     SvCUR_set(&PL_sv_no, 0);
10918     SvLEN_set(&PL_sv_no, 1);
10919     SvIV_set(&PL_sv_no, 0);
10920     SvNV_set(&PL_sv_no, 0);
10921     ptr_table_store(PL_ptr_table, &proto_perl->Isv_no, &PL_sv_no);
10922
10923     SvANY(&PL_sv_yes)           = new_XPVNV();
10924     SvREFCNT(&PL_sv_yes)        = (~(U32)0)/2;
10925     SvFLAGS(&PL_sv_yes)         = SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
10926                                   |SVp_POK|SVf_POK|SVf_READONLY|SVt_PVNV;
10927     SvPV_set(&PL_sv_yes, SAVEPVN(PL_Yes, 1));
10928     SvCUR_set(&PL_sv_yes, 1);
10929     SvLEN_set(&PL_sv_yes, 2);
10930     SvIV_set(&PL_sv_yes, 1);
10931     SvNV_set(&PL_sv_yes, 1);
10932     ptr_table_store(PL_ptr_table, &proto_perl->Isv_yes, &PL_sv_yes);
10933
10934     /* create (a non-shared!) shared string table */
10935     PL_strtab           = newHV();
10936     HvSHAREKEYS_off(PL_strtab);
10937     hv_ksplit(PL_strtab, HvTOTALKEYS(proto_perl->Istrtab));
10938     ptr_table_store(PL_ptr_table, proto_perl->Istrtab, PL_strtab);
10939
10940     PL_compiling = proto_perl->Icompiling;
10941
10942     /* These two PVs will be free'd special way so must set them same way op.c does */
10943     PL_compiling.cop_stashpv = savesharedpv(PL_compiling.cop_stashpv);
10944     ptr_table_store(PL_ptr_table, proto_perl->Icompiling.cop_stashpv, PL_compiling.cop_stashpv);
10945
10946     PL_compiling.cop_file    = savesharedpv(PL_compiling.cop_file);
10947     ptr_table_store(PL_ptr_table, proto_perl->Icompiling.cop_file, PL_compiling.cop_file);
10948
10949     ptr_table_store(PL_ptr_table, &proto_perl->Icompiling, &PL_compiling);
10950     PL_compiling.cop_warnings = DUP_WARNINGS(PL_compiling.cop_warnings);
10951     if (!specialCopIO(PL_compiling.cop_io))
10952         PL_compiling.cop_io = sv_dup_inc(PL_compiling.cop_io, param);
10953     if (PL_compiling.cop_hints) {
10954         HINTS_REFCNT_LOCK;
10955         PL_compiling.cop_hints->refcounted_he_refcnt++;
10956         HINTS_REFCNT_UNLOCK;
10957     }
10958     PL_curcop           = (COP*)any_dup(proto_perl->Tcurcop, proto_perl);
10959
10960     /* pseudo environmental stuff */
10961     PL_origargc         = proto_perl->Iorigargc;
10962     PL_origargv         = proto_perl->Iorigargv;
10963
10964     param->stashes      = newAV();  /* Setup array of objects to call clone on */
10965
10966     /* Set tainting stuff before PerlIO_debug can possibly get called */
10967     PL_tainting         = proto_perl->Itainting;
10968     PL_taint_warn       = proto_perl->Itaint_warn;
10969
10970 #ifdef PERLIO_LAYERS
10971     /* Clone PerlIO tables as soon as we can handle general xx_dup() */
10972     PerlIO_clone(aTHX_ proto_perl, param);
10973 #endif
10974
10975     PL_envgv            = gv_dup(proto_perl->Ienvgv, param);
10976     PL_incgv            = gv_dup(proto_perl->Iincgv, param);
10977     PL_hintgv           = gv_dup(proto_perl->Ihintgv, param);
10978     PL_origfilename     = SAVEPV(proto_perl->Iorigfilename);
10979     PL_diehook          = sv_dup_inc(proto_perl->Idiehook, param);
10980     PL_warnhook         = sv_dup_inc(proto_perl->Iwarnhook, param);
10981
10982     /* switches */
10983     PL_minus_c          = proto_perl->Iminus_c;
10984     PL_patchlevel       = sv_dup_inc(proto_perl->Ipatchlevel, param);
10985     PL_localpatches     = proto_perl->Ilocalpatches;
10986     PL_splitstr         = proto_perl->Isplitstr;
10987     PL_preprocess       = proto_perl->Ipreprocess;
10988     PL_minus_n          = proto_perl->Iminus_n;
10989     PL_minus_p          = proto_perl->Iminus_p;
10990     PL_minus_l          = proto_perl->Iminus_l;
10991     PL_minus_a          = proto_perl->Iminus_a;
10992     PL_minus_E          = proto_perl->Iminus_E;
10993     PL_minus_F          = proto_perl->Iminus_F;
10994     PL_doswitches       = proto_perl->Idoswitches;
10995     PL_dowarn           = proto_perl->Idowarn;
10996     PL_doextract        = proto_perl->Idoextract;
10997     PL_sawampersand     = proto_perl->Isawampersand;
10998     PL_unsafe           = proto_perl->Iunsafe;
10999     PL_inplace          = SAVEPV(proto_perl->Iinplace);
11000     PL_e_script         = sv_dup_inc(proto_perl->Ie_script, param);
11001     PL_perldb           = proto_perl->Iperldb;
11002     PL_perl_destruct_level = proto_perl->Iperl_destruct_level;
11003     PL_exit_flags       = proto_perl->Iexit_flags;
11004
11005     /* magical thingies */
11006     /* XXX time(&PL_basetime) when asked for? */
11007     PL_basetime         = proto_perl->Ibasetime;
11008     PL_formfeed         = sv_dup(proto_perl->Iformfeed, param);
11009
11010     PL_maxsysfd         = proto_perl->Imaxsysfd;
11011     PL_statusvalue      = proto_perl->Istatusvalue;
11012 #ifdef VMS
11013     PL_statusvalue_vms  = proto_perl->Istatusvalue_vms;
11014 #else
11015     PL_statusvalue_posix = proto_perl->Istatusvalue_posix;
11016 #endif
11017     PL_encoding         = sv_dup(proto_perl->Iencoding, param);
11018
11019     sv_setpvn(PERL_DEBUG_PAD(0), "", 0);        /* For regex debugging. */
11020     sv_setpvn(PERL_DEBUG_PAD(1), "", 0);        /* ext/re needs these */
11021     sv_setpvn(PERL_DEBUG_PAD(2), "", 0);        /* even without DEBUGGING. */
11022
11023     /* Clone the regex array */
11024     PL_regex_padav = newAV();
11025     {
11026         const I32 len = av_len((AV*)proto_perl->Iregex_padav);
11027         SV* const * const regexen = AvARRAY((AV*)proto_perl->Iregex_padav);
11028         IV i;
11029         av_push(PL_regex_padav, sv_dup_inc_NN(regexen[0],param));
11030         for(i = 1; i <= len; i++) {
11031             const SV * const regex = regexen[i];
11032             SV * const sv =
11033                 SvREPADTMP(regex)
11034                     ? sv_dup_inc(regex, param)
11035                     : SvREFCNT_inc(
11036                         newSViv(PTR2IV(re_dup(
11037                                 INT2PTR(REGEXP *, SvIVX(regex)), param))))
11038                 ;
11039             av_push(PL_regex_padav, sv);
11040         }
11041     }
11042     PL_regex_pad = AvARRAY(PL_regex_padav);
11043
11044     /* shortcuts to various I/O objects */
11045     PL_stdingv          = gv_dup(proto_perl->Istdingv, param);
11046     PL_stderrgv         = gv_dup(proto_perl->Istderrgv, param);
11047     PL_defgv            = gv_dup(proto_perl->Idefgv, param);
11048     PL_argvgv           = gv_dup(proto_perl->Iargvgv, param);
11049     PL_argvoutgv        = gv_dup(proto_perl->Iargvoutgv, param);
11050     PL_argvout_stack    = av_dup_inc(proto_perl->Iargvout_stack, param);
11051
11052     /* shortcuts to regexp stuff */
11053     PL_replgv           = gv_dup(proto_perl->Ireplgv, param);
11054
11055     /* shortcuts to misc objects */
11056     PL_errgv            = gv_dup(proto_perl->Ierrgv, param);
11057
11058     /* shortcuts to debugging objects */
11059     PL_DBgv             = gv_dup(proto_perl->IDBgv, param);
11060     PL_DBline           = gv_dup(proto_perl->IDBline, param);
11061     PL_DBsub            = gv_dup(proto_perl->IDBsub, param);
11062     PL_DBsingle         = sv_dup(proto_perl->IDBsingle, param);
11063     PL_DBtrace          = sv_dup(proto_perl->IDBtrace, param);
11064     PL_DBsignal         = sv_dup(proto_perl->IDBsignal, param);
11065     PL_DBassertion      = sv_dup(proto_perl->IDBassertion, param);
11066     PL_lineary          = av_dup(proto_perl->Ilineary, param);
11067     PL_dbargs           = av_dup(proto_perl->Idbargs, param);
11068
11069     /* symbol tables */
11070     PL_defstash         = hv_dup_inc(proto_perl->Tdefstash, param);
11071     PL_curstash         = hv_dup(proto_perl->Tcurstash, param);
11072     PL_debstash         = hv_dup(proto_perl->Idebstash, param);
11073     PL_globalstash      = hv_dup(proto_perl->Iglobalstash, param);
11074     PL_curstname        = sv_dup_inc(proto_perl->Icurstname, param);
11075
11076     PL_beginav          = av_dup_inc(proto_perl->Ibeginav, param);
11077     PL_beginav_save     = av_dup_inc(proto_perl->Ibeginav_save, param);
11078     PL_checkav_save     = av_dup_inc(proto_perl->Icheckav_save, param);
11079     PL_endav            = av_dup_inc(proto_perl->Iendav, param);
11080     PL_checkav          = av_dup_inc(proto_perl->Icheckav, param);
11081     PL_initav           = av_dup_inc(proto_perl->Iinitav, param);
11082
11083     PL_sub_generation   = proto_perl->Isub_generation;
11084
11085     /* funky return mechanisms */
11086     PL_forkprocess      = proto_perl->Iforkprocess;
11087
11088     /* subprocess state */
11089     PL_fdpid            = av_dup_inc(proto_perl->Ifdpid, param);
11090
11091     /* internal state */
11092     PL_maxo             = proto_perl->Imaxo;
11093     if (proto_perl->Iop_mask)
11094         PL_op_mask      = SAVEPVN(proto_perl->Iop_mask, PL_maxo);
11095     else
11096         PL_op_mask      = NULL;
11097     /* PL_asserting        = proto_perl->Iasserting; */
11098
11099     /* current interpreter roots */
11100     PL_main_cv          = cv_dup_inc(proto_perl->Imain_cv, param);
11101     PL_main_root        = OpREFCNT_inc(proto_perl->Imain_root);
11102     PL_main_start       = proto_perl->Imain_start;
11103     PL_eval_root        = proto_perl->Ieval_root;
11104     PL_eval_start       = proto_perl->Ieval_start;
11105
11106     /* runtime control stuff */
11107     PL_curcopdb         = (COP*)any_dup(proto_perl->Icurcopdb, proto_perl);
11108     PL_copline          = proto_perl->Icopline;
11109
11110     PL_filemode         = proto_perl->Ifilemode;
11111     PL_lastfd           = proto_perl->Ilastfd;
11112     PL_oldname          = proto_perl->Ioldname;         /* XXX not quite right */
11113     PL_Argv             = NULL;
11114     PL_Cmd              = NULL;
11115     PL_gensym           = proto_perl->Igensym;
11116     PL_preambled        = proto_perl->Ipreambled;
11117     PL_preambleav       = av_dup_inc(proto_perl->Ipreambleav, param);
11118     PL_laststatval      = proto_perl->Ilaststatval;
11119     PL_laststype        = proto_perl->Ilaststype;
11120     PL_mess_sv          = NULL;
11121
11122     PL_ors_sv           = sv_dup_inc(proto_perl->Iors_sv, param);
11123
11124     /* interpreter atexit processing */
11125     PL_exitlistlen      = proto_perl->Iexitlistlen;
11126     if (PL_exitlistlen) {
11127         Newx(PL_exitlist, PL_exitlistlen, PerlExitListEntry);
11128         Copy(proto_perl->Iexitlist, PL_exitlist, PL_exitlistlen, PerlExitListEntry);
11129     }
11130     else
11131         PL_exitlist     = (PerlExitListEntry*)NULL;
11132
11133     PL_my_cxt_size = proto_perl->Imy_cxt_size;
11134     if (PL_my_cxt_size) {
11135         Newx(PL_my_cxt_list, PL_my_cxt_size, void *);
11136         Copy(proto_perl->Imy_cxt_list, PL_my_cxt_list, PL_my_cxt_size, void *);
11137     }
11138     else
11139         PL_my_cxt_list  = (void**)NULL;
11140     PL_modglobal        = hv_dup_inc(proto_perl->Imodglobal, param);
11141     PL_custom_op_names  = hv_dup_inc(proto_perl->Icustom_op_names,param);
11142     PL_custom_op_descs  = hv_dup_inc(proto_perl->Icustom_op_descs,param);
11143
11144     PL_profiledata      = NULL;
11145     PL_rsfp             = fp_dup(proto_perl->Irsfp, '<', param);
11146     /* PL_rsfp_filters entries have fake IoDIRP() */
11147     PL_rsfp_filters     = av_dup_inc(proto_perl->Irsfp_filters, param);
11148
11149     PL_compcv                   = cv_dup(proto_perl->Icompcv, param);
11150
11151     PAD_CLONE_VARS(proto_perl, param);
11152
11153 #ifdef HAVE_INTERP_INTERN
11154     sys_intern_dup(&proto_perl->Isys_intern, &PL_sys_intern);
11155 #endif
11156
11157     /* more statics moved here */
11158     PL_generation       = proto_perl->Igeneration;
11159     PL_DBcv             = cv_dup(proto_perl->IDBcv, param);
11160
11161     PL_in_clean_objs    = proto_perl->Iin_clean_objs;
11162     PL_in_clean_all     = proto_perl->Iin_clean_all;
11163
11164     PL_uid              = proto_perl->Iuid;
11165     PL_euid             = proto_perl->Ieuid;
11166     PL_gid              = proto_perl->Igid;
11167     PL_egid             = proto_perl->Iegid;
11168     PL_nomemok          = proto_perl->Inomemok;
11169     PL_an               = proto_perl->Ian;
11170     PL_evalseq          = proto_perl->Ievalseq;
11171     PL_origenviron      = proto_perl->Iorigenviron;     /* XXX not quite right */
11172     PL_origalen         = proto_perl->Iorigalen;
11173 #ifdef PERL_USES_PL_PIDSTATUS
11174     PL_pidstatus        = newHV();                      /* XXX flag for cloning? */
11175 #endif
11176     PL_osname           = SAVEPV(proto_perl->Iosname);
11177     PL_sighandlerp      = proto_perl->Isighandlerp;
11178
11179     PL_runops           = proto_perl->Irunops;
11180
11181     Copy(proto_perl->Itokenbuf, PL_tokenbuf, 256, char);
11182
11183 #ifdef CSH
11184     PL_cshlen           = proto_perl->Icshlen;
11185     PL_cshname          = proto_perl->Icshname; /* XXX never deallocated */
11186 #endif
11187
11188     PL_lex_state        = proto_perl->Ilex_state;
11189     PL_lex_defer        = proto_perl->Ilex_defer;
11190     PL_lex_expect       = proto_perl->Ilex_expect;
11191     PL_lex_formbrack    = proto_perl->Ilex_formbrack;
11192     PL_lex_dojoin       = proto_perl->Ilex_dojoin;
11193     PL_lex_starts       = proto_perl->Ilex_starts;
11194     PL_lex_stuff        = sv_dup_inc(proto_perl->Ilex_stuff, param);
11195     PL_lex_repl         = sv_dup_inc(proto_perl->Ilex_repl, param);
11196     PL_lex_op           = proto_perl->Ilex_op;
11197     PL_lex_inpat        = proto_perl->Ilex_inpat;
11198     PL_lex_inwhat       = proto_perl->Ilex_inwhat;
11199     PL_lex_brackets     = proto_perl->Ilex_brackets;
11200     i = (PL_lex_brackets < 120 ? 120 : PL_lex_brackets);
11201     PL_lex_brackstack   = SAVEPVN(proto_perl->Ilex_brackstack,i);
11202     PL_lex_casemods     = proto_perl->Ilex_casemods;
11203     i = (PL_lex_casemods < 12 ? 12 : PL_lex_casemods);
11204     PL_lex_casestack    = SAVEPVN(proto_perl->Ilex_casestack,i);
11205
11206 #ifdef PERL_MAD
11207     Copy(proto_perl->Inexttoke, PL_nexttoke, 5, NEXTTOKE);
11208     PL_lasttoke         = proto_perl->Ilasttoke;
11209     PL_realtokenstart   = proto_perl->Irealtokenstart;
11210     PL_faketokens       = proto_perl->Ifaketokens;
11211     PL_thismad          = proto_perl->Ithismad;
11212     PL_thistoken        = proto_perl->Ithistoken;
11213     PL_thisopen         = proto_perl->Ithisopen;
11214     PL_thisstuff        = proto_perl->Ithisstuff;
11215     PL_thisclose        = proto_perl->Ithisclose;
11216     PL_thiswhite        = proto_perl->Ithiswhite;
11217     PL_nextwhite        = proto_perl->Inextwhite;
11218     PL_skipwhite        = proto_perl->Iskipwhite;
11219     PL_endwhite         = proto_perl->Iendwhite;
11220     PL_curforce         = proto_perl->Icurforce;
11221 #else
11222     Copy(proto_perl->Inextval, PL_nextval, 5, YYSTYPE);
11223     Copy(proto_perl->Inexttype, PL_nexttype, 5, I32);
11224     PL_nexttoke         = proto_perl->Inexttoke;
11225 #endif
11226
11227     /* XXX This is probably masking the deeper issue of why
11228      * SvANY(proto_perl->Ilinestr) can be NULL at this point. For test case:
11229      * http://archive.develooper.com/perl5-porters%40perl.org/msg83298.html
11230      * (A little debugging with a watchpoint on it may help.)
11231      */
11232     if (SvANY(proto_perl->Ilinestr)) {
11233         PL_linestr              = sv_dup_inc(proto_perl->Ilinestr, param);
11234         i = proto_perl->Ibufptr - SvPVX_const(proto_perl->Ilinestr);
11235         PL_bufptr               = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11236         i = proto_perl->Ioldbufptr - SvPVX_const(proto_perl->Ilinestr);
11237         PL_oldbufptr    = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11238         i = proto_perl->Ioldoldbufptr - SvPVX_const(proto_perl->Ilinestr);
11239         PL_oldoldbufptr = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11240         i = proto_perl->Ilinestart - SvPVX_const(proto_perl->Ilinestr);
11241         PL_linestart    = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11242     }
11243     else {
11244         PL_linestr = newSV(79);
11245         sv_upgrade(PL_linestr,SVt_PVIV);
11246         sv_setpvn(PL_linestr,"",0);
11247         PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart = SvPVX(PL_linestr);
11248     }
11249     PL_bufend           = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11250     PL_pending_ident    = proto_perl->Ipending_ident;
11251     PL_sublex_info      = proto_perl->Isublex_info;     /* XXX not quite right */
11252
11253     PL_expect           = proto_perl->Iexpect;
11254
11255     PL_multi_start      = proto_perl->Imulti_start;
11256     PL_multi_end        = proto_perl->Imulti_end;
11257     PL_multi_open       = proto_perl->Imulti_open;
11258     PL_multi_close      = proto_perl->Imulti_close;
11259
11260     PL_error_count      = proto_perl->Ierror_count;
11261     PL_subline          = proto_perl->Isubline;
11262     PL_subname          = sv_dup_inc(proto_perl->Isubname, param);
11263
11264     /* XXX See comment on SvANY(proto_perl->Ilinestr) above */
11265     if (SvANY(proto_perl->Ilinestr)) {
11266         i = proto_perl->Ilast_uni - SvPVX_const(proto_perl->Ilinestr);
11267         PL_last_uni             = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11268         i = proto_perl->Ilast_lop - SvPVX_const(proto_perl->Ilinestr);
11269         PL_last_lop             = SvPVX(PL_linestr) + (i < 0 ? 0 : i);
11270         PL_last_lop_op  = proto_perl->Ilast_lop_op;
11271     }
11272     else {
11273         PL_last_uni     = SvPVX(PL_linestr);
11274         PL_last_lop     = SvPVX(PL_linestr);
11275         PL_last_lop_op  = 0;
11276     }
11277     PL_in_my            = proto_perl->Iin_my;
11278     PL_in_my_stash      = hv_dup(proto_perl->Iin_my_stash, param);
11279 #ifdef FCRYPT
11280     PL_cryptseen        = proto_perl->Icryptseen;
11281 #endif
11282
11283     PL_hints            = proto_perl->Ihints;
11284
11285     PL_amagic_generation        = proto_perl->Iamagic_generation;
11286
11287 #ifdef USE_LOCALE_COLLATE
11288     PL_collation_ix     = proto_perl->Icollation_ix;
11289     PL_collation_name   = SAVEPV(proto_perl->Icollation_name);
11290     PL_collation_standard       = proto_perl->Icollation_standard;
11291     PL_collxfrm_base    = proto_perl->Icollxfrm_base;
11292     PL_collxfrm_mult    = proto_perl->Icollxfrm_mult;
11293 #endif /* USE_LOCALE_COLLATE */
11294
11295 #ifdef USE_LOCALE_NUMERIC
11296     PL_numeric_name     = SAVEPV(proto_perl->Inumeric_name);
11297     PL_numeric_standard = proto_perl->Inumeric_standard;
11298     PL_numeric_local    = proto_perl->Inumeric_local;
11299     PL_numeric_radix_sv = sv_dup_inc(proto_perl->Inumeric_radix_sv, param);
11300 #endif /* !USE_LOCALE_NUMERIC */
11301
11302     /* utf8 character classes */
11303     PL_utf8_alnum       = sv_dup_inc(proto_perl->Iutf8_alnum, param);
11304     PL_utf8_alnumc      = sv_dup_inc(proto_perl->Iutf8_alnumc, param);
11305     PL_utf8_ascii       = sv_dup_inc(proto_perl->Iutf8_ascii, param);
11306     PL_utf8_alpha       = sv_dup_inc(proto_perl->Iutf8_alpha, param);
11307     PL_utf8_space       = sv_dup_inc(proto_perl->Iutf8_space, param);
11308     PL_utf8_cntrl       = sv_dup_inc(proto_perl->Iutf8_cntrl, param);
11309     PL_utf8_graph       = sv_dup_inc(proto_perl->Iutf8_graph, param);
11310     PL_utf8_digit       = sv_dup_inc(proto_perl->Iutf8_digit, param);
11311     PL_utf8_upper       = sv_dup_inc(proto_perl->Iutf8_upper, param);
11312     PL_utf8_lower       = sv_dup_inc(proto_perl->Iutf8_lower, param);
11313     PL_utf8_print       = sv_dup_inc(proto_perl->Iutf8_print, param);
11314     PL_utf8_punct       = sv_dup_inc(proto_perl->Iutf8_punct, param);
11315     PL_utf8_xdigit      = sv_dup_inc(proto_perl->Iutf8_xdigit, param);
11316     PL_utf8_mark        = sv_dup_inc(proto_perl->Iutf8_mark, param);
11317     PL_utf8_toupper     = sv_dup_inc(proto_perl->Iutf8_toupper, param);
11318     PL_utf8_totitle     = sv_dup_inc(proto_perl->Iutf8_totitle, param);
11319     PL_utf8_tolower     = sv_dup_inc(proto_perl->Iutf8_tolower, param);
11320     PL_utf8_tofold      = sv_dup_inc(proto_perl->Iutf8_tofold, param);
11321     PL_utf8_idstart     = sv_dup_inc(proto_perl->Iutf8_idstart, param);
11322     PL_utf8_idcont      = sv_dup_inc(proto_perl->Iutf8_idcont, param);
11323
11324     /* Did the locale setup indicate UTF-8? */
11325     PL_utf8locale       = proto_perl->Iutf8locale;
11326     /* Unicode features (see perlrun/-C) */
11327     PL_unicode          = proto_perl->Iunicode;
11328
11329     /* Pre-5.8 signals control */
11330     PL_signals          = proto_perl->Isignals;
11331
11332     /* times() ticks per second */
11333     PL_clocktick        = proto_perl->Iclocktick;
11334
11335     /* Recursion stopper for PerlIO_find_layer */
11336     PL_in_load_module   = proto_perl->Iin_load_module;
11337
11338     /* sort() routine */
11339     PL_sort_RealCmp     = proto_perl->Isort_RealCmp;
11340
11341     /* Not really needed/useful since the reenrant_retint is "volatile",
11342      * but do it for consistency's sake. */
11343     PL_reentrant_retint = proto_perl->Ireentrant_retint;
11344
11345     /* Hooks to shared SVs and locks. */
11346     PL_sharehook        = proto_perl->Isharehook;
11347     PL_lockhook         = proto_perl->Ilockhook;
11348     PL_unlockhook       = proto_perl->Iunlockhook;
11349     PL_threadhook       = proto_perl->Ithreadhook;
11350
11351     PL_runops_std       = proto_perl->Irunops_std;
11352     PL_runops_dbg       = proto_perl->Irunops_dbg;
11353
11354 #ifdef THREADS_HAVE_PIDS
11355     PL_ppid             = proto_perl->Ippid;
11356 #endif
11357
11358     /* swatch cache */
11359     PL_last_swash_hv    = NULL; /* reinits on demand */
11360     PL_last_swash_klen  = 0;
11361     PL_last_swash_key[0]= '\0';
11362     PL_last_swash_tmps  = (U8*)NULL;
11363     PL_last_swash_slen  = 0;
11364
11365     PL_glob_index       = proto_perl->Iglob_index;
11366     PL_srand_called     = proto_perl->Isrand_called;
11367     PL_uudmap['M']      = 0;            /* reinits on demand */
11368     PL_bitcount         = NULL; /* reinits on demand */
11369
11370     if (proto_perl->Ipsig_pend) {
11371         Newxz(PL_psig_pend, SIG_SIZE, int);
11372     }
11373     else {
11374         PL_psig_pend    = (int*)NULL;
11375     }
11376
11377     if (proto_perl->Ipsig_ptr) {
11378         Newxz(PL_psig_ptr,  SIG_SIZE, SV*);
11379         Newxz(PL_psig_name, SIG_SIZE, SV*);
11380         for (i = 1; i < SIG_SIZE; i++) {
11381             PL_psig_ptr[i]  = sv_dup_inc(proto_perl->Ipsig_ptr[i], param);
11382             PL_psig_name[i] = sv_dup_inc(proto_perl->Ipsig_name[i], param);
11383         }
11384     }
11385     else {
11386         PL_psig_ptr     = (SV**)NULL;
11387         PL_psig_name    = (SV**)NULL;
11388     }
11389
11390     /* thrdvar.h stuff */
11391
11392     if (flags & CLONEf_COPY_STACKS) {
11393         /* next allocation will be PL_tmps_stack[PL_tmps_ix+1] */
11394         PL_tmps_ix              = proto_perl->Ttmps_ix;
11395         PL_tmps_max             = proto_perl->Ttmps_max;
11396         PL_tmps_floor           = proto_perl->Ttmps_floor;
11397         Newxz(PL_tmps_stack, PL_tmps_max, SV*);
11398         i = 0;
11399         while (i <= PL_tmps_ix) {
11400             PL_tmps_stack[i]    = sv_dup_inc(proto_perl->Ttmps_stack[i], param);
11401             ++i;
11402         }
11403
11404         /* next PUSHMARK() sets *(PL_markstack_ptr+1) */
11405         i = proto_perl->Tmarkstack_max - proto_perl->Tmarkstack;
11406         Newxz(PL_markstack, i, I32);
11407         PL_markstack_max        = PL_markstack + (proto_perl->Tmarkstack_max
11408                                                   - proto_perl->Tmarkstack);
11409         PL_markstack_ptr        = PL_markstack + (proto_perl->Tmarkstack_ptr
11410                                                   - proto_perl->Tmarkstack);
11411         Copy(proto_perl->Tmarkstack, PL_markstack,
11412              PL_markstack_ptr - PL_markstack + 1, I32);
11413
11414         /* next push_scope()/ENTER sets PL_scopestack[PL_scopestack_ix]
11415          * NOTE: unlike the others! */
11416         PL_scopestack_ix        = proto_perl->Tscopestack_ix;
11417         PL_scopestack_max       = proto_perl->Tscopestack_max;
11418         Newxz(PL_scopestack, PL_scopestack_max, I32);
11419         Copy(proto_perl->Tscopestack, PL_scopestack, PL_scopestack_ix, I32);
11420
11421         /* NOTE: si_dup() looks at PL_markstack */
11422         PL_curstackinfo         = si_dup(proto_perl->Tcurstackinfo, param);
11423
11424         /* PL_curstack          = PL_curstackinfo->si_stack; */
11425         PL_curstack             = av_dup(proto_perl->Tcurstack, param);
11426         PL_mainstack            = av_dup(proto_perl->Tmainstack, param);
11427
11428         /* next PUSHs() etc. set *(PL_stack_sp+1) */
11429         PL_stack_base           = AvARRAY(PL_curstack);
11430         PL_stack_sp             = PL_stack_base + (proto_perl->Tstack_sp
11431                                                    - proto_perl->Tstack_base);
11432         PL_stack_max            = PL_stack_base + AvMAX(PL_curstack);
11433
11434         /* next SSPUSHFOO() sets PL_savestack[PL_savestack_ix]
11435          * NOTE: unlike the others! */
11436         PL_savestack_ix         = proto_perl->Tsavestack_ix;
11437         PL_savestack_max        = proto_perl->Tsavestack_max;
11438         /*Newxz(PL_savestack, PL_savestack_max, ANY);*/
11439         PL_savestack            = ss_dup(proto_perl, param);
11440     }
11441     else {
11442         init_stacks();
11443         ENTER;                  /* perl_destruct() wants to LEAVE; */
11444
11445         /* although we're not duplicating the tmps stack, we should still
11446          * add entries for any SVs on the tmps stack that got cloned by a
11447          * non-refcount means (eg a temp in @_); otherwise they will be
11448          * orphaned
11449          */
11450         for (i = 0; i<= proto_perl->Ttmps_ix; i++) {
11451             SV * const nsv = (SV*)ptr_table_fetch(PL_ptr_table,
11452                     proto_perl->Ttmps_stack[i]);
11453             if (nsv && !SvREFCNT(nsv)) {
11454                 EXTEND_MORTAL(1);
11455                 PL_tmps_stack[++PL_tmps_ix] = SvREFCNT_inc_simple(nsv);
11456             }
11457         }
11458     }
11459
11460     PL_start_env        = proto_perl->Tstart_env;       /* XXXXXX */
11461     PL_top_env          = &PL_start_env;
11462
11463     PL_op               = proto_perl->Top;
11464
11465     PL_Sv               = NULL;
11466     PL_Xpv              = (XPV*)NULL;
11467     PL_na               = proto_perl->Tna;
11468
11469     PL_statbuf          = proto_perl->Tstatbuf;
11470     PL_statcache        = proto_perl->Tstatcache;
11471     PL_statgv           = gv_dup(proto_perl->Tstatgv, param);
11472     PL_statname         = sv_dup_inc(proto_perl->Tstatname, param);
11473 #ifdef HAS_TIMES
11474     PL_timesbuf         = proto_perl->Ttimesbuf;
11475 #endif
11476
11477     PL_tainted          = proto_perl->Ttainted;
11478     PL_curpm            = proto_perl->Tcurpm;   /* XXX No PMOP ref count */
11479     PL_rs               = sv_dup_inc(proto_perl->Trs, param);
11480     PL_last_in_gv       = gv_dup(proto_perl->Tlast_in_gv, param);
11481     PL_ofs_sv           = sv_dup_inc(proto_perl->Tofs_sv, param);
11482     PL_defoutgv         = gv_dup_inc(proto_perl->Tdefoutgv, param);
11483     PL_chopset          = proto_perl->Tchopset; /* XXX never deallocated */
11484     PL_toptarget        = sv_dup_inc(proto_perl->Ttoptarget, param);
11485     PL_bodytarget       = sv_dup_inc(proto_perl->Tbodytarget, param);
11486     PL_formtarget       = sv_dup(proto_perl->Tformtarget, param);
11487
11488     PL_restartop        = proto_perl->Trestartop;
11489     PL_in_eval          = proto_perl->Tin_eval;
11490     PL_delaymagic       = proto_perl->Tdelaymagic;
11491     PL_dirty            = proto_perl->Tdirty;
11492     PL_localizing       = proto_perl->Tlocalizing;
11493
11494     PL_errors           = sv_dup_inc(proto_perl->Terrors, param);
11495     PL_hv_fetch_ent_mh  = NULL;
11496     PL_modcount         = proto_perl->Tmodcount;
11497     PL_lastgotoprobe    = NULL;
11498     PL_dumpindent       = proto_perl->Tdumpindent;
11499
11500     PL_sortcop          = (OP*)any_dup(proto_perl->Tsortcop, proto_perl);
11501     PL_sortstash        = hv_dup(proto_perl->Tsortstash, param);
11502     PL_firstgv          = gv_dup(proto_perl->Tfirstgv, param);
11503     PL_secondgv         = gv_dup(proto_perl->Tsecondgv, param);
11504     PL_efloatbuf        = NULL;         /* reinits on demand */
11505     PL_efloatsize       = 0;                    /* reinits on demand */
11506
11507     /* regex stuff */
11508
11509     PL_screamfirst      = NULL;
11510     PL_screamnext       = NULL;
11511     PL_maxscream        = -1;                   /* reinits on demand */
11512     PL_lastscream       = NULL;
11513
11514     PL_watchaddr        = NULL;
11515     PL_watchok          = NULL;
11516
11517     PL_regdummy         = proto_perl->Tregdummy;
11518     PL_colorset         = 0;            /* reinits PL_colors[] */
11519     /*PL_colors[6]      = {0,0,0,0,0,0};*/
11520
11521     /* RE engine - function pointers */
11522     PL_regcompp         = proto_perl->Tregcompp;
11523     PL_regexecp         = proto_perl->Tregexecp;
11524     PL_regint_start     = proto_perl->Tregint_start;
11525     PL_regint_string    = proto_perl->Tregint_string;
11526     PL_regfree          = proto_perl->Tregfree;
11527     Zero(&PL_reg_state, 1, struct re_save_state);
11528     PL_reginterp_cnt    = 0;
11529     PL_regmatch_slab    = NULL;
11530
11531     /* Pluggable optimizer */
11532     PL_peepp            = proto_perl->Tpeepp;
11533
11534     PL_stashcache       = newHV();
11535
11536     if (!(flags & CLONEf_KEEP_PTR_TABLE)) {
11537         ptr_table_free(PL_ptr_table);
11538         PL_ptr_table = NULL;
11539     }
11540
11541     /* Call the ->CLONE method, if it exists, for each of the stashes
11542        identified by sv_dup() above.
11543     */
11544     while(av_len(param->stashes) != -1) {
11545         HV* const stash = (HV*) av_shift(param->stashes);
11546         GV* const cloner = gv_fetchmethod_autoload(stash, "CLONE", 0);
11547         if (cloner && GvCV(cloner)) {
11548             dSP;
11549             ENTER;
11550             SAVETMPS;
11551             PUSHMARK(SP);
11552             XPUSHs(sv_2mortal(newSVhek(HvNAME_HEK(stash))));
11553             PUTBACK;
11554             call_sv((SV*)GvCV(cloner), G_DISCARD);
11555             FREETMPS;
11556             LEAVE;
11557         }
11558     }
11559
11560     SvREFCNT_dec(param->stashes);
11561
11562     /* orphaned? eg threads->new inside BEGIN or use */
11563     if (PL_compcv && ! SvREFCNT(PL_compcv)) {
11564         SvREFCNT_inc_simple_void(PL_compcv);
11565         SAVEFREESV(PL_compcv);
11566     }
11567
11568     return my_perl;
11569 }
11570
11571 #endif /* USE_ITHREADS */
11572
11573 /*
11574 =head1 Unicode Support
11575
11576 =for apidoc sv_recode_to_utf8
11577
11578 The encoding is assumed to be an Encode object, on entry the PV
11579 of the sv is assumed to be octets in that encoding, and the sv
11580 will be converted into Unicode (and UTF-8).
11581
11582 If the sv already is UTF-8 (or if it is not POK), or if the encoding
11583 is not a reference, nothing is done to the sv.  If the encoding is not
11584 an C<Encode::XS> Encoding object, bad things will happen.
11585 (See F<lib/encoding.pm> and L<Encode>).
11586
11587 The PV of the sv is returned.
11588
11589 =cut */
11590
11591 char *
11592 Perl_sv_recode_to_utf8(pTHX_ SV *sv, SV *encoding)
11593 {
11594     dVAR;
11595     if (SvPOK(sv) && !SvUTF8(sv) && !IN_BYTES && SvROK(encoding)) {
11596         SV *uni;
11597         STRLEN len;
11598         const char *s;
11599         dSP;
11600         ENTER;
11601         SAVETMPS;
11602         save_re_context();
11603         PUSHMARK(sp);
11604         EXTEND(SP, 3);
11605         XPUSHs(encoding);
11606         XPUSHs(sv);
11607 /*
11608   NI-S 2002/07/09
11609   Passing sv_yes is wrong - it needs to be or'ed set of constants
11610   for Encode::XS, while UTf-8 decode (currently) assumes a true value means
11611   remove converted chars from source.
11612
11613   Both will default the value - let them.
11614
11615         XPUSHs(&PL_sv_yes);
11616 */
11617         PUTBACK;
11618         call_method("decode", G_SCALAR);
11619         SPAGAIN;
11620         uni = POPs;
11621         PUTBACK;
11622         s = SvPV_const(uni, len);
11623         if (s != SvPVX_const(sv)) {
11624             SvGROW(sv, len + 1);
11625             Move(s, SvPVX(sv), len + 1, char);
11626             SvCUR_set(sv, len);
11627         }
11628         FREETMPS;
11629         LEAVE;
11630         SvUTF8_on(sv);
11631         return SvPVX(sv);
11632     }
11633     return SvPOKp(sv) ? SvPVX(sv) : NULL;
11634 }
11635
11636 /*
11637 =for apidoc sv_cat_decode
11638
11639 The encoding is assumed to be an Encode object, the PV of the ssv is
11640 assumed to be octets in that encoding and decoding the input starts
11641 from the position which (PV + *offset) pointed to.  The dsv will be
11642 concatenated the decoded UTF-8 string from ssv.  Decoding will terminate
11643 when the string tstr appears in decoding output or the input ends on
11644 the PV of the ssv. The value which the offset points will be modified
11645 to the last input position on the ssv.
11646
11647 Returns TRUE if the terminator was found, else returns FALSE.
11648
11649 =cut */
11650
11651 bool
11652 Perl_sv_cat_decode(pTHX_ SV *dsv, SV *encoding,
11653                    SV *ssv, int *offset, char *tstr, int tlen)
11654 {
11655     dVAR;
11656     bool ret = FALSE;
11657     if (SvPOK(ssv) && SvPOK(dsv) && SvROK(encoding) && offset) {
11658         SV *offsv;
11659         dSP;
11660         ENTER;
11661         SAVETMPS;
11662         save_re_context();
11663         PUSHMARK(sp);
11664         EXTEND(SP, 6);
11665         XPUSHs(encoding);
11666         XPUSHs(dsv);
11667         XPUSHs(ssv);
11668         XPUSHs(offsv = sv_2mortal(newSViv(*offset)));
11669         XPUSHs(sv_2mortal(newSVpvn(tstr, tlen)));
11670         PUTBACK;
11671         call_method("cat_decode", G_SCALAR);
11672         SPAGAIN;
11673         ret = SvTRUE(TOPs);
11674         *offset = SvIV(offsv);
11675         PUTBACK;
11676         FREETMPS;
11677         LEAVE;
11678     }
11679     else
11680         Perl_croak(aTHX_ "Invalid argument to sv_cat_decode");
11681     return ret;
11682
11683 }
11684
11685 /* ---------------------------------------------------------------------
11686  *
11687  * support functions for report_uninit()
11688  */
11689
11690 /* the maxiumum size of array or hash where we will scan looking
11691  * for the undefined element that triggered the warning */
11692
11693 #define FUV_MAX_SEARCH_SIZE 1000
11694
11695 /* Look for an entry in the hash whose value has the same SV as val;
11696  * If so, return a mortal copy of the key. */
11697
11698 STATIC SV*
11699 S_find_hash_subscript(pTHX_ HV *hv, SV* val)
11700 {
11701     dVAR;
11702     register HE **array;
11703     I32 i;
11704
11705     if (!hv || SvMAGICAL(hv) || !HvARRAY(hv) ||
11706                         (HvTOTALKEYS(hv) > FUV_MAX_SEARCH_SIZE))
11707         return NULL;
11708
11709     array = HvARRAY(hv);
11710
11711     for (i=HvMAX(hv); i>0; i--) {
11712         register HE *entry;
11713         for (entry = array[i]; entry; entry = HeNEXT(entry)) {
11714             if (HeVAL(entry) != val)
11715                 continue;
11716             if (    HeVAL(entry) == &PL_sv_undef ||
11717                     HeVAL(entry) == &PL_sv_placeholder)
11718                 continue;
11719             if (!HeKEY(entry))
11720                 return NULL;
11721             if (HeKLEN(entry) == HEf_SVKEY)
11722                 return sv_mortalcopy(HeKEY_sv(entry));
11723             return sv_2mortal(newSVpvn(HeKEY(entry), HeKLEN(entry)));
11724         }
11725     }
11726     return NULL;
11727 }
11728
11729 /* Look for an entry in the array whose value has the same SV as val;
11730  * If so, return the index, otherwise return -1. */
11731
11732 STATIC I32
11733 S_find_array_subscript(pTHX_ AV *av, SV* val)
11734 {
11735     dVAR;
11736     SV** svp;
11737     I32 i;
11738     if (!av || SvMAGICAL(av) || !AvARRAY(av) ||
11739                         (AvFILLp(av) > FUV_MAX_SEARCH_SIZE))
11740         return -1;
11741
11742     svp = AvARRAY(av);
11743     for (i=AvFILLp(av); i>=0; i--) {
11744         if (svp[i] == val && svp[i] != &PL_sv_undef)
11745             return i;
11746     }
11747     return -1;
11748 }
11749
11750 /* S_varname(): return the name of a variable, optionally with a subscript.
11751  * If gv is non-zero, use the name of that global, along with gvtype (one
11752  * of "$", "@", "%"); otherwise use the name of the lexical at pad offset
11753  * targ.  Depending on the value of the subscript_type flag, return:
11754  */
11755
11756 #define FUV_SUBSCRIPT_NONE      1       /* "@foo"          */
11757 #define FUV_SUBSCRIPT_ARRAY     2       /* "$foo[aindex]"  */
11758 #define FUV_SUBSCRIPT_HASH      3       /* "$foo{keyname}" */
11759 #define FUV_SUBSCRIPT_WITHIN    4       /* "within @foo"   */
11760
11761 STATIC SV*
11762 S_varname(pTHX_ GV *gv, const char gvtype, PADOFFSET targ,
11763         SV* keyname, I32 aindex, int subscript_type)
11764 {
11765
11766     SV * const name = sv_newmortal();
11767     if (gv) {
11768         char buffer[2];
11769         buffer[0] = gvtype;
11770         buffer[1] = 0;
11771
11772         /* as gv_fullname4(), but add literal '^' for $^FOO names  */
11773
11774         gv_fullname4(name, gv, buffer, 0);
11775
11776         if ((unsigned int)SvPVX(name)[1] <= 26) {
11777             buffer[0] = '^';
11778             buffer[1] = SvPVX(name)[1] + 'A' - 1;
11779
11780             /* Swap the 1 unprintable control character for the 2 byte pretty
11781                version - ie substr($name, 1, 1) = $buffer; */
11782             sv_insert(name, 1, 1, buffer, 2);
11783         }
11784     }
11785     else {
11786         U32 unused;
11787         CV * const cv = find_runcv(&unused);
11788         SV *sv;
11789         AV *av;
11790
11791         if (!cv || !CvPADLIST(cv))
11792             return NULL;
11793         av = (AV*)(*av_fetch(CvPADLIST(cv), 0, FALSE));
11794         sv = *av_fetch(av, targ, FALSE);
11795         /* SvLEN in a pad name is not to be trusted */
11796         sv_setpv(name, SvPV_nolen_const(sv));
11797     }
11798
11799     if (subscript_type == FUV_SUBSCRIPT_HASH) {
11800         SV * const sv = newSV(0);
11801         *SvPVX(name) = '$';
11802         Perl_sv_catpvf(aTHX_ name, "{%s}",
11803             pv_display(sv,SvPVX_const(keyname), SvCUR(keyname), 0, 32));
11804         SvREFCNT_dec(sv);
11805     }
11806     else if (subscript_type == FUV_SUBSCRIPT_ARRAY) {
11807         *SvPVX(name) = '$';
11808         Perl_sv_catpvf(aTHX_ name, "[%"IVdf"]", (IV)aindex);
11809     }
11810     else if (subscript_type == FUV_SUBSCRIPT_WITHIN)
11811         Perl_sv_insert(aTHX_ name, 0, 0,  STR_WITH_LEN("within "));
11812
11813     return name;
11814 }
11815
11816
11817 /*
11818 =for apidoc find_uninit_var
11819
11820 Find the name of the undefined variable (if any) that caused the operator o
11821 to issue a "Use of uninitialized value" warning.
11822 If match is true, only return a name if it's value matches uninit_sv.
11823 So roughly speaking, if a unary operator (such as OP_COS) generates a
11824 warning, then following the direct child of the op may yield an
11825 OP_PADSV or OP_GV that gives the name of the undefined variable. On the
11826 other hand, with OP_ADD there are two branches to follow, so we only print
11827 the variable name if we get an exact match.
11828
11829 The name is returned as a mortal SV.
11830
11831 Assumes that PL_op is the op that originally triggered the error, and that
11832 PL_comppad/PL_curpad points to the currently executing pad.
11833
11834 =cut
11835 */
11836
11837 STATIC SV *
11838 S_find_uninit_var(pTHX_ OP* obase, SV* uninit_sv, bool match)
11839 {
11840     dVAR;
11841     SV *sv;
11842     AV *av;
11843     GV *gv;
11844     OP *o, *o2, *kid;
11845
11846     if (!obase || (match && (!uninit_sv || uninit_sv == &PL_sv_undef ||
11847                             uninit_sv == &PL_sv_placeholder)))
11848         return NULL;
11849
11850     switch (obase->op_type) {
11851
11852     case OP_RV2AV:
11853     case OP_RV2HV:
11854     case OP_PADAV:
11855     case OP_PADHV:
11856       {
11857         const bool pad  = (obase->op_type == OP_PADAV || obase->op_type == OP_PADHV);
11858         const bool hash = (obase->op_type == OP_PADHV || obase->op_type == OP_RV2HV);
11859         I32 index = 0;
11860         SV *keysv = NULL;
11861         int subscript_type = FUV_SUBSCRIPT_WITHIN;
11862
11863         if (pad) { /* @lex, %lex */
11864             sv = PAD_SVl(obase->op_targ);
11865             gv = NULL;
11866         }
11867         else {
11868             if (cUNOPx(obase)->op_first->op_type == OP_GV) {
11869             /* @global, %global */
11870                 gv = cGVOPx_gv(cUNOPx(obase)->op_first);
11871                 if (!gv)
11872                     break;
11873                 sv = hash ? (SV*)GvHV(gv): (SV*)GvAV(gv);
11874             }
11875             else /* @{expr}, %{expr} */
11876                 return find_uninit_var(cUNOPx(obase)->op_first,
11877                                                     uninit_sv, match);
11878         }
11879
11880         /* attempt to find a match within the aggregate */
11881         if (hash) {
11882             keysv = find_hash_subscript((HV*)sv, uninit_sv);
11883             if (keysv)
11884                 subscript_type = FUV_SUBSCRIPT_HASH;
11885         }
11886         else {
11887             index = S_find_array_subscript(aTHX_ (AV*)sv, uninit_sv);
11888             if (index >= 0)
11889                 subscript_type = FUV_SUBSCRIPT_ARRAY;
11890         }
11891
11892         if (match && subscript_type == FUV_SUBSCRIPT_WITHIN)
11893             break;
11894
11895         return varname(gv, hash ? '%' : '@', obase->op_targ,
11896                                     keysv, index, subscript_type);
11897       }
11898
11899     case OP_PADSV:
11900         if (match && PAD_SVl(obase->op_targ) != uninit_sv)
11901             break;
11902         return varname(NULL, '$', obase->op_targ,
11903                                     NULL, 0, FUV_SUBSCRIPT_NONE);
11904
11905     case OP_GVSV:
11906         gv = cGVOPx_gv(obase);
11907         if (!gv || (match && GvSV(gv) != uninit_sv))
11908             break;
11909         return varname(gv, '$', 0, NULL, 0, FUV_SUBSCRIPT_NONE);
11910
11911     case OP_AELEMFAST:
11912         if (obase->op_flags & OPf_SPECIAL) { /* lexical array */
11913             if (match) {
11914                 SV **svp;
11915                 av = (AV*)PAD_SV(obase->op_targ);
11916                 if (!av || SvRMAGICAL(av))
11917                     break;
11918                 svp = av_fetch(av, (I32)obase->op_private, FALSE);
11919                 if (!svp || *svp != uninit_sv)
11920                     break;
11921             }
11922             return varname(NULL, '$', obase->op_targ,
11923                     NULL, (I32)obase->op_private, FUV_SUBSCRIPT_ARRAY);
11924         }
11925         else {
11926             gv = cGVOPx_gv(obase);
11927             if (!gv)
11928                 break;
11929             if (match) {
11930                 SV **svp;
11931                 av = GvAV(gv);
11932                 if (!av || SvRMAGICAL(av))
11933                     break;
11934                 svp = av_fetch(av, (I32)obase->op_private, FALSE);
11935                 if (!svp || *svp != uninit_sv)
11936                     break;
11937             }
11938             return varname(gv, '$', 0,
11939                     NULL, (I32)obase->op_private, FUV_SUBSCRIPT_ARRAY);
11940         }
11941         break;
11942
11943     case OP_EXISTS:
11944         o = cUNOPx(obase)->op_first;
11945         if (!o || o->op_type != OP_NULL ||
11946                 ! (o->op_targ == OP_AELEM || o->op_targ == OP_HELEM))
11947             break;
11948         return find_uninit_var(cBINOPo->op_last, uninit_sv, match);
11949
11950     case OP_AELEM:
11951     case OP_HELEM:
11952         if (PL_op == obase)
11953             /* $a[uninit_expr] or $h{uninit_expr} */
11954             return find_uninit_var(cBINOPx(obase)->op_last, uninit_sv, match);
11955
11956         gv = NULL;
11957         o = cBINOPx(obase)->op_first;
11958         kid = cBINOPx(obase)->op_last;
11959
11960         /* get the av or hv, and optionally the gv */
11961         sv = NULL;
11962         if  (o->op_type == OP_PADAV || o->op_type == OP_PADHV) {
11963             sv = PAD_SV(o->op_targ);
11964         }
11965         else if ((o->op_type == OP_RV2AV || o->op_type == OP_RV2HV)
11966                 && cUNOPo->op_first->op_type == OP_GV)
11967         {
11968             gv = cGVOPx_gv(cUNOPo->op_first);
11969             if (!gv)
11970                 break;
11971             sv = o->op_type == OP_RV2HV ? (SV*)GvHV(gv) : (SV*)GvAV(gv);
11972         }
11973         if (!sv)
11974             break;
11975
11976         if (kid && kid->op_type == OP_CONST && SvOK(cSVOPx_sv(kid))) {
11977             /* index is constant */
11978             if (match) {
11979                 if (SvMAGICAL(sv))
11980                     break;
11981                 if (obase->op_type == OP_HELEM) {
11982                     HE* he = hv_fetch_ent((HV*)sv, cSVOPx_sv(kid), 0, 0);
11983                     if (!he || HeVAL(he) != uninit_sv)
11984                         break;
11985                 }
11986                 else {
11987                     SV * const * const svp = av_fetch((AV*)sv, SvIV(cSVOPx_sv(kid)), FALSE);
11988                     if (!svp || *svp != uninit_sv)
11989                         break;
11990                 }
11991             }
11992             if (obase->op_type == OP_HELEM)
11993                 return varname(gv, '%', o->op_targ,
11994                             cSVOPx_sv(kid), 0, FUV_SUBSCRIPT_HASH);
11995             else
11996                 return varname(gv, '@', o->op_targ, NULL,
11997                             SvIV(cSVOPx_sv(kid)), FUV_SUBSCRIPT_ARRAY);
11998         }
11999         else  {
12000             /* index is an expression;
12001              * attempt to find a match within the aggregate */
12002             if (obase->op_type == OP_HELEM) {
12003                 SV * const keysv = find_hash_subscript((HV*)sv, uninit_sv);
12004                 if (keysv)
12005                     return varname(gv, '%', o->op_targ,
12006                                                 keysv, 0, FUV_SUBSCRIPT_HASH);
12007             }
12008             else {
12009                 const I32 index = find_array_subscript((AV*)sv, uninit_sv);
12010                 if (index >= 0)
12011                     return varname(gv, '@', o->op_targ,
12012                                         NULL, index, FUV_SUBSCRIPT_ARRAY);
12013             }
12014             if (match)
12015                 break;
12016             return varname(gv,
12017                 (o->op_type == OP_PADAV || o->op_type == OP_RV2AV)
12018                 ? '@' : '%',
12019                 o->op_targ, NULL, 0, FUV_SUBSCRIPT_WITHIN);
12020         }
12021         break;
12022
12023     case OP_AASSIGN:
12024         /* only examine RHS */
12025         return find_uninit_var(cBINOPx(obase)->op_first, uninit_sv, match);
12026
12027     case OP_OPEN:
12028         o = cUNOPx(obase)->op_first;
12029         if (o->op_type == OP_PUSHMARK)
12030             o = o->op_sibling;
12031
12032         if (!o->op_sibling) {
12033             /* one-arg version of open is highly magical */
12034
12035             if (o->op_type == OP_GV) { /* open FOO; */
12036                 gv = cGVOPx_gv(o);
12037                 if (match && GvSV(gv) != uninit_sv)
12038                     break;
12039                 return varname(gv, '$', 0,
12040                             NULL, 0, FUV_SUBSCRIPT_NONE);
12041             }
12042             /* other possibilities not handled are:
12043              * open $x; or open my $x;  should return '${*$x}'
12044              * open expr;               should return '$'.expr ideally
12045              */
12046              break;
12047         }
12048         goto do_op;
12049
12050     /* ops where $_ may be an implicit arg */
12051     case OP_TRANS:
12052     case OP_SUBST:
12053     case OP_MATCH:
12054         if ( !(obase->op_flags & OPf_STACKED)) {
12055             if (uninit_sv == ((obase->op_private & OPpTARGET_MY)
12056                                  ? PAD_SVl(obase->op_targ)
12057                                  : DEFSV))
12058             {
12059                 sv = sv_newmortal();
12060                 sv_setpvn(sv, "$_", 2);
12061                 return sv;
12062             }
12063         }
12064         goto do_op;
12065
12066     case OP_PRTF:
12067     case OP_PRINT:
12068         /* skip filehandle as it can't produce 'undef' warning  */
12069         o = cUNOPx(obase)->op_first;
12070         if ((obase->op_flags & OPf_STACKED) && o->op_type == OP_PUSHMARK)
12071             o = o->op_sibling->op_sibling;
12072         goto do_op2;
12073
12074
12075     case OP_RV2SV:
12076     case OP_CUSTOM:
12077     case OP_ENTERSUB:
12078         match = 1; /* XS or custom code could trigger random warnings */
12079         goto do_op;
12080
12081     case OP_SCHOMP:
12082     case OP_CHOMP:
12083         if (SvROK(PL_rs) && uninit_sv == SvRV(PL_rs))
12084             return sv_2mortal(newSVpvs("${$/}"));
12085         /*FALLTHROUGH*/
12086
12087     default:
12088     do_op:
12089         if (!(obase->op_flags & OPf_KIDS))
12090             break;
12091         o = cUNOPx(obase)->op_first;
12092         
12093     do_op2:
12094         if (!o)
12095             break;
12096
12097         /* if all except one arg are constant, or have no side-effects,
12098          * or are optimized away, then it's unambiguous */
12099         o2 = NULL;
12100         for (kid=o; kid; kid = kid->op_sibling) {
12101             SV *sv;
12102             if (kid &&
12103                 (    (kid->op_type == OP_CONST && (sv = cSVOPx_sv(kid))
12104                       && SvOK(sv))
12105                   || (kid->op_type == OP_NULL  && ! (kid->op_flags & OPf_KIDS))
12106                   || (kid->op_type == OP_PUSHMARK)
12107                 )
12108             )
12109                 continue;
12110             if (o2) { /* more than one found */
12111                 o2 = NULL;
12112                 break;
12113             }
12114             o2 = kid;
12115         }
12116         if (o2)
12117             return find_uninit_var(o2, uninit_sv, match);
12118
12119         /* scan all args */
12120         while (o) {
12121             sv = find_uninit_var(o, uninit_sv, 1);
12122             if (sv)
12123                 return sv;
12124             o = o->op_sibling;
12125         }
12126         break;
12127     }
12128     return NULL;
12129 }
12130
12131
12132 /*
12133 =for apidoc report_uninit
12134
12135 Print appropriate "Use of uninitialized variable" warning
12136
12137 =cut
12138 */
12139
12140 void
12141 Perl_report_uninit(pTHX_ SV* uninit_sv)
12142 {
12143     dVAR;
12144     if (PL_op) {
12145         SV* varname = NULL;
12146         if (uninit_sv) {
12147             varname = find_uninit_var(PL_op, uninit_sv,0);
12148             if (varname)
12149                 sv_insert(varname, 0, 0, " ", 1);
12150         }
12151         Perl_warner(aTHX_ packWARN(WARN_UNINITIALIZED), PL_warn_uninit,
12152                 varname ? SvPV_nolen_const(varname) : "",
12153                 " in ", OP_DESC(PL_op));
12154     }
12155     else
12156         Perl_warner(aTHX_ packWARN(WARN_UNINITIALIZED), PL_warn_uninit,
12157                     "", "", "");
12158 }
12159
12160 /*
12161  * Local variables:
12162  * c-indentation-style: bsd
12163  * c-basic-offset: 4
12164  * indent-tabs-mode: t
12165  * End:
12166  *
12167  * ex: set ts=8 sts=4 sw=4 noet:
12168  */