hv.c

   1 /*    hv.c
   2  *
   3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
   4  *    2000, 2001, 2002, 2003, 2004, 2005, by Larry Wall and others
   5  *
   6  *    You may distribute under the terms of either the GNU General Public
   7  *    License or the Artistic License, as specified in the README file.
   8  *
   9  */
  10
  11 /*
  12  * "I sit beside the fire and think of all that I have seen."  --Bilbo
  13  */
  14
  15 /*
  16 =head1 Hash Manipulation Functions
  17
  18 A HV structure represents a Perl hash. It consists mainly of an array
  19 of pointers, each of which points to a linked list of HE structures. The
  20 array is indexed by the hash function of the key, so each linked list
  21 represents all the hash entries with the same hash value. Each HE contains
  22 a pointer to the actual value, plus a pointer to a HEK structure which
  23 holds the key and hash value.
  24
  25 =cut
  26
  27 */
  28
  29 #include "EXTERN.h"
  30 #define PERL_IN_HV_C
  31 #define PERL_HASH_INTERNAL_ACCESS
  32 #include "perl.h"
  33
  34 #define HV_MAX_LENGTH_BEFORE_SPLIT 14
  35
  36 STATIC HE*
  37 S_new_he(pTHX)
  38 {
  39     HE* he;
  40     LOCK_SV_MUTEX;
  41     if (!PL_he_root)
  42         more_he();
  43     he = PL_he_root;
  44     PL_he_root = HeNEXT(he);
  45     UNLOCK_SV_MUTEX;
  46     return he;
  47 }
  48
  49 STATIC void
  50 S_del_he(pTHX_ HE *p)
  51 {
  52     LOCK_SV_MUTEX;
  53     HeNEXT(p) = (HE*)PL_he_root;
  54     PL_he_root = p;
  55     UNLOCK_SV_MUTEX;
  56 }
  57
  58 STATIC void
  59 S_more_he(pTHX)
  60 {
  61     register HE* he;
  62     register HE* heend;
  63     New(54, he, PERL_ARENA_SIZE/sizeof(HE), HE);
  64     HeNEXT(he) = PL_he_arenaroot;
  65     PL_he_arenaroot = he;
  66
  67     heend = &he[PERL_ARENA_SIZE / sizeof(HE) - 1];
  68     PL_he_root = ++he;
  69     while (he < heend) {
  70         HeNEXT(he) = (HE*)(he + 1);
  71         he++;
  72     }
  73     HeNEXT(he) = 0;
  74 }
  75
  76 #ifdef PURIFY
  77
  78 #define new_HE() (HE*)safemalloc(sizeof(HE))
  79 #define del_HE(p) safefree((char*)p)
  80
  81 #else
  82
  83 #define new_HE() new_he()
  84 #define del_HE(p) del_he(p)
  85
  86 #endif
  87
  88 STATIC HEK *
  89 S_save_hek_flags(pTHX_ const char *str, I32 len, U32 hash, int flags)
  90 {
  91     const int flags_masked = flags & HVhek_MASK;
  92     char *k;
  93     register HEK *hek;
  94
  95     New(54, k, HEK_BASESIZE + len + 2, char);
  96     hek = (HEK*)k;
  97     Copy(str, HEK_KEY(hek), len, char);
  98     HEK_KEY(hek)[len] = 0;
  99     HEK_LEN(hek) = len;
 100     HEK_HASH(hek) = hash;
 101     HEK_FLAGS(hek) = (unsigned char)flags_masked;
 102
 103     if (flags & HVhek_FREEKEY)
 104         Safefree(str);
 105     return hek;
 106 }
 107
 108 /* free the pool of temporary HE/HEK pairs retunrned by hv_fetch_ent
 109  * for tied hashes */
 110
 111 void
 112 Perl_free_tied_hv_pool(pTHX)
 113 {
 114     HE *ohe;
 115     HE *he = PL_hv_fetch_ent_mh;
 116     while (he) {
 117         Safefree(HeKEY_hek(he));
 118         ohe = he;
 119         he = HeNEXT(he);
 120         del_HE(ohe);
 121     }
 122     PL_hv_fetch_ent_mh = Nullhe;
 123 }
 124
 125 #if defined(USE_ITHREADS)
 126 HE *
 127 Perl_he_dup(pTHX_ HE *e, bool shared, CLONE_PARAMS* param)
 128 {
 129     HE *ret;
 130
 131     if (!e)
 132         return Nullhe;
 133     /* look for it in the table first */
 134     ret = (HE*)ptr_table_fetch(PL_ptr_table, e);
 135     if (ret)
 136         return ret;
 137
 138     /* create anew and remember what it is */
 139     ret = new_HE();
 140     ptr_table_store(PL_ptr_table, e, ret);
 141
 142     HeNEXT(ret) = he_dup(HeNEXT(e),shared, param);
 143     if (HeKLEN(e) == HEf_SVKEY) {
 144         char *k;
 145         New(54, k, HEK_BASESIZE + sizeof(SV*), char);
 146         HeKEY_hek(ret) = (HEK*)k;
 147         HeKEY_sv(ret) = SvREFCNT_inc(sv_dup(HeKEY_sv(e), param));
 148     }
 149     else if (shared)
 150         HeKEY_hek(ret) = share_hek_flags(HeKEY(e), HeKLEN(e), HeHASH(e),
 151                                          HeKFLAGS(e));
 152     else
 153         HeKEY_hek(ret) = save_hek_flags(HeKEY(e), HeKLEN(e), HeHASH(e),
 154                                         HeKFLAGS(e));
 155     HeVAL(ret) = SvREFCNT_inc(sv_dup(HeVAL(e), param));
 156     return ret;
 157 }
 158 #endif  /* USE_ITHREADS */
 159
 160 static void
 161 S_hv_notallowed(pTHX_ int flags, const char *key, I32 klen,
 162                 const char *msg)
 163 {
 164     SV *sv = sv_newmortal();
 165     if (!(flags & HVhek_FREEKEY)) {
 166         sv_setpvn(sv, key, klen);
 167     }
 168     else {
 169         /* Need to free saved eventually assign to mortal SV */
 170         /* XXX is this line an error ???:  SV *sv = sv_newmortal(); */
 171         sv_usepvn(sv, (char *) key, klen);
 172     }
 173     if (flags & HVhek_UTF8) {
 174         SvUTF8_on(sv);
 175     }
 176     Perl_croak(aTHX_ msg, sv);
 177 }
 178
 179 /* (klen == HEf_SVKEY) is special for MAGICAL hv entries, meaning key slot
 180  * contains an SV* */
 181
 182 #define HV_FETCH_ISSTORE   0x01
 183 #define HV_FETCH_ISEXISTS  0x02
 184 #define HV_FETCH_LVALUE    0x04
 185 #define HV_FETCH_JUST_SV   0x08
 186
 187 /*
 188 =for apidoc hv_store
 189
 190 Stores an SV in a hash.  The hash key is specified as C<key> and C<klen> is
 191 the length of the key.  The C<hash> parameter is the precomputed hash
 192 value; if it is zero then Perl will compute it.  The return value will be
 193 NULL if the operation failed or if the value did not need to be actually
 194 stored within the hash (as in the case of tied hashes).  Otherwise it can
 195 be dereferenced to get the original C<SV*>.  Note that the caller is
 196 responsible for suitably incrementing the reference count of C<val> before
 197 the call, and decrementing it if the function returned NULL.  Effectively
 198 a successful hv_store takes ownership of one reference to C<val>.  This is
 199 usually what you want; a newly created SV has a reference count of one, so
 200 if all your code does is create SVs then store them in a hash, hv_store
 201 will own the only reference to the new SV, and your code doesn't need to do
 202 anything further to tidy up.  hv_store is not implemented as a call to
 203 hv_store_ent, and does not create a temporary SV for the key, so if your
 204 key data is not already in SV form then use hv_store in preference to
 205 hv_store_ent.
 206
 207 See L<perlguts/"Understanding the Magic of Tied Hashes and Arrays"> for more
 208 information on how to use this function on tied hashes.
 209
 210 =cut
 211 */
 212
 213 SV**
 214 Perl_hv_store(pTHX_ HV *hv, const char *key, I32 klen_i32, SV *val, U32 hash)
 215 {
 216     HE *hek;
 217     STRLEN klen;
 218     int flags;
 219
 220     if (klen_i32 < 0) {
 221         klen = -klen_i32;
 222         flags = HVhek_UTF8;
 223     } else {
 224         klen = klen_i32;
 225         flags = 0;
 226     }
 227     hek = hv_fetch_common (hv, NULL, key, klen, flags,
 228                            (HV_FETCH_ISSTORE|HV_FETCH_JUST_SV), val, hash);
 229     return hek ? &HeVAL(hek) : NULL;
 230 }
 231
 232 SV**
 233 Perl_hv_store_flags(pTHX_ HV *hv, const char *key, I32 klen, SV *val,
 234                  register U32 hash, int flags)
 235 {
 236     HE *hek = hv_fetch_common (hv, NULL, key, klen, flags,
 237                                (HV_FETCH_ISSTORE|HV_FETCH_JUST_SV), val, hash);
 238     return hek ? &HeVAL(hek) : NULL;
 239 }
 240
 241 /*
 242 =for apidoc hv_store_ent
 243
 244 Stores C<val> in a hash.  The hash key is specified as C<key>.  The C<hash>
 245 parameter is the precomputed hash value; if it is zero then Perl will
 246 compute it.  The return value is the new hash entry so created.  It will be
 247 NULL if the operation failed or if the value did not need to be actually
 248 stored within the hash (as in the case of tied hashes).  Otherwise the
 249 contents of the return value can be accessed using the C<He?> macros
 250 described here.  Note that the caller is responsible for suitably
 251 incrementing the reference count of C<val> before the call, and
 252 decrementing it if the function returned NULL.  Effectively a successful
 253 hv_store_ent takes ownership of one reference to C<val>.  This is
 254 usually what you want; a newly created SV has a reference count of one, so
 255 if all your code does is create SVs then store them in a hash, hv_store
 256 will own the only reference to the new SV, and your code doesn't need to do
 257 anything further to tidy up.  Note that hv_store_ent only reads the C<key>;
 258 unlike C<val> it does not take ownership of it, so maintaining the correct
 259 reference count on C<key> is entirely the caller's responsibility.  hv_store
 260 is not implemented as a call to hv_store_ent, and does not create a temporary
 261 SV for the key, so if your key data is not already in SV form then use
 262 hv_store in preference to hv_store_ent.
 263
 264 See L<perlguts/"Understanding the Magic of Tied Hashes and Arrays"> for more
 265 information on how to use this function on tied hashes.
 266
 267 =cut
 268 */
 269
 270 HE *
 271 Perl_hv_store_ent(pTHX_ HV *hv, SV *keysv, SV *val, U32 hash)
 272 {
 273   return hv_fetch_common(hv, keysv, NULL, 0, 0, HV_FETCH_ISSTORE, val, hash);
 274 }
 275
 276 /*
 277 =for apidoc hv_exists
 278
 279 Returns a boolean indicating whether the specified hash key exists.  The
 280 C<klen> is the length of the key.
 281
 282 =cut
 283 */
 284
 285 bool
 286 Perl_hv_exists(pTHX_ HV *hv, const char *key, I32 klen_i32)
 287 {
 288     STRLEN klen;
 289     int flags;
 290
 291     if (klen_i32 < 0) {
 292         klen = -klen_i32;
 293         flags = HVhek_UTF8;
 294     } else {
 295         klen = klen_i32;
 296         flags = 0;
 297     }
 298     return hv_fetch_common(hv, NULL, key, klen, flags, HV_FETCH_ISEXISTS, 0, 0)
 299         ? TRUE : FALSE;
 300 }
 301
 302 /*
 303 =for apidoc hv_fetch
 304
 305 Returns the SV which corresponds to the specified key in the hash.  The
 306 C<klen> is the length of the key.  If C<lval> is set then the fetch will be
 307 part of a store.  Check that the return value is non-null before
 308 dereferencing it to an C<SV*>.
 309
 310 See L<perlguts/"Understanding the Magic of Tied Hashes and Arrays"> for more
 311 information on how to use this function on tied hashes.
 312
 313 =cut
 314 */
 315
 316 SV**
 317 Perl_hv_fetch(pTHX_ HV *hv, const char *key, I32 klen_i32, I32 lval)
 318 {
 319     HE *hek;
 320     STRLEN klen;
 321     int flags;
 322
 323     if (klen_i32 < 0) {
 324         klen = -klen_i32;
 325         flags = HVhek_UTF8;
 326     } else {
 327         klen = klen_i32;
 328         flags = 0;
 329     }
 330     hek = hv_fetch_common (hv, NULL, key, klen, flags,
 331                            HV_FETCH_JUST_SV | (lval ? HV_FETCH_LVALUE : 0),
 332                            Nullsv, 0);
 333     return hek ? &HeVAL(hek) : NULL;
 334 }
 335
 336 /*
 337 =for apidoc hv_exists_ent
 338
 339 Returns a boolean indicating whether the specified hash key exists. C<hash>
 340 can be a valid precomputed hash value, or 0 to ask for it to be
 341 computed.
 342
 343 =cut
 344 */
 345
 346 bool
 347 Perl_hv_exists_ent(pTHX_ HV *hv, SV *keysv, U32 hash)
 348 {
 349     return hv_fetch_common(hv, keysv, NULL, 0, 0, HV_FETCH_ISEXISTS, 0, hash)
 350         ? TRUE : FALSE;
 351 }
 352
 353 /* returns an HE * structure with the all fields set */
 354 /* note that hent_val will be a mortal sv for MAGICAL hashes */
 355 /*
 356 =for apidoc hv_fetch_ent
 357
 358 Returns the hash entry which corresponds to the specified key in the hash.
 359 C<hash> must be a valid precomputed hash number for the given C<key>, or 0
 360 if you want the function to compute it.  IF C<lval> is set then the fetch
 361 will be part of a store.  Make sure the return value is non-null before
 362 accessing it.  The return value when C<tb> is a tied hash is a pointer to a
 363 static location, so be sure to make a copy of the structure if you need to
 364 store it somewhere.
 365
 366 See L<perlguts/"Understanding the Magic of Tied Hashes and Arrays"> for more
 367 information on how to use this function on tied hashes.
 368
 369 =cut
 370 */
 371
 372 HE *
 373 Perl_hv_fetch_ent(pTHX_ HV *hv, SV *keysv, I32 lval, register U32 hash)
 374 {
 375     return hv_fetch_common(hv, keysv, NULL, 0, 0,
 376                            (lval ? HV_FETCH_LVALUE : 0), Nullsv, hash);
 377 }
 378
 379 STATIC HE *
 380 S_hv_fetch_common(pTHX_ HV *hv, SV *keysv, const char *key, STRLEN klen,
 381                   int flags, int action, SV *val, register U32 hash)
 382 {
 383     dVAR;
 384     XPVHV* xhv;
 385     U32 n_links;
 386     HE *entry;
 387     HE **oentry;
 388     SV *sv;
 389     bool is_utf8;
 390     int masked_flags;
 391
 392     if (!hv)
 393         return 0;
 394
 395     if (keysv) {
 396         if (flags & HVhek_FREEKEY)
 397             Safefree(key);
 398         key = SvPV(keysv, klen);
 399         flags = 0;
 400         is_utf8 = (SvUTF8(keysv) != 0);
 401     } else {
 402         is_utf8 = ((flags & HVhek_UTF8) ? TRUE : FALSE);
 403     }
 404
 405     xhv = (XPVHV*)SvANY(hv);
 406     if (SvMAGICAL(hv)) {
 407         if (SvRMAGICAL(hv) && !(action & (HV_FETCH_ISSTORE|HV_FETCH_ISEXISTS)))
 408           {
 409             if (mg_find((SV*)hv, PERL_MAGIC_tied) || SvGMAGICAL((SV*)hv)) {
 410                 sv = sv_newmortal();
 411
 412                 /* XXX should be able to skimp on the HE/HEK here when
 413                    HV_FETCH_JUST_SV is true.  */
 414
 415                 if (!keysv) {
 416                     keysv = newSVpvn(key, klen);
 417                     if (is_utf8) {
 418                         SvUTF8_on(keysv);
 419                     }
 420                 } else {
 421                     keysv = newSVsv(keysv);
 422                 }
 423                 mg_copy((SV*)hv, sv, (char *)keysv, HEf_SVKEY);
 424
 425                 /* grab a fake HE/HEK pair from the pool or make a new one */
 426                 entry = PL_hv_fetch_ent_mh;
 427                 if (entry)
 428                     PL_hv_fetch_ent_mh = HeNEXT(entry);
 429                 else {
 430                     char *k;
 431                     entry = new_HE();
 432                     New(54, k, HEK_BASESIZE + sizeof(SV*), char);
 433                     HeKEY_hek(entry) = (HEK*)k;
 434                 }
 435                 HeNEXT(entry) = Nullhe;
 436                 HeSVKEY_set(entry, keysv);
 437                 HeVAL(entry) = sv;
 438                 sv_upgrade(sv, SVt_PVLV);
 439                 LvTYPE(sv) = 'T';
 440                  /* so we can free entry when freeing sv */
 441                 LvTARG(sv) = (SV*)entry;
 442
 443                 /* XXX remove at some point? */
 444                 if (flags & HVhek_FREEKEY)
 445                     Safefree(key);
 446
 447                 return entry;
 448             }
 449 #ifdef ENV_IS_CASELESS
 450             else if (mg_find((SV*)hv, PERL_MAGIC_env)) {
 451                 U32 i;
 452                 for (i = 0; i < klen; ++i)
 453                     if (isLOWER(key[i])) {
 454                         /* Would be nice if we had a routine to do the
 455                            copy and upercase in a single pass through.  */
 456                         const char *nkey = strupr(savepvn(key,klen));
 457                         /* Note that this fetch is for nkey (the uppercased
 458                            key) whereas the store is for key (the original)  */
 459                         entry = hv_fetch_common(hv, Nullsv, nkey, klen,
 460                                                 HVhek_FREEKEY, /* free nkey */
 461                                                 0 /* non-LVAL fetch */,
 462                                                 Nullsv /* no value */,
 463                                                 0 /* compute hash */);
 464                         if (!entry && (action & HV_FETCH_LVALUE)) {
 465                             /* This call will free key if necessary.
 466                                Do it this way to encourage compiler to tail
 467                                call optimise.  */
 468                             entry = hv_fetch_common(hv, keysv, key, klen,
 469                                                     flags, HV_FETCH_ISSTORE,
 470                                                     NEWSV(61,0), hash);
 471                         } else {
 472                             if (flags & HVhek_FREEKEY)
 473                                 Safefree(key);
 474                         }
 475                         return entry;
 476                     }
 477             }
 478 #endif
 479         } /* ISFETCH */
 480         else if (SvRMAGICAL(hv) && (action & HV_FETCH_ISEXISTS)) {
 481             if (mg_find((SV*)hv, PERL_MAGIC_tied) || SvGMAGICAL((SV*)hv)) {
 482                 SV* svret;
 483                 /* I don't understand why hv_exists_ent has svret and sv,
 484                    whereas hv_exists only had one.  */
 485                 svret = sv_newmortal();
 486                 sv = sv_newmortal();
 487
 488                 if (keysv || is_utf8) {
 489                     if (!keysv) {
 490                         keysv = newSVpvn(key, klen);
 491                         SvUTF8_on(keysv);
 492                     } else {
 493                         keysv = newSVsv(keysv);
 494                     }
 495                     mg_copy((SV*)hv, sv, (char *)sv_2mortal(keysv), HEf_SVKEY);
 496                 } else {
 497                     mg_copy((SV*)hv, sv, key, klen);
 498                 }
 499                 if (flags & HVhek_FREEKEY)
 500                     Safefree(key);
 501                 magic_existspack(svret, mg_find(sv, PERL_MAGIC_tiedelem));
 502                 /* This cast somewhat evil, but I'm merely using NULL/
 503                    not NULL to return the boolean exists.
 504                    And I know hv is not NULL.  */
 505                 return SvTRUE(svret) ? (HE *)hv : NULL;
 506                 }
 507 #ifdef ENV_IS_CASELESS
 508             else if (mg_find((SV*)hv, PERL_MAGIC_env)) {
 509                 /* XXX This code isn't UTF8 clean.  */
 510                 const char *keysave = key;
 511                 /* Will need to free this, so set FREEKEY flag.  */
 512                 key = savepvn(key,klen);
 513                 key = (const char*)strupr((char*)key);
 514                 is_utf8 = 0;
 515                 hash = 0;
 516                 keysv = 0;
 517
 518                 if (flags & HVhek_FREEKEY) {
 519                     Safefree(keysave);
 520                 }
 521                 flags |= HVhek_FREEKEY;
 522             }
 523 #endif
 524         } /* ISEXISTS */
 525         else if (action & HV_FETCH_ISSTORE) {
 526             bool needs_copy;
 527             bool needs_store;
 528             hv_magic_check (hv, &needs_copy, &needs_store);
 529             if (needs_copy) {
 530                 bool save_taint = PL_tainted;
 531                 if (keysv || is_utf8) {
 532                     if (!keysv) {
 533                         keysv = newSVpvn(key, klen);
 534                         SvUTF8_on(keysv);
 535                     }
 536                     if (PL_tainting)
 537                         PL_tainted = SvTAINTED(keysv);
 538                     keysv = sv_2mortal(newSVsv(keysv));
 539                     mg_copy((SV*)hv, val, (char*)keysv, HEf_SVKEY);
 540                 } else {
 541                     mg_copy((SV*)hv, val, key, klen);
 542                 }
 543
 544                 TAINT_IF(save_taint);
 545                 if (!xhv->xhv_array /* !HvARRAY(hv) */ && !needs_store) {
 546                     if (flags & HVhek_FREEKEY)
 547                         Safefree(key);
 548                     return Nullhe;
 549                 }
 550 #ifdef ENV_IS_CASELESS
 551                 else if (mg_find((SV*)hv, PERL_MAGIC_env)) {
 552                     /* XXX This code isn't UTF8 clean.  */
 553                     const char *keysave = key;
 554                     /* Will need to free this, so set FREEKEY flag.  */
 555                     key = savepvn(key,klen);
 556                     key = (const char*)strupr((char*)key);
 557                     is_utf8 = 0;
 558                     hash = 0;
 559                     keysv = 0;
 560
 561                     if (flags & HVhek_FREEKEY) {
 562                         Safefree(keysave);
 563                     }
 564                     flags |= HVhek_FREEKEY;
 565                 }
 566 #endif
 567             }
 568         } /* ISSTORE */
 569     } /* SvMAGICAL */
 570
 571     if (!xhv->xhv_array /* !HvARRAY(hv) */) {
 572         if ((action & (HV_FETCH_LVALUE | HV_FETCH_ISSTORE))
 573 #ifdef DYNAMIC_ENV_FETCH  /* if it's an %ENV lookup, we may get it on the fly */
 574                  || (SvRMAGICAL((SV*)hv) && mg_find((SV*)hv, PERL_MAGIC_env))
 575 #endif
 576                                                                   )
 577             Newz(503, xhv->xhv_array /* HvARRAY(hv) */,
 578                  PERL_HV_ARRAY_ALLOC_BYTES(xhv->xhv_max+1 /* HvMAX(hv)+1 */),
 579                  char);
 580 #ifdef DYNAMIC_ENV_FETCH
 581         else if (action & HV_FETCH_ISEXISTS) {
 582             /* for an %ENV exists, if we do an insert it's by a recursive
 583                store call, so avoid creating HvARRAY(hv) right now.  */
 584         }
 585 #endif
 586         else {
 587             /* XXX remove at some point? */
 588             if (flags & HVhek_FREEKEY)
 589                 Safefree(key);
 590
 591             return 0;
 592         }
 593     }
 594
 595     if (is_utf8) {
 596         const char *keysave = key;
 597         key = (char*)bytes_from_utf8((U8*)key, &klen, &is_utf8);
 598         if (is_utf8)
 599             flags |= HVhek_UTF8;
 600         else
 601             flags &= ~HVhek_UTF8;
 602         if (key != keysave) {
 603             if (flags & HVhek_FREEKEY)
 604                 Safefree(keysave);
 605             flags |= HVhek_WASUTF8 | HVhek_FREEKEY;
 606         }
 607     }
 608
 609     if (HvREHASH(hv)) {
 610         PERL_HASH_INTERNAL(hash, key, klen);
 611         /* We don't have a pointer to the hv, so we have to replicate the
 612            flag into every HEK, so that hv_iterkeysv can see it.  */
 613         /* And yes, you do need this even though you are not "storing" because
 614            you can flip the flags below if doing an lval lookup.  (And that
 615            was put in to give the semantics Andreas was expecting.)  */
 616         flags |= HVhek_REHASH;
 617     } else if (!hash) {
 618         if (keysv && (SvIsCOW_shared_hash(keysv))) {
 619             hash = SvUVX(keysv);
 620         } else {
 621             PERL_HASH(hash, key, klen);
 622         }
 623     }
 624
 625     masked_flags = (flags & HVhek_MASK);
 626     n_links = 0;
 627
 628 #ifdef DYNAMIC_ENV_FETCH
 629     if (!xhv->xhv_array /* !HvARRAY(hv) */) entry = Null(HE*);
 630     else
 631 #endif
 632     {
 633         /* entry = (HvARRAY(hv))[hash & (I32) HvMAX(hv)]; */
 634         entry = ((HE**)xhv->xhv_array)[hash & (I32) xhv->xhv_max];
 635     }
 636     for (; entry; ++n_links, entry = HeNEXT(entry)) {
 637         if (HeHASH(entry) != hash)              /* strings can't be equal */
 638             continue;
 639         if (HeKLEN(entry) != (I32)klen)
 640             continue;
 641         if (HeKEY(entry) != key && memNE(HeKEY(entry),key,klen))        /* is this it? */
 642             continue;
 643         if ((HeKFLAGS(entry) ^ masked_flags) & HVhek_UTF8)
 644             continue;
 645
 646         if (action & (HV_FETCH_LVALUE|HV_FETCH_ISSTORE)) {
 647             if (HeKFLAGS(entry) != masked_flags) {
 648                 /* We match if HVhek_UTF8 bit in our flags and hash key's
 649                    match.  But if entry was set previously with HVhek_WASUTF8
 650                    and key now doesn't (or vice versa) then we should change
 651                    the key's flag, as this is assignment.  */
 652                 if (HvSHAREKEYS(hv)) {
 653                     /* Need to swap the key we have for a key with the flags we
 654                        need. As keys are shared we can't just write to the
 655                        flag, so we share the new one, unshare the old one.  */
 656                     HEK *new_hek = share_hek_flags(key, klen, hash,
 657                                                    masked_flags);
 658                     unshare_hek (HeKEY_hek(entry));
 659                     HeKEY_hek(entry) = new_hek;
 660                 }
 661                 else
 662                     HeKFLAGS(entry) = masked_flags;
 663                 if (masked_flags & HVhek_ENABLEHVKFLAGS)
 664                     HvHASKFLAGS_on(hv);
 665             }
 666             if (HeVAL(entry) == &PL_sv_placeholder) {
 667                 /* yes, can store into placeholder slot */
 668                 if (action & HV_FETCH_LVALUE) {
 669                     if (SvMAGICAL(hv)) {
 670                         /* This preserves behaviour with the old hv_fetch
 671                            implementation which at this point would bail out
 672                            with a break; (at "if we find a placeholder, we
 673                            pretend we haven't found anything")
 674
 675                            That break mean that if a placeholder were found, it
 676                            caused a call into hv_store, which in turn would
 677                            check magic, and if there is no magic end up pretty
 678                            much back at this point (in hv_store's code).  */
 679                         break;
 680                     }
 681                     /* LVAL fetch which actaully needs a store.  */
 682                     val = NEWSV(61,0);
 683                     xhv->xhv_placeholders--;
 684                 } else {
 685                     /* store */
 686                     if (val != &PL_sv_placeholder)
 687                         xhv->xhv_placeholders--;
 688                 }
 689                 HeVAL(entry) = val;
 690             } else if (action & HV_FETCH_ISSTORE) {
 691                 SvREFCNT_dec(HeVAL(entry));
 692                 HeVAL(entry) = val;
 693             }
 694         } else if (HeVAL(entry) == &PL_sv_placeholder) {
 695             /* if we find a placeholder, we pretend we haven't found
 696                anything */
 697             break;
 698         }
 699         if (flags & HVhek_FREEKEY)
 700             Safefree(key);
 701         return entry;
 702     }
 703 #ifdef DYNAMIC_ENV_FETCH  /* %ENV lookup?  If so, try to fetch the value now */
 704     if (!(action & HV_FETCH_ISSTORE)
 705         && SvRMAGICAL((SV*)hv) && mg_find((SV*)hv, PERL_MAGIC_env)) {
 706         unsigned long len;
 707         char *env = PerlEnv_ENVgetenv_len(key,&len);
 708         if (env) {
 709             sv = newSVpvn(env,len);
 710             SvTAINTED_on(sv);
 711             return hv_fetch_common(hv,keysv,key,klen,flags,HV_FETCH_ISSTORE,sv,
 712                                    hash);
 713         }
 714     }
 715 #endif
 716
 717     if (!entry && SvREADONLY(hv) && !(action & HV_FETCH_ISEXISTS)) {
 718         S_hv_notallowed(aTHX_ flags, key, klen,
 719                         "Attempt to access disallowed key '%"SVf"' in"
 720                         " a restricted hash");
 721     }
 722     if (!(action & (HV_FETCH_LVALUE|HV_FETCH_ISSTORE))) {
 723         /* Not doing some form of store, so return failure.  */
 724         if (flags & HVhek_FREEKEY)
 725             Safefree(key);
 726         return 0;
 727     }
 728     if (action & HV_FETCH_LVALUE) {
 729         val = NEWSV(61,0);
 730         if (SvMAGICAL(hv)) {
 731             /* At this point the old hv_fetch code would call to hv_store,
 732                which in turn might do some tied magic. So we need to make that
 733                magic check happen.  */
 734             /* gonna assign to this, so it better be there */
 735             return hv_fetch_common(hv, keysv, key, klen, flags,
 736                                    HV_FETCH_ISSTORE, val, hash);
 737             /* XXX Surely that could leak if the fetch-was-store fails?
 738                Just like the hv_fetch.  */
 739         }
 740     }
 741
 742     /* Welcome to hv_store...  */
 743
 744     if (!xhv->xhv_array) {
 745         /* Not sure if we can get here.  I think the only case of oentry being
 746            NULL is for %ENV with dynamic env fetch.  But that should disappear
 747            with magic in the previous code.  */
 748         Newz(503, xhv->xhv_array /* HvARRAY(hv) */,
 749              PERL_HV_ARRAY_ALLOC_BYTES(xhv->xhv_max+1 /* HvMAX(hv)+1 */),
 750              char);
 751     }
 752
 753     oentry = &((HE**)xhv->xhv_array)[hash & (I32) xhv->xhv_max];
 754
 755     entry = new_HE();
 756     /* share_hek_flags will do the free for us.  This might be considered
 757        bad API design.  */
 758     if (HvSHAREKEYS(hv))
 759         HeKEY_hek(entry) = share_hek_flags(key, klen, hash, flags);
 760     else                                       /* gotta do the real thing */
 761         HeKEY_hek(entry) = save_hek_flags(key, klen, hash, flags);
 762     HeVAL(entry) = val;
 763     HeNEXT(entry) = *oentry;
 764     *oentry = entry;
 765
 766     if (val == &PL_sv_placeholder)
 767         xhv->xhv_placeholders++;
 768     if (masked_flags & HVhek_ENABLEHVKFLAGS)
 769         HvHASKFLAGS_on(hv);
 770
 771     xhv->xhv_keys++; /* HvKEYS(hv)++ */
 772     if (!n_links) {                             /* initial entry? */
 773         xhv->xhv_fill++; /* HvFILL(hv)++ */
 774     } else if ((xhv->xhv_keys > (IV)xhv->xhv_max)
 775                || ((n_links > HV_MAX_LENGTH_BEFORE_SPLIT) && !HvREHASH(hv))) {
 776         /* Use only the old HvKEYS(hv) > HvMAX(hv) condition to limit bucket
 777            splits on a rehashed hash, as we're not going to split it again,
 778            and if someone is lucky (evil) enough to get all the keys in one
 779            list they could exhaust our memory as we repeatedly double the
 780            number of buckets on every entry. Linear search feels a less worse
 781            thing to do.  */
 782         hsplit(hv);
 783     }
 784
 785     return entry;
 786 }
 787
 788 STATIC void
 789 S_hv_magic_check(pTHX_ HV *hv, bool *needs_copy, bool *needs_store)
 790 {
 791     MAGIC *mg = SvMAGIC(hv);
 792     *needs_copy = FALSE;
 793     *needs_store = TRUE;
 794     while (mg) {
 795         if (isUPPER(mg->mg_type)) {
 796             *needs_copy = TRUE;
 797             switch (mg->mg_type) {
 798             case PERL_MAGIC_tied:
 799             case PERL_MAGIC_sig:
 800                 *needs_store = FALSE;
 801             }
 802         }
 803         mg = mg->mg_moremagic;
 804     }
 805 }
 806
 807 /*
 808 =for apidoc hv_scalar
 809
 810 Evaluates the hash in scalar context and returns the result. Handles magic when the hash is tied.
 811
 812 =cut
 813 */
 814
 815 SV *
 816 Perl_hv_scalar(pTHX_ HV *hv)
 817 {
 818     MAGIC *mg;
 819     SV *sv;
 820
 821     if ((SvRMAGICAL(hv) && (mg = mg_find((SV*)hv, PERL_MAGIC_tied)))) {
 822         sv = magic_scalarpack(hv, mg);
 823         return sv;
 824     }
 825
 826     sv = sv_newmortal();
 827     if (HvFILL((HV*)hv))
 828         Perl_sv_setpvf(aTHX_ sv, "%ld/%ld",
 829                 (long)HvFILL(hv), (long)HvMAX(hv) + 1);
 830     else
 831         sv_setiv(sv, 0);
 832
 833     return sv;
 834 }
 835
 836 /*
 837 =for apidoc hv_delete
 838
 839 Deletes a key/value pair in the hash.  The value SV is removed from the
 840 hash and returned to the caller.  The C<klen> is the length of the key.
 841 The C<flags> value will normally be zero; if set to G_DISCARD then NULL
 842 will be returned.
 843
 844 =cut
 845 */
 846
 847 SV *
 848 Perl_hv_delete(pTHX_ HV *hv, const char *key, I32 klen_i32, I32 flags)
 849 {
 850     STRLEN klen;
 851     int k_flags = 0;
 852
 853     if (klen_i32 < 0) {
 854         klen = -klen_i32;
 855         k_flags |= HVhek_UTF8;
 856     } else {
 857         klen = klen_i32;
 858     }
 859     return hv_delete_common(hv, NULL, key, klen, k_flags, flags, 0);
 860 }
 861
 862 /*
 863 =for apidoc hv_delete_ent
 864
 865 Deletes a key/value pair in the hash.  The value SV is removed from the
 866 hash and returned to the caller.  The C<flags> value will normally be zero;
 867 if set to G_DISCARD then NULL will be returned.  C<hash> can be a valid
 868 precomputed hash value, or 0 to ask for it to be computed.
 869
 870 =cut
 871 */
 872
 873 SV *
 874 Perl_hv_delete_ent(pTHX_ HV *hv, SV *keysv, I32 flags, U32 hash)
 875 {
 876     return hv_delete_common(hv, keysv, NULL, 0, 0, flags, hash);
 877 }
 878
 879 STATIC SV *
 880 S_hv_delete_common(pTHX_ HV *hv, SV *keysv, const char *key, STRLEN klen,
 881                    int k_flags, I32 d_flags, U32 hash)
 882 {
 883     dVAR;
 884     register XPVHV* xhv;
 885     register I32 i;
 886     register HE *entry;
 887     register HE **oentry;
 888     SV *sv;
 889     bool is_utf8;
 890     int masked_flags;
 891
 892     if (!hv)
 893         return Nullsv;
 894
 895     if (keysv) {
 896         if (k_flags & HVhek_FREEKEY)
 897             Safefree(key);
 898         key = SvPV(keysv, klen);
 899         k_flags = 0;
 900         is_utf8 = (SvUTF8(keysv) != 0);
 901     } else {
 902         is_utf8 = ((k_flags & HVhek_UTF8) ? TRUE : FALSE);
 903     }
 904
 905     if (SvRMAGICAL(hv)) {
 906         bool needs_copy;
 907         bool needs_store;
 908         hv_magic_check (hv, &needs_copy, &needs_store);
 909
 910         if (needs_copy) {
 911             entry = hv_fetch_common(hv, keysv, key, klen,
 912                                     k_flags & ~HVhek_FREEKEY, HV_FETCH_LVALUE,
 913                                     Nullsv, hash);
 914             sv = entry ? HeVAL(entry) : NULL;
 915             if (sv) {
 916                 if (SvMAGICAL(sv)) {
 917                     mg_clear(sv);
 918                 }
 919                 if (!needs_store) {
 920                     if (mg_find(sv, PERL_MAGIC_tiedelem)) {
 921                         /* No longer an element */
 922                         sv_unmagic(sv, PERL_MAGIC_tiedelem);
 923                         return sv;
 924                     }
 925                     return Nullsv;              /* element cannot be deleted */
 926                 }
 927 #ifdef ENV_IS_CASELESS
 928                 else if (mg_find((SV*)hv, PERL_MAGIC_env)) {
 929                     /* XXX This code isn't UTF8 clean.  */
 930                     keysv = sv_2mortal(newSVpvn(key,klen));
 931                     if (k_flags & HVhek_FREEKEY) {
 932                         Safefree(key);
 933                     }
 934                     key = strupr(SvPVX(keysv));
 935                     is_utf8 = 0;
 936                     k_flags = 0;
 937                     hash = 0;
 938                 }
 939 #endif
 940             }
 941         }
 942     }
 943     xhv = (XPVHV*)SvANY(hv);
 944     if (!xhv->xhv_array /* !HvARRAY(hv) */)
 945         return Nullsv;
 946
 947     if (is_utf8) {
 948     const char *keysave = key;
 949     key = (char*)bytes_from_utf8((U8*)key, &klen, &is_utf8);
 950
 951         if (is_utf8)
 952             k_flags |= HVhek_UTF8;
 953         else
 954             k_flags &= ~HVhek_UTF8;
 955         if (key != keysave) {
 956             if (k_flags & HVhek_FREEKEY) {
 957                 /* This shouldn't happen if our caller does what we expect,
 958                    but strictly the API allows it.  */
 959                 Safefree(keysave);
 960             }
 961             k_flags |= HVhek_WASUTF8 | HVhek_FREEKEY;
 962         }
 963         HvHASKFLAGS_on((SV*)hv);
 964     }
 965
 966     if (HvREHASH(hv)) {
 967         PERL_HASH_INTERNAL(hash, key, klen);
 968     } else if (!hash) {
 969         if (keysv && (SvIsCOW_shared_hash(keysv))) {
 970             hash = SvUVX(keysv);
 971         } else {
 972             PERL_HASH(hash, key, klen);
 973         }
 974     }
 975
 976     masked_flags = (k_flags & HVhek_MASK);
 977
 978     /* oentry = &(HvARRAY(hv))[hash & (I32) HvMAX(hv)]; */
 979     oentry = &((HE**)xhv->xhv_array)[hash & (I32) xhv->xhv_max];
 980     entry = *oentry;
 981     i = 1;
 982     for (; entry; i=0, oentry = &HeNEXT(entry), entry = *oentry) {
 983         if (HeHASH(entry) != hash)              /* strings can't be equal */
 984             continue;
 985         if (HeKLEN(entry) != (I32)klen)
 986             continue;
 987         if (HeKEY(entry) != key && memNE(HeKEY(entry),key,klen))        /* is this it? */
 988             continue;
 989         if ((HeKFLAGS(entry) ^ masked_flags) & HVhek_UTF8)
 990             continue;
 991
 992         /* if placeholder is here, it's already been deleted.... */
 993         if (HeVAL(entry) == &PL_sv_placeholder)
 994         {
 995           if (k_flags & HVhek_FREEKEY)
 996             Safefree(key);
 997           return Nullsv;
 998         }
 999         else if (SvREADONLY(hv) && HeVAL(entry) && SvREADONLY(HeVAL(entry))) {
1000             S_hv_notallowed(aTHX_ k_flags, key, klen,
1001                             "Attempt to delete readonly key '%"SVf"' from"
1002                             " a restricted hash");
1003         }
1004         if (k_flags & HVhek_FREEKEY)
1005             Safefree(key);
1006
1007         if (d_flags & G_DISCARD)
1008             sv = Nullsv;
1009         else {
1010             sv = sv_2mortal(HeVAL(entry));
1011             HeVAL(entry) = &PL_sv_placeholder;
1012         }
1013
1014         /*
1015          * If a restricted hash, rather than really deleting the entry, put
1016          * a placeholder there. This marks the key as being "approved", so
1017          * we can still access via not-really-existing key without raising
1018          * an error.
1019          */
1020         if (SvREADONLY(hv)) {
1021             SvREFCNT_dec(HeVAL(entry));
1022             HeVAL(entry) = &PL_sv_placeholder;
1023             /* We'll be saving this slot, so the number of allocated keys
1024              * doesn't go down, but the number placeholders goes up */
1025             xhv->xhv_placeholders++; /* HvPLACEHOLDERS(hv)++ */
1026         } else {
1027             *oentry = HeNEXT(entry);
1028             if (i && !*oentry)
1029                 xhv->xhv_fill--; /* HvFILL(hv)-- */
1030             if (entry == xhv->xhv_eiter /* HvEITER(hv) */)
1031                 HvLAZYDEL_on(hv);
1032             else
1033                 hv_free_ent(hv, entry);
1034             xhv->xhv_keys--; /* HvKEYS(hv)-- */
1035             if (xhv->xhv_keys == 0)
1036                 HvHASKFLAGS_off(hv);
1037         }
1038         return sv;
1039     }
1040     if (SvREADONLY(hv)) {
1041         S_hv_notallowed(aTHX_ k_flags, key, klen,
1042                         "Attempt to delete disallowed key '%"SVf"' from"
1043                         " a restricted hash");
1044     }
1045
1046     if (k_flags & HVhek_FREEKEY)
1047         Safefree(key);
1048     return Nullsv;
1049 }
1050
1051 STATIC void
1052 S_hsplit(pTHX_ HV *hv)
1053 {
1054     register XPVHV* xhv = (XPVHV*)SvANY(hv);
1055     I32 oldsize = (I32) xhv->xhv_max+1; /* HvMAX(hv)+1 (sick) */
1056     register I32 newsize = oldsize * 2;
1057     register I32 i;
1058     register char *a = xhv->xhv_array; /* HvARRAY(hv) */
1059     register HE **aep;
1060     register HE **bep;
1061     register HE *entry;
1062     register HE **oentry;
1063     int longest_chain = 0;
1064     int was_shared;
1065
1066     /*PerlIO_printf(PerlIO_stderr(), "hsplit called for %p which had %d\n",
1067       hv, (int) oldsize);*/
1068
1069     if (HvPLACEHOLDERS(hv) && !SvREADONLY(hv)) {
1070       /* Can make this clear any placeholders first for non-restricted hashes,
1071          even though Storable rebuilds restricted hashes by putting in all the
1072          placeholders (first) before turning on the readonly flag, because
1073          Storable always pre-splits the hash.  */
1074       hv_clear_placeholders(hv);
1075     }
1076
1077     PL_nomemok = TRUE;
1078 #if defined(STRANGE_MALLOC) || defined(MYMALLOC)
1079     Renew(a, PERL_HV_ARRAY_ALLOC_BYTES(newsize), char);
1080     if (!a) {
1081       PL_nomemok = FALSE;
1082       return;
1083     }
1084 #else
1085     New(2, a, PERL_HV_ARRAY_ALLOC_BYTES(newsize), char);
1086     if (!a) {
1087       PL_nomemok = FALSE;
1088       return;
1089     }
1090     Copy(xhv->xhv_array /* HvARRAY(hv) */, a, oldsize * sizeof(HE*), char);
1091     if (oldsize >= 64) {
1092         offer_nice_chunk(xhv->xhv_array /* HvARRAY(hv) */,
1093                         PERL_HV_ARRAY_ALLOC_BYTES(oldsize));
1094     }
1095     else
1096         Safefree(xhv->xhv_array /* HvARRAY(hv) */);
1097 #endif
1098
1099     PL_nomemok = FALSE;
1100     Zero(&a[oldsize * sizeof(HE*)], (newsize-oldsize) * sizeof(HE*), char);     /* zero 2nd half*/
1101     xhv->xhv_max = --newsize;   /* HvMAX(hv) = --newsize */
1102     xhv->xhv_array = a;         /* HvARRAY(hv) = a */
1103     aep = (HE**)a;
1104
1105     for (i=0; i<oldsize; i++,aep++) {
1106         int left_length = 0;
1107         int right_length = 0;
1108
1109         if (!*aep)                              /* non-existent */
1110             continue;
1111         bep = aep+oldsize;
1112         for (oentry = aep, entry = *aep; entry; entry = *oentry) {
1113             if ((HeHASH(entry) & newsize) != (U32)i) {
1114                 *oentry = HeNEXT(entry);
1115                 HeNEXT(entry) = *bep;
1116                 if (!*bep)
1117                     xhv->xhv_fill++; /* HvFILL(hv)++ */
1118                 *bep = entry;
1119                 right_length++;
1120                 continue;
1121             }
1122             else {
1123                 oentry = &HeNEXT(entry);
1124                 left_length++;
1125             }
1126         }
1127         if (!*aep)                              /* everything moved */
1128             xhv->xhv_fill--; /* HvFILL(hv)-- */
1129         /* I think we don't actually need to keep track of the longest length,
1130            merely flag if anything is too long. But for the moment while
1131            developing this code I'll track it.  */
1132         if (left_length > longest_chain)
1133             longest_chain = left_length;
1134         if (right_length > longest_chain)
1135             longest_chain = right_length;
1136     }
1137
1138
1139     /* Pick your policy for "hashing isn't working" here:  */
1140     if (longest_chain <= HV_MAX_LENGTH_BEFORE_SPLIT /* split worked?  */
1141         || HvREHASH(hv)) {
1142         return;
1143     }
1144
1145     if (hv == PL_strtab) {
1146         /* Urg. Someone is doing something nasty to the string table.
1147            Can't win.  */
1148         return;
1149     }
1150
1151     /* Awooga. Awooga. Pathological data.  */
1152     /*PerlIO_printf(PerlIO_stderr(), "%p %d of %d with %d/%d buckets\n", hv,
1153       longest_chain, HvTOTALKEYS(hv), HvFILL(hv),  1+HvMAX(hv));*/
1154
1155     ++newsize;
1156     Newz(2, a, PERL_HV_ARRAY_ALLOC_BYTES(newsize), char);
1157     was_shared = HvSHAREKEYS(hv);
1158
1159     xhv->xhv_fill = 0;
1160     HvSHAREKEYS_off(hv);
1161     HvREHASH_on(hv);
1162
1163     aep = (HE **) xhv->xhv_array;
1164
1165     for (i=0; i<newsize; i++,aep++) {
1166         entry = *aep;
1167         while (entry) {
1168             /* We're going to trash this HE's next pointer when we chain it
1169                into the new hash below, so store where we go next.  */
1170             HE *next = HeNEXT(entry);
1171             UV hash;
1172
1173             /* Rehash it */
1174             PERL_HASH_INTERNAL(hash, HeKEY(entry), HeKLEN(entry));
1175
1176             if (was_shared) {
1177                 /* Unshare it.  */
1178                 HEK *new_hek
1179                     = save_hek_flags(HeKEY(entry), HeKLEN(entry),
1180                                      hash, HeKFLAGS(entry));
1181                 unshare_hek (HeKEY_hek(entry));
1182                 HeKEY_hek(entry) = new_hek;
1183             } else {
1184                 /* Not shared, so simply write the new hash in. */
1185                 HeHASH(entry) = hash;
1186             }
1187             /*PerlIO_printf(PerlIO_stderr(), "%d ", HeKFLAGS(entry));*/
1188             HEK_REHASH_on(HeKEY_hek(entry));
1189             /*PerlIO_printf(PerlIO_stderr(), "%d\n", HeKFLAGS(entry));*/
1190
1191             /* Copy oentry to the correct new chain.  */
1192             bep = ((HE**)a) + (hash & (I32) xhv->xhv_max);
1193             if (!*bep)
1194                     xhv->xhv_fill++; /* HvFILL(hv)++ */
1195             HeNEXT(entry) = *bep;
1196             *bep = entry;
1197
1198             entry = next;
1199         }
1200     }
1201     Safefree (xhv->xhv_array);
1202     xhv->xhv_array = a;         /* HvARRAY(hv) = a */
1203 }
1204
1205 void
1206 Perl_hv_ksplit(pTHX_ HV *hv, IV newmax)
1207 {
1208     register XPVHV* xhv = (XPVHV*)SvANY(hv);
1209     I32 oldsize = (I32) xhv->xhv_max+1; /* HvMAX(hv)+1 (sick) */
1210     register I32 newsize;
1211     register I32 i;
1212     register I32 j;
1213     register char *a;
1214     register HE **aep;
1215     register HE *entry;
1216     register HE **oentry;
1217
1218     newsize = (I32) newmax;                     /* possible truncation here */
1219     if (newsize != newmax || newmax <= oldsize)
1220         return;
1221     while ((newsize & (1 + ~newsize)) != newsize) {
1222         newsize &= ~(newsize & (1 + ~newsize)); /* get proper power of 2 */
1223     }
1224     if (newsize < newmax)
1225         newsize *= 2;
1226     if (newsize < newmax)
1227         return;                                 /* overflow detection */
1228
1229     a = xhv->xhv_array; /* HvARRAY(hv) */
1230     if (a) {
1231         PL_nomemok = TRUE;
1232 #if defined(STRANGE_MALLOC) || defined(MYMALLOC)
1233         Renew(a, PERL_HV_ARRAY_ALLOC_BYTES(newsize), char);
1234         if (!a) {
1235           PL_nomemok = FALSE;
1236           return;
1237         }
1238 #else
1239         New(2, a, PERL_HV_ARRAY_ALLOC_BYTES(newsize), char);
1240         if (!a) {
1241           PL_nomemok = FALSE;
1242           return;
1243         }
1244         Copy(xhv->xhv_array /* HvARRAY(hv) */, a, oldsize * sizeof(HE*), char);
1245         if (oldsize >= 64) {
1246             offer_nice_chunk(xhv->xhv_array /* HvARRAY(hv) */,
1247                             PERL_HV_ARRAY_ALLOC_BYTES(oldsize));
1248         }
1249         else
1250             Safefree(xhv->xhv_array /* HvARRAY(hv) */);
1251 #endif
1252         PL_nomemok = FALSE;
1253         Zero(&a[oldsize * sizeof(HE*)], (newsize-oldsize) * sizeof(HE*), char); /* zero 2nd half*/
1254     }
1255     else {
1256         Newz(0, a, PERL_HV_ARRAY_ALLOC_BYTES(newsize), char);
1257     }
1258     xhv->xhv_max = --newsize;   /* HvMAX(hv) = --newsize */
1259     xhv->xhv_array = a;         /* HvARRAY(hv) = a */
1260     if (!xhv->xhv_fill /* !HvFILL(hv) */)       /* skip rest if no entries */
1261         return;
1262
1263     aep = (HE**)a;
1264     for (i=0; i<oldsize; i++,aep++) {
1265         if (!*aep)                              /* non-existent */
1266             continue;
1267         for (oentry = aep, entry = *aep; entry; entry = *oentry) {
1268             if ((j = (HeHASH(entry) & newsize)) != i) {
1269                 j -= i;
1270                 *oentry = HeNEXT(entry);
1271                 if (!(HeNEXT(entry) = aep[j]))
1272                     xhv->xhv_fill++; /* HvFILL(hv)++ */
1273                 aep[j] = entry;
1274                 continue;
1275             }
1276             else
1277                 oentry = &HeNEXT(entry);
1278         }
1279         if (!*aep)                              /* everything moved */
1280             xhv->xhv_fill--; /* HvFILL(hv)-- */
1281     }
1282 }
1283
1284 /*
1285 =for apidoc newHV
1286
1287 Creates a new HV.  The reference count is set to 1.
1288
1289 =cut
1290 */
1291
1292 HV *
1293 Perl_newHV(pTHX)
1294 {
1295     register HV *hv;
1296     register XPVHV* xhv;
1297
1298     hv = (HV*)NEWSV(502,0);
1299     sv_upgrade((SV *)hv, SVt_PVHV);
1300     xhv = (XPVHV*)SvANY(hv);
1301     SvPOK_off(hv);
1302     SvNOK_off(hv);
1303 #ifndef NODEFAULT_SHAREKEYS
1304     HvSHAREKEYS_on(hv);         /* key-sharing on by default */
1305 #endif
1306
1307     xhv->xhv_max    = 7;        /* HvMAX(hv) = 7 (start with 8 buckets) */
1308     xhv->xhv_fill   = 0;        /* HvFILL(hv) = 0 */
1309     xhv->xhv_pmroot = 0;        /* HvPMROOT(hv) = 0 */
1310     (void)hv_iterinit(hv);      /* so each() will start off right */
1311     return hv;
1312 }
1313
1314 HV *
1315 Perl_newHVhv(pTHX_ HV *ohv)
1316 {
1317     HV *hv = newHV();
1318     STRLEN hv_max, hv_fill;
1319
1320     if (!ohv || (hv_fill = HvFILL(ohv)) == 0)
1321         return hv;
1322     hv_max = HvMAX(ohv);
1323
1324     if (!SvMAGICAL((SV *)ohv)) {
1325         /* It's an ordinary hash, so copy it fast. AMS 20010804 */
1326         STRLEN i;
1327         bool shared = !!HvSHAREKEYS(ohv);
1328         HE **ents, **oents = (HE **)HvARRAY(ohv);
1329         char *a;
1330         New(0, a, PERL_HV_ARRAY_ALLOC_BYTES(hv_max+1), char);
1331         ents = (HE**)a;
1332
1333         /* In each bucket... */
1334         for (i = 0; i <= hv_max; i++) {
1335             HE *prev = NULL, *ent = NULL, *oent = oents[i];
1336
1337             if (!oent) {
1338                 ents[i] = NULL;
1339                 continue;
1340             }
1341
1342             /* Copy the linked list of entries. */
1343             for (oent = oents[i]; oent; oent = HeNEXT(oent)) {
1344                 U32 hash   = HeHASH(oent);
1345                 char *key  = HeKEY(oent);
1346                 STRLEN len = HeKLEN(oent);
1347                 int flags  = HeKFLAGS(oent);
1348
1349                 ent = new_HE();
1350                 HeVAL(ent)     = newSVsv(HeVAL(oent));
1351                 HeKEY_hek(ent)
1352                     = shared ? share_hek_flags(key, len, hash, flags)
1353                              :  save_hek_flags(key, len, hash, flags);
1354                 if (prev)
1355                     HeNEXT(prev) = ent;
1356                 else
1357                     ents[i] = ent;
1358                 prev = ent;
1359                 HeNEXT(ent) = NULL;
1360             }
1361         }
1362
1363         HvMAX(hv)   = hv_max;
1364         HvFILL(hv)  = hv_fill;
1365         HvTOTALKEYS(hv)  = HvTOTALKEYS(ohv);
1366         HvARRAY(hv) = ents;
1367     }
1368     else {
1369         /* Iterate over ohv, copying keys and values one at a time. */
1370         HE *entry;
1371         I32 riter = HvRITER(ohv);
1372         HE *eiter = HvEITER(ohv);
1373
1374         /* Can we use fewer buckets? (hv_max is always 2^n-1) */
1375         while (hv_max && hv_max + 1 >= hv_fill * 2)
1376             hv_max = hv_max / 2;
1377         HvMAX(hv) = hv_max;
1378
1379         hv_iterinit(ohv);
1380         while ((entry = hv_iternext_flags(ohv, 0))) {
1381             hv_store_flags(hv, HeKEY(entry), HeKLEN(entry),
1382                            newSVsv(HeVAL(entry)), HeHASH(entry),
1383                            HeKFLAGS(entry));
1384         }
1385         HvRITER(ohv) = riter;
1386         HvEITER(ohv) = eiter;
1387     }
1388
1389     return hv;
1390 }
1391
1392 void
1393 Perl_hv_free_ent(pTHX_ HV *hv, register HE *entry)
1394 {
1395     SV *val;
1396
1397     if (!entry)
1398         return;
1399     val = HeVAL(entry);
1400     if (val && isGV(val) && GvCVu(val) && HvNAME(hv))
1401         PL_sub_generation++;    /* may be deletion of method from stash */
1402     SvREFCNT_dec(val);
1403     if (HeKLEN(entry) == HEf_SVKEY) {
1404         SvREFCNT_dec(HeKEY_sv(entry));
1405         Safefree(HeKEY_hek(entry));
1406     }
1407     else if (HvSHAREKEYS(hv))
1408         unshare_hek(HeKEY_hek(entry));
1409     else
1410         Safefree(HeKEY_hek(entry));
1411     del_HE(entry);
1412 }
1413
1414 void
1415 Perl_hv_delayfree_ent(pTHX_ HV *hv, register HE *entry)
1416 {
1417     if (!entry)
1418         return;
1419     if (isGV(HeVAL(entry)) && GvCVu(HeVAL(entry)) && HvNAME(hv))
1420         PL_sub_generation++;    /* may be deletion of method from stash */
1421     sv_2mortal(HeVAL(entry));   /* free between statements */
1422     if (HeKLEN(entry) == HEf_SVKEY) {
1423         sv_2mortal(HeKEY_sv(entry));
1424         Safefree(HeKEY_hek(entry));
1425     }
1426     else if (HvSHAREKEYS(hv))
1427         unshare_hek(HeKEY_hek(entry));
1428     else
1429         Safefree(HeKEY_hek(entry));
1430     del_HE(entry);
1431 }
1432
1433 /*
1434 =for apidoc hv_clear
1435
1436 Clears a hash, making it empty.
1437
1438 =cut
1439 */
1440
1441 void
1442 Perl_hv_clear(pTHX_ HV *hv)
1443 {
1444     dVAR;
1445     register XPVHV* xhv;
1446     if (!hv)
1447         return;
1448
1449     DEBUG_A(Perl_hv_assert(aTHX_ hv));
1450
1451     xhv = (XPVHV*)SvANY(hv);
1452
1453     if (SvREADONLY(hv) && xhv->xhv_array != NULL) {
1454         /* restricted hash: convert all keys to placeholders */
1455         I32 i;
1456         HE* entry;
1457         for (i = 0; i <= (I32) xhv->xhv_max; i++) {
1458             entry = ((HE**)xhv->xhv_array)[i];
1459             for (; entry; entry = HeNEXT(entry)) {
1460                 /* not already placeholder */
1461                 if (HeVAL(entry) != &PL_sv_placeholder) {
1462                     if (HeVAL(entry) && SvREADONLY(HeVAL(entry))) {
1463                         SV* keysv = hv_iterkeysv(entry);
1464                         Perl_croak(aTHX_
1465         "Attempt to delete readonly key '%"SVf"' from a restricted hash",
1466                                    keysv);
1467                     }
1468                     SvREFCNT_dec(HeVAL(entry));
1469                     HeVAL(entry) = &PL_sv_placeholder;
1470                     xhv->xhv_placeholders++; /* HvPLACEHOLDERS(hv)++ */
1471                 }
1472             }
1473         }
1474         goto reset;
1475     }
1476
1477     hfreeentries(hv);
1478     xhv->xhv_placeholders = 0; /* HvPLACEHOLDERS(hv) = 0 */
1479     if (xhv->xhv_array /* HvARRAY(hv) */)
1480         (void)memzero(xhv->xhv_array /* HvARRAY(hv) */,
1481                       (xhv->xhv_max+1 /* HvMAX(hv)+1 */) * sizeof(HE*));
1482
1483     if (SvRMAGICAL(hv))
1484         mg_clear((SV*)hv);
1485
1486     HvHASKFLAGS_off(hv);
1487     HvREHASH_off(hv);
1488     reset:
1489     HvEITER(hv) = NULL;
1490 }
1491
1492 /*
1493 =for apidoc hv_clear_placeholders
1494
1495 Clears any placeholders from a hash.  If a restricted hash has any of its keys
1496 marked as readonly and the key is subsequently deleted, the key is not actually
1497 deleted but is marked by assigning it a value of &PL_sv_placeholder.  This tags
1498 it so it will be ignored by future operations such as iterating over the hash,
1499 but will still allow the hash to have a value reassigned to the key at some
1500 future point.  This function clears any such placeholder keys from the hash.
1501 See Hash::Util::lock_keys() for an example of its use.
1502
1503 =cut
1504 */
1505
1506 void
1507 Perl_hv_clear_placeholders(pTHX_ HV *hv)
1508 {
1509     dVAR;
1510     I32 items = (I32)HvPLACEHOLDERS(hv);
1511     I32 i = HvMAX(hv);
1512
1513     if (items == 0)
1514         return;
1515
1516     do {
1517         /* Loop down the linked list heads  */
1518         int first = 1;
1519         HE **oentry = &(HvARRAY(hv))[i];
1520         HE *entry = *oentry;
1521
1522         if (!entry)
1523             continue;
1524
1525         for (; entry; entry = *oentry) {
1526             if (HeVAL(entry) == &PL_sv_placeholder) {
1527                 *oentry = HeNEXT(entry);
1528                 if (first && !*oentry)
1529                     HvFILL(hv)--; /* This linked list is now empty.  */
1530                 if (HvEITER(hv))
1531                     HvLAZYDEL_on(hv);
1532                 else
1533                     hv_free_ent(hv, entry);
1534
1535                 if (--items == 0) {
1536                     /* Finished.  */
1537                     HvTOTALKEYS(hv) -= (IV)HvPLACEHOLDERS(hv);
1538                     if (HvKEYS(hv) == 0)
1539                         HvHASKFLAGS_off(hv);
1540                     HvPLACEHOLDERS(hv) = 0;
1541                     return;
1542                 }
1543             } else {
1544                 oentry = &HeNEXT(entry);
1545                 first = 0;
1546             }
1547         }
1548     } while (--i >= 0);
1549     /* You can't get here, hence assertion should always fail.  */
1550     assert (items == 0);
1551     assert (0);
1552 }
1553
1554 STATIC void
1555 S_hfreeentries(pTHX_ HV *hv)
1556 {
1557     register HE **array;
1558     register HE *entry;
1559     register HE *oentry = Null(HE*);
1560     I32 riter;
1561     I32 max;
1562
1563     if (!hv)
1564         return;
1565     if (!HvARRAY(hv))
1566         return;
1567
1568     riter = 0;
1569     max = HvMAX(hv);
1570     array = HvARRAY(hv);
1571     /* make everyone else think the array is empty, so that the destructors
1572      * called for freed entries can't recusively mess with us */
1573     HvARRAY(hv) = Null(HE**);
1574     HvFILL(hv) = 0;
1575     ((XPVHV*) SvANY(hv))->xhv_keys = 0;
1576
1577     entry = array[0];
1578     for (;;) {
1579         if (entry) {
1580             oentry = entry;
1581             entry = HeNEXT(entry);
1582             hv_free_ent(hv, oentry);
1583         }
1584         if (!entry) {
1585             if (++riter > max)
1586                 break;
1587             entry = array[riter];
1588         }
1589     }
1590     HvARRAY(hv) = array;
1591     (void)hv_iterinit(hv);
1592 }
1593
1594 /*
1595 =for apidoc hv_undef
1596
1597 Undefines the hash.
1598
1599 =cut
1600 */
1601
1602 void
1603 Perl_hv_undef(pTHX_ HV *hv)
1604 {
1605     register XPVHV* xhv;
1606     if (!hv)
1607         return;
1608     DEBUG_A(Perl_hv_assert(aTHX_ hv));
1609     xhv = (XPVHV*)SvANY(hv);
1610     hfreeentries(hv);
1611     Safefree(xhv->xhv_array /* HvARRAY(hv) */);
1612     if (HvNAME(hv)) {
1613         if(PL_stashcache)
1614             hv_delete(PL_stashcache, HvNAME(hv), strlen(HvNAME(hv)), G_DISCARD);
1615         Safefree(HvNAME(hv));
1616         HvNAME(hv) = 0;
1617     }
1618     xhv->xhv_max   = 7; /* HvMAX(hv) = 7 (it's a normal hash) */
1619     xhv->xhv_array = 0; /* HvARRAY(hv) = 0 */
1620     xhv->xhv_placeholders = 0; /* HvPLACEHOLDERS(hv) = 0 */
1621
1622     if (SvRMAGICAL(hv))
1623         mg_clear((SV*)hv);
1624 }
1625
1626 /*
1627 =for apidoc hv_iterinit
1628
1629 Prepares a starting point to traverse a hash table.  Returns the number of
1630 keys in the hash (i.e. the same as C<HvKEYS(tb)>).  The return value is
1631 currently only meaningful for hashes without tie magic.
1632
1633 NOTE: Before version 5.004_65, C<hv_iterinit> used to return the number of
1634 hash buckets that happen to be in use.  If you still need that esoteric
1635 value, you can get it through the macro C<HvFILL(tb)>.
1636
1637
1638 =cut
1639 */
1640
1641 I32
1642 Perl_hv_iterinit(pTHX_ HV *hv)
1643 {
1644     register XPVHV* xhv;
1645     HE *entry;
1646
1647     if (!hv)
1648         Perl_croak(aTHX_ "Bad hash");
1649     xhv = (XPVHV*)SvANY(hv);
1650     entry = xhv->xhv_eiter; /* HvEITER(hv) */
1651     if (entry && HvLAZYDEL(hv)) {       /* was deleted earlier? */
1652         HvLAZYDEL_off(hv);
1653         hv_free_ent(hv, entry);
1654     }
1655     xhv->xhv_riter = -1;        /* HvRITER(hv) = -1 */
1656     xhv->xhv_eiter = Null(HE*); /* HvEITER(hv) = Null(HE*) */
1657     /* used to be xhv->xhv_fill before 5.004_65 */
1658     return XHvTOTALKEYS(xhv);
1659 }
1660 /*
1661 =for apidoc hv_iternext
1662
1663 Returns entries from a hash iterator.  See C<hv_iterinit>.
1664
1665 You may call C<hv_delete> or C<hv_delete_ent> on the hash entry that the
1666 iterator currently points to, without losing your place or invalidating your
1667 iterator.  Note that in this case the current entry is deleted from the hash
1668 with your iterator holding the last reference to it.  Your iterator is flagged
1669 to free the entry on the next call to C<hv_iternext>, so you must not discard
1670 your iterator immediately else the entry will leak - call C<hv_iternext> to
1671 trigger the resource deallocation.
1672
1673 =cut
1674 */
1675
1676 HE *
1677 Perl_hv_iternext(pTHX_ HV *hv)
1678 {
1679     return hv_iternext_flags(hv, 0);
1680 }
1681
1682 /*
1683 =for apidoc hv_iternext_flags
1684
1685 Returns entries from a hash iterator.  See C<hv_iterinit> and C<hv_iternext>.
1686 The C<flags> value will normally be zero; if HV_ITERNEXT_WANTPLACEHOLDERS is
1687 set the placeholders keys (for restricted hashes) will be returned in addition
1688 to normal keys. By default placeholders are automatically skipped over.
1689 Currently a placeholder is implemented with a value that is
1690 C<&Perl_sv_placeholder>. Note that the implementation of placeholders and
1691 restricted hashes may change, and the implementation currently is
1692 insufficiently abstracted for any change to be tidy.
1693
1694 =cut
1695 */
1696
1697 HE *
1698 Perl_hv_iternext_flags(pTHX_ HV *hv, I32 flags)
1699 {
1700     dVAR;
1701     register XPVHV* xhv;
1702     register HE *entry;
1703     HE *oldentry;
1704     MAGIC* mg;
1705
1706     if (!hv)
1707         Perl_croak(aTHX_ "Bad hash");
1708     xhv = (XPVHV*)SvANY(hv);
1709     oldentry = entry = xhv->xhv_eiter; /* HvEITER(hv) */
1710
1711     if ((mg = SvTIED_mg((SV*)hv, PERL_MAGIC_tied))) {
1712         SV *key = sv_newmortal();
1713         if (entry) {
1714             sv_setsv(key, HeSVKEY_force(entry));
1715             SvREFCNT_dec(HeSVKEY(entry));       /* get rid of previous key */
1716         }
1717         else {
1718             char *k;
1719             HEK *hek;
1720
1721             /* one HE per MAGICAL hash */
1722             xhv->xhv_eiter = entry = new_HE(); /* HvEITER(hv) = new_HE() */
1723             Zero(entry, 1, HE);
1724             Newz(54, k, HEK_BASESIZE + sizeof(SV*), char);
1725             hek = (HEK*)k;
1726             HeKEY_hek(entry) = hek;
1727             HeKLEN(entry) = HEf_SVKEY;
1728         }
1729         magic_nextpack((SV*) hv,mg,key);
1730         if (SvOK(key)) {
1731             /* force key to stay around until next time */
1732             HeSVKEY_set(entry, SvREFCNT_inc(key));
1733             return entry;               /* beware, hent_val is not set */
1734         }
1735         if (HeVAL(entry))
1736             SvREFCNT_dec(HeVAL(entry));
1737         Safefree(HeKEY_hek(entry));
1738         del_HE(entry);
1739         xhv->xhv_eiter = Null(HE*); /* HvEITER(hv) = Null(HE*) */
1740         return Null(HE*);
1741     }
1742 #ifdef DYNAMIC_ENV_FETCH  /* set up %ENV for iteration */
1743     if (!entry && SvRMAGICAL((SV*)hv) && mg_find((SV*)hv, PERL_MAGIC_env))
1744         prime_env_iter();
1745 #endif
1746
1747     if (!xhv->xhv_array /* !HvARRAY(hv) */)
1748         Newz(506, xhv->xhv_array /* HvARRAY(hv) */,
1749              PERL_HV_ARRAY_ALLOC_BYTES(xhv->xhv_max+1 /* HvMAX(hv)+1 */),
1750              char);
1751     /* At start of hash, entry is NULL.  */
1752     if (entry)
1753     {
1754         entry = HeNEXT(entry);
1755         if (!(flags & HV_ITERNEXT_WANTPLACEHOLDERS)) {
1756             /*
1757              * Skip past any placeholders -- don't want to include them in
1758              * any iteration.
1759              */
1760             while (entry && HeVAL(entry) == &PL_sv_placeholder) {
1761                 entry = HeNEXT(entry);
1762             }
1763         }
1764     }
1765     while (!entry) {
1766         /* OK. Come to the end of the current list.  Grab the next one.  */
1767
1768         xhv->xhv_riter++; /* HvRITER(hv)++ */
1769         if (xhv->xhv_riter > (I32)xhv->xhv_max /* HvRITER(hv) > HvMAX(hv) */) {
1770             /* There is no next one.  End of the hash.  */
1771             xhv->xhv_riter = -1; /* HvRITER(hv) = -1 */
1772             break;
1773         }
1774         /* entry = (HvARRAY(hv))[HvRITER(hv)]; */
1775         entry = ((HE**)xhv->xhv_array)[xhv->xhv_riter];
1776
1777         if (!(flags & HV_ITERNEXT_WANTPLACEHOLDERS)) {
1778             /* If we have an entry, but it's a placeholder, don't count it.
1779                Try the next.  */
1780             while (entry && HeVAL(entry) == &PL_sv_placeholder)
1781                 entry = HeNEXT(entry);
1782         }
1783         /* Will loop again if this linked list starts NULL
1784            (for HV_ITERNEXT_WANTPLACEHOLDERS)
1785            or if we run through it and find only placeholders.  */
1786     }
1787
1788     if (oldentry && HvLAZYDEL(hv)) {            /* was deleted earlier? */
1789         HvLAZYDEL_off(hv);
1790         hv_free_ent(hv, oldentry);
1791     }
1792
1793     /*if (HvREHASH(hv) && entry && !HeKREHASH(entry))
1794       PerlIO_printf(PerlIO_stderr(), "Awooga %p %p\n", hv, entry);*/
1795
1796     xhv->xhv_eiter = entry; /* HvEITER(hv) = entry */
1797     return entry;
1798 }
1799
1800 /*
1801 =for apidoc hv_iterkey
1802
1803 Returns the key from the current position of the hash iterator.  See
1804 C<hv_iterinit>.
1805
1806 =cut
1807 */
1808
1809 char *
1810 Perl_hv_iterkey(pTHX_ register HE *entry, I32 *retlen)
1811 {
1812     if (HeKLEN(entry) == HEf_SVKEY) {
1813         STRLEN len;
1814         char *p = SvPV(HeKEY_sv(entry), len);
1815         *retlen = len;
1816         return p;
1817     }
1818     else {
1819         *retlen = HeKLEN(entry);
1820         return HeKEY(entry);
1821     }
1822 }
1823
1824 /* unlike hv_iterval(), this always returns a mortal copy of the key */
1825 /*
1826 =for apidoc hv_iterkeysv
1827
1828 Returns the key as an C<SV*> from the current position of the hash
1829 iterator.  The return value will always be a mortal copy of the key.  Also
1830 see C<hv_iterinit>.
1831
1832 =cut
1833 */
1834
1835 SV *
1836 Perl_hv_iterkeysv(pTHX_ register HE *entry)
1837 {
1838     if (HeKLEN(entry) != HEf_SVKEY) {
1839         HEK *hek = HeKEY_hek(entry);
1840         int flags = HEK_FLAGS(hek);
1841         SV *sv;
1842
1843         if (flags & HVhek_WASUTF8) {
1844             /* Trouble :-)
1845                Andreas would like keys he put in as utf8 to come back as utf8
1846             */
1847             STRLEN utf8_len = HEK_LEN(hek);
1848             U8 *as_utf8 = bytes_to_utf8 ((U8*)HEK_KEY(hek), &utf8_len);
1849
1850             sv = newSVpvn ((char*)as_utf8, utf8_len);
1851             SvUTF8_on (sv);
1852             Safefree (as_utf8); /* bytes_to_utf8() allocates a new string */
1853         } else if (flags & HVhek_REHASH) {
1854             /* We don't have a pointer to the hv, so we have to replicate the
1855                flag into every HEK. This hv is using custom a hasing
1856                algorithm. Hence we can't return a shared string scalar, as
1857                that would contain the (wrong) hash value, and might get passed
1858                into an hv routine with a regular hash  */
1859
1860             sv = newSVpvn (HEK_KEY(hek), HEK_LEN(hek));
1861             if (HEK_UTF8(hek))
1862                 SvUTF8_on (sv);
1863         } else {
1864             sv = newSVpvn_share(HEK_KEY(hek),
1865                                 (HEK_UTF8(hek) ? -HEK_LEN(hek) : HEK_LEN(hek)),
1866                                 HEK_HASH(hek));
1867         }
1868         return sv_2mortal(sv);
1869     }
1870     return sv_mortalcopy(HeKEY_sv(entry));
1871 }
1872
1873 /*
1874 =for apidoc hv_iterval
1875
1876 Returns the value from the current position of the hash iterator.  See
1877 C<hv_iterkey>.
1878
1879 =cut
1880 */
1881
1882 SV *
1883 Perl_hv_iterval(pTHX_ HV *hv, register HE *entry)
1884 {
1885     if (SvRMAGICAL(hv)) {
1886         if (mg_find((SV*)hv, PERL_MAGIC_tied)) {
1887             SV* sv = sv_newmortal();
1888             if (HeKLEN(entry) == HEf_SVKEY)
1889                 mg_copy((SV*)hv, sv, (char*)HeKEY_sv(entry), HEf_SVKEY);
1890             else mg_copy((SV*)hv, sv, HeKEY(entry), HeKLEN(entry));
1891             return sv;
1892         }
1893     }
1894     return HeVAL(entry);
1895 }
1896
1897 /*
1898 =for apidoc hv_iternextsv
1899
1900 Performs an C<hv_iternext>, C<hv_iterkey>, and C<hv_iterval> in one
1901 operation.
1902
1903 =cut
1904 */
1905
1906 SV *
1907 Perl_hv_iternextsv(pTHX_ HV *hv, char **key, I32 *retlen)
1908 {
1909     HE *he;
1910     if ( (he = hv_iternext_flags(hv, 0)) == NULL)
1911         return NULL;
1912     *key = hv_iterkey(he, retlen);
1913     return hv_iterval(hv, he);
1914 }
1915
1916 /*
1917 =for apidoc hv_magic
1918
1919 Adds magic to a hash.  See C<sv_magic>.
1920
1921 =cut
1922 */
1923
1924 void
1925 Perl_hv_magic(pTHX_ HV *hv, GV *gv, int how)
1926 {
1927     sv_magic((SV*)hv, (SV*)gv, how, Nullch, 0);
1928 }
1929
1930 #if 0 /* use the macro from hv.h instead */
1931
1932 char*
1933 Perl_sharepvn(pTHX_ const char *sv, I32 len, U32 hash)
1934 {
1935     return HEK_KEY(share_hek(sv, len, hash));
1936 }
1937
1938 #endif
1939
1940 /* possibly free a shared string if no one has access to it
1941  * len and hash must both be valid for str.
1942  */
1943 void
1944 Perl_unsharepvn(pTHX_ const char *str, I32 len, U32 hash)
1945 {
1946     unshare_hek_or_pvn (NULL, str, len, hash);
1947 }
1948
1949
1950 void
1951 Perl_unshare_hek(pTHX_ HEK *hek)
1952 {
1953     unshare_hek_or_pvn(hek, NULL, 0, 0);
1954 }
1955
1956 /* possibly free a shared string if no one has access to it
1957    hek if non-NULL takes priority over the other 3, else str, len and hash
1958    are used.  If so, len and hash must both be valid for str.
1959  */
1960 STATIC void
1961 S_unshare_hek_or_pvn(pTHX_ HEK *hek, const char *str, I32 len, U32 hash)
1962 {
1963     register XPVHV* xhv;
1964     register HE *entry;
1965     register HE **oentry;
1966     register I32 i = 1;
1967     I32 found = 0;
1968     bool is_utf8 = FALSE;
1969     int k_flags = 0;
1970     const char *save = str;
1971
1972     if (hek) {
1973         hash = HEK_HASH(hek);
1974     } else if (len < 0) {
1975         STRLEN tmplen = -len;
1976         is_utf8 = TRUE;
1977         /* See the note in hv_fetch(). --jhi */
1978         str = (char*)bytes_from_utf8((U8*)str, &tmplen, &is_utf8);
1979         len = tmplen;
1980         if (is_utf8)
1981             k_flags = HVhek_UTF8;
1982         if (str != save)
1983             k_flags |= HVhek_WASUTF8 | HVhek_FREEKEY;
1984     }
1985
1986     /* what follows is the moral equivalent of:
1987     if ((Svp = hv_fetch(PL_strtab, tmpsv, FALSE, hash))) {
1988         if (--*Svp == Nullsv)
1989             hv_delete(PL_strtab, str, len, G_DISCARD, hash);
1990     } */
1991     xhv = (XPVHV*)SvANY(PL_strtab);
1992     /* assert(xhv_array != 0) */
1993     LOCK_STRTAB_MUTEX;
1994     /* oentry = &(HvARRAY(hv))[hash & (I32) HvMAX(hv)]; */
1995     oentry = &((HE**)xhv->xhv_array)[hash & (I32) xhv->xhv_max];
1996     if (hek) {
1997         for (entry = *oentry; entry; i=0, oentry = &HeNEXT(entry), entry = *oentry) {
1998             if (HeKEY_hek(entry) != hek)
1999                 continue;
2000             found = 1;
2001             break;
2002         }
2003     } else {
2004         const int flags_masked = k_flags & HVhek_MASK;
2005         for (entry = *oentry; entry; i=0, oentry = &HeNEXT(entry), entry = *oentry) {
2006             if (HeHASH(entry) != hash)          /* strings can't be equal */
2007                 continue;
2008             if (HeKLEN(entry) != len)
2009                 continue;
2010             if (HeKEY(entry) != str && memNE(HeKEY(entry),str,len))     /* is this it? */
2011                 continue;
2012             if (HeKFLAGS(entry) != flags_masked)
2013                 continue;
2014             found = 1;
2015             break;
2016         }
2017     }
2018
2019     if (found) {
2020         if (--HeVAL(entry) == Nullsv) {
2021             *oentry = HeNEXT(entry);
2022             if (i && !*oentry)
2023                 xhv->xhv_fill--; /* HvFILL(hv)-- */
2024             Safefree(HeKEY_hek(entry));
2025             del_HE(entry);
2026             xhv->xhv_keys--; /* HvKEYS(hv)-- */
2027         }
2028     }
2029
2030     UNLOCK_STRTAB_MUTEX;
2031     if (!found && ckWARN_d(WARN_INTERNAL))
2032         Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
2033                     "Attempt to free non-existent shared string '%s'%s"
2034                     pTHX__FORMAT,
2035                     hek ? HEK_KEY(hek) : str,
2036                     ((k_flags & HVhek_UTF8) ? " (utf8)" : "") pTHX__VALUE);
2037     if (k_flags & HVhek_FREEKEY)
2038         Safefree(str);
2039 }
2040
2041 /* get a (constant) string ptr from the global string table
2042  * string will get added if it is not already there.
2043  * len and hash must both be valid for str.
2044  */
2045 HEK *
2046 Perl_share_hek(pTHX_ const char *str, I32 len, register U32 hash)
2047 {
2048     bool is_utf8 = FALSE;
2049     int flags = 0;
2050     const char *save = str;
2051
2052     if (len < 0) {
2053       STRLEN tmplen = -len;
2054       is_utf8 = TRUE;
2055       /* See the note in hv_fetch(). --jhi */
2056       str = (char*)bytes_from_utf8((U8*)str, &tmplen, &is_utf8);
2057       len = tmplen;
2058       /* If we were able to downgrade here, then than means that we were passed
2059          in a key which only had chars 0-255, but was utf8 encoded.  */
2060       if (is_utf8)
2061           flags = HVhek_UTF8;
2062       /* If we found we were able to downgrade the string to bytes, then
2063          we should flag that it needs upgrading on keys or each.  Also flag
2064          that we need share_hek_flags to free the string.  */
2065       if (str != save)
2066           flags |= HVhek_WASUTF8 | HVhek_FREEKEY;
2067     }
2068
2069     return share_hek_flags (str, len, hash, flags);
2070 }
2071
2072 STATIC HEK *
2073 S_share_hek_flags(pTHX_ const char *str, I32 len, register U32 hash, int flags)
2074 {
2075     register XPVHV* xhv;
2076     register HE *entry;
2077     register HE **oentry;
2078     register I32 i = 1;
2079     I32 found = 0;
2080     const int flags_masked = flags & HVhek_MASK;
2081
2082     /* what follows is the moral equivalent of:
2083
2084     if (!(Svp = hv_fetch(PL_strtab, str, len, FALSE)))
2085         hv_store(PL_strtab, str, len, Nullsv, hash);
2086
2087         Can't rehash the shared string table, so not sure if it's worth
2088         counting the number of entries in the linked list
2089     */
2090     xhv = (XPVHV*)SvANY(PL_strtab);
2091     /* assert(xhv_array != 0) */
2092     LOCK_STRTAB_MUTEX;
2093     /* oentry = &(HvARRAY(hv))[hash & (I32) HvMAX(hv)]; */
2094     oentry = &((HE**)xhv->xhv_array)[hash & (I32) xhv->xhv_max];
2095     for (entry = *oentry; entry; i=0, entry = HeNEXT(entry)) {
2096         if (HeHASH(entry) != hash)              /* strings can't be equal */
2097             continue;
2098         if (HeKLEN(entry) != len)
2099             continue;
2100         if (HeKEY(entry) != str && memNE(HeKEY(entry),str,len)) /* is this it? */
2101             continue;
2102         if (HeKFLAGS(entry) != flags_masked)
2103             continue;
2104         found = 1;
2105         break;
2106     }
2107     if (!found) {
2108         entry = new_HE();
2109         HeKEY_hek(entry) = save_hek_flags(str, len, hash, flags_masked);
2110         HeVAL(entry) = Nullsv;
2111         HeNEXT(entry) = *oentry;
2112         *oentry = entry;
2113         xhv->xhv_keys++; /* HvKEYS(hv)++ */
2114         if (i) {                                /* initial entry? */
2115             xhv->xhv_fill++; /* HvFILL(hv)++ */
2116         } else if (xhv->xhv_keys > (IV)xhv->xhv_max /* HvKEYS(hv) > HvMAX(hv) */) {
2117                 hsplit(PL_strtab);
2118         }
2119     }
2120
2121     ++HeVAL(entry);                             /* use value slot as REFCNT */
2122     UNLOCK_STRTAB_MUTEX;
2123
2124     if (flags & HVhek_FREEKEY)
2125         Safefree(str);
2126
2127     return HeKEY_hek(entry);
2128 }
2129
2130
2131 /*
2132 =for apidoc hv_assert
2133
2134 Check that a hash is in an internally consistent state.
2135
2136 =cut
2137 */
2138
2139 void
2140 Perl_hv_assert(pTHX_ HV *hv)
2141 {
2142   dVAR;
2143   HE* entry;
2144   int withflags = 0;
2145   int placeholders = 0;
2146   int real = 0;
2147   int bad = 0;
2148   I32 riter = HvRITER(hv);
2149   HE *eiter = HvEITER(hv);
2150
2151   (void)hv_iterinit(hv);
2152
2153   while ((entry = hv_iternext_flags(hv, HV_ITERNEXT_WANTPLACEHOLDERS))) {
2154     /* sanity check the values */
2155     if (HeVAL(entry) == &PL_sv_placeholder) {
2156       placeholders++;
2157     } else {
2158       real++;
2159     }
2160     /* sanity check the keys */
2161     if (HeSVKEY(entry)) {
2162       /* Don't know what to check on SV keys.  */
2163     } else if (HeKUTF8(entry)) {
2164       withflags++;
2165        if (HeKWASUTF8(entry)) {
2166          PerlIO_printf(Perl_debug_log,
2167                        "hash key has both WASUFT8 and UTF8: '%.*s'\n",
2168                        (int) HeKLEN(entry),  HeKEY(entry));
2169          bad = 1;
2170        }
2171     } else if (HeKWASUTF8(entry)) {
2172       withflags++;
2173     }
2174   }
2175   if (!SvTIED_mg((SV*)hv, PERL_MAGIC_tied)) {
2176     if (HvUSEDKEYS(hv) != real) {
2177       PerlIO_printf(Perl_debug_log, "Count %d key(s), but hash reports %d\n",
2178                     (int) real, (int) HvUSEDKEYS(hv));
2179       bad = 1;
2180     }
2181     if (HvPLACEHOLDERS(hv) != placeholders) {
2182       PerlIO_printf(Perl_debug_log,
2183                     "Count %d placeholder(s), but hash reports %d\n",
2184                     (int) placeholders, (int) HvPLACEHOLDERS(hv));
2185       bad = 1;
2186     }
2187   }
2188   if (withflags && ! HvHASKFLAGS(hv)) {
2189     PerlIO_printf(Perl_debug_log,
2190                   "Hash has HASKFLAGS off but I count %d key(s) with flags\n",
2191                   withflags);
2192     bad = 1;
2193   }
2194   if (bad) {
2195     sv_dump((SV *)hv);
2196   }
2197   HvRITER(hv) = riter;          /* Restore hash iterator state */
2198   HvEITER(hv) = eiter;
2199 }
2200
2201 /*
2202  * Local variables:
2203  * c-indentation-style: bsd
2204  * c-basic-offset: 4
2205  * indent-tabs-mode: t
2206  * End:
2207  *
2208  * vim: ts=8 sts=4 sw=4 noet:
2209 */