counting tr/// corrupts later operation (from M.J.T Guy)
[p5sagit/p5-mst-13.2.git] / doop.c
1 /*    doop.c
2  *
3  *    Copyright (c) 1991-2000, Larry Wall
4  *
5  *    You may distribute under the terms of either the GNU General Public
6  *    License or the Artistic License, as specified in the README file.
7  *
8  */
9
10 /*
11  * "'So that was the job I felt I had to do when I started,' thought Sam."
12  */
13
14 #include "EXTERN.h"
15 #define PERL_IN_DOOP_C
16 #include "perl.h"
17
18 #if !defined(NSIG) || defined(M_UNIX) || defined(M_XENIX)
19 #include <signal.h>
20 #endif
21
22 STATIC I32
23 S_do_trans_CC_simple(pTHX_ SV *sv)
24 {
25     dTHR;
26     U8 *s;
27     U8 *send;
28     I32 matches = 0;
29     STRLEN len;
30     short *tbl;
31     I32 ch;
32
33     tbl = (short*)cPVOP->op_pv;
34     if (!tbl)
35         Perl_croak(aTHX_ "panic: do_trans");
36
37     s = (U8*)SvPV(sv, len);
38     send = s + len;
39
40     while (s < send) {
41         if ((ch = tbl[*s]) >= 0) {
42             matches++;
43             *s = ch;
44         }
45         s++;
46     }
47     SvSETMAGIC(sv);
48
49     return matches;
50 }
51
52 STATIC I32
53 S_do_trans_CC_count(pTHX_ SV *sv)
54 {
55     dTHR;
56     U8 *s;
57     U8 *send;
58     I32 matches = 0;
59     STRLEN len;
60     short *tbl;
61
62     tbl = (short*)cPVOP->op_pv;
63     if (!tbl)
64         Perl_croak(aTHX_ "panic: do_trans");
65
66     s = (U8*)SvPV(sv, len);
67     send = s + len;
68
69     while (s < send) {
70         if (tbl[*s] >= 0)
71             matches++;
72         s++;
73     }
74
75     return matches;
76 }
77
78 STATIC I32
79 S_do_trans_CC_complex(pTHX_ SV *sv)
80 {
81     dTHR;
82     U8 *s;
83     U8 *send;
84     U8 *d;
85     I32 matches = 0;
86     STRLEN len;
87     short *tbl;
88     I32 ch;
89
90     tbl = (short*)cPVOP->op_pv;
91     if (!tbl)
92         Perl_croak(aTHX_ "panic: do_trans");
93
94     s = (U8*)SvPV(sv, len);
95     send = s + len;
96
97     d = s;
98     if (PL_op->op_private & OPpTRANS_SQUASH) {
99         U8* p = send;
100
101         while (s < send) {
102             if ((ch = tbl[*s]) >= 0) {
103                 *d = ch;
104                 matches++;
105                 if (p == d - 1 && *p == *d)
106                     matches--;
107                 else
108                     p = d++;
109             }
110             else if (ch == -1)          /* -1 is unmapped character */
111                 *d++ = *s;              /* -2 is delete character */
112             s++;
113         }
114     }
115     else {
116         while (s < send) {
117             if ((ch = tbl[*s]) >= 0) {
118                 *d = ch;
119                 matches++;
120                 d++;
121             }
122             else if (ch == -1)          /* -1 is unmapped character */
123                 *d++ = *s;              /* -2 is delete character */
124             s++;
125         }
126     }
127     matches += send - d;        /* account for disappeared chars */
128     *d = '\0';
129     SvCUR_set(sv, d - (U8*)SvPVX(sv));
130     SvSETMAGIC(sv);
131
132     return matches;
133 }
134
135 STATIC I32
136 S_do_trans_UU_simple(pTHX_ SV *sv)
137 {
138     dTHR;
139     U8 *s;
140     U8 *send;
141     U8 *d;
142     I32 matches = 0;
143     STRLEN len;
144
145     SV* rv = (SV*)cSVOP->op_sv;
146     HV* hv = (HV*)SvRV(rv);
147     SV** svp = hv_fetch(hv, "NONE", 4, FALSE);
148     UV none = svp ? SvUV(*svp) : 0x7fffffff;
149     UV extra = none + 1;
150     UV final;
151     UV uv;
152
153     s = (U8*)SvPV(sv, len);
154     send = s + len;
155
156     svp = hv_fetch(hv, "FINAL", 5, FALSE);
157     if (svp)
158         final = SvUV(*svp);
159
160     d = s;
161     while (s < send) {
162         if ((uv = swash_fetch(rv, s)) < none) {
163             s += UTF8SKIP(s);
164             matches++;
165             d = uv_to_utf8(d, uv);
166         }
167         else if (uv == none) {
168             int i;
169             for (i = UTF8SKIP(s); i; i--)
170                 *d++ = *s++;
171         }
172         else if (uv == extra) {
173             s += UTF8SKIP(s);
174             matches++;
175             d = uv_to_utf8(d, final);
176         }
177         else
178             s += UTF8SKIP(s);
179     }
180     *d = '\0';
181     SvCUR_set(sv, d - (U8*)SvPVX(sv));
182     SvSETMAGIC(sv);
183
184     return matches;
185 }
186
187 STATIC I32
188 S_do_trans_UU_count(pTHX_ SV *sv)
189 {
190     dTHR;
191     U8 *s;
192     U8 *send;
193     I32 matches = 0;
194     STRLEN len;
195
196     SV* rv = (SV*)cSVOP->op_sv;
197     HV* hv = (HV*)SvRV(rv);
198     SV** svp = hv_fetch(hv, "NONE", 4, FALSE);
199     UV none = svp ? SvUV(*svp) : 0x7fffffff;
200     UV uv;
201
202     s = (U8*)SvPV(sv, len);
203     send = s + len;
204
205     while (s < send) {
206         if ((uv = swash_fetch(rv, s)) < none)
207             matches++;
208         s += UTF8SKIP(s);
209     }
210
211     return matches;
212 }
213
214 STATIC I32
215 S_do_trans_UC_simple(pTHX_ SV *sv)
216 {
217     dTHR;
218     U8 *s;
219     U8 *send;
220     U8 *d;
221     I32 matches = 0;
222     STRLEN len;
223
224     SV* rv = (SV*)cSVOP->op_sv;
225     HV* hv = (HV*)SvRV(rv);
226     SV** svp = hv_fetch(hv, "NONE", 4, FALSE);
227     UV none = svp ? SvUV(*svp) : 0x7fffffff;
228     UV extra = none + 1;
229     UV final;
230     UV uv;
231
232     s = (U8*)SvPV(sv, len);
233     send = s + len;
234
235     svp = hv_fetch(hv, "FINAL", 5, FALSE);
236     if (svp)
237         final = SvUV(*svp);
238
239     d = s;
240     while (s < send) {
241         if ((uv = swash_fetch(rv, s)) < none) {
242             s += UTF8SKIP(s);
243             matches++;
244             *d++ = (U8)uv;
245         }
246         else if (uv == none) {
247             I32 ulen;
248             uv = utf8_to_uv(s, &ulen);
249             s += ulen;
250             *d++ = (U8)uv;
251         }
252         else if (uv == extra) {
253             s += UTF8SKIP(s);
254             matches++;
255             *d++ = (U8)final;
256         }
257         else
258             s += UTF8SKIP(s);
259     }
260     *d = '\0';
261     SvCUR_set(sv, d - (U8*)SvPVX(sv));
262     SvSETMAGIC(sv);
263
264     return matches;
265 }
266
267 STATIC I32
268 S_do_trans_CU_simple(pTHX_ SV *sv)
269 {
270     dTHR;
271     U8 *s;
272     U8 *send;
273     U8 *d;
274     U8 *dst;
275     I32 matches = 0;
276     STRLEN len;
277
278     SV* rv = (SV*)cSVOP->op_sv;
279     HV* hv = (HV*)SvRV(rv);
280     SV** svp = hv_fetch(hv, "NONE", 4, FALSE);
281     UV none = svp ? SvUV(*svp) : 0x7fffffff;
282     UV extra = none + 1;
283     UV final;
284     UV uv;
285     U8 tmpbuf[UTF8_MAXLEN];
286     I32 bits = 16;
287
288     s = (U8*)SvPV(sv, len);
289     send = s + len;
290
291     svp = hv_fetch(hv, "BITS", 4, FALSE);
292     if (svp)
293         bits = (I32)SvIV(*svp);
294
295     svp = hv_fetch(hv, "FINAL", 5, FALSE);
296     if (svp)
297         final = SvUV(*svp);
298
299     Newz(801, d, len * (bits >> 3) + 1, U8);
300     dst = d;
301
302     while (s < send) {
303         uv = *s++;
304         if (uv < 0x80)
305             tmpbuf[0] = uv;
306         else {
307             tmpbuf[0] = (( uv >>  6)         | 0xc0);
308             tmpbuf[1] = (( uv        & 0x3f) | 0x80);
309         }
310
311         if ((uv = swash_fetch(rv, tmpbuf)) < none) {
312             matches++;
313             d = uv_to_utf8(d, uv);
314         }
315         else if (uv == none)
316             d = uv_to_utf8(d, s[-1]);
317         else if (uv == extra) {
318             matches++;
319             d = uv_to_utf8(d, final);
320         }
321     }
322     *d = '\0';
323     sv_usepvn_mg(sv, (char*)dst, d - dst);
324
325     return matches;
326 }
327
328 /* utf-8 to latin-1 */
329
330 STATIC I32
331 S_do_trans_UC_trivial(pTHX_ SV *sv)
332 {
333     dTHR;
334     U8 *s;
335     U8 *send;
336     U8 *d;
337     STRLEN len;
338
339     s = (U8*)SvPV(sv, len);
340     send = s + len;
341
342     d = s;
343     while (s < send) {
344         if (*s < 0x80)
345             *d++ = *s++;
346         else {
347             I32 ulen;
348             UV uv = utf8_to_uv(s, &ulen);
349             s += ulen;
350             *d++ = (U8)uv;
351         }
352     }
353     *d = '\0';
354     SvCUR_set(sv, d - (U8*)SvPVX(sv));
355     SvSETMAGIC(sv);
356
357     return SvCUR(sv);
358 }
359
360 /* latin-1 to utf-8 */
361
362 STATIC I32
363 S_do_trans_CU_trivial(pTHX_ SV *sv)
364 {
365     dTHR;
366     U8 *s;
367     U8 *send;
368     U8 *d;
369     U8 *dst;
370     I32 matches;
371     STRLEN len;
372
373     s = (U8*)SvPV(sv, len);
374     send = s + len;
375
376     Newz(801, d, len * 2 + 1, U8);
377     dst = d;
378
379     matches = send - s;
380
381     while (s < send) {
382         if (*s < 0x80)
383             *d++ = *s++;
384         else {
385             UV uv = *s++;
386             *d++ = (( uv >>  6)         | 0xc0);
387             *d++ = (( uv        & 0x3f) | 0x80);
388         }
389     }
390     *d = '\0';
391     sv_usepvn_mg(sv, (char*)dst, d - dst);
392
393     return matches;
394 }
395
396 STATIC I32
397 S_do_trans_UU_complex(pTHX_ SV *sv)
398 {
399     dTHR;
400     U8 *s;
401     U8 *send;
402     U8 *d;
403     I32 matches = 0;
404     I32 squash   = PL_op->op_private & OPpTRANS_SQUASH;
405     I32 from_utf = PL_op->op_private & OPpTRANS_FROM_UTF;
406     I32 to_utf   = PL_op->op_private & OPpTRANS_TO_UTF;
407     I32 del      = PL_op->op_private & OPpTRANS_DELETE;
408     SV* rv = (SV*)cSVOP->op_sv;
409     HV* hv = (HV*)SvRV(rv);
410     SV** svp = hv_fetch(hv, "NONE", 4, FALSE);
411     UV none = svp ? SvUV(*svp) : 0x7fffffff;
412     UV extra = none + 1;
413     UV final;
414     UV uv;
415     STRLEN len;
416     U8 *dst;
417
418     s = (U8*)SvPV(sv, len);
419     send = s + len;
420
421     svp = hv_fetch(hv, "FINAL", 5, FALSE);
422     if (svp)
423         final = SvUV(*svp);
424
425     if (PL_op->op_private & OPpTRANS_GROWS) {
426         I32 bits = 16;
427
428         svp = hv_fetch(hv, "BITS", 4, FALSE);
429         if (svp)
430             bits = (I32)SvIV(*svp);
431
432         Newz(801, d, len * (bits >> 3) + 1, U8);
433         dst = d;
434     }
435     else {
436         d = s;
437         dst = 0;
438     }
439
440     if (squash) {
441         UV puv = 0xfeedface;
442         while (s < send) {
443             if (from_utf) {
444                 uv = swash_fetch(rv, s);
445             }
446             else {
447                 U8 tmpbuf[2];
448                 uv = *s++;
449                 if (uv < 0x80)
450                     tmpbuf[0] = uv;
451                 else {
452                     tmpbuf[0] = (( uv >>  6)         | 0xc0);
453                     tmpbuf[1] = (( uv        & 0x3f) | 0x80);
454                 }
455                 uv = swash_fetch(rv, tmpbuf);
456             }
457             if (uv < none) {
458                 matches++;
459                 if (uv != puv) {
460                     if (uv >= 0x80 && to_utf)
461                         d = uv_to_utf8(d, uv);
462                     else
463                         *d++ = (U8)uv;
464                     puv = uv;
465                 }
466                 if (from_utf)
467                     s += UTF8SKIP(s);
468                 continue;
469             }
470             else if (uv == none) {      /* "none" is unmapped character */
471                 if (from_utf) {
472                     if (*s < 0x80)
473                         *d++ = *s++;
474                     else if (to_utf) {
475                         int i;
476                         for (i = UTF8SKIP(s); i; --i)
477                             *d++ = *s++;
478                     }
479                     else {
480                         I32 ulen;
481                         *d++ = (U8)utf8_to_uv(s, &ulen);
482                         s += ulen;
483                     }
484                 }
485                 else {  /* must be to_utf only */
486                     d = uv_to_utf8(d, s[-1]);
487                 }
488                 puv = 0xfeedface;
489                 continue;
490             }
491             else if (uv == extra && !del) {
492                 matches++;
493                 if (uv != puv) {
494                     if (final >= 0x80 && to_utf)
495                         d = uv_to_utf8(d, final);
496                     else
497                         *d++ = (U8)final;
498                     puv = final;
499                 }
500                 if (from_utf)
501                     s += UTF8SKIP(s);
502                 continue;
503             }
504             matches++;          /* "none+1" is delete character */
505             if (from_utf)
506                 s += UTF8SKIP(s);
507         }
508     }
509     else {
510         while (s < send) {
511             if (from_utf) {
512                 uv = swash_fetch(rv, s);
513             }
514             else {
515                 U8 tmpbuf[2];
516                 uv = *s++;
517                 if (uv < 0x80)
518                     tmpbuf[0] = uv;
519                 else {
520                     tmpbuf[0] = (( uv >>  6)         | 0xc0);
521                     tmpbuf[1] = (( uv        & 0x3f) | 0x80);
522                 }
523                 uv = swash_fetch(rv, tmpbuf);
524             }
525             if (uv < none) {
526                 matches++;
527                 if (uv >= 0x80 && to_utf)
528                     d = uv_to_utf8(d, uv);
529                 else
530                     *d++ = (U8)uv;
531                 if (from_utf)
532                     s += UTF8SKIP(s);
533                 continue;
534             }
535             else if (uv == none) {      /* "none" is unmapped character */
536                 if (from_utf) {
537                     if (*s < 0x80)
538                         *d++ = *s++;
539                     else if (to_utf) {
540                         int i;
541                         for (i = UTF8SKIP(s); i; --i)
542                             *d++ = *s++;
543                     }
544                     else {
545                         I32 ulen;
546                         *d++ = (U8)utf8_to_uv(s, &ulen);
547                         s += ulen;
548                     }
549                 }
550                 else {  /* must be to_utf only */
551                     d = uv_to_utf8(d, s[-1]);
552                 }
553                 continue;
554             }
555             else if (uv == extra && !del) {
556                 matches++;
557                 if (final >= 0x80 && to_utf)
558                     d = uv_to_utf8(d, final);
559                 else
560                     *d++ = (U8)final;
561                 if (from_utf)
562                     s += UTF8SKIP(s);
563                 continue;
564             }
565             matches++;          /* "none+1" is delete character */
566             if (from_utf)
567                 s += UTF8SKIP(s);
568         }
569     }
570     if (dst)
571         sv_usepvn(sv, (char*)dst, d - dst);
572     else {
573         *d = '\0';
574         SvCUR_set(sv, d - (U8*)SvPVX(sv));
575     }
576     SvSETMAGIC(sv);
577
578     return matches;
579 }
580
581 I32
582 Perl_do_trans(pTHX_ SV *sv)
583 {
584     dTHR;
585     STRLEN len;
586
587     if (SvREADONLY(sv) && !(PL_op->op_private & OPpTRANS_IDENTICAL))
588         Perl_croak(aTHX_ PL_no_modify);
589
590     (void)SvPV(sv, len);
591     if (!len)
592         return 0;
593     if (!SvPOKp(sv))
594         (void)SvPV_force(sv, len);
595     if (!(PL_op->op_private & OPpTRANS_IDENTICAL))
596         (void)SvPOK_only_UTF8(sv);
597
598     DEBUG_t( Perl_deb(aTHX_ "2.TBL\n"));
599
600     switch (PL_op->op_private & 63) {
601     case 0:
602         return do_trans_CC_simple(sv);
603
604     case OPpTRANS_FROM_UTF:
605         return do_trans_UC_simple(sv);
606
607     case OPpTRANS_TO_UTF:
608         return do_trans_CU_simple(sv);
609
610     case OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF:
611         return do_trans_UU_simple(sv);
612
613     case OPpTRANS_IDENTICAL:
614         return do_trans_CC_count(sv);
615
616     case OPpTRANS_FROM_UTF|OPpTRANS_IDENTICAL:
617         return do_trans_UC_trivial(sv);
618
619     case OPpTRANS_TO_UTF|OPpTRANS_IDENTICAL:
620         return do_trans_CU_trivial(sv);
621
622     case OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF|OPpTRANS_IDENTICAL:
623         return do_trans_UU_count(sv);
624
625     default:
626         if (PL_op->op_private & (OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF))
627             return do_trans_UU_complex(sv); /* could be UC or CU too */
628         else
629             return do_trans_CC_complex(sv);
630     }
631 }
632
633 void
634 Perl_do_join(pTHX_ register SV *sv, SV *del, register SV **mark, register SV **sp)
635 {
636     SV **oldmark = mark;
637     register I32 items = sp - mark;
638     register STRLEN len;
639     STRLEN delimlen;
640     register char *delim = SvPV(del, delimlen);
641     STRLEN tmplen;
642
643     mark++;
644     len = (items > 0 ? (delimlen * (items - 1) ) : 0);
645     (void)SvUPGRADE(sv, SVt_PV);
646     if (SvLEN(sv) < len + items) {      /* current length is way too short */
647         while (items-- > 0) {
648             if (*mark && !SvGMAGICAL(*mark) && SvOK(*mark)) {
649                 SvPV(*mark, tmplen);
650                 len += tmplen;
651             }
652             mark++;
653         }
654         SvGROW(sv, len + 1);            /* so try to pre-extend */
655
656         mark = oldmark;
657         items = sp - mark;
658         ++mark;
659     }
660
661     if (items-- > 0) {
662         char *s;
663
664         sv_setpv(sv, "");
665         if (*mark)
666             sv_catsv(sv, *mark);
667         mark++;
668     }
669     else
670         sv_setpv(sv,"");
671     len = delimlen;
672     if (len) {
673         for (; items > 0; items--,mark++) {
674             sv_catpvn(sv,delim,len);
675             sv_catsv(sv,*mark);
676         }
677     }
678     else {
679         for (; items > 0; items--,mark++)
680             sv_catsv(sv,*mark);
681     }
682     SvSETMAGIC(sv);
683 }
684
685 void
686 Perl_do_sprintf(pTHX_ SV *sv, I32 len, SV **sarg)
687 {
688     STRLEN patlen;
689     char *pat = SvPV(*sarg, patlen);
690     bool do_taint = FALSE;
691
692     sv_vsetpvfn(sv, pat, patlen, Null(va_list*), sarg + 1, len - 1, &do_taint);
693     SvSETMAGIC(sv);
694     if (do_taint)
695         SvTAINTED_on(sv);
696 }
697
698 UV
699 Perl_do_vecget(pTHX_ SV *sv, I32 offset, I32 size)
700 {
701     STRLEN srclen, len;
702     unsigned char *s = (unsigned char *) SvPV(sv, srclen);
703     UV retnum = 0;
704
705     if (offset < 0)
706         return retnum;
707     if (size < 1 || (size & (size-1))) /* size < 1 or not a power of two */ 
708         Perl_croak(aTHX_ "Illegal number of bits in vec");
709     offset *= size;     /* turn into bit offset */
710     len = (offset + size + 7) / 8;      /* required number of bytes */
711     if (len > srclen) {
712         if (size <= 8)
713             retnum = 0;
714         else {
715             offset >>= 3;       /* turn into byte offset */
716             if (size == 16) {
717                 if (offset >= srclen)
718                     retnum = 0;
719                 else
720                     retnum = (UV) s[offset] <<  8;
721             }
722             else if (size == 32) {
723                 if (offset >= srclen)
724                     retnum = 0;
725                 else if (offset + 1 >= srclen)
726                     retnum =
727                         ((UV) s[offset    ] << 24);
728                 else if (offset + 2 >= srclen)
729                     retnum =
730                         ((UV) s[offset    ] << 24) +
731                         ((UV) s[offset + 1] << 16);
732                 else
733                     retnum =
734                         ((UV) s[offset    ] << 24) +
735                         ((UV) s[offset + 1] << 16) +
736                         (     s[offset + 2] <<  8);
737             }
738 #ifdef UV_IS_QUAD
739             else if (size == 64) {
740                 dTHR;
741                 if (ckWARN(WARN_PORTABLE))
742                     Perl_warner(aTHX_ WARN_PORTABLE,
743                                 "Bit vector size > 32 non-portable");
744                 if (offset >= srclen)
745                     retnum = 0;
746                 else if (offset + 1 >= srclen)
747                     retnum =
748                         (UV) s[offset     ] << 56;
749                 else if (offset + 2 >= srclen)
750                     retnum =
751                         ((UV) s[offset    ] << 56) +
752                         ((UV) s[offset + 1] << 48);
753                 else if (offset + 3 >= srclen)
754                     retnum =
755                         ((UV) s[offset    ] << 56) +
756                         ((UV) s[offset + 1] << 48) +
757                         ((UV) s[offset + 2] << 40);
758                 else if (offset + 4 >= srclen)
759                     retnum =
760                         ((UV) s[offset    ] << 56) +
761                         ((UV) s[offset + 1] << 48) +
762                         ((UV) s[offset + 2] << 40) +
763                         ((UV) s[offset + 3] << 32);
764                 else if (offset + 5 >= srclen)
765                     retnum =
766                         ((UV) s[offset    ] << 56) +
767                         ((UV) s[offset + 1] << 48) +
768                         ((UV) s[offset + 2] << 40) +
769                         ((UV) s[offset + 3] << 32) +
770                         (     s[offset + 4] << 24);
771                 else if (offset + 6 >= srclen)
772                     retnum =
773                         ((UV) s[offset    ] << 56) +
774                         ((UV) s[offset + 1] << 48) +
775                         ((UV) s[offset + 2] << 40) +
776                         ((UV) s[offset + 3] << 32) +
777                         ((UV) s[offset + 4] << 24) +
778                         ((UV) s[offset + 5] << 16);
779                 else
780                     retnum = 
781                         ((UV) s[offset    ] << 56) +
782                         ((UV) s[offset + 1] << 48) +
783                         ((UV) s[offset + 2] << 40) +
784                         ((UV) s[offset + 3] << 32) +
785                         ((UV) s[offset + 4] << 24) +
786                         ((UV) s[offset + 5] << 16) +
787                         (     s[offset + 6] <<  8);
788             }
789 #endif
790         }
791     }
792     else if (size < 8)
793         retnum = (s[offset >> 3] >> (offset & 7)) & ((1 << size) - 1);
794     else {
795         offset >>= 3;   /* turn into byte offset */
796         if (size == 8)
797             retnum = s[offset];
798         else if (size == 16)
799             retnum =
800                 ((UV) s[offset] <<      8) +
801                       s[offset + 1];
802         else if (size == 32)
803             retnum =
804                 ((UV) s[offset    ] << 24) +
805                 ((UV) s[offset + 1] << 16) +
806                 (     s[offset + 2] <<  8) +
807                       s[offset + 3];
808 #ifdef UV_IS_QUAD
809         else if (size == 64) {
810             dTHR;
811             if (ckWARN(WARN_PORTABLE))
812                 Perl_warner(aTHX_ WARN_PORTABLE,
813                             "Bit vector size > 32 non-portable");
814             retnum =
815                 ((UV) s[offset    ] << 56) +
816                 ((UV) s[offset + 1] << 48) +
817                 ((UV) s[offset + 2] << 40) +
818                 ((UV) s[offset + 3] << 32) +
819                 ((UV) s[offset + 4] << 24) +
820                 ((UV) s[offset + 5] << 16) +
821                 (     s[offset + 6] <<  8) +
822                       s[offset + 7];
823         }
824 #endif
825     }
826
827     return retnum;
828 }
829
830 void
831 Perl_do_vecset(pTHX_ SV *sv)
832 {
833     SV *targ = LvTARG(sv);
834     register I32 offset;
835     register I32 size;
836     register unsigned char *s;
837     register UV lval;
838     I32 mask;
839     STRLEN targlen;
840     STRLEN len;
841
842     if (!targ)
843         return;
844     s = (unsigned char*)SvPV_force(targ, targlen);
845     lval = SvUV(sv);
846     offset = LvTARGOFF(sv);
847     size = LvTARGLEN(sv);
848     if (size < 1 || (size & (size-1))) /* size < 1 or not a power of two */ 
849         Perl_croak(aTHX_ "Illegal number of bits in vec");
850     
851     offset *= size;                     /* turn into bit offset */
852     len = (offset + size + 7) / 8;      /* required number of bytes */
853     if (len > targlen) {
854         s = (unsigned char*)SvGROW(targ, len + 1);
855         (void)memzero(s + targlen, len - targlen + 1);
856         SvCUR_set(targ, len);
857     }
858     
859     if (size < 8) {
860         mask = (1 << size) - 1;
861         size = offset & 7;
862         lval &= mask;
863         offset >>= 3;                   /* turn into byte offset */
864         s[offset] &= ~(mask << size);
865         s[offset] |= lval << size;
866     }
867     else {
868         offset >>= 3;                   /* turn into byte offset */
869         if (size == 8)
870             s[offset  ] = lval         & 0xff;
871         else if (size == 16) {
872             s[offset  ] = (lval >>  8) & 0xff;
873             s[offset+1] = lval         & 0xff;
874         }
875         else if (size == 32) {
876             s[offset  ] = (lval >> 24) & 0xff;
877             s[offset+1] = (lval >> 16) & 0xff;
878             s[offset+2] = (lval >>  8) & 0xff;
879             s[offset+3] =  lval        & 0xff;
880         }
881 #ifdef UV_IS_QUAD
882         else if (size == 64) {
883             dTHR;
884             if (ckWARN(WARN_PORTABLE))
885                 Perl_warner(aTHX_ WARN_PORTABLE,
886                             "Bit vector size > 32 non-portable");
887             s[offset  ] = (lval >> 56) & 0xff;
888             s[offset+1] = (lval >> 48) & 0xff;
889             s[offset+2] = (lval >> 40) & 0xff;
890             s[offset+3] = (lval >> 32) & 0xff;
891             s[offset+4] = (lval >> 24) & 0xff;
892             s[offset+5] = (lval >> 16) & 0xff;
893             s[offset+6] = (lval >>  8) & 0xff;
894             s[offset+7] =  lval        & 0xff;
895         }
896 #endif
897     }
898     SvSETMAGIC(targ);
899 }
900
901 void
902 Perl_do_chop(pTHX_ register SV *astr, register SV *sv)
903 {
904     STRLEN len;
905     char *s;
906     dTHR;
907     
908     if (SvTYPE(sv) == SVt_PVAV) {
909         register I32 i;
910         I32 max;
911         AV* av = (AV*)sv;
912         max = AvFILL(av);
913         for (i = 0; i <= max; i++) {
914             sv = (SV*)av_fetch(av, i, FALSE);
915             if (sv && ((sv = *(SV**)sv), sv != &PL_sv_undef))
916                 do_chop(astr, sv);
917         }
918         return;
919     }
920     else if (SvTYPE(sv) == SVt_PVHV) {
921         HV* hv = (HV*)sv;
922         HE* entry;
923         (void)hv_iterinit(hv);
924         /*SUPPRESS 560*/
925         while ((entry = hv_iternext(hv)))
926             do_chop(astr,hv_iterval(hv,entry));
927         return;
928     }
929     else if (SvREADONLY(sv))
930         Perl_croak(aTHX_ PL_no_modify);
931     s = SvPV(sv, len);
932     if (len && !SvPOK(sv))
933         s = SvPV_force(sv, len);
934     if (DO_UTF8(sv)) {
935         if (s && len) {
936             char *send = s + len;
937             char *start = s;
938             s = send - 1;
939             while ((*s & 0xc0) == 0x80)
940                 --s;
941             if (UTF8SKIP(s) != send - s && ckWARN_d(WARN_UTF8))
942                 Perl_warner(aTHX_ WARN_UTF8, "Malformed UTF-8 character");
943             sv_setpvn(astr, s, send - s);
944             *s = '\0';
945             SvCUR_set(sv, s - start);
946             SvNIOK_off(sv);
947             SvUTF8_on(astr);
948         }
949         else
950             sv_setpvn(astr, "", 0);
951     }
952     else if (s && len) {
953         s += --len;
954         sv_setpvn(astr, s, 1);
955         *s = '\0';
956         SvCUR_set(sv, len);
957         SvUTF8_off(sv);
958         SvNIOK_off(sv);
959     }
960     else
961         sv_setpvn(astr, "", 0);
962     SvSETMAGIC(sv);
963 }
964
965 I32
966 Perl_do_chomp(pTHX_ register SV *sv)
967 {
968     dTHR;
969     register I32 count;
970     STRLEN len;
971     char *s;
972
973     if (RsSNARF(PL_rs))
974         return 0;
975     if (RsRECORD(PL_rs))
976       return 0;
977     count = 0;
978     if (SvTYPE(sv) == SVt_PVAV) {
979         register I32 i;
980         I32 max;
981         AV* av = (AV*)sv;
982         max = AvFILL(av);
983         for (i = 0; i <= max; i++) {
984             sv = (SV*)av_fetch(av, i, FALSE);
985             if (sv && ((sv = *(SV**)sv), sv != &PL_sv_undef))
986                 count += do_chomp(sv);
987         }
988         return count;
989     }
990     else if (SvTYPE(sv) == SVt_PVHV) {
991         HV* hv = (HV*)sv;
992         HE* entry;
993         (void)hv_iterinit(hv);
994         /*SUPPRESS 560*/
995         while ((entry = hv_iternext(hv)))
996             count += do_chomp(hv_iterval(hv,entry));
997         return count;
998     }
999     else if (SvREADONLY(sv))
1000         Perl_croak(aTHX_ PL_no_modify);
1001     s = SvPV(sv, len);
1002     if (len && !SvPOKp(sv))
1003         s = SvPV_force(sv, len);
1004     if (s && len) {
1005         s += --len;
1006         if (RsPARA(PL_rs)) {
1007             if (*s != '\n')
1008                 goto nope;
1009             ++count;
1010             while (len && s[-1] == '\n') {
1011                 --len;
1012                 --s;
1013                 ++count;
1014             }
1015         }
1016         else {
1017             STRLEN rslen;
1018             char *rsptr = SvPV(PL_rs, rslen);
1019             if (rslen == 1) {
1020                 if (*s != *rsptr)
1021                     goto nope;
1022                 ++count;
1023             }
1024             else {
1025                 if (len < rslen - 1)
1026                     goto nope;
1027                 len -= rslen - 1;
1028                 s -= rslen - 1;
1029                 if (memNE(s, rsptr, rslen))
1030                     goto nope;
1031                 count += rslen;
1032             }
1033         }
1034         *s = '\0';
1035         SvCUR_set(sv, len);
1036         SvNIOK_off(sv);
1037     }
1038   nope:
1039     SvSETMAGIC(sv);
1040     return count;
1041
1042
1043 void
1044 Perl_do_vop(pTHX_ I32 optype, SV *sv, SV *left, SV *right)
1045 {
1046     dTHR;       /* just for taint */
1047 #ifdef LIBERAL
1048     register long *dl;
1049     register long *ll;
1050     register long *rl;
1051 #endif
1052     register char *dc;
1053     STRLEN leftlen;
1054     STRLEN rightlen;
1055     register char *lc;
1056     register char *rc;
1057     register I32 len;
1058     I32 lensave;
1059     char *lsave;
1060     char *rsave;
1061     bool left_utf = DO_UTF8(left);
1062     bool right_utf = DO_UTF8(right);
1063
1064     if (left_utf && !right_utf)
1065         sv_utf8_upgrade(right);
1066     if (!left_utf && right_utf)
1067         sv_utf8_upgrade(left);
1068
1069     if (sv != left || (optype != OP_BIT_AND && !SvOK(sv) && !SvGMAGICAL(sv)))
1070         sv_setpvn(sv, "", 0);   /* avoid undef warning on |= and ^= */
1071     lsave = lc = SvPV(left, leftlen);
1072     rsave = rc = SvPV(right, rightlen);
1073     len = leftlen < rightlen ? leftlen : rightlen;
1074     lensave = len;
1075     if (SvOK(sv) || SvTYPE(sv) > SVt_PVMG) {
1076         STRLEN n_a;
1077         dc = SvPV_force(sv, n_a);
1078         if (SvCUR(sv) < len) {
1079             dc = SvGROW(sv, len + 1);
1080             (void)memzero(dc + SvCUR(sv), len - SvCUR(sv) + 1);
1081         }
1082     }
1083     else {
1084         I32 needlen = ((optype == OP_BIT_AND)
1085                         ? len : (leftlen > rightlen ? leftlen : rightlen));
1086         Newz(801, dc, needlen + 1, char);
1087         (void)sv_usepvn(sv, dc, needlen);
1088         dc = SvPVX(sv);         /* sv_usepvn() calls Renew() */
1089     }
1090     SvCUR_set(sv, len);
1091     (void)SvPOK_only(sv);
1092     if (left_utf || right_utf) {
1093         UV duc, luc, ruc;
1094         STRLEN lulen = leftlen;
1095         STRLEN rulen = rightlen;
1096         STRLEN dulen = 0;
1097         I32 ulen;
1098
1099         if (optype != OP_BIT_AND)
1100             dc = SvGROW(sv, leftlen+rightlen+1);
1101
1102         switch (optype) {
1103         case OP_BIT_AND:
1104             while (lulen && rulen) {
1105                 luc = utf8_to_uv((U8*)lc, &ulen);
1106                 lc += ulen;
1107                 lulen -= ulen;
1108                 ruc = utf8_to_uv((U8*)rc, &ulen);
1109                 rc += ulen;
1110                 rulen -= ulen;
1111                 duc = luc & ruc;
1112                 dc = (char*)uv_to_utf8((U8*)dc, duc);
1113             }
1114             dulen = dc - SvPVX(sv);
1115             SvCUR_set(sv, dulen);
1116             break;
1117         case OP_BIT_XOR:
1118             while (lulen && rulen) {
1119                 luc = utf8_to_uv((U8*)lc, &ulen);
1120                 lc += ulen;
1121                 lulen -= ulen;
1122                 ruc = utf8_to_uv((U8*)rc, &ulen);
1123                 rc += ulen;
1124                 rulen -= ulen;
1125                 duc = luc ^ ruc;
1126                 dc = (char*)uv_to_utf8((U8*)dc, duc);
1127             }
1128             goto mop_up_utf;
1129         case OP_BIT_OR:
1130             while (lulen && rulen) {
1131                 luc = utf8_to_uv((U8*)lc, &ulen);
1132                 lc += ulen;
1133                 lulen -= ulen;
1134                 ruc = utf8_to_uv((U8*)rc, &ulen);
1135                 rc += ulen;
1136                 rulen -= ulen;
1137                 duc = luc | ruc;
1138                 dc = (char*)uv_to_utf8((U8*)dc, duc);
1139             }
1140           mop_up_utf:
1141             dulen = dc - SvPVX(sv);
1142             SvCUR_set(sv, dulen);
1143             if (rulen)
1144                 sv_catpvn(sv, rc, rulen);
1145             else if (lulen)
1146                 sv_catpvn(sv, lc, lulen);
1147             else
1148                 *SvEND(sv) = '\0';
1149             break;
1150         }
1151         SvUTF8_on(sv);
1152         goto finish;
1153     }
1154     else
1155 #ifdef LIBERAL
1156     if (len >= sizeof(long)*4 &&
1157         !((long)dc % sizeof(long)) &&
1158         !((long)lc % sizeof(long)) &&
1159         !((long)rc % sizeof(long)))     /* It's almost always aligned... */
1160     {
1161         I32 remainder = len % (sizeof(long)*4);
1162         len /= (sizeof(long)*4);
1163
1164         dl = (long*)dc;
1165         ll = (long*)lc;
1166         rl = (long*)rc;
1167
1168         switch (optype) {
1169         case OP_BIT_AND:
1170             while (len--) {
1171                 *dl++ = *ll++ & *rl++;
1172                 *dl++ = *ll++ & *rl++;
1173                 *dl++ = *ll++ & *rl++;
1174                 *dl++ = *ll++ & *rl++;
1175             }
1176             break;
1177         case OP_BIT_XOR:
1178             while (len--) {
1179                 *dl++ = *ll++ ^ *rl++;
1180                 *dl++ = *ll++ ^ *rl++;
1181                 *dl++ = *ll++ ^ *rl++;
1182                 *dl++ = *ll++ ^ *rl++;
1183             }
1184             break;
1185         case OP_BIT_OR:
1186             while (len--) {
1187                 *dl++ = *ll++ | *rl++;
1188                 *dl++ = *ll++ | *rl++;
1189                 *dl++ = *ll++ | *rl++;
1190                 *dl++ = *ll++ | *rl++;
1191             }
1192         }
1193
1194         dc = (char*)dl;
1195         lc = (char*)ll;
1196         rc = (char*)rl;
1197
1198         len = remainder;
1199     }
1200 #endif
1201     {
1202         switch (optype) {
1203         case OP_BIT_AND:
1204             while (len--)
1205                 *dc++ = *lc++ & *rc++;
1206             break;
1207         case OP_BIT_XOR:
1208             while (len--)
1209                 *dc++ = *lc++ ^ *rc++;
1210             goto mop_up;
1211         case OP_BIT_OR:
1212             while (len--)
1213                 *dc++ = *lc++ | *rc++;
1214           mop_up:
1215             len = lensave;
1216             if (rightlen > len)
1217                 sv_catpvn(sv, rsave + len, rightlen - len);
1218             else if (leftlen > len)
1219                 sv_catpvn(sv, lsave + len, leftlen - len);
1220             else
1221                 *SvEND(sv) = '\0';
1222             break;
1223         }
1224     }
1225 finish:
1226     SvTAINT(sv);
1227 }
1228
1229 OP *
1230 Perl_do_kv(pTHX)
1231 {
1232     djSP;
1233     HV *hv = (HV*)POPs;
1234     HV *keys;
1235     register HE *entry;
1236     SV *tmpstr;
1237     I32 gimme = GIMME_V;
1238     I32 dokeys =   (PL_op->op_type == OP_KEYS);
1239     I32 dovalues = (PL_op->op_type == OP_VALUES);
1240     I32 realhv = (SvTYPE(hv) == SVt_PVHV);
1241     
1242     if (PL_op->op_type == OP_RV2HV || PL_op->op_type == OP_PADHV) 
1243         dokeys = dovalues = TRUE;
1244
1245     if (!hv) {
1246         if (PL_op->op_flags & OPf_MOD) {        /* lvalue */
1247             dTARGET;            /* make sure to clear its target here */
1248             if (SvTYPE(TARG) == SVt_PVLV)
1249                 LvTARG(TARG) = Nullsv;
1250             PUSHs(TARG);
1251         }
1252         RETURN;
1253     }
1254
1255     keys = realhv ? hv : avhv_keys((AV*)hv);
1256     (void)hv_iterinit(keys);    /* always reset iterator regardless */
1257
1258     if (gimme == G_VOID)
1259         RETURN;
1260
1261     if (gimme == G_SCALAR) {
1262         IV i;
1263         dTARGET;
1264
1265         if (PL_op->op_flags & OPf_MOD) {        /* lvalue */
1266             if (SvTYPE(TARG) < SVt_PVLV) {
1267                 sv_upgrade(TARG, SVt_PVLV);
1268                 sv_magic(TARG, Nullsv, 'k', Nullch, 0);
1269             }
1270             LvTYPE(TARG) = 'k';
1271             if (LvTARG(TARG) != (SV*)keys) {
1272                 if (LvTARG(TARG))
1273                     SvREFCNT_dec(LvTARG(TARG));
1274                 LvTARG(TARG) = SvREFCNT_inc(keys);
1275             }
1276             PUSHs(TARG);
1277             RETURN;
1278         }
1279
1280         if (! SvTIED_mg((SV*)keys, 'P'))
1281             i = HvKEYS(keys);
1282         else {
1283             i = 0;
1284             /*SUPPRESS 560*/
1285             while (hv_iternext(keys)) i++;
1286         }
1287         PUSHi( i );
1288         RETURN;
1289     }
1290
1291     EXTEND(SP, HvKEYS(keys) * (dokeys + dovalues));
1292
1293     PUTBACK;    /* hv_iternext and hv_iterval might clobber stack_sp */
1294     while ((entry = hv_iternext(keys))) {
1295         SPAGAIN;
1296         if (dokeys)
1297             XPUSHs(hv_iterkeysv(entry));        /* won't clobber stack_sp */
1298         if (dovalues) {
1299             PUTBACK;
1300             tmpstr = realhv ?
1301                      hv_iterval(hv,entry) : avhv_iterval((AV*)hv,entry);
1302             DEBUG_H(Perl_sv_setpvf(aTHX_ tmpstr, "%lu%%%d=%lu",
1303                             (unsigned long)HeHASH(entry),
1304                             HvMAX(keys)+1,
1305                             (unsigned long)(HeHASH(entry) & HvMAX(keys))));
1306             SPAGAIN;
1307             XPUSHs(tmpstr);
1308         }
1309         PUTBACK;
1310     }
1311     return NORMAL;
1312 }
1313