t/pragma/locale.t

   1 #!./perl -wT
   2
   3 BEGIN {
   4     chdir 't' if -d 't';
   5     unshift @INC, '../lib';
   6     require Config; import Config;
   7     if (!$Config{d_setlocale} || $Config{ccflags} =~ /\bD?NO_LOCALE\b/) {
   8         print "1..0\n";
   9         exit;
  10     }
  11 }
  12
  13 use strict;
  14
  15 my $debug = 1;
  16
  17 my $have_setlocale = 0;
  18 eval {
  19     require POSIX;
  20     import POSIX ':locale_h';
  21     $have_setlocale++;
  22 };
  23
  24 use vars qw(&LC_ALL);
  25
  26 # Visual C's CRT goes silly on strings of the form "en_US.ISO8859-1"
  27 # and mingw32 uses said silly CRT
  28 $have_setlocale = 0 if $^O eq 'MSWin32' && $Config{cc} =~ /^(cl|gcc)/i;
  29
  30 # 103 (the last test) may fail but that is sort-of okay.
  31 # (It indicates something broken in the environment, not Perl)
  32
  33 print "1..", ($have_setlocale ? 103 : 98), "\n";
  34
  35 use vars qw($a
  36             $English $German $French $Spanish
  37             @C @English @German @French @Spanish
  38             $Locale @Locale %UPPER %lower %bothcase @Neoalpha);
  39
  40 $a = 'abc %';
  41
  42 sub ok {
  43     my ($n, $result) = @_;
  44
  45     print 'not ' unless ($result);
  46     print "ok $n\n";
  47 }
  48
  49 # First we'll do a lot of taint checking for locales.
  50 # This is the easiest to test, actually, as any locale,
  51 # even the default locale will taint under 'use locale'.
  52
  53 sub is_tainted { # hello, camel two.
  54     local $^W;  # no warnings 'undef'
  55     my $dummy;
  56     not eval { $dummy = join("", @_), kill 0; 1 }
  57 }
  58
  59 sub check_taint ($$) {
  60     ok $_[0], is_tainted($_[1]);
  61 }
  62
  63 sub check_taint_not ($$) {
  64     ok $_[0], not is_tainted($_[1]);
  65 }
  66
  67 use locale;     # engage locale and therefore locale taint.
  68
  69 check_taint_not   1, $a;
  70
  71 check_taint       2, uc($a);
  72 check_taint       3, "\U$a";
  73 check_taint       4, ucfirst($a);
  74 check_taint       5, "\u$a";
  75 check_taint       6, lc($a);
  76 check_taint       7, "\L$a";
  77 check_taint       8, lcfirst($a);
  78 check_taint       9, "\l$a";
  79
  80 check_taint      10, sprintf('%e', 123.456);
  81 check_taint      11, sprintf('%f', 123.456);
  82 check_taint      12, sprintf('%g', 123.456);
  83 check_taint_not  13, sprintf('%d', 123.456);
  84 check_taint_not  14, sprintf('%x', 123.456);
  85
  86 $_ = $a;        # untaint $_
  87
  88 $_ = uc($a);    # taint $_
  89
  90 check_taint      15, $_;
  91
  92 /(\w)/; # taint $&, $`, $', $+, $1.
  93 check_taint      16, $&;
  94 check_taint      17, $`;
  95 check_taint      18, $';
  96 check_taint      19, $+;
  97 check_taint      20, $1;
  98 check_taint_not  21, $2;
  99
 100 /(.)/;  # untaint $&, $`, $', $+, $1.
 101 check_taint_not  22, $&;
 102 check_taint_not  23, $`;
 103 check_taint_not  24, $';
 104 check_taint_not  25, $+;
 105 check_taint_not  26, $1;
 106 check_taint_not  27, $2;
 107
 108 /(\W)/; # taint $&, $`, $', $+, $1.
 109 check_taint      28, $&;
 110 check_taint      29, $`;
 111 check_taint      30, $';
 112 check_taint      31, $+;
 113 check_taint      32, $1;
 114 check_taint_not  33, $2;
 115
 116 /(\s)/; # taint $&, $`, $', $+, $1.
 117 check_taint      34, $&;
 118 check_taint      35, $`;
 119 check_taint      36, $';
 120 check_taint      37, $+;
 121 check_taint      38, $1;
 122 check_taint_not  39, $2;
 123
 124 /(\S)/; # taint $&, $`, $', $+, $1.
 125 check_taint      40, $&;
 126 check_taint      41, $`;
 127 check_taint      42, $';
 128 check_taint      43, $+;
 129 check_taint      44, $1;
 130 check_taint_not  45, $2;
 131
 132 $_ = $a;        # untaint $_
 133
 134 check_taint_not  46, $_;
 135
 136 /(b)/;          # this must not taint
 137 check_taint_not  47, $&;
 138 check_taint_not  48, $`;
 139 check_taint_not  49, $';
 140 check_taint_not  50, $+;
 141 check_taint_not  51, $1;
 142 check_taint_not  52, $2;
 143
 144 $_ = $a;        # untaint $_
 145
 146 check_taint_not  53, $_;
 147
 148 $b = uc($a);    # taint $b
 149 s/(.+)/$b/;     # this must taint only the $_
 150
 151 check_taint      54, $_;
 152 check_taint_not  55, $&;
 153 check_taint_not  56, $`;
 154 check_taint_not  57, $';
 155 check_taint_not  58, $+;
 156 check_taint_not  59, $1;
 157 check_taint_not  60, $2;
 158
 159 $_ = $a;        # untaint $_
 160
 161 s/(.+)/b/;      # this must not taint
 162 check_taint_not  61, $_;
 163 check_taint_not  62, $&;
 164 check_taint_not  63, $`;
 165 check_taint_not  64, $';
 166 check_taint_not  65, $+;
 167 check_taint_not  66, $1;
 168 check_taint_not  67, $2;
 169
 170 $b = $a;        # untaint $b
 171
 172 ($b = $a) =~ s/\w/$&/;
 173 check_taint      68, $b;        # $b should be tainted.
 174 check_taint_not  69, $a;        # $a should be not.
 175
 176 $_ = $a;        # untaint $_
 177
 178 s/(\w)/\l$1/;   # this must taint
 179 check_taint      70, $_;
 180 check_taint      71, $&;
 181 check_taint      72, $`;
 182 check_taint      73, $';
 183 check_taint      74, $+;
 184 check_taint      75, $1;
 185 check_taint_not  76, $2;
 186
 187 $_ = $a;        # untaint $_
 188
 189 s/(\w)/\L$1/;   # this must taint
 190 check_taint      77, $_;
 191 check_taint      78, $&;
 192 check_taint      79, $`;
 193 check_taint      80, $';
 194 check_taint      81, $+;
 195 check_taint      82, $1;
 196 check_taint_not  83, $2;
 197
 198 $_ = $a;        # untaint $_
 199
 200 s/(\w)/\u$1/;   # this must taint
 201 check_taint      84, $_;
 202 check_taint      85, $&;
 203 check_taint      86, $`;
 204 check_taint      87, $';
 205 check_taint      88, $+;
 206 check_taint      89, $1;
 207 check_taint_not  90, $2;
 208
 209 $_ = $a;        # untaint $_
 210
 211 s/(\w)/\U$1/;   # this must taint
 212 check_taint      91, $_;
 213 check_taint      92, $&;
 214 check_taint      93, $`;
 215 check_taint      94, $';
 216 check_taint      95, $+;
 217 check_taint      96, $1;
 218 check_taint_not  97, $2;
 219
 220 # After all this tainting $a should be cool.
 221
 222 check_taint_not  98, $a;
 223
 224 # I think we've seen quite enough of taint.
 225 # Let us do some *real* locale work now,
 226 # unless setlocale() is missing (i.e. minitest).
 227
 228 exit unless $have_setlocale;
 229
 230 # Find locales.
 231
 232 my $locales = <<EOF;
 233 Arabic:ar:dz eg sa:6 arabic8
 234 Bulgarian:bg:bg:5
 235 Chinese:zh:cn tw:cn.EUC eucCN eucTW euc.CN euc.TW tw.EUC
 236 Croation:hr:hr:2
 237 Czech:cs:cz:2
 238 Danish:dk:da:1
 239 Danish:dk:da:1
 240 Dutch:nl:nl:1
 241 English American British:en:au ca gb ie nz us uk:1 cp850
 242 Estonian:et:ee:1
 243 Finnish:fi:fi:1
 244 French:fr:be ca ch fr:1
 245 German:de:de at ch:1
 246 Greek:el:gr:7 g8
 247 Hebrew:iw:il:8 hebrew8
 248 Hungarian:hu:hu:2
 249 Icelandic:is:is:1
 250 Italian:it:it:1
 251 Japanese:ja:jp:euc eucJP jp.EUC sjis
 252 Korean:ko:kr:
 253 Latin:la:va:1
 254 Latvian:lv:lv:1
 255 Lithuanian:lt:lt:1
 256 Polish:pl:pl:2
 257 Portuguese:po:po br:1
 258 Rumanian:ro:ro:2
 259 Russian:ru:ru su:5 koi8 koi8r koi8u cp1251
 260 Slovak:sk:sk:2
 261 Slovene:sl:si:2
 262 Spanish:es:ar bo cl co cr ec es gt mx ni pa pe py sv uy ve:1
 263 Swedish:sv:se:1
 264 Thai:th:th:tis620
 265 Turkish:tr:tr:9 turkish8
 266 EOF
 267
 268 my @Locale;
 269 my $Locale;
 270 my @Alnum_;
 271
 272 sub getalnum_ {
 273     sort grep /\w/, map { chr } 0..255
 274 }
 275
 276 sub trylocale {
 277     my $locale = shift;
 278     if (setlocale(LC_ALL, $locale)) {
 279         push @Locale, $locale;
 280     }
 281 }
 282
 283 sub decode_encodings {
 284     my @enc;
 285
 286     foreach (split(/ /, shift)) {
 287         if (/^(\d+)$/) {
 288             push @enc, "ISO8859-$1";
 289             push @enc, "iso8859$1";     # HP
 290             if ($1 eq '1') {
 291                  push @enc, "roman8";   # HP
 292             }
 293         } else {
 294             push @enc, $_;
 295         }
 296     }
 297
 298     return @enc;
 299 }
 300
 301 trylocale("C");
 302 trylocale("POSIX");
 303 foreach (0..15) {
 304     trylocale("ISO8859-$_");
 305     trylocale("iso_8859_$_");
 306     trylocale("iso8859$_");
 307 }
 308
 309 foreach my $locale (split(/\n/, $locales)) {
 310     my ($locale_name, $language_codes, $country_codes, $encodings) =
 311         split(/:/, $locale);
 312     my @enc = decode_encodings($encodings);
 313     foreach my $loc (split(/ /, $locale_name)) {
 314         trylocale($loc);
 315         foreach my $enc (@enc) {
 316             trylocale("$loc.$enc");
 317         }
 318         $loc = lc $loc;
 319         foreach my $enc (@enc) {
 320             trylocale("$loc.$enc");
 321         }
 322     }
 323     foreach my $lang (split(/ /, $language_codes)) {
 324         trylocale($lang);
 325         foreach my $country (split(/ /, $country_codes)) {
 326             my $lc = "${lang}_${country}";
 327             trylocale($lc);
 328             foreach my $enc (@enc) {
 329                 trylocale("$lc.$enc");
 330             }
 331             my $lC = "${lang}_\U${country}";
 332             trylocale($lC);
 333             foreach my $enc (@enc) {
 334                 trylocale("$lC.$enc");
 335             }
 336         }
 337     }
 338 }
 339
 340 @Locale = sort @Locale;
 341
 342 sub debug {
 343     print @_ if $debug;
 344 }
 345
 346 sub debugf {
 347     printf @_ if $debug;
 348 }
 349
 350 debug "# Locales = @Locale\n";
 351
 352 my %Problem;
 353
 354 foreach $Locale (@Locale) {
 355     debug "# Locale = $Locale\n";
 356     @Alnum_ = getalnum_();
 357     debug "# \\w = @Alnum_\n";
 358
 359     unless (setlocale(LC_ALL, $Locale)) {
 360         foreach (99..103) {
 361             $Problem{$_}{$Locale} = -1;
 362         }
 363         next;
 364     }
 365
 366     # Sieve the uppercase and the lowercase.
 367
 368     %UPPER = %lower = %bothcase = ();
 369     for (@Alnum_) {
 370         if (/[^\d_]/) { # skip digits and the _
 371             if (uc($_) eq $_) {
 372                 $UPPER{$_} = $_;
 373             }
 374             if (lc($_) eq $_) {
 375                 $lower{$_} = $_;
 376             }
 377         }
 378     }
 379     foreach (keys %UPPER) {
 380         $bothcase{$_}++ if exists $lower{$_};
 381     }
 382     foreach (keys %lower) {
 383         $bothcase{$_}++ if exists $UPPER{$_};
 384     }
 385     foreach (keys %bothcase) {
 386         delete $UPPER{$_};
 387         delete $lower{$_};
 388     }
 389
 390     debug "# UPPER    = ", join(" ", sort keys %UPPER   ), "\n";
 391     debug "# lower    = ", join(" ", sort keys %lower   ), "\n";
 392     debug "# bothcase = ", join(" ", sort keys %bothcase), "\n";
 393
 394     # Find the alphabets that are not alphabets in the default locale.
 395
 396     {
 397         no locale;
 398
 399         @Neoalpha = ();
 400         for (keys %UPPER, keys %lower) {
 401             push(@Neoalpha, $_) if (/\W/);
 402         }
 403     }
 404
 405     @Neoalpha = sort @Neoalpha;
 406
 407     debug "# Neoalpha = @Neoalpha\n";
 408
 409     if (@Neoalpha == 0) {
 410         # If we have no Neoalphas the remaining tests are no-ops.
 411         debug "# no Neoalpha, skipping tests 99..103 for locale '$Locale'\n";
 412         next;
 413     }
 414
 415     # Test \w.
 416
 417     debug "# testing 99 with locale '$Locale'\n";
 418     {
 419         my $word = join('', @Neoalpha);
 420
 421         $word =~ /^(\w+)$/;
 422
 423         if ($1 ne $word) {
 424             $Problem{99}{$Locale} = 1;
 425             debug "# failed 99 ($1 vs $word)\n";
 426         }
 427     }
 428
 429     # Test #100 removed but to preserve historical test number
 430     # consistency we do not renumber the remaining tests.
 431
 432     # Cross-check whole character set.
 433
 434     debug "# testing 101 with locale '$Locale'\n";
 435     for (map { chr } 0..255) {
 436         if ((/\w/ and /\W/) or (/\d/ and /\D/) or (/\s/ and /\S/)) {
 437             $Problem{101}{$Locale} = 1;
 438             debug "# failed 101\n";
 439             last;
 440         }
 441     }
 442
 443     # Test for read-only scalars' locale vs non-locale comparisons.
 444
 445     debug "# testing 102 with locale '$Locale'\n";
 446     {
 447         no locale;
 448         $a = "qwerty";
 449         {
 450             use locale;
 451             if ($a cmp "qwerty") {
 452                 $Problem{102}{$Locale} = 1;
 453                 debug "# failed 102\n";
 454             }
 455         }
 456     }
 457
 458     # This test must be the last one because its failure is not fatal.
 459     # The @Alnum_ should be internally consistent.
 460     # Thanks to Hallvard Furuseth <h.b.furuseth@usit.uio.no>
 461     # for inventing a way to test for ordering consistency
 462     # without requiring any particular order.
 463     # <jhi@iki.fi>
 464
 465     debug "# testing 103 with locale '$Locale'\n";
 466     {
 467         my ($from, $to, $lesser, $greater,
 468             @test, %test, $test, $yes, $no, $sign);
 469
 470         for (0..9) {
 471             # Select a slice.
 472             $from = int(($_*@Alnum_)/10);
 473             $to = $from + int(@Alnum_/10);
 474             $to = $#Alnum_ if ($to > $#Alnum_);
 475             $lesser  = join('', @Alnum_[$from..$to]);
 476             # Select a slice one character on.
 477             $from++; $to++;
 478             $to = $#Alnum_ if ($to > $#Alnum_);
 479             $greater = join('', @Alnum_[$from..$to]);
 480             ($yes, $no, $sign) = ($lesser lt $greater
 481                                   ? ("    ", "not ", 1)
 482                                   : ("not ", "    ", -1));
 483             # all these tests should FAIL (return 0).
 484             # Exact lt or gt cannot be tested because
 485             # in some locales, say, eacute and E may test equal.
 486             @test =
 487                 (
 488                  $no.'    ($lesser  le $greater)',  # 1
 489                  'not      ($lesser  ne $greater)', # 2
 490                  '         ($lesser  eq $greater)', # 3
 491                  $yes.'    ($lesser  ge $greater)', # 4
 492                  $yes.'    ($lesser  ge $greater)', # 5
 493                  $yes.'    ($greater le $lesser )', # 7
 494                  'not      ($greater ne $lesser )', # 8
 495                  '         ($greater eq $lesser )', # 9
 496                  $no.'     ($greater ge $lesser )', # 10
 497                  'not (($lesser cmp $greater) == -$sign)' # 12
 498                  );
 499             @test{@test} = 0 x @test;
 500             $test = 0;
 501             for my $ti (@test) { $test{$ti} = eval $ti ; $test ||= $test{$ti} }
 502             if ($test) {
 503                 $Problem{103}{$Locale} = 1;
 504                 debug "# failed 103 at:\n";
 505                 debug "# lesser  = '$lesser'\n";
 506                 debug "# greater = '$greater'\n";
 507                 debug "# lesser cmp greater = ", $lesser cmp $greater, "\n";
 508                 debug "# greater cmp lesser = ", $greater cmp $lesser, "\n";
 509                 debug "# (greater) from = $from, to = $to\n";
 510                 for my $ti (@test) {
 511                     debugf("# %-40s %-4s", $ti,
 512                            $test{$ti} ? 'FAIL' : 'ok');
 513                     if ($ti =~ /\(\.*(\$.+ +cmp +\$[^\)]+)\.*\)/) {
 514                         debugf("(%s == %4d)", $1, eval $1);
 515                     }
 516                     debug "\n#";
 517                 }
 518
 519                 last;
 520             }
 521         }
 522     }
 523 }
 524
 525 no locale;
 526
 527 foreach (99..103) {
 528     if ($Problem{$_}) {
 529         if ($_ == 103) {
 530             print "# The failure of test 103 is not necessarily fatal.\n";
 531             print "# It usually indicates a problem in the enviroment,\n";
 532             print "# not in Perl itself.\n";
 533         }
 534         print "not ";
 535     }
 536     print "ok $_\n";
 537 }
 538
 539 my $didwarn = 0;
 540
 541 foreach (99..103) {
 542     if ($Problem{$_}) {
 543         my @f = sort keys %{ $Problem{$_} };
 544         my $f = join(" ", @f);
 545         $f =~ s/(.{50,60}) /$1\n#\t/g;
 546         warn
 547             "# The locale ", (@f == 1 ? "definition" : "definitions"), "\n#\n",
 548             "#\t", $f, "\n#\n",
 549             "# on your system may have errors because the locale test $_\n",
 550             "# failed in ", (@f == 1 ? "that locale" : "those locales"),
 551             ".\n";
 552         warn <<EOW;
 553 #
 554 # If your users are not using these locales you are safe for the moment,
 555 # but please report this failure first to perlbug\@perl.com using the
 556 # perlbug script (as described in the INSTALL file) so that the exact
 557 # details of the failures can be sorted out first and then your operating
 558 # system supplier can be alerted about these anomalies.
 559 #
 560 EOW
 561         $didwarn = 1;
 562     }
 563 }
 564
 565 if ($didwarn) {
 566     my @s;
 567
 568     foreach my $l (@Locale) {
 569         my $p = 0;
 570         foreach my $t (99..103) {
 571             $p++ if $Problem{$t}{$l};
 572         }
 573         push @s, $l if $p == 0;
 574     }
 575
 576     my $s = join(" ", @s);
 577     $s =~ s/(.{50,60}) /$1\n#\t/g;
 578
 579     warn
 580         "# The following locales\n#\n",
 581         "#\t", $s, "\n#\n",
 582         "# tested okay.\n#\n",
 583 }
 584
 585 # eof