ext/Encode/compile

   1 #!../../perl -w
   2 BEGIN {
   3     unshift @INC, '../../lib';
   4     $ENV{PATH} .= ';../..' if $^O eq 'MSWin32';
   5 }
   6 use strict;
   7 use Getopt::Std;
   8 my @orig_ARGV = @ARGV;
   9
  10 sub encode_U
  11 {
  12  # UTF-8 encode long hand - only covers part of perl's range
  13  my $uv = shift;
  14  # chr() works in native space so convert value from table
  15  # into that space before using chr().
  16  my $ch = chr(utf8::unicode_to_native($uv));
  17  # Now get core perl to encode that the way it likes.
  18  utf8::encode($ch);
  19  return $ch;
  20 }
  21
  22 sub encode_S
  23 {
  24  # encode single byte
  25  my ($ch,$page) = @_;
  26  return chr($ch);
  27 }
  28
  29 sub encode_D
  30 {
  31  # encode double byte MS byte first
  32  my ($ch,$page) = @_;
  33  return chr($page).chr($ch);
  34 }
  35
  36 sub encode_M
  37 {
  38  # encode Multi-byte - single for 0..255 otherwise double
  39  my ($ch,$page) = @_;
  40  return &encode_D if $page;
  41  return &encode_S;
  42 }
  43
  44 # Win32 does not expand globs on command line
  45 eval "\@ARGV = map(glob(\$_),\@ARGV)" if ($^O eq 'MSWin32');
  46
  47 my %opt;
  48 getopts('qo:f:n:',\%opt);
  49 my $cname = (exists $opt{'o'}) ? $opt{'o'} : shift(@ARGV);
  50 chmod(0666,$cname) if -f $cname && !-w $cname;
  51 open(C,">$cname") || die "Cannot open $cname:$!";
  52
  53
  54 my $dname = $cname;
  55 $dname =~ s/(\.[^\.]*)?$/.def/;
  56
  57 my ($doC,$doEnc,$doUcm,$doPet);
  58
  59 if ($cname =~ /\.(c|xs)$/)
  60  {
  61   $doC = 1;
  62   chmod(0666,$dname) if -f $cname && !-w $dname;
  63   open(D,">$dname") || die "Cannot open $dname:$!";
  64   my $hname = $cname;
  65   $hname =~ s/(\.[^\.]*)?$/.h/;
  66   chmod(0666,$hname) if -f $cname && !-w $hname;
  67   open(H,">$hname") || die "Cannot open $hname:$!";
  68
  69   foreach my $fh (\*C,\*D,\*H)
  70   {
  71    print $fh <<"END" unless $opt{'q'};
  72 /*
  73  !!!!!!!   DO NOT EDIT THIS FILE   !!!!!!!
  74  This file was autogenerated by:
  75  $^X $0 $cname @orig_ARGV
  76 */
  77 END
  78   }
  79
  80   if ($cname =~ /(\w+)\.xs$/)
  81    {
  82     print C "#include <EXTERN.h>\n";
  83     print C "#include <perl.h>\n";
  84     print C "#include <XSUB.h>\n";
  85     print C "#define U8 U8\n";
  86    }
  87   print C "#include \"encode.h\"\n";
  88  }
  89 elsif ($cname =~ /\.enc$/)
  90  {
  91   $doEnc = 1;
  92  }
  93 elsif ($cname =~ /\.ucm$/)
  94  {
  95   $doUcm = 1;
  96  }
  97 elsif ($cname =~ /\.pet$/)
  98  {
  99   $doPet = 1;
 100  }
 101
 102 my @encfiles;
 103 if (exists $opt{'f'})
 104  {
 105   # -F is followed by name of file containing list of filenames
 106   my $flist = $opt{'f'};
 107   open(FLIST,$flist) || die "Cannot open $flist:$!";
 108   chomp(@encfiles = <FLIST>);
 109   close(FLIST);
 110  }
 111 else
 112  {
 113   @encfiles = @ARGV;
 114  }
 115
 116 my %encoding;
 117 my %strings;
 118
 119 sub cmp_name
 120 {
 121  if ($a =~ /^.*-(\d+)/)
 122   {
 123    my $an = $1;
 124    if ($b =~ /^.*-(\d+)/)
 125     {
 126      my $r = $an <=> $1;
 127      return $r if $r;
 128     }
 129   }
 130  return $a cmp $b;
 131 }
 132
 133
 134 foreach my $enc (sort cmp_name @encfiles)
 135  {
 136   my ($name,$sfx) = $enc =~ /^.*?([\w-]+)\.(enc|ucm)$/;
 137   $name = $opt{'n'} if exists $opt{'n'};
 138   if (open(E,$enc))
 139    {
 140     if ($sfx eq 'enc')
 141      {
 142       compile_enc(\*E,lc($name));
 143      }
 144     else
 145      {
 146       compile_ucm(\*E,lc($name));
 147      }
 148    }
 149   else
 150    {
 151     warn "Cannot open $enc for $name:$!";
 152    }
 153  }
 154
 155 if ($doC)
 156  {
 157   foreach my $name (sort cmp_name keys %encoding)
 158    {
 159     my ($e2u,$u2e,$erep,$min_el,$max_el) = @{$encoding{$name}};
 160     output(\*C,$name.'_utf8',$e2u);
 161     output(\*C,'utf8_'.$name,$u2e);
 162     push(@{$encoding{$name}},outstring(\*C,$e2u->{Cname}.'_def',$erep));
 163    }
 164   foreach my $enc (sort cmp_name keys %encoding)
 165    {
 166     my ($e2u,$u2e,$rep,$min_el,$max_el,$rsym) = @{$encoding{$enc}};
 167     my @info = ($e2u->{Cname},$u2e->{Cname},$rsym,length($rep),$min_el,$max_el);
 168     my $sym = "${enc}_encoding";
 169     $sym =~ s/\W+/_/g;
 170     print C "encode_t $sym = \n";
 171     print C " {",join(',',@info,"{\"$enc\",(const char *)0}"),"};\n\n";
 172    }
 173
 174   foreach my $enc (sort cmp_name keys %encoding)
 175    {
 176     my $sym = "${enc}_encoding";
 177     $sym =~ s/\W+/_/g;
 178     print H "extern encode_t $sym;\n";
 179     print D " Encode_Define(aTHX_ &$sym);\n";
 180    }
 181
 182   if ($cname =~ /(\w+)\.xs$/)
 183    {
 184     my $mod = $1;
 185     print C "\nMODULE = Encode::$mod\tPACKAGE = Encode::$mod\n\n";
 186     print C "BOOT:\n{\n";
 187     print C "#include \"$dname\"\n";
 188     print C "}\n";
 189    }
 190   close(D);
 191   close(H);
 192  }
 193 elsif ($doEnc)
 194  {
 195   foreach my $name (sort cmp_name keys %encoding)
 196    {
 197     my ($e2u,$u2e,$erep,$min_el,$max_el) = @{$encoding{$name}};
 198     output_enc(\*C,$name,$e2u);
 199    }
 200  }
 201 elsif ($doUcm)
 202  {
 203   foreach my $name (sort cmp_name keys %encoding)
 204    {
 205     my ($e2u,$u2e,$erep,$min_el,$max_el) = @{$encoding{$name}};
 206     output_ucm(\*C,$name,$u2e,$erep,$min_el,$max_el);
 207    }
 208  }
 209
 210 close(C);
 211
 212
 213 sub compile_ucm
 214 {
 215  my ($fh,$name) = @_;
 216  my $e2u = {};
 217  my $u2e = {};
 218  my $cs;
 219  my %attr;
 220  while (<$fh>)
 221   {
 222    s/#.*$//;
 223    last if /^\s*CHARMAP\s*$/i;
 224    if (/^\s*<(\w+)>\s+"?([^"]*)"?\s*$/i)
 225     {
 226      $attr{$1} = $2;
 227     }
 228   }
 229  if (!defined($cs =  $attr{'code_set_name'}))
 230   {
 231    warn "No <code_set_name> in $name\n";
 232   }
 233  else
 234   {
 235    $name = $cs unless exists $opt{'n'};
 236   }
 237  my $erep;
 238  my $urep;
 239  my $max_el;
 240  my $min_el;
 241  if (exists $attr{'subchar'})
 242   {
 243    my @byte;
 244    $attr{'subchar'} =~ /^\s*/cg;
 245    push(@byte,$1) while $attr{'subchar'} =~ /\G\\x([0-9a-f]+)/icg;
 246    $erep = join('',map(chr(hex($_)),@byte));
 247   }
 248  print "Scanning $name ($cs)\n";
 249  my $nfb = 0;
 250  my $hfb = 0;
 251  while (<$fh>)
 252   {
 253    s/#.*$//;
 254    last if /^\s*END\s+CHARMAP\s*$/i;
 255    next if /^\s*$/;
 256    my ($u,@byte);
 257    my $fb = '';
 258    $u = $1 if (/^<U([0-9a-f]+)>\s+/igc);
 259    push(@byte,$1) while /\G\\x([0-9a-f]+)/igc;
 260    $fb = $1 if /\G\s*(\|[0-3])/gc;
 261    # warn "$_: $u @byte | $fb\n";
 262    die "Bad line:$_" unless /\G\s*(#.*)?$/gc;
 263    if (defined($u))
 264     {
 265      my $uch = encode_U(hex($u));
 266      my $ech = join('',map(chr(hex($_)),@byte));
 267      my $el  = length($ech);
 268      $max_el = $el if (!defined($max_el) || $el > $max_el);
 269      $min_el = $el if (!defined($min_el) || $el < $min_el);
 270      if (length($fb))
 271       {
 272        $fb = substr($fb,1);
 273        $hfb++;
 274       }
 275      else
 276       {
 277        $nfb++;
 278        $fb = '0';
 279       }
 280      # $fb is fallback flag
 281      # 0 - round trip safe
 282      # 1 - fallback for unicode -> enc
 283      # 2 - skip sub-char mapping
 284      # 3 - fallback enc -> unicode
 285      enter($u2e,$uch,$ech,$u2e,$fb+0) if ($fb =~ /[01]/);
 286      enter($e2u,$ech,$uch,$e2u,$fb+0) if ($fb =~ /[03]/);
 287     }
 288    else
 289     {
 290      warn $_;
 291     }
 292   }
 293  if ($nfb && $hfb)
 294   {
 295    die "$nfb entries without fallback, $hfb entries with\n";
 296   }
 297  $encoding{$name} = [$e2u,$u2e,$erep,$min_el,$max_el];
 298 }
 299
 300 sub compile_enc
 301 {
 302  my ($fh,$name) = @_;
 303  my $e2u = {};
 304  my $u2e = {};
 305
 306  my $type;
 307  while ($type = <$fh>)
 308   {
 309    last if $type !~ /^\s*#/;
 310   }
 311  chomp($type);
 312  return if $type eq 'E';
 313  my ($def,$sym,$pages) = split(/\s+/,scalar(<$fh>));
 314  warn "$type encoded $name\n";
 315  my $rep = '';
 316  my $min_el;
 317  my $max_el;
 318  {
 319   my $v = hex($def);
 320   no strict 'refs';
 321   $rep = &{"encode_$type"}($v & 0xFF, ($v >> 8) & 0xffe);
 322  }
 323  my %seen;
 324  while ($pages--)
 325   {
 326    my $line = <$fh>;
 327    chomp($line);
 328    my $page = hex($line);
 329    my $ch = 0;
 330    for (my $i = 0; $i < 16; $i++)
 331     {
 332      my $line = <$fh>;
 333      for (my $j = 0; $j < 16; $j++)
 334       {
 335        no strict 'refs';
 336        my $ech = &{"encode_$type"}($ch,$page);
 337        my $val = hex(substr($line,0,4,''));
 338        next if $val == 0xFFFD;
 339        if ($val || (!$ch && !$page))
 340         {
 341          my $el  = length($ech);
 342          $max_el = $el if (!defined($max_el) || $el > $max_el);
 343          $min_el = $el if (!defined($min_el) || $el < $min_el);
 344          my $uch = encode_U($val);
 345          if (exists $seen{$uch})
 346           {
 347            warn sprintf("U%04X is %02X%02X and %02X%02X\n",
 348                         $val,$page,$ch,@{$seen{$uch}});
 349           }
 350          else
 351           {
 352            $seen{$uch} = [$page,$ch];
 353           }
 354          enter($e2u,$ech,$uch,$e2u,0);
 355          enter($u2e,$uch,$ech,$u2e,0);
 356         }
 357        else
 358         {
 359          # No character at this position
 360          # enter($e2u,$ech,undef,$e2u);
 361         }
 362        $ch++;
 363       }
 364     }
 365   }
 366  $encoding{$name} = [$e2u,$u2e,$rep,$min_el,$max_el];
 367 }
 368
 369 sub enter
 370 {
 371  my ($a,$s,$d,$t,$fb) = @_;
 372  $t = $a if @_ < 4;
 373  my $b = substr($s,0,1);
 374  my $e = $a->{$b};
 375  unless ($e)
 376   {     # 0  1  2  3         4  5
 377    $e = [$b,$b,'',{},length($s),0,$fb];
 378    $a->{$b} = $e;
 379   }
 380  if (length($s) > 1)
 381   {
 382    enter($e->[3],substr($s,1),$d,$t,$fb);
 383   }
 384  else
 385   {
 386    $e->[2] = $d;
 387    $e->[3] = $t;
 388    $e->[5] = length($d);
 389   }
 390 }
 391
 392 sub outstring
 393 {
 394  my ($fh,$name,$s) = @_;
 395  my $sym = $strings{$s};
 396  unless ($sym)
 397   {
 398    foreach my $o (keys %strings)
 399     {
 400      my $i = index($o,$s);
 401      if ($i >= 0)
 402       {
 403        $sym = $strings{$o};
 404        $sym .= sprintf("+0x%02x",$i) if ($i);
 405        return $sym;
 406       }
 407     }
 408    $strings{$s} = $sym = $name;
 409    printf $fh "\nstatic const U8 %s[%d] =\n",$name,length($s);
 410    # Do in chunks of 16 chars to constrain line length
 411    # Assumes ANSI C adjacent string litteral concatenation
 412    while (length($s))
 413     {
 414      my $c = substr($s,0,16,'');
 415      print  $fh '"',join('',map(sprintf('\x%02x',ord($_)),split(//,$c))),'"';
 416      print  $fh "\n" if length($s);
 417     }
 418    printf $fh ";\n";
 419   }
 420  return $sym;
 421 }
 422
 423 sub process
 424 {
 425  my ($name,$a) = @_;
 426  $name =~ s/\W+/_/g;
 427  $a->{Cname} = $name;
 428  my @keys = grep(ref($a->{$_}),sort keys %$a);
 429  my $l;
 430  my @ent;
 431  foreach my $b (@keys)
 432   {
 433    my ($s,$f,$out,$t,$end) = @{$a->{$b}};
 434    if (defined($l) &&
 435        ord($b) == ord($a->{$l}[1])+1 &&
 436        $a->{$l}[3] == $a->{$b}[3] &&
 437        $a->{$l}[4] == $a->{$b}[4] &&
 438        $a->{$l}[5] == $a->{$b}[5] &&
 439        $a->{$l}[6] == $a->{$b}[6]
 440        # && length($a->{$l}[2]) < 16
 441       )
 442     {
 443      my $i = ord($b)-ord($a->{$l}[0]);
 444      $a->{$l}[1]  = $b;
 445      $a->{$l}[2] .= $a->{$b}[2];
 446     }
 447    else
 448     {
 449      $l = $b;
 450      push(@ent,$b);
 451     }
 452    if (exists $t->{Cname})
 453     {
 454      $t->{'Forward'} = 1 if $t != $a;
 455     }
 456    else
 457     {
 458      process(sprintf("%s_%02x",$name,ord($s)),$t);
 459     }
 460   }
 461  if (ord($keys[-1]) < 255)
 462   {
 463    my $t = chr(ord($keys[-1])+1);
 464    $a->{$t} = [$t,chr(255),undef,$a,0,0];
 465    push(@ent,$t);
 466   }
 467  $a->{'Entries'} = \@ent;
 468 }
 469
 470 sub outtable
 471 {
 472  my ($fh,$a) = @_;
 473  my $name = $a->{'Cname'};
 474  # String tables
 475  foreach my $b (@{$a->{'Entries'}})
 476   {
 477    next unless $a->{$b}[5];
 478    my $s = ord($a->{$b}[0]);
 479    my $e = ord($a->{$b}[1]);
 480    outstring($fh,sprintf("%s__%02x_%02x",$name,$s,$e),$a->{$b}[2]);
 481   }
 482  if ($a->{'Forward'})
 483   {
 484    print $fh "\nstatic encpage_t $name\[",scalar(@{$a->{'Entries'}}),"];\n";
 485   }
 486  $a->{'Done'} = 1;
 487  foreach my $b (@{$a->{'Entries'}})
 488   {
 489    my ($s,$e,$out,$t,$end,$l) = @{$a->{$b}};
 490    outtable($fh,$t) unless $t->{'Done'};
 491   }
 492  print $fh "\nstatic encpage_t $name\[",scalar(@{$a->{'Entries'}}),"] = {\n";
 493  foreach my $b (@{$a->{'Entries'}})
 494   {
 495    my ($s,$e,$out,$t,$end,$l,$fb) = @{$a->{$b}};
 496    my $sc = ord($s);
 497    my $ec = ord($e);
 498    $end |= 0x80 if $fb;
 499    print  $fh "{";
 500    if ($l)
 501     {
 502      printf $fh outstring($fh,'',$out);
 503     }
 504    else
 505     {
 506      print  $fh "0";
 507     }
 508    print  $fh ",",$t->{Cname};
 509    printf $fh ",0x%02x,0x%02x,$l,$end},\n",$sc,$ec;
 510   }
 511  print $fh "};\n";
 512 }
 513
 514 sub output
 515 {
 516  my ($fh,$name,$a) = @_;
 517  process($name,$a);
 518  # Sub-tables
 519  outtable($fh,$a);
 520 }
 521
 522 sub output_enc
 523 {
 524  my ($fh,$name,$a) = @_;
 525  foreach my $b (sort keys %$a)
 526   {
 527    my ($s,$e,$out,$t,$end,$l,$fb) = @{$a->{$b}};
 528   }
 529 }
 530
 531 sub decode_U
 532 {
 533  my $s = shift;
 534 }
 535
 536 my @uname;
 537 sub char_names
 538 {
 539  my $s = do "unicore/Name.pl";
 540  die "char_names: unicore/Name.pl: $!\n" unless defined $s;
 541  pos($s) = 0;
 542  while ($s =~ /\G([0-9a-f]+)\t([0-9a-f]*)\t(.*?)\s*\n/igc)
 543   {
 544    my $name = $3;
 545    my $s = hex($1);
 546    last if $s >= 0x10000;
 547    my $e = length($2) ? hex($2) : $s;
 548    for (my $i = $s; $i <= $e; $i++)
 549     {
 550      $uname[$i] = $name;
 551 #    print sprintf("U%04X $name\n",$i);
 552     }
 553   }
 554 }
 555
 556 sub output_ucm_page
 557 {
 558  my ($cmap,$a,$t,$pre) = @_;
 559  # warn sprintf("Page %x\n",$pre);
 560  foreach my $b (sort keys %$t)
 561   {
 562    my ($s,$e,$out,$n,$end,$l,$fb) = @{$t->{$b}};
 563    die "oops $s $e" unless $s eq $e;
 564    my $u = ord($s);
 565    if ($n != $a && $n != $t)
 566     {
 567      output_ucm_page($cmap,$a,$n,(($pre|($u &0x3F)) << 6)&0xFFFF);
 568     }
 569    elsif (length($out))
 570     {
 571      if ($pre)
 572       {
 573        $u = $pre|($u &0x3f);
 574       }
 575      my $s = sprintf "<U%04X> ",$u;
 576      foreach my $c (split(//,$out))
 577       {
 578        $s .= sprintf "\\x%02X",ord($c);
 579       }
 580      $s .= sprintf " |%d # %s\n",($fb ? 1 : 0),$uname[$u];
 581      push(@$cmap,$s);
 582     }
 583    else
 584     {
 585      warn join(',',@{$t->{$b}},$a,$t);
 586     }
 587   }
 588 }
 589
 590 sub output_ucm
 591 {
 592  my ($fh,$name,$h,$rep,$min_el,$max_el) = @_;
 593  print $fh "# $0 @orig_ARGV\n" unless $opt{'q'};
 594  print $fh "<code_set_name> \"$name\"\n";
 595  char_names();
 596  if (defined $min_el)
 597   {
 598    print $fh "<mb_cur_min> $min_el\n";
 599   }
 600  if (defined $max_el)
 601   {
 602    print $fh "<mb_cur_max> $max_el\n";
 603   }
 604  if (defined $rep)
 605   {
 606    print $fh "<subchar> ";
 607    foreach my $c (split(//,$rep))
 608     {
 609      printf $fh "\\x%02X",ord($c);
 610     }
 611    print $fh "\n";
 612   }
 613  my @cmap;
 614  output_ucm_page(\@cmap,$h,$h,0);
 615  print $fh "#\nCHARMAP\n";
 616  foreach my $line (sort { substr($a,8) cmp substr($b,8) } @cmap)
 617   {
 618    print $fh $line;
 619   }
 620  print $fh "END CHARMAP\n";
 621 }
 622