memnodes.pl

   1 #!/bin/env perl
   2
   3 use strict;
   4 use warnings;
   5
   6 use DBI qw(looks_like_number);
   7 use DBD::SQLite;
   8 use JSON::XS;
   9
  10 use Getopt::Long;
  11
  12 GetOptions(
  13     'json!' => \my $opt_json,
  14     'dot!' => \my $opt_dot,
  15     'db=s'  => \my $opt_db,
  16     'verbose|v!' => \my $opt_verbose,
  17     'debug|d!' => \my $opt_debug,
  18 ) or exit 1;
  19
  20 my $j = JSON::XS->new->ascii->pretty(0);
  21
  22 my ($dbh, $node_ins_sth);
  23 if ($opt_db) {
  24     $dbh = DBI->connect("dbi:SQLite:dbname=$opt_db","","", {
  25         RaiseError => 1, PrintError => 0, AutoCommit => 0
  26     });
  27     $dbh->do("PRAGMA synchronous = OFF");
  28     $dbh->do("DROP TABLE IF EXISTS node");
  29     $dbh->do(q{
  30         CREATE TABLE node (
  31             id integer primary key,
  32             name text,
  33             title text,
  34             depth integer,
  35             parent_id integer,
  36
  37             self_size integer,
  38             kids_size integer,
  39             kids_node_count integer,
  40             child_ids text,
  41             attr_json text,
  42             leaves_json text
  43         )
  44     });
  45     $node_ins_sth = $dbh->prepare(q{
  46         INSERT INTO node VALUES (?,?,?,?,?,  ?,?,?,?,?,?)
  47     });
  48 }
  49
  50 my @stack;
  51 my %seqn2node;
  52
  53 use HTML::Entities qw(encode_entities);;
  54 my $dotnode = sub {
  55     my $name = encode_entities(shift);
  56     $name =~ s/"/\\"/g;
  57     return '"'.$name.'"';
  58 };
  59
  60 print "memnodes = [" if $opt_json;
  61
  62 if ($opt_dot) {
  63     print "digraph {\n"; # }
  64     print "graph [overlap=false]\n"; # target="???", URL="???"
  65 }
  66
  67 sub fmt_size {
  68     my $size = shift;
  69     my $kb = $size / 1024;
  70     return $size if $kb < 5;
  71     return sprintf "%.1fKb", $kb if $kb < 1000;
  72     return sprintf "%.1fMb", $kb/1024;
  73 }
  74
  75
  76 sub enter_node {
  77     my $x = shift;
  78     if ($opt_json) {
  79         print "    " x $x->{depth};
  80         print qq({ "id": "$x->{id}", "name": "$x->{name}", "depth":$x->{depth}, "children":[ \n);
  81     }
  82     if ($opt_dot) {
  83         #printf $fh qq{\tn%d [ %s ]\n}, $x->{id}, $dotnode->($x->{name});
  84         #print qq({ "id": "$x->{id}", "name": "$x->{name}", "depth":$x->{depth}, "children":[ \n);
  85     }
  86     return;
  87 }
  88
  89 sub leave_node {
  90     my $x = shift;
  91     delete $seqn2node{$x->{id}};
  92
  93     my $self_size = 0; $self_size += $_  for values %{$x->{leaves}};
  94     $x->{self_size} = $self_size;
  95
  96     my $parent = $stack[-1];
  97     if ($parent) {
  98         # link to parent
  99         $x->{parent_id} = $parent->{id};
 100         # accumulate into parent
 101         $parent->{kids_node_count} += 1 + ($x->{kids_node_count}||0);
 102         $parent->{kids_size} += $self_size + $x->{kids_size};
 103         push @{$parent->{child_id}}, $x->{id};
 104     }
 105     # output
 106     # ...
 107     if ($opt_json) {
 108         print "    " x $x->{depth};
 109         my $size = $self_size + $x->{kids_size};
 110         print qq(], "data":{ "\$area": $size } },\n);
 111     }
 112     if ($opt_dot) {
 113         printf "// n%d parent=%s(type=%s)\n", $x->{id},
 114                 $parent ? $parent->{id} : "",
 115                 $parent ? $parent->{type} : ""
 116             if 0;
 117         if ($x->{type} != 2) {
 118             my $name = $x->{title} ? "\"$x->{title}\" $x->{name}" : $x->{name};
 119
 120             if ($x->{kids_size}) {
 121                 $name .= sprintf " %s+%s=%s", fmt_size($x->{self_size}), fmt_size($x->{kids_size}), fmt_size($x->{self_size}+$x->{kids_size});
 122             }
 123             else {
 124                 $name .= sprintf " +%s", fmt_size($x->{self_size});
 125             }
 126
 127             my @node_attr = (
 128                 sprintf("label=%s", $dotnode->($name)),
 129                 "id=$x->{id}",
 130             );
 131             my @link_attr;
 132             #if ($x->{name} eq 'hek') { push @node_attr, "shape=point"; push @node_attr, "labelfontsize=6"; }
 133             if ($parent) { # probably a link
 134                 my $parent_id = $parent->{id};
 135                 my @link_attr = ("id=$parent_id");
 136                 if ($parent->{type} == 2) { # link
 137                     (my $link_name = $parent->{name}) =~ s/->$//;
 138                     push @link_attr, (sprintf "label=%s", $dotnode->($link_name));
 139                     $parent_id = ($stack[-2]||die "panic")->{id};
 140                 }
 141                 printf qq{n%d -> n%d [%s];\n},
 142                     $parent_id, $x->{id}, join(",", @link_attr);
 143             }
 144             printf qq{n%d [ %s ];\n}, $x->{id}, join(",", @node_attr);
 145         }
 146
 147     }
 148     if ($dbh) {
 149         my $attr_json = $j->encode($x->{attr});
 150         my $leaves_json = $j->encode($x->{leaves});
 151         $node_ins_sth->execute(
 152             $x->{id}, $x->{name}, $x->{title}, $x->{depth}, $x->{parent_id},
 153             $x->{self_size}, $x->{kids_size}, $x->{kids_node_count},
 154             $x->{child_id} ? join(",", @{$x->{child_id}}) : undef,
 155             $attr_json, $leaves_json,
 156         );
 157         # XXX attribs
 158     }
 159     return;
 160 }
 161
 162
 163 while (<>) {
 164     chomp;
 165     my ($type, $id, $val, $name, $extra) = split / /, $_, 5;
 166     if ($type =~ s/^-//) {     # Node type ($val is depth)
 167         while ($val < @stack) {
 168             leave_node(my $x = pop @stack);
 169             warn "N $id d$val ends $x->{id} d$x->{depth}: size $x->{self_size}+$x->{kids_size}\n"
 170                 if $opt_verbose;
 171         }
 172         die 1 if $stack[$val];
 173         my $node = $stack[$val] = { id => $id, type => $type, name => $name, extra => $extra, attr => {}, leaves => {}, depth => $val, self_size=>0, kids_size=>0 };
 174         enter_node($node);
 175         $seqn2node{$id} = $node;
 176     }
 177     elsif ($type eq "L") {  # Leaf name and memory size
 178         my $node = $seqn2node{$id} || die;
 179         $node->{leaves}{$name} += $val;
 180     }
 181     elsif (looks_like_number($type)) {  # Attribute type, name and value
 182         my $node = $seqn2node{$id} || die;
 183         my $attr = $node->{attr} || die;
 184         if ($type == 1) { # NPattr_NAME
 185             warn "Node $id already has attribute $type:$name (value $attr->{$type}{$name})\n"
 186                 if exists $attr->{$type}{$name};
 187             $attr->{$type}{$name} = $val || $id;
 188             warn "A \@$id: '$name' $val\n";
 189             $node->{title} = $name if $type == 1 and !$val;
 190         }
 191         elsif (2 <= $type and $type <= 4) { # NPattr_PAD*
 192             warn "Node $id already has attribute $type:$name (value $attr->{$type}[$val])\n"
 193                 if defined $attr->{$type}[$val];
 194             $attr->{$type}[$val] = $name;
 195         }
 196         else {
 197             warn "Invalid attribute type '$type' on line $. ($_)";
 198         }
 199     }
 200     else {
 201         warn "Invalid type '$type' on line $. ($_)";
 202         next;
 203     }
 204     $dbh->commit if $dbh and $id % 10_000 == 0;
 205 }
 206
 207 my $x;
 208 while (@stack > 1) {
 209     leave_node($x = pop @stack) while @stack;
 210     warn "EOF ends $x->{id} d$x->{depth}: size $x->{self_size}+$x->{kids_size}\n";
 211 }
 212 print " ];\n" if $opt_json;
 213 print "}\n" if $opt_dot;
 214
 215 $dbh->commit if $dbh;
 216
 217 use Data::Dumper;
 218 warn Dumper(\$x);
 219 warn Dumper(\%seqn2node);
 220
 221 =for
 222 SV(PVAV) fill=1/1       [#1 @0]
 223 :   +64 sv =64
 224 :   +16 av_max =80
 225 :   AVelem->        [#2 @1]
 226 :   :   SV(RV)      [#3 @2]
 227 :   :   :   +24 sv =104
 228 :   :   :   RV->        [#4 @3]
 229 :   :   :   :   SV(PVAV) fill=-1/-1     [#5 @4]
 230 :   :   :   :   :   +64 sv =168
 231 :   AVelem->        [#6 @1]
 232 :   :   SV(IV)      [#7 @2]
 233 :   :   :   +24 sv =192
 234 192 at -e line 1.
 235 =cut
 236 __DATA__
 237 N 1 0 SV(PVAV) fill=1/1
 238 L 1 64 sv
 239 L 1 16 av_max
 240 N 2 1 AVelem->
 241 N 3 2 SV(RV)
 242 L 3 24 sv
 243 N 4 3 RV->
 244 N 5 4 SV(PVAV) fill=-1/-1
 245 L 5 64 sv
 246 N 6 1 AVelem->
 247 N 7 2 SV(IV)
 248 L 7 24 sv