keep from deleting lacuna nodes prematurely
[scpubgit/stemmatology.git] / lib / Text / Tradition / Parser / Tabular.pm
1 package Text::Tradition::Parser::Tabular;
2
3 use strict;
4 use warnings;
5 use Text::CSV_XS;
6
7 =head1 NAME
8
9 Text::Tradition::Parser::Tabular
10
11 =head1 SYNOPSIS
12
13   use Text::Tradition;
14   
15   my $t_from_file = Text::Tradition->new( 
16     'name' => 'my text',
17     'input' => 'Tabular',
18     'file' => '/path/to/collation.csv',
19     'sep_char' => ','
20     );
21     
22   my $t_from_string = Text::Tradition->new( 
23     'name' => 'my text',
24     'input' => 'Tabular',
25     'string' => $tab_separated_collation,
26     'sep_char' => "\t",
27     );
28
29 =head1 DESCRIPTION
30
31 Parser module for Text::Tradition to read an alignment table format, such as CSV.
32
33 =head1 METHODS
34
35 =head2 B<parse>( $tradition, $option_hash )
36
37 Takes an initialized tradition and a set of options; creates the
38 appropriate nodes and edges on the graph, as well as the appropriate
39 witness objects.  The $option_hash must contain either a 'file' or a
40 'string' argument with the table to be parsed; it may also contain a 
41 'sep_char' argument to specify how the fields are separated.
42
43 The table should have witnesses arranged in columns, with the witness sigla
44 in the first row.  Empty cells are interpreted as omissions (and thus
45 stemmatologically relevant.) Longer lacunae in the text, to be disregarded
46 in cladistic analysis, may be represented by filling the appropriate cells
47 with the tag '#LACUNA#'.
48
49 If a witness name ends in the collation's ac_label, it will be treated as
50 an 'ante-correction' version of the 'main' witness whose sigil it shares.
51
52 =begin testing
53
54 use Text::Tradition;
55 binmode STDOUT, ":utf8";
56 binmode STDERR, ":utf8";
57 eval { no warnings; binmode $DB::OUT, ":utf8"; };
58
59 my $csv = 't/data/florilegium.csv';
60 my $t = Text::Tradition->new( 
61     'name'  => 'inline', 
62     'input' => 'Tabular',
63     'file'  => $csv,
64     'sep_char' => ',',
65     );
66
67 is( ref( $t ), 'Text::Tradition', "Parsed florilegium CSV file" );
68
69 ### TODO Check these figures
70 if( $t ) {
71     is( scalar $t->collation->readings, 312, "Collation has all readings" );
72     is( scalar $t->collation->paths, 363, "Collation has all paths" );
73     is( scalar $t->witnesses, 13, "Collation has all witnesses" );
74 }
75
76 =end testing
77
78 =cut
79
80 sub parse {
81     my( $tradition, $opts ) = @_;
82     my $c = $tradition->collation; # shorthand
83     my $csv = Text::CSV_XS->new( { 
84         binary => 1, # binary for UTF-8
85         sep_char => exists $opts->{'sep_char'} ? $opts->{'sep_char'} : "\t" } 
86         );
87     
88     my $alignment_table;
89     if( exists $opts->{'string' } ) {
90         my @lines = split( "\n", $opts->{'string'} );
91         foreach my $l ( @lines ) {
92             my $status = $csv->parse( $l );
93             if( $status ) {
94                 push( @$alignment_table, [ $csv->fields ] );
95             } else {
96                 warn "Could not parse line $l: " . $csv->error_input;
97             }
98         }
99     } elsif( exists $opts->{'file'} ) {
100         open( my $fh, $opts->{'file'} ) 
101             or warn "Could not open input file " . $opts->{'file'};
102         binmode( $fh, ':utf8' );
103         while( my $row = $csv->getline( $fh ) ) {
104             push( @$alignment_table, $row );
105         }
106         close $fh;
107     } else {
108         warn "Could not find string or file option to parse";
109         return;
110     }
111
112     # Set up the witnesses we find in the first line
113     my @witnesses;
114     my %ac_wits;  # Track these for later removal
115     foreach my $sigil ( @{$alignment_table->[0]} ) {
116         my $wit = $tradition->add_witness( 'sigil' => $sigil );
117         $wit->path( [ $c->start ] );
118         push( @witnesses, $wit );
119         my $aclabel = $c->ac_label;
120         if( $sigil =~ /^(.*)\Q$aclabel\E$/ ) {
121             $ac_wits{$1} = $wit;
122         }
123     }
124     
125     # Now for the next rows, make nodes as necessary, assign their ranks, and 
126     # add them to the witness paths.
127     foreach my $idx ( 1 .. $#{$alignment_table} ) {
128         my $row = $alignment_table->[$idx];
129         my $nodes = make_nodes( $c, $row, $idx );
130         foreach my $w ( 0 .. $#{$row} ) {
131             # push the appropriate node onto the appropriate witness path
132             my $word = $row->[$w];
133             if( $word ) {
134                 my $reading = $nodes->{$word};
135                 my $wit = $witnesses[$w];
136                 push( @{$wit->path}, $reading );
137             } # else skip it for empty readings.
138         }
139     }
140     
141     # Collapse our lacunae into a single node and
142     # push the end node onto all paths.
143     $c->end->rank( scalar @$alignment_table );
144     foreach my $wit ( @witnesses ) {
145         my $p = $wit->path;
146         my $last_rdg = shift @$p;
147         my $new_p = [ $last_rdg ];
148         foreach my $rdg ( @$p ) {
149                 # Omit the reading if we are in a lacuna already.
150                 next if $rdg->is_lacuna && $last_rdg->is_lacuna;
151                         # Save the reading otherwise.
152                         push( @$new_p, $rdg );
153                         $last_rdg = $rdg;
154         }
155         push( @$new_p, $c->end );
156         $wit->path( $new_p );
157     }
158     
159     # Fold any a.c. witnesses into their main witness objects, and
160     # delete the independent a.c. versions.
161     foreach my $a ( keys %ac_wits ) {
162         my $main_wit = $tradition->witness( $a );
163         next unless $main_wit;
164         my $ac_wit = $ac_wits{$a};
165         $main_wit->uncorrected_path( $ac_wit->path );
166         $tradition->del_witness( $ac_wit );
167     }
168     
169     # Join up the paths.
170     $c->make_witness_paths;
171     # Delete our unused lacuna nodes.
172         foreach my $rdg ( grep { $_->is_lacuna } $c->readings ) {
173                 $c->del_reading( $rdg ) unless $c->reading_witnesses( $rdg );
174         }
175 }
176
177 sub make_nodes {
178     my( $collation, $row, $index ) = @_;
179     my %unique;
180     foreach my $w ( @$row ) {
181         $unique{$w} = 1 if $w;
182     }
183     my $ctr = 1;
184     foreach my $w ( keys %unique ) {
185         my $rargs = {
186                 'id' => "$index,$ctr",
187                 'rank' => $index,
188                 'text' => $w,
189                 };
190         $rargs->{'is_lacuna'} = 1 if $w eq '#LACUNA#';
191         my $r = $collation->add_reading( $rargs );
192         $unique{$w} = $r;
193         $ctr++;
194     }
195     return \%unique;
196 }
197
198 1;
199
200 =head1 LICENSE
201
202 This package is free software and is provided "as is" without express
203 or implied warranty.  You can redistribute it and/or modify it under
204 the same terms as Perl itself.
205
206 =head1 AUTHOR
207
208 Tara L Andrews E<lt>aurum@cpan.orgE<gt>