Changes + Reverts for 0.11000, see Changes file for info
[dbsrgits/SQL-Translator.git] / lib / SQL / Translator / Parser / Excel.pm
index 2fb3c29..0d98f6b 100644 (file)
@@ -1,10 +1,7 @@
 package SQL::Translator::Parser::Excel;
 
 # -------------------------------------------------------------------
-# Copyright (C) 2003 Ken Y. Clark <kclark@cpan.org>,
-#                    darren chamberlain <darren@cpan.org>,
-#                    Chris Mungall <cjm@fruitfly.org>,
-#                    Mike Mellilo <mmelillo@users.sourceforge.net>
+# Copyright (C) 2002-2009 SQLFairy Authors
 #
 # This program is free software; you can redistribute it and/or
 # modify it under the terms of the GNU General Public License as
@@ -28,21 +25,31 @@ SQL::Translator::Parser::Excel - parser for Excel
 =head1 SYNOPSIS
 
   use SQL::Translator;
-  use SQL::Translator::Parser::Excel;
 
   my $translator = SQL::Translator->new;
-  $translator->parser("SQL::Translator::Parser::Excel");
+  $translator->parser('Excel');
 
 =head1 DESCRIPTION
 
-Parses an Excel spreadsheet file for SQL::Translator.  You can then
-turn the data into a database tables or graphs.
+Parses an Excel spreadsheet file using Spreadsheet::ParseExcel.
+
+=head1 OPTIONS
+
+=over
+
+=item * scan_fields
+
+Indicates that the columns should be scanned to determine data types
+and field sizes.  True by default.
+
+=back
 
 =cut
 
 use strict;
 use vars qw($DEBUG $VERSION @EXPORT_OK);
 $DEBUG = 0 unless defined $DEBUG;
+$VERSION = '1.59';
 
 use Spreadsheet::ParseExcel;
 use Exporter;
@@ -52,6 +59,12 @@ use base qw(Exporter);
 
 @EXPORT_OK = qw(parse);
 
+my %ET_to_ST  = (
+    'Text'    => 'VARCHAR',
+    'Date'    => 'DATETIME',
+    'Numeric' => 'DOUBLE',
+);
+
 # -------------------------------------------------------------------
 # parse($tr, $data)
 #
@@ -60,58 +73,125 @@ use base qw(Exporter);
 # -------------------------------------------------------------------
 sub parse {
     my ($tr, $data) = @_;
-    my $filename = $tr->filename || return;
-    my $wb = Spreadsheet::ParseExcel::Workbook->Parse($filename);
-    my (%parsed, $wb_count, $num);
-    my $table_no = 0;
-
-    my $wb_count = $wb->{SheetCount};
-    for $num (0 .. $wb_count - 1) {
-        my $ws = $wb->Worksheet($num);
-        my $name = $ws->{Name} || ++$table_no;
-
-        $name = normalize_name($name);
+    my $args        = $tr->parser_args;
+    my $filename    = $tr->filename || return;
+    my $wb          = Spreadsheet::ParseExcel::Workbook->Parse( $filename );
+    my $schema      = $tr->schema;
+    my $table_no    = 0;
+
+    my $wb_count = $wb->{'SheetCount'} || 0;
+    for my $num ( 0 .. $wb_count - 1 ) {
+        $table_no++;
+        my $ws         = $wb->Worksheet( $num );
+        my $table_name = normalize_name( $ws->{'Name'} || "Table$table_no" );
 
         my @cols = $ws->ColRange;
         next unless $cols[1] > 0;
 
-        $parsed{$name} = {
-            table_name  => $name,
-            type        => undef,
-            indices     => [ {} ],
-            fields      => { },
-        };
-
-        for my $col ($cols[0] .. $cols[1]) {
-            my $cell = $ws->Cell(0, $col);
-            $parsed{$name}->{'fields'}->{$cell->{Val}} = {
-                type           => 'field',
-                order          => $col,
-                name           => $cell->{Val},
-
-                # Default datatype is 'char'
-                data_type      => ET_to_ST($cell->{Type}),
-
-                # default size is 8bits; something more reasonable?
-                size           => [ 255 ],
-                null           => 1,
-                default        => '',
-                is_auto_inc    => undef,
-
-                # field field is the primary key
-                is_primary_key => ($col == 0) ? 1 : undef,
+        my $table = $schema->add_table( name => $table_name );
+
+        my @field_names = ();
+        for my $col ( $cols[0] .. $cols[1] ) {
+            my $cell      = $ws->Cell(0, $col);
+            my $col_name  = normalize_name( $cell->{'Val'} );
+            my $data_type = ET_to_ST( $cell->{'Type'} );
+            push @field_names, $col_name;
+
+            my $field = $table->add_field(
+                name              => $col_name,
+                data_type         => $data_type,
+                default_value     => '',
+                size              => 255,
+                is_nullable       => 1,
+                is_auto_increment => undef,
+            ) or die $table->error;
+
+            if ( $col == 0 ) {
+                $table->primary_key( $field->name );
+                $field->is_primary_key(1);
+            }
+        }
+
+        #
+        # If directed, look at every field's values to guess size and type.
+        #
+        unless ( 
+            defined $args->{'scan_fields'} &&
+            $args->{'scan_fields'} == 0
+        ) {
+            my %field_info = map { $_, {} } @field_names;
+
+            for(
+                my $iR = $ws->{'MinRow'} == 0 ? 1 : $ws->{'MinRow'};
+                defined $ws->{'MaxRow'} && $iR <= $ws->{'MaxRow'}; 
+                $iR++
+            ) {
+               for ( 
+                    my $iC = $ws->{'MinCol'};
+                    defined $ws->{'MaxCol'} && $iC <= $ws->{'MaxCol'}; 
+                    $iC++
+                ) {
+                    my $field = $field_names[ $iC ];
+                    my $data  = $ws->{'Cells'}[ $iR ][ $iC ]->{'_Value'};
+                    next if !defined $data || $data eq '';
+                    my $size  = [ length $data ];
+                    my $type;
+
+                    if ( $data =~ /^-?\d+$/ ) {
+                        $type = 'integer';
+                    }
+                    elsif ( 
+                        $data =~ /^-?[,\d]+\.[\d+]?$/ 
+                        ||
+                        $data =~ /^-?[,\d]+?\.\d+$/  
+                        ||
+                        $data =~ /^-?\.\d+$/  
+                    ) {
+                        $type = 'float';
+                        my ( $w, $d ) = 
+                            map { s/,//g; length $_ || 1 } 
+                            split( /\./, $data )
+                        ;
+                        $size = [ $w + $d, $d ];
+                    }
+                    else {
+                        $type = 'char';
+                    }
+
+                    for my $i ( 0, 1 ) {
+                        next unless defined $size->[ $i ];
+                        my $fsize = $field_info{ $field }{'size'}[ $i ] || 0;
+                        if ( $size->[ $i ] > $fsize ) {
+                            $field_info{ $field }{'size'}[ $i ] = $size->[ $i ];
+                        }
+                    }
+
+                    $field_info{ $field }{ $type }++;
+                }
+            }
+
+            for my $field ( keys %field_info ) {
+                my $size      = $field_info{ $field }{'size'} || [ 1 ];
+                my $data_type = 
+                    $field_info{ $field }{'char'}    ? 'char'    : 
+                    $field_info{ $field }{'float'}   ? 'float'   :
+                    $field_info{ $field }{'integer'} ? 'integer' : 'char';
+
+                if ( $data_type eq 'char' && scalar @$size == 2 ) {
+                    $size = [ $size->[0] + $size->[1] ];
+                }
+
+                my $field = $table->get_field( $field );
+                $field->size( $size ) if $size;
+                $field->data_type( $data_type );
             }
         }
     }
 
-    return \%parsed;
+    return 1;
 }
 
-my %ET_to_ST = (
-    'Text'    => 'VARCHAR',
-    'Date'    => 'DATETIME',
-    'Numeric' => 'DOUBLE',
-);
+# -------------------------------------------------------------------
 sub ET_to_ST {
     my $et = shift;
     $ET_to_ST{$et} || $ET_to_ST{'Text'};
@@ -119,16 +199,23 @@ sub ET_to_ST {
 
 1;
 
+# -------------------------------------------------------------------
+# Education is an admirable thing,
+# but it is as well to remember that
+# nothing that is worth knowing can be taught.
+# Oscar Wilde
+# -------------------------------------------------------------------
+
 =pod
 
 =head1 AUTHORS
 
 Mike Mellilo <mmelillo@users.sourceforge.net>,
-darren chamberlain E<lt>dlc@users.sourceforge.netE<gt>
-Ken Y. Clark E<lt>kclark@cpan.orgE<gt>
+darren chamberlain E<lt>dlc@users.sourceforge.netE<gt>,
+Ken Y. Clark E<lt>kclark@cpan.orgE<gt>.
 
 =head1 SEE ALSO
 
-perl(1), Spreadsheet::ParseExcel.
+Spreadsheet::ParseExcel, SQL::Translator.
 
 =cut