Adding todo tests
[p5sagit/p5-mst-13.2.git] / t / TEST
1 #!./perl
2
3 # This is written in a peculiar style, since we're trying to avoid
4 # most of the constructs we'll be testing for.
5
6 $| = 1;
7
8 # Cheesy version of Getopt::Std.  Maybe we should replace it with that.
9 if ($#ARGV >= 0) {
10     foreach my $idx (0..$#ARGV) {
11         next unless $ARGV[$idx] =~ /^-(\w+)$/;
12         $verbose = 1 if $1 eq 'v';
13         $with_utf= 1 if $1 eq 'utf8';
14         splice(@ARGV, $idx, 1);
15     }
16 }
17
18 chdir 't' if -f 't/TEST';
19
20 die "You need to run \"make test\" first to set things up.\n"
21   unless -e 'perl' or -e 'perl.exe';
22
23 # check leakage for embedders
24 $ENV{PERL_DESTRUCT_LEVEL} = 2 unless exists $ENV{PERL_DESTRUCT_LEVEL};
25
26 $ENV{EMXSHELL} = 'sh';        # For OS/2
27
28 if ($#ARGV == -1) {
29     @ARGV = split(/[ \n]/,
30       `echo base/*.t comp/*.t cmd/*.t run/*.t io/*.t; echo op/*.t pragma/*.t lib/*.t`);
31 }
32
33 %infinite = ( 'comp/require.t', 1, 'op/bop.t', 1, 'lib/hostname.t', 1 ); 
34
35 _testprogs('perl', @ARGV);
36 _testprogs('compile', @ARGV) if (-e "../testcompile"); 
37
38 sub _testprogs {
39     $type = shift @_;
40     @tests = @_;
41
42
43     print <<'EOT' if ($type eq 'compile');
44 --------------------------------------------------------------------------------
45 TESTING COMPILER
46 --------------------------------------------------------------------------------
47 EOT
48
49     $ENV{PERLCC_TIMEOUT} = 120 
50           if ($type eq 'compile' && !$ENV{PERLCC_TIMEOUT});
51
52     $bad = 0;
53     $good = 0;
54     $total = @tests;
55     $files  = 0;
56     $totmax = 0;
57     $maxlen = 0;
58     foreach (@tests) {
59         $len = length;
60         $maxlen = $len if $len > $maxlen;
61     }
62     # +3 : we want three dots between the test name and the "ok"
63     # -2 : the .t suffix
64     $dotdotdot = $maxlen + 3 - 2;
65     while ($test = shift @tests) {
66
67         if ( $infinite{$test} && $type eq 'compile' ) {
68             print STDERR "$test creates infinite loop! Skipping.\n"; 
69             next;
70         }
71         if ($test =~ /^$/) {
72             next;
73         }
74         $te = $test;
75         chop($te);
76         print "$te" . '.' x ($dotdotdot - length($te));
77
78         open(SCRIPT,"<$test") or die "Can't run $test.\n";
79         $_ = <SCRIPT>;
80         close(SCRIPT);
81         if (/#!.*perl(.*)$/) {
82             $switch = $1;
83             if ($^O eq 'VMS') {
84                 # Must protect uppercase switches with "" on command line
85                 $switch =~ s/-([A-Z]\S*)/"-$1"/g;
86             }
87         }
88         else {
89             $switch = '';
90         }
91
92         my $utf = $with_utf ? '-I../lib -Mutf8'
93                             : '';
94         if ($type eq 'perl') {
95             my $run = "./perl$switch $utf $test |"; 
96             open(RESULTS,$run) or print "can't run '$run': $!.\n";
97         }
98         else {
99             my $compile =
100                 "./perl -I../lib ../utils/perlcc -o ./$test.plc $utf ./$test "
101                 ." && ./$test.plc |";
102             open(RESULTS, $compile)
103                 or print "can't compile '$compile': $!.\n";
104             unlink "./$test.plc";
105         }
106
107         $ok = 0;
108         $next = 0;
109         while (<RESULTS>) {
110             if ($verbose) {
111                 print $_;
112             }
113             unless (/^#/) {
114                 if (/^1\.\.([0-9]+)/) {
115                     $max = $1;
116                     $totmax += $max;
117                     $files += 1;
118                     $next = 1;
119                     $ok = 1;
120                 }
121                 else {
122                     if (/^(not )?ok (\d+)(\s*#.*)?/ &&
123                         $2 == $next) 
124                     {
125                         my($not, $num, $extra) = ($1, $2, $3);
126                         my($istodo) = $extra =~ /^\s*#\s*TODO/ if $extra;
127
128                         if( $not && !$istodo ) {
129                             $ok = 0;
130                             $next = $num;
131                             last;
132                         }
133                         else {
134                             $next = $next + 1;
135                         }
136                     }
137                     elsif (/^Bail out!\s*(.*)/i) { # magic words
138                         die "FAILED--Further testing stopped" . ($1 ? ": $1\n" : ".\n");
139                     }
140                     else {
141                         $ok = 0;
142                     }
143                 }
144             }
145         }
146         close RESULTS;
147         $next = $next - 1;
148         if ($ok && $next == $max) {
149             if ($max) {
150                 print "ok\n";
151                 $good = $good + 1;
152             }
153             else {
154                 print "skipping test on this platform\n";
155                 $files -= 1;
156             }
157         }
158         else {
159             $next += 1;
160             print "FAILED at test $next\n";
161             $bad = $bad + 1;
162             $_ = $test;
163             if (/^base/) {
164                 die "Failed a basic test--cannot continue.\n";
165             }
166         }
167     }
168
169     if ($bad == 0) {
170         if ($ok) {
171             print "All tests successful.\n";
172             # XXX add mention of 'perlbug -ok' ?
173         }
174         else {
175             die "FAILED--no tests were run for some reason.\n";
176         }
177     }
178     else {
179         $pct = $files ? sprintf("%.2f", ($files - $bad) / $files * 100) : "0.00";
180         if ($bad == 1) {
181             warn "Failed 1 test script out of $files, $pct% okay.\n";
182         }
183         else {
184             warn "Failed $bad test scripts out of $files, $pct% okay.\n";
185         }
186         warn <<'SHRDLU';
187    ### Since not all tests were successful, you may want to run some
188    ### of them individually and examine any diagnostic messages they
189    ### produce.  See the INSTALL document's section on "make test".
190    ### If you are testing the compiler, then ignore this message 
191    ### and run 
192    ###      ./perl harness
193    ### in the directory ./t.
194 SHRDLU
195         warn <<'SHRDLU' if $good / $total > 0.8;
196    ###
197    ### Since most tests were successful, you have a good chance to
198    ### get information with better granularity by running
199    ###     ./perl harness 
200    ### in directory ./t.
201 SHRDLU
202     }
203     ($user,$sys,$cuser,$csys) = times;
204     print sprintf("u=%g  s=%g  cu=%g  cs=%g  scripts=%d  tests=%d\n",
205         $user,$sys,$cuser,$csys,$files,$totmax);
206 }
207 exit ($bad != 0);