8f029e6f1b38dc183fd7b9d9166969da4e84d720
[p5sagit/p5-mst-13.2.git] / lib / Test / More.pm
1 package Test::More;
2
3 use 5.004;
4
5 use strict;
6 use Test::Builder;
7
8
9 # Can't use Carp because it might cause use_ok() to accidentally succeed
10 # even though the module being used forgot to use Carp.  Yes, this
11 # actually happened.
12 sub _carp {
13     my($file, $line) = (caller(1))[1,2];
14     warn @_, " at $file line $line\n";
15 }
16
17
18
19 require Exporter;
20 use vars qw($VERSION @ISA @EXPORT %EXPORT_TAGS $TODO);
21 $VERSION = '0.53';
22 $VERSION = eval $VERSION;    # make the alpha version come out as a number
23
24 @ISA    = qw(Exporter);
25 @EXPORT = qw(ok use_ok require_ok
26              is isnt like unlike is_deeply
27              cmp_ok
28              skip todo todo_skip
29              pass fail
30              eq_array eq_hash eq_set
31              $TODO
32              plan
33              can_ok  isa_ok
34              diag
35             );
36
37 my $Test = Test::Builder->new;
38 my $Show_Diag = 1;
39
40
41 # 5.004's Exporter doesn't have export_to_level.
42 sub _export_to_level
43 {
44       my $pkg = shift;
45       my $level = shift;
46       (undef) = shift;                  # redundant arg
47       my $callpkg = caller($level);
48       $pkg->export($callpkg, @_);
49 }
50
51
52 =head1 NAME
53
54 Test::More - yet another framework for writing test scripts
55
56 =head1 SYNOPSIS
57
58   use Test::More tests => $Num_Tests;
59   # or
60   use Test::More qw(no_plan);
61   # or
62   use Test::More skip_all => $reason;
63
64   BEGIN { use_ok( 'Some::Module' ); }
65   require_ok( 'Some::Module' );
66
67   # Various ways to say "ok"
68   ok($this eq $that, $test_name);
69
70   is  ($this, $that,    $test_name);
71   isnt($this, $that,    $test_name);
72
73   # Rather than print STDERR "# here's what went wrong\n"
74   diag("here's what went wrong");
75
76   like  ($this, qr/that/, $test_name);
77   unlike($this, qr/that/, $test_name);
78
79   cmp_ok($this, '==', $that, $test_name);
80
81   is_deeply($complex_structure1, $complex_structure2, $test_name);
82
83   SKIP: {
84       skip $why, $how_many unless $have_some_feature;
85
86       ok( foo(),       $test_name );
87       is( foo(42), 23, $test_name );
88   };
89
90   TODO: {
91       local $TODO = $why;
92
93       ok( foo(),       $test_name );
94       is( foo(42), 23, $test_name );
95   };
96
97   can_ok($module, @methods);
98   isa_ok($object, $class);
99
100   pass($test_name);
101   fail($test_name);
102
103   # Utility comparison functions.
104   eq_array(\@this, \@that);
105   eq_hash(\%this, \%that);
106   eq_set(\@this, \@that);
107
108   # UNIMPLEMENTED!!!
109   my @status = Test::More::status;
110
111   # UNIMPLEMENTED!!!
112   BAIL_OUT($why);
113
114
115 =head1 DESCRIPTION
116
117 B<STOP!> If you're just getting started writing tests, have a look at
118 Test::Simple first.  This is a drop in replacement for Test::Simple
119 which you can switch to once you get the hang of basic testing.
120
121 The purpose of this module is to provide a wide range of testing
122 utilities.  Various ways to say "ok" with better diagnostics,
123 facilities to skip tests, test future features and compare complicated
124 data structures.  While you can do almost anything with a simple
125 C<ok()> function, it doesn't provide good diagnostic output.
126
127
128 =head2 I love it when a plan comes together
129
130 Before anything else, you need a testing plan.  This basically declares
131 how many tests your script is going to run to protect against premature
132 failure.
133
134 The preferred way to do this is to declare a plan when you C<use Test::More>.
135
136   use Test::More tests => $Num_Tests;
137
138 There are rare cases when you will not know beforehand how many tests
139 your script is going to run.  In this case, you can declare that you
140 have no plan.  (Try to avoid using this as it weakens your test.)
141
142   use Test::More qw(no_plan);
143
144 B<NOTE>: using no_plan requires a Test::Harness upgrade else it will
145 think everything has failed.  See L<BUGS and CAVEATS>)
146
147 In some cases, you'll want to completely skip an entire testing script.
148
149   use Test::More skip_all => $skip_reason;
150
151 Your script will declare a skip with the reason why you skipped and
152 exit immediately with a zero (success).  See L<Test::Harness> for
153 details.
154
155 If you want to control what functions Test::More will export, you
156 have to use the 'import' option.  For example, to import everything
157 but 'fail', you'd do:
158
159   use Test::More tests => 23, import => ['!fail'];
160
161 Alternatively, you can use the plan() function.  Useful for when you
162 have to calculate the number of tests.
163
164   use Test::More;
165   plan tests => keys %Stuff * 3;
166
167 or for deciding between running the tests at all:
168
169   use Test::More;
170   if( $^O eq 'MacOS' ) {
171       plan skip_all => 'Test irrelevant on MacOS';
172   }
173   else {
174       plan tests => 42;
175   }
176
177 =cut
178
179 sub plan {
180     my(@plan) = @_;
181
182     my $idx = 0;
183     my @cleaned_plan;
184     while( $idx <= $#plan ) {
185         my $item = $plan[$idx];
186
187         if( $item eq 'no_diag' ) {
188             $Show_Diag = 0;
189         }
190         else {
191             push @cleaned_plan, $item;
192         }
193
194         $idx++;
195     }
196
197     $Test->plan(@cleaned_plan);
198 }
199
200 sub import {
201     my($class) = shift;
202
203     my $caller = caller;
204
205     $Test->exported_to($caller);
206
207     my $idx = 0;
208     my @plan;
209     my @imports;
210     while( $idx <= $#_ ) {
211         my $item = $_[$idx];
212
213         if( $item eq 'import' ) {
214             push @imports, @{$_[$idx+1]};
215             $idx++;
216         }
217         else {
218             push @plan, $item;
219         }
220
221         $idx++;
222     }
223
224     plan(@plan);
225
226     __PACKAGE__->_export_to_level(1, __PACKAGE__, @imports);
227 }
228
229
230 =head2 Test names
231
232 By convention, each test is assigned a number in order.  This is
233 largely done automatically for you.  However, it's often very useful to
234 assign a name to each test.  Which would you rather see:
235
236   ok 4
237   not ok 5
238   ok 6
239
240 or
241
242   ok 4 - basic multi-variable
243   not ok 5 - simple exponential
244   ok 6 - force == mass * acceleration
245
246 The later gives you some idea of what failed.  It also makes it easier
247 to find the test in your script, simply search for "simple
248 exponential".
249
250 All test functions take a name argument.  It's optional, but highly
251 suggested that you use it.
252
253
254 =head2 I'm ok, you're not ok.
255
256 The basic purpose of this module is to print out either "ok #" or "not
257 ok #" depending on if a given test succeeded or failed.  Everything
258 else is just gravy.
259
260 All of the following print "ok" or "not ok" depending on if the test
261 succeeded or failed.  They all also return true or false,
262 respectively.
263
264 =over 4
265
266 =item B<ok>
267
268   ok($this eq $that, $test_name);
269
270 This simply evaluates any expression (C<$this eq $that> is just a
271 simple example) and uses that to determine if the test succeeded or
272 failed.  A true expression passes, a false one fails.  Very simple.
273
274 For example:
275
276     ok( $exp{9} == 81,                   'simple exponential' );
277     ok( Film->can('db_Main'),            'set_db()' );
278     ok( $p->tests == 4,                  'saw tests' );
279     ok( !grep !defined $_, @items,       'items populated' );
280
281 (Mnemonic:  "This is ok.")
282
283 $test_name is a very short description of the test that will be printed
284 out.  It makes it very easy to find a test in your script when it fails
285 and gives others an idea of your intentions.  $test_name is optional,
286 but we B<very> strongly encourage its use.
287
288 Should an ok() fail, it will produce some diagnostics:
289
290     not ok 18 - sufficient mucus
291     #     Failed test 18 (foo.t at line 42)
292
293 This is actually Test::Simple's ok() routine.
294
295 =cut
296
297 sub ok ($;$) {
298     my($test, $name) = @_;
299     $Test->ok($test, $name);
300 }
301
302 =item B<is>
303
304 =item B<isnt>
305
306   is  ( $this, $that, $test_name );
307   isnt( $this, $that, $test_name );
308
309 Similar to ok(), is() and isnt() compare their two arguments
310 with C<eq> and C<ne> respectively and use the result of that to
311 determine if the test succeeded or failed.  So these:
312
313     # Is the ultimate answer 42?
314     is( ultimate_answer(), 42,          "Meaning of Life" );
315
316     # $foo isn't empty
317     isnt( $foo, '',     "Got some foo" );
318
319 are similar to these:
320
321     ok( ultimate_answer() eq 42,        "Meaning of Life" );
322     ok( $foo ne '',     "Got some foo" );
323
324 (Mnemonic:  "This is that."  "This isn't that.")
325
326 So why use these?  They produce better diagnostics on failure.  ok()
327 cannot know what you are testing for (beyond the name), but is() and
328 isnt() know what the test was and why it failed.  For example this
329 test:
330
331     my $foo = 'waffle';  my $bar = 'yarblokos';
332     is( $foo, $bar,   'Is foo the same as bar?' );
333
334 Will produce something like this:
335
336     not ok 17 - Is foo the same as bar?
337     #     Failed test (foo.t at line 139)
338     #          got: 'waffle'
339     #     expected: 'yarblokos'
340
341 So you can figure out what went wrong without rerunning the test.
342
343 You are encouraged to use is() and isnt() over ok() where possible,
344 however do not be tempted to use them to find out if something is
345 true or false!
346
347   # XXX BAD!
348   is( exists $brooklyn{tree}, 1, 'A tree grows in Brooklyn' );
349
350 This does not check if C<exists $brooklyn{tree}> is true, it checks if
351 it returns 1.  Very different.  Similar caveats exist for false and 0.
352 In these cases, use ok().
353
354   ok( exists $brooklyn{tree},    'A tree grows in Brooklyn' );
355
356 For those grammatical pedants out there, there's an C<isn't()>
357 function which is an alias of isnt().
358
359 =cut
360
361 sub is ($$;$) {
362     $Test->is_eq(@_);
363 }
364
365 sub isnt ($$;$) {
366     $Test->isnt_eq(@_);
367 }
368
369 *isn't = \&isnt;
370
371
372 =item B<like>
373
374   like( $this, qr/that/, $test_name );
375
376 Similar to ok(), like() matches $this against the regex C<qr/that/>.
377
378 So this:
379
380     like($this, qr/that/, 'this is like that');
381
382 is similar to:
383
384     ok( $this =~ /that/, 'this is like that');
385
386 (Mnemonic "This is like that".)
387
388 The second argument is a regular expression.  It may be given as a
389 regex reference (i.e. C<qr//>) or (for better compatibility with older
390 perls) as a string that looks like a regex (alternative delimiters are
391 currently not supported):
392
393     like( $this, '/that/', 'this is like that' );
394
395 Regex options may be placed on the end (C<'/that/i'>).
396
397 Its advantages over ok() are similar to that of is() and isnt().  Better
398 diagnostics on failure.
399
400 =cut
401
402 sub like ($$;$) {
403     $Test->like(@_);
404 }
405
406
407 =item B<unlike>
408
409   unlike( $this, qr/that/, $test_name );
410
411 Works exactly as like(), only it checks if $this B<does not> match the
412 given pattern.
413
414 =cut
415
416 sub unlike ($$;$) {
417     $Test->unlike(@_);
418 }
419
420
421 =item B<cmp_ok>
422
423   cmp_ok( $this, $op, $that, $test_name );
424
425 Halfway between ok() and is() lies cmp_ok().  This allows you to
426 compare two arguments using any binary perl operator.
427
428     # ok( $this eq $that );
429     cmp_ok( $this, 'eq', $that, 'this eq that' );
430
431     # ok( $this == $that );
432     cmp_ok( $this, '==', $that, 'this == that' );
433
434     # ok( $this && $that );
435     cmp_ok( $this, '&&', $that, 'this && that' );
436     ...etc...
437
438 Its advantage over ok() is when the test fails you'll know what $this
439 and $that were:
440
441     not ok 1
442     #     Failed test (foo.t at line 12)
443     #     '23'
444     #         &&
445     #     undef
446
447 It's also useful in those cases where you are comparing numbers and
448 is()'s use of C<eq> will interfere:
449
450     cmp_ok( $big_hairy_number, '==', $another_big_hairy_number );
451
452 =cut
453
454 sub cmp_ok($$$;$) {
455     $Test->cmp_ok(@_);
456 }
457
458
459 =item B<can_ok>
460
461   can_ok($module, @methods);
462   can_ok($object, @methods);
463
464 Checks to make sure the $module or $object can do these @methods
465 (works with functions, too).
466
467     can_ok('Foo', qw(this that whatever));
468
469 is almost exactly like saying:
470
471     ok( Foo->can('this') && 
472         Foo->can('that') && 
473         Foo->can('whatever') 
474       );
475
476 only without all the typing and with a better interface.  Handy for
477 quickly testing an interface.
478
479 No matter how many @methods you check, a single can_ok() call counts
480 as one test.  If you desire otherwise, use:
481
482     foreach my $meth (@methods) {
483         can_ok('Foo', $meth);
484     }
485
486 =cut
487
488 sub can_ok ($@) {
489     my($proto, @methods) = @_;
490     my $class = ref $proto || $proto;
491
492     unless( @methods ) {
493         my $ok = $Test->ok( 0, "$class->can(...)" );
494         $Test->diag('    can_ok() called with no methods');
495         return $ok;
496     }
497
498     my @nok = ();
499     foreach my $method (@methods) {
500         local($!, $@);  # don't interfere with caller's $@
501                         # eval sometimes resets $!
502         eval { $proto->can($method) } || push @nok, $method;
503     }
504
505     my $name;
506     $name = @methods == 1 ? "$class->can('$methods[0]')" 
507                           : "$class->can(...)";
508     
509     my $ok = $Test->ok( !@nok, $name );
510
511     $Test->diag(map "    $class->can('$_') failed\n", @nok);
512
513     return $ok;
514 }
515
516 =item B<isa_ok>
517
518   isa_ok($object, $class, $object_name);
519   isa_ok($ref,    $type,  $ref_name);
520
521 Checks to see if the given C<< $object->isa($class) >>.  Also checks to make
522 sure the object was defined in the first place.  Handy for this sort
523 of thing:
524
525     my $obj = Some::Module->new;
526     isa_ok( $obj, 'Some::Module' );
527
528 where you'd otherwise have to write
529
530     my $obj = Some::Module->new;
531     ok( defined $obj && $obj->isa('Some::Module') );
532
533 to safeguard against your test script blowing up.
534
535 It works on references, too:
536
537     isa_ok( $array_ref, 'ARRAY' );
538
539 The diagnostics of this test normally just refer to 'the object'.  If
540 you'd like them to be more specific, you can supply an $object_name
541 (for example 'Test customer').
542
543 =cut
544
545 sub isa_ok ($$;$) {
546     my($object, $class, $obj_name) = @_;
547
548     my $diag;
549     $obj_name = 'The object' unless defined $obj_name;
550     my $name = "$obj_name isa $class";
551     if( !defined $object ) {
552         $diag = "$obj_name isn't defined";
553     }
554     elsif( !ref $object ) {
555         $diag = "$obj_name isn't a reference";
556     }
557     else {
558         # We can't use UNIVERSAL::isa because we want to honor isa() overrides
559         local($@, $!);  # eval sometimes resets $!
560         my $rslt = eval { $object->isa($class) };
561         if( $@ ) {
562             if( $@ =~ /^Can't call method "isa" on unblessed reference/ ) {
563                 if( !UNIVERSAL::isa($object, $class) ) {
564                     my $ref = ref $object;
565                     $diag = "$obj_name isn't a '$class' it's a '$ref'";
566                 }
567             } else {
568                 die <<WHOA;
569 WHOA! I tried to call ->isa on your object and got some weird error.
570 This should never happen.  Please contact the author immediately.
571 Here's the error.
572 $@
573 WHOA
574             }
575         }
576         elsif( !$rslt ) {
577             my $ref = ref $object;
578             $diag = "$obj_name isn't a '$class' it's a '$ref'";
579         }
580     }
581             
582       
583
584     my $ok;
585     if( $diag ) {
586         $ok = $Test->ok( 0, $name );
587         $Test->diag("    $diag\n");
588     }
589     else {
590         $ok = $Test->ok( 1, $name );
591     }
592
593     return $ok;
594 }
595
596
597 =item B<pass>
598
599 =item B<fail>
600
601   pass($test_name);
602   fail($test_name);
603
604 Sometimes you just want to say that the tests have passed.  Usually
605 the case is you've got some complicated condition that is difficult to
606 wedge into an ok().  In this case, you can simply use pass() (to
607 declare the test ok) or fail (for not ok).  They are synonyms for
608 ok(1) and ok(0).
609
610 Use these very, very, very sparingly.
611
612 =cut
613
614 sub pass (;$) {
615     $Test->ok(1, @_);
616 }
617
618 sub fail (;$) {
619     $Test->ok(0, @_);
620 }
621
622 =back
623
624 =head2 Diagnostics
625
626 If you pick the right test function, you'll usually get a good idea of
627 what went wrong when it failed.  But sometimes it doesn't work out
628 that way.  So here we have ways for you to write your own diagnostic
629 messages which are safer than just C<print STDERR>.
630
631 =over 4
632
633 =item B<diag>
634
635   diag(@diagnostic_message);
636
637 Prints a diagnostic message which is guaranteed not to interfere with
638 test output.  Like C<print> @diagnostic_message is simply concatinated
639 together.
640
641 Handy for this sort of thing:
642
643     ok( grep(/foo/, @users), "There's a foo user" ) or
644         diag("Since there's no foo, check that /etc/bar is set up right");
645
646 which would produce:
647
648     not ok 42 - There's a foo user
649     #     Failed test (foo.t at line 52)
650     # Since there's no foo, check that /etc/bar is set up right.
651
652 You might remember C<ok() or diag()> with the mnemonic C<open() or
653 die()>.
654
655 All diag()s can be made silent by passing the "no_diag" option to
656 Test::More.  C<use Test::More tests => 1, 'no_diag'>.  This is useful
657 if you have diagnostics for personal testing but then wish to make
658 them silent for release without commenting out each individual
659 statement.
660
661 B<NOTE> The exact formatting of the diagnostic output is still
662 changing, but it is guaranteed that whatever you throw at it it won't
663 interfere with the test.
664
665 =cut
666
667 sub diag {
668     return unless $Show_Diag;
669     $Test->diag(@_);
670 }
671
672
673 =back
674
675 =head2 Module tests
676
677 You usually want to test if the module you're testing loads ok, rather
678 than just vomiting if its load fails.  For such purposes we have
679 C<use_ok> and C<require_ok>.
680
681 =over 4
682
683 =item B<use_ok>
684
685    BEGIN { use_ok($module); }
686    BEGIN { use_ok($module, @imports); }
687
688 These simply use the given $module and test to make sure the load
689 happened ok.  It's recommended that you run use_ok() inside a BEGIN
690 block so its functions are exported at compile-time and prototypes are
691 properly honored.
692
693 If @imports are given, they are passed through to the use.  So this:
694
695    BEGIN { use_ok('Some::Module', qw(foo bar)) }
696
697 is like doing this:
698
699    use Some::Module qw(foo bar);
700
701 Version numbers can be checked like so:
702
703    # Just like "use Some::Module 1.02"
704    BEGIN { use_ok('Some::Module', 1.02) }
705
706 Don't try to do this:
707
708    BEGIN {
709        use_ok('Some::Module');
710
711        ...some code that depends on the use...
712        ...happening at compile time...
713    }
714
715 because the notion of "compile-time" is relative.  Instead, you want:
716
717   BEGIN { use_ok('Some::Module') }
718   BEGIN { ...some code that depends on the use... }
719
720
721 =cut
722
723 sub use_ok ($;@) {
724     my($module, @imports) = @_;
725     @imports = () unless @imports;
726
727     my($pack,$filename,$line) = caller;
728
729     local($@,$!);   # eval sometimes interferes with $!
730
731     if( @imports == 1 and $imports[0] =~ /^\d+(?:\.\d+)?$/ ) {
732         # probably a version check.  Perl needs to see the bare number
733         # for it to work with non-Exporter based modules.
734         eval <<USE;
735 package $pack;
736 use $module $imports[0];
737 USE
738     }
739     else {
740         eval <<USE;
741 package $pack;
742 use $module \@imports;
743 USE
744     }
745
746     my $ok = $Test->ok( !$@, "use $module;" );
747
748     unless( $ok ) {
749         chomp $@;
750         $@ =~ s{^BEGIN failed--compilation aborted at .*$}
751                 {BEGIN failed--compilation aborted at $filename line $line.}m;
752         $Test->diag(<<DIAGNOSTIC);
753     Tried to use '$module'.
754     Error:  $@
755 DIAGNOSTIC
756
757     }
758
759     return $ok;
760 }
761
762 =item B<require_ok>
763
764    require_ok($module);
765    require_ok($file);
766
767 Like use_ok(), except it requires the $module or $file.
768
769 =cut
770
771 sub require_ok ($) {
772     my($module) = shift;
773
774     my $pack = caller;
775
776     # Try to deterine if we've been given a module name or file.
777     # Module names must be barewords, files not.
778     $module = qq['$module'] unless _is_module_name($module);
779
780     local($!, $@); # eval sometimes interferes with $!
781     eval <<REQUIRE;
782 package $pack;
783 require $module;
784 REQUIRE
785
786     my $ok = $Test->ok( !$@, "require $module;" );
787
788     unless( $ok ) {
789         chomp $@;
790         $Test->diag(<<DIAGNOSTIC);
791     Tried to require '$module'.
792     Error:  $@
793 DIAGNOSTIC
794
795     }
796
797     return $ok;
798 }
799
800
801 sub _is_module_name {
802     my $module = shift;
803
804     # Module names start with a letter.
805     # End with an alphanumeric.
806     # The rest is an alphanumeric or ::
807     $module =~ s/\b::\b//g;
808     $module =~ /^[a-zA-Z]\w+$/;
809 }
810
811 =back
812
813 =head2 Conditional tests
814
815 Sometimes running a test under certain conditions will cause the
816 test script to die.  A certain function or method isn't implemented
817 (such as fork() on MacOS), some resource isn't available (like a 
818 net connection) or a module isn't available.  In these cases it's
819 necessary to skip tests, or declare that they are supposed to fail
820 but will work in the future (a todo test).
821
822 For more details on the mechanics of skip and todo tests see
823 L<Test::Harness>.
824
825 The way Test::More handles this is with a named block.  Basically, a
826 block of tests which can be skipped over or made todo.  It's best if I
827 just show you...
828
829 =over 4
830
831 =item B<SKIP: BLOCK>
832
833   SKIP: {
834       skip $why, $how_many if $condition;
835
836       ...normal testing code goes here...
837   }
838
839 This declares a block of tests that might be skipped, $how_many tests
840 there are, $why and under what $condition to skip them.  An example is
841 the easiest way to illustrate:
842
843     SKIP: {
844         eval { require HTML::Lint };
845
846         skip "HTML::Lint not installed", 2 if $@;
847
848         my $lint = new HTML::Lint;
849         isa_ok( $lint, "HTML::Lint" );
850
851         $lint->parse( $html );
852         is( $lint->errors, 0, "No errors found in HTML" );
853     }
854
855 If the user does not have HTML::Lint installed, the whole block of
856 code I<won't be run at all>.  Test::More will output special ok's
857 which Test::Harness interprets as skipped, but passing, tests.
858 It's important that $how_many accurately reflects the number of tests
859 in the SKIP block so the # of tests run will match up with your plan.
860
861 It's perfectly safe to nest SKIP blocks.  Each SKIP block must have
862 the label C<SKIP>, or Test::More can't work its magic.
863
864 You don't skip tests which are failing because there's a bug in your
865 program, or for which you don't yet have code written.  For that you
866 use TODO.  Read on.
867
868 =cut
869
870 #'#
871 sub skip {
872     my($why, $how_many) = @_;
873
874     unless( defined $how_many ) {
875         # $how_many can only be avoided when no_plan is in use.
876         _carp "skip() needs to know \$how_many tests are in the block"
877           unless $Test::Builder::No_Plan;
878         $how_many = 1;
879     }
880
881     for( 1..$how_many ) {
882         $Test->skip($why);
883     }
884
885     local $^W = 0;
886     last SKIP;
887 }
888
889
890 =item B<TODO: BLOCK>
891
892     TODO: {
893         local $TODO = $why if $condition;
894
895         ...normal testing code goes here...
896     }
897
898 Declares a block of tests you expect to fail and $why.  Perhaps it's
899 because you haven't fixed a bug or haven't finished a new feature:
900
901     TODO: {
902         local $TODO = "URI::Geller not finished";
903
904         my $card = "Eight of clubs";
905         is( URI::Geller->your_card, $card, 'Is THIS your card?' );
906
907         my $spoon;
908         URI::Geller->bend_spoon;
909         is( $spoon, 'bent',    "Spoon bending, that's original" );
910     }
911
912 With a todo block, the tests inside are expected to fail.  Test::More
913 will run the tests normally, but print out special flags indicating
914 they are "todo".  Test::Harness will interpret failures as being ok.
915 Should anything succeed, it will report it as an unexpected success.
916 You then know the thing you had todo is done and can remove the
917 TODO flag.
918
919 The nice part about todo tests, as opposed to simply commenting out a
920 block of tests, is it's like having a programmatic todo list.  You know
921 how much work is left to be done, you're aware of what bugs there are,
922 and you'll know immediately when they're fixed.
923
924 Once a todo test starts succeeding, simply move it outside the block.
925 When the block is empty, delete it.
926
927 B<NOTE>: TODO tests require a Test::Harness upgrade else it will
928 treat it as a normal failure.  See L<BUGS and CAVEATS>)
929
930
931 =item B<todo_skip>
932
933     TODO: {
934         todo_skip $why, $how_many if $condition;
935
936         ...normal testing code...
937     }
938
939 With todo tests, it's best to have the tests actually run.  That way
940 you'll know when they start passing.  Sometimes this isn't possible.
941 Often a failing test will cause the whole program to die or hang, even
942 inside an C<eval BLOCK> with and using C<alarm>.  In these extreme
943 cases you have no choice but to skip over the broken tests entirely.
944
945 The syntax and behavior is similar to a C<SKIP: BLOCK> except the
946 tests will be marked as failing but todo.  Test::Harness will
947 interpret them as passing.
948
949 =cut
950
951 sub todo_skip {
952     my($why, $how_many) = @_;
953
954     unless( defined $how_many ) {
955         # $how_many can only be avoided when no_plan is in use.
956         _carp "todo_skip() needs to know \$how_many tests are in the block"
957           unless $Test::Builder::No_Plan;
958         $how_many = 1;
959     }
960
961     for( 1..$how_many ) {
962         $Test->todo_skip($why);
963     }
964
965     local $^W = 0;
966     last TODO;
967 }
968
969 =item When do I use SKIP vs. TODO?
970
971 B<If it's something the user might not be able to do>, use SKIP.
972 This includes optional modules that aren't installed, running under
973 an OS that doesn't have some feature (like fork() or symlinks), or maybe
974 you need an Internet connection and one isn't available.
975
976 B<If it's something the programmer hasn't done yet>, use TODO.  This
977 is for any code you haven't written yet, or bugs you have yet to fix,
978 but want to put tests in your testing script (always a good idea).
979
980
981 =back
982
983 =head2 Comparison functions
984
985 Not everything is a simple eq check or regex.  There are times you
986 need to see if two arrays are equivalent, for instance.  For these
987 instances, Test::More provides a handful of useful functions.
988
989 B<NOTE> I'm not quite sure what will happen with filehandles.
990
991 =over 4
992
993 =item B<is_deeply>
994
995   is_deeply( $this, $that, $test_name );
996
997 Similar to is(), except that if $this and $that are hash or array
998 references, it does a deep comparison walking each data structure to
999 see if they are equivalent.  If the two structures are different, it
1000 will display the place where they start differing.
1001
1002 Test::Differences and Test::Deep provide more in-depth functionality
1003 along these lines.
1004
1005 =cut
1006
1007 use vars qw(@Data_Stack %Refs_Seen);
1008 my $DNE = bless [], 'Does::Not::Exist';
1009 sub is_deeply {
1010     unless( @_ == 2 or @_ == 3 ) {
1011         my $msg = <<WARNING;
1012 is_deeply() takes two or three args, you gave %d.
1013 This usually means you passed an array or hash instead 
1014 of a reference to it
1015 WARNING
1016         chop $msg;   # clip off newline so carp() will put in line/file
1017
1018         _carp sprintf $msg, scalar @_;
1019     }
1020
1021     my($this, $that, $name) = @_;
1022
1023     my $ok;
1024     if( !ref $this xor !ref $that ) {  # one's a reference, one isn't
1025         $ok = 0;
1026     }
1027     if( !ref $this and !ref $that ) {
1028         $ok = $Test->is_eq($this, $that, $name);
1029     }
1030     else {
1031         local @Data_Stack = ();
1032         local %Refs_Seen  = ();
1033         if( _deep_check($this, $that) ) {
1034             $ok = $Test->ok(1, $name);
1035         }
1036         else {
1037             $ok = $Test->ok(0, $name);
1038             $ok = $Test->diag(_format_stack(@Data_Stack));
1039         }
1040     }
1041
1042     return $ok;
1043 }
1044
1045 sub _format_stack {
1046     my(@Stack) = @_;
1047
1048     my $var = '$FOO';
1049     my $did_arrow = 0;
1050     foreach my $entry (@Stack) {
1051         my $type = $entry->{type} || '';
1052         my $idx  = $entry->{'idx'};
1053         if( $type eq 'HASH' ) {
1054             $var .= "->" unless $did_arrow++;
1055             $var .= "{$idx}";
1056         }
1057         elsif( $type eq 'ARRAY' ) {
1058             $var .= "->" unless $did_arrow++;
1059             $var .= "[$idx]";
1060         }
1061         elsif( $type eq 'REF' ) {
1062             $var = "\${$var}";
1063         }
1064     }
1065
1066     my @vals = @{$Stack[-1]{vals}}[0,1];
1067     my @vars = ();
1068     ($vars[0] = $var) =~ s/\$FOO/     \$got/;
1069     ($vars[1] = $var) =~ s/\$FOO/\$expected/;
1070
1071     my $out = "Structures begin differing at:\n";
1072     foreach my $idx (0..$#vals) {
1073         my $val = $vals[$idx];
1074         $vals[$idx] = !defined $val ? 'undef' : 
1075                       $val eq $DNE  ? "Does not exist"
1076                                     : "'$val'";
1077     }
1078
1079     $out .= "$vars[0] = $vals[0]\n";
1080     $out .= "$vars[1] = $vals[1]\n";
1081
1082     $out =~ s/^/    /msg;
1083     return $out;
1084 }
1085
1086
1087 =item B<eq_array>
1088
1089   eq_array(\@this, \@that);
1090
1091 Checks if two arrays are equivalent.  This is a deep check, so
1092 multi-level structures are handled correctly.
1093
1094 =cut
1095
1096 #'#
1097 sub eq_array {
1098     local @Data_Stack;
1099     local %Refs_Seen;
1100     _eq_array(@_);
1101 }
1102
1103 sub _eq_array  {
1104     my($a1, $a2) = @_;
1105
1106     if( grep !UNIVERSAL::isa($_, 'ARRAY'), $a1, $a2 ) {
1107         warn "eq_array passed a non-array ref";
1108         return 0;
1109     }
1110
1111     return 1 if $a1 eq $a2;
1112
1113     if($Refs_Seen{$a1}) {
1114         return $Refs_Seen{$a1} eq $a2;
1115     }
1116     else {
1117         $Refs_Seen{$a1} = "$a2";
1118     }
1119
1120     my $ok = 1;
1121     my $max = $#$a1 > $#$a2 ? $#$a1 : $#$a2;
1122     for (0..$max) {
1123         my $e1 = $_ > $#$a1 ? $DNE : $a1->[$_];
1124         my $e2 = $_ > $#$a2 ? $DNE : $a2->[$_];
1125
1126         push @Data_Stack, { type => 'ARRAY', idx => $_, vals => [$e1, $e2] };
1127         $ok = _deep_check($e1,$e2);
1128         pop @Data_Stack if $ok;
1129
1130         last unless $ok;
1131     }
1132
1133     return $ok;
1134 }
1135
1136 sub _deep_check {
1137     my($e1, $e2) = @_;
1138     my $ok = 0;
1139
1140     {
1141         # Quiet uninitialized value warnings when comparing undefs.
1142         local $^W = 0; 
1143
1144         $Test->_unoverload(\$e1, \$e2);
1145
1146         # Either they're both references or both not.
1147         my $same_ref = !(!ref $e1 xor !ref $e2);
1148
1149         if( defined $e1 xor defined $e2 ) {
1150             $ok = 0;
1151         }
1152         elsif ( $e1 == $DNE xor $e2 == $DNE ) {
1153             $ok = 0;
1154         }
1155         elsif ( $same_ref and ($e1 eq $e2) ) {
1156             $ok = 1;
1157         }
1158         else {
1159             if( UNIVERSAL::isa($e1, 'ARRAY') and
1160                 UNIVERSAL::isa($e2, 'ARRAY') )
1161             {
1162                 $ok = _eq_array($e1, $e2);
1163             }
1164             elsif( UNIVERSAL::isa($e1, 'HASH') and
1165                    UNIVERSAL::isa($e2, 'HASH') )
1166             {
1167                 $ok = _eq_hash($e1, $e2);
1168             }
1169             elsif( UNIVERSAL::isa($e1, 'REF') and
1170                    UNIVERSAL::isa($e2, 'REF') )
1171             {
1172                 push @Data_Stack, { type => 'REF', vals => [$e1, $e2] };
1173                 $ok = _deep_check($$e1, $$e2);
1174                 pop @Data_Stack if $ok;
1175             }
1176             elsif( UNIVERSAL::isa($e1, 'SCALAR') and
1177                    UNIVERSAL::isa($e2, 'SCALAR') )
1178             {
1179                 push @Data_Stack, { type => 'REF', vals => [$e1, $e2] };
1180                 $ok = _deep_check($$e1, $$e2);
1181                 pop @Data_Stack if $ok;
1182             }
1183             else {
1184                 push @Data_Stack, { vals => [$e1, $e2] };
1185                 $ok = 0;
1186             }
1187         }
1188     }
1189
1190     return $ok;
1191 }
1192
1193
1194 =item B<eq_hash>
1195
1196   eq_hash(\%this, \%that);
1197
1198 Determines if the two hashes contain the same keys and values.  This
1199 is a deep check.
1200
1201 =cut
1202
1203 sub eq_hash {
1204     local @Data_Stack;
1205     local %Refs_Seen;
1206     return _eq_hash(@_);
1207 }
1208
1209 sub _eq_hash {
1210     my($a1, $a2) = @_;
1211
1212     if( grep !UNIVERSAL::isa($_, 'HASH'), $a1, $a2 ) {
1213         warn "eq_hash passed a non-hash ref";
1214         return 0;
1215     }
1216
1217     return 1 if $a1 eq $a2;
1218
1219     if( $Refs_Seen{$a1} ) {
1220         return $Refs_Seen{$a1} eq $a2;
1221     }
1222     else {
1223         $Refs_Seen{$a1} = "$a2";
1224     }
1225
1226     my $ok = 1;
1227     my $bigger = keys %$a1 > keys %$a2 ? $a1 : $a2;
1228     foreach my $k (keys %$bigger) {
1229         my $e1 = exists $a1->{$k} ? $a1->{$k} : $DNE;
1230         my $e2 = exists $a2->{$k} ? $a2->{$k} : $DNE;
1231
1232         push @Data_Stack, { type => 'HASH', idx => $k, vals => [$e1, $e2] };
1233         $ok = _deep_check($e1, $e2);
1234         pop @Data_Stack if $ok;
1235
1236         last unless $ok;
1237     }
1238
1239     return $ok;
1240 }
1241
1242 =item B<eq_set>
1243
1244   eq_set(\@this, \@that);
1245
1246 Similar to eq_array(), except the order of the elements is B<not>
1247 important.  This is a deep check, but the irrelevancy of order only
1248 applies to the top level.
1249
1250 B<NOTE> By historical accident, this is not a true set comparision.
1251 While the order of elements does not matter, duplicate elements do.
1252
1253 =cut
1254
1255 sub eq_set  {
1256     my($a1, $a2) = @_;
1257     return 0 unless @$a1 == @$a2;
1258
1259     # There's faster ways to do this, but this is easiest.
1260     local $^W = 0;
1261
1262     # We must make sure that references are treated neutrally.  It really
1263     # doesn't matter how we sort them, as long as both arrays are sorted
1264     # with the same algorithm.
1265     # Have to inline the sort routine due to a threading/sort bug.
1266     # See [rt.cpan.org 6782]
1267     return eq_array(
1268            [sort { ref $a ? -1 : ref $b ? 1 : $a cmp $b } @$a1],
1269            [sort { ref $a ? -1 : ref $b ? 1 : $a cmp $b } @$a2]
1270     );
1271 }
1272
1273 =back
1274
1275
1276 =head2 Extending and Embedding Test::More
1277
1278 Sometimes the Test::More interface isn't quite enough.  Fortunately,
1279 Test::More is built on top of Test::Builder which provides a single,
1280 unified backend for any test library to use.  This means two test
1281 libraries which both use Test::Builder B<can be used together in the
1282 same program>.
1283
1284 If you simply want to do a little tweaking of how the tests behave,
1285 you can access the underlying Test::Builder object like so:
1286
1287 =over 4
1288
1289 =item B<builder>
1290
1291     my $test_builder = Test::More->builder;
1292
1293 Returns the Test::Builder object underlying Test::More for you to play
1294 with.
1295
1296 =cut
1297
1298 sub builder {
1299     return Test::Builder->new;
1300 }
1301
1302 =back
1303
1304
1305 =head1 EXIT CODES
1306
1307 If all your tests passed, Test::Builder will exit with zero (which is
1308 normal).  If anything failed it will exit with how many failed.  If
1309 you run less (or more) tests than you planned, the missing (or extras)
1310 will be considered failures.  If no tests were ever run Test::Builder
1311 will throw a warning and exit with 255.  If the test died, even after
1312 having successfully completed all its tests, it will still be
1313 considered a failure and will exit with 255.
1314
1315 So the exit codes are...
1316
1317     0                   all tests successful
1318     255                 test died
1319     any other number    how many failed (including missing or extras)
1320
1321 If you fail more than 254 tests, it will be reported as 254.
1322
1323
1324 =head1 CAVEATS and NOTES
1325
1326 =over 4
1327
1328 =item Backwards compatibility
1329
1330 Test::More works with Perls as old as 5.004_05.
1331
1332
1333 =item Overloaded objects
1334
1335 String overloaded objects are compared B<as strings>.  This prevents
1336 Test::More from piercing an object's interface allowing better blackbox
1337 testing.  So if a function starts returning overloaded objects instead of
1338 bare strings your tests won't notice the difference.  This is good.
1339
1340 However, it does mean that functions like is_deeply() cannot be used to
1341 test the internals of string overloaded objects.  In this case I would
1342 suggest Test::Deep which contains more flexible testing functions for
1343 complex data structures.
1344
1345
1346 =item Threads
1347
1348 Test::More will only be aware of threads if "use threads" has been done
1349 I<before> Test::More is loaded.  This is ok:
1350
1351     use threads;
1352     use Test::More;
1353
1354 This may cause problems:
1355
1356     use Test::More
1357     use threads;
1358
1359
1360 =item Test::Harness upgrade
1361
1362 no_plan and todo depend on new Test::Harness features and fixes.  If
1363 you're going to distribute tests that use no_plan or todo your
1364 end-users will have to upgrade Test::Harness to the latest one on
1365 CPAN.  If you avoid no_plan and TODO tests, the stock Test::Harness
1366 will work fine.
1367
1368 Installing Test::More should also upgrade Test::Harness.
1369
1370 =back
1371
1372
1373 =head1 HISTORY
1374
1375 This is a case of convergent evolution with Joshua Pritikin's Test
1376 module.  I was largely unaware of its existence when I'd first
1377 written my own ok() routines.  This module exists because I can't
1378 figure out how to easily wedge test names into Test's interface (along
1379 with a few other problems).
1380
1381 The goal here is to have a testing utility that's simple to learn,
1382 quick to use and difficult to trip yourself up with while still
1383 providing more flexibility than the existing Test.pm.  As such, the
1384 names of the most common routines are kept tiny, special cases and
1385 magic side-effects are kept to a minimum.  WYSIWYG.
1386
1387
1388 =head1 SEE ALSO
1389
1390 L<Test::Simple> if all this confuses you and you just want to write
1391 some tests.  You can upgrade to Test::More later (it's forward
1392 compatible).
1393
1394 L<Test> is the old testing module.  Its main benefit is that it has
1395 been distributed with Perl since 5.004_05.
1396
1397 L<Test::Harness> for details on how your test results are interpreted
1398 by Perl.
1399
1400 L<Test::Differences> for more ways to test complex data structures.
1401 And it plays well with Test::More.
1402
1403 L<Test::Class> is like XUnit but more perlish.
1404
1405 L<Test::Deep> gives you more powerful complex data structure testing.
1406
1407 L<Test::Unit> is XUnit style testing.
1408
1409 L<Test::Inline> shows the idea of embedded testing.
1410
1411 L<Bundle::Test> installs a whole bunch of useful test modules.
1412
1413
1414 =head1 AUTHORS
1415
1416 Michael G Schwern E<lt>schwern@pobox.comE<gt> with much inspiration
1417 from Joshua Pritikin's Test module and lots of help from Barrie
1418 Slaymaker, Tony Bowden, blackstar.co.uk, chromatic, Fergal Daly and
1419 the perl-qa gang.
1420
1421
1422 =head1 BUGS
1423
1424 See F<http://rt.cpan.org> to report and view bugs.
1425
1426
1427 =head1 COPYRIGHT
1428
1429 Copyright 2001, 2002, 2004 by Michael G Schwern E<lt>schwern@pobox.comE<gt>.
1430
1431 This program is free software; you can redistribute it and/or 
1432 modify it under the same terms as Perl itself.
1433
1434 See F<http://www.perl.com/perl/misc/Artistic.html>
1435
1436 =cut
1437
1438 1;