Typos in *.p[lm]
[p5sagit/p5-mst-13.2.git] / lib / Test / More.pm
1 package Test::More;
2
3 use 5.004;
4
5 use strict;
6 use Test::Builder;
7
8
9 # Can't use Carp because it might cause use_ok() to accidentally succeed
10 # even though the module being used forgot to use Carp.  Yes, this
11 # actually happened.
12 sub _carp {
13     my($file, $line) = (caller(1))[1,2];
14     warn @_, " at $file line $line\n";
15 }
16
17
18
19 require Exporter;
20 use vars qw($VERSION @ISA @EXPORT %EXPORT_TAGS $TODO);
21 $VERSION = '0.60';
22 $VERSION = eval $VERSION;    # make the alpha version come out as a number
23
24 @ISA    = qw(Exporter);
25 @EXPORT = qw(ok use_ok require_ok
26              is isnt like unlike is_deeply
27              cmp_ok
28              skip todo todo_skip
29              pass fail
30              eq_array eq_hash eq_set
31              $TODO
32              plan
33              can_ok  isa_ok
34              diag
35             );
36
37 my $Test = Test::Builder->new;
38 my $Show_Diag = 1;
39
40
41 # 5.004's Exporter doesn't have export_to_level.
42 sub _export_to_level
43 {
44       my $pkg = shift;
45       my $level = shift;
46       (undef) = shift;                  # redundant arg
47       my $callpkg = caller($level);
48       $pkg->export($callpkg, @_);
49 }
50
51
52 =head1 NAME
53
54 Test::More - yet another framework for writing test scripts
55
56 =head1 SYNOPSIS
57
58   use Test::More tests => $Num_Tests;
59   # or
60   use Test::More qw(no_plan);
61   # or
62   use Test::More skip_all => $reason;
63
64   BEGIN { use_ok( 'Some::Module' ); }
65   require_ok( 'Some::Module' );
66
67   # Various ways to say "ok"
68   ok($this eq $that, $test_name);
69
70   is  ($this, $that,    $test_name);
71   isnt($this, $that,    $test_name);
72
73   # Rather than print STDERR "# here's what went wrong\n"
74   diag("here's what went wrong");
75
76   like  ($this, qr/that/, $test_name);
77   unlike($this, qr/that/, $test_name);
78
79   cmp_ok($this, '==', $that, $test_name);
80
81   is_deeply($complex_structure1, $complex_structure2, $test_name);
82
83   SKIP: {
84       skip $why, $how_many unless $have_some_feature;
85
86       ok( foo(),       $test_name );
87       is( foo(42), 23, $test_name );
88   };
89
90   TODO: {
91       local $TODO = $why;
92
93       ok( foo(),       $test_name );
94       is( foo(42), 23, $test_name );
95   };
96
97   can_ok($module, @methods);
98   isa_ok($object, $class);
99
100   pass($test_name);
101   fail($test_name);
102
103   # UNIMPLEMENTED!!!
104   my @status = Test::More::status;
105
106   # UNIMPLEMENTED!!!
107   BAIL_OUT($why);
108
109
110 =head1 DESCRIPTION
111
112 B<STOP!> If you're just getting started writing tests, have a look at
113 Test::Simple first.  This is a drop in replacement for Test::Simple
114 which you can switch to once you get the hang of basic testing.
115
116 The purpose of this module is to provide a wide range of testing
117 utilities.  Various ways to say "ok" with better diagnostics,
118 facilities to skip tests, test future features and compare complicated
119 data structures.  While you can do almost anything with a simple
120 C<ok()> function, it doesn't provide good diagnostic output.
121
122
123 =head2 I love it when a plan comes together
124
125 Before anything else, you need a testing plan.  This basically declares
126 how many tests your script is going to run to protect against premature
127 failure.
128
129 The preferred way to do this is to declare a plan when you C<use Test::More>.
130
131   use Test::More tests => $Num_Tests;
132
133 There are rare cases when you will not know beforehand how many tests
134 your script is going to run.  In this case, you can declare that you
135 have no plan.  (Try to avoid using this as it weakens your test.)
136
137   use Test::More qw(no_plan);
138
139 B<NOTE>: using no_plan requires a Test::Harness upgrade else it will
140 think everything has failed.  See L<BUGS and CAVEATS>)
141
142 In some cases, you'll want to completely skip an entire testing script.
143
144   use Test::More skip_all => $skip_reason;
145
146 Your script will declare a skip with the reason why you skipped and
147 exit immediately with a zero (success).  See L<Test::Harness> for
148 details.
149
150 If you want to control what functions Test::More will export, you
151 have to use the 'import' option.  For example, to import everything
152 but 'fail', you'd do:
153
154   use Test::More tests => 23, import => ['!fail'];
155
156 Alternatively, you can use the plan() function.  Useful for when you
157 have to calculate the number of tests.
158
159   use Test::More;
160   plan tests => keys %Stuff * 3;
161
162 or for deciding between running the tests at all:
163
164   use Test::More;
165   if( $^O eq 'MacOS' ) {
166       plan skip_all => 'Test irrelevant on MacOS';
167   }
168   else {
169       plan tests => 42;
170   }
171
172 =cut
173
174 sub plan {
175     my(@plan) = @_;
176
177     my $idx = 0;
178     my @cleaned_plan;
179     while( $idx <= $#plan ) {
180         my $item = $plan[$idx];
181
182         if( $item eq 'no_diag' ) {
183             $Show_Diag = 0;
184         }
185         else {
186             push @cleaned_plan, $item;
187         }
188
189         $idx++;
190     }
191
192     $Test->plan(@cleaned_plan);
193 }
194
195 sub import {
196     my($class) = shift;
197
198     my $caller = caller;
199
200     $Test->exported_to($caller);
201
202     my $idx = 0;
203     my @plan;
204     my @imports;
205     while( $idx <= $#_ ) {
206         my $item = $_[$idx];
207
208         if( $item eq 'import' ) {
209             push @imports, @{$_[$idx+1]};
210             $idx++;
211         }
212         else {
213             push @plan, $item;
214         }
215
216         $idx++;
217     }
218
219     plan(@plan);
220
221     __PACKAGE__->_export_to_level(1, __PACKAGE__, @imports);
222 }
223
224
225 =head2 Test names
226
227 By convention, each test is assigned a number in order.  This is
228 largely done automatically for you.  However, it's often very useful to
229 assign a name to each test.  Which would you rather see:
230
231   ok 4
232   not ok 5
233   ok 6
234
235 or
236
237   ok 4 - basic multi-variable
238   not ok 5 - simple exponential
239   ok 6 - force == mass * acceleration
240
241 The later gives you some idea of what failed.  It also makes it easier
242 to find the test in your script, simply search for "simple
243 exponential".
244
245 All test functions take a name argument.  It's optional, but highly
246 suggested that you use it.
247
248
249 =head2 I'm ok, you're not ok.
250
251 The basic purpose of this module is to print out either "ok #" or "not
252 ok #" depending on if a given test succeeded or failed.  Everything
253 else is just gravy.
254
255 All of the following print "ok" or "not ok" depending on if the test
256 succeeded or failed.  They all also return true or false,
257 respectively.
258
259 =over 4
260
261 =item B<ok>
262
263   ok($this eq $that, $test_name);
264
265 This simply evaluates any expression (C<$this eq $that> is just a
266 simple example) and uses that to determine if the test succeeded or
267 failed.  A true expression passes, a false one fails.  Very simple.
268
269 For example:
270
271     ok( $exp{9} == 81,                   'simple exponential' );
272     ok( Film->can('db_Main'),            'set_db()' );
273     ok( $p->tests == 4,                  'saw tests' );
274     ok( !grep !defined $_, @items,       'items populated' );
275
276 (Mnemonic:  "This is ok.")
277
278 $test_name is a very short description of the test that will be printed
279 out.  It makes it very easy to find a test in your script when it fails
280 and gives others an idea of your intentions.  $test_name is optional,
281 but we B<very> strongly encourage its use.
282
283 Should an ok() fail, it will produce some diagnostics:
284
285     not ok 18 - sufficient mucus
286     #     Failed test 18 (foo.t at line 42)
287
288 This is actually Test::Simple's ok() routine.
289
290 =cut
291
292 sub ok ($;$) {
293     my($test, $name) = @_;
294     $Test->ok($test, $name);
295 }
296
297 =item B<is>
298
299 =item B<isnt>
300
301   is  ( $this, $that, $test_name );
302   isnt( $this, $that, $test_name );
303
304 Similar to ok(), is() and isnt() compare their two arguments
305 with C<eq> and C<ne> respectively and use the result of that to
306 determine if the test succeeded or failed.  So these:
307
308     # Is the ultimate answer 42?
309     is( ultimate_answer(), 42,          "Meaning of Life" );
310
311     # $foo isn't empty
312     isnt( $foo, '',     "Got some foo" );
313
314 are similar to these:
315
316     ok( ultimate_answer() eq 42,        "Meaning of Life" );
317     ok( $foo ne '',     "Got some foo" );
318
319 (Mnemonic:  "This is that."  "This isn't that.")
320
321 So why use these?  They produce better diagnostics on failure.  ok()
322 cannot know what you are testing for (beyond the name), but is() and
323 isnt() know what the test was and why it failed.  For example this
324 test:
325
326     my $foo = 'waffle';  my $bar = 'yarblokos';
327     is( $foo, $bar,   'Is foo the same as bar?' );
328
329 Will produce something like this:
330
331     not ok 17 - Is foo the same as bar?
332     #     Failed test (foo.t at line 139)
333     #          got: 'waffle'
334     #     expected: 'yarblokos'
335
336 So you can figure out what went wrong without rerunning the test.
337
338 You are encouraged to use is() and isnt() over ok() where possible,
339 however do not be tempted to use them to find out if something is
340 true or false!
341
342   # XXX BAD!
343   is( exists $brooklyn{tree}, 1, 'A tree grows in Brooklyn' );
344
345 This does not check if C<exists $brooklyn{tree}> is true, it checks if
346 it returns 1.  Very different.  Similar caveats exist for false and 0.
347 In these cases, use ok().
348
349   ok( exists $brooklyn{tree},    'A tree grows in Brooklyn' );
350
351 For those grammatical pedants out there, there's an C<isn't()>
352 function which is an alias of isnt().
353
354 =cut
355
356 sub is ($$;$) {
357     $Test->is_eq(@_);
358 }
359
360 sub isnt ($$;$) {
361     $Test->isnt_eq(@_);
362 }
363
364 *isn't = \&isnt;
365
366
367 =item B<like>
368
369   like( $this, qr/that/, $test_name );
370
371 Similar to ok(), like() matches $this against the regex C<qr/that/>.
372
373 So this:
374
375     like($this, qr/that/, 'this is like that');
376
377 is similar to:
378
379     ok( $this =~ /that/, 'this is like that');
380
381 (Mnemonic "This is like that".)
382
383 The second argument is a regular expression.  It may be given as a
384 regex reference (i.e. C<qr//>) or (for better compatibility with older
385 perls) as a string that looks like a regex (alternative delimiters are
386 currently not supported):
387
388     like( $this, '/that/', 'this is like that' );
389
390 Regex options may be placed on the end (C<'/that/i'>).
391
392 Its advantages over ok() are similar to that of is() and isnt().  Better
393 diagnostics on failure.
394
395 =cut
396
397 sub like ($$;$) {
398     $Test->like(@_);
399 }
400
401
402 =item B<unlike>
403
404   unlike( $this, qr/that/, $test_name );
405
406 Works exactly as like(), only it checks if $this B<does not> match the
407 given pattern.
408
409 =cut
410
411 sub unlike ($$;$) {
412     $Test->unlike(@_);
413 }
414
415
416 =item B<cmp_ok>
417
418   cmp_ok( $this, $op, $that, $test_name );
419
420 Halfway between ok() and is() lies cmp_ok().  This allows you to
421 compare two arguments using any binary perl operator.
422
423     # ok( $this eq $that );
424     cmp_ok( $this, 'eq', $that, 'this eq that' );
425
426     # ok( $this == $that );
427     cmp_ok( $this, '==', $that, 'this == that' );
428
429     # ok( $this && $that );
430     cmp_ok( $this, '&&', $that, 'this && that' );
431     ...etc...
432
433 Its advantage over ok() is when the test fails you'll know what $this
434 and $that were:
435
436     not ok 1
437     #     Failed test (foo.t at line 12)
438     #     '23'
439     #         &&
440     #     undef
441
442 It's also useful in those cases where you are comparing numbers and
443 is()'s use of C<eq> will interfere:
444
445     cmp_ok( $big_hairy_number, '==', $another_big_hairy_number );
446
447 =cut
448
449 sub cmp_ok($$$;$) {
450     $Test->cmp_ok(@_);
451 }
452
453
454 =item B<can_ok>
455
456   can_ok($module, @methods);
457   can_ok($object, @methods);
458
459 Checks to make sure the $module or $object can do these @methods
460 (works with functions, too).
461
462     can_ok('Foo', qw(this that whatever));
463
464 is almost exactly like saying:
465
466     ok( Foo->can('this') && 
467         Foo->can('that') && 
468         Foo->can('whatever') 
469       );
470
471 only without all the typing and with a better interface.  Handy for
472 quickly testing an interface.
473
474 No matter how many @methods you check, a single can_ok() call counts
475 as one test.  If you desire otherwise, use:
476
477     foreach my $meth (@methods) {
478         can_ok('Foo', $meth);
479     }
480
481 =cut
482
483 sub can_ok ($@) {
484     my($proto, @methods) = @_;
485     my $class = ref $proto || $proto;
486
487     unless( @methods ) {
488         my $ok = $Test->ok( 0, "$class->can(...)" );
489         $Test->diag('    can_ok() called with no methods');
490         return $ok;
491     }
492
493     my @nok = ();
494     foreach my $method (@methods) {
495         local($!, $@);  # don't interfere with caller's $@
496                         # eval sometimes resets $!
497         eval { $proto->can($method) } || push @nok, $method;
498     }
499
500     my $name;
501     $name = @methods == 1 ? "$class->can('$methods[0]')" 
502                           : "$class->can(...)";
503     
504     my $ok = $Test->ok( !@nok, $name );
505
506     $Test->diag(map "    $class->can('$_') failed\n", @nok);
507
508     return $ok;
509 }
510
511 =item B<isa_ok>
512
513   isa_ok($object, $class, $object_name);
514   isa_ok($ref,    $type,  $ref_name);
515
516 Checks to see if the given C<< $object->isa($class) >>.  Also checks to make
517 sure the object was defined in the first place.  Handy for this sort
518 of thing:
519
520     my $obj = Some::Module->new;
521     isa_ok( $obj, 'Some::Module' );
522
523 where you'd otherwise have to write
524
525     my $obj = Some::Module->new;
526     ok( defined $obj && $obj->isa('Some::Module') );
527
528 to safeguard against your test script blowing up.
529
530 It works on references, too:
531
532     isa_ok( $array_ref, 'ARRAY' );
533
534 The diagnostics of this test normally just refer to 'the object'.  If
535 you'd like them to be more specific, you can supply an $object_name
536 (for example 'Test customer').
537
538 =cut
539
540 sub isa_ok ($$;$) {
541     my($object, $class, $obj_name) = @_;
542
543     my $diag;
544     $obj_name = 'The object' unless defined $obj_name;
545     my $name = "$obj_name isa $class";
546     if( !defined $object ) {
547         $diag = "$obj_name isn't defined";
548     }
549     elsif( !ref $object ) {
550         $diag = "$obj_name isn't a reference";
551     }
552     else {
553         # We can't use UNIVERSAL::isa because we want to honor isa() overrides
554         local($@, $!);  # eval sometimes resets $!
555         my $rslt = eval { $object->isa($class) };
556         if( $@ ) {
557             if( $@ =~ /^Can't call method "isa" on unblessed reference/ ) {
558                 if( !UNIVERSAL::isa($object, $class) ) {
559                     my $ref = ref $object;
560                     $diag = "$obj_name isn't a '$class' it's a '$ref'";
561                 }
562             } else {
563                 die <<WHOA;
564 WHOA! I tried to call ->isa on your object and got some weird error.
565 This should never happen.  Please contact the author immediately.
566 Here's the error.
567 $@
568 WHOA
569             }
570         }
571         elsif( !$rslt ) {
572             my $ref = ref $object;
573             $diag = "$obj_name isn't a '$class' it's a '$ref'";
574         }
575     }
576             
577       
578
579     my $ok;
580     if( $diag ) {
581         $ok = $Test->ok( 0, $name );
582         $Test->diag("    $diag\n");
583     }
584     else {
585         $ok = $Test->ok( 1, $name );
586     }
587
588     return $ok;
589 }
590
591
592 =item B<pass>
593
594 =item B<fail>
595
596   pass($test_name);
597   fail($test_name);
598
599 Sometimes you just want to say that the tests have passed.  Usually
600 the case is you've got some complicated condition that is difficult to
601 wedge into an ok().  In this case, you can simply use pass() (to
602 declare the test ok) or fail (for not ok).  They are synonyms for
603 ok(1) and ok(0).
604
605 Use these very, very, very sparingly.
606
607 =cut
608
609 sub pass (;$) {
610     $Test->ok(1, @_);
611 }
612
613 sub fail (;$) {
614     $Test->ok(0, @_);
615 }
616
617 =back
618
619 =head2 Diagnostics
620
621 If you pick the right test function, you'll usually get a good idea of
622 what went wrong when it failed.  But sometimes it doesn't work out
623 that way.  So here we have ways for you to write your own diagnostic
624 messages which are safer than just C<print STDERR>.
625
626 =over 4
627
628 =item B<diag>
629
630   diag(@diagnostic_message);
631
632 Prints a diagnostic message which is guaranteed not to interfere with
633 test output.  Like C<print> @diagnostic_message is simply concatenated
634 together.
635
636 Handy for this sort of thing:
637
638     ok( grep(/foo/, @users), "There's a foo user" ) or
639         diag("Since there's no foo, check that /etc/bar is set up right");
640
641 which would produce:
642
643     not ok 42 - There's a foo user
644     #     Failed test (foo.t at line 52)
645     # Since there's no foo, check that /etc/bar is set up right.
646
647 You might remember C<ok() or diag()> with the mnemonic C<open() or
648 die()>.
649
650 All diag()s can be made silent by passing the "no_diag" option to
651 Test::More.  C<use Test::More tests => 1, 'no_diag'>.  This is useful
652 if you have diagnostics for personal testing but then wish to make
653 them silent for release without commenting out each individual
654 statement.
655
656 B<NOTE> The exact formatting of the diagnostic output is still
657 changing, but it is guaranteed that whatever you throw at it it won't
658 interfere with the test.
659
660 =cut
661
662 sub diag {
663     return unless $Show_Diag;
664     $Test->diag(@_);
665 }
666
667
668 =back
669
670 =head2 Module tests
671
672 You usually want to test if the module you're testing loads ok, rather
673 than just vomiting if its load fails.  For such purposes we have
674 C<use_ok> and C<require_ok>.
675
676 =over 4
677
678 =item B<use_ok>
679
680    BEGIN { use_ok($module); }
681    BEGIN { use_ok($module, @imports); }
682
683 These simply use the given $module and test to make sure the load
684 happened ok.  It's recommended that you run use_ok() inside a BEGIN
685 block so its functions are exported at compile-time and prototypes are
686 properly honored.
687
688 If @imports are given, they are passed through to the use.  So this:
689
690    BEGIN { use_ok('Some::Module', qw(foo bar)) }
691
692 is like doing this:
693
694    use Some::Module qw(foo bar);
695
696 Version numbers can be checked like so:
697
698    # Just like "use Some::Module 1.02"
699    BEGIN { use_ok('Some::Module', 1.02) }
700
701 Don't try to do this:
702
703    BEGIN {
704        use_ok('Some::Module');
705
706        ...some code that depends on the use...
707        ...happening at compile time...
708    }
709
710 because the notion of "compile-time" is relative.  Instead, you want:
711
712   BEGIN { use_ok('Some::Module') }
713   BEGIN { ...some code that depends on the use... }
714
715
716 =cut
717
718 sub use_ok ($;@) {
719     my($module, @imports) = @_;
720     @imports = () unless @imports;
721
722     my($pack,$filename,$line) = caller;
723
724     local($@,$!);   # eval sometimes interferes with $!
725
726     if( @imports == 1 and $imports[0] =~ /^\d+(?:\.\d+)?$/ ) {
727         # probably a version check.  Perl needs to see the bare number
728         # for it to work with non-Exporter based modules.
729         eval <<USE;
730 package $pack;
731 use $module $imports[0];
732 USE
733     }
734     else {
735         eval <<USE;
736 package $pack;
737 use $module \@imports;
738 USE
739     }
740
741     my $ok = $Test->ok( !$@, "use $module;" );
742
743     unless( $ok ) {
744         chomp $@;
745         $@ =~ s{^BEGIN failed--compilation aborted at .*$}
746                 {BEGIN failed--compilation aborted at $filename line $line.}m;
747         $Test->diag(<<DIAGNOSTIC);
748     Tried to use '$module'.
749     Error:  $@
750 DIAGNOSTIC
751
752     }
753
754     return $ok;
755 }
756
757 =item B<require_ok>
758
759    require_ok($module);
760    require_ok($file);
761
762 Like use_ok(), except it requires the $module or $file.
763
764 =cut
765
766 sub require_ok ($) {
767     my($module) = shift;
768
769     my $pack = caller;
770
771     # Try to deterine if we've been given a module name or file.
772     # Module names must be barewords, files not.
773     $module = qq['$module'] unless _is_module_name($module);
774
775     local($!, $@); # eval sometimes interferes with $!
776     eval <<REQUIRE;
777 package $pack;
778 require $module;
779 REQUIRE
780
781     my $ok = $Test->ok( !$@, "require $module;" );
782
783     unless( $ok ) {
784         chomp $@;
785         $Test->diag(<<DIAGNOSTIC);
786     Tried to require '$module'.
787     Error:  $@
788 DIAGNOSTIC
789
790     }
791
792     return $ok;
793 }
794
795
796 sub _is_module_name {
797     my $module = shift;
798
799     # Module names start with a letter.
800     # End with an alphanumeric.
801     # The rest is an alphanumeric or ::
802     $module =~ s/\b::\b//g;
803     $module =~ /^[a-zA-Z]\w*$/;
804 }
805
806 =back
807
808 =head2 Conditional tests
809
810 Sometimes running a test under certain conditions will cause the
811 test script to die.  A certain function or method isn't implemented
812 (such as fork() on MacOS), some resource isn't available (like a 
813 net connection) or a module isn't available.  In these cases it's
814 necessary to skip tests, or declare that they are supposed to fail
815 but will work in the future (a todo test).
816
817 For more details on the mechanics of skip and todo tests see
818 L<Test::Harness>.
819
820 The way Test::More handles this is with a named block.  Basically, a
821 block of tests which can be skipped over or made todo.  It's best if I
822 just show you...
823
824 =over 4
825
826 =item B<SKIP: BLOCK>
827
828   SKIP: {
829       skip $why, $how_many if $condition;
830
831       ...normal testing code goes here...
832   }
833
834 This declares a block of tests that might be skipped, $how_many tests
835 there are, $why and under what $condition to skip them.  An example is
836 the easiest way to illustrate:
837
838     SKIP: {
839         eval { require HTML::Lint };
840
841         skip "HTML::Lint not installed", 2 if $@;
842
843         my $lint = new HTML::Lint;
844         isa_ok( $lint, "HTML::Lint" );
845
846         $lint->parse( $html );
847         is( $lint->errors, 0, "No errors found in HTML" );
848     }
849
850 If the user does not have HTML::Lint installed, the whole block of
851 code I<won't be run at all>.  Test::More will output special ok's
852 which Test::Harness interprets as skipped, but passing, tests.
853
854 It's important that $how_many accurately reflects the number of tests
855 in the SKIP block so the # of tests run will match up with your plan.
856 If your plan is C<no_plan> $how_many is optional and will default to 1.
857
858 It's perfectly safe to nest SKIP blocks.  Each SKIP block must have
859 the label C<SKIP>, or Test::More can't work its magic.
860
861 You don't skip tests which are failing because there's a bug in your
862 program, or for which you don't yet have code written.  For that you
863 use TODO.  Read on.
864
865 =cut
866
867 #'#
868 sub skip {
869     my($why, $how_many) = @_;
870
871     unless( defined $how_many ) {
872         # $how_many can only be avoided when no_plan is in use.
873         _carp "skip() needs to know \$how_many tests are in the block"
874           unless $Test->has_plan eq 'no_plan';
875         $how_many = 1;
876     }
877
878     for( 1..$how_many ) {
879         $Test->skip($why);
880     }
881
882     local $^W = 0;
883     last SKIP;
884 }
885
886
887 =item B<TODO: BLOCK>
888
889     TODO: {
890         local $TODO = $why if $condition;
891
892         ...normal testing code goes here...
893     }
894
895 Declares a block of tests you expect to fail and $why.  Perhaps it's
896 because you haven't fixed a bug or haven't finished a new feature:
897
898     TODO: {
899         local $TODO = "URI::Geller not finished";
900
901         my $card = "Eight of clubs";
902         is( URI::Geller->your_card, $card, 'Is THIS your card?' );
903
904         my $spoon;
905         URI::Geller->bend_spoon;
906         is( $spoon, 'bent',    "Spoon bending, that's original" );
907     }
908
909 With a todo block, the tests inside are expected to fail.  Test::More
910 will run the tests normally, but print out special flags indicating
911 they are "todo".  Test::Harness will interpret failures as being ok.
912 Should anything succeed, it will report it as an unexpected success.
913 You then know the thing you had todo is done and can remove the
914 TODO flag.
915
916 The nice part about todo tests, as opposed to simply commenting out a
917 block of tests, is it's like having a programmatic todo list.  You know
918 how much work is left to be done, you're aware of what bugs there are,
919 and you'll know immediately when they're fixed.
920
921 Once a todo test starts succeeding, simply move it outside the block.
922 When the block is empty, delete it.
923
924 B<NOTE>: TODO tests require a Test::Harness upgrade else it will
925 treat it as a normal failure.  See L<BUGS and CAVEATS>)
926
927
928 =item B<todo_skip>
929
930     TODO: {
931         todo_skip $why, $how_many if $condition;
932
933         ...normal testing code...
934     }
935
936 With todo tests, it's best to have the tests actually run.  That way
937 you'll know when they start passing.  Sometimes this isn't possible.
938 Often a failing test will cause the whole program to die or hang, even
939 inside an C<eval BLOCK> with and using C<alarm>.  In these extreme
940 cases you have no choice but to skip over the broken tests entirely.
941
942 The syntax and behavior is similar to a C<SKIP: BLOCK> except the
943 tests will be marked as failing but todo.  Test::Harness will
944 interpret them as passing.
945
946 =cut
947
948 sub todo_skip {
949     my($why, $how_many) = @_;
950
951     unless( defined $how_many ) {
952         # $how_many can only be avoided when no_plan is in use.
953         _carp "todo_skip() needs to know \$how_many tests are in the block"
954           unless $Test->has_plan eq 'no_plan';
955         $how_many = 1;
956     }
957
958     for( 1..$how_many ) {
959         $Test->todo_skip($why);
960     }
961
962     local $^W = 0;
963     last TODO;
964 }
965
966 =item When do I use SKIP vs. TODO?
967
968 B<If it's something the user might not be able to do>, use SKIP.
969 This includes optional modules that aren't installed, running under
970 an OS that doesn't have some feature (like fork() or symlinks), or maybe
971 you need an Internet connection and one isn't available.
972
973 B<If it's something the programmer hasn't done yet>, use TODO.  This
974 is for any code you haven't written yet, or bugs you have yet to fix,
975 but want to put tests in your testing script (always a good idea).
976
977
978 =back
979
980 =head2 Complex data structures
981
982 Not everything is a simple eq check or regex.  There are times you
983 need to see if two data structures are equivalent.  For these
984 instances Test::More provides a handful of useful functions.
985
986 B<NOTE> I'm not quite sure what will happen with filehandles.
987
988 =over 4
989
990 =item B<is_deeply>
991
992   is_deeply( $this, $that, $test_name );
993
994 Similar to is(), except that if $this and $that are hash or array
995 references, it does a deep comparison walking each data structure to
996 see if they are equivalent.  If the two structures are different, it
997 will display the place where they start differing.
998
999 Test::Differences and Test::Deep provide more in-depth functionality
1000 along these lines.
1001
1002 =cut
1003
1004 use vars qw(@Data_Stack %Refs_Seen);
1005 my $DNE = bless [], 'Does::Not::Exist';
1006 sub is_deeply {
1007     unless( @_ == 2 or @_ == 3 ) {
1008         my $msg = <<WARNING;
1009 is_deeply() takes two or three args, you gave %d.
1010 This usually means you passed an array or hash instead 
1011 of a reference to it
1012 WARNING
1013         chop $msg;   # clip off newline so carp() will put in line/file
1014
1015         _carp sprintf $msg, scalar @_;
1016
1017         return $Test->ok(0);
1018     }
1019
1020     my($this, $that, $name) = @_;
1021
1022     my $ok;
1023     if( !ref $this and !ref $that ) {           # neither is a reference
1024         $ok = $Test->is_eq($this, $that, $name);
1025     }
1026     elsif( !ref $this xor !ref $that ) {        # one's a reference, one isn't
1027         $ok = $Test->ok(0, $name);
1028         $Test->diag( _format_stack({ vals => [ $this, $that ] }) );
1029     }
1030     else {                                      # both references
1031         local @Data_Stack = ();
1032         if( _deep_check($this, $that) ) {
1033             $ok = $Test->ok(1, $name);
1034         }
1035         else {
1036             $ok = $Test->ok(0, $name);
1037             $Test->diag(_format_stack(@Data_Stack));
1038         }
1039     }
1040
1041     return $ok;
1042 }
1043
1044 sub _format_stack {
1045     my(@Stack) = @_;
1046
1047     my $var = '$FOO';
1048     my $did_arrow = 0;
1049     foreach my $entry (@Stack) {
1050         my $type = $entry->{type} || '';
1051         my $idx  = $entry->{'idx'};
1052         if( $type eq 'HASH' ) {
1053             $var .= "->" unless $did_arrow++;
1054             $var .= "{$idx}";
1055         }
1056         elsif( $type eq 'ARRAY' ) {
1057             $var .= "->" unless $did_arrow++;
1058             $var .= "[$idx]";
1059         }
1060         elsif( $type eq 'REF' ) {
1061             $var = "\${$var}";
1062         }
1063     }
1064
1065     my @vals = @{$Stack[-1]{vals}}[0,1];
1066     my @vars = ();
1067     ($vars[0] = $var) =~ s/\$FOO/     \$got/;
1068     ($vars[1] = $var) =~ s/\$FOO/\$expected/;
1069
1070     my $out = "Structures begin differing at:\n";
1071     foreach my $idx (0..$#vals) {
1072         my $val = $vals[$idx];
1073         $vals[$idx] = !defined $val ? 'undef'          :
1074                       $val eq $DNE  ? "Does not exist" :
1075                       ref $val      ? "$val"           :
1076                                       "'$val'";
1077     }
1078
1079     $out .= "$vars[0] = $vals[0]\n";
1080     $out .= "$vars[1] = $vals[1]\n";
1081
1082     $out =~ s/^/    /msg;
1083     return $out;
1084 }
1085
1086
1087 sub _type {
1088     my $thing = shift;
1089
1090     return '' if !ref $thing;
1091
1092     for my $type (qw(ARRAY HASH REF SCALAR GLOB Regexp)) {
1093         return $type if UNIVERSAL::isa($thing, $type);
1094     }
1095
1096     return '';
1097 }
1098
1099
1100 =head2 Discouraged comparison functions
1101
1102 The use of the following functions is discouraged as they are not
1103 actually testing functions and produce no diagnostics to help figure
1104 out what went wrong.  They were written before is_deeply() existed
1105 because I couldn't figure out how to display a useful diff of two
1106 arbitrary data structures.
1107
1108 These functions are usually used inside an ok().
1109
1110     ok( eq_array(\@this, \@that) );
1111
1112 C<is_deeply()> can do that better and with diagnostics.  
1113
1114     is_deeply( \@this, \@that );
1115
1116 They may be deprecated in future versions.
1117
1118
1119 =item B<eq_array>
1120
1121   my $is_eq = eq_array(\@this, \@that);
1122
1123 Checks if two arrays are equivalent.  This is a deep check, so
1124 multi-level structures are handled correctly.
1125
1126 =cut
1127
1128 #'#
1129 sub eq_array {
1130     local @Data_Stack;
1131     _deep_check(@_);
1132 }
1133
1134 sub _eq_array  {
1135     my($a1, $a2) = @_;
1136
1137     if( grep !_type($_) eq 'ARRAY', $a1, $a2 ) {
1138         warn "eq_array passed a non-array ref";
1139         return 0;
1140     }
1141
1142     return 1 if $a1 eq $a2;
1143
1144     my $ok = 1;
1145     my $max = $#$a1 > $#$a2 ? $#$a1 : $#$a2;
1146     for (0..$max) {
1147         my $e1 = $_ > $#$a1 ? $DNE : $a1->[$_];
1148         my $e2 = $_ > $#$a2 ? $DNE : $a2->[$_];
1149
1150         push @Data_Stack, { type => 'ARRAY', idx => $_, vals => [$e1, $e2] };
1151         $ok = _deep_check($e1,$e2);
1152         pop @Data_Stack if $ok;
1153
1154         last unless $ok;
1155     }
1156
1157     return $ok;
1158 }
1159
1160 sub _deep_check {
1161     my($e1, $e2) = @_;
1162     my $ok = 0;
1163
1164     # Effectively turn %Refs_Seen into a stack.  This avoids picking up
1165     # the same referenced used twice (such as [\$a, \$a]) to be considered
1166     # circular.
1167     local %Refs_Seen = %Refs_Seen;
1168
1169     {
1170         # Quiet uninitialized value warnings when comparing undefs.
1171         local $^W = 0; 
1172
1173         $Test->_unoverload(\$e1, \$e2);
1174
1175         # Either they're both references or both not.
1176         my $same_ref = !(!ref $e1 xor !ref $e2);
1177         my $not_ref  = (!ref $e1 and !ref $e2);
1178
1179         if( defined $e1 xor defined $e2 ) {
1180             $ok = 0;
1181         }
1182         elsif ( $e1 == $DNE xor $e2 == $DNE ) {
1183             $ok = 0;
1184         }
1185         elsif ( $same_ref and ($e1 eq $e2) ) {
1186             $ok = 1;
1187         }
1188         elsif ( $not_ref ) {
1189             push @Data_Stack, { type => '', vals => [$e1, $e2] };
1190             $ok = 0;
1191         }
1192         else {
1193             if( $Refs_Seen{$e1} ) {
1194                 return $Refs_Seen{$e1} eq $e2;
1195             }
1196             else {
1197                 $Refs_Seen{$e1} = "$e2";
1198             }
1199
1200             my $type = _type($e1);
1201             $type = 'DIFFERENT' unless _type($e2) eq $type;
1202
1203             if( $type eq 'DIFFERENT' ) {
1204                 push @Data_Stack, { type => $type, vals => [$e1, $e2] };
1205                 $ok = 0;
1206             }
1207             elsif( $type eq 'ARRAY' ) {
1208                 $ok = _eq_array($e1, $e2);
1209             }
1210             elsif( $type eq 'HASH' ) {
1211                 $ok = _eq_hash($e1, $e2);
1212             }
1213             elsif( $type eq 'REF' ) {
1214                 push @Data_Stack, { type => $type, vals => [$e1, $e2] };
1215                 $ok = _deep_check($$e1, $$e2);
1216                 pop @Data_Stack if $ok;
1217             }
1218             elsif( $type eq 'SCALAR' ) {
1219                 push @Data_Stack, { type => 'REF', vals => [$e1, $e2] };
1220                 $ok = _deep_check($$e1, $$e2);
1221                 pop @Data_Stack if $ok;
1222             }
1223             else {
1224                 _whoa(1, "No type in _deep_check");
1225             }
1226         }
1227     }
1228
1229     return $ok;
1230 }
1231
1232
1233 sub _whoa {
1234     my($check, $desc) = @_;
1235     if( $check ) {
1236         die <<WHOA;
1237 WHOA!  $desc
1238 This should never happen!  Please contact the author immediately!
1239 WHOA
1240     }
1241 }
1242
1243
1244 =item B<eq_hash>
1245
1246   my $is_eq = eq_hash(\%this, \%that);
1247
1248 Determines if the two hashes contain the same keys and values.  This
1249 is a deep check.
1250
1251 =cut
1252
1253 sub eq_hash {
1254     local @Data_Stack;
1255     return _deep_check(@_);
1256 }
1257
1258 sub _eq_hash {
1259     my($a1, $a2) = @_;
1260
1261     if( grep !_type($_) eq 'HASH', $a1, $a2 ) {
1262         warn "eq_hash passed a non-hash ref";
1263         return 0;
1264     }
1265
1266     return 1 if $a1 eq $a2;
1267
1268     my $ok = 1;
1269     my $bigger = keys %$a1 > keys %$a2 ? $a1 : $a2;
1270     foreach my $k (keys %$bigger) {
1271         my $e1 = exists $a1->{$k} ? $a1->{$k} : $DNE;
1272         my $e2 = exists $a2->{$k} ? $a2->{$k} : $DNE;
1273
1274         push @Data_Stack, { type => 'HASH', idx => $k, vals => [$e1, $e2] };
1275         $ok = _deep_check($e1, $e2);
1276         pop @Data_Stack if $ok;
1277
1278         last unless $ok;
1279     }
1280
1281     return $ok;
1282 }
1283
1284 =item B<eq_set>
1285
1286   my $is_eq = eq_set(\@this, \@that);
1287
1288 Similar to eq_array(), except the order of the elements is B<not>
1289 important.  This is a deep check, but the irrelevancy of order only
1290 applies to the top level.
1291
1292     ok( eq_set(\@this, \@that) );
1293
1294 Is better written:
1295
1296     is_deeply( [sort @this], [sort @that] );
1297
1298 B<NOTE> By historical accident, this is not a true set comparison.
1299 While the order of elements does not matter, duplicate elements do.
1300
1301 Test::Deep contains much better set comparison functions.
1302
1303 =cut
1304
1305 sub eq_set  {
1306     my($a1, $a2) = @_;
1307     return 0 unless @$a1 == @$a2;
1308
1309     # There's faster ways to do this, but this is easiest.
1310     local $^W = 0;
1311
1312     # We must make sure that references are treated neutrally.  It really
1313     # doesn't matter how we sort them, as long as both arrays are sorted
1314     # with the same algorithm.
1315     # Have to inline the sort routine due to a threading/sort bug.
1316     # See [rt.cpan.org 6782]
1317     return eq_array(
1318            [sort { ref $a ? -1 : ref $b ? 1 : $a cmp $b } @$a1],
1319            [sort { ref $a ? -1 : ref $b ? 1 : $a cmp $b } @$a2]
1320     );
1321 }
1322
1323 =back
1324
1325
1326 =head2 Extending and Embedding Test::More
1327
1328 Sometimes the Test::More interface isn't quite enough.  Fortunately,
1329 Test::More is built on top of Test::Builder which provides a single,
1330 unified backend for any test library to use.  This means two test
1331 libraries which both use Test::Builder B<can be used together in the
1332 same program>.
1333
1334 If you simply want to do a little tweaking of how the tests behave,
1335 you can access the underlying Test::Builder object like so:
1336
1337 =over 4
1338
1339 =item B<builder>
1340
1341     my $test_builder = Test::More->builder;
1342
1343 Returns the Test::Builder object underlying Test::More for you to play
1344 with.
1345
1346 =cut
1347
1348 sub builder {
1349     return Test::Builder->new;
1350 }
1351
1352 =back
1353
1354
1355 =head1 EXIT CODES
1356
1357 If all your tests passed, Test::Builder will exit with zero (which is
1358 normal).  If anything failed it will exit with how many failed.  If
1359 you run less (or more) tests than you planned, the missing (or extras)
1360 will be considered failures.  If no tests were ever run Test::Builder
1361 will throw a warning and exit with 255.  If the test died, even after
1362 having successfully completed all its tests, it will still be
1363 considered a failure and will exit with 255.
1364
1365 So the exit codes are...
1366
1367     0                   all tests successful
1368     255                 test died
1369     any other number    how many failed (including missing or extras)
1370
1371 If you fail more than 254 tests, it will be reported as 254.
1372
1373 B<NOTE>  This behavior may go away in future versions.
1374
1375
1376 =head1 CAVEATS and NOTES
1377
1378 =over 4
1379
1380 =item Backwards compatibility
1381
1382 Test::More works with Perls as old as 5.004_05.
1383
1384
1385 =item Overloaded objects
1386
1387 String overloaded objects are compared B<as strings>.  This prevents
1388 Test::More from piercing an object's interface allowing better blackbox
1389 testing.  So if a function starts returning overloaded objects instead of
1390 bare strings your tests won't notice the difference.  This is good.
1391
1392 However, it does mean that functions like is_deeply() cannot be used to
1393 test the internals of string overloaded objects.  In this case I would
1394 suggest Test::Deep which contains more flexible testing functions for
1395 complex data structures.
1396
1397
1398 =item Threads
1399
1400 Test::More will only be aware of threads if "use threads" has been done
1401 I<before> Test::More is loaded.  This is ok:
1402
1403     use threads;
1404     use Test::More;
1405
1406 This may cause problems:
1407
1408     use Test::More
1409     use threads;
1410
1411
1412 =item Test::Harness upgrade
1413
1414 no_plan and todo depend on new Test::Harness features and fixes.  If
1415 you're going to distribute tests that use no_plan or todo your
1416 end-users will have to upgrade Test::Harness to the latest one on
1417 CPAN.  If you avoid no_plan and TODO tests, the stock Test::Harness
1418 will work fine.
1419
1420 Installing Test::More should also upgrade Test::Harness.
1421
1422 =back
1423
1424
1425 =head1 HISTORY
1426
1427 This is a case of convergent evolution with Joshua Pritikin's Test
1428 module.  I was largely unaware of its existence when I'd first
1429 written my own ok() routines.  This module exists because I can't
1430 figure out how to easily wedge test names into Test's interface (along
1431 with a few other problems).
1432
1433 The goal here is to have a testing utility that's simple to learn,
1434 quick to use and difficult to trip yourself up with while still
1435 providing more flexibility than the existing Test.pm.  As such, the
1436 names of the most common routines are kept tiny, special cases and
1437 magic side-effects are kept to a minimum.  WYSIWYG.
1438
1439
1440 =head1 SEE ALSO
1441
1442 L<Test::Simple> if all this confuses you and you just want to write
1443 some tests.  You can upgrade to Test::More later (it's forward
1444 compatible).
1445
1446 L<Test> is the old testing module.  Its main benefit is that it has
1447 been distributed with Perl since 5.004_05.
1448
1449 L<Test::Harness> for details on how your test results are interpreted
1450 by Perl.
1451
1452 L<Test::Differences> for more ways to test complex data structures.
1453 And it plays well with Test::More.
1454
1455 L<Test::Class> is like XUnit but more perlish.
1456
1457 L<Test::Deep> gives you more powerful complex data structure testing.
1458
1459 L<Test::Unit> is XUnit style testing.
1460
1461 L<Test::Inline> shows the idea of embedded testing.
1462
1463 L<Bundle::Test> installs a whole bunch of useful test modules.
1464
1465
1466 =head1 AUTHORS
1467
1468 Michael G Schwern E<lt>schwern@pobox.comE<gt> with much inspiration
1469 from Joshua Pritikin's Test module and lots of help from Barrie
1470 Slaymaker, Tony Bowden, blackstar.co.uk, chromatic, Fergal Daly and
1471 the perl-qa gang.
1472
1473
1474 =head1 BUGS
1475
1476 See F<http://rt.cpan.org> to report and view bugs.
1477
1478
1479 =head1 COPYRIGHT
1480
1481 Copyright 2001, 2002, 2004 by Michael G Schwern E<lt>schwern@pobox.comE<gt>.
1482
1483 This program is free software; you can redistribute it and/or 
1484 modify it under the same terms as Perl itself.
1485
1486 See F<http://www.perl.com/perl/misc/Artistic.html>
1487
1488 =cut
1489
1490 1;