Make sure Win32-like DBICTest checks are not tripped by repeated disconnects
[dbsrgits/DBIx-Class-Historic.git] / t / lib / DBICTest.pm
1 package # hide from PAUSE
2     DBICTest;
3
4 use strict;
5 use warnings;
6
7 use DBICTest::Util qw( local_umask await_flock dbg DEBUG_TEST_CONCURRENCY_LOCKS );
8 use DBICTest::Schema;
9 use DBICTest::Util::LeakTracer qw/populate_weakregistry assert_empty_weakregistry/;
10 use DBIx::Class::_Util qw( detected_reinvoked_destructor scope_guard );
11 use Carp;
12 use Path::Class::File ();
13 use File::Spec;
14 use Fcntl qw/:DEFAULT :flock/;
15 use Config;
16
17 =head1 NAME
18
19 DBICTest - Library to be used by DBIx::Class test scripts
20
21 =head1 SYNOPSIS
22
23   use lib qw(t/lib);
24   use DBICTest;
25   use Test::More;
26
27   my $schema = DBICTest->init_schema();
28
29 =head1 DESCRIPTION
30
31 This module provides the basic utilities to write tests against
32 DBIx::Class.
33
34 =head1 EXPORTS
35
36 The module does not export anything by default, nor provides individual
37 function exports in the conventional sense. Instead the following tags are
38 recognized:
39
40 =head2 :DiffSQL
41
42 Same as C<use SQL::Abstract::Test
43 qw(L<is_same_sql_bind|SQL::Abstract::Test/is_same_sql_bind>
44 L<is_same_sql|SQL::Abstract::Test/is_same_sql>
45 L<is_same_bind|SQL::Abstract::Test/is_same_bind>)>
46
47 =head2 :GlobalLock
48
49 Some tests are very time sensitive and need to run on their own, without
50 being disturbed by anything else grabbing CPU or disk IO. Hence why everything
51 using C<DBICTest> grabs a shared lock, and the few tests that request a
52 C<:GlobalLock> will ask for an exclusive one and block until they can get it.
53
54 =head1 METHODS
55
56 =head2 init_schema
57
58   my $schema = DBICTest->init_schema(
59     no_deploy=>1,
60     no_populate=>1,
61     storage_type=>'::DBI::Replicated',
62     storage_type_args=>{
63       balancer_type=>'DBIx::Class::Storage::DBI::Replicated::Balancer::Random'
64     },
65   );
66
67 This method removes the test SQLite database in t/var/DBIxClass.db
68 and then creates a new, empty database.
69
70 This method will call L<deploy_schema()|/deploy_schema> by default, unless the
71 C<no_deploy> flag is set.
72
73 Also, by default, this method will call L<populate_schema()|/populate_schema>
74 by default, unless the C<no_deploy> or C<no_populate> flags are set.
75
76 =cut
77
78 # see L</:GlobalLock>
79 our ($global_lock_fh, $global_exclusive_lock);
80 sub import {
81     my $self = shift;
82
83     my $lockpath = DBICTest::RunMode->tmpdir->file('_dbictest_global.lock');
84
85     {
86       my $u = local_umask(0); # so that the file opens as 666, and any user can lock
87       sysopen ($global_lock_fh, $lockpath, O_RDWR|O_CREAT)
88         or die "Unable to open $lockpath: $!";
89     }
90
91     for my $exp (@_) {
92         if ($exp eq ':GlobalLock') {
93             DEBUG_TEST_CONCURRENCY_LOCKS > 1
94               and dbg "Waiting for EXCLUSIVE global lock...";
95
96             await_flock ($global_lock_fh, LOCK_EX) or die "Unable to lock $lockpath: $!";
97
98             DEBUG_TEST_CONCURRENCY_LOCKS > 1
99               and dbg "Got EXCLUSIVE global lock";
100
101             $global_exclusive_lock = 1;
102         }
103         elsif ($exp eq ':DiffSQL') {
104             require SQL::Abstract::Test;
105             my $into = caller(0);
106             for (qw(is_same_sql_bind is_same_sql is_same_bind)) {
107               no strict 'refs';
108               *{"${into}::$_"} = \&{"SQL::Abstract::Test::$_"};
109             }
110         }
111         else {
112             croak "Unknown export $exp requested from $self";
113         }
114     }
115
116     unless ($global_exclusive_lock) {
117         DEBUG_TEST_CONCURRENCY_LOCKS > 1
118           and dbg "Waiting for SHARED global lock...";
119
120         await_flock ($global_lock_fh, LOCK_SH) or die "Unable to lock $lockpath: $!";
121
122         DEBUG_TEST_CONCURRENCY_LOCKS > 1
123           and dbg "Got SHARED global lock";
124     }
125 }
126
127 END {
128     # referencing here delays destruction even more
129     if ($global_lock_fh) {
130       DEBUG_TEST_CONCURRENCY_LOCKS > 1
131         and dbg "Release @{[ $global_exclusive_lock ? 'EXCLUSIVE' : 'SHARED' ]} global lock (END)";
132       1;
133     }
134 }
135
136 {
137     my $dir = Path::Class::File->new(__FILE__)->dir->parent->subdir('var');
138     $dir->mkpath unless -d "$dir";
139     $dir = "$dir";
140
141     sub _sqlite_dbfilename {
142         my $holder = $ENV{DBICTEST_LOCK_HOLDER} || $$;
143         $holder = $$ if $holder == -1;
144
145         # useful for missing cleanup debugging
146         #if ( $holder == $$) {
147         #  my $x = $0;
148         #  $x =~ s/\//#/g;
149         #  $holder .= "-$x";
150         #}
151
152         return "$dir/DBIxClass-$holder.db";
153     }
154
155     END {
156         _cleanup_dbfile();
157     }
158 }
159
160 $SIG{INT} = sub { _cleanup_dbfile(); exit 1 };
161
162 my $need_global_cleanup;
163 sub _cleanup_dbfile {
164     # cleanup if this is us
165     if (
166       ! $ENV{DBICTEST_LOCK_HOLDER}
167         or
168       $ENV{DBICTEST_LOCK_HOLDER} == -1
169         or
170       $ENV{DBICTEST_LOCK_HOLDER} == $$
171     ) {
172         if ($need_global_cleanup and my $dbh = DBICTest->schema->storage->_dbh) {
173           $dbh->disconnect;
174         }
175
176         my $db_file = _sqlite_dbfilename();
177         unlink $_ for ($db_file, "${db_file}-journal");
178     }
179 }
180
181 sub has_custom_dsn {
182     return $ENV{"DBICTEST_DSN"} ? 1:0;
183 }
184
185 sub _sqlite_dbname {
186     my $self = shift;
187     my %args = @_;
188     return $self->_sqlite_dbfilename if (
189       defined $args{sqlite_use_file} ? $args{sqlite_use_file} : $ENV{'DBICTEST_SQLITE_USE_FILE'}
190     );
191     return ":memory:";
192 }
193
194 sub _database {
195     my $self = shift;
196     my %args = @_;
197
198     if ($ENV{DBICTEST_DSN}) {
199       return (
200         (map { $ENV{"DBICTEST_${_}"} || '' } qw/DSN DBUSER DBPASS/),
201         { AutoCommit => 1, %args },
202       );
203     }
204     my $db_file = $self->_sqlite_dbname(%args);
205
206     for ($db_file, "${db_file}-journal") {
207       next unless -e $_;
208       unlink ($_) or carp (
209         "Unable to unlink existing test database file $_ ($!), creation of fresh database / further tests may fail!"
210       );
211     }
212
213     return ("dbi:SQLite:${db_file}", '', '', {
214       AutoCommit => 1,
215
216       # this is executed on every connect, and thus installs a disconnect/DESTROY
217       # guard for every new $dbh
218       on_connect_do => sub {
219
220         my $storage = shift;
221         my $dbh = $storage->_get_dbh;
222
223         # no fsync on commit
224         $dbh->do ('PRAGMA synchronous = OFF');
225
226         if (
227           $ENV{DBICTEST_SQLITE_REVERSE_DEFAULT_ORDER}
228             and
229           # the pragma does not work correctly before libsqlite 3.7.9
230           $storage->_server_info->{normalized_dbms_version} >= 3.007009
231         ) {
232           $dbh->do ('PRAGMA reverse_unordered_selects = ON');
233         }
234
235         # set a *DBI* disconnect callback, to make sure the physical SQLite
236         # file is still there (i.e. the test does not attempt to delete
237         # an open database, which fails on Win32)
238         if (! $storage->{master} and my $guard_cb = __mk_disconnect_guard($db_file)) {
239           $dbh->{Callbacks} = {
240             connect => sub { $guard_cb->('connect') },
241             disconnect => sub { $guard_cb->('disconnect') },
242             DESTROY => sub { &detected_reinvoked_destructor; $guard_cb->('DESTROY') },
243           };
244         }
245       },
246       %args,
247     });
248 }
249
250 sub __mk_disconnect_guard {
251
252   my $db_file = shift;
253
254   return if (
255     # this perl leaks handles, delaying DESTROY, can't work right
256     DBIx::Class::_ENV_::PEEPEENESS
257       or
258     ! -f $db_file
259   );
260
261
262   my $orig_inode = (stat($db_file))[1]
263     or return;
264
265   my $clan_connect_caller = '*UNKNOWN*';
266   my $i;
267   while ( my ($pack, $file, $line) = caller(++$i) ) {
268     next if $file eq __FILE__;
269     next if $pack =~ /^DBIx::Class|^Try::Tiny/;
270     $clan_connect_caller = "$file line $line";
271   }
272
273   my $failed_once = 0;
274   my $connected = 1;
275
276   return sub {
277     return if $failed_once;
278
279     my $event = shift;
280     if ($event eq 'connect') {
281       # this is necessary in case we are disconnected and connected again, all within the same $dbh object
282       $connected = 1;
283       return;
284     }
285     elsif ($event eq 'disconnect') {
286       return unless $connected; # we already disconnected earlier
287       $connected = 0;
288     }
289     elsif ($event eq 'DESTROY' and ! $connected ) {
290       return;
291     }
292
293     my $fail_reason;
294     if (! -e $db_file) {
295       $fail_reason = 'is missing';
296     }
297     else {
298       my $cur_inode = (stat($db_file))[1];
299
300       if ($orig_inode != $cur_inode) {
301         my @inodes = ($orig_inode, $cur_inode);
302         # unless this is a fixed perl (P5RT#84590) pack/unpack before display
303         # to match the unsigned longs returned by `stat`
304         @inodes = map { unpack ('L', pack ('l', $_) ) } @inodes
305           unless $Config{st_ino_size};
306
307         $fail_reason = sprintf
308           'was recreated (initially inode %s, now %s)',
309           @inodes
310         ;
311       }
312     }
313
314     if ($fail_reason) {
315       $failed_once++;
316
317       require Test::Builder;
318       my $t = Test::Builder->new;
319       local $Test::Builder::Level = $Test::Builder::Level + 3;
320       $t->ok (0,
321         "$db_file originally created at $clan_connect_caller $fail_reason before $event "
322       . 'of DBI handle - a strong indicator that the database file was tampered with while '
323       . 'still being open. This action would fail massively if running under Win32, hence '
324       . 'we make sure it fails on any OS :)'
325       );
326     }
327
328     return; # this empty return is a DBI requirement
329   };
330 }
331
332 my $weak_registry = {};
333
334 sub init_schema {
335     my $self = shift;
336     my %args = @_;
337
338     my $schema;
339
340     if (
341       $ENV{DBICTEST_VIA_REPLICATED} &&=
342         ( !$args{storage_type} && !defined $args{sqlite_use_file} )
343     ) {
344       $args{storage_type} = ['::DBI::Replicated', { balancer_type => '::Random' }];
345       $args{sqlite_use_file} = 1;
346     }
347
348     my @dsn = $self->_database(%args);
349
350     if ($args{compose_connection}) {
351       $need_global_cleanup = 1;
352       $schema = DBICTest::Schema->compose_connection(
353                   'DBICTest', @dsn
354                 );
355     } else {
356       $schema = DBICTest::Schema->compose_namespace('DBICTest');
357     }
358
359     if( $args{storage_type}) {
360       $schema->storage_type($args{storage_type});
361     }
362
363     if ( !$args{no_connect} ) {
364       $schema->connection(@dsn);
365
366       $schema->storage->connect_replicants(\@dsn)
367         if $ENV{DBICTEST_VIA_REPLICATED};
368     }
369
370     if ( !$args{no_deploy} ) {
371         __PACKAGE__->deploy_schema( $schema, $args{deploy_args} );
372         __PACKAGE__->populate_schema( $schema )
373          if( !$args{no_populate} );
374     }
375
376     populate_weakregistry ( $weak_registry, $schema->storage )
377       if $INC{'Test/Builder.pm'} and $schema->storage;
378
379     return $schema;
380 }
381
382 END {
383   # Make sure we run after any cleanup in other END blocks
384   push @{ B::end_av()->object_2svref }, sub {
385     assert_empty_weakregistry($weak_registry, 'quiet');
386   };
387 }
388
389 =head2 deploy_schema
390
391   DBICTest->deploy_schema( $schema );
392
393 This method does one of two things to the schema.  It can either call
394 the experimental $schema->deploy() if the DBICTEST_SQLT_DEPLOY environment
395 variable is set, otherwise the default is to read in the t/lib/sqlite.sql
396 file and execute the SQL within. Either way you end up with a fresh set
397 of tables for testing.
398
399 =cut
400
401 sub deploy_schema {
402     my $self = shift;
403     my $schema = shift;
404     my $args = shift || {};
405
406     my $guard;
407     if ( ($ENV{TRAVIS}||'') eq 'true' and my $old_dbg = $schema->storage->debug ) {
408       $guard = scope_guard { $schema->storage->debug($old_dbg) };
409       $schema->storage->debug(0);
410     }
411
412     if ($ENV{"DBICTEST_SQLT_DEPLOY"}) {
413         $schema->deploy($args);
414     } else {
415         my $filename = Path::Class::File->new(__FILE__)->dir
416           ->file('sqlite.sql')->stringify;
417         my $sql = do { local (@ARGV, $/) = $filename ; <> };
418         for my $chunk ( split (/;\s*\n+/, $sql) ) {
419           if ( $chunk =~ / ^ (?! --\s* ) \S /xm ) {  # there is some real sql in the chunk - a non-space at the start of the string which is not a comment
420             $schema->storage->dbh_do(sub { $_[1]->do($chunk) }) or print "Error on SQL: $chunk\n";
421           }
422         }
423     }
424     return;
425 }
426
427 =head2 populate_schema
428
429   DBICTest->populate_schema( $schema );
430
431 After you deploy your schema you can use this method to populate
432 the tables with test data.
433
434 =cut
435
436 sub populate_schema {
437     my $self = shift;
438     my $schema = shift;
439
440     my $guard;
441     if ( ($ENV{TRAVIS}||'') eq 'true' and my $old_dbg = $schema->storage->debug ) {
442       $guard = scope_guard { $schema->storage->debug($old_dbg) };
443       $schema->storage->debug(0);
444     }
445
446     $schema->populate('Genre', [
447       [qw/genreid name/],
448       [qw/1       emo  /],
449     ]);
450
451     $schema->populate('Artist', [
452         [ qw/artistid name/ ],
453         [ 1, 'Caterwauler McCrae' ],
454         [ 2, 'Random Boy Band' ],
455         [ 3, 'We Are Goth' ],
456     ]);
457
458     $schema->populate('CD', [
459         [ qw/cdid artist title year genreid/ ],
460         [ 1, 1, "Spoonful of bees", 1999, 1 ],
461         [ 2, 1, "Forkful of bees", 2001 ],
462         [ 3, 1, "Caterwaulin' Blues", 1997 ],
463         [ 4, 2, "Generic Manufactured Singles", 2001 ],
464         [ 5, 3, "Come Be Depressed With Us", 1998 ],
465     ]);
466
467     $schema->populate('LinerNotes', [
468         [ qw/liner_id notes/ ],
469         [ 2, "Buy Whiskey!" ],
470         [ 4, "Buy Merch!" ],
471         [ 5, "Kill Yourself!" ],
472     ]);
473
474     $schema->populate('Tag', [
475         [ qw/tagid cd tag/ ],
476         [ 1, 1, "Blue" ],
477         [ 2, 2, "Blue" ],
478         [ 3, 3, "Blue" ],
479         [ 4, 5, "Blue" ],
480         [ 5, 2, "Cheesy" ],
481         [ 6, 4, "Cheesy" ],
482         [ 7, 5, "Cheesy" ],
483         [ 8, 2, "Shiny" ],
484         [ 9, 4, "Shiny" ],
485     ]);
486
487     $schema->populate('TwoKeys', [
488         [ qw/artist cd/ ],
489         [ 1, 1 ],
490         [ 1, 2 ],
491         [ 2, 2 ],
492     ]);
493
494     $schema->populate('FourKeys', [
495         [ qw/foo bar hello goodbye sensors/ ],
496         [ 1, 2, 3, 4, 'online' ],
497         [ 5, 4, 3, 6, 'offline' ],
498     ]);
499
500     $schema->populate('OneKey', [
501         [ qw/id artist cd/ ],
502         [ 1, 1, 1 ],
503         [ 2, 1, 2 ],
504         [ 3, 2, 2 ],
505     ]);
506
507     $schema->populate('SelfRef', [
508         [ qw/id name/ ],
509         [ 1, 'First' ],
510         [ 2, 'Second' ],
511     ]);
512
513     $schema->populate('SelfRefAlias', [
514         [ qw/self_ref alias/ ],
515         [ 1, 2 ]
516     ]);
517
518     $schema->populate('ArtistUndirectedMap', [
519         [ qw/id1 id2/ ],
520         [ 1, 2 ]
521     ]);
522
523     $schema->populate('Producer', [
524         [ qw/producerid name/ ],
525         [ 1, 'Matt S Trout' ],
526         [ 2, 'Bob The Builder' ],
527         [ 3, 'Fred The Phenotype' ],
528     ]);
529
530     $schema->populate('CD_to_Producer', [
531         [ qw/cd producer/ ],
532         [ 1, 1 ],
533         [ 1, 2 ],
534         [ 1, 3 ],
535     ]);
536
537     $schema->populate('TreeLike', [
538         [ qw/id parent name/ ],
539         [ 1, undef, 'root' ],
540         [ 2, 1, 'foo'  ],
541         [ 3, 2, 'bar'  ],
542         [ 6, 2, 'blop' ],
543         [ 4, 3, 'baz'  ],
544         [ 5, 4, 'quux' ],
545         [ 7, 3, 'fong'  ],
546     ]);
547
548     $schema->populate('Track', [
549         [ qw/trackid cd  position title/ ],
550         [ 4, 2, 1, "Stung with Success"],
551         [ 5, 2, 2, "Stripy"],
552         [ 6, 2, 3, "Sticky Honey"],
553         [ 7, 3, 1, "Yowlin"],
554         [ 8, 3, 2, "Howlin"],
555         [ 9, 3, 3, "Fowlin"],
556         [ 10, 4, 1, "Boring Name"],
557         [ 11, 4, 2, "Boring Song"],
558         [ 12, 4, 3, "No More Ideas"],
559         [ 13, 5, 1, "Sad"],
560         [ 14, 5, 2, "Under The Weather"],
561         [ 15, 5, 3, "Suicidal"],
562         [ 16, 1, 1, "The Bees Knees"],
563         [ 17, 1, 2, "Apiary"],
564         [ 18, 1, 3, "Beehind You"],
565     ]);
566
567     $schema->populate('Event', [
568         [ qw/id starts_at created_on varchar_date varchar_datetime skip_inflation/ ],
569         [ 1, '2006-04-25 22:24:33', '2006-06-22 21:00:05', '2006-07-23', '2006-05-22 19:05:07', '2006-04-21 18:04:06'],
570     ]);
571
572     $schema->populate('Link', [
573         [ qw/id url title/ ],
574         [ 1, '', 'aaa' ]
575     ]);
576
577     $schema->populate('Bookmark', [
578         [ qw/id link/ ],
579         [ 1, 1 ]
580     ]);
581
582     $schema->populate('Collection', [
583         [ qw/collectionid name/ ],
584         [ 1, "Tools" ],
585         [ 2, "Body Parts" ],
586     ]);
587
588     $schema->populate('TypedObject', [
589         [ qw/objectid type value/ ],
590         [ 1, "pointy", "Awl" ],
591         [ 2, "round", "Bearing" ],
592         [ 3, "pointy", "Knife" ],
593         [ 4, "pointy", "Tooth" ],
594         [ 5, "round", "Head" ],
595     ]);
596     $schema->populate('CollectionObject', [
597         [ qw/collection object/ ],
598         [ 1, 1 ],
599         [ 1, 2 ],
600         [ 1, 3 ],
601         [ 2, 4 ],
602         [ 2, 5 ],
603     ]);
604
605     $schema->populate('Owners', [
606         [ qw/id name/ ],
607         [ 1, "Newton" ],
608         [ 2, "Waltham" ],
609     ]);
610
611     $schema->populate('BooksInLibrary', [
612         [ qw/id owner title source price/ ],
613         [ 1, 1, "Programming Perl", "Library", 23 ],
614         [ 2, 1, "Dynamical Systems", "Library",  37 ],
615         [ 3, 2, "Best Recipe Cookbook", "Library", 65 ],
616     ]);
617 }
618
619 1;