Fix incorrect exception propagation in ::Replicated::execute_reliably
[dbsrgits/DBIx-Class.git] / lib / DBIx / Class / Storage / DBI.pm
1 package DBIx::Class::Storage::DBI;
2 # -*- mode: cperl; cperl-indent-level: 2 -*-
3
4 use strict;
5 use warnings;
6
7 use base qw/DBIx::Class::Storage::DBIHacks DBIx::Class::Storage/;
8 use mro 'c3';
9
10 use DBIx::Class::Carp;
11 use Scalar::Util qw/refaddr weaken reftype blessed/;
12 use List::Util qw/first/;
13 use Context::Preserve 'preserve_context';
14 use Try::Tiny;
15 use SQL::Abstract qw(is_plain_value is_literal_value);
16 use DBIx::Class::_Util qw(quote_sub perlstring serialize detected_reinvoked_destructor);
17 use namespace::clean;
18
19 # default cursor class, overridable in connect_info attributes
20 __PACKAGE__->cursor_class('DBIx::Class::Storage::DBI::Cursor');
21
22 __PACKAGE__->mk_group_accessors('inherited' => qw/
23   sql_limit_dialect sql_quote_char sql_name_sep
24 /);
25
26 __PACKAGE__->mk_group_accessors('component_class' => qw/sql_maker_class datetime_parser_type/);
27
28 __PACKAGE__->sql_maker_class('DBIx::Class::SQLMaker');
29 __PACKAGE__->datetime_parser_type('DateTime::Format::MySQL'); # historic default
30
31 __PACKAGE__->sql_name_sep('.');
32
33 __PACKAGE__->mk_group_accessors('simple' => qw/
34   _connect_info _dbic_connect_attributes _driver_determined
35   _dbh _dbh_details _conn_pid _sql_maker _sql_maker_opts _dbh_autocommit
36   _perform_autoinc_retrieval _autoinc_supplied_for_op
37 /);
38
39 # the values for these accessors are picked out (and deleted) from
40 # the attribute hashref passed to connect_info
41 my @storage_options = qw/
42   on_connect_call on_disconnect_call on_connect_do on_disconnect_do
43   disable_sth_caching unsafe auto_savepoint
44 /;
45 __PACKAGE__->mk_group_accessors('simple' => @storage_options);
46
47
48 # capability definitions, using a 2-tiered accessor system
49 # The rationale is:
50 #
51 # A driver/user may define _use_X, which blindly without any checks says:
52 # "(do not) use this capability", (use_dbms_capability is an "inherited"
53 # type accessor)
54 #
55 # If _use_X is undef, _supports_X is then queried. This is a "simple" style
56 # accessor, which in turn calls _determine_supports_X, and stores the return
57 # in a special slot on the storage object, which is wiped every time a $dbh
58 # reconnection takes place (it is not guaranteed that upon reconnection we
59 # will get the same rdbms version). _determine_supports_X does not need to
60 # exist on a driver, as we ->can for it before calling.
61
62 my @capabilities = (qw/
63   insert_returning
64   insert_returning_bound
65
66   multicolumn_in
67
68   placeholders
69   typeless_placeholders
70
71   join_optimizer
72 /);
73 __PACKAGE__->mk_group_accessors( dbms_capability => map { "_supports_$_" } @capabilities );
74 __PACKAGE__->mk_group_accessors( use_dbms_capability => map { "_use_$_" } (@capabilities ) );
75
76 # on by default, not strictly a capability (pending rewrite)
77 __PACKAGE__->_use_join_optimizer (1);
78 sub _determine_supports_join_optimizer { 1 };
79
80 # Each of these methods need _determine_driver called before itself
81 # in order to function reliably. We also need to separate accessors
82 # from plain old method calls, since an accessor called as a setter
83 # does *not* need the driver determination loop fired (and in fact
84 # can produce hard to find bugs, like e.g. losing on_connect_*
85 # semantics on fresh connections)
86 #
87 # The construct below is simply a parameterized around()
88 my $storage_accessor_idx = { map { $_ => 1 } qw(
89   sqlt_type
90   datetime_parser_type
91
92   sql_maker
93   cursor_class
94 )};
95 for my $meth (keys %$storage_accessor_idx, qw(
96   deployment_statements
97
98   build_datetime_parser
99
100   txn_begin
101
102   insert
103   update
104   delete
105   select
106   select_single
107
108   _insert_bulk
109
110   with_deferred_fk_checks
111
112   get_use_dbms_capability
113   get_dbms_capability
114
115   _server_info
116   _get_server_version
117 )) {
118
119   my $orig = __PACKAGE__->can ($meth)
120     or die "$meth is not a ::Storage::DBI method!";
121
122   my $is_getter = $storage_accessor_idx->{$meth} ? 0 : 1;
123
124   quote_sub
125     __PACKAGE__ ."::$meth", sprintf( <<'EOC', $is_getter, perlstring $meth ), { '$orig' => \$orig };
126
127     if (
128       # only fire when invoked on an instance, a valid class-based invocation
129       # would e.g. be setting a default for an inherited accessor
130       ref $_[0]
131         and
132       ! $_[0]->{_driver_determined}
133         and
134       ! $_[0]->{_in_determine_driver}
135         and
136       # if this is a known *setter* - just set it, no need to connect
137       # and determine the driver
138       ( %1$s or @_ <= 1 )
139         and
140       # Only try to determine stuff if we have *something* that either is or can
141       # provide a DSN. Allows for bare $schema's generated with a plain ->connect()
142       # to still be marginally useful
143       $_[0]->_dbi_connect_info->[0]
144     ) {
145       $_[0]->_determine_driver;
146
147       # work around http://rt.perl.org/rt3/Public/Bug/Display.html?id=35878
148       goto $_[0]->can(%2$s) unless DBIx::Class::_ENV_::BROKEN_GOTO;
149
150       my $cref = $_[0]->can(%2$s);
151       goto $cref;
152     }
153
154     goto $orig;
155 EOC
156 }
157
158 =head1 NAME
159
160 DBIx::Class::Storage::DBI - DBI storage handler
161
162 =head1 SYNOPSIS
163
164   my $schema = MySchema->connect('dbi:SQLite:my.db');
165
166   $schema->storage->debug(1);
167
168   my @stuff = $schema->storage->dbh_do(
169     sub {
170       my ($storage, $dbh, @args) = @_;
171       $dbh->do("DROP TABLE authors");
172     },
173     @column_list
174   );
175
176   $schema->resultset('Book')->search({
177      written_on => $schema->storage->datetime_parser->format_datetime(DateTime->now)
178   });
179
180 =head1 DESCRIPTION
181
182 This class represents the connection to an RDBMS via L<DBI>.  See
183 L<DBIx::Class::Storage> for general information.  This pod only
184 documents DBI-specific methods and behaviors.
185
186 =head1 METHODS
187
188 =cut
189
190 sub new {
191   my $new = shift->next::method(@_);
192
193   $new->_sql_maker_opts({});
194   $new->_dbh_details({});
195   $new->{_in_do_block} = 0;
196
197   # read below to see what this does
198   $new->_arm_global_destructor;
199
200   $new;
201 }
202
203 # This is hack to work around perl shooting stuff in random
204 # order on exit(). If we do not walk the remaining storage
205 # objects in an END block, there is a *small but real* chance
206 # of a fork()ed child to kill the parent's shared DBI handle,
207 # *before perl reaches the DESTROY in this package*
208 # Yes, it is ugly and effective.
209 # Additionally this registry is used by the CLONE method to
210 # make sure no handles are shared between threads
211 {
212   my %seek_and_destroy;
213
214   sub _arm_global_destructor {
215
216     # quick "garbage collection" pass - prevents the registry
217     # from slowly growing with a bunch of undef-valued keys
218     defined $seek_and_destroy{$_} or delete $seek_and_destroy{$_}
219       for keys %seek_and_destroy;
220
221     weaken (
222       $seek_and_destroy{ refaddr($_[0]) } = $_[0]
223     );
224   }
225
226   END {
227     local $?; # just in case the DBI destructor changes it somehow
228
229     # destroy just the object if not native to this process
230     $_->_verify_pid for (grep
231       { defined $_ }
232       values %seek_and_destroy
233     );
234   }
235
236   sub CLONE {
237     # As per DBI's recommendation, DBIC disconnects all handles as
238     # soon as possible (DBIC will reconnect only on demand from within
239     # the thread)
240     my @instances = grep { defined $_ } values %seek_and_destroy;
241     %seek_and_destroy = ();
242
243     for (@instances) {
244       $_->_dbh(undef);
245
246       $_->transaction_depth(0);
247       $_->savepoints([]);
248
249       # properly renumber existing refs
250       $_->_arm_global_destructor
251     }
252   }
253 }
254
255 sub DESTROY {
256   return if &detected_reinvoked_destructor;
257
258   $_[0]->_verify_pid unless DBIx::Class::_ENV_::BROKEN_FORK;
259   # some databases spew warnings on implicit disconnect
260   local $SIG{__WARN__} = sub {};
261   $_[0]->_dbh(undef);
262
263   # this op is necessary, since the very last perl runtime statement
264   # triggers a global destruction shootout, and the $SIG localization
265   # may very well be destroyed before perl actually gets to do the
266   # $dbh undef
267   1;
268 }
269
270 # handle pid changes correctly - do not destroy parent's connection
271 sub _verify_pid {
272
273   my $pid = $_[0]->_conn_pid;
274
275   if( defined $pid and $pid != $$ and my $dbh = $_[0]->_dbh ) {
276     $dbh->{InactiveDestroy} = 1;
277     $_[0]->_dbh(undef);
278     $_[0]->transaction_depth(0);
279     $_[0]->savepoints([]);
280   }
281
282   return;
283 }
284
285 =head2 connect_info
286
287 This method is normally called by L<DBIx::Class::Schema/connection>, which
288 encapsulates its argument list in an arrayref before passing them here.
289
290 The argument list may contain:
291
292 =over
293
294 =item *
295
296 The same 4-element argument set one would normally pass to
297 L<DBI/connect>, optionally followed by
298 L<extra attributes|/DBIx::Class specific connection attributes>
299 recognized by DBIx::Class:
300
301   $connect_info_args = [ $dsn, $user, $password, \%dbi_attributes?, \%extra_attributes? ];
302
303 =item *
304
305 A single code reference which returns a connected
306 L<DBI database handle|DBI/connect> optionally followed by
307 L<extra attributes|/DBIx::Class specific connection attributes> recognized
308 by DBIx::Class:
309
310   $connect_info_args = [ sub { DBI->connect (...) }, \%extra_attributes? ];
311
312 =item *
313
314 A single hashref with all the attributes and the dsn/user/password
315 mixed together:
316
317   $connect_info_args = [{
318     dsn => $dsn,
319     user => $user,
320     password => $pass,
321     %dbi_attributes,
322     %extra_attributes,
323   }];
324
325   $connect_info_args = [{
326     dbh_maker => sub { DBI->connect (...) },
327     %dbi_attributes,
328     %extra_attributes,
329   }];
330
331 This is particularly useful for L<Catalyst> based applications, allowing the
332 following config (L<Config::General> style):
333
334   <Model::DB>
335     schema_class   App::DB
336     <connect_info>
337       dsn          dbi:mysql:database=test
338       user         testuser
339       password     TestPass
340       AutoCommit   1
341     </connect_info>
342   </Model::DB>
343
344 The C<dsn>/C<user>/C<password> combination can be substituted by the
345 C<dbh_maker> key whose value is a coderef that returns a connected
346 L<DBI database handle|DBI/connect>
347
348 =back
349
350 Please note that the L<DBI> docs recommend that you always explicitly
351 set C<AutoCommit> to either I<0> or I<1>.  L<DBIx::Class> further
352 recommends that it be set to I<1>, and that you perform transactions
353 via our L<DBIx::Class::Schema/txn_do> method.  L<DBIx::Class> will set it
354 to I<1> if you do not do explicitly set it to zero.  This is the default
355 for most DBDs. See L</DBIx::Class and AutoCommit> for details.
356
357 =head3 DBIx::Class specific connection attributes
358
359 In addition to the standard L<DBI|DBI/ATTRIBUTES COMMON TO ALL HANDLES>
360 L<connection|DBI/Database Handle Attributes> attributes, DBIx::Class recognizes
361 the following connection options. These options can be mixed in with your other
362 L<DBI> connection attributes, or placed in a separate hashref
363 (C<\%extra_attributes>) as shown above.
364
365 Every time C<connect_info> is invoked, any previous settings for
366 these options will be cleared before setting the new ones, regardless of
367 whether any options are specified in the new C<connect_info>.
368
369
370 =over
371
372 =item on_connect_do
373
374 Specifies things to do immediately after connecting or re-connecting to
375 the database.  Its value may contain:
376
377 =over
378
379 =item a scalar
380
381 This contains one SQL statement to execute.
382
383 =item an array reference
384
385 This contains SQL statements to execute in order.  Each element contains
386 a string or a code reference that returns a string.
387
388 =item a code reference
389
390 This contains some code to execute.  Unlike code references within an
391 array reference, its return value is ignored.
392
393 =back
394
395 =item on_disconnect_do
396
397 Takes arguments in the same form as L</on_connect_do> and executes them
398 immediately before disconnecting from the database.
399
400 Note, this only runs if you explicitly call L</disconnect> on the
401 storage object.
402
403 =item on_connect_call
404
405 A more generalized form of L</on_connect_do> that calls the specified
406 C<connect_call_METHOD> methods in your storage driver.
407
408   on_connect_do => 'select 1'
409
410 is equivalent to:
411
412   on_connect_call => [ [ do_sql => 'select 1' ] ]
413
414 Its values may contain:
415
416 =over
417
418 =item a scalar
419
420 Will call the C<connect_call_METHOD> method.
421
422 =item a code reference
423
424 Will execute C<< $code->($storage) >>
425
426 =item an array reference
427
428 Each value can be a method name or code reference.
429
430 =item an array of arrays
431
432 For each array, the first item is taken to be the C<connect_call_> method name
433 or code reference, and the rest are parameters to it.
434
435 =back
436
437 Some predefined storage methods you may use:
438
439 =over
440
441 =item do_sql
442
443 Executes a SQL string or a code reference that returns a SQL string. This is
444 what L</on_connect_do> and L</on_disconnect_do> use.
445
446 It can take:
447
448 =over
449
450 =item a scalar
451
452 Will execute the scalar as SQL.
453
454 =item an arrayref
455
456 Taken to be arguments to L<DBI/do>, the SQL string optionally followed by the
457 attributes hashref and bind values.
458
459 =item a code reference
460
461 Will execute C<< $code->($storage) >> and execute the return array refs as
462 above.
463
464 =back
465
466 =item datetime_setup
467
468 Execute any statements necessary to initialize the database session to return
469 and accept datetime/timestamp values used with
470 L<DBIx::Class::InflateColumn::DateTime>.
471
472 Only necessary for some databases, see your specific storage driver for
473 implementation details.
474
475 =back
476
477 =item on_disconnect_call
478
479 Takes arguments in the same form as L</on_connect_call> and executes them
480 immediately before disconnecting from the database.
481
482 Calls the C<disconnect_call_METHOD> methods as opposed to the
483 C<connect_call_METHOD> methods called by L</on_connect_call>.
484
485 Note, this only runs if you explicitly call L</disconnect> on the
486 storage object.
487
488 =item disable_sth_caching
489
490 If set to a true value, this option will disable the caching of
491 statement handles via L<DBI/prepare_cached>.
492
493 =item limit_dialect
494
495 Sets a specific SQL::Abstract::Limit-style limit dialect, overriding the
496 default L</sql_limit_dialect> setting of the storage (if any). For a list
497 of available limit dialects see L<DBIx::Class::SQLMaker::LimitDialects>.
498
499 =item quote_names
500
501 When true automatically sets L</quote_char> and L</name_sep> to the characters
502 appropriate for your particular RDBMS. This option is preferred over specifying
503 L</quote_char> directly.
504
505 =item quote_char
506
507 Specifies what characters to use to quote table and column names.
508
509 C<quote_char> expects either a single character, in which case is it
510 is placed on either side of the table/column name, or an arrayref of length
511 2 in which case the table/column name is placed between the elements.
512
513 For example under MySQL you should use C<< quote_char => '`' >>, and for
514 SQL Server you should use C<< quote_char => [qw/[ ]/] >>.
515
516 =item name_sep
517
518 This parameter is only useful in conjunction with C<quote_char>, and is used to
519 specify the character that separates elements (schemas, tables, columns) from
520 each other. If unspecified it defaults to the most commonly used C<.>.
521
522 =item unsafe
523
524 This Storage driver normally installs its own C<HandleError>, sets
525 C<RaiseError> and C<ShowErrorStatement> on, and sets C<PrintError> off on
526 all database handles, including those supplied by a coderef.  It does this
527 so that it can have consistent and useful error behavior.
528
529 If you set this option to a true value, Storage will not do its usual
530 modifications to the database handle's attributes, and instead relies on
531 the settings in your connect_info DBI options (or the values you set in
532 your connection coderef, in the case that you are connecting via coderef).
533
534 Note that your custom settings can cause Storage to malfunction,
535 especially if you set a C<HandleError> handler that suppresses exceptions
536 and/or disable C<RaiseError>.
537
538 =item auto_savepoint
539
540 If this option is true, L<DBIx::Class> will use savepoints when nesting
541 transactions, making it possible to recover from failure in the inner
542 transaction without having to abort all outer transactions.
543
544 =item cursor_class
545
546 Use this argument to supply a cursor class other than the default
547 L<DBIx::Class::Storage::DBI::Cursor>.
548
549 =back
550
551 Some real-life examples of arguments to L</connect_info> and
552 L<DBIx::Class::Schema/connect>
553
554   # Simple SQLite connection
555   ->connect_info([ 'dbi:SQLite:./foo.db' ]);
556
557   # Connect via subref
558   ->connect_info([ sub { DBI->connect(...) } ]);
559
560   # Connect via subref in hashref
561   ->connect_info([{
562     dbh_maker => sub { DBI->connect(...) },
563     on_connect_do => 'alter session ...',
564   }]);
565
566   # A bit more complicated
567   ->connect_info(
568     [
569       'dbi:Pg:dbname=foo',
570       'postgres',
571       'my_pg_password',
572       { AutoCommit => 1 },
573       { quote_char => q{"} },
574     ]
575   );
576
577   # Equivalent to the previous example
578   ->connect_info(
579     [
580       'dbi:Pg:dbname=foo',
581       'postgres',
582       'my_pg_password',
583       { AutoCommit => 1, quote_char => q{"}, name_sep => q{.} },
584     ]
585   );
586
587   # Same, but with hashref as argument
588   # See parse_connect_info for explanation
589   ->connect_info(
590     [{
591       dsn         => 'dbi:Pg:dbname=foo',
592       user        => 'postgres',
593       password    => 'my_pg_password',
594       AutoCommit  => 1,
595       quote_char  => q{"},
596       name_sep    => q{.},
597     }]
598   );
599
600   # Subref + DBIx::Class-specific connection options
601   ->connect_info(
602     [
603       sub { DBI->connect(...) },
604       {
605           quote_char => q{`},
606           name_sep => q{@},
607           on_connect_do => ['SET search_path TO myschema,otherschema,public'],
608           disable_sth_caching => 1,
609       },
610     ]
611   );
612
613
614
615 =cut
616
617 sub connect_info {
618   my ($self, $info) = @_;
619
620   return $self->_connect_info if !$info;
621
622   $self->_connect_info($info); # copy for _connect_info
623
624   $info = $self->_normalize_connect_info($info)
625     if ref $info eq 'ARRAY';
626
627   my %attrs = (
628     %{ $self->_default_dbi_connect_attributes || {} },
629     %{ $info->{attributes} || {} },
630   );
631
632   my @args = @{ $info->{arguments} };
633
634   if (keys %attrs and ref $args[0] ne 'CODE') {
635     carp_unique (
636         'You provided explicit AutoCommit => 0 in your connection_info. '
637       . 'This is almost universally a bad idea (see the footnotes of '
638       . 'DBIx::Class::Storage::DBI for more info). If you still want to '
639       . 'do this you can set $ENV{DBIC_UNSAFE_AUTOCOMMIT_OK} to disable '
640       . 'this warning.'
641     ) if ! $attrs{AutoCommit} and ! $ENV{DBIC_UNSAFE_AUTOCOMMIT_OK};
642
643     push @args, \%attrs if keys %attrs;
644   }
645
646   # this is the authoritative "always an arrayref" thing fed to DBI->connect
647   # OR a single-element coderef-based $dbh factory
648   $self->_dbi_connect_info(\@args);
649
650   # extract the individual storage options
651   for my $storage_opt (keys %{ $info->{storage_options} }) {
652     my $value = $info->{storage_options}{$storage_opt};
653
654     $self->$storage_opt($value);
655   }
656
657   # Extract the individual sqlmaker options
658   #
659   # Kill sql_maker/_sql_maker_opts, so we get a fresh one with only
660   #  the new set of options
661   $self->_sql_maker(undef);
662   $self->_sql_maker_opts({});
663
664   for my $sql_maker_opt (keys %{ $info->{sql_maker_options} }) {
665     my $value = $info->{sql_maker_options}{$sql_maker_opt};
666
667     $self->_sql_maker_opts->{$sql_maker_opt} = $value;
668   }
669
670   # FIXME - dirty:
671   # save attributes in a separate accessor so they are always
672   # introspectable, even in case of a CODE $dbhmaker
673   $self->_dbic_connect_attributes (\%attrs);
674
675   return $self->_connect_info;
676 }
677
678 sub _dbi_connect_info {
679   my $self = shift;
680
681   return $self->{_dbi_connect_info} = $_[0]
682     if @_;
683
684   my $conninfo = $self->{_dbi_connect_info} || [];
685
686   # last ditch effort to grab a DSN
687   if ( ! defined $conninfo->[0] and $ENV{DBI_DSN} ) {
688     my @new_conninfo = @$conninfo;
689     $new_conninfo[0] = $ENV{DBI_DSN};
690     $conninfo = \@new_conninfo;
691   }
692
693   return $conninfo;
694 }
695
696
697 sub _normalize_connect_info {
698   my ($self, $info_arg) = @_;
699   my %info;
700
701   my @args = @$info_arg;  # take a shallow copy for further mutilation
702
703   # combine/pre-parse arguments depending on invocation style
704
705   my %attrs;
706   if (ref $args[0] eq 'CODE') {     # coderef with optional \%extra_attributes
707     %attrs = %{ $args[1] || {} };
708     @args = $args[0];
709   }
710   elsif (ref $args[0] eq 'HASH') { # single hashref (i.e. Catalyst config)
711     %attrs = %{$args[0]};
712     @args = ();
713     if (my $code = delete $attrs{dbh_maker}) {
714       @args = $code;
715
716       my @ignored = grep { delete $attrs{$_} } (qw/dsn user password/);
717       if (@ignored) {
718         carp sprintf (
719             'Attribute(s) %s in connect_info were ignored, as they can not be applied '
720           . "to the result of 'dbh_maker'",
721
722           join (', ', map { "'$_'" } (@ignored) ),
723         );
724       }
725     }
726     else {
727       @args = delete @attrs{qw/dsn user password/};
728     }
729   }
730   else {                # otherwise assume dsn/user/password + \%attrs + \%extra_attrs
731     %attrs = (
732       % { $args[3] || {} },
733       % { $args[4] || {} },
734     );
735     @args = @args[0,1,2];
736   }
737
738   $info{arguments} = \@args;
739
740   my @storage_opts = grep exists $attrs{$_},
741     @storage_options, 'cursor_class';
742
743   @{ $info{storage_options} }{@storage_opts} =
744     delete @attrs{@storage_opts} if @storage_opts;
745
746   my @sql_maker_opts = grep exists $attrs{$_},
747     qw/limit_dialect quote_char name_sep quote_names/;
748
749   @{ $info{sql_maker_options} }{@sql_maker_opts} =
750     delete @attrs{@sql_maker_opts} if @sql_maker_opts;
751
752   $info{attributes} = \%attrs if %attrs;
753
754   return \%info;
755 }
756
757 sub _default_dbi_connect_attributes () {
758   +{
759     AutoCommit => 1,
760     PrintError => 0,
761     RaiseError => 1,
762     ShowErrorStatement => 1,
763   };
764 }
765
766 =head2 on_connect_do
767
768 This method is deprecated in favour of setting via L</connect_info>.
769
770 =cut
771
772 =head2 on_disconnect_do
773
774 This method is deprecated in favour of setting via L</connect_info>.
775
776 =cut
777
778 sub _parse_connect_do {
779   my ($self, $type) = @_;
780
781   my $val = $self->$type;
782   return () if not defined $val;
783
784   my @res;
785
786   if (not ref($val)) {
787     push @res, [ 'do_sql', $val ];
788   } elsif (ref($val) eq 'CODE') {
789     push @res, $val;
790   } elsif (ref($val) eq 'ARRAY') {
791     push @res, map { [ 'do_sql', $_ ] } @$val;
792   } else {
793     $self->throw_exception("Invalid type for $type: ".ref($val));
794   }
795
796   return \@res;
797 }
798
799 =head2 dbh_do
800
801 Arguments: ($subref | $method_name), @extra_coderef_args?
802
803 Execute the given $subref or $method_name using the new exception-based
804 connection management.
805
806 The first two arguments will be the storage object that C<dbh_do> was called
807 on and a database handle to use.  Any additional arguments will be passed
808 verbatim to the called subref as arguments 2 and onwards.
809
810 Using this (instead of $self->_dbh or $self->dbh) ensures correct
811 exception handling and reconnection (or failover in future subclasses).
812
813 Your subref should have no side-effects outside of the database, as
814 there is the potential for your subref to be partially double-executed
815 if the database connection was stale/dysfunctional.
816
817 Example:
818
819   my @stuff = $schema->storage->dbh_do(
820     sub {
821       my ($storage, $dbh, @cols) = @_;
822       my $cols = join(q{, }, @cols);
823       $dbh->selectrow_array("SELECT $cols FROM foo");
824     },
825     @column_list
826   );
827
828 =cut
829
830 sub dbh_do {
831   my $self = shift;
832   my $run_target = shift; # either a coderef or a method name
833
834   # short circuit when we know there is no need for a runner
835   #
836   # FIXME - assumption may be wrong
837   # the rationale for the txn_depth check is that if this block is a part
838   # of a larger transaction, everything up to that point is screwed anyway
839   return $self->$run_target($self->_get_dbh, @_)
840     if $self->{_in_do_block} or $self->transaction_depth;
841
842   # take a ref instead of a copy, to preserve @_ aliasing
843   # semantics within the coderef, but only if needed
844   # (pseudoforking doesn't like this trick much)
845   my $args = @_ ? \@_ : [];
846
847   DBIx::Class::Storage::BlockRunner->new(
848     storage => $self,
849     wrap_txn => 0,
850     retry_handler => sub {
851       $_[0]->failed_attempt_count == 1
852         and
853       ! $_[0]->storage->connected
854     },
855   )->run(sub {
856     $self->$run_target ($self->_get_dbh, @$args )
857   });
858 }
859
860 sub txn_do {
861   $_[0]->_get_dbh; # connects or reconnects on pid change, necessary to grab correct txn_depth
862   shift->next::method(@_);
863 }
864
865 =head2 disconnect
866
867 Our C<disconnect> method also performs a rollback first if the
868 database is not in C<AutoCommit> mode.
869
870 =cut
871
872 sub disconnect {
873
874   if( my $dbh = $_[0]->_dbh ) {
875
876     $_[0]->_do_connection_actions(disconnect_call_ => $_) for (
877       ( $_[0]->on_disconnect_call || () ),
878       $_[0]->_parse_connect_do ('on_disconnect_do')
879     );
880
881     # stops the "implicit rollback on disconnect" warning
882     $_[0]->_exec_txn_rollback unless $_[0]->_dbh_autocommit;
883
884     %{ $dbh->{CachedKids} } = ();
885     $dbh->disconnect;
886     $_[0]->_dbh(undef);
887   }
888 }
889
890 =head2 with_deferred_fk_checks
891
892 =over 4
893
894 =item Arguments: C<$coderef>
895
896 =item Return Value: The return value of $coderef
897
898 =back
899
900 Storage specific method to run the code ref with FK checks deferred or
901 in MySQL's case disabled entirely.
902
903 =cut
904
905 # Storage subclasses should override this
906 sub with_deferred_fk_checks {
907   #my ($self, $sub) = @_;
908   $_[1]->();
909 }
910
911 =head2 connected
912
913 =over
914
915 =item Arguments: none
916
917 =item Return Value: 1|0
918
919 =back
920
921 Verifies that the current database handle is active and ready to execute
922 an SQL statement (e.g. the connection did not get stale, server is still
923 answering, etc.) This method is used internally by L</dbh>.
924
925 =cut
926
927 sub connected {
928   return 0 unless $_[0]->_seems_connected;
929
930   #be on the safe side
931   local $_[0]->_dbh->{RaiseError} = 1;
932
933   return $_[0]->_ping;
934 }
935
936 sub _seems_connected {
937   $_[0]->_verify_pid unless DBIx::Class::_ENV_::BROKEN_FORK;
938
939   ($_[0]->_dbh || return 0)->FETCH('Active');
940 }
941
942 sub _ping {
943   ($_[0]->_dbh || return 0)->ping;
944 }
945
946 sub ensure_connected {
947   $_[0]->connected || ( $_[0]->_populate_dbh && 1 );
948 }
949
950 =head2 dbh
951
952 Returns a C<$dbh> - a data base handle of class L<DBI>. The returned handle
953 is guaranteed to be healthy by implicitly calling L</connected>, and if
954 necessary performing a reconnection before returning. Keep in mind that this
955 is very B<expensive> on some database engines. Consider using L</dbh_do>
956 instead.
957
958 =cut
959
960 sub dbh {
961   # maybe save a ping call
962   $_[0]->_dbh
963     ? ( $_[0]->ensure_connected and $_[0]->_dbh )
964     : $_[0]->_populate_dbh
965   ;
966 }
967
968 # this is the internal "get dbh or connect (don't check)" method
969 sub _get_dbh {
970   $_[0]->_verify_pid unless DBIx::Class::_ENV_::BROKEN_FORK;
971   $_[0]->_dbh || $_[0]->_populate_dbh;
972 }
973
974 # *DELIBERATELY* not a setter (for the time being)
975 # Too intertwined with everything else for any kind of sanity
976 sub sql_maker {
977   my $self = shift;
978
979   $self->throw_exception('sql_maker() is not a setter method') if @_;
980
981   unless ($self->_sql_maker) {
982     my $sql_maker_class = $self->sql_maker_class;
983
984     my %opts = %{$self->_sql_maker_opts||{}};
985     my $dialect =
986       $opts{limit_dialect}
987         ||
988       $self->sql_limit_dialect
989         ||
990       do {
991         my $s_class = (ref $self) || $self;
992         carp_unique (
993           "Your storage class ($s_class) does not set sql_limit_dialect and you "
994         . 'have not supplied an explicit limit_dialect in your connection_info. '
995         . 'DBIC will attempt to use the GenericSubQ dialect, which works on most '
996         . 'databases but can be (and often is) painfully slow. '
997         . "Please file an RT ticket against '$s_class'"
998         ) if $self->_dbi_connect_info->[0];
999
1000         'GenericSubQ';
1001       }
1002     ;
1003
1004     my ($quote_char, $name_sep);
1005
1006     if ($opts{quote_names}) {
1007       $quote_char = (delete $opts{quote_char}) || $self->sql_quote_char || do {
1008         my $s_class = (ref $self) || $self;
1009         carp_unique (
1010           "You requested 'quote_names' but your storage class ($s_class) does "
1011         . 'not explicitly define a default sql_quote_char and you have not '
1012         . 'supplied a quote_char as part of your connection_info. DBIC will '
1013         .q{default to the ANSI SQL standard quote '"', which works most of }
1014         . "the time. Please file an RT ticket against '$s_class'."
1015         );
1016
1017         '"'; # RV
1018       };
1019
1020       $name_sep = (delete $opts{name_sep}) || $self->sql_name_sep;
1021     }
1022
1023     $self->_sql_maker($sql_maker_class->new(
1024       bindtype=>'columns',
1025       array_datatypes => 1,
1026       limit_dialect => $dialect,
1027       ($quote_char ? (quote_char => $quote_char) : ()),
1028       name_sep => ($name_sep || '.'),
1029       %opts,
1030     ));
1031   }
1032   return $self->_sql_maker;
1033 }
1034
1035 # nothing to do by default
1036 sub _rebless {}
1037 sub _init {}
1038
1039 sub _populate_dbh {
1040
1041   $_[0]->_dbh(undef); # in case ->connected failed we might get sent here
1042
1043   $_[0]->_dbh_details({}); # reset everything we know
1044
1045   # FIXME - this needs reenabling with the proper "no reset on same DSN" check
1046   #$_[0]->_sql_maker(undef); # this may also end up being different
1047
1048   $_[0]->_dbh($_[0]->_connect);
1049
1050   $_[0]->_conn_pid($$) unless DBIx::Class::_ENV_::BROKEN_FORK; # on win32 these are in fact threads
1051
1052   $_[0]->_determine_driver;
1053
1054   # Always set the transaction depth on connect, since
1055   #  there is no transaction in progress by definition
1056   $_[0]->{transaction_depth} = $_[0]->_dbh_autocommit ? 0 : 1;
1057
1058   $_[0]->_run_connection_actions unless $_[0]->{_in_determine_driver};
1059
1060   $_[0]->_dbh;
1061 }
1062
1063 sub _run_connection_actions {
1064
1065   $_[0]->_do_connection_actions(connect_call_ => $_) for (
1066     ( $_[0]->on_connect_call || () ),
1067     $_[0]->_parse_connect_do ('on_connect_do'),
1068   );
1069 }
1070
1071
1072
1073 sub set_use_dbms_capability {
1074   $_[0]->set_inherited ($_[1], $_[2]);
1075 }
1076
1077 sub get_use_dbms_capability {
1078   my ($self, $capname) = @_;
1079
1080   my $use = $self->get_inherited ($capname);
1081   return defined $use
1082     ? $use
1083     : do { $capname =~ s/^_use_/_supports_/; $self->get_dbms_capability ($capname) }
1084   ;
1085 }
1086
1087 sub set_dbms_capability {
1088   $_[0]->_dbh_details->{capability}{$_[1]} = $_[2];
1089 }
1090
1091 sub get_dbms_capability {
1092   my ($self, $capname) = @_;
1093
1094   my $cap = $self->_dbh_details->{capability}{$capname};
1095
1096   unless (defined $cap) {
1097     if (my $meth = $self->can ("_determine$capname")) {
1098       $cap = $self->$meth ? 1 : 0;
1099     }
1100     else {
1101       $cap = 0;
1102     }
1103
1104     $self->set_dbms_capability ($capname, $cap);
1105   }
1106
1107   return $cap;
1108 }
1109
1110 sub _server_info {
1111   my $self = shift;
1112
1113   my $info;
1114   unless ($info = $self->_dbh_details->{info}) {
1115
1116     $info = {};
1117
1118     my $server_version = try {
1119       $self->_get_server_version
1120     } catch {
1121       # driver determination *may* use this codepath
1122       # in which case we must rethrow
1123       $self->throw_exception($_) if $self->{_in_determine_driver};
1124
1125       # $server_version on failure
1126       undef;
1127     };
1128
1129     if (defined $server_version) {
1130       $info->{dbms_version} = $server_version;
1131
1132       my ($numeric_version) = $server_version =~ /^([\d\.]+)/;
1133       my @verparts = split (/\./, $numeric_version);
1134       if (
1135         @verparts
1136           &&
1137         $verparts[0] <= 999
1138       ) {
1139         # consider only up to 3 version parts, iff not more than 3 digits
1140         my @use_parts;
1141         while (@verparts && @use_parts < 3) {
1142           my $p = shift @verparts;
1143           last if $p > 999;
1144           push @use_parts, $p;
1145         }
1146         push @use_parts, 0 while @use_parts < 3;
1147
1148         $info->{normalized_dbms_version} = sprintf "%d.%03d%03d", @use_parts;
1149       }
1150     }
1151
1152     $self->_dbh_details->{info} = $info;
1153   }
1154
1155   return $info;
1156 }
1157
1158 sub _get_server_version {
1159   shift->_dbh_get_info('SQL_DBMS_VER');
1160 }
1161
1162 sub _dbh_get_info {
1163   my ($self, $info) = @_;
1164
1165   if ($info =~ /[^0-9]/) {
1166     require DBI::Const::GetInfoType;
1167     $info = $DBI::Const::GetInfoType::GetInfoType{$info};
1168     $self->throw_exception("Info type '$_[1]' not provided by DBI::Const::GetInfoType")
1169       unless defined $info;
1170   }
1171
1172   $self->_get_dbh->get_info($info);
1173 }
1174
1175 sub _describe_connection {
1176   require DBI::Const::GetInfoReturn;
1177
1178   my $self = shift;
1179
1180   my $drv;
1181   try {
1182     $drv = $self->_extract_driver_from_connect_info;
1183     $self->ensure_connected;
1184   };
1185
1186   $drv = "DBD::$drv" if $drv;
1187
1188   my $res = {
1189     DBIC_DSN => $self->_dbi_connect_info->[0],
1190     DBI_VER => DBI->VERSION,
1191     DBIC_VER => DBIx::Class->VERSION,
1192     DBIC_DRIVER => ref $self,
1193     $drv ? (
1194       DBD => $drv,
1195       DBD_VER => try { $drv->VERSION },
1196     ) : (),
1197   };
1198
1199   # try to grab data even if we never managed to connect
1200   # will cover us in cases of an oddly broken half-connect
1201   for my $inf (
1202     #keys %DBI::Const::GetInfoType::GetInfoType,
1203     qw/
1204       SQL_CURSOR_COMMIT_BEHAVIOR
1205       SQL_CURSOR_ROLLBACK_BEHAVIOR
1206       SQL_CURSOR_SENSITIVITY
1207       SQL_DATA_SOURCE_NAME
1208       SQL_DBMS_NAME
1209       SQL_DBMS_VER
1210       SQL_DEFAULT_TXN_ISOLATION
1211       SQL_DM_VER
1212       SQL_DRIVER_NAME
1213       SQL_DRIVER_ODBC_VER
1214       SQL_DRIVER_VER
1215       SQL_EXPRESSIONS_IN_ORDERBY
1216       SQL_GROUP_BY
1217       SQL_IDENTIFIER_CASE
1218       SQL_IDENTIFIER_QUOTE_CHAR
1219       SQL_MAX_CATALOG_NAME_LEN
1220       SQL_MAX_COLUMN_NAME_LEN
1221       SQL_MAX_IDENTIFIER_LEN
1222       SQL_MAX_TABLE_NAME_LEN
1223       SQL_MULTIPLE_ACTIVE_TXN
1224       SQL_MULT_RESULT_SETS
1225       SQL_NEED_LONG_DATA_LEN
1226       SQL_NON_NULLABLE_COLUMNS
1227       SQL_ODBC_VER
1228       SQL_QUALIFIER_NAME_SEPARATOR
1229       SQL_QUOTED_IDENTIFIER_CASE
1230       SQL_TXN_CAPABLE
1231       SQL_TXN_ISOLATION_OPTION
1232     /
1233   ) {
1234     # some drivers barf on things they do not know about instead
1235     # of returning undef
1236     my $v = try { $self->_dbh_get_info($inf) };
1237     next unless defined $v;
1238
1239     #my $key = sprintf( '%s(%s)', $inf, $DBI::Const::GetInfoType::GetInfoType{$inf} );
1240     my $expl = DBI::Const::GetInfoReturn::Explain($inf, $v);
1241     $res->{$inf} = DBI::Const::GetInfoReturn::Format($inf, $v) . ( $expl ? " ($expl)" : '' );
1242   }
1243
1244   $res;
1245 }
1246
1247 sub _determine_driver {
1248   my ($self) = @_;
1249
1250   if ((not $self->_driver_determined) && (not $self->{_in_determine_driver})) {
1251     my $started_connected = 0;
1252     local $self->{_in_determine_driver} = 1;
1253
1254     if (ref($self) eq __PACKAGE__) {
1255       my $driver;
1256       if ($self->_dbh) { # we are connected
1257         $driver = $self->_dbh->{Driver}{Name};
1258         $started_connected = 1;
1259       }
1260       else {
1261         $driver = $self->_extract_driver_from_connect_info;
1262       }
1263
1264       if ($driver) {
1265         my $storage_class = "DBIx::Class::Storage::DBI::${driver}";
1266         if ($self->load_optional_class($storage_class)) {
1267           mro::set_mro($storage_class, 'c3');
1268           bless $self, $storage_class;
1269           $self->_rebless();
1270         }
1271         else {
1272           $self->_warn_undetermined_driver(
1273             'This version of DBIC does not yet seem to supply a driver for '
1274           . "your particular RDBMS and/or connection method ('$driver')."
1275           );
1276         }
1277       }
1278       else {
1279         $self->_warn_undetermined_driver(
1280           'Unable to extract a driver name from connect info - this '
1281         . 'should not have happened.'
1282         );
1283       }
1284     }
1285
1286     $self->_driver_determined(1);
1287
1288     Class::C3->reinitialize() if DBIx::Class::_ENV_::OLD_MRO;
1289
1290     if ($self->can('source_bind_attributes')) {
1291       $self->throw_exception(
1292         "Your storage subclass @{[ ref $self ]} provides (or inherits) the method "
1293       . 'source_bind_attributes() for which support has been removed as of Jan 2013. '
1294       . 'If you are not sure how to proceed please contact the development team via '
1295       . DBIx::Class::_ENV_::HELP_URL
1296       );
1297     }
1298
1299     $self->_init; # run driver-specific initializations
1300
1301     $self->_run_connection_actions
1302         if !$started_connected && defined $self->_dbh;
1303   }
1304 }
1305
1306 sub _extract_driver_from_connect_info {
1307   my $self = shift;
1308
1309   my $drv;
1310
1311   # if connect_info is a CODEREF, we have no choice but to connect
1312   if (
1313     ref $self->_dbi_connect_info->[0]
1314       and
1315     reftype $self->_dbi_connect_info->[0] eq 'CODE'
1316   ) {
1317     $self->_populate_dbh;
1318     $drv = $self->_dbh->{Driver}{Name};
1319   }
1320   else {
1321     # try to use dsn to not require being connected, the driver may still
1322     # force a connection later in _rebless to determine version
1323     # (dsn may not be supplied at all if all we do is make a mock-schema)
1324     #
1325     # Use the same regex as the one used by DBI itself (even if the use of
1326     # \w is odd given unicode):
1327     # https://metacpan.org/source/TIMB/DBI-1.634/DBI.pm#L621
1328     #
1329     # DO NOT use https://metacpan.org/source/TIMB/DBI-1.634/DBI.pm#L559-566
1330     # as there is a long-standing precedent of not loading DBI.pm until the
1331     # very moment we are actually connecting
1332     #
1333     ($drv) = ($self->_dbi_connect_info->[0] || '') =~ /^dbi:(\w*)/i;
1334     $drv ||= $ENV{DBI_DRIVER};
1335   }
1336
1337   return $drv;
1338 }
1339
1340 sub _determine_connector_driver {
1341   my ($self, $conn) = @_;
1342
1343   my $dbtype = $self->_dbh_get_info('SQL_DBMS_NAME');
1344
1345   if (not $dbtype) {
1346     $self->_warn_undetermined_driver(
1347       'Unable to retrieve RDBMS type (SQL_DBMS_NAME) of the engine behind your '
1348     . "$conn connector - this should not have happened."
1349     );
1350     return;
1351   }
1352
1353   $dbtype =~ s/\W/_/gi;
1354
1355   my $subclass = "DBIx::Class::Storage::DBI::${conn}::${dbtype}";
1356   return if $self->isa($subclass);
1357
1358   if ($self->load_optional_class($subclass)) {
1359     bless $self, $subclass;
1360     $self->_rebless;
1361   }
1362   else {
1363     $self->_warn_undetermined_driver(
1364       'This version of DBIC does not yet seem to supply a driver for '
1365     . "your particular RDBMS and/or connection method ('$conn/$dbtype')."
1366     );
1367   }
1368 }
1369
1370 sub _warn_undetermined_driver {
1371   my ($self, $msg) = @_;
1372
1373   require Data::Dumper::Concise;
1374
1375   carp_once ($msg . ' While we will attempt to continue anyway, the results '
1376   . 'are likely to be underwhelming. Please upgrade DBIC, and if this message '
1377   . "does not go away, file a bugreport including the following info:\n"
1378   . Data::Dumper::Concise::Dumper($self->_describe_connection)
1379   );
1380 }
1381
1382 sub _do_connection_actions {
1383   my $self          = shift;
1384   my $method_prefix = shift;
1385   my $call          = shift;
1386
1387   if (not ref($call)) {
1388     my $method = $method_prefix . $call;
1389     $self->$method(@_);
1390   } elsif (ref($call) eq 'CODE') {
1391     $self->$call(@_);
1392   } elsif (ref($call) eq 'ARRAY') {
1393     if (ref($call->[0]) ne 'ARRAY') {
1394       $self->_do_connection_actions($method_prefix, $_) for @$call;
1395     } else {
1396       $self->_do_connection_actions($method_prefix, @$_) for @$call;
1397     }
1398   } else {
1399     $self->throw_exception (sprintf ("Don't know how to process conection actions of type '%s'", ref($call)) );
1400   }
1401
1402   return $self;
1403 }
1404
1405 sub connect_call_do_sql {
1406   my $self = shift;
1407   $self->_do_query(@_);
1408 }
1409
1410 sub disconnect_call_do_sql {
1411   my $self = shift;
1412   $self->_do_query(@_);
1413 }
1414
1415 =head2 connect_call_datetime_setup
1416
1417 A no-op stub method, provided so that one can always safely supply the
1418 L<connection option|/DBIx::Class specific connection attributes>
1419
1420  on_connect_call => 'datetime_setup'
1421
1422 This way one does not need to know in advance whether the underlying
1423 storage requires any sort of hand-holding when dealing with calendar
1424 data.
1425
1426 =cut
1427
1428 sub connect_call_datetime_setup { 1 }
1429
1430 sub _do_query {
1431   my ($self, $action) = @_;
1432
1433   if (ref $action eq 'CODE') {
1434     $action = $action->($self);
1435     $self->_do_query($_) foreach @$action;
1436   }
1437   else {
1438     # Most debuggers expect ($sql, @bind), so we need to exclude
1439     # the attribute hash which is the second argument to $dbh->do
1440     # furthermore the bind values are usually to be presented
1441     # as named arrayref pairs, so wrap those here too
1442     my @do_args = (ref $action eq 'ARRAY') ? (@$action) : ($action);
1443     my $sql = shift @do_args;
1444     my $attrs = shift @do_args;
1445     my @bind = map { [ undef, $_ ] } @do_args;
1446
1447     $self->dbh_do(sub {
1448       $_[0]->_query_start($sql, \@bind);
1449       $_[1]->do($sql, $attrs, @do_args);
1450       $_[0]->_query_end($sql, \@bind);
1451     });
1452   }
1453
1454   return $self;
1455 }
1456
1457 sub _connect {
1458   my $self = shift;
1459
1460   my $info = $self->_dbi_connect_info;
1461
1462   $self->throw_exception("You did not provide any connection_info")
1463     unless defined $info->[0];
1464
1465   my ($old_connect_via, $dbh);
1466
1467   local $DBI::connect_via = 'connect' if $INC{'Apache/DBI.pm'} && $ENV{MOD_PERL};
1468
1469   # this odd anonymous coderef dereference is in fact really
1470   # necessary to avoid the unwanted effect described in perl5
1471   # RT#75792
1472   #
1473   # in addition the coderef itself can't reside inside the try{} block below
1474   # as it somehow triggers a leak under perl -d
1475   my $dbh_error_handler_installer = sub {
1476     weaken (my $weak_self = $_[0]);
1477
1478     # the coderef is blessed so we can distinguish it from externally
1479     # supplied handles (which must be preserved)
1480     $_[1]->{HandleError} = bless sub {
1481       if ($weak_self) {
1482         $weak_self->throw_exception("DBI Exception: $_[0]");
1483       }
1484       else {
1485         # the handler may be invoked by something totally out of
1486         # the scope of DBIC
1487         DBIx::Class::Exception->throw("DBI Exception (unhandled by DBIC, ::Schema GCed): $_[0]");
1488       }
1489     }, '__DBIC__DBH__ERROR__HANDLER__';
1490   };
1491
1492   try {
1493     if(ref $info->[0] eq 'CODE') {
1494       $dbh = $info->[0]->();
1495     }
1496     else {
1497       require DBI;
1498       $dbh = DBI->connect(@$info);
1499     }
1500
1501     die $DBI::errstr unless $dbh;
1502
1503     die sprintf ("%s fresh DBI handle with a *false* 'Active' attribute. "
1504       . 'This handle is disconnected as far as DBIC is concerned, and we can '
1505       . 'not continue',
1506       ref $info->[0] eq 'CODE'
1507         ? "Connection coderef $info->[0] returned a"
1508         : 'DBI->connect($schema->storage->connect_info) resulted in a'
1509     ) unless $dbh->FETCH('Active');
1510
1511     # sanity checks unless asked otherwise
1512     unless ($self->unsafe) {
1513
1514       $self->throw_exception(
1515         'Refusing clobbering of {HandleError} installed on externally supplied '
1516        ."DBI handle $dbh. Either remove the handler or use the 'unsafe' attribute."
1517       ) if $dbh->{HandleError} and ref $dbh->{HandleError} ne '__DBIC__DBH__ERROR__HANDLER__';
1518
1519       # Default via _default_dbi_connect_attributes is 1, hence it was an explicit
1520       # request, or an external handle. Complain and set anyway
1521       unless ($dbh->{RaiseError}) {
1522         carp( ref $info->[0] eq 'CODE'
1523
1524           ? "The 'RaiseError' of the externally supplied DBI handle is set to false. "
1525            ."DBIx::Class will toggle it back to true, unless the 'unsafe' connect "
1526            .'attribute has been supplied'
1527
1528           : 'RaiseError => 0 supplied in your connection_info, without an explicit '
1529            .'unsafe => 1. Toggling RaiseError back to true'
1530         );
1531
1532         $dbh->{RaiseError} = 1;
1533       }
1534
1535       $dbh_error_handler_installer->($self, $dbh);
1536     }
1537   }
1538   catch {
1539     $self->throw_exception("DBI Connection failed: $_")
1540   };
1541
1542   $self->_dbh_autocommit($dbh->{AutoCommit});
1543   return $dbh;
1544 }
1545
1546 sub txn_begin {
1547   # this means we have not yet connected and do not know the AC status
1548   # (e.g. coderef $dbh), need a full-fledged connection check
1549   if (! defined $_[0]->_dbh_autocommit) {
1550     $_[0]->ensure_connected;
1551   }
1552   # Otherwise simply connect or re-connect on pid changes
1553   else {
1554     $_[0]->_get_dbh;
1555   }
1556
1557   shift->next::method(@_);
1558 }
1559
1560 sub _exec_txn_begin {
1561   my $self = shift;
1562
1563   # if the user is utilizing txn_do - good for him, otherwise we need to
1564   # ensure that the $dbh is healthy on BEGIN.
1565   # We do this via ->dbh_do instead of ->dbh, so that the ->dbh "ping"
1566   # will be replaced by a failure of begin_work itself (which will be
1567   # then retried on reconnect)
1568   if ($self->{_in_do_block}) {
1569     $self->_dbh->begin_work;
1570   } else {
1571     $self->dbh_do(sub { $_[1]->begin_work });
1572   }
1573 }
1574
1575 sub txn_commit {
1576   my $self = shift;
1577
1578   $self->throw_exception("Unable to txn_commit() on a disconnected storage")
1579     unless $self->_seems_connected;
1580
1581   # esoteric case for folks using external $dbh handles
1582   if (! $self->transaction_depth and ! $self->_dbh->FETCH('AutoCommit') ) {
1583     carp "Storage transaction_depth 0 does not match "
1584         ."false AutoCommit of $self->{_dbh}, attempting COMMIT anyway";
1585     $self->transaction_depth(1);
1586   }
1587
1588   $self->next::method(@_);
1589
1590   # if AutoCommit is disabled txn_depth never goes to 0
1591   # as a new txn is started immediately on commit
1592   $self->transaction_depth(1) if (
1593     !$self->transaction_depth
1594       and
1595     defined $self->_dbh_autocommit
1596       and
1597     ! $self->_dbh_autocommit
1598   );
1599 }
1600
1601 sub _exec_txn_commit {
1602   shift->_dbh->commit;
1603 }
1604
1605 sub txn_rollback {
1606   my $self = shift;
1607
1608   $self->throw_exception("Unable to txn_rollback() on a disconnected storage")
1609     unless $self->_seems_connected;
1610
1611   # esoteric case for folks using external $dbh handles
1612   if (! $self->transaction_depth and ! $self->_dbh->FETCH('AutoCommit') ) {
1613     carp "Storage transaction_depth 0 does not match "
1614         ."false AutoCommit of $self->{_dbh}, attempting ROLLBACK anyway";
1615     $self->transaction_depth(1);
1616   }
1617
1618   $self->next::method(@_);
1619
1620   # if AutoCommit is disabled txn_depth never goes to 0
1621   # as a new txn is started immediately on commit
1622   $self->transaction_depth(1) if (
1623     !$self->transaction_depth
1624       and
1625     defined $self->_dbh_autocommit
1626       and
1627     ! $self->_dbh_autocommit
1628   );
1629 }
1630
1631 sub _exec_txn_rollback {
1632   shift->_dbh->rollback;
1633 }
1634
1635 # generate the DBI-specific stubs, which then fallback to ::Storage proper
1636 quote_sub __PACKAGE__ . "::$_" => sprintf (<<'EOS', $_) for qw(svp_begin svp_release svp_rollback);
1637   $_[0]->throw_exception('Unable to %s() on a disconnected storage')
1638     unless $_[0]->_seems_connected;
1639   shift->next::method(@_);
1640 EOS
1641
1642 # This used to be the top-half of _execute.  It was split out to make it
1643 #  easier to override in NoBindVars without duping the rest.  It takes up
1644 #  all of _execute's args, and emits $sql, @bind.
1645 sub _prep_for_execute {
1646   #my ($self, $op, $ident, $args) = @_;
1647   return shift->_gen_sql_bind(@_)
1648 }
1649
1650 sub _gen_sql_bind {
1651   my ($self, $op, $ident, $args) = @_;
1652
1653   my ($colinfos, $from);
1654   if ( blessed($ident) ) {
1655     $from = $ident->from;
1656     $colinfos = $ident->columns_info;
1657   }
1658
1659   my ($sql, $bind);
1660   ($sql, @$bind) = $self->sql_maker->$op( ($from || $ident), @$args );
1661
1662   $bind = $self->_resolve_bindattrs(
1663     $ident, [ @{$args->[2]{bind}||[]}, @$bind ], $colinfos
1664   );
1665
1666   if (
1667     ! $ENV{DBIC_DT_SEARCH_OK}
1668       and
1669     $op eq 'select'
1670       and
1671     first {
1672       length ref $_->[1]
1673         and
1674       blessed($_->[1])
1675         and
1676       $_->[1]->isa('DateTime')
1677     } @$bind
1678   ) {
1679     carp_unique 'DateTime objects passed to search() are not supported '
1680       . 'properly (InflateColumn::DateTime formats and settings are not '
1681       . 'respected.) See ".. format a DateTime object for searching?" in '
1682       . 'DBIx::Class::Manual::FAQ. To disable this warning for good '
1683       . 'set $ENV{DBIC_DT_SEARCH_OK} to true'
1684   }
1685
1686   return( $sql, $bind );
1687 }
1688
1689 sub _resolve_bindattrs {
1690   my ($self, $ident, $bind, $colinfos) = @_;
1691
1692   my $resolve_bindinfo = sub {
1693     #my $infohash = shift;
1694
1695     $colinfos ||= { %{ $self->_resolve_column_info($ident) } };
1696
1697     my $ret;
1698     if (my $col = $_[0]->{dbic_colname}) {
1699       $ret = { %{$_[0]} };
1700
1701       $ret->{sqlt_datatype} ||= $colinfos->{$col}{data_type}
1702         if $colinfos->{$col}{data_type};
1703
1704       $ret->{sqlt_size} ||= $colinfos->{$col}{size}
1705         if $colinfos->{$col}{size};
1706     }
1707
1708     $ret || $_[0];
1709   };
1710
1711   return [ map {
1712     my $resolved =
1713       ( ref $_ ne 'ARRAY' or @$_ != 2 ) ? [ {}, $_ ]
1714     : ( ! defined $_->[0] )             ? [ {}, $_->[1] ]
1715     : (ref $_->[0] eq 'HASH')           ? [(
1716                                             ! keys %{$_->[0]}
1717                                               or
1718                                             exists $_->[0]{dbd_attrs}
1719                                               or
1720                                             $_->[0]{sqlt_datatype}
1721                                            ) ? $_->[0]
1722                                              : $resolve_bindinfo->($_->[0])
1723                                            , $_->[1]
1724                                           ]
1725     : (ref $_->[0] eq 'SCALAR')         ? [ { sqlt_datatype => ${$_->[0]} }, $_->[1] ]
1726     :                                     [ $resolve_bindinfo->(
1727                                               { dbic_colname => $_->[0] }
1728                                             ), $_->[1] ]
1729     ;
1730
1731     if (
1732       ! exists $resolved->[0]{dbd_attrs}
1733         and
1734       ! $resolved->[0]{sqlt_datatype}
1735         and
1736       length ref $resolved->[1]
1737         and
1738       ! is_plain_value $resolved->[1]
1739     ) {
1740       require Data::Dumper;
1741       local $Data::Dumper::Maxdepth = 1;
1742       local $Data::Dumper::Terse = 1;
1743       local $Data::Dumper::Useqq = 1;
1744       local $Data::Dumper::Indent = 0;
1745       local $Data::Dumper::Pad = ' ';
1746       $self->throw_exception(
1747         'You must supply a datatype/bindtype (see DBIx::Class::ResultSet/DBIC BIND VALUES) '
1748       . 'for non-scalar value '. Data::Dumper::Dumper ($resolved->[1])
1749       );
1750     }
1751
1752     $resolved;
1753
1754   } @$bind ];
1755 }
1756
1757 sub _format_for_trace {
1758   #my ($self, $bind) = @_;
1759
1760   ### Turn @bind from something like this:
1761   ###   ( [ "artist", 1 ], [ \%attrs, 3 ] )
1762   ### to this:
1763   ###   ( "'1'", "'3'" )
1764
1765   map {
1766     defined( $_ && $_->[1] )
1767       ? qq{'$_->[1]'}
1768       : q{NULL}
1769   } @{$_[1] || []};
1770 }
1771
1772 sub _query_start {
1773   my ( $self, $sql, $bind ) = @_;
1774
1775   $self->debugobj->query_start( $sql, $self->_format_for_trace($bind) )
1776     if $self->debug;
1777 }
1778
1779 sub _query_end {
1780   my ( $self, $sql, $bind ) = @_;
1781
1782   $self->debugobj->query_end( $sql, $self->_format_for_trace($bind) )
1783     if $self->debug;
1784 }
1785
1786 sub _dbi_attrs_for_bind {
1787   my ($self, $ident, $bind) = @_;
1788
1789   my @attrs;
1790
1791   for (map { $_->[0] } @$bind) {
1792     push @attrs, do {
1793       if (exists $_->{dbd_attrs}) {
1794         $_->{dbd_attrs}
1795       }
1796       elsif($_->{sqlt_datatype}) {
1797         # cache the result in the dbh_details hash, as it can not change unless
1798         # we connect to something else
1799         my $cache = $self->_dbh_details->{_datatype_map_cache} ||= {};
1800         if (not exists $cache->{$_->{sqlt_datatype}}) {
1801           $cache->{$_->{sqlt_datatype}} = $self->bind_attribute_by_data_type($_->{sqlt_datatype}) || undef;
1802         }
1803         $cache->{$_->{sqlt_datatype}};
1804       }
1805       else {
1806         undef;  # always push something at this position
1807       }
1808     }
1809   }
1810
1811   return \@attrs;
1812 }
1813
1814 sub _execute {
1815   my ($self, $op, $ident, @args) = @_;
1816
1817   my ($sql, $bind) = $self->_prep_for_execute($op, $ident, \@args);
1818
1819   # not even a PID check - we do not care about the state of the _dbh.
1820   # All we need is to get the appropriate drivers loaded if they aren't
1821   # already so that the assumption in ad7c50fc26e holds
1822   $self->_populate_dbh unless $self->_dbh;
1823
1824   $self->dbh_do( _dbh_execute =>     # retry over disconnects
1825     $sql,
1826     $bind,
1827     $self->_dbi_attrs_for_bind($ident, $bind),
1828   );
1829 }
1830
1831 sub _dbh_execute {
1832   my ($self, $dbh, $sql, $bind, $bind_attrs) = @_;
1833
1834   $self->_query_start( $sql, $bind );
1835
1836   my $sth = $self->_bind_sth_params(
1837     $self->_prepare_sth($dbh, $sql),
1838     $bind,
1839     $bind_attrs,
1840   );
1841
1842   # Can this fail without throwing an exception anyways???
1843   my $rv = $sth->execute();
1844   $self->throw_exception(
1845     $sth->errstr || $sth->err || 'Unknown error: execute() returned false, but error flags were not set...'
1846   ) if !$rv;
1847
1848   $self->_query_end( $sql, $bind );
1849
1850   return (wantarray ? ($rv, $sth, @$bind) : $rv);
1851 }
1852
1853 sub _prepare_sth {
1854   my ($self, $dbh, $sql) = @_;
1855
1856   # 3 is the if_active parameter which avoids active sth re-use
1857   my $sth = $self->disable_sth_caching
1858     ? $dbh->prepare($sql)
1859     : $dbh->prepare_cached($sql, {}, 3);
1860
1861   # XXX You would think RaiseError would make this impossible,
1862   #  but apparently that's not true :(
1863   $self->throw_exception(
1864     $dbh->errstr
1865       ||
1866     sprintf( "\$dbh->prepare() of '%s' through %s failed *silently* without "
1867             .'an exception and/or setting $dbh->errstr',
1868       length ($sql) > 20
1869         ? substr($sql, 0, 20) . '...'
1870         : $sql
1871       ,
1872       'DBD::' . $dbh->{Driver}{Name},
1873     )
1874   ) if !$sth;
1875
1876   $sth;
1877 }
1878
1879 sub _bind_sth_params {
1880   my ($self, $sth, $bind, $bind_attrs) = @_;
1881
1882   for my $i (0 .. $#$bind) {
1883     if (ref $bind->[$i][1] eq 'SCALAR') {  # any scalarrefs are assumed to be bind_inouts
1884       $sth->bind_param_inout(
1885         $i + 1, # bind params counts are 1-based
1886         $bind->[$i][1],
1887         $bind->[$i][0]{dbd_size} || $self->_max_column_bytesize($bind->[$i][0]), # size
1888         $bind_attrs->[$i],
1889       );
1890     }
1891     else {
1892       # FIXME SUBOPTIMAL - DBI needs fixing to always stringify regardless of DBD
1893       my $v = ( length ref $bind->[$i][1] and is_plain_value $bind->[$i][1] )
1894         ? "$bind->[$i][1]"
1895         : $bind->[$i][1]
1896       ;
1897
1898       $sth->bind_param(
1899         $i + 1,
1900         # The temp-var is CRUCIAL - DO NOT REMOVE IT, breaks older DBD::SQLite RT#79576
1901         $v,
1902         $bind_attrs->[$i],
1903       );
1904     }
1905   }
1906
1907   $sth;
1908 }
1909
1910 sub _prefetch_autovalues {
1911   my ($self, $source, $colinfo, $to_insert) = @_;
1912
1913   my %values;
1914   for my $col (keys %$colinfo) {
1915     if (
1916       $colinfo->{$col}{auto_nextval}
1917         and
1918       (
1919         ! exists $to_insert->{$col}
1920           or
1921         is_literal_value($to_insert->{$col})
1922       )
1923     ) {
1924       $values{$col} = $self->_sequence_fetch(
1925         'NEXTVAL',
1926         ( $colinfo->{$col}{sequence} ||=
1927             $self->_dbh_get_autoinc_seq($self->_get_dbh, $source, $col)
1928         ),
1929       );
1930     }
1931   }
1932
1933   \%values;
1934 }
1935
1936 sub insert {
1937   my ($self, $source, $to_insert) = @_;
1938
1939   my $col_infos = $source->columns_info;
1940
1941   my $prefetched_values = $self->_prefetch_autovalues($source, $col_infos, $to_insert);
1942
1943   # fuse the values, but keep a separate list of prefetched_values so that
1944   # they can be fused once again with the final return
1945   $to_insert = { %$to_insert, %$prefetched_values };
1946
1947   # FIXME - we seem to assume undef values as non-supplied. This is wrong.
1948   # Investigate what does it take to s/defined/exists/
1949   my %pcols = map { $_ => 1 } $source->primary_columns;
1950   my (%retrieve_cols, $autoinc_supplied, $retrieve_autoinc_col);
1951   for my $col ($source->columns) {
1952     if ($col_infos->{$col}{is_auto_increment}) {
1953       $autoinc_supplied ||= 1 if defined $to_insert->{$col};
1954       $retrieve_autoinc_col ||= $col unless $autoinc_supplied;
1955     }
1956
1957     # nothing to retrieve when explicit values are supplied
1958     next if (
1959       defined $to_insert->{$col} and ! is_literal_value($to_insert->{$col})
1960     );
1961
1962     # the 'scalar keys' is a trick to preserve the ->columns declaration order
1963     $retrieve_cols{$col} = scalar keys %retrieve_cols if (
1964       $pcols{$col}
1965         or
1966       $col_infos->{$col}{retrieve_on_insert}
1967     );
1968   };
1969
1970   local $self->{_autoinc_supplied_for_op} = $autoinc_supplied;
1971   local $self->{_perform_autoinc_retrieval} = $retrieve_autoinc_col;
1972
1973   my ($sqla_opts, @ir_container);
1974   if (%retrieve_cols and $self->_use_insert_returning) {
1975     $sqla_opts->{returning_container} = \@ir_container
1976       if $self->_use_insert_returning_bound;
1977
1978     $sqla_opts->{returning} = [
1979       sort { $retrieve_cols{$a} <=> $retrieve_cols{$b} } keys %retrieve_cols
1980     ];
1981   }
1982
1983   my ($rv, $sth) = $self->_execute('insert', $source, $to_insert, $sqla_opts);
1984
1985   my %returned_cols = %$to_insert;
1986   if (my $retlist = $sqla_opts->{returning}) {  # if IR is supported - we will get everything in one set
1987
1988     unless( @ir_container ) {
1989       try {
1990
1991         # FIXME - need to investigate why Caelum silenced this in 4d4dc518
1992         local $SIG{__WARN__} = sub {};
1993
1994         @ir_container = $sth->fetchrow_array;
1995         $sth->finish;
1996
1997       } catch {
1998         # Evict the $sth from the cache in case we got here, since the finish()
1999         # is crucial, at least on older Firebirds, possibly on other engines too
2000         #
2001         # It would be too complex to make this a proper subclass override,
2002         # and besides we already take the try{} penalty, adding a catch that
2003         # triggers infrequently is a no-brainer
2004         #
2005         if( my $kids = $self->_dbh->{CachedKids} ) {
2006           $kids->{$_} == $sth and delete $kids->{$_}
2007             for keys %$kids
2008         }
2009       };
2010     }
2011
2012     @returned_cols{@$retlist} = @ir_container if @ir_container;
2013   }
2014   else {
2015     # pull in PK if needed and then everything else
2016     if (my @missing_pri = grep { $pcols{$_} } keys %retrieve_cols) {
2017
2018       $self->throw_exception( "Missing primary key but Storage doesn't support last_insert_id" )
2019         unless $self->can('last_insert_id');
2020
2021       my @pri_values = $self->last_insert_id($source, @missing_pri);
2022
2023       $self->throw_exception( "Can't get last insert id" )
2024         unless (@pri_values == @missing_pri);
2025
2026       @returned_cols{@missing_pri} = @pri_values;
2027       delete @retrieve_cols{@missing_pri};
2028     }
2029
2030     # if there is more left to pull
2031     if (%retrieve_cols) {
2032       $self->throw_exception(
2033         'Unable to retrieve additional columns without a Primary Key on ' . $source->source_name
2034       ) unless %pcols;
2035
2036       my @left_to_fetch = sort { $retrieve_cols{$a} <=> $retrieve_cols{$b} } keys %retrieve_cols;
2037
2038       my $cur = DBIx::Class::ResultSet->new($source, {
2039         where => { map { $_ => $returned_cols{$_} } (keys %pcols) },
2040         select => \@left_to_fetch,
2041       })->cursor;
2042
2043       @returned_cols{@left_to_fetch} = $cur->next;
2044
2045       $self->throw_exception('Duplicate row returned for PK-search after fresh insert')
2046         if scalar $cur->next;
2047     }
2048   }
2049
2050   return { %$prefetched_values, %returned_cols };
2051 }
2052
2053 sub insert_bulk {
2054   carp_unique(
2055     'insert_bulk() should have never been exposed as a public method and '
2056   . 'calling it is depecated as of Aug 2014. If you believe having a genuine '
2057   . 'use for this method please contact the development team via '
2058   . DBIx::Class::_ENV_::HELP_URL
2059   );
2060
2061   return '0E0' unless @{$_[3]||[]};
2062
2063   shift->_insert_bulk(@_);
2064 }
2065
2066 sub _insert_bulk {
2067   my ($self, $source, $cols, $data) = @_;
2068
2069   $self->throw_exception('Calling _insert_bulk without a dataset to process makes no sense')
2070     unless @{$data||[]};
2071
2072   my $colinfos = $source->columns_info($cols);
2073
2074   local $self->{_autoinc_supplied_for_op} =
2075     (grep { $_->{is_auto_increment} } values %$colinfos)
2076       ? 1
2077       : 0
2078   ;
2079
2080   # get a slice type index based on first row of data
2081   # a "column" in this context may refer to more than one bind value
2082   # e.g. \[ '?, ?', [...], [...] ]
2083   #
2084   # construct the value type index - a description of values types for every
2085   # per-column slice of $data:
2086   #
2087   # nonexistent - nonbind literal
2088   # 0 - regular value
2089   # [] of bindattrs - resolved attribute(s) of bind(s) passed via literal+bind \[] combo
2090   #
2091   # also construct the column hash to pass to the SQL generator. For plain
2092   # (non literal) values - convert the members of the first row into a
2093   # literal+bind combo, with extra positional info in the bind attr hashref.
2094   # This will allow us to match the order properly, and is so contrived
2095   # because a user-supplied literal/bind (or something else specific to a
2096   # resultsource and/or storage driver) can inject extra binds along the
2097   # way, so one can't rely on "shift positions" ordering at all. Also we
2098   # can't just hand SQLA a set of some known "values" (e.g. hashrefs that
2099   # can be later matched up by address), because we want to supply a real
2100   # value on which perhaps e.g. datatype checks will be performed
2101   my ($proto_data, $serialized_bind_type_by_col_idx);
2102   for my $col_idx (0..$#$cols) {
2103     my $colname = $cols->[$col_idx];
2104     if (ref $data->[0][$col_idx] eq 'SCALAR') {
2105       # no bind value at all - no type
2106
2107       $proto_data->{$colname} = $data->[0][$col_idx];
2108     }
2109     elsif (ref $data->[0][$col_idx] eq 'REF' and ref ${$data->[0][$col_idx]} eq 'ARRAY' ) {
2110       # repack, so we don't end up mangling the original \[]
2111       my ($sql, @bind) = @${$data->[0][$col_idx]};
2112
2113       # normalization of user supplied stuff
2114       my $resolved_bind = $self->_resolve_bindattrs(
2115         $source, \@bind, $colinfos,
2116       );
2117
2118       # store value-less (attrs only) bind info - we will be comparing all
2119       # supplied binds against this for sanity
2120       $serialized_bind_type_by_col_idx->{$col_idx} = serialize [ map { $_->[0] } @$resolved_bind ];
2121
2122       $proto_data->{$colname} = \[ $sql, map { [
2123         # inject slice order to use for $proto_bind construction
2124           { %{$resolved_bind->[$_][0]}, _bind_data_slice_idx => $col_idx, _literal_bind_subindex => $_+1 }
2125             =>
2126           $resolved_bind->[$_][1]
2127         ] } (0 .. $#bind)
2128       ];
2129     }
2130     else {
2131       $serialized_bind_type_by_col_idx->{$col_idx} = undef;
2132
2133       $proto_data->{$colname} = \[ '?', [
2134         { dbic_colname => $colname, _bind_data_slice_idx => $col_idx }
2135           =>
2136         $data->[0][$col_idx]
2137       ] ];
2138     }
2139   }
2140
2141   my ($sql, $proto_bind) = $self->_prep_for_execute (
2142     'insert',
2143     $source,
2144     [ $proto_data ],
2145   );
2146
2147   if (! @$proto_bind and keys %$serialized_bind_type_by_col_idx) {
2148     # if the bindlist is empty and we had some dynamic binds, this means the
2149     # storage ate them away (e.g. the NoBindVars component) and interpolated
2150     # them directly into the SQL. This obviously can't be good for multi-inserts
2151     $self->throw_exception('Unable to invoke fast-path insert without storage placeholder support');
2152   }
2153
2154   # sanity checks
2155   # FIXME - devise a flag "no babysitting" or somesuch to shut this off
2156   #
2157   # use an error reporting closure for convenience (less to pass)
2158   my $bad_slice_report_cref = sub {
2159     my ($msg, $r_idx, $c_idx) = @_;
2160     $self->throw_exception(sprintf "%s for column '%s' in populate slice:\n%s",
2161       $msg,
2162       $cols->[$c_idx],
2163       do {
2164         require Data::Dumper::Concise;
2165         local $Data::Dumper::Maxdepth = 5;
2166         Data::Dumper::Concise::Dumper ({
2167           map { $cols->[$_] =>
2168             $data->[$r_idx][$_]
2169           } 0..$#$cols
2170         }),
2171       }
2172     );
2173   };
2174
2175   for my $col_idx (0..$#$cols) {
2176     my $reference_val = $data->[0][$col_idx];
2177
2178     for my $row_idx (1..$#$data) {  # we are comparing against what we got from [0] above, hence start from 1
2179       my $val = $data->[$row_idx][$col_idx];
2180
2181       if (! exists $serialized_bind_type_by_col_idx->{$col_idx}) { # literal no binds
2182         if (ref $val ne 'SCALAR') {
2183           $bad_slice_report_cref->(
2184             "Incorrect value (expecting SCALAR-ref \\'$$reference_val')",
2185             $row_idx,
2186             $col_idx,
2187           );
2188         }
2189         elsif ($$val ne $$reference_val) {
2190           $bad_slice_report_cref->(
2191             "Inconsistent literal SQL value (expecting \\'$$reference_val')",
2192             $row_idx,
2193             $col_idx,
2194           );
2195         }
2196       }
2197       elsif (! defined $serialized_bind_type_by_col_idx->{$col_idx} ) {  # regular non-literal value
2198         if (is_literal_value($val)) {
2199           $bad_slice_report_cref->("Literal SQL found where a plain bind value is expected", $row_idx, $col_idx);
2200         }
2201       }
2202       else {  # binds from a \[], compare type and attrs
2203         if (ref $val ne 'REF' or ref $$val ne 'ARRAY') {
2204           $bad_slice_report_cref->(
2205             "Incorrect value (expecting ARRAYREF-ref \\['${$reference_val}->[0]', ... ])",
2206             $row_idx,
2207             $col_idx,
2208           );
2209         }
2210         # start drilling down and bail out early on identical refs
2211         elsif (
2212           $reference_val != $val
2213             or
2214           $$reference_val != $$val
2215         ) {
2216           if (${$val}->[0] ne ${$reference_val}->[0]) {
2217             $bad_slice_report_cref->(
2218               "Inconsistent literal/bind SQL (expecting \\['${$reference_val}->[0]', ... ])",
2219               $row_idx,
2220               $col_idx,
2221             );
2222           }
2223           # need to check the bind attrs - a bind will happen only once for
2224           # the entire dataset, so any changes further down will be ignored.
2225           elsif (
2226             $serialized_bind_type_by_col_idx->{$col_idx}
2227               ne
2228             serialize [
2229               map
2230               { $_->[0] }
2231               @{$self->_resolve_bindattrs(
2232                 $source, [ @{$$val}[1 .. $#$$val] ], $colinfos,
2233               )}
2234             ]
2235           ) {
2236             $bad_slice_report_cref->(
2237               'Differing bind attributes on literal/bind values not supported',
2238               $row_idx,
2239               $col_idx,
2240             );
2241           }
2242         }
2243       }
2244     }
2245   }
2246
2247   # neither _dbh_execute_for_fetch, nor _dbh_execute_inserts_with_no_binds
2248   # are atomic (even if execute_for_fetch is a single call). Thus a safety
2249   # scope guard
2250   my $guard = $self->txn_scope_guard;
2251
2252   $self->_query_start( $sql, @$proto_bind ? [[undef => '__BULK_INSERT__' ]] : () );
2253   my $sth = $self->_prepare_sth($self->_dbh, $sql);
2254   my $rv = do {
2255     if (@$proto_bind) {
2256       # proto bind contains the information on which pieces of $data to pull
2257       # $cols is passed in only for prettier error-reporting
2258       $self->_dbh_execute_for_fetch( $source, $sth, $proto_bind, $cols, $data );
2259     }
2260     else {
2261       # bind_param_array doesn't work if there are no binds
2262       $self->_dbh_execute_inserts_with_no_binds( $sth, scalar @$data );
2263     }
2264   };
2265
2266   $self->_query_end( $sql, @$proto_bind ? [[ undef => '__BULK_INSERT__' ]] : () );
2267
2268   $guard->commit;
2269
2270   return wantarray ? ($rv, $sth, @$proto_bind) : $rv;
2271 }
2272
2273 # execute_for_fetch is capable of returning data just fine (it means it
2274 # can be used for INSERT...RETURNING and UPDATE...RETURNING. Since this
2275 # is the void-populate fast-path we will just ignore this altogether
2276 # for the time being.
2277 sub _dbh_execute_for_fetch {
2278   my ($self, $source, $sth, $proto_bind, $cols, $data) = @_;
2279
2280   # If we have any bind attributes to take care of, we will bind the
2281   # proto-bind data (which will never be used by execute_for_fetch)
2282   # However since column bindtypes are "sticky", this is sufficient
2283   # to get the DBD to apply the bindtype to all values later on
2284   my $bind_attrs = $self->_dbi_attrs_for_bind($source, $proto_bind);
2285
2286   for my $i (0 .. $#$proto_bind) {
2287     $sth->bind_param (
2288       $i+1, # DBI bind indexes are 1-based
2289       $proto_bind->[$i][1],
2290       $bind_attrs->[$i],
2291     ) if defined $bind_attrs->[$i];
2292   }
2293
2294   # At this point $data slots named in the _bind_data_slice_idx of
2295   # each piece of $proto_bind are either \[]s or plain values to be
2296   # passed in. Construct the dispensing coderef. *NOTE* the order
2297   # of $data will differ from this of the ?s in the SQL (due to
2298   # alphabetical ordering by colname). We actually do want to
2299   # preserve this behavior so that prepare_cached has a better
2300   # chance of matching on unrelated calls
2301
2302   my $fetch_row_idx = -1; # saner loop this way
2303   my $fetch_tuple = sub {
2304     return undef if ++$fetch_row_idx > $#$data;
2305
2306     return [ map {
2307       my $v = ! defined $_->{_literal_bind_subindex}
2308
2309         ? $data->[ $fetch_row_idx ]->[ $_->{_bind_data_slice_idx} ]
2310
2311         # There are no attributes to resolve here - we already did everything
2312         # when we constructed proto_bind. However we still want to sanity-check
2313         # what the user supplied, so pass stuff through to the resolver *anyway*
2314         : $self->_resolve_bindattrs (
2315             undef,  # a fake rsrc
2316             [ ${ $data->[ $fetch_row_idx ]->[ $_->{_bind_data_slice_idx} ]}->[ $_->{_literal_bind_subindex} ] ],
2317             {},     # a fake column_info bag
2318           )->[0][1]
2319       ;
2320
2321       # FIXME SUBOPTIMAL - DBI needs fixing to always stringify regardless of DBD
2322       # For the time being forcibly stringify whatever is stringifiable
2323       (length ref $v and is_plain_value $v)
2324         ? "$v"
2325         : $v
2326       ;
2327     } map { $_->[0] } @$proto_bind ];
2328   };
2329
2330   my $tuple_status = [];
2331   my ($rv, $err);
2332   try {
2333     $rv = $sth->execute_for_fetch(
2334       $fetch_tuple,
2335       $tuple_status,
2336     );
2337   }
2338   catch {
2339     $err = shift;
2340   };
2341
2342   # Not all DBDs are create equal. Some throw on error, some return
2343   # an undef $rv, and some set $sth->err - try whatever we can
2344   $err = ($sth->errstr || 'UNKNOWN ERROR ($sth->errstr is unset)') if (
2345     ! defined $err
2346       and
2347     ( !defined $rv or $sth->err )
2348   );
2349
2350   # Statement must finish even if there was an exception.
2351   try {
2352     $sth->finish
2353   }
2354   catch {
2355     $err = shift unless defined $err
2356   };
2357
2358   if (defined $err) {
2359     my $i = 0;
2360     ++$i while $i <= $#$tuple_status && !ref $tuple_status->[$i];
2361
2362     $self->throw_exception("Unexpected populate error: $err")
2363       if ($i > $#$tuple_status);
2364
2365     require Data::Dumper::Concise;
2366     $self->throw_exception(sprintf "execute_for_fetch() aborted with '%s' at populate slice:\n%s",
2367       ($tuple_status->[$i][1] || $err),
2368       Data::Dumper::Concise::Dumper( { map { $cols->[$_] => $data->[$i][$_] } (0 .. $#$cols) } ),
2369     );
2370   }
2371
2372   return $rv;
2373 }
2374
2375 sub _dbh_execute_inserts_with_no_binds {
2376   my ($self, $sth, $count) = @_;
2377
2378   my $err;
2379   try {
2380     my $dbh = $self->_get_dbh;
2381     local $dbh->{RaiseError} = 1;
2382     local $dbh->{PrintError} = 0;
2383
2384     $sth->execute foreach 1..$count;
2385   }
2386   catch {
2387     $err = shift;
2388   };
2389
2390   # Make sure statement is finished even if there was an exception.
2391   try {
2392     $sth->finish
2393   }
2394   catch {
2395     $err = shift unless defined $err;
2396   };
2397
2398   $self->throw_exception($err) if defined $err;
2399
2400   return $count;
2401 }
2402
2403 sub update {
2404   #my ($self, $source, @args) = @_;
2405   shift->_execute('update', @_);
2406 }
2407
2408
2409 sub delete {
2410   #my ($self, $source, @args) = @_;
2411   shift->_execute('delete', @_);
2412 }
2413
2414 sub _select {
2415   my $self = shift;
2416   $self->_execute($self->_select_args(@_));
2417 }
2418
2419 sub _select_args_to_query {
2420   my $self = shift;
2421
2422   $self->throw_exception(
2423     "Unable to generate limited query representation with 'software_limit' enabled"
2424   ) if ($_[3]->{software_limit} and ($_[3]->{offset} or $_[3]->{rows}) );
2425
2426   # my ($op, $ident, $select, $cond, $rs_attrs, $rows, $offset)
2427   #  = $self->_select_args($ident, $select, $cond, $attrs);
2428   my ($op, $ident, @args) =
2429     $self->_select_args(@_);
2430
2431   # my ($sql, $prepared_bind) = $self->_gen_sql_bind($op, $ident, [ $select, $cond, $rs_attrs, $rows, $offset ]);
2432   my ($sql, $bind) = $self->_gen_sql_bind($op, $ident, \@args);
2433
2434   # reuse the bind arrayref
2435   unshift @{$bind}, "($sql)";
2436   \$bind;
2437 }
2438
2439 sub _select_args {
2440   my ($self, $ident, $select, $where, $orig_attrs) = @_;
2441
2442   # FIXME - that kind of caching would be nice to have
2443   # however currently we *may* pass the same $orig_attrs
2444   # with different ident/select/where
2445   # the whole interface needs to be rethought, since it
2446   # was centered around the flawed SQLA API. We can do
2447   # soooooo much better now. But that is also another
2448   # battle...
2449   #return (
2450   #  'select', $orig_attrs->{!args_as_stored_at_the_end_of_this_method!}
2451   #) if $orig_attrs->{!args_as_stored_at_the_end_of_this_method!};
2452
2453   my $sql_maker = $self->sql_maker;
2454
2455   my $attrs = {
2456     %$orig_attrs,
2457     select => $select,
2458     from => $ident,
2459     where => $where,
2460   };
2461
2462   # Sanity check the attributes (SQLMaker does it too, but
2463   # in case of a software_limit we'll never reach there)
2464   if (defined $attrs->{offset}) {
2465     $self->throw_exception('A supplied offset attribute must be a non-negative integer')
2466       if ( $attrs->{offset} =~ /\D/ or $attrs->{offset} < 0 );
2467   }
2468
2469   if (defined $attrs->{rows}) {
2470     $self->throw_exception("The rows attribute must be a positive integer if present")
2471       if ( $attrs->{rows} =~ /\D/ or $attrs->{rows} <= 0 );
2472   }
2473   elsif ($attrs->{offset}) {
2474     # MySQL actually recommends this approach.  I cringe.
2475     $attrs->{rows} = $sql_maker->__max_int;
2476   }
2477
2478   # see if we will need to tear the prefetch apart to satisfy group_by == select
2479   # this is *extremely tricky* to get right, I am still not sure I did
2480   #
2481   my ($prefetch_needs_subquery, @limit_args);
2482
2483   if ( $attrs->{_grouped_by_distinct} and $attrs->{collapse} ) {
2484     # we already know there is a valid group_by (we made it) and we know it is
2485     # intended to be based *only* on non-multi stuff
2486     # short circuit the group_by parsing below
2487     $prefetch_needs_subquery = 1;
2488   }
2489   elsif (
2490     # The rationale is that even if we do *not* have collapse, we still
2491     # need to wrap the core grouped select/group_by in a subquery
2492     # so that databases that care about group_by/select equivalence
2493     # are happy (this includes MySQL in strict_mode)
2494     # If any of the other joined tables are referenced in the group_by
2495     # however - the user is on their own
2496     ( $prefetch_needs_subquery or ! $attrs->{_simple_passthrough_construction} )
2497       and
2498     $attrs->{group_by}
2499       and
2500     @{$attrs->{group_by}}
2501       and
2502     my $grp_aliases = try { # try{} because $attrs->{from} may be unreadable
2503       $self->_resolve_aliastypes_from_select_args({ from => $attrs->{from}, group_by => $attrs->{group_by} })
2504     }
2505   ) {
2506     # no aliases other than our own in group_by
2507     # if there are - do not allow subquery even if limit is present
2508     $prefetch_needs_subquery = ! scalar grep { $_ ne $attrs->{alias} } keys %{ $grp_aliases->{grouping} || {} };
2509   }
2510   elsif ( $attrs->{rows} && $attrs->{collapse} ) {
2511     # active collapse with a limit - that one is a no-brainer unless
2512     # overruled by a group_by above
2513     $prefetch_needs_subquery = 1;
2514   }
2515
2516   if ($prefetch_needs_subquery) {
2517     $attrs = $self->_adjust_select_args_for_complex_prefetch ($attrs);
2518   }
2519   elsif (! $attrs->{software_limit} ) {
2520     push @limit_args, (
2521       $attrs->{rows} || (),
2522       $attrs->{offset} || (),
2523     );
2524   }
2525
2526   # try to simplify the joinmap further (prune unreferenced type-single joins)
2527   if (
2528     ! $prefetch_needs_subquery  # already pruned
2529       and
2530     ref $attrs->{from}
2531       and
2532     reftype $attrs->{from} eq 'ARRAY'
2533       and
2534     @{$attrs->{from}} != 1
2535   ) {
2536     ($attrs->{from}, $attrs->{_aliastypes}) = $self->_prune_unused_joins ($attrs);
2537   }
2538
2539   # FIXME this is a gross, inefficient, largely incorrect and fragile hack
2540   # during the result inflation stage we *need* to know what was the aliastype
2541   # map as sqla saw it when the final pieces of SQL were being assembled
2542   # Originally we simply carried around the entirety of $attrs, but this
2543   # resulted in resultsets that are being reused growing continuously, as
2544   # the hash in question grew deeper and deeper.
2545   # Instead hand-pick what to take with us here (we actually don't need much
2546   # at this point just the map itself)
2547   $orig_attrs->{_last_sqlmaker_alias_map} = $attrs->{_aliastypes};
2548
2549 ###
2550   #   my $alias2source = $self->_resolve_ident_sources ($ident);
2551   #
2552   # This would be the point to deflate anything found in $attrs->{where}
2553   # (and leave $attrs->{bind} intact). Problem is - inflators historically
2554   # expect a result object. And all we have is a resultsource (it is trivial
2555   # to extract deflator coderefs via $alias2source above).
2556   #
2557   # I don't see a way forward other than changing the way deflators are
2558   # invoked, and that's just bad...
2559 ###
2560
2561   return ( 'select', @{$attrs}{qw(from select where)}, $attrs, @limit_args );
2562 }
2563
2564 # Returns a counting SELECT for a simple count
2565 # query. Abstracted so that a storage could override
2566 # this to { count => 'firstcol' } or whatever makes
2567 # sense as a performance optimization
2568 sub _count_select {
2569   #my ($self, $source, $rs_attrs) = @_;
2570   return { count => '*' };
2571 }
2572
2573 =head2 select
2574
2575 =over 4
2576
2577 =item Arguments: $ident, $select, $condition, $attrs
2578
2579 =back
2580
2581 Handle a SQL select statement.
2582
2583 =cut
2584
2585 sub select {
2586   my $self = shift;
2587   my ($ident, $select, $condition, $attrs) = @_;
2588   return $self->cursor_class->new($self, \@_, $attrs);
2589 }
2590
2591 sub select_single {
2592   my $self = shift;
2593   my ($rv, $sth, @bind) = $self->_select(@_);
2594   my @row = $sth->fetchrow_array;
2595   my @nextrow = $sth->fetchrow_array if @row;
2596   if(@row && @nextrow) {
2597     carp "Query returned more than one row.  SQL that returns multiple rows is DEPRECATED for ->find and ->single";
2598   }
2599   # Need to call finish() to work round broken DBDs
2600   $sth->finish();
2601   return @row;
2602 }
2603
2604 =head2 sql_limit_dialect
2605
2606 This is an accessor for the default SQL limit dialect used by a particular
2607 storage driver. Can be overridden by supplying an explicit L</limit_dialect>
2608 to L<DBIx::Class::Schema/connect>. For a list of available limit dialects
2609 see L<DBIx::Class::SQLMaker::LimitDialects>.
2610
2611 =cut
2612
2613 sub _dbh_columns_info_for {
2614   my ($self, $dbh, $table) = @_;
2615
2616   if ($dbh->can('column_info')) {
2617     my %result;
2618     my $caught;
2619     try {
2620       my ($schema,$tab) = $table =~ /^(.+?)\.(.+)$/ ? ($1,$2) : (undef,$table);
2621       my $sth = $dbh->column_info( undef,$schema, $tab, '%' );
2622       $sth->execute();
2623       while ( my $info = $sth->fetchrow_hashref() ){
2624         my %column_info;
2625         $column_info{data_type}   = $info->{TYPE_NAME};
2626         $column_info{size}      = $info->{COLUMN_SIZE};
2627         $column_info{is_nullable}   = $info->{NULLABLE} ? 1 : 0;
2628         $column_info{default_value} = $info->{COLUMN_DEF};
2629         my $col_name = $info->{COLUMN_NAME};
2630         $col_name =~ s/^\"(.*)\"$/$1/;
2631
2632         $result{$col_name} = \%column_info;
2633       }
2634     } catch {
2635       $caught = 1;
2636     };
2637     return \%result if !$caught && scalar keys %result;
2638   }
2639
2640   my %result;
2641   my $sth = $dbh->prepare($self->sql_maker->select($table, undef, \'1 = 0'));
2642   $sth->execute;
2643   my @columns = @{$sth->{NAME_lc}};
2644   for my $i ( 0 .. $#columns ){
2645     my %column_info;
2646     $column_info{data_type} = $sth->{TYPE}->[$i];
2647     $column_info{size} = $sth->{PRECISION}->[$i];
2648     $column_info{is_nullable} = $sth->{NULLABLE}->[$i] ? 1 : 0;
2649
2650     if ($column_info{data_type} =~ m/^(.*?)\((.*?)\)$/) {
2651       $column_info{data_type} = $1;
2652       $column_info{size}    = $2;
2653     }
2654
2655     $result{$columns[$i]} = \%column_info;
2656   }
2657   $sth->finish;
2658
2659   foreach my $col (keys %result) {
2660     my $colinfo = $result{$col};
2661     my $type_num = $colinfo->{data_type};
2662     my $type_name;
2663     if(defined $type_num && $dbh->can('type_info')) {
2664       my $type_info = $dbh->type_info($type_num);
2665       $type_name = $type_info->{TYPE_NAME} if $type_info;
2666       $colinfo->{data_type} = $type_name if $type_name;
2667     }
2668   }
2669
2670   return \%result;
2671 }
2672
2673 sub columns_info_for {
2674   my ($self, $table) = @_;
2675   $self->_dbh_columns_info_for ($self->_get_dbh, $table);
2676 }
2677
2678 =head2 last_insert_id
2679
2680 Return the row id of the last insert.
2681
2682 =cut
2683
2684 sub _dbh_last_insert_id {
2685     my ($self, $dbh, $source, $col) = @_;
2686
2687     my $id = try { $dbh->last_insert_id (undef, undef, $source->name, $col) };
2688
2689     return $id if defined $id;
2690
2691     my $class = ref $self;
2692     $self->throw_exception ("No storage specific _dbh_last_insert_id() method implemented in $class, and the generic DBI::last_insert_id() failed");
2693 }
2694
2695 sub last_insert_id {
2696   my $self = shift;
2697   $self->_dbh_last_insert_id ($self->_dbh, @_);
2698 }
2699
2700 =head2 _native_data_type
2701
2702 =over 4
2703
2704 =item Arguments: $type_name
2705
2706 =back
2707
2708 This API is B<EXPERIMENTAL>, will almost definitely change in the future, and
2709 currently only used by L<::AutoCast|DBIx::Class::Storage::DBI::AutoCast> and
2710 L<::Sybase::ASE|DBIx::Class::Storage::DBI::Sybase::ASE>.
2711
2712 The default implementation returns C<undef>, implement in your Storage driver if
2713 you need this functionality.
2714
2715 Should map types from other databases to the native RDBMS type, for example
2716 C<VARCHAR2> to C<VARCHAR>.
2717
2718 Types with modifiers should map to the underlying data type. For example,
2719 C<INTEGER AUTO_INCREMENT> should become C<INTEGER>.
2720
2721 Composite types should map to the container type, for example
2722 C<ENUM(foo,bar,baz)> becomes C<ENUM>.
2723
2724 =cut
2725
2726 sub _native_data_type {
2727   #my ($self, $data_type) = @_;
2728   return undef
2729 }
2730
2731 # Check if placeholders are supported at all
2732 sub _determine_supports_placeholders {
2733   my $self = shift;
2734   my $dbh  = $self->_get_dbh;
2735
2736   # some drivers provide a $dbh attribute (e.g. Sybase and $dbh->{syb_dynamic_supported})
2737   # but it is inaccurate more often than not
2738   return try {
2739     local $dbh->{PrintError} = 0;
2740     local $dbh->{RaiseError} = 1;
2741     $dbh->do('select ?', {}, 1);
2742     1;
2743   }
2744   catch {
2745     0;
2746   };
2747 }
2748
2749 # Check if placeholders bound to non-string types throw exceptions
2750 #
2751 sub _determine_supports_typeless_placeholders {
2752   my $self = shift;
2753   my $dbh  = $self->_get_dbh;
2754
2755   return try {
2756     local $dbh->{PrintError} = 0;
2757     local $dbh->{RaiseError} = 1;
2758     # this specifically tests a bind that is NOT a string
2759     $dbh->do('select 1 where 1 = ?', {}, 1);
2760     1;
2761   }
2762   catch {
2763     0;
2764   };
2765 }
2766
2767 =head2 sqlt_type
2768
2769 Returns the database driver name.
2770
2771 =cut
2772
2773 sub sqlt_type {
2774   shift->_get_dbh->{Driver}->{Name};
2775 }
2776
2777 =head2 bind_attribute_by_data_type
2778
2779 Given a datatype from column info, returns a database specific bind
2780 attribute for C<< $dbh->bind_param($val,$attribute) >> or nothing if we will
2781 let the database planner just handle it.
2782
2783 This method is always called after the driver has been determined and a DBI
2784 connection has been established. Therefore you can refer to C<DBI::$constant>
2785 and/or C<DBD::$driver::$constant> directly, without worrying about loading
2786 the correct modules.
2787
2788 =cut
2789
2790 sub bind_attribute_by_data_type {
2791     return;
2792 }
2793
2794 =head2 is_datatype_numeric
2795
2796 Given a datatype from column_info, returns a boolean value indicating if
2797 the current RDBMS considers it a numeric value. This controls how
2798 L<DBIx::Class::Row/set_column> decides whether to mark the column as
2799 dirty - when the datatype is deemed numeric a C<< != >> comparison will
2800 be performed instead of the usual C<eq>.
2801
2802 =cut
2803
2804 sub is_datatype_numeric {
2805   #my ($self, $dt) = @_;
2806
2807   return 0 unless $_[1];
2808
2809   $_[1] =~ /^ (?:
2810     numeric | int(?:eger)? | (?:tiny|small|medium|big)int | dec(?:imal)? | real | float | double (?: \s+ precision)? | (?:big)?serial
2811   ) $/ix;
2812 }
2813
2814
2815 =head2 create_ddl_dir
2816
2817 =over 4
2818
2819 =item Arguments: $schema, \@databases, $version, $directory, $preversion, \%sqlt_args
2820
2821 =back
2822
2823 Creates a SQL file based on the Schema, for each of the specified
2824 database engines in C<\@databases> in the given directory.
2825 (note: specify L<SQL::Translator> names, not L<DBI> driver names).
2826
2827 Given a previous version number, this will also create a file containing
2828 the ALTER TABLE statements to transform the previous schema into the
2829 current one. Note that these statements may contain C<DROP TABLE> or
2830 C<DROP COLUMN> statements that can potentially destroy data.
2831
2832 The file names are created using the C<ddl_filename> method below, please
2833 override this method in your schema if you would like a different file
2834 name format. For the ALTER file, the same format is used, replacing
2835 $version in the name with "$preversion-$version".
2836
2837 See L<SQL::Translator/METHODS> for a list of values for C<\%sqlt_args>.
2838 The most common value for this would be C<< { add_drop_table => 1 } >>
2839 to have the SQL produced include a C<DROP TABLE> statement for each table
2840 created. For quoting purposes supply C<quote_identifiers>.
2841
2842 If no arguments are passed, then the following default values are assumed:
2843
2844 =over 4
2845
2846 =item databases  - ['MySQL', 'SQLite', 'PostgreSQL']
2847
2848 =item version    - $schema->schema_version
2849
2850 =item directory  - './'
2851
2852 =item preversion - <none>
2853
2854 =back
2855
2856 By default, C<\%sqlt_args> will have
2857
2858  { add_drop_table => 1, ignore_constraint_names => 1, ignore_index_names => 1 }
2859
2860 merged with the hash passed in. To disable any of those features, pass in a
2861 hashref like the following
2862
2863  { ignore_constraint_names => 0, # ... other options }
2864
2865
2866 WARNING: You are strongly advised to check all SQL files created, before applying
2867 them.
2868
2869 =cut
2870
2871 sub create_ddl_dir {
2872   my ($self, $schema, $databases, $version, $dir, $preversion, $sqltargs) = @_;
2873
2874   unless ($dir) {
2875     carp "No directory given, using ./\n";
2876     $dir = './';
2877   } else {
2878       -d $dir
2879         or
2880       (require File::Path and File::Path::mkpath (["$dir"]))  # mkpath does not like objects (i.e. Path::Class::Dir)
2881         or
2882       $self->throw_exception(
2883         "Failed to create '$dir': " . ($! || $@ || 'error unknown')
2884       );
2885   }
2886
2887   $self->throw_exception ("Directory '$dir' does not exist\n") unless(-d $dir);
2888
2889   $databases ||= ['MySQL', 'SQLite', 'PostgreSQL'];
2890   $databases = [ $databases ] if(ref($databases) ne 'ARRAY');
2891
2892   my $schema_version = $schema->schema_version || '1.x';
2893   $version ||= $schema_version;
2894
2895   $sqltargs = {
2896     add_drop_table => 1,
2897     ignore_constraint_names => 1,
2898     ignore_index_names => 1,
2899     quote_identifiers => $self->sql_maker->_quoting_enabled,
2900     %{$sqltargs || {}}
2901   };
2902
2903   unless (DBIx::Class::Optional::Dependencies->req_ok_for ('deploy')) {
2904     $self->throw_exception("Can't create a ddl file without " . DBIx::Class::Optional::Dependencies->req_missing_for ('deploy') );
2905   }
2906
2907   my $sqlt = SQL::Translator->new( $sqltargs );
2908
2909   $sqlt->parser('SQL::Translator::Parser::DBIx::Class');
2910   my $sqlt_schema = $sqlt->translate({ data => $schema })
2911     or $self->throw_exception ($sqlt->error);
2912
2913   foreach my $db (@$databases) {
2914     $sqlt->reset();
2915     $sqlt->{schema} = $sqlt_schema;
2916     $sqlt->producer($db);
2917
2918     my $file;
2919     my $filename = $schema->ddl_filename($db, $version, $dir);
2920     if (-e $filename && ($version eq $schema_version )) {
2921       # if we are dumping the current version, overwrite the DDL
2922       carp "Overwriting existing DDL file - $filename";
2923       unlink($filename);
2924     }
2925
2926     my $output = $sqlt->translate;
2927     if(!$output) {
2928       carp("Failed to translate to $db, skipping. (" . $sqlt->error . ")");
2929       next;
2930     }
2931     if(!open($file, ">$filename")) {
2932       $self->throw_exception("Can't open $filename for writing ($!)");
2933       next;
2934     }
2935     print $file $output;
2936     close($file);
2937
2938     next unless ($preversion);
2939
2940     require SQL::Translator::Diff;
2941
2942     my $prefilename = $schema->ddl_filename($db, $preversion, $dir);
2943     if(!-e $prefilename) {
2944       carp("No previous schema file found ($prefilename)");
2945       next;
2946     }
2947
2948     my $difffile = $schema->ddl_filename($db, $version, $dir, $preversion);
2949     if(-e $difffile) {
2950       carp("Overwriting existing diff file - $difffile");
2951       unlink($difffile);
2952     }
2953
2954     my $source_schema;
2955     {
2956       my $t = SQL::Translator->new($sqltargs);
2957       $t->debug( 0 );
2958       $t->trace( 0 );
2959
2960       $t->parser( $db )
2961         or $self->throw_exception ($t->error);
2962
2963       my $out = $t->translate( $prefilename )
2964         or $self->throw_exception ($t->error);
2965
2966       $source_schema = $t->schema;
2967
2968       $source_schema->name( $prefilename )
2969         unless ( $source_schema->name );
2970     }
2971
2972     # The "new" style of producers have sane normalization and can support
2973     # diffing a SQL file against a DBIC->SQLT schema. Old style ones don't
2974     # And we have to diff parsed SQL against parsed SQL.
2975     my $dest_schema = $sqlt_schema;
2976
2977     unless ( "SQL::Translator::Producer::$db"->can('preprocess_schema') ) {
2978       my $t = SQL::Translator->new($sqltargs);
2979       $t->debug( 0 );
2980       $t->trace( 0 );
2981
2982       $t->parser( $db )
2983         or $self->throw_exception ($t->error);
2984
2985       my $out = $t->translate( $filename )
2986         or $self->throw_exception ($t->error);
2987
2988       $dest_schema = $t->schema;
2989
2990       $dest_schema->name( $filename )
2991         unless $dest_schema->name;
2992     }
2993
2994     my $diff = do {
2995       # FIXME - this is a terrible workaround for
2996       # https://github.com/dbsrgits/sql-translator/commit/2d23c1e
2997       # Fixing it in this sloppy manner so that we don't hve to
2998       # lockstep an SQLT release as well. Needs to be removed at
2999       # some point, and SQLT dep bumped
3000       local $SQL::Translator::Producer::SQLite::NO_QUOTES
3001         if $SQL::Translator::Producer::SQLite::NO_QUOTES;
3002
3003       SQL::Translator::Diff::schema_diff($source_schema, $db,
3004                                          $dest_schema,   $db,
3005                                          $sqltargs
3006                                        );
3007     };
3008
3009     if(!open $file, ">$difffile") {
3010       $self->throw_exception("Can't write to $difffile ($!)");
3011       next;
3012     }
3013     print $file $diff;
3014     close($file);
3015   }
3016 }
3017
3018 =head2 deployment_statements
3019
3020 =over 4
3021
3022 =item Arguments: $schema, $type, $version, $directory, $sqlt_args
3023
3024 =back
3025
3026 Returns the statements used by L<DBIx::Class::Storage/deploy>
3027 and L<DBIx::Class::Schema/deploy>.
3028
3029 The L<SQL::Translator> (not L<DBI>) database driver name can be explicitly
3030 provided in C<$type>, otherwise the result of L</sqlt_type> is used as default.
3031
3032 C<$directory> is used to return statements from files in a previously created
3033 L</create_ddl_dir> directory and is optional. The filenames are constructed
3034 from L<DBIx::Class::Schema/ddl_filename>, the schema name and the C<$version>.
3035
3036 If no C<$directory> is specified then the statements are constructed on the
3037 fly using L<SQL::Translator> and C<$version> is ignored.
3038
3039 See L<SQL::Translator/METHODS> for a list of values for C<$sqlt_args>.
3040
3041 =cut
3042
3043 sub deployment_statements {
3044   my ($self, $schema, $type, $version, $dir, $sqltargs) = @_;
3045   $type ||= $self->sqlt_type;
3046   $version ||= $schema->schema_version || '1.x';
3047   $dir ||= './';
3048   my $filename = $schema->ddl_filename($type, $version, $dir);
3049   if(-f $filename)
3050   {
3051       # FIXME replace this block when a proper sane sql parser is available
3052       my $file;
3053       open($file, "<$filename")
3054         or $self->throw_exception("Can't open $filename ($!)");
3055       my @rows = <$file>;
3056       close($file);
3057       return join('', @rows);
3058   }
3059
3060   unless (DBIx::Class::Optional::Dependencies->req_ok_for ('deploy') ) {
3061     $self->throw_exception("Can't deploy without a ddl_dir or " . DBIx::Class::Optional::Dependencies->req_missing_for ('deploy') );
3062   }
3063
3064   # sources needs to be a parser arg, but for simplicity allow at top level
3065   # coming in
3066   $sqltargs->{parser_args}{sources} = delete $sqltargs->{sources}
3067       if exists $sqltargs->{sources};
3068
3069   $sqltargs->{quote_identifiers} = $self->sql_maker->_quoting_enabled
3070     unless exists $sqltargs->{quote_identifiers};
3071
3072   my $tr = SQL::Translator->new(
3073     producer => "SQL::Translator::Producer::${type}",
3074     %$sqltargs,
3075     parser => 'SQL::Translator::Parser::DBIx::Class',
3076     data => $schema,
3077   );
3078
3079   return preserve_context {
3080     $tr->translate
3081   } after => sub {
3082     $self->throw_exception( 'Unable to produce deployment statements: ' . $tr->error)
3083       unless defined $_[0];
3084   };
3085 }
3086
3087 # FIXME deploy() currently does not accurately report sql errors
3088 # Will always return true while errors are warned
3089 sub deploy {
3090   my ($self, $schema, $type, $sqltargs, $dir) = @_;
3091   my $deploy = sub {
3092     my $line = shift;
3093     return if(!$line);
3094     return if($line =~ /^--/);
3095     # next if($line =~ /^DROP/m);
3096     return if($line =~ /^BEGIN TRANSACTION/m);
3097     return if($line =~ /^COMMIT/m);
3098     return if $line =~ /^\s+$/; # skip whitespace only
3099     $self->_query_start($line);
3100     try {
3101       # do a dbh_do cycle here, as we need some error checking in
3102       # place (even though we will ignore errors)
3103       $self->dbh_do (sub { $_[1]->do($line) });
3104     } catch {
3105       carp qq{$_ (running "${line}")};
3106     };
3107     $self->_query_end($line);
3108   };
3109   my @statements = $schema->deployment_statements($type, undef, $dir, { %{ $sqltargs || {} }, no_comments => 1 } );
3110   if (@statements > 1) {
3111     foreach my $statement (@statements) {
3112       $deploy->( $statement );
3113     }
3114   }
3115   elsif (@statements == 1) {
3116     # split on single line comments and end of statements
3117     foreach my $line ( split(/\s*--.*\n|;\n/, $statements[0])) {
3118       $deploy->( $line );
3119     }
3120   }
3121 }
3122
3123 =head2 datetime_parser
3124
3125 Returns the datetime parser class
3126
3127 =cut
3128
3129 sub datetime_parser {
3130   my $self = shift;
3131   return $self->{datetime_parser} ||= do {
3132     $self->build_datetime_parser(@_);
3133   };
3134 }
3135
3136 =head2 datetime_parser_type
3137
3138 Defines the datetime parser class - currently defaults to L<DateTime::Format::MySQL>
3139
3140 =head2 build_datetime_parser
3141
3142 See L</datetime_parser>
3143
3144 =cut
3145
3146 sub build_datetime_parser {
3147   my $self = shift;
3148   my $type = $self->datetime_parser_type(@_);
3149   return $type;
3150 }
3151
3152
3153 =head2 is_replicating
3154
3155 A boolean that reports if a particular L<DBIx::Class::Storage::DBI> is set to
3156 replicate from a master database.  Default is undef, which is the result
3157 returned by databases that don't support replication.
3158
3159 =cut
3160
3161 sub is_replicating {
3162     return;
3163
3164 }
3165
3166 =head2 lag_behind_master
3167
3168 Returns a number that represents a certain amount of lag behind a master db
3169 when a given storage is replicating.  The number is database dependent, but
3170 starts at zero and increases with the amount of lag. Default in undef
3171
3172 =cut
3173
3174 sub lag_behind_master {
3175     return;
3176 }
3177
3178 =head2 relname_to_table_alias
3179
3180 =over 4
3181
3182 =item Arguments: $relname, $join_count
3183
3184 =item Return Value: $alias
3185
3186 =back
3187
3188 L<DBIx::Class> uses L<DBIx::Class::Relationship> names as table aliases in
3189 queries.
3190
3191 This hook is to allow specific L<DBIx::Class::Storage> drivers to change the
3192 way these aliases are named.
3193
3194 The default behavior is C<< "$relname_$join_count" if $join_count > 1 >>,
3195 otherwise C<"$relname">.
3196
3197 =cut
3198
3199 sub relname_to_table_alias {
3200   my ($self, $relname, $join_count) = @_;
3201
3202   my $alias = ($join_count && $join_count > 1 ?
3203     join('_', $relname, $join_count) : $relname);
3204
3205   return $alias;
3206 }
3207
3208 # The size in bytes to use for DBI's ->bind_param_inout, this is the generic
3209 # version and it may be necessary to amend or override it for a specific storage
3210 # if such binds are necessary.
3211 sub _max_column_bytesize {
3212   my ($self, $attr) = @_;
3213
3214   my $max_size;
3215
3216   if ($attr->{sqlt_datatype}) {
3217     my $data_type = lc($attr->{sqlt_datatype});
3218
3219     if ($attr->{sqlt_size}) {
3220
3221       # String/sized-binary types
3222       if ($data_type =~ /^(?:
3223           l? (?:var)? char(?:acter)? (?:\s*varying)?
3224             |
3225           (?:var)? binary (?:\s*varying)?
3226             |
3227           raw
3228         )\b/x
3229       ) {
3230         $max_size = $attr->{sqlt_size};
3231       }
3232       # Other charset/unicode types, assume scale of 4
3233       elsif ($data_type =~ /^(?:
3234           national \s* character (?:\s*varying)?
3235             |
3236           nchar
3237             |
3238           univarchar
3239             |
3240           nvarchar
3241         )\b/x
3242       ) {
3243         $max_size = $attr->{sqlt_size} * 4;
3244       }
3245     }
3246
3247     if (!$max_size and !$self->_is_lob_type($data_type)) {
3248       $max_size = 100 # for all other (numeric?) datatypes
3249     }
3250   }
3251
3252   $max_size || $self->_dbic_connect_attributes->{LongReadLen} || $self->_get_dbh->{LongReadLen} || 8000;
3253 }
3254
3255 # Determine if a data_type is some type of BLOB
3256 sub _is_lob_type {
3257   my ($self, $data_type) = @_;
3258   $data_type && ($data_type =~ /lob|bfile|text|image|bytea|memo/i
3259     || $data_type =~ /^long(?:\s+(?:raw|bit\s*varying|varbit|binary
3260                                   |varchar|character\s*varying|nvarchar
3261                                   |national\s*character\s*varying))?\z/xi);
3262 }
3263
3264 sub _is_binary_lob_type {
3265   my ($self, $data_type) = @_;
3266   $data_type && ($data_type =~ /blob|bfile|image|bytea/i
3267     || $data_type =~ /^long(?:\s+(?:raw|bit\s*varying|varbit|binary))?\z/xi);
3268 }
3269
3270 sub _is_text_lob_type {
3271   my ($self, $data_type) = @_;
3272   $data_type && ($data_type =~ /^(?:clob|memo)\z/i
3273     || $data_type =~ /^long(?:\s+(?:varchar|character\s*varying|nvarchar
3274                         |national\s*character\s*varying))\z/xi);
3275 }
3276
3277 # Determine if a data_type is some type of a binary type
3278 sub _is_binary_type {
3279   my ($self, $data_type) = @_;
3280   $data_type && ($self->_is_binary_lob_type($data_type)
3281     || $data_type =~ /(?:var)?(?:binary|bit|graphic)(?:\s*varying)?/i);
3282 }
3283
3284 1;
3285
3286 =head1 USAGE NOTES
3287
3288 =head2 DBIx::Class and AutoCommit
3289
3290 DBIx::Class can do some wonderful magic with handling exceptions,
3291 disconnections, and transactions when you use C<< AutoCommit => 1 >>
3292 (the default) combined with L<txn_do|DBIx::Class::Storage/txn_do> for
3293 transaction support.
3294
3295 If you set C<< AutoCommit => 0 >> in your connect info, then you are always
3296 in an assumed transaction between commits, and you're telling us you'd
3297 like to manage that manually.  A lot of the magic protections offered by
3298 this module will go away.  We can't protect you from exceptions due to database
3299 disconnects because we don't know anything about how to restart your
3300 transactions.  You're on your own for handling all sorts of exceptional
3301 cases if you choose the C<< AutoCommit => 0 >> path, just as you would
3302 be with raw DBI.
3303
3304 =head1 FURTHER QUESTIONS?
3305
3306 Check the list of L<additional DBIC resources|DBIx::Class/GETTING HELP/SUPPORT>.
3307
3308 =head1 COPYRIGHT AND LICENSE
3309
3310 This module is free software L<copyright|DBIx::Class/COPYRIGHT AND LICENSE>
3311 by the L<DBIx::Class (DBIC) authors|DBIx::Class/AUTHORS>. You can
3312 redistribute it and/or modify it under the same terms as the
3313 L<DBIx::Class library|DBIx::Class/COPYRIGHT AND LICENSE>.