maint/travis-ci_scripts/30_before_script.bash

   1 #!/bin/bash
   2
   3 source maint/travis-ci_scripts/common.bash
   4 if [[ -n "$SHORT_CIRCUIT_SMOKE" ]] ; then return ; fi
   5
   6 # poison the environment
   7 if [[ "$POISON_ENV" = "true" ]] ; then
   8
   9   # in addition to making sure tests do not rely on implicid order of
  10   # returned results, look through lib, find all mentioned ENVvars and
  11   # set them to true and see if anything explodes
  12   for var in \
  13     DBICTEST_SQLITE_REVERSE_DEFAULT_ORDER \
  14     $(grep -P '\$ENV\{' -r lib/ --exclude-dir Optional | grep -oP '\bDBIC\w+' | sort -u | grep -v DBIC_TRACE)
  15   do
  16     if [[ -z "${!var}" ]] ; then
  17       export $var=1
  18       echo "POISON_ENV: setting $var to 1"
  19     fi
  20   done
  21
  22   # bogus nonexisting DBI_*
  23   export DBI_DSN="dbi:ODBC:server=NonexistentServerAddress"
  24   export DBI_DRIVER="ADO"
  25
  26
  27   # emulate a local::lib-like env
  28   # trick cpanm into executing true as shell - we just need the find+unpack
  29   run_or_err "Downloading latest stable DBIC from CPAN" \
  30     "SHELL=/bin/true cpanm --look DBIx::Class::Schema::Loader"
  31
  32   export PERL5LIB="$( ls -d ~/.cpanm/latest-build/DBIx-Class-Schema-Loader-*/lib | tail -n1 ):$PERL5LIB"
  33
  34   # perldoc -l <mod> searches $(pwd)/lib in addition to PERL5LIB etc, hence the cd /
  35   echo_err "Latest stable DBIC (without deps) locatable via \$PERL5LIB at $(cd / && perldoc -l DBIx::Class::Schema::Loader)"
  36
  37   # FIXME - this is a kludge in place of proper MDV testing. For the time
  38   # being simply use the minimum versions of our DBI/DBDstack, to avoid
  39   # fuckups like 0.08260 (went unnoticed for 5 months)
  40   #
  41   # use url-spec for DBI due to https://github.com/miyagawa/cpanminus/issues/328
  42   if perl -M5.013003 -e1 &>/dev/null ; then
  43     # earlier DBI will not compile without PERL_POLLUTE which was gone in 5.14
  44     parallel_installdeps_notest T/TI/TIMB/DBI-1.614.tar.gz
  45   else
  46     parallel_installdeps_notest T/TI/TIMB/DBI-1.57.tar.gz
  47   fi
  48
  49   # Test both minimum DBD::SQLite and minimum BigInt SQLite
  50   if [[ "$CLEANTEST" = "true" ]]; then
  51     parallel_installdeps_notest DBD::SQLite@1.37
  52   else
  53     parallel_installdeps_notest DBD::SQLite@1.29
  54   fi
  55
  56 fi
  57
  58 if [[ "$CLEANTEST" = "true" ]]; then
  59   # get the last inc/ off cpan - we will get rid of MI
  60   # soon enough, but till then this will do
  61   # the point is to have a *really* clean perl (the ones
  62   # we build are guaranteed to be clean, without side
  63   # effects from travis preinstalls)
  64
  65   # trick cpanm into executing true as shell - we just need the find+unpack
  66   [[ -d ~/.cpanm/latest-build/DBIx-Class-*/inc ]] || run_or_err "Downloading latest stable DBIC inc/ from CPAN" \
  67     "SHELL=/bin/true cpanm --look DBIx::Class::Schema::Loader"
  68
  69   mv ~/.cpanm/latest-build/DBIx-Class-Schema-Loader-*/inc .
  70
  71   # The first CPAN which is somewhat sane is around 1.94_56 (perl 5.12)
  72   # The problem is that the first sane version also brings a *lot* of
  73   # deps with it, notably things like YAML and HTTP::Tiny
  74   # The goal of CLEANTEST is to have as little extra stuff installed as
  75   # possible, mainly to catch "but X is perl core" mistakes
  76   # So instead we still use our stock (possibly old) CPAN, and add some
  77   # handholding
  78
  79   if [[ "$DEVREL_DEPS" == "true" ]] ; then
  80     # We are not "quite ready" for SQLA 1.99, do not consider it
  81     #
  82     installdeps 'SQL::Abstract~<1.99'
  83
  84   elif ! CPAN_is_sane ; then
  85     # no configure_requires - we will need the usual suspects anyway
  86     # without pre-installing these in one pass things like extract_prereqs won't work
  87     installdeps ExtUtils::MakeMaker ExtUtils::CBuilder Module::Build
  88
  89   fi
  90
  91 else
  92   # we will be running all dbic tests - preinstall lots of stuff, run basic tests
  93   # using SQLT and set up whatever databases necessary
  94   export DBICTEST_SQLT_DEPLOY=1
  95
  96   # Include Moose-using tests
  97   export SCHEMA_LOADER_TESTS_USE_MOOSE=1
  98
  99   # do the preinstall in several passes to minimize amount of cross-deps installing
 100   # multiple times, and to avoid module re-architecture breaking another install
 101   # (e.g. once Carp is upgraded there's no more Carp::Heavy,
 102   # while a File::Path upgrade may cause a parallel EUMM run to fail)
 103   #
 104   parallel_installdeps_notest ExtUtils::MakeMaker
 105   parallel_installdeps_notest File::Path
 106   parallel_installdeps_notest Carp
 107   parallel_installdeps_notest Module::Build
 108   parallel_installdeps_notest File::Spec Data::Dumper Module::Runtime
 109   parallel_installdeps_notest Test::Exception Encode::Locale Test::Fatal
 110   parallel_installdeps_notest Test::Warn B::Hooks::EndOfScope Test::Differences HTTP::Status
 111   parallel_installdeps_notest Test::Pod::Coverage Test::EOL Devel::GlobalDestruction Sub::Name MRO::Compat Class::XSAccessor URI::Escape HTML::Entities
 112   parallel_installdeps_notest YAML LWP Class::Trigger JSON::XS DateTime::Format::Builder Class::Accessor::Grouped Package::Variant
 113   parallel_installdeps_notest SQL::Abstract Moose Module::Install JSON SQL::Translator File::Which
 114   parallel_installdeps_notest Module::Install::ReadmeFromPod
 115   parallel_installdeps_notest DBD::ODBC DBD::Firebird DBD::Oracle Math::Base36 DBD::mysql DBD::Pg
 116   parallel_installdeps_notest MooseX::NonMoose MooseX::MarkAsMethods namespace::autoclean
 117
 118   if [[ -n "$DBICTEST_FIREBIRD_INTERBASE_DSN" ]] ; then
 119     # the official version is very much outdated and does not compile on 5.14+
 120     # use this rather updated source tree (needs to go to PAUSE):
 121     # https://github.com/pilcrow/perl-dbd-interbase
 122     parallel_installdeps_notest git://github.com/dbsrgits/perl-dbd-interbase.git
 123   fi
 124
 125 fi
 126
 127 # generate the makefile which will have different deps depending on
 128 # the runmode and envvars set above
 129 run_or_err "Configure on current branch" "perl Makefile.PL"
 130
 131 # install (remaining) dependencies, sometimes with a gentle push
 132 if [[ "$CLEANTEST" = "true" ]]; then
 133   # we may need to prepend some stuff to that list
 134   HARD_DEPS="$(echo $(make listdeps))"
 135
 136 ##### TEMPORARY WORKAROUNDS needed in case we will be using CPAN.pm
 137   if [[ "$DEVREL_DEPS" != "true" ]] && ! CPAN_is_sane ; then
 138     # combat dzillirium on harness-wide level, otherwise breakage happens weekly
 139     echo_err "$(tstamp) Ancient CPAN.pm: engaging TAP::Harness::IgnoreNonessentialDzilAutogeneratedTests during dep install"
 140     perl -MTAP::Harness\ 3.18 -e1 &>/dev/null || run_or_err "Upgrading TAP::Harness for HARNESS_SUBCLASS support" "cpan TAP::Harness"
 141     export PERL5LIB="$(pwd)/maint/travis-ci_scripts/lib:$PERL5LIB"
 142     export HARNESS_SUBCLASS="TAP::Harness::IgnoreNonessentialDzilAutogeneratedTests"
 143     # sanity check, T::H does not report sensible errors when the subclass fails to load
 144     perl -MTAP::Harness::IgnoreNonessentialDzilAutogeneratedTests -e1
 145
 146     # DBD::SQLite reasonably wants DBI at config time
 147     perl -MDBI -e1 &>/dev/null || HARD_DEPS="DBI $HARD_DEPS"
 148
 149     # this is a fucked CPAN - won't understand configure_requires of
 150     # various pieces we may run into
 151     # FIXME - need to get these off metacpan or something instead
 152     HARD_DEPS="ExtUtils::Depends B::Hooks::OP::Check $HARD_DEPS"
 153
 154     # FIXME
 155     # parent is temporary due to Carp https://rt.cpan.org/Ticket/Display.html?id=88494
 156     HARD_DEPS="parent $HARD_DEPS"
 157
 158     if CPAN_supports_BUILDPL ; then
 159       # We will invoke a posibly MBT based BUILD-file, but we do not support
 160       # configure requires. So we not only need to install MBT but its prereqs
 161       # FIXME This is madness
 162       HARD_DEPS="$(extract_prereqs Module::Build::Tiny) Module::Build::Tiny $HARD_DEPS"
 163     else
 164       # FIXME
 165       # work around Params::Validate not having a Makefile.PL so really old
 166       # toolchains can not figure out what the prereqs are ;(
 167       # Need to do more research before filing a bug requesting Makefile inclusion
 168       HARD_DEPS="$(extract_prereqs Params::Validate) $HARD_DEPS"
 169     fi
 170   fi
 171 ##### END TEMPORARY WORKAROUNDS
 172
 173   installdeps $HARD_DEPS
 174
 175 ### FIXME in case we set it earlier in a workaround
 176   if [[ -n "$HARNESS_SUBCLASS" ]] ; then
 177
 178     INSTALLDEPS_SKIPPED_TESTLIST=$(perl -0777 -e '
 179 my $curmod_re = qr{
 180 ^
 181   (?:
 182     \QBuilding and testing\E
 183       |
 184     [\x20\t]* CPAN\.pm: [^\n]*? (?i:build)\S*
 185   )
 186
 187   [\x20\t]+ (\S+)
 188 $}mx;
 189
 190 my $curskip_re = qr{^ === \x20 \QSkipping nonessential autogenerated tests: \E([^\n]+) }mx;
 191
 192 my (undef, @chunks) = (split qr/$curmod_re/, <>);
 193 while (@chunks) {
 194   my ($mod, $log) = splice @chunks, 0, 2;
 195   print "!!! Skipped nonessential tests while installing $mod:\n\t$1\n"
 196     if $log =~ $curskip_re;
 197 }
 198 ' <<< "$LASTOUT")
 199
 200     if [[ -n "$INSTALLDEPS_SKIPPED_TESTLIST" ]] ; then
 201       POSTMORTEM="$POSTMORTEM$(
 202         echo
 203         echo "The following non-essential tests were skipped during deps installation"
 204         echo "============================================================="
 205         echo "$INSTALLDEPS_SKIPPED_TESTLIST"
 206         echo "============================================================="
 207         echo
 208       )"
 209     fi
 210
 211     unset HARNESS_SUBCLASS
 212   fi
 213
 214 else
 215
 216   # listalldeps is deliberate - will upgrade everything it can find
 217   # we exclude SQLA specifically, since we do not want to pull
 218   # in 1.99_xx on bleadcpan runs
 219   deplist="$(make listalldeps | grep -vP '^(SQL::Abstract)$')"
 220
 221   # assume MDV on POISON_ENV, do not touch DBI/SQLite
 222   if [[ "$POISON_ENV" = "true" ]] ; then
 223     deplist="$(grep -vP '^(DBI|DBD::SQLite)$' <<< "$deplist")"
 224   fi
 225
 226   parallel_installdeps_notest "$deplist"
 227 fi
 228
 229 echo_err "$(tstamp) Dependency installation finished"
 230 # this will display list of available versions
 231 perl Makefile.PL
 232
 233 # make sure we got everything we need
 234 if [[ -n "$(make listdeps)" ]] ; then
 235   echo_err "$(tstamp) Not all deps installed - something went wrong :("
 236   sleep 1 # without this the echo below confuses the console listener >.<
 237   CPAN_is_sane || echo_err -e "Outdated CPAN.pm used - full installdep log follows\n$INSTALLDEPS_OUT\n\nSearch for 'NOT OK' in the text above\n\nDeps still missing:"
 238   sleep 3 # without this the above echo confuses the console listener >.<
 239   make listdeps
 240   exit 1
 241 fi
 242
 243 # check that our MDV somewhat works
 244 if [[ "$POISON_ENV" = "true" ]] && ( perl -MDBD::SQLite\ 1.38 -e1 || perl -MDBI\ 1.615 -e1 ) &>/dev/null ; then
 245   echo_err "Something went wrong - higher versions of DBI and/or DBD::SQLite than we expected"
 246   exit 1
 247 fi
 248
 249
 250 # announce what are we running
 251 echo_err "
 252 ===================== DEPENDENCY CONFIGURATION COMPLETE =====================
 253 $(tstamp) Configuration phase seems to have taken $(date -ud "@$SECONDS" '+%H:%M:%S') (@$SECONDS)
 254
 255 = CPUinfo
 256 $(perl -0777 -p -e 's/.+\n\n(?!\z)//s' < /proc/cpuinfo)
 257
 258 = Meminfo
 259 $(free -m -t)
 260
 261 = Kernel info
 262 $(uname -a)
 263
 264 = Network Configuration
 265 $(ip addr)
 266
 267 = Network Sockets Status
 268 $(sudo netstat -an46p | grep -Pv '\s(CLOSING|(FIN|TIME|CLOSE)_WAIT.?|LAST_ACK)\s')
 269
 270 = Environment
 271 $(env | grep -P 'TEST|HARNESS|MAKE|TRAVIS|PERL|DBIC' | LC_ALL=C sort | cat -v)
 272
 273 = Perl in use
 274 $(perl -V)
 275 ============================================================================="