maint/travis-ci_scripts/30_before_script.bash

   1 #!/bin/bash
   2
   3 source maint/travis-ci_scripts/common.bash
   4 if [[ -n "$SHORT_CIRCUIT_SMOKE" ]] ; then return ; fi
   5
   6 # poison the environment - basically look through lib, find all mentioned
   7 # ENVvars and set them to true and see if anything explodes
   8 if [[ "$POISON_ENV" = "true" ]] ; then
   9   for var in $(grep -P '\$ENV\{' -r lib/ | grep -oP 'DBIC_\w+' | sort -u | grep -v DBIC_TRACE) ; do
  10     if [[ -z "${!var}" ]] ; then
  11       export $var=1
  12     fi
  13   done
  14
  15   export DBI_DSN="dbi:ODBC:server=NonexistentServerAddress"
  16   export DBI_DRIVER="ADO"
  17
  18   export DBICTEST_SQLITE_REVERSE_DEFAULT_ORDER=1
  19 fi
  20
  21 if [[ "$CLEANTEST" = "true" ]]; then
  22   # get the last inc/ off cpan - we will get rid of MI
  23   # soon enough, but till then this will do
  24   # the point is to have a *really* clean perl (the ones
  25   # we build are guaranteed to be clean, without side
  26   # effects from travis preinstalls)
  27
  28   # trick cpanm into executing true as shell - we just need the find+unpack
  29   run_or_err "Downloading DBIC inc/ from CPAN" \
  30     "SHELL=/bin/true cpanm --look DBIx::Class"
  31
  32   mv ~/.cpanm/latest-build/DBIx-Class-*/inc .
  33
  34   # The first CPAN which is somewhat sane is around 1.94_56 (perl 5.12)
  35   # The problem is that the first sane version also brings a *lot* of
  36   # deps with it, notably things like YAML and HTTP::Tiny
  37   # The goal of CLEANTEST is to have as little extra stuff installed as
  38   # possible, mainly to catch "but X is perl core" mistakes
  39   # So instead we still use our stock (possibly old) CPAN, and add some
  40   # handholding
  41
  42   # no configure_requires - we will need the usual suspects anyway
  43   # without pre-installign these in one pass things like extract_prereqs won't work
  44   CPAN_is_sane || installdeps ExtUtils::MakeMaker ExtUtils::CBuilder Module::Build
  45
  46 else
  47   # we will be running all dbic tests - preinstall lots of stuff, run basic tests
  48   # using SQLT and set up whatever databases necessary
  49   export DBICTEST_SQLT_DEPLOY=1
  50
  51   # if we run under --dev install latest github of TB1.5 first
  52   # (unreleased workaround for precedence warnings)
  53   if [[ "$DEVREL_DEPS" == "true" ]] ; then
  54     parallel_installdeps_notest git://github.com/nthykier/test-more.git@fix-return-precedence-issue
  55   fi
  56
  57   # do the preinstall in several passes to minimize amount of cross-deps installing
  58   # multiple times, and to avoid module re-architecture breaking another install
  59   # (e.g. once Carp is upgraded there's no more Carp::Heavy,
  60   # while a File::Path upgrade may cause a parallel EUMM run to fail)
  61   #
  62   parallel_installdeps_notest ExtUtils::MakeMaker
  63   parallel_installdeps_notest File::Path
  64   parallel_installdeps_notest Carp
  65   parallel_installdeps_notest Module::Build Module::Runtime
  66   parallel_installdeps_notest File::Spec Data::Dumper
  67   parallel_installdeps_notest Test::Exception Encode::Locale Test::Fatal
  68   parallel_installdeps_notest Test::Warn B::Hooks::EndOfScope Test::Differences HTTP::Status
  69   parallel_installdeps_notest Test::Pod::Coverage Test::EOL Devel::GlobalDestruction Sub::Name MRO::Compat Class::XSAccessor URI::Escape HTML::Entities
  70   parallel_installdeps_notest YAML LWP Class::Trigger JSON::XS DBI DateTime::Format::Builder Class::Accessor::Grouped Package::Variant
  71   parallel_installdeps_notest Moose Module::Install JSON SQL::Translator File::Which
  72
  73   if [[ -n "DBICTEST_FIREBIRD_DSN" ]] ; then
  74     # the official version is very much outdated and does not compile on 5.14+
  75     # use this rather updated source tree (needs to go to PAUSE):
  76     # https://github.com/pilcrow/perl-dbd-interbase
  77     run_or_err "Fetching patched DBD::InterBase" \
  78       "git clone https://github.com/dbsrgits/perl-dbd-interbase ~/dbd-interbase"
  79
  80     parallel_installdeps_notest ~/dbd-interbase/
  81   fi
  82
  83 fi
  84
  85 # generate the makefile which will have different deps depending on
  86 # the runmode and envvars set above
  87 run_or_err "Configure on current branch" "perl Makefile.PL"
  88
  89 # install (remaining) dependencies, sometimes with a gentle push
  90 if [[ "$CLEANTEST" = "true" ]]; then
  91   # we may need to prepend some stuff to that list
  92   HARD_DEPS="$(echo $(make listdeps))"
  93
  94 ##### TEMPORARY WORKAROUNDS
  95   if ! CPAN_is_sane ; then
  96     # combat dzillirium on harness-wide level, otherwise breakage happens weekly
  97     echo_err "$(tstamp) Ancient CPAN.pm: engaging TAP::Harness::IgnoreNonessentialDzilAutogeneratedTests during dep install"
  98     perl -MTAP::Harness=3.18 -e1 &>/dev/null || run_or_err "Upgrading TAP::Harness for HARNESS_SUBCLASS support" "cpan TAP::Harness"
  99     export PERL5LIB="$(pwd)/maint/travis-ci_scripts/lib:$PERL5LIB"
 100     export HARNESS_SUBCLASS="TAP::Harness::IgnoreNonessentialDzilAutogeneratedTests"
 101     # sanity check, T::H does not report sensible errors when the subclass fails to load
 102     perl -MTAP::Harness::IgnoreNonessentialDzilAutogeneratedTests -e1
 103
 104     # DBD::SQLite reasonably wants DBI at config time
 105     HARD_DEPS="DBI $HARD_DEPS"
 106
 107     # this is a fucked CPAN - won't understand configure_requires of
 108     # various pieces we may run into
 109     # FIXME - need to get these off metacpan or something instead
 110     HARD_DEPS="ExtUtils::Depends B::Hooks::OP::Check $HARD_DEPS"
 111
 112     # FIXME
 113     # parent is temporary due to Carp https://rt.cpan.org/Ticket/Display.html?id=88494
 114     HARD_DEPS="parent $HARD_DEPS"
 115
 116     if CPAN_supports_BUILDPL ; then
 117       # We will invoke a posibly MBT based BUILD-file, but we do not support
 118       # configure requires. So we not only need to install MBT but its prereqs
 119       # FIXME This is madness
 120       HARD_DEPS="$(extract_prereqs Module::Build::Tiny) Module::Build::Tiny $HARD_DEPS"
 121     else
 122       # FIXME
 123       # work around Params::Validate not having a Makefile.PL so really old
 124       # toolchains can not figure out what the prereqs are ;(
 125       # Need to do more research before filing a bug requesting Makefile inclusion
 126       HARD_DEPS="$(extract_prereqs Params::Validate) $HARD_DEPS"
 127     fi
 128   fi
 129 ##### END TEMPORARY WORKAROUNDS
 130
 131   installdeps $HARD_DEPS
 132
 133 ### FIXME in case we set it earlier in a workaround
 134   if [[ -n "$HARNESS_SUBCLASS" ]] ; then
 135
 136     INSTALLDEPS_SKIPPED_TESTLIST=$(perl -0777 -e '
 137 my $curmod_re = qr{
 138 ^
 139   (?:
 140     \QBuilding and testing\E
 141       |
 142     [\x20\t]* CPAN\.pm: [^\n]*? (?i:build)\S*
 143   )
 144
 145   [\x20\t]+ (\S+)
 146 $}mx;
 147
 148 my $curskip_re = qr{^ === \x20 \QSkipping nonessential autogenerated tests: \E([^\n]+) }mx;
 149
 150 my (undef, @chunks) = (split qr/$curmod_re/, <>);
 151 while (@chunks) {
 152   my ($mod, $log) = splice @chunks, 0, 2;
 153   print "!!! Skipped nonessential tests while installing $mod:\n\t$1\n"
 154     if $log =~ $curskip_re;
 155 }
 156 ' <<< "$LASTOUT")
 157
 158     if [[ -n "$INSTALLDEPS_SKIPPED_TESTLIST" ]] ; then
 159       POSTMORTEM="$POSTMORTEM$(
 160         echo
 161         echo "The following non-essential tests were skipped during deps installation"
 162         echo "============================================================="
 163         echo "$INSTALLDEPS_SKIPPED_TESTLIST"
 164         echo "============================================================="
 165         echo
 166       )"
 167     fi
 168
 169     unset HARNESS_SUBCLASS
 170   fi
 171
 172 else
 173
 174   # listalldeps is deliberate - will upgrade everything it can find
 175   parallel_installdeps_notest $(make listalldeps)
 176
 177 fi
 178
 179 echo_err "$(tstamp) Dependency installation finished"
 180 # this will display list of available versions
 181 perl Makefile.PL
 182
 183 # make sure we got everything we need
 184 if [[ -n "$(make listdeps)" ]] ; then
 185   echo_err "$(tstamp) Not all deps installed - something went wrong :("
 186   sleep 1 # without this the echo below confuses the console listener >.<
 187   CPAN_is_sane || echo_err -e "Outdated CPAN.pm used - full installdep log follows\n$INSTALLDEPS_OUT\n\nSearch for 'NOT OK' in the text above\n\nDeps still missing:"
 188   sleep 3 # without this the above echo confuses the console listener >.<
 189   make listdeps
 190   exit 1
 191 fi
 192
 193 # announce what are we running
 194 echo_err "
 195 ===================== DEPENDENCY CONFIGURATION COMPLETE =====================
 196 $(tstamp) Configuration phase seems to have taken $(date -ud "@$SECONDS" '+%H:%M:%S') (@$SECONDS)
 197
 198 = CPUinfo
 199 $(perl -0777 -p -e 's/.+\n\n(?!\z)//s' < /proc/cpuinfo)
 200
 201 = Meminfo
 202 $(free -m -t)
 203
 204 = Kernel info
 205 $(uname -a)
 206
 207 = Network Configuration
 208 $(ip addr)
 209
 210 = Network Sockets Status
 211 $(sudo netstat -an46p | grep -Pv '\s(CLOSING|(FIN|TIME|CLOSE)_WAIT.?|LAST_ACK)\s')
 212
 213 = Environment
 214 $(env | grep -P 'TEST|HARNESS|MAKE|TRAVIS|PERL|DBIC' | LC_ALL=C sort | cat -v)
 215
 216 = Perl in use
 217 $(perl -V)
 218 ============================================================================="