maint/travis-ci_scripts/30_before_script.bash

   1 #!/bin/bash
   2
   3 source maint/travis-ci_scripts/common.bash
   4 if [[ -n "$SHORT_CIRCUIT_SMOKE" ]] ; then return ; fi
   5
   6 # poison the environment
   7 if [[ "$POISON_ENV" = "true" ]] ; then
   8
   9   # look through lib, find all mentioned ENVvars and set them
  10   # to true and see if anything explodes
  11   for var in $(grep -P '\$ENV\{' -r lib/ | grep -oP 'DBIC_\w+' | sort -u | grep -v DBIC_TRACE) ; do
  12     if [[ -z "${!var}" ]] ; then
  13       export $var=1
  14     fi
  15   done
  16
  17   # bogus nonexisting DBI_*
  18   export DBI_DSN="dbi:ODBC:server=NonexistentServerAddress"
  19   export DBI_DRIVER="ADO"
  20
  21   # make sure tests do not rely on implicid order of returned results
  22   export DBICTEST_SQLITE_REVERSE_DEFAULT_ORDER=1
  23
  24   # emulate a local::lib-like env
  25   # trick cpanm into executing true as shell - we just need the find+unpack
  26   run_or_err "Downloading latest stable DBIC from CPAN" \
  27     "SHELL=/bin/true cpanm --look DBIx::Class"
  28
  29   export PERL5LIB="$( ls -d ~/.cpanm/latest-build/DBIx-Class-*/lib | tail -n1 ):$PERL5LIB"
  30
  31   # perldoc -l <mod> searches $(pwd)/lib in addition to PERL5LIB etc, hence the cd /
  32   echo_err "Latest stable DBIC (without deps) locatable via \$PERL5LIB at $(cd / && perldoc -l DBIx::Class)"
  33 fi
  34
  35 if [[ "$CLEANTEST" = "true" ]]; then
  36   # get the last inc/ off cpan - we will get rid of MI
  37   # soon enough, but till then this will do
  38   # the point is to have a *really* clean perl (the ones
  39   # we build are guaranteed to be clean, without side
  40   # effects from travis preinstalls)
  41
  42   # trick cpanm into executing true as shell - we just need the find+unpack
  43   [[ -d ~/.cpanm/latest-build/DBIx-Class-*/inc ]] || run_or_err "Downloading latest stable DBIC inc/ from CPAN" \
  44     "SHELL=/bin/true cpanm --look DBIx::Class"
  45
  46   mv ~/.cpanm/latest-build/DBIx-Class-*/inc .
  47
  48   # The first CPAN which is somewhat sane is around 1.94_56 (perl 5.12)
  49   # The problem is that the first sane version also brings a *lot* of
  50   # deps with it, notably things like YAML and HTTP::Tiny
  51   # The goal of CLEANTEST is to have as little extra stuff installed as
  52   # possible, mainly to catch "but X is perl core" mistakes
  53   # So instead we still use our stock (possibly old) CPAN, and add some
  54   # handholding
  55
  56   if [[ "$DEVREL_DEPS" == "true" ]] ; then
  57     # Many dists still do not pass tests under tb1.5 properly (and it itself
  58     # does not even install on things like 5.10). Install the *stable-dev*
  59     # latest T::B here, so that it will not show up as a dependency, and
  60     # hence it will not get installed a second time as an unsatisfied dep
  61     # under cpanm --dev
  62     #
  63     # We are also not "quite ready" for SQLA 1.99, do not consider it
  64     #
  65     # L::U is a workaround for RT#92226 (argh)
  66     installdeps 'Test::Builder~<1.005' 'SQL::Abstract~<1.99' 'List::Util~!=1.36'
  67
  68   elif ! CPAN_is_sane ; then
  69     # no configure_requires - we will need the usual suspects anyway
  70     # without pre-installing these in one pass things like extract_prereqs won't work
  71     installdeps ExtUtils::MakeMaker ExtUtils::CBuilder Module::Build P/PE/PEVANS/Scalar-List-Utils-1.35.tar.gz
  72
  73   fi
  74
  75 else
  76   # we will be running all dbic tests - preinstall lots of stuff, run basic tests
  77   # using SQLT and set up whatever databases necessary
  78   export DBICTEST_SQLT_DEPLOY=1
  79
  80   # FIXME - need new TB1.5 devrel
  81   # if we run under --dev install latest github of TB1.5 first
  82   # (unreleased workaround for precedence warnings)
  83   if [[ "$DEVREL_DEPS" == "true" ]] ; then
  84     parallel_installdeps_notest git://github.com/nthykier/test-more.git@fix-return-precedence-issue
  85   fi
  86
  87   # do the preinstall in several passes to minimize amount of cross-deps installing
  88   # multiple times, and to avoid module re-architecture breaking another install
  89   # (e.g. once Carp is upgraded there's no more Carp::Heavy,
  90   # while a File::Path upgrade may cause a parallel EUMM run to fail)
  91   #
  92   parallel_installdeps_notest ExtUtils::MakeMaker
  93   parallel_installdeps_notest File::Path
  94   parallel_installdeps_notest Carp
  95   parallel_installdeps_notest Module::Build
  96   parallel_installdeps_notest File::Spec Data::Dumper Module::Runtime 'List::Util~<1.36'
  97   parallel_installdeps_notest Test::Exception Encode::Locale Test::Fatal
  98   parallel_installdeps_notest Test::Warn B::Hooks::EndOfScope Test::Differences HTTP::Status
  99   parallel_installdeps_notest Test::Pod::Coverage Test::EOL Devel::GlobalDestruction Sub::Name MRO::Compat Class::XSAccessor URI::Escape HTML::Entities
 100   parallel_installdeps_notest YAML LWP Class::Trigger JSON::XS DBI DateTime::Format::Builder Class::Accessor::Grouped Package::Variant
 101   parallel_installdeps_notest 'SQL::Abstract~<1.99' Moose Module::Install JSON SQL::Translator File::Which
 102
 103   if [[ -n "DBICTEST_FIREBIRD_DSN" ]] ; then
 104     # the official version is very much outdated and does not compile on 5.14+
 105     # use this rather updated source tree (needs to go to PAUSE):
 106     # https://github.com/pilcrow/perl-dbd-interbase
 107     parallel_installdeps_notest git://github.com/dbsrgits/perl-dbd-interbase.git
 108   fi
 109
 110 fi
 111
 112 # generate the makefile which will have different deps depending on
 113 # the runmode and envvars set above
 114 run_or_err "Configure on current branch" "perl Makefile.PL"
 115
 116 # install (remaining) dependencies, sometimes with a gentle push
 117 if [[ "$CLEANTEST" = "true" ]]; then
 118   # we may need to prepend some stuff to that list
 119   HARD_DEPS="$(echo $(make listdeps))"
 120
 121 ##### TEMPORARY WORKAROUNDS needed in case we will be using CPAN.pm
 122   if [[ "$DEVREL_DEPS" != "true" ]] && ! CPAN_is_sane ; then
 123     # combat dzillirium on harness-wide level, otherwise breakage happens weekly
 124     echo_err "$(tstamp) Ancient CPAN.pm: engaging TAP::Harness::IgnoreNonessentialDzilAutogeneratedTests during dep install"
 125     perl -MTAP::Harness=3.18 -e1 &>/dev/null || run_or_err "Upgrading TAP::Harness for HARNESS_SUBCLASS support" "cpan TAP::Harness"
 126     export PERL5LIB="$(pwd)/maint/travis-ci_scripts/lib:$PERL5LIB"
 127     export HARNESS_SUBCLASS="TAP::Harness::IgnoreNonessentialDzilAutogeneratedTests"
 128     # sanity check, T::H does not report sensible errors when the subclass fails to load
 129     perl -MTAP::Harness::IgnoreNonessentialDzilAutogeneratedTests -e1
 130
 131     # DBD::SQLite reasonably wants DBI at config time
 132     HARD_DEPS="DBI $HARD_DEPS"
 133
 134     # this is a fucked CPAN - won't understand configure_requires of
 135     # various pieces we may run into
 136     # FIXME - need to get these off metacpan or something instead
 137     HARD_DEPS="ExtUtils::Depends B::Hooks::OP::Check $HARD_DEPS"
 138
 139     # FIXME
 140     # parent is temporary due to Carp https://rt.cpan.org/Ticket/Display.html?id=88494
 141     HARD_DEPS="parent $HARD_DEPS"
 142
 143     if CPAN_supports_BUILDPL ; then
 144       # We will invoke a posibly MBT based BUILD-file, but we do not support
 145       # configure requires. So we not only need to install MBT but its prereqs
 146       # FIXME This is madness
 147       HARD_DEPS="$(extract_prereqs Module::Build::Tiny) Module::Build::Tiny $HARD_DEPS"
 148     else
 149       # FIXME
 150       # work around Params::Validate not having a Makefile.PL so really old
 151       # toolchains can not figure out what the prereqs are ;(
 152       # Need to do more research before filing a bug requesting Makefile inclusion
 153       HARD_DEPS="$(extract_prereqs Params::Validate) $HARD_DEPS"
 154     fi
 155   fi
 156 ##### END TEMPORARY WORKAROUNDS
 157
 158   installdeps $HARD_DEPS
 159
 160 ### FIXME in case we set it earlier in a workaround
 161   if [[ -n "$HARNESS_SUBCLASS" ]] ; then
 162
 163     INSTALLDEPS_SKIPPED_TESTLIST=$(perl -0777 -e '
 164 my $curmod_re = qr{
 165 ^
 166   (?:
 167     \QBuilding and testing\E
 168       |
 169     [\x20\t]* CPAN\.pm: [^\n]*? (?i:build)\S*
 170   )
 171
 172   [\x20\t]+ (\S+)
 173 $}mx;
 174
 175 my $curskip_re = qr{^ === \x20 \QSkipping nonessential autogenerated tests: \E([^\n]+) }mx;
 176
 177 my (undef, @chunks) = (split qr/$curmod_re/, <>);
 178 while (@chunks) {
 179   my ($mod, $log) = splice @chunks, 0, 2;
 180   print "!!! Skipped nonessential tests while installing $mod:\n\t$1\n"
 181     if $log =~ $curskip_re;
 182 }
 183 ' <<< "$LASTOUT")
 184
 185     if [[ -n "$INSTALLDEPS_SKIPPED_TESTLIST" ]] ; then
 186       POSTMORTEM="$POSTMORTEM$(
 187         echo
 188         echo "The following non-essential tests were skipped during deps installation"
 189         echo "============================================================="
 190         echo "$INSTALLDEPS_SKIPPED_TESTLIST"
 191         echo "============================================================="
 192         echo
 193       )"
 194     fi
 195
 196     unset HARNESS_SUBCLASS
 197   fi
 198
 199 else
 200
 201   # listalldeps is deliberate - will upgrade everything it can find
 202   # we exclude SQLA specifically, since we do not want to pull
 203   # in 1.99_xx on bleadcpan runs
 204   parallel_installdeps_notest $(make listalldeps | grep -vP 'List::Util|SQL::Abstract')
 205
 206 fi
 207
 208 echo_err "$(tstamp) Dependency installation finished"
 209 # this will display list of available versions
 210 perl Makefile.PL
 211
 212 # make sure we got everything we need
 213 if [[ -n "$(make listdeps)" ]] ; then
 214   echo_err "$(tstamp) Not all deps installed - something went wrong :("
 215   sleep 1 # without this the echo below confuses the console listener >.<
 216   CPAN_is_sane || echo_err -e "Outdated CPAN.pm used - full installdep log follows\n$INSTALLDEPS_OUT\n\nSearch for 'NOT OK' in the text above\n\nDeps still missing:"
 217   sleep 3 # without this the above echo confuses the console listener >.<
 218   make listdeps
 219   exit 1
 220 fi
 221
 222 # announce what are we running
 223 echo_err "
 224 ===================== DEPENDENCY CONFIGURATION COMPLETE =====================
 225 $(tstamp) Configuration phase seems to have taken $(date -ud "@$SECONDS" '+%H:%M:%S') (@$SECONDS)
 226
 227 = CPUinfo
 228 $(perl -0777 -p -e 's/.+\n\n(?!\z)//s' < /proc/cpuinfo)
 229
 230 = Meminfo
 231 $(free -m -t)
 232
 233 = Kernel info
 234 $(uname -a)
 235
 236 = Network Configuration
 237 $(ip addr)
 238
 239 = Network Sockets Status
 240 $(sudo netstat -an46p | grep -Pv '\s(CLOSING|(FIN|TIME|CLOSE)_WAIT.?|LAST_ACK)\s')
 241
 242 = Environment
 243 $(env | grep -P 'TEST|HARNESS|MAKE|TRAVIS|PERL|DBIC' | LC_ALL=C sort | cat -v)
 244
 245 = Perl in use
 246 $(perl -V)
 247 ============================================================================="