maint/travis-ci_scripts/10_before_install.bash

   1 #!/bin/bash
   2
   3 export SHORT_CIRCUIT_SMOKE
   4
   5 # Stop pre-started RDBMS, move their data back to disk (save RAM)
   6 # sync for some settle time
   7 run_or_err "Stopping MySQL"       "sudo /etc/init.d/mysql stop"
   8 run_or_err "Stopping PostgreSQL"  "sudo /etc/init.d/postgresql stop || /bin/true"
   9 /bin/sync
  10
  11 for d in mysql postgresql ; do
  12   sudo rm -rf /var/lib/$d
  13   sudo mv /var/ramfs/$d /var/lib/
  14   sudo ln -s /var/lib/$d /var/ramfs/$d
  15 done
  16
  17 # Sanity check VM before continuing
  18 echo "
  19 =============================================================================
  20
  21 = Startup Meminfo
  22 $(free -m -t)
  23
  24 ============================================================================="
  25
  26 CI_VM_MIN_FREE_MB=2000
  27 if [[ "$(free -m | grep 'buffers/cache:' | perl -p -e '$_ = (split /\s+/, $_)[3]')" -lt "$CI_VM_MIN_FREE_MB" ]]; then
  28   SHORT_CIRCUIT_SMOKE=1
  29   echo_err "
  30 =============================================================================
  31
  32 CI virtual machine stuck in a state with a lot of memory locked for no reason.
  33 Under Travis this state usually results in a failed build.
  34 Short-circuiting buildjob to avoid false negatives, please restart it manually.
  35
  36 ============================================================================="
  37
  38 # pull requests are always scrutinized after the fact anyway - run a
  39 # a simpler matrix
  40 elif [[ "$TRAVIS_PULL_REQUEST" != "false" ]]; then
  41   if [[ -n "$BREWVER" ]]; then
  42     # just don't brew anything
  43     SHORT_CIRCUIT_SMOKE=1
  44   else
  45     # running PRs with 1 thread is non-sensical
  46     VCPU_USE=""
  47   fi
  48 fi
  49
  50 if [[ -n "$SHORT_CIRCUIT_SMOKE" ]] ; then return ; fi
  51
  52 # Different boxes we run on may have different amount of hw threads
  53 # Hence why we need to query
  54 # Originally we used to read /sys/devices/system/cpu/online
  55 # but it is not available these days (odd). Thus we fall to
  56 # the alwas-present /proc/cpuinfo
  57 # The oneliner is a tad convoluted - basicaly what we do is
  58 # slurp the entire file and get the index off the last
  59 # `processor    : XX` line
  60 #
  61 # We also divide the result by a factor, otherwise the travis VM gets
  62 # overloaded (the amount of available swap is just TOOOO damn small)
  63 export VCPU_AVAILABLE="$(( ( $(perl -0777 -n -e 'print (/ (?: .+ ^ processor \s+ : \s+ (\d+) ) (?! ^ processor ) /smx)' < /proc/cpuinfo) + 1 ) / 3 ))"
  64
  65 if [[ -z "$VCPU_USE" ]] ; then
  66   export VCPU_USE="$VCPU_AVAILABLE"
  67 fi
  68
  69 export CACHE_DIR="/tmp/poormanscache"
  70
  71 # these will be installed no matter what, also some extras unless CLEANTEST
  72 common_packages="libapp-nopaste-perl"
  73
  74 if [[ "$CLEANTEST" = "true" ]]; then
  75
  76   apt_install $common_packages
  77
  78 else
  79
  80   #
  81   # FIXME these debconf lines should automate the firebird config but do not :(((
  82   sudo bash -c 'echo -e "firebird2.5-super\tshared/firebird/enabled\tboolean\ttrue" | debconf-set-selections'
  83   sudo bash -c 'echo -e "firebird2.5-super\tshared/firebird/sysdba_password/new_password\tpassword\t123" | debconf-set-selections'
  84
  85   # these APT sources do not mean anything to us anyway
  86   sudo rm -rf /etc/apt/sources.list.d/*
  87
  88   run_or_err "Updating APT sources" "sudo apt-get update"
  89   apt_install $common_packages libmysqlclient-dev memcached firebird2.5-super firebird2.5-dev unixodbc-dev expect
  90
  91   run_or_err "Cloning poor man's cache from github" "git clone --depth=1 --single-branch --branch=oracle/10.2.0 https://github.com/poortravis/poormanscache.git $CACHE_DIR && $CACHE_DIR/reassemble"
  92   run_or_err "Installing OracleXE manually from deb" "sudo dpkg -i $CACHE_DIR/apt_cache/oracle-xe_10.2.0.1-1.1_i386.deb || sudo bash -c 'source maint/travis-ci_scripts/common.bash && apt_install -f'"
  93
  94 ### config memcached
  95   run_or_err "Starting memcached" "sudo /etc/init.d/memcached start"
  96   export DBICTEST_MEMCACHED=127.0.0.1:11211
  97
  98 ### config mysql
  99   run_or_err "Installing minimizing MySQL config" "\
 100      sudo bash -c 'rm /var/lib/mysql/ib*' \
 101   && sudo cp maint/travis-ci_scripts/configs/minimal_mysql_travis.cnf /etc/mysql/conf.d/ \
 102   && sudo chmod 644 /etc/mysql/conf.d/*.cnf \
 103   "
 104
 105   run_or_err "Starting MySQL" "sudo /etc/init.d/mysql start"
 106   run_or_err "Creating MySQL TestDB" "mysql -e 'create database dbic_test;'"
 107   export DBICTEST_MYSQL_DSN='dbi:mysql:database=dbic_test;host=127.0.0.1'
 108   export DBICTEST_MYSQL_USER=root
 109
 110 ### config pg
 111   run_or_err "Starting PostgreSQL" "sudo /etc/init.d/postgresql start"
 112   run_or_err "Creating PostgreSQL TestDB" "psql -c 'create database dbic_test;' -U postgres"
 113   export DBICTEST_PG_DSN='dbi:Pg:database=dbic_test;host=127.0.0.1'
 114   export DBICTEST_PG_USER=postgres
 115
 116 ### conig firebird
 117   # poor man's deb config
 118   EXPECT_FB_SCRIPT='
 119     spawn dpkg-reconfigure --frontend=text firebird2.5-super
 120     expect "Enable Firebird server?"
 121     send "\177\177\177\177yes\r"
 122     expect "Password for SYSDBA"
 123     send "123\r"
 124     sleep 1
 125     expect eof
 126   '
 127   # creating testdb
 128   # FIXME - this step still fails from time to time >:(((
 129   # has to do with the FB reconfiguration I suppose
 130   # for now if it fails twice - simply skip FB testing
 131   for i in 1 2 ; do
 132
 133     run_or_err "Re-configuring Firebird" "
 134       sync
 135       DEBIAN_FRONTEND=text sudo expect -c '$EXPECT_FB_SCRIPT'
 136       sleep 1
 137       sync
 138       # restart the server for good measure
 139       sudo /etc/init.d/firebird2.5-super stop || true
 140       sleep 1
 141       sync
 142       sudo /etc/init.d/firebird2.5-super start
 143       sleep 1
 144       sync
 145     "
 146
 147     if run_or_err "Creating Firebird TestDB" \
 148       "echo \"CREATE DATABASE '/var/lib/firebird/2.5/data/dbic_test.fdb';\" | sudo isql-fb -u sysdba -p 123"
 149     then
 150
 151       run_or_err "Fetching and building Firebird ODBC driver" '
 152         cd "$(mktemp -d)"
 153         wget -qO- http://sourceforge.net/projects/firebird/files/firebird-ODBC-driver/2.0.2-Release/OdbcFb-Source-2.0.2.153.gz/download | tar -zx
 154         cd Builds/Gcc.lin
 155         perl -p -i -e "s|/usr/lib64|/usr/lib/x86_64-linux-gnu|g" ../makefile.environ
 156         make -f makefile.linux
 157         sudo make -f makefile.linux install
 158       '
 159
 160       sudo bash -c 'cat >> /etc/odbcinst.ini' <<< "
 161 [Firebird]
 162 Description     = InterBase/Firebird ODBC Driver
 163 Driver          = /usr/lib/x86_64-linux-gnu/libOdbcFb.so
 164 Setup           = /usr/lib/x86_64-linux-gnu/libOdbcFb.so
 165 Threading       = 1
 166 FileUsage       = 1
 167 "
 168
 169       export DBICTEST_FIREBIRD_DSN=dbi:Firebird:dbname=/var/lib/firebird/2.5/data/dbic_test.fdb
 170       export DBICTEST_FIREBIRD_USER=SYSDBA
 171       export DBICTEST_FIREBIRD_PASS=123
 172
 173       export DBICTEST_FIREBIRD_INTERBASE_DSN=dbi:InterBase:dbname=/var/lib/firebird/2.5/data/dbic_test.fdb
 174       export DBICTEST_FIREBIRD_INTERBASE_USER=SYSDBA
 175       export DBICTEST_FIREBIRD_INTERBASE_PASS=123
 176
 177       export DBICTEST_FIREBIRD_ODBC_DSN="dbi:ODBC:Driver=Firebird;Dbname=/var/lib/firebird/2.5/data/dbic_test.fdb"
 178       export DBICTEST_FIREBIRD_ODBC_USER=SYSDBA
 179       export DBICTEST_FIREBIRD_ODBC_PASS=123
 180
 181       break
 182     fi
 183
 184   done
 185
 186 ### config oracle
 187   SRV_ORA_HOME=/usr/lib/oracle/xe/app/oracle/product/10.2.0/server
 188
 189   # without this some of the more zealous tests can exhaust the amount
 190   # of listeners and oracle is too slow to spin extras up :(
 191   sudo bash -c "echo -e '\nprocesses=150' >> $SRV_ORA_HOME/config/scripts/init.ora"
 192
 193   EXPECT_ORA_SCRIPT='
 194     spawn /etc/init.d/oracle-xe configure
 195
 196     sleep 1
 197     set send_slow {1 .005}
 198
 199     expect "Specify the HTTP port that will be used for Oracle Application Express"
 200     sleep 0.5
 201     send -s "8021\r"
 202
 203     expect "Specify a port that will be used for the database listener"
 204     sleep 0.5
 205     send -s "1521\r"
 206
 207     expect "Specify a password to be used for database accounts"
 208     sleep 0.5
 209     send -s "adminpass\r"
 210
 211     expect "Confirm the password"
 212     sleep 0.5
 213     send -s "adminpass\r"
 214
 215     expect "Do you want Oracle Database 10g Express Edition to be started on boot"
 216     sleep 0.5
 217     send -s "n\r"
 218
 219     sleep 0.5
 220     expect "Configuring Database"
 221
 222     sleep 1
 223     expect eof
 224     wait
 225   '
 226
 227   # if we do not redirect to some random file, but instead try to capture
 228   # into a var the way run_or_err does - everything hangs
 229   # FIXME: I couldn't figure it out after 3 hours of headdesking,
 230   # would be nice to know the reason eventually
 231   run_or_err "Configuring OracleXE" "sudo $(which expect) -c '$EXPECT_ORA_SCRIPT' &>/tmp/ora_configure_10.2.log"
 232
 233   export DBICTEST_ORA_DSN=dbi:Oracle://localhost:1521/XE
 234   export DBICTEST_ORA_USER=dbic_test
 235   export DBICTEST_ORA_PASS=abc123456
 236   export DBICTEST_ORA_EXTRAUSER_DSN="$DBICTEST_ORA_DSN"
 237   export DBICTEST_ORA_EXTRAUSER_USER=dbic_test_extra
 238   export DBICTEST_ORA_EXTRAUSER_PASS=abc123456
 239
 240   run_or_err "Create Oracle users" "ORACLE_SID=XE ORACLE_HOME=$SRV_ORA_HOME $SRV_ORA_HOME/bin/sqlplus -L -S system/adminpass @/dev/stdin <<< '
 241     CREATE USER $DBICTEST_ORA_USER IDENTIFIED BY $DBICTEST_ORA_PASS;
 242     GRANT connect,resource TO $DBICTEST_ORA_USER;
 243     CREATE USER $DBICTEST_ORA_EXTRAUSER_USER IDENTIFIED BY $DBICTEST_ORA_EXTRAUSER_PASS;
 244     GRANT connect,resource TO $DBICTEST_ORA_EXTRAUSER_USER;
 245   '"
 246
 247   export ORACLE_HOME="$CACHE_DIR/ora_instaclient/x86-64/oracle_instaclient_10.2.0.5.0"
 248 fi
 249
 250 # The debian package is oddly broken - uses a /bin/env based shebang
 251 # so nothing works under a brew, fixed in libapp-nopaste-perl 0.92-3
 252 # http://changelogs.ubuntu.com/changelogs/pool/universe/liba/libapp-nopaste-perl/libapp-nopaste-perl_0.96-1/changelog
 253 #
 254 # Since the vm runs an old version of umbongo fix things ourselves
 255 sudo /usr/bin/perl -p -i -e 's|#!/usr/bin/env perl|#!/usr/bin/perl|' $(which nopaste)