maint/travis-ci_scripts/10_before_install.bash

   1 #!/bin/bash
   2
   3 # Stop pre-started RDBMS and sync for some settle time
   4 run_or_err "Stopping MySQL"       "sudo /etc/init.d/mysql stop"
   5 run_or_err "Stopping PostgreSQL"  "sudo /etc/init.d/postgresql stop"
   6 /bin/sync
   7
   8 # Sanity check VM before continuing
   9 echo "
  10 =============================================================================
  11
  12 = Startup Meminfo
  13 $(free -m -t)
  14
  15 ============================================================================="
  16
  17 CI_VM_MIN_FREE_MB=2000
  18 if [[ "$(free -m | grep 'buffers/cache:' | perl -p -e '$_ = (split /\s+/, $_)[3]')" -lt "$CI_VM_MIN_FREE_MB" ]]; then
  19   SHORT_CIRCUIT_SMOKE=1
  20   echo_err "
  21 =============================================================================
  22
  23 CI virtual machine stuck in a state with a lot of memory locked for no reason.
  24 Under Travis this state usually results in a failed build.
  25 Short-circuiting buildjob to avoid false negatives, please restart it manually.
  26
  27 ============================================================================="
  28 fi
  29
  30 if [[ -n "$SHORT_CIRCUIT_SMOKE" ]] ; then return ; fi
  31
  32 # Different boxes we run on may have different amount of hw threads
  33 # Hence why we need to query
  34 # Originally we used to read /sys/devices/system/cpu/online
  35 # but it is not available these days (odd). Thus we fall to
  36 # the alwas-present /proc/cpuinfo
  37 # The oneliner is a tad convoluted - basicaly what we do is
  38 # slurp the entire file and get the index off the last
  39 # `processor    : XX` line
  40 #
  41 # We also divide the result by two, otherwise the travis VM
  42 # gets overloaded (the amount of available swap is just TOOOO
  43 # damn small)
  44 export NUMTHREADS="$(( ( $(perl -0777 -n -e 'print (/ (?: .+ ^ processor \s+ : \s+ (\d+) ) (?! ^ processor ) /smx)' < /proc/cpuinfo) + 1 ) / 2 ))"
  45
  46 export CACHE_DIR="/tmp/poormanscache"
  47
  48 # install some common tools from APT, more below unless CLEANTEST
  49 apt_install libapp-nopaste-perl tree apt-transport-https
  50
  51 # FIXME - the debian package is oddly broken - uses a bin/env based shebang
  52 # so nothing works under a brew. Fix here until #debian-perl patches it up
  53 sudo /usr/bin/perl -p -i -e 's|#!/usr/bin/env perl|#!/usr/bin/perl|' $(which nopaste)
  54
  55 if [[ "$CLEANTEST" != "true" ]]; then
  56 ### apt-get invocation - faster to grab everything at once
  57   #
  58   # FIXME these debconf lines should automate the firebird config but do not :(((
  59   sudo bash -c 'echo -e "firebird2.5-super\tshared/firebird/enabled\tboolean\ttrue" | debconf-set-selections'
  60   sudo bash -c 'echo -e "firebird2.5-super\tshared/firebird/sysdba_password/new_password\tpassword\t123" | debconf-set-selections'
  61
  62   # add extra APT repo for Oracle
  63   # (https is critical - apt-get update can't seem to follow the 302)
  64   sudo bash -c 'echo -e "\ndeb [arch=i386] https://oss.oracle.com/debian unstable main non-free" >> /etc/apt/sources.list'
  65
  66   run_or_err "Cloning poor man's cache from github" "git clone --depth=1 --branch=poor_mans_travis_cache https://github.com/ribasushi/travis_futzing.git $CACHE_DIR && $CACHE_DIR/reassemble"
  67
  68   run_or_err "Priming up the APT cache with $(echo $(ls -d $CACHE_DIR/apt_cache/*.deb))" "sudo cp $CACHE_DIR/apt_cache/*.deb /var/cache/apt/archives"
  69
  70   apt_install libmysqlclient-dev memcached firebird2.5-super firebird2.5-dev unixodbc-dev expect oracle-xe
  71
  72 ### config memcached
  73   run_or_err "Starting memcached" "sudo /etc/init.d/memcached start"
  74   export DBICTEST_MEMCACHED=127.0.0.1:11211
  75
  76 ### config mysql
  77   run_or_err "Starting MySQL" "sudo /etc/init.d/mysql start"
  78   run_or_err "Creating MySQL TestDB" "mysql -e 'create database dbic_test;'"
  79   export DBICTEST_MYSQL_DSN='dbi:mysql:database=dbic_test;host=127.0.0.1'
  80   export DBICTEST_MYSQL_USER=root
  81
  82 ### config pg
  83   run_or_err "Starting PostgreSQL" "sudo /etc/init.d/postgresql start"
  84   run_or_err "Creating PostgreSQL TestDB" "psql -c 'create database dbic_test;' -U postgres"
  85   export DBICTEST_PG_DSN='dbi:Pg:database=dbic_test;host=127.0.0.1'
  86   export DBICTEST_PG_USER=postgres
  87
  88 ### conig firebird
  89   # poor man's deb config
  90   EXPECT_FB_SCRIPT='
  91     spawn dpkg-reconfigure --frontend=text firebird2.5-super
  92     expect "Enable Firebird server?"
  93     send "\177\177\177\177yes\r"
  94     expect "Password for SYSDBA"
  95     send "123\r"
  96     sleep 1
  97     expect eof
  98   '
  99   # creating testdb
 100   # FIXME - this step still fails from time to time >:(((
 101   # has to do with the FB reconfiguration I suppose
 102   # for now if it fails twice - simply skip FB testing
 103   for i in 1 2 ; do
 104
 105     run_or_err "Re-configuring Firebird" "
 106       sync
 107       DEBIAN_FRONTEND=text sudo expect -c '$EXPECT_FB_SCRIPT'
 108       sleep 1
 109       sync
 110       # restart the server for good measure
 111       sudo /etc/init.d/firebird2.5-super stop || true
 112       sleep 1
 113       sync
 114       sudo /etc/init.d/firebird2.5-super start
 115       sleep 1
 116       sync
 117     "
 118
 119     if run_or_err "Creating Firebird TestDB" \
 120       "echo \"CREATE DATABASE '/var/lib/firebird/2.5/data/dbic_test.fdb';\" | sudo isql-fb -u sysdba -p 123"
 121     then
 122
 123       run_or_err "Fetching and building Firebird ODBC driver" '
 124         cd "$(mktemp -d)"
 125         wget -qO- http://sourceforge.net/projects/firebird/files/firebird-ODBC-driver/2.0.2-Release/OdbcFb-Source-2.0.2.153.gz/download | tar -zx
 126         cd Builds/Gcc.lin
 127         perl -p -i -e "s|/usr/lib64|/usr/lib/x86_64-linux-gnu|g" ../makefile.environ
 128         make -f makefile.linux
 129         sudo make -f makefile.linux install
 130       '
 131
 132       sudo bash -c 'cat >> /etc/odbcinst.ini' <<< "
 133 [Firebird]
 134 Description     = InterBase/Firebird ODBC Driver
 135 Driver          = /usr/lib/x86_64-linux-gnu/libOdbcFb.so
 136 Setup           = /usr/lib/x86_64-linux-gnu/libOdbcFb.so
 137 Threading       = 1
 138 FileUsage       = 1
 139 "
 140
 141       export DBICTEST_FIREBIRD_DSN=dbi:Firebird:dbname=/var/lib/firebird/2.5/data/dbic_test.fdb
 142       export DBICTEST_FIREBIRD_USER=SYSDBA
 143       export DBICTEST_FIREBIRD_PASS=123
 144
 145       export DBICTEST_FIREBIRD_INTERBASE_DSN=dbi:InterBase:dbname=/var/lib/firebird/2.5/data/dbic_test.fdb
 146       export DBICTEST_FIREBIRD_INTERBASE_USER=SYSDBA
 147       export DBICTEST_FIREBIRD_INTERBASE_PASS=123
 148
 149       export DBICTEST_FIREBIRD_ODBC_DSN="dbi:ODBC:Driver=Firebird;Dbname=/var/lib/firebird/2.5/data/dbic_test.fdb"
 150       export DBICTEST_FIREBIRD_ODBC_USER=SYSDBA
 151       export DBICTEST_FIREBIRD_ODBC_PASS=123
 152
 153       break
 154     fi
 155
 156   done
 157
 158 ### config oracle
 159   SRV_ORA_HOME=/usr/lib/oracle/xe/app/oracle/product/10.2.0/server
 160
 161   # without this some of the more zealous tests can exhaust the amount
 162   # of listeners and oracle is too slow to spin extras up :(
 163   sudo bash -c "echo -e '\nprocesses=150' >> $SRV_ORA_HOME/config/scripts/init.ora"
 164
 165   EXPECT_ORA_SCRIPT='
 166     spawn /etc/init.d/oracle-xe configure
 167
 168     sleep 1
 169     set send_slow {1 .005}
 170
 171     expect "Specify the HTTP port that will be used for Oracle Application Express"
 172     sleep 0.5
 173     send -s "8021\r"
 174
 175     expect "Specify a port that will be used for the database listener"
 176     sleep 0.5
 177     send -s "1521\r"
 178
 179     expect "Specify a password to be used for database accounts"
 180     sleep 0.5
 181     send -s "adminpass\r"
 182
 183     expect "Confirm the password"
 184     sleep 0.5
 185     send -s "adminpass\r"
 186
 187     expect "Do you want Oracle Database 10g Express Edition to be started on boot"
 188     sleep 0.5
 189     send -s "n\r"
 190
 191     sleep 0.5
 192     expect "Configuring Database"
 193
 194     sleep 1
 195     expect eof
 196     wait
 197   '
 198
 199   # if we do not redirect to some random file, but instead try to capture
 200   # into a var the way run_or_err does - everything hangs
 201   # FIXME: I couldn't figure it out after 3 hours of headdesking,
 202   # would be nice to know the reason eventually
 203   run_or_err "Configuring OracleXE" "sudo $(which expect) -c '$EXPECT_ORA_SCRIPT' &>/tmp/ora_configure_10.2.log"
 204
 205   export DBICTEST_ORA_DSN=dbi:Oracle://localhost:1521/XE
 206   export DBICTEST_ORA_USER=dbic_test
 207   export DBICTEST_ORA_PASS=abc123456
 208   export DBICTEST_ORA_EXTRAUSER_DSN="$DBICTEST_ORA_DSN"
 209   export DBICTEST_ORA_EXTRAUSER_USER=dbic_test_extra
 210   export DBICTEST_ORA_EXTRAUSER_PASS=abc123456
 211
 212   run_or_err "Create Oracle users" "ORACLE_SID=XE ORACLE_HOME=$SRV_ORA_HOME $SRV_ORA_HOME/bin/sqlplus -L -S system/adminpass @/dev/stdin <<< '
 213     CREATE USER $DBICTEST_ORA_USER IDENTIFIED BY $DBICTEST_ORA_PASS;
 214     GRANT connect,resource TO $DBICTEST_ORA_USER;
 215     CREATE USER $DBICTEST_ORA_EXTRAUSER_USER IDENTIFIED BY $DBICTEST_ORA_EXTRAUSER_PASS;
 216     GRANT connect,resource TO $DBICTEST_ORA_EXTRAUSER_USER;
 217   '"
 218
 219   export ORACLE_HOME="$CACHE_DIR/ora_instaclient/x86-64/oracle_instaclient_10.2.0.5.0"
 220 fi