maint/travis-ci_scripts/10_before_install.bash

   1 #!/bin/bash
   2
   3 # Stop pre-started RDBMS and sync for some settle time
   4 run_or_err "Stopping MySQL"       "sudo /etc/init.d/mysql stop"
   5 run_or_err "Stopping PostgreSQL"  "sudo /etc/init.d/postgresql stop"
   6 /bin/sync
   7
   8 # Sanity check VM before continuing
   9 echo "
  10 =============================================================================
  11
  12 = Startup Meminfo
  13 $(free -m -t)
  14
  15 ============================================================================="
  16
  17 CI_VM_MIN_FREE_MB=2000
  18 if [[ "$(free -m | grep 'buffers/cache:' | perl -p -e '$_ = (split /\s+/, $_)[3]')" -lt "$CI_VM_MIN_FREE_MB" ]]; then
  19   SHORT_CIRCUIT_SMOKE=1
  20   echo_err "
  21 =============================================================================
  22
  23 CI virtual machine stuck in a state with a lot of memory locked for no reason.
  24 Under Travis this state usually results in a failed build.
  25 Short-circuiting buildjob to avoid false negatives, please restart it manually.
  26
  27 ============================================================================="
  28 fi
  29
  30 if [[ -n "$SHORT_CIRCUIT_SMOKE" ]] ; then return ; fi
  31
  32 # Different boxes we run on may have different amount of hw threads
  33 # Hence why we need to query
  34 # Originally we used to read /sys/devices/system/cpu/online
  35 # but it is not available these days (odd). Thus we fall to
  36 # the alwas-present /proc/cpuinfo
  37 # The oneliner is a tad convoluted - basicaly what we do is
  38 # slurp the entire file and get the index off the last
  39 # `processor    : XX` line
  40 #
  41 # We also divide the result by a factor, otherwise the travis VM gets
  42 # overloaded (the amount of available swap is just TOOOO damn small)
  43 export NUMTHREADS="$(( ( $(perl -0777 -n -e 'print (/ (?: .+ ^ processor \s+ : \s+ (\d+) ) (?! ^ processor ) /smx)' < /proc/cpuinfo) + 1 ) / 3 ))"
  44
  45 export CACHE_DIR="/tmp/poormanscache"
  46
  47 export SCHEMA_LOADER_TESTS_BACKCOMPAT=1
  48
  49 # these will be installed no matter what, also some extras unless CLEANTEST
  50 common_packages="libapp-nopaste-perl tree"
  51
  52 if [[ "$CLEANTEST" = "true" ]]; then
  53
  54   apt_install $common_packages
  55
  56 else
  57
  58   apt_install $common_packages unixodbc-dev expect
  59
  60 ### config mysql
  61   run_or_err "Installing minimizing MySQL config" "sudo cp maint/travis-ci_scripts/configs/minimal_mysql_travis.cnf /etc/mysql/conf.d/ && sudo chmod 644 /etc/mysql/conf.d/*.cnf"
  62   run_or_err "Starting MySQL" "sudo /etc/init.d/mysql start"
  63   run_or_err "Creating MySQL TestDB" "mysql -e 'create database dbic_test;'"
  64   export DBICTEST_MYSQL_DSN='dbi:mysql:database=dbic_test;host=127.0.0.1'
  65   export DBICTEST_MYSQL_USER=root
  66
  67 ### config pg
  68   run_or_err "Starting PostgreSQL" "sudo /etc/init.d/postgresql start"
  69   run_or_err "Creating PostgreSQL TestDB" "psql -c 'create database dbic_test;' -U postgres"
  70   export DBICTEST_PG_DSN='dbi:Pg:database=dbic_test;host=127.0.0.1'
  71   export DBICTEST_PG_USER=postgres
  72
  73 ### config firebird
  74   if [[ "$DBICTEST_FIREBIRD" = "true" ]]; then
  75
  76     #
  77     # FIXME these debconf lines should automate the firebird config but do not :(((
  78     sudo bash -c 'echo -e "firebird2.5-super\tshared/firebird/enabled\tboolean\ttrue" | debconf-set-selections'
  79     sudo bash -c 'echo -e "firebird2.5-super\tshared/firebird/sysdba_password/new_password\tpassword\t123" | debconf-set-selections'
  80
  81     apt_install firebird2.5-super firebird2.5-dev
  82
  83     # poor man's deb config
  84     EXPECT_FB_SCRIPT='
  85       spawn dpkg-reconfigure --frontend=text firebird2.5-super
  86       expect "Enable Firebird server?"
  87       send "\177\177\177\177yes\r"
  88       expect "Password for SYSDBA"
  89       send "123\r"
  90       sleep 1
  91       expect eof
  92     '
  93     # creating testdb
  94     # FIXME - this step still fails from time to time >:(((
  95     # has to do with the FB reconfiguration I suppose
  96     # for now if it fails twice - simply skip FB testing
  97     for i in 1 2 ; do
  98
  99       run_or_err "Re-configuring Firebird" "
 100         sync
 101         DEBIAN_FRONTEND=text sudo expect -c '$EXPECT_FB_SCRIPT'
 102         sleep 1
 103         sync
 104         # restart the server for good measure
 105         sudo /etc/init.d/firebird2.5-super stop || true
 106         sleep 1
 107         sync
 108         sudo /etc/init.d/firebird2.5-super start
 109         sleep 1
 110         sync
 111       "
 112
 113       if run_or_err "Creating Firebird TestDB" \
 114         "echo \"CREATE DATABASE '/var/lib/firebird/2.5/data/dbic_test.fdb';\" | sudo isql-fb -u sysdba -p 123"
 115       then
 116
 117         run_or_err "Fetching and building Firebird ODBC driver" '
 118           cd "$(mktemp -d)"
 119           wget -qO- http://sourceforge.net/projects/firebird/files/firebird-ODBC-driver/2.0.3-Release/OdbcJdbc-src-2.0.3.154.tar.gz/download | tar -xz
 120           cd OdbcJdbc/Builds/Gcc.lin
 121           perl -p -i -e "s|/usr/lib64|/usr/lib/x86_64-linux-gnu|g" ../makefile.environ
 122           make -f makefile.linux
 123           sudo make -f makefile.linux install
 124         '
 125
 126         sudo bash -c 'cat >> /etc/odbcinst.ini' <<< "
 127 [Firebird]
 128 Description     = InterBase/Firebird ODBC Driver
 129 Driver          = /usr/lib/x86_64-linux-gnu/libOdbcFb.so
 130 Setup           = /usr/lib/x86_64-linux-gnu/libOdbcFb.so
 131 Threading       = 1
 132 FileUsage       = 1
 133 "
 134
 135         export DBICTEST_FIREBIRD_DSN=dbi:Firebird:dbname=/var/lib/firebird/2.5/data/dbic_test.fdb
 136         export DBICTEST_FIREBIRD_USER=SYSDBA
 137         export DBICTEST_FIREBIRD_PASS=123
 138
 139         export DBICTEST_FIREBIRD_INTERBASE_DSN=dbi:InterBase:dbname=/var/lib/firebird/2.5/data/dbic_test.fdb
 140         export DBICTEST_FIREBIRD_INTERBASE_USER=SYSDBA
 141         export DBICTEST_FIREBIRD_INTERBASE_PASS=123
 142
 143         export DBICTEST_FIREBIRD_ODBC_DSN="dbi:ODBC:Driver=Firebird;Dbname=/var/lib/firebird/2.5/data/dbic_test.fdb"
 144         export DBICTEST_FIREBIRD_ODBC_USER=SYSDBA
 145         export DBICTEST_FIREBIRD_ODBC_PASS=123
 146
 147         break
 148       fi
 149
 150     done
 151   fi
 152
 153 ### config oracle
 154   if [[ "$DBICTEST_ORA" = "true" ]]; then
 155     run_or_err "Installing dummy multiarch bc package" '
 156       bc_tempdir="$(mktemp -d)"
 157       wget -O "$bc_tempdir/bc-multiarch_1.0_all.deb" -q http://ilmari.org/bc-multiarch/bc-multiarch_1.0_all.deb
 158       sudo dpkg -i "$bc_tempdir/bc-multiarch_1.0_all.deb" || sudo bash -c "source maint/travis-ci_scripts/common.bash && apt_install -f"
 159     '
 160
 161     run_or_err "Cloning poor man's cache from github" "git clone --depth=1 --single-branch --branch=oracle/10.2.0 https://github.com/poortravis/poormanscache.git $CACHE_DIR && $CACHE_DIR/reassemble"
 162     run_or_err "Installing OracleXE manually from deb" "sudo dpkg -i $CACHE_DIR/apt_cache/oracle-xe_10.2.0.1-1.1_i386.deb || sudo bash -c 'source maint/travis-ci_scripts/common.bash && apt_install -f'"
 163
 164     SRV_ORA_HOME=/usr/lib/oracle/xe/app/oracle/product/10.2.0/server
 165
 166     # without this some of the more zealous tests can exhaust the amount
 167     # of listeners and oracle is too slow to spin extras up :(
 168     sudo bash -c "echo -e '\nprocesses=150' >> $SRV_ORA_HOME/config/scripts/init.ora"
 169
 170     EXPECT_ORA_SCRIPT='
 171       spawn /etc/init.d/oracle-xe configure
 172
 173       sleep 1
 174       set send_slow {1 .005}
 175
 176       expect "Specify the HTTP port that will be used for Oracle Application Express"
 177       sleep 0.5
 178       send -s "8021\r"
 179
 180       expect "Specify a port that will be used for the database listener"
 181       sleep 0.5
 182       send -s "1521\r"
 183
 184       expect "Specify a password to be used for database accounts"
 185       sleep 0.5
 186       send -s "adminpass\r"
 187
 188       expect "Confirm the password"
 189       sleep 0.5
 190       send -s "adminpass\r"
 191
 192       expect "Do you want Oracle Database 10g Express Edition to be started on boot"
 193       sleep 0.5
 194       send -s "n\r"
 195
 196       sleep 0.5
 197       expect "Configuring Database"
 198
 199       sleep 1
 200       expect eof
 201       wait
 202     '
 203
 204     # if we do not redirect to some random file, but instead try to capture
 205     # into a var the way run_or_err does - everything hangs
 206     # FIXME: I couldn't figure it out after 3 hours of headdesking,
 207     # would be nice to know the reason eventually
 208     run_or_err "Configuring OracleXE" "sudo $(which expect) -c '$EXPECT_ORA_SCRIPT' &>/tmp/ora_configure_10.2.log"
 209
 210     export DBICTEST_ORA_DSN=dbi:Oracle://localhost:1521/XE
 211     export DBICTEST_ORA_USER=dbic_test
 212     export DBICTEST_ORA_PASS=abc123456
 213     export DBICTEST_ORA_EXTRAUSER_DSN="$DBICTEST_ORA_DSN"
 214     export DBICTEST_ORA_EXTRAUSER_USER=dbic_test_extra
 215     export DBICTEST_ORA_EXTRAUSER_PASS=abc123456
 216
 217     run_or_err "Create Oracle users" "ORACLE_SID=XE ORACLE_HOME=$SRV_ORA_HOME $SRV_ORA_HOME/bin/sqlplus -L -S system/adminpass @/dev/stdin <<< '
 218       CREATE USER $DBICTEST_ORA_USER IDENTIFIED BY $DBICTEST_ORA_PASS;
 219       GRANT connect,resource TO $DBICTEST_ORA_USER;
 220       CREATE USER $DBICTEST_ORA_EXTRAUSER_USER IDENTIFIED BY $DBICTEST_ORA_EXTRAUSER_PASS;
 221       GRANT connect,resource TO $DBICTEST_ORA_EXTRAUSER_USER;
 222     '"
 223
 224     export ORACLE_HOME="$CACHE_DIR/ora_instaclient/x86-64/oracle_instaclient_10.2.0.5.0"
 225   fi
 226
 227 ### config db2exc
 228   if [[ "$DBICTEST_DB2" = "true" ]]; then
 229     sudo bash -c 'echo "deb http://archive.canonical.com/ubuntu precise partner" >> /etc/apt/sources.list'
 230     run_or_err "Updating apt sources" "sudo apt-get update"
 231     apt_install db2exc
 232
 233     # WTF is this world-writable?
 234     # Strip the write bit so it doesn't trip Ubuntu's symlink-in-/tmp attack mitigation
 235     sudo chmod -R o-w ~dasusr1/das
 236
 237     run_or_err "Restarting DB2" "sudo /etc/init.d/db2exc restart"
 238
 239     export DB2_HOME=/opt/ibm/db2/V9.7
 240     export DBICTEST_DB2_DSN=dbi:DB2:DATABASE=DBICTEST
 241     export DBICTEST_DB2_USER=db2inst1
 242     export DBICTEST_DB2_PASS=abc123456
 243
 244     run_or_err "Setting up DB2 users" "echo -e '$DBICTEST_DB2_PASS\n$DBICTEST_DB2_PASS' | sudo passwd $DBICTEST_DB2_USER"
 245     run_or_err "Creating DB2 database" "sudo -u db2inst1 -i db2 'CREATE DATABASE DBICTEST'"
 246     run_or_err "Activating DB2 database" "sudo -u db2inst1 -i db2 'ACTIVATE DATABASE DBICTEST'"
 247   fi
 248
 249 fi
 250
 251 # The debian package is oddly broken - uses a /bin/env based shebang
 252 # so nothing works under a brew, fixed in libapp-nopaste-perl 0.92-3
 253 # http://changelogs.ubuntu.com/changelogs/pool/universe/liba/libapp-nopaste-perl/libapp-nopaste-perl_0.96-1/changelog
 254 #
 255 # Since the vm runs an old version of umbongo fix things ourselves
 256 sudo /usr/bin/perl -p -i -e 's|#!/usr/bin/env perl|#!/usr/bin/perl|' $(which nopaste)