maint/travis-ci_scripts/10_before_install.bash

   1 #!/bin/bash
   2
   3 if [[ "${BASH_SOURCE[0]}" == "${0}" ]] ; then
   4   echo "This script can not be executed standalone - it can only be source()d" 1>&2
   5   exit 1
   6 fi
   7
   8 export SHORT_CIRCUIT_SMOKE
   9
  10 if have_sudo ; then
  11
  12   # Stop pre-started RDBMS, move their data back to disk (save RAM)
  13   # sync for some settle time (not available on all platforms)
  14   for d in mysql postgresql ; do
  15     # maybe not even running
  16     run_or_err "Stopping $d" "sudo /etc/init.d/$d stop || /bin/true"
  17
  18     # no longer available on newer build systems
  19     if [[ -d /var/ramfs/$d ]] ; then
  20       sudo rm -rf /var/lib/$d
  21       sudo mv /var/ramfs/$d /var/lib/
  22       sudo ln -s /var/lib/$d /var/ramfs/$d
  23     fi
  24   done
  25   /bin/sync
  26 fi
  27
  28 # Sanity check VM before continuing
  29 echo "
  30 =============================================================================
  31
  32 = Startup Meminfo
  33 $(free -m -t)
  34
  35 ============================================================================="
  36
  37 CI_VM_MIN_FREE_MB=2000
  38 if [[ "$(free -m | grep 'buffers/cache:' | perl -p -e '$_ = (split /\s+/, $_)[3]')" -lt "$CI_VM_MIN_FREE_MB" ]]; then
  39   SHORT_CIRCUIT_SMOKE=1
  40   echo_err "
  41 =============================================================================
  42
  43 CI virtual machine stuck in a state with a lot of memory locked for no reason.
  44 Under Travis this state usually results in a failed build.
  45 Short-circuiting buildjob to avoid false negatives, please restart it manually.
  46
  47 ============================================================================="
  48
  49 # pull requests are always scrutinized after the fact anyway - run a
  50 # a simpler matrix
  51 elif [[ "$TRAVIS_PULL_REQUEST" != "false" ]]; then
  52   if [[ -n "$BREWVER" ]]; then
  53     # just don't brew anything
  54     SHORT_CIRCUIT_SMOKE=1
  55   else
  56     # running PRs with 1 thread is non-sensical
  57     VCPU_USE=""
  58   fi
  59 fi
  60
  61 if [[ -n "$SHORT_CIRCUIT_SMOKE" ]] ; then return ; fi
  62
  63 # Previously we were going off the OpenVZ vcpu count and dividing by 3
  64 # With the new infrastructure, somply go with "something high"
  65 export VCPU_AVAILABLE=10
  66
  67 if [[ -z "$VCPU_USE" ]] ; then
  68   export VCPU_USE="$VCPU_AVAILABLE"
  69 fi
  70
  71
  72 if [[ "$CLEANTEST" != "true" ]]; then
  73
  74   if [[ -z "$(tail -n +2 /proc/swaps)" ]] ; then
  75     run_or_err "Configuring swap (for Oracle)" \
  76       "sudo bash -c 'dd if=/dev/zero of=/swap.img bs=256M count=5 && chmod 600 /swap.img && mkswap /swap.img && swapon /swap.img'"
  77   fi
  78
  79
  80   # never installed, this looks like trusty
  81   if [[ ! -d /var/lib/mysql ]] ; then
  82     sudo dpkg --add-architecture i386
  83     extra_debs+=( postgresql mysql-server )
  84   fi
  85
  86
  87   # these APT sources do not mean anything to us anyway
  88   sudo rm -rf /etc/apt/sources.list.d/*
  89
  90   #
  91   # FIXME these debconf lines should automate the firebird config but seem not to :(((
  92   sudo bash -c 'echo -e "firebird2.5-super\tshared/firebird/enabled\tboolean\ttrue" | debconf-set-selections'
  93   sudo bash -c 'echo -e "firebird2.5-super\tshared/firebird/sysdba_password/new_password\tpassword\t123" | debconf-set-selections'
  94
  95   run_or_err "Updating APT sources" "sudo apt-get update"
  96   apt_install ${extra_debs[@]} libmysqlclient-dev memcached firebird2.5-super firebird2.5-dev expect
  97
  98
  99   # need to stop them again, in case we installed them above (trusty)
 100   for d in mysql postgresql ; do
 101     run_or_err "Stopping $d" "sudo /etc/init.d/$d stop || /bin/true"
 102   done
 103
 104
 105   export CACHE_DIR="/tmp/poormanscache"
 106   mkdir "$CACHE_DIR"
 107
 108   # FIXME - by default db2 eats too much memory, we won't be able to test on legacy infra
 109   # someone needs to add a minimizing configuration akin to 9367d187
 110   if [[ "$(free -m | grep 'Mem:' | perl -p -e '$_ = (split /\s+/, $_)[1]')" -gt 4000 ]] ; then
 111     run_or_err "Getting DB2 from poor man's cache github" '
 112       wget -qO- https://github.com/poormanscache/poormanscache/archive/DB2_ExC/9.7.5_deb_x86-64.tar.gz \
 113     | tar -C "$CACHE_DIR" -zx'
 114
 115     # the actual package is built for lucid, installs fine on both precise and trusty
 116     manual_debs+=( "db2exc_9.7.5-0lucid0_amd64.deb" )
 117   fi
 118
 119   run_or_err "Getting Oracle from poor man's cache github" '
 120     wget -qO- https://github.com/poormanscache/poormanscache/archive/OracleXE/10.2.0_deb_mixed.tar.gz \
 121   | tar -C "$CACHE_DIR" -zx'
 122   manual_debs+=( "bc-multiarch-travis_1.0_all.deb" "oracle-xe_10.2.0.1-1.1_i386.deb" )
 123
 124
 125   # reassemble chunked pieces ( working around github's filesize limit )
 126   for reass in $CACHE_DIR/*/reassemble ; do /bin/bash "$reass" ; done
 127
 128   run_or_err "Installing RDBMS debs manually: $( echo ${manual_debs[@]/#/$CACHE_DIR/*/*/} )" \
 129     "sudo dpkg -i $( echo ${manual_debs[@]/#/$CACHE_DIR/*/*/} ) || sudo bash -c 'source maint/travis-ci_scripts/common.bash && apt_install -f'"
 130
 131
 132   # Needs to happen separately and *after* db2exc, as the former shits all over /usr/include (wtf?!)
 133   # For more info look at /opt/ibm/db2/V9.7/instance/db2iutil :: create_links()
 134   # The --reinstall is there in case it was already in place and got destroyed
 135   # (this is the case on newer trusty images)
 136   apt_install --reinstall unixodbc-dev
 137
 138
 139 ### config memcached
 140   run_or_err "Starting memcached" "sudo /etc/init.d/memcached start"
 141   export DBICTEST_MEMCACHED=127.0.0.1:11211
 142
 143 ### config mysql
 144   run_or_err "Installing minimizing MySQL config" "\
 145      sudo bash -c 'rm /var/lib/mysql/ib*' \
 146   && sudo cp maint/travis-ci_scripts/configs/minimal_mysql_travis.cnf /etc/mysql/conf.d/ \
 147   && sudo chmod 644 /etc/mysql/conf.d/*.cnf \
 148   "
 149
 150   run_or_err "Starting MySQL" "sudo /etc/init.d/mysql start"
 151   run_or_err "Creating MySQL TestDB" "mysql -u root -e 'create database dbic_test;'"
 152   export DBICTEST_MYSQL_DSN='dbi:mysql:database=dbic_test;host=127.0.0.1'
 153   export DBICTEST_MYSQL_USER=root
 154
 155 ### config pg
 156   run_or_err "Starting PostgreSQL" "sudo /etc/init.d/postgresql start"
 157   run_or_err "Creating PostgreSQL TestDB" "psql -c 'create database dbic_test;' -U postgres"
 158   export DBICTEST_PG_DSN='dbi:Pg:database=dbic_test;host=127.0.0.1'
 159   export DBICTEST_PG_USER=postgres
 160
 161 ### conig firebird
 162   # poor man's deb config
 163   EXPECT_FB_SCRIPT='
 164     spawn dpkg-reconfigure --frontend=text firebird2.5-super
 165     expect "Enable Firebird server?"
 166     send "\177\177\177\177yes\r"
 167     expect "Password for SYSDBA"
 168     send "123\r"
 169     sleep 2
 170     expect eof
 171   '
 172   # creating testdb
 173   # FIXME - this step still fails from time to time >:(((
 174   # has to do with the FB reconfiguration I suppose
 175   # for now if it fails twice - simply skip FB testing
 176   for i in 1 2 3 ; do
 177
 178     run_or_err "Re-configuring Firebird" "
 179       sync
 180       sleep 5
 181       DEBIAN_FRONTEND=text sudo expect -c '$EXPECT_FB_SCRIPT'
 182     "
 183
 184     if run_or_err "Creating Firebird TestDB" \
 185       "echo \"CREATE DATABASE '/var/lib/firebird/2.5/data/dbic_test.fdb';\" | sudo isql-fb -u sysdba -p 123"
 186     then
 187
 188
 189       # Do not upgrade to a newer ODBC driver - smoking on an old
 190       # and buggy POS is much more valuable
 191       #
 192       run_or_err "Fetching and building Firebird ODBC driver" '
 193         cd "$(mktemp -d)"
 194         wget -qO- https://github.com/dbsrgits/Firebird-ODBC-driver/archive/2.0.2.153.tar.gz | tar -zx --strip-components 1
 195         cd Builds/Gcc.lin
 196         make -f makefile.linux
 197         sudo make -f makefile.linux install
 198       '
 199
 200       sudo bash -c 'cat >> /etc/odbcinst.ini' <<< "
 201 [Firebird]
 202 Description     = InterBase/Firebird ODBC Driver
 203 Driver          = /usr/lib/x86_64-linux-gnu/libOdbcFb.so
 204 Setup           = /usr/lib/x86_64-linux-gnu/libOdbcFb.so
 205 Threading       = 1
 206 FileUsage       = 1
 207 "
 208
 209       export DBICTEST_FIREBIRD_DSN=dbi:Firebird:dbname=/var/lib/firebird/2.5/data/dbic_test.fdb
 210       export DBICTEST_FIREBIRD_USER=SYSDBA
 211       export DBICTEST_FIREBIRD_PASS=123
 212
 213       export DBICTEST_FIREBIRD_INTERBASE_DSN=dbi:InterBase:dbname=/var/lib/firebird/2.5/data/dbic_test.fdb
 214       export DBICTEST_FIREBIRD_INTERBASE_USER=SYSDBA
 215       export DBICTEST_FIREBIRD_INTERBASE_PASS=123
 216
 217       export DBICTEST_FIREBIRD_ODBC_DSN="dbi:ODBC:Driver=Firebird;Dbname=/var/lib/firebird/2.5/data/dbic_test.fdb"
 218       export DBICTEST_FIREBIRD_ODBC_USER=SYSDBA
 219       export DBICTEST_FIREBIRD_ODBC_PASS=123
 220
 221       break
 222     fi
 223
 224   done
 225
 226 ### config oracle
 227   SRV_ORA_HOME=/usr/lib/oracle/xe/app/oracle/product/10.2.0/server
 228
 229   # without this some of the more zealous tests can exhaust the amount
 230   # of listeners and oracle is too slow to spin extras up :(
 231   sudo bash -c "echo -e '\nprocesses=150' >> $SRV_ORA_HOME/config/scripts/init.ora"
 232
 233   EXPECT_ORA_SCRIPT='
 234     spawn /etc/init.d/oracle-xe configure
 235
 236     sleep 1
 237     set send_slow {1 .005}
 238
 239     expect "Specify the HTTP port that will be used for Oracle Application Express"
 240     sleep 0.5
 241     send -s "8021\r"
 242
 243     expect "Specify a port that will be used for the database listener"
 244     sleep 0.5
 245     send -s "1521\r"
 246
 247     expect "Specify a password to be used for database accounts"
 248     sleep 0.5
 249     send -s "adminpass\r"
 250
 251     expect "Confirm the password"
 252     sleep 0.5
 253     send -s "adminpass\r"
 254
 255     expect "Do you want Oracle Database 10g Express Edition to be started on boot"
 256     sleep 0.5
 257     send -s "n\r"
 258
 259     sleep 0.5
 260     expect "Configuring Database"
 261
 262     sleep 1
 263     expect eof
 264     wait
 265   '
 266
 267   # if we do not redirect to some random file, but instead try to capture
 268   # into a var the way run_or_err does - everything hangs
 269   # FIXME: I couldn't figure it out after 3 hours of headdesking,
 270   # would be nice to know the reason eventually
 271   run_or_err "Configuring OracleXE" "sudo $(which expect) -c '$EXPECT_ORA_SCRIPT' &>/tmp/ora_configure_10.2.log"
 272
 273   export DBICTEST_ORA_DSN=dbi:Oracle://localhost:1521/XE
 274   export DBICTEST_ORA_USER=dbic_test
 275   export DBICTEST_ORA_PASS=abc123456
 276   export DBICTEST_ORA_EXTRAUSER_DSN="$DBICTEST_ORA_DSN"
 277   export DBICTEST_ORA_EXTRAUSER_USER=dbic_test_extra
 278   export DBICTEST_ORA_EXTRAUSER_PASS=abc123456
 279
 280   run_or_err "Create Oracle users" "ORACLE_SID=XE ORACLE_HOME=$SRV_ORA_HOME $SRV_ORA_HOME/bin/sqlplus -L -S system/adminpass @/dev/stdin <<< '
 281     CREATE USER $DBICTEST_ORA_USER IDENTIFIED BY $DBICTEST_ORA_PASS;
 282     GRANT connect,resource TO $DBICTEST_ORA_USER;
 283     CREATE USER $DBICTEST_ORA_EXTRAUSER_USER IDENTIFIED BY $DBICTEST_ORA_EXTRAUSER_PASS;
 284     GRANT connect,resource TO $DBICTEST_ORA_EXTRAUSER_USER;
 285   '"
 286
 287   export ORACLE_HOME="$CACHE_DIR/poormanscache-OracleXE-10.2.0_deb_mixed/ora_instaclient/x86-64/oracle_instaclient_10.2.0.5.0"
 288
 289 ### config db2exc
 290   # we may have skipped installation due to low memory
 291   if dpkg -l db2exc &>/dev/null ; then
 292     # WTF is this world-writable?
 293     # Strip the write bit so it doesn't trip Ubuntu's symlink-in-/tmp attack mitigation
 294     sudo chmod -R o-w ~dasusr1/das
 295
 296     export DB2_HOME=/opt/ibm/db2/V9.7
 297     export DBICTEST_DB2_DSN=dbi:DB2:DATABASE=dbictest
 298     export DBICTEST_DB2_USER=db2inst1
 299     export DBICTEST_DB2_PASS=abc123456
 300
 301     run_or_err "Set up DB2 users" \
 302       "echo -e '$DBICTEST_DB2_PASS\n$DBICTEST_DB2_PASS' | sudo passwd $DBICTEST_DB2_USER"
 303
 304     run_or_err "Create DB2 database" \
 305       "sudo -u $DBICTEST_DB2_USER -i db2 'CREATE DATABASE dbictest' && sudo -u $DBICTEST_DB2_USER -i db2 'ACTIVATE DATABASE dbictest'"
 306   fi
 307
 308 fi