Make it possible to override the mistrustnm hint in Solaris.
[p5sagit/p5-mst-13.2.git] / hints / solaris_2.sh
1 # hints/solaris_2.sh
2 # Contributions by (in alphabetical order) Alan Burlison, Andy Dougherty,
3 # Dean Roehrich, Jarkko Hietaniemi, Lupe Christoph, Richard Soderberg and
4 # many others.
5 #
6 # See README.solaris for additional information.
7 #
8 # For consistency with gcc, we do not adopt Sun Marketing's
9 # removal of the '2.' prefix from the Solaris version number.
10 # (Configure tries to detect an old fixincludes and needs
11 # this information.)
12
13 # If perl fails tests that involve dynamic loading of extensions, and
14 # you are using gcc, be sure that you are NOT using GNU as and ld.  One
15 # way to do that is to invoke Configure with
16 #
17 #     sh Configure -Dcc='gcc -B/usr/ccs/bin/'
18 #
19 #  (Note that the trailing slash is *required*.)
20 #  gcc will occasionally emit warnings about "unused prefix", but
21 #  these ought to be harmless.  See below for more details.
22
23 # Solaris has secure SUID scripts
24 d_suidsafe=${d_suidsafe:-define}
25
26 # Be paranoid about nm failing to find symbols
27 mistrustnm=${mistrustnm:-run}
28
29 # Several people reported problems with perl's malloc, especially
30 # when use64bitall is defined or when using gcc.
31 #     http://www.xray.mpe.mpg.de/mailing-lists/perl5-porters/2001-01/msg01318.html
32 #     http://www.xray.mpe.mpg.de/mailing-lists/perl5-porters/2001-01/msg00465.html
33 usemymalloc=${usemymalloc:-false}
34
35 # Avoid all libraries in /usr/ucblib.
36 # /lib is just a symlink to /usr/lib
37 set `echo $glibpth | sed -e 's@/usr/ucblib@@' -e 's@ /lib @ @'`
38 glibpth="$*"
39
40 # Remove unwanted libraries.  -lucb contains incompatible routines.
41 # -lld and -lsec don't do anything useful. -lcrypt does not
42 # really provide anything we need over -lc, so we drop it, too.
43 # -lmalloc can cause a problem with GNU CC & Solaris.  Specifically,
44 # libmalloc.a may allocate memory that is only 4 byte aligned, but
45 # GNU CC on the Sparc assumes that doubles are 8 byte aligned.
46 # Thanks to  Hallvard B. Furuseth <h.b.furuseth@usit.uio.no>
47 set `echo " $libswanted " | sed -e 's@ ld @ @' -e 's@ malloc @ @' -e 's@ ucb @ @' -e 's@ sec @ @' -e 's@ crypt @ @'`
48 libswanted="$*"
49
50 # Look for architecture name.  We want to suggest a useful default.
51 case "$archname" in
52 '')
53     if test -f /usr/bin/arch; then
54         archname=`/usr/bin/arch`
55         archname="${archname}-${osname}"
56     elif test -f /usr/ucb/arch; then
57         archname=`/usr/ucb/arch`
58         archname="${archname}-${osname}"
59     fi
60     ;;
61 esac
62
63 #
64 # This extracts the library directories that will be searched by the Sun
65 # Workshop compiler, given the command-line supplied in $tryworkshopcc.
66 # Use thusly: loclibpth="`$getworkshoplibs` $loclibpth"
67 #
68         getworkshoplibs=`cat <<'END'
69 eval $tryworkshopcc -### 2>&1 | \
70 sed -n '/ -Y /s!.* -Y "P,\([^"]*\)".*!\1!p' | tr ':' ' ' | \
71 sed -e 's!/usr/lib/sparcv9!!' -e 's!/usr/ccs/lib/sparcv9!!' \
72     -e 's!/usr/lib!!g' -e 's!/usr/ccs/lib!!g'
73 END
74 `
75
76 case "$cc" in
77 '')     if test -f /opt/SUNWspro/bin/cc; then
78                 cc=/opt/SUNWspro/bin/cc
79                 cat <<EOF >&4   
80
81 You specified no cc but you seem to have the Workshop compiler
82 ($cc) installed, using that.
83 If you want something else, specify that in the command line,
84 e.g. Configure -Dcc=gcc
85
86 EOF
87         fi
88         ;;
89 esac
90
91 ######################################################
92 # General sanity testing.  See below for excerpts from the Solaris FAQ.
93 #
94 # From roehrich@ironwood-fddi.cray.com Wed Sep 27 12:51:46 1995
95 # Date: Thu, 7 Sep 1995 16:31:40 -0500
96 # From: Dean Roehrich <roehrich@ironwood-fddi.cray.com>
97 # To: perl5-porters@africa.nicoh.com
98 # Subject: Re: On perl5/solaris/gcc
99 #
100 # Here's another draft of the perl5/solaris/gcc sanity-checker.
101
102 case `type ${cc:-cc}` in
103 */usr/ucb/cc*) cat <<END >&4
104
105 NOTE:  Some people have reported problems with /usr/ucb/cc.
106 If you have difficulties, please make sure the directory
107 containing your C compiler is before /usr/ucb in your PATH.
108
109 END
110 ;;
111 esac
112
113
114 # Check that /dev/fd is mounted.  If it is not mounted, let the
115 # user know that suid scripts may not work.
116 mount | grep '^/dev/fd ' 2>&1 > /dev/null
117 case $? in
118 0) ;;
119 *)
120         cat <<END >&4
121
122 NOTE: Your system does not have /dev/fd mounted.  If you want to
123 be able to use set-uid scripts you must ask your system administrator
124 to mount /dev/fd.
125
126 END
127         ;;
128 esac
129
130
131 # See if libucb can be found in /usr/lib.  If it is, warn the user
132 # that this may cause problems while building Perl extensions.
133 /usr/bin/ls /usr/lib/libucb* >/dev/null 2>&1
134 case $? in
135 0)
136         cat <<END >&4
137
138 NOTE: libucb has been found in /usr/lib.  libucb should reside in
139 /usr/ucblib.  You may have trouble while building Perl extensions.
140
141 END
142 ;;
143 esac
144
145 # Use shell built-in 'type' command instead of /usr/bin/which to
146 # avoid possible csh start-up problems and also to use the same shell
147 # we'll be using to Configure and make perl.
148 # The path name is the last field in the output, but the type command
149 # has an annoying array of possible outputs, e.g.:
150 #       make is hashed (/opt/gnu/bin/make)
151 #       cc is /usr/ucb/cc
152 #       foo not found
153 # use a command like type make | awk '{print $NF}' | sed 's/[()]//g'
154
155 # See if make(1) is GNU make(1).
156 # If it is, make sure the setgid bit is not set.
157 make -v > make.vers 2>&1
158 if grep GNU make.vers > /dev/null 2>&1; then
159     tmp=`type make | awk '{print $NF}' | sed 's/[()]//g'`
160     case "`/usr/bin/ls -lL $tmp`" in
161     ??????s*)
162             cat <<END >&2
163
164 NOTE: Your PATH points to GNU make, and your GNU make has the set-group-id
165 bit set.  You must either rearrange your PATH to put /usr/ccs/bin before the
166 GNU utilities or you must ask your system administrator to disable the
167 set-group-id bit on GNU make.
168
169 END
170             ;;
171     esac
172 fi
173 rm -f make.vers
174
175 cat > UU/cc.cbu <<'EOCBU'
176 # This script UU/cc.cbu will get 'called-back' by Configure after it
177 # has prompted the user for the C compiler to use.
178
179 # If the C compiler is gcc:
180 #   - check the fixed-includes
181 #   - check as(1) and ld(1), they should not be GNU
182 #       (GNU as and ld 2.8.1 and later are reportedly ok, however.)
183 # If the C compiler is not gcc:
184 #   - Check if it is the Workshop/Forte compiler.
185 #     If it is, prepare for 64 bit and long doubles.
186 #   - check as(1) and ld(1), they should not be GNU
187 #       (GNU as and ld 2.8.1 and later are reportedly ok, however.)
188 #
189 # Watch out in case they have not set $cc.
190
191 # Perl compiled with some combinations of GNU as and ld may not
192 # be able to perform dynamic loading of extensions.  If you have a
193 # problem with dynamic loading, be sure that you are using the Solaris
194 # /usr/ccs/bin/as and /usr/ccs/bin/ld.  You can do that with
195 #               sh Configure -Dcc='gcc -B/usr/ccs/bin/'
196 # (note the trailing slash is required).
197 # Combinations that are known to work with the following hints:
198 #
199 #  gcc-2.7.2, GNU as 2.7, GNU ld 2.7
200 #  egcs-1.0.3, GNU as 2.9.1 and GNU ld 2.9.1
201 #       --Andy Dougherty  <doughera@lafayette.edu>
202 #       Tue Apr 13 17:19:43 EDT 1999
203
204 # Get gcc to share its secrets.
205 echo 'int main() { return 0; }' > try.c
206         # Indent to avoid propagation to config.sh
207         verbose=`${cc:-cc} -v -o try try.c 2>&1`
208
209 if echo "$verbose" | grep '^Reading specs from' >/dev/null 2>&1; then
210         #
211         # Using gcc.
212         #
213         cc_name='gcc'
214
215         # See if as(1) is GNU as(1).  GNU as(1) might not work for this job.
216         if echo "$verbose" | grep ' /usr/ccs/bin/as ' >/dev/null 2>&1; then
217             :
218         else
219             cat <<END >&2
220
221 NOTE: You are using GNU as(1).  GNU as(1) might not build Perl.  If you
222 have trouble, you can use /usr/ccs/bin/as by including -B/usr/ccs/bin/
223 in your ${cc:-cc} command.  (Note that the trailing "/" is required.)
224
225 END
226             # Apparently not needed, at least for as 2.7 and later.
227             # cc="${cc:-cc} -B/usr/ccs/bin/"
228         fi
229
230         # See if ld(1) is GNU ld(1).  GNU ld(1) might not work for this job.
231         # Recompute $verbose since we may have just changed $cc.
232         verbose=`${cc:-cc} -v -o try try.c 2>&1 | grep ld 2>&1`
233
234         if echo "$verbose" | grep ' /usr/ccs/bin/ld ' >/dev/null 2>&1; then
235             # Ok, gcc directly calls the Solaris /usr/ccs/bin/ld.
236             :
237         elif echo "$verbose" | grep "ld: Software Generation Utilities" >/dev/null 2>&1; then
238             # Hmm.  gcc doesn't call /usr/ccs/bin/ld directly, but it
239             # does appear to be using it eventually.  egcs-1.0.3's ld
240             # wrapper does this.
241             # All Solaris versions of ld I've seen contain the magic
242             # string used in the grep.
243             :
244         else
245             # No evidence yet of /usr/ccs/bin/ld.  Some versions
246             # of egcs's ld wrapper call /usr/ccs/bin/ld in turn but
247             # apparently don't reveal that unless you pass in -V.
248             # (This may all depend on local configurations too.)
249
250             # Recompute verbose with -Wl,-v to find GNU ld if present
251             verbose=`${cc:-cc} -v -Wl,-v -o try try.c 2>&1 | grep ld 2>&1`
252
253             myld=`echo $verbose| grep ld | awk '/\/ld/ {print $1}'`
254             # This assumes that gcc's output will not change, and that
255             # /full/path/to/ld will be the first word of the output.
256             # Thus myld is something like /opt/gnu/sparc-sun-solaris2.5/bin/ld
257
258             # Allow that $myld may be '', due to changes in gcc's output 
259             if ${myld:-ld} -V 2>&1 |
260                 grep "ld: Software Generation Utilities" >/dev/null 2>&1; then
261                 # Ok, /usr/ccs/bin/ld eventually does get called.
262                 :
263             else
264                 echo "Found GNU ld='$myld'" >&4
265                 cat <<END >&2
266
267 NOTE: You are using GNU ld(1).  GNU ld(1) might not build Perl.  If you
268 have trouble, you can use /usr/ccs/bin/ld by including -B/usr/ccs/bin/
269 in your ${cc:-cc} command.  (Note that the trailing "/" is required.)
270
271 I will try to use GNU ld by passing in the -Wl,-E flag, but if that
272 doesn't work, you should use -B/usr/ccs/bin/ instead.
273
274 END
275                 ccdlflags="$ccdlflags -Wl,-E"
276                 lddlflags="$lddlflags -Wl,-E -G"
277             fi
278         fi
279
280 else
281         #
282         # Not using gcc.
283         #
284         cat > try.c << 'EOM'
285 #include <stdio.h>
286 int main() {
287 #ifdef __SUNPRO_C
288         printf("workshop\n");
289 #else
290         printf("\n");
291 #endif
292 return(0);
293 }
294 EOM
295         tryworkshopcc="${cc:-cc} try.c -o try"
296         if $tryworkshopcc >/dev/null 2>&1; then
297                 cc_name=`./try`
298                 if test "$cc_name" = "workshop"; then
299                         ccversion="`${cc:-cc} -V 2>&1|sed -n -e '1s/^cc: //p'`"
300                         if test ! "$use64bitall_done"; then
301                                 loclibpth="/usr/lib /usr/ccs/lib `$getworkshoplibs` $loclibpth"
302                         fi
303                 fi
304         fi
305
306         # See if as(1) is GNU as(1).  GNU might not work for this job.
307         case `as --version < /dev/null 2>&1` in
308         *GNU*)
309                 cat <<END >&2
310
311 NOTE: You are using GNU as(1).  GNU as(1) might not build Perl.
312 You must arrange to use /usr/ccs/bin/as, perhaps by adding /usr/ccs/bin
313 to the beginning of your PATH.
314
315 END
316                 ;;
317         esac
318
319         # See if ld(1) is GNU ld(1).  GNU ld(1) might not work for this job.
320         # ld --version doesn't properly report itself as a GNU tool,
321         # as of ld version 2.6, so we need to be more strict. TWP 9/5/96
322         # Sun's ld always emits the "Software Generation Utilities" string.
323         if ld -V 2>&1 | grep "ld: Software Generation Utilities" >/dev/null 2>&1; then
324             # Ok, ld is /usr/ccs/bin/ld.
325             :
326         else
327             cat <<END >&2
328
329 NOTE: You are apparently using GNU ld(1).  GNU ld(1) might not build Perl.
330 You should arrange to use /usr/ccs/bin/ld, perhaps by adding /usr/ccs/bin
331 to the beginning of your PATH.
332
333 END
334         fi
335 fi
336
337 # Check to see if the selected compiler and linker
338 # support the -z ignore, -z lazyload and -z combreloc flags.
339 echo "int main() { return(0); } " > try.c
340         zflgs=''
341 for zf in ignore lazyload combreloc; do
342         if ${cc:-cc} -o try try.c -z $zf > /dev/null 2>&1; then
343                 zflgs="$zflgs -z $zf"
344         fi
345 done
346 if test -n "$zflgs"; then
347         ccdlflags="$ccdlflags $zflgs"
348         lddlflags="$lddlflags -G $zflgs"
349 fi
350
351 # as --version or ld --version might dump core.
352 rm -f try try.c core
353 EOCBU
354
355 cat > UU/usethreads.cbu <<'EOCBU'
356 # This script UU/usethreads.cbu will get 'called-back' by Configure
357 # after it has prompted the user for whether to use threads.
358 case "$usethreads" in
359 $define|true|[yY]*)
360         ccflags="-D_REENTRANT $ccflags"
361
362         sched_yield='yield'
363         set `echo X "$libswanted "| sed -e "s/ c / pthread c /"`
364         shift
365         libswanted="$*"
366
367         # On Solaris 2.6 x86 there is a bug with sigsetjmp() and siglongjmp()
368         # when linked with the threads library, such that whatever positive
369         # value you pass to siglongjmp(), sigsetjmp() returns 1.
370         # Thanks to Simon Parsons <S.Parsons@ftel.co.uk> for this report.
371         # Sun BugID is 4117946, "sigsetjmp always returns 1 when called by
372         # siglongjmp in a MT program". As of 19980622, there is no patch
373         # available.
374         cat >try.c <<'EOM'
375         /* Test for sig(set|long)jmp bug. */
376         #include <setjmp.h>
377
378         int main()
379         {
380             sigjmp_buf env;
381             int ret;
382
383             ret = sigsetjmp(env, 1);
384             if (ret) { return ret == 2; }
385             siglongjmp(env, 2);
386         }
387 EOM
388         if test "`arch`" = i86pc -a `uname -r` = 5.6 && \
389            ${cc:-cc} try.c -lpthread >/dev/null 2>&1 && ./a.out; then
390             d_sigsetjmp=$undef
391             cat << 'EOM' >&2
392
393 You will see a *** WHOA THERE!!! ***  message from Configure for
394 d_sigsetjmp.  Keep the recommended value.  See hints/solaris_2.sh
395 for more information.
396
397 EOM
398         fi
399
400         # These prototypes should be visible since we using
401         # -D_REENTRANT, but that does not seem to work.
402         # It does seem to work for getnetbyaddr_r, weirdly enough,
403         # and other _r functions. (Solaris 8)
404
405         d_ctermid_r_proto="$define"
406         d_gethostbyaddr_r_proto="$define"
407         d_gethostbyname_r_proto="$define"
408         d_getnetbyname_r_proto="$define"
409         d_getprotobyname_r_proto="$define"
410         d_getprotobynumber_r_proto="$define"
411         d_getservbyname_r_proto="$define"
412         d_getservbyport_r_proto="$define"
413
414         # Ditto. (Solaris 7)
415         d_readdir_r_proto="$define"
416         d_readdir64_r_proto="$define"
417         d_tmpnam_r_proto="$define"
418         d_ttyname_r_proto="$define"
419
420         ;;
421 esac
422 EOCBU
423
424 cat > UU/uselargefiles.cbu <<'EOCBU'
425 # This script UU/uselargefiles.cbu will get 'called-back' by Configure
426 # after it has prompted the user for whether to use large files.
427 case "$uselargefiles" in
428 ''|$define|true|[yY]*)
429
430 # Keep these in the left margin.
431 ccflags_uselargefiles="`getconf LFS_CFLAGS 2>/dev/null`"
432 ldflags_uselargefiles="`getconf LFS_LDFLAGS 2>/dev/null`"
433 libswanted_uselargefiles="`getconf LFS_LIBS 2>/dev/null|sed -e 's@^-l@@' -e 's@ -l@ @g`"
434
435     ccflags="$ccflags $ccflags_uselargefiles"
436     ldflags="$ldflags $ldflags_uselargefiles"
437     libswanted="$libswanted $libswanted_uselargefiles"
438     ;;
439 esac
440 EOCBU
441
442 # This is truly a mess.
443 case "$usemorebits" in
444 "$define"|true|[yY]*)
445         use64bitint="$define"
446         uselongdouble="$define"
447         ;;
448 esac
449
450 if test `uname -p` = "sparc"; then
451     cat > UU/use64bitint.cbu <<'EOCBU'
452 # This script UU/use64bitint.cbu will get 'called-back' by Configure
453 # after it has prompted the user for whether to use 64 bit integers.
454 case "$use64bitint" in
455 "$define"|true|[yY]*)
456             case "`uname -r`" in
457             5.[0-4])
458                 cat >&4 <<EOM
459 Solaris `uname -r|sed -e 's/^5\./2./'` does not support 64-bit integers.
460 You should upgrade to at least Solaris 2.5.
461 EOM
462                 exit 1
463                 ;;
464             esac
465             ;;
466 esac
467 # gcc-2.8.1 on Solaris 8 with -Duse64bitint fails op/pat.t test 822
468 # if we compile regexec.c with -O.  Turn off optimization for that one
469 # file.  See hints/README.hints , especially 
470 # =head2 Propagating variables to config.sh, method 3.
471 #  A. Dougherty  May 24, 2002
472 case "$use64bitint" in
473 "$define")
474     case "${gccversion}-${optimize}" in
475     2.8*-O*)
476         # Honor a command-line override (rather unlikely)
477         case "$regexec_cflags" in
478         '') echo "Disabling optimization on regexec.c for gcc $gccversion" >&4
479             regexec_cflags='optimize='
480             echo "regexec_cflags='optimize=\"\"'" >> config.sh 
481             ;;
482         esac
483         ;;
484     esac
485     ;;
486 esac
487 EOCBU
488
489     cat > UU/use64bitall.cbu <<'EOCBU'
490 # This script UU/use64bitall.cbu will get 'called-back' by Configure
491 # after it has prompted the user for whether to be maximally 64 bitty.
492 case "$use64bitall-$use64bitall_done" in
493 "$define-"|true-|[yY]*-)
494             case "`uname -r`" in
495             5.[0-6])
496                 cat >&4 <<EOM
497 Solaris `uname -r|sed -e 's/^5\./2./'` does not support 64-bit pointers.
498 You should upgrade to at least Solaris 2.7.
499 EOM
500                 exit 1
501                 ;;
502             esac
503             libc='/usr/lib/sparcv9/libc.so'
504             if test ! -f $libc; then
505                 cat >&4 <<EOM
506
507 I do not see the 64-bit libc, $libc.
508 Cannot continue, aborting.
509
510 EOM
511                 exit 1
512             fi
513             case "${cc:-cc} -v 2>/dev/null" in
514             *gcc*)
515                 echo 'int main() { return 0; }' > try.c
516                 case "`${cc:-cc} -mcpu=v9 -m64 -S try.c 2>&1 | grep 'm64 is not supported by this configuration'`" in
517                 *"m64 is not supported"*)
518                     cat >&4 <<EOM
519
520 Full 64-bit build is not supported by this gcc configuration.
521 Check http://gcc.gnu.org/ for the latest news of availability
522 of gcc for 64-bit Sparc.
523
524 Cannot continue, aborting.
525
526 EOM
527                     exit 1
528                     ;;
529                 esac
530                 loclibpth="/usr/lib/sparcv9 $loclibpth"
531                 ccflags="$ccflags -mcpu=v9 -m64"
532                 if test X`getconf XBS5_LP64_OFF64_CFLAGS 2>/dev/null` != X; then
533                     ccflags="$ccflags -Wa,`getconf XBS5_LP64_OFF64_CFLAGS 2>/dev/null`"
534                 fi
535                 # no changes to ld flags, as (according to man ld):
536                 #
537                 # There is no specific option that tells ld to link 64-bit
538                 # objects; the class of the first object that gets processed
539                 # by ld determines whether it is to perform a 32-bit or a
540                 # 64-bit link edit.
541                 ;;
542             *)
543                 ccflags="$ccflags `getconf XBS5_LP64_OFF64_CFLAGS 2>/dev/null`"
544                 ldflags="$ldflags `getconf XBS5_LP64_OFF64_LDFLAGS 2>/dev/null`"
545                 lddlflags="$lddlflags -G `getconf XBS5_LP64_OFF64_LDFLAGS 2>/dev/null`"
546                 echo "int main() { return(0); } " > try.c
547                 tryworkshopcc="${cc:-cc} try.c -o try $ccflags"
548                 loclibpth="/usr/lib/sparcv9 /usr/ccs/lib/sparcv9 `$getworkshoplibs` $loclibpth"
549                 ;;
550             esac
551
552             use64bitall_done=yes
553             archname64=64
554             ;;
555 esac
556 EOCBU
557
558     # Actually, we want to run this already now, if so requested,
559     # because we need to fix up things right now.
560     case "$use64bitall" in
561     "$define"|true|[yY]*)
562         # CBUs expect to be run in UU
563         cd UU; . ./use64bitall.cbu; cd ..
564         ;;
565     esac
566 fi
567
568 cat > UU/uselongdouble.cbu <<'EOCBU'
569 # This script UU/uselongdouble.cbu will get 'called-back' by Configure
570 # after it has prompted the user for whether to use long doubles.
571 case "$uselongdouble" in
572 "$define"|true|[yY]*)
573         if test "$cc_name" = "workshop"; then
574                 cat > try.c << 'EOM'
575 #include <sunmath.h>
576 int main() { (void) powl(2, 256); return(0); }
577 EOM
578                 if ${cc:-cc} try.c -lsunmath -o try > /dev/null 2>&1 && ./try; then
579                         libswanted="$libswanted sunmath"
580                 fi
581         else
582                 cat >&4 <<EOM
583
584 The Sun Workshop math library is either not available or not working,
585 so I do not know how to do long doubles, sorry.
586 I'm therefore disabling the use of long doubles.
587 EOM
588                 uselongdouble="$undef"
589         fi
590         ;;
591 esac
592 EOCBU
593
594 rm -f try.c try.o try a.out