Enable and fix many extra warnings supported by GCC and Clang.
[tinc] / configure.ac
1 dnl Process this file with autoconf to produce a configure script.
2
3 origcflags="$CFLAGS"
4
5 AC_PREREQ([2.69])
6 AC_INIT([tinc], m4_esyscmd_s((git describe || echo UNKNOWN) | sed 's/release-//'))
7 AC_CONFIG_SRCDIR([src/tincd.c])
8 AM_INIT_AUTOMAKE([std-options subdir-objects nostdinc silent-rules -Wall])
9 AC_CONFIG_HEADERS([config.h])
10 AC_CONFIG_MACRO_DIR([m4])
11 AM_SILENT_RULES([yes])
12
13 AC_USE_SYSTEM_EXTENSIONS
14
15 dnl Checks for programs.
16 AC_PROG_CC
17 AC_PROG_CC_C99
18 AC_PROG_CPP
19 AC_PROG_INSTALL
20 AC_PROG_LN_S
21 AM_PROG_CC_C_O
22
23 dnl Check whether to enable code coverage testing, and if so, clear the default CFLAGS.
24 AX_CODE_COVERAGE
25 AS_IF([test "x$enable_code_coverage" = "xyes" -a "x$origcflags" = "x"], [CFLAGS=""])
26
27 dnl Check and set OS
28
29 AC_CANONICAL_HOST
30
31 case $host_os in
32   *linux*)
33     linux=true
34     AC_DEFINE(HAVE_LINUX, 1, [Linux])
35   ;;
36   *freebsd*)
37     bsd=true
38     AC_DEFINE(HAVE_FREEBSD, 1, [FreeBSD])
39   ;;
40   *darwin*)
41     bsd=true
42     AC_DEFINE(HAVE_DARWIN, 1, [Darwin (MacOS/X)])
43   ;;
44   *solaris*)
45     solaris=true
46     AC_DEFINE(HAVE_SOLARIS, 1, [Solaris/SunOS])
47   ;;
48   *openbsd*)
49     bsd=true
50     AC_DEFINE(HAVE_OPENBSD, 1, [OpenBSD])
51   ;;
52   *netbsd*)
53     bsd=true
54     AC_DEFINE(HAVE_NETBSD, 1, [NetBSD])
55   ;;
56   *dragonfly*)
57     bsd=true
58     AC_DEFINE(HAVE_DRAGONFLY, 1, [DragonFly])
59   ;;
60   *bsd*)
61     bsd=true
62     AC_MSG_WARN("Unknown BSD variant, tinc might not compile or work!")
63     AC_DEFINE(HAVE_BSD, 1, [Unknown BSD variant])
64   ;;
65   *cygwin*)
66     AC_MSG_ERROR("Cygwin is no longer supported. Use MinGW to build native Windows binaries.")
67   ;;
68   *mingw*)
69     mingw=true
70     AC_DEFINE(HAVE_MINGW, 1, [MinGW])
71     LIBS="$LIBS -lws2_32 -lgdi32 -lcrypt32 -liphlpapi -lwinpthread"
72     LDFLAGS="$LDFLAGS -static"
73     CPPFLAGS="$CPPFLAGS -DMINIUPNP_STATICLIB"
74   ;;
75   *)
76     AC_MSG_ERROR("Unknown operating system.")
77   ;;
78 esac
79
80 AC_ARG_ENABLE(uml,
81   AS_HELP_STRING([--enable-uml], [enable support for User Mode Linux]),
82   [ AS_IF([test "x$enable_uml" = "xyes"],
83       [ AC_DEFINE(ENABLE_UML, 1, [Support for UML])
84         uml=true
85       ],
86       [uml=false])
87   ],
88   [uml=false]
89 )
90
91 AC_ARG_ENABLE(vde,
92   AS_HELP_STRING([--enable-vde], [enable support for Virtual Distributed Ethernet]),
93   [ AS_IF([test "x$enable_vde" = "xyes"],
94       [ AC_CHECK_HEADERS(libvdeplug.h,
95         [AC_CHECK_LIB(vdeplug, vde_close,
96                       [LIBS="$LIBS -lvdeplug"],
97                       [AC_MSG_ERROR("VDE plug library files not found.")]
98         )],
99         [AC_MSG_ERROR([VDE plug header files not found.]); break])
100         AC_DEFINE(ENABLE_VDE, 1, [Support for VDE])
101         vde=true
102       ],
103       [vde=false])
104   ],
105   [vde=false]
106 )
107
108 AC_ARG_ENABLE(tunemu,
109   AS_HELP_STRING([--enable-tunemu], [enable support for the tunemu driver]),
110   [ AS_IF([test "x$enable_tunemu" = "xyes"],
111       [ AC_DEFINE(ENABLE_TUNEMU, 1, [Support for tunemu])
112         tunemu=true
113       ],
114       [tunemu=false])
115   ],
116   [tunemu=false]
117 )
118
119 AC_ARG_WITH(systemd,
120   AS_HELP_STRING([--with-systemd@<:@=DIR@:>@], [install systemd service files @<:@to DIR if specified@:>@]),
121   [ systemd=true; systemd_path="$with_systemd" ],
122   [ systemd=false ]
123 )
124
125 AS_IF([test "x$with_systemd" = "xyes"], [systemd_path="\${libdir}/systemd/system"],
126       [AS_IF([test "x$with_systemd" = "xno"], [systemd=false])])
127
128 AC_SUBST(systemd_path, $systemd_path)
129
130 AM_CONDITIONAL(LINUX, test "$linux" = true)
131 AM_CONDITIONAL(BSD, test "$bsd" = true)
132 AM_CONDITIONAL(SOLARIS, test "$solaris" = true)
133 AM_CONDITIONAL(MINGW, test "$mingw" = true)
134 AM_CONDITIONAL(CYGWIN, test "$cygwin" = true)
135 AM_CONDITIONAL(UML, test "$uml" = true)
136 AM_CONDITIONAL(VDE, test "$vde" = true)
137 AM_CONDITIONAL(TUNEMU, test "$tunemu" = true)
138 AM_CONDITIONAL(WITH_SYSTEMD, test "$systemd" = true)
139 AM_CONDITIONAL(WITH_LEGACY_PROTOCOL, test "x$enable_legacy_protocol" != "xno")
140
141 AC_CACHE_SAVE
142
143 AS_IF([test -d /sw/include], [CPPFLAGS="$CPPFLAGS -I/sw/include"])
144 AS_IF([test -d /sw/lib], [LIBS="$LIBS -L/sw/lib"])
145
146 dnl Compiler hardening flags
147 dnl No -fstack-protector-all because it doesn't work on all platforms or architectures.
148
149 AX_CFLAGS_WARN_ALL(CFLAGS)
150
151 AC_ARG_ENABLE([hardening], AS_HELP_STRING([--disable-hardening], [disable compiler and linker hardening flags]))
152 AS_IF([test "x$enable_hardening" != "xno"],
153   [AX_CHECK_COMPILE_FLAG([-D_FORTIFY_SOURCE=2], [CPPFLAGS="$CPPFLAGS -D_FORTIFY_SOURCE=2"])
154    AX_CHECK_COMPILE_FLAG([-fwrapv], [CPPFLAGS="$CPPFLAGS -fwrapv"],
155    AX_CHECK_COMPILE_FLAG([-fno-strict-overflow], [CPPFLAGS="$CPPFLAGS -fno-strict-overflow"]))
156    case $host_os in
157      *mingw*)
158        AX_CHECK_LINK_FLAG([-Wl,--dynamicbase], [LDFLAGS="$LDFLAGS -Wl,--dynamicbase"])
159        AX_CHECK_LINK_FLAG([-Wl,--nxcompat], [LDFLAGS="$LDFLAGS -Wl,--nxcompat"])
160        AX_CHECK_LINK_FLAG([-lssp], [LDFLAGS="$LDFLAGS -lssp"])
161        ;;
162      *)
163        AX_CHECK_COMPILE_FLAG([-fPIE], [CPPFLAGS="$CPPFLAGS -fPIE"])
164        AX_CHECK_LINK_FLAG([-pie], [LDFLAGS="$LDFLAGS -pie"])
165        ;;
166    esac
167    AX_CHECK_LINK_FLAG([-Wl,-z,relro], [LDFLAGS="$LDFLAGS -Wl,-z,relro"])
168    AX_CHECK_LINK_FLAG([-Wl,-z,now], [LDFLAGS="$LDFLAGS -Wl,-z,now"])
169    AX_CHECK_COMPILE_FLAG([-W -Wextra -pedantic -Wreturn-type -Wold-style-definition -Wmissing-declarations -Wmissing-prototypes -Wstrict-prototypes -Wredundant-decls -Wbad-function-cast -Wwrite-strings -fdiagnostics-show-option -fstrict-aliasing -Wmissing-noreturn],
170      [CPPFLAGS="$CPPFLAGS -W -Wextra -pedantic -Wreturn-type -Wold-style-definition -Wmissing-declarations -Wmissing-prototypes -Wstrict-prototypes -Wredundant-decls -Wbad-function-cast -Wwrite-strings -fdiagnostics-show-option -fstrict-aliasing -Wmissing-noreturn"])
171   ]
172 );
173
174 dnl Checks for header files.
175 dnl We do this in multiple stages, because unlike Linux all the other operating systems really suck and don't include their own dependencies.
176
177 AC_CHECK_HEADERS([syslog.h sys/file.h sys/ioctl.h sys/mman.h sys/param.h sys/resource.h sys/socket.h sys/time.h sys/un.h sys/wait.h netdb.h arpa/inet.h dirent.h getopt.h stddef.h sys/epoll.h])
178 AC_CHECK_HEADERS([net/if.h net/if_types.h net/ethernet.h net/if_arp.h netinet/in_systm.h netinet/in.h netinet/in6.h netpacket/packet.h],
179   [], [], [#include "$srcdir/src/have.h"]
180 )
181 AC_CHECK_HEADERS([netinet/if_ether.h netinet/ip.h netinet/ip6.h resolv.h],
182   [], [], [#include "$srcdir/src/have.h"]
183 )
184 AC_CHECK_HEADERS([netinet/tcp.h netinet/ip_icmp.h netinet/icmp6.h],
185   [], [], [#include "$srcdir/src/have.h"]
186 )
187
188 dnl Checks for typedefs, structures, and compiler characteristics.
189 tinc_ATTRIBUTE(__malloc__)
190 tinc_ATTRIBUTE(__nonnull__)
191 tinc_ATTRIBUTE(__warn_unused_result__)
192
193 AC_CHECK_TYPES([struct ether_header, struct arphdr, struct ether_arp, struct ip, struct icmp, struct ip6_hdr, struct icmp6_hdr, struct nd_neighbor_solicit, struct nd_opt_hdr], , ,
194   [#include "$srcdir/src/have.h"]
195 )
196
197 dnl Checks for library functions.
198 AC_CHECK_FUNCS([asprintf daemon fchmod flock fork gettimeofday mlockall putenv recvmmsg strsignal nanosleep unsetenv vsyslog devname fdevname],
199   [], [], [#include "$srcdir/src/have.h"]
200 )
201
202 AC_CHECK_FUNC(getopt_long, [getopt=true; AC_DEFINE(HAVE_GETOPT_LONG, 1, [getopt_long()])], [getopt=false])
203 AM_CONDITIONAL(GETOPT, test "$getopt" = true)
204
205 AC_CHECK_DECLS([res_init], [AC_CHECK_LIB(resolv, res_init)], [], [
206   #include <netinet/in.h>
207   #include <resolv.h>
208 ])
209
210 dnl Operating system specific checks
211 case $host_os in
212   *linux*)
213     AC_CHECK_HEADERS([linux/if_tun.h],
214       [], [AC_MSG_ERROR([Required header file missng])], [#include "$srcdir/src/have.h"]
215     )
216   ;;
217   *bsd*|*dragonfly*|*darwin*)
218     AC_CHECK_HEADERS([net/if_tun.h net/if_utun.h net/tun/if_tun.h net/if_tap.h net/tap/if_tap.h],
219       [], [], [#include "$srcdir/src/have.h"]
220     )
221   ;;
222   *solaris*)
223     AC_CHECK_FUNC(socket, [], [AC_CHECK_LIB(socket, connect)])
224   ;;
225   *)
226   ;;
227 esac
228
229 AC_CACHE_SAVE
230
231 AC_ARG_ENABLE(legacy-protocol,
232   AS_HELP_STRING([--disable-legacy-protocol], [disable support for the legacy (tinc 1.0) protocol]),
233   [ AS_IF([test "x$enable_legacy_protocol" = "xno"],
234     [ AC_DEFINE(DISABLE_LEGACY, 1, [Disable support for the legacy (tinc 1.0) protocol]) ])
235   ]
236 )
237
238 dnl These are defined in files in m4/
239
240 dnl AC_ARG_WITH(libgcrypt, AS_HELP_STRING([--with-libgcrypt], [enable use of libgcrypt instead of OpenSSL])], [])
241 dnl AC_ARG_WITH(openssl, AS_HELP_STRING([--without-openssl], [disable support for OpenSSL])], [])
242
243 tinc_CURSES
244 tinc_READLINE
245 tinc_ZLIB
246 tinc_LZO
247 tinc_LZ4
248
249 AS_IF([test "x$enable_legacy_protocol" != "xno"],
250       [AS_IF([test -n "$with_libgcrypt"],
251              [gcrypt=true; tinc_LIBGCRYPT],
252              [openssl=true; tinc_OPENSSL])
253       ]
254 )
255
256 AM_CONDITIONAL(OPENSSL, test -n "$openssl")
257 AM_CONDITIONAL(GCRYPT, test -n "$gcrypt")
258
259 tinc_MINIUPNPC
260 AM_CONDITIONAL(MINIUPNPC, test "x$enable_miniupnpc" = "xyes")
261
262 dnl Check if support for jumbograms is requested
263 AC_ARG_ENABLE(jumbograms,
264   AS_HELP_STRING([--enable-jumbograms], [enable support for jumbograms (packets up to 9000 bytes)]),
265   [ AS_IF([test "x$enable_jumbograms" = "xyes"],
266       [ AC_DEFINE(ENABLE_JUMBOGRAMS, 1, [Support for jumbograms (packets up to 9000 bytes)]) ])
267   ]
268 )
269
270 dnl Ensure runstatedir is set if we are using a version of autoconf that does not support it
271 if test "x$runstatedir" = "x"; then
272   AC_SUBST([runstatedir], ['${localstatedir}/run'])
273 fi
274
275 AC_CONFIG_FILES([Makefile src/Makefile doc/Makefile test/Makefile test/testlib.sh systemd/Makefile bash_completion.d/Makefile])
276
277 AC_OUTPUT