selftest: Add linux namespace support (USE_NAMESPACES=1)
[metze/samba/wip.git] / selftest / selftest.pl
1 #!/usr/bin/perl
2 # Bootstrap Samba and run a number of tests against it.
3 # Copyright (C) 2005-2010 Jelmer Vernooij <jelmer@samba.org>
4 # Copyright (C) 2007-2009 Stefan Metzmacher <metze@samba.org>
5
6 # This program is free software; you can redistribute it and/or modify
7 # it under the terms of the GNU General Public License as published by
8 # the Free Software Foundation; either version 3 of the License, or
9 # (at your option) any later version.
10
11 # This program is distributed in the hope that it will be useful,
12 # but WITHOUT ANY WARRANTY; without even the implied warranty of
13 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14 # GNU General Public License for more details.
15
16 # You should have received a copy of the GNU General Public License
17 # along with this program.  If not, see <http://www.gnu.org/licenses/>.
18
19 use strict;
20
21 use FindBin qw($RealBin $Script);
22 use File::Spec;
23 use File::Temp qw(tempfile);
24 use Getopt::Long;
25 use POSIX;
26 use Cwd qw(abs_path);
27 use lib "$RealBin";
28 use Subunit;
29 use SocketWrapper;
30 use target::Samba;
31 use Time::HiRes qw(time);
32
33 eval {
34 require Time::HiRes;
35 Time::HiRes->import("time");
36 };
37 if ($@) {
38         print "You don't have Time::Hires installed !\n";
39 }
40
41 my $opt_help = 0;
42 my $opt_target = "samba";
43 my $opt_quick = 0;
44 my $opt_socket_wrapper = 0;
45 my $opt_socket_wrapper_pcap = undef;
46 my $opt_socket_wrapper_keep_pcap = undef;
47 my $opt_random_order = 0;
48 my $opt_one = 0;
49 my @opt_exclude = ();
50 my @opt_include = ();
51 my @opt_exclude_env = ();
52 my @opt_include_env = ();
53 my $opt_testenv = 0;
54 my $opt_list = 0;
55 my $opt_mitkrb5 = 0;
56 my $ldap = undef;
57 my $opt_resetup_env = undef;
58 my $opt_load_list = undef;
59 my $opt_libnss_wrapper_so_path = "";
60 my $opt_libresolv_wrapper_so_path = "";
61 my $opt_libsocket_wrapper_so_path = "";
62 my $opt_libuid_wrapper_so_path = "";
63 my $opt_libasan_so_path = "";
64 my $opt_use_dns_faking = 0;
65 my @testlists = ();
66
67 my $srcdir = ".";
68 my $bindir = "./bin";
69 my $prefix = "./st";
70
71 my @includes = ();
72 my @excludes = ();
73
74 sub find_in_list($$)
75 {
76         my ($list, $fullname) = @_;
77
78         foreach (@$list) {
79                 if ($fullname =~ /$$_[0]/) {
80                          return ($$_[1]) if ($$_[1]);
81                          return "";
82                 }
83         }
84
85         return undef;
86 }
87
88 sub skip
89 {
90         my ($name, $envname) = @_;
91         my ($env_basename, $env_localpart) = split(/:/, $envname);
92
93         if ($opt_target eq "samba3" && $Samba::ENV_NEEDS_AD_DC{$env_basename}) {
94                 return "environment $envname is disabled as this build does not include an AD DC";
95         }
96
97         if (@opt_include_env && !(grep {$_ eq $env_basename} @opt_include_env)) {
98                 return "environment $envname is disabled (via --include-env command line option) in this test run - skipping";
99         } elsif (@opt_exclude_env && grep {$_ eq $env_basename} @opt_exclude_env) {
100                 return "environment $envname is disabled (via --exclude-env command line option) in this test run - skipping";
101         }
102
103         return find_in_list(\@excludes, $name);
104 }
105
106 sub getlog_env($);
107
108 sub setup_pcap($)
109 {
110         my ($name) = @_;
111
112         return unless ($opt_socket_wrapper_pcap);
113         return unless defined($ENV{SOCKET_WRAPPER_PCAP_DIR});
114
115         my $fname = $name;
116         $fname =~ s%[^abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ0123456789\-]%_%g;
117
118         my $pcap_file = "$ENV{SOCKET_WRAPPER_PCAP_DIR}/$fname.pcap";
119
120         SocketWrapper::setup_pcap($pcap_file);
121
122         return $pcap_file;
123 }
124
125 sub cleanup_pcap($$)
126 {
127         my ($pcap_file, $exitcode) = @_;
128
129         return unless ($opt_socket_wrapper_pcap);
130         return if ($opt_socket_wrapper_keep_pcap);
131         return unless ($exitcode == 0);
132         return unless defined($pcap_file);
133
134         unlink($pcap_file);
135 }
136
137 # expand strings from %ENV
138 sub expand_environment_strings($)
139 {
140         my $s = shift;
141         # we use a reverse sort so we do the longer ones first
142         foreach my $k (sort { $b cmp $a } keys %ENV) {
143                 $s =~ s/\$$k/$ENV{$k}/g;
144         }
145         return $s;
146 }
147
148 sub run_testsuite($$$$$)
149 {
150         my ($envname, $name, $cmd, $i, $totalsuites) = @_;
151         my $pcap_file = setup_pcap($name);
152
153         Subunit::start_testsuite($name);
154         Subunit::progress_push();
155         Subunit::report_time();
156         system($cmd);
157         Subunit::report_time();
158         Subunit::progress_pop();
159
160         if ($? == -1) {
161                 print "command: $cmd\n";
162                 printf "expanded command: %s\n", expand_environment_strings($cmd);
163                 Subunit::end_testsuite($name, "error", "Unable to run $cmd: $!");
164                 exit(1);
165         } elsif ($? & 127) {
166                 print "command: $cmd\n";
167                 printf "expanded command: %s\n", expand_environment_strings($cmd);
168                 Subunit::end_testsuite($name, "error",
169                         sprintf("%s died with signal %d, %s coredump\n", $cmd, ($? & 127),  ($? & 128) ? 'with' : 'without'));
170                 exit(1);
171         }
172
173         my $exitcode = $? >> 8;
174
175         my $envlog = getlog_env($envname);
176         if ($envlog ne "") {
177                 print "envlog: $envlog\n";
178         }
179
180         print "command: $cmd\n";
181         printf "expanded command: %s\n", expand_environment_strings($cmd);
182
183         if ($exitcode == 0) {
184                 Subunit::end_testsuite($name, "success");
185         } else {
186                 Subunit::end_testsuite($name, "failure", "Exit code was $exitcode");
187         }
188
189         cleanup_pcap($pcap_file, $exitcode);
190
191         if (not $opt_socket_wrapper_keep_pcap and defined($pcap_file)) {
192                 print "PCAP FILE: $pcap_file\n";
193         }
194
195         if ($exitcode != 0) {
196                 exit(1) if ($opt_one);
197         }
198
199         return $exitcode;
200 }
201
202 sub ShowHelp()
203 {
204         print "Samba test runner
205 Copyright (C) Jelmer Vernooij <jelmer\@samba.org>
206 Copyright (C) Stefan Metzmacher <metze\@samba.org>
207
208 Usage: $Script [OPTIONS] TESTNAME-REGEX [TESTNAME-REGEX...]
209
210 Generic options:
211  --help                     this help page
212  --target=samba[3]|win      Samba version to target
213  --testlist=FILE            file to read available tests from
214  --exclude=FILE             Exclude tests listed in the file
215  --include=FILE             Include tests listed in the file
216  --exclude-env=ENV          Exclude tests for the specified environment
217  --include-env=ENV          Include tests for the specified environment
218
219 Paths:
220  --prefix=DIR               prefix to run tests in [st]
221  --srcdir=DIR               source directory [.]
222  --bindir=DIR               binaries directory [./bin]
223
224 Preload cwrap:
225  --nss_wrapper_so_path=FILE the nss_wrapper library to preload
226  --resolv_wrapper_so_path=FILE the resolv_wrapper library to preload
227  --socket_wrapper_so_path=FILE the socket_wrapper library to preload
228  --uid_wrapper_so_path=FILE the uid_wrapper library to preload
229  --asan_so_path=FILE the asan library to preload
230
231 DNS:
232   --use-dns-faking          Fake DNS entries rather than talking to our
233                             DNS implementation.
234
235 Target Specific:
236  --socket-wrapper-pcap      save traffic to pcap directories
237  --socket-wrapper-keep-pcap keep all pcap files, not just those for tests that 
238                             failed
239  --socket-wrapper           enable socket wrapper
240
241 Samba4 Specific:
242  --ldap=openldap|fedora-ds  back samba onto specified ldap server
243
244 Behaviour:
245  --quick                    run quick overall test
246  --one                      abort when the first test fails
247  --testenv                  run a shell in the requested test environment
248  --list                     list available tests
249 ";
250         exit(0);
251 }
252
253 my $result = GetOptions (
254                 'help|h|?' => \$opt_help,
255                 'target=s' => \$opt_target,
256                 'prefix=s' => \$prefix,
257                 'socket-wrapper' => \$opt_socket_wrapper,
258                 'socket-wrapper-pcap' => \$opt_socket_wrapper_pcap,
259                 'socket-wrapper-keep-pcap' => \$opt_socket_wrapper_keep_pcap,
260                 'quick' => \$opt_quick,
261                 'one' => \$opt_one,
262                 'exclude=s' => \@opt_exclude,
263                 'include=s' => \@opt_include,
264                 'exclude-env=s' => \@opt_exclude_env,
265                 'include-env=s' => \@opt_include_env,
266                 'srcdir=s' => \$srcdir,
267                 'bindir=s' => \$bindir,
268                 'testenv' => \$opt_testenv,
269                 'list' => \$opt_list,
270                 'mitkrb5' => \$opt_mitkrb5,
271                 'ldap:s' => \$ldap,
272                 'resetup-environment' => \$opt_resetup_env,
273                 'testlist=s' => \@testlists,
274                 'random-order' => \$opt_random_order,
275                 'load-list=s' => \$opt_load_list,
276                 'nss_wrapper_so_path=s' => \$opt_libnss_wrapper_so_path,
277                 'resolv_wrapper_so_path=s' => \$opt_libresolv_wrapper_so_path,
278                 'socket_wrapper_so_path=s' => \$opt_libsocket_wrapper_so_path,
279                 'uid_wrapper_so_path=s' => \$opt_libuid_wrapper_so_path,
280                 'asan_so_path=s' => \$opt_libasan_so_path,
281                 'use-dns-faking' => \$opt_use_dns_faking
282             );
283
284 exit(1) if (not $result);
285
286 ShowHelp() if ($opt_help);
287
288 die("--list and --testenv are mutually exclusive") if ($opt_list and $opt_testenv);
289
290 # we want unbuffered output
291 $| = 1;
292
293 my @tests = @ARGV;
294
295 # quick hack to disable rpc validation when using valgrind - its way too slow
296 unless (defined($ENV{VALGRIND})) {
297         $ENV{VALIDATE} = "validate";
298         $ENV{MALLOC_CHECK_} = 3;
299 }
300
301 # make all our python scripts unbuffered
302 $ENV{PYTHONUNBUFFERED} = 1;
303
304 # do not depend on the users setup
305 $ENV{TZ} = "UTC";
306
307 my $bindir_abs = abs_path($bindir);
308
309 # Backwards compatibility:
310 if (defined($ENV{TEST_LDAP}) and $ENV{TEST_LDAP} eq "yes") {
311         if (defined($ENV{FEDORA_DS_ROOT})) {
312                 $ldap = "fedora-ds";
313         } else {
314                 $ldap = "openldap";
315         }
316 }
317
318 my $torture_maxtime = ($ENV{TORTURE_MAXTIME} or 1200);
319 if ($ldap) {
320         # LDAP is slow
321         $torture_maxtime *= 2;
322 }
323
324 $prefix =~ s+//+/+;
325 $prefix =~ s+/./+/+;
326 $prefix =~ s+/$++;
327
328 die("using an empty prefix isn't allowed") unless $prefix ne "";
329
330 # Ensure we have the test prefix around.
331 #
332 # We need restrictive
333 # permissions on this as some subdirectories in this tree will have
334 # wider permissions (ie 0777) and this would allow other users on the
335 # host to subvert the test process.
336 umask 0077;
337 mkdir($prefix, 0700) unless -d $prefix;
338 chmod 0700, $prefix;
339 # We need to have no umask limitations for the tests.
340 umask 0000;
341
342 my $prefix_abs = abs_path($prefix);
343 my $tmpdir_abs = abs_path("$prefix/tmp");
344 mkdir($tmpdir_abs, 0777) unless -d $tmpdir_abs;
345
346 my $srcdir_abs = abs_path($srcdir);
347
348 die("using an empty absolute prefix isn't allowed") unless $prefix_abs ne "";
349 die("using '/' as absolute prefix isn't allowed") unless $prefix_abs ne "/";
350
351 $ENV{SAMBA_SELFTEST} = "1";
352
353 $ENV{PREFIX} = $prefix;
354 $ENV{PREFIX_ABS} = $prefix_abs;
355 $ENV{SRCDIR} = $srcdir;
356 $ENV{SRCDIR_ABS} = $srcdir_abs;
357 $ENV{GNUPGHOME} = "$srcdir_abs/selftest/gnupg";
358 $ENV{BINDIR} = $bindir_abs;
359
360 my $tls_enabled = not $opt_quick;
361 $ENV{TLS_ENABLED} = ($tls_enabled?"yes":"no");
362
363 sub prefix_pathvar($$)
364 {
365         my ($name, $newpath) = @_;
366         if (defined($ENV{$name})) {
367                 $ENV{$name} = "$newpath:$ENV{$name}";
368         } else {
369                 $ENV{$name} = $newpath;
370         }
371 }
372 prefix_pathvar("PKG_CONFIG_PATH", "$bindir_abs/pkgconfig");
373 prefix_pathvar("PYTHONPATH", "$bindir_abs/python");
374
375 if ($opt_socket_wrapper_keep_pcap) {
376         # Socket wrapper keep pcap implies socket wrapper pcap
377         $opt_socket_wrapper_pcap = 1;
378 }
379
380 if ($opt_socket_wrapper_pcap) {
381         # Socket wrapper pcap implies socket wrapper
382         $opt_socket_wrapper = 1;
383 }
384
385 my $ld_preload = $ENV{LD_PRELOAD};
386
387 if ($opt_libasan_so_path) {
388         if ($ld_preload) {
389                 $ld_preload = "$ld_preload:$opt_libasan_so_path";
390         } else {
391                 $ld_preload = "$opt_libasan_so_path";
392         }
393 }
394
395 if ($opt_libnss_wrapper_so_path) {
396         if ($ld_preload) {
397                 $ld_preload = "$ld_preload:$opt_libnss_wrapper_so_path";
398         } else {
399                 $ld_preload = "$opt_libnss_wrapper_so_path";
400         }
401 }
402
403 if ($opt_libresolv_wrapper_so_path) {
404         if ($ld_preload) {
405                 $ld_preload = "$ld_preload:$opt_libresolv_wrapper_so_path";
406         } else {
407                 $ld_preload = "$opt_libresolv_wrapper_so_path";
408         }
409 }
410
411 if ($opt_libsocket_wrapper_so_path) {
412         if ($ld_preload) {
413                 $ld_preload = "$ld_preload:$opt_libsocket_wrapper_so_path";
414         } else {
415                 $ld_preload = "$opt_libsocket_wrapper_so_path";
416         }
417 }
418
419 if ($opt_libuid_wrapper_so_path) {
420         if ($ld_preload) {
421                 $ld_preload = "$ld_preload:$opt_libuid_wrapper_so_path";
422         } else {
423                 $ld_preload = "$opt_libuid_wrapper_so_path";
424         }
425 }
426
427 if (defined($ENV{USE_NAMESPACES})) {
428         print "Using linux containerization for selftest testenv(s)...\n";
429
430         # Create a common bridge to connect up the testenv namespaces. We give
431         # it the client's IP address, as this is where the tests will run from
432         my $ipv4_addr = Samba::get_ipv4_addr("client");
433         my $ipv6_addr = Samba::get_ipv6_addr("client");
434         system "$ENV{SRCDIR_ABS}/selftest/ns/create_bridge.sh selftest0 $ipv4_addr $ipv6_addr";
435 }
436
437 $ENV{LD_PRELOAD} = $ld_preload;
438 print "LD_PRELOAD=$ENV{LD_PRELOAD}\n";
439
440 # Enable uid_wrapper globally
441 $ENV{UID_WRAPPER} = 1;
442
443 # We are already hitting the limit, so double it.
444 $ENV{NSS_WRAPPER_MAX_HOSTENTS} = 200;
445
446 # Disable RTLD_DEEPBIND hack for Samba bind dlz module
447 #
448 # This is needed in order to allow the ldb_*ldap module
449 # to work with a preloaded socket wrapper.
450 $ENV{LDB_MODULES_DISABLE_DEEPBIND} = 1;
451
452 my $socket_wrapper_dir;
453 if ($opt_socket_wrapper) {
454         $socket_wrapper_dir = SocketWrapper::setup_dir("$prefix_abs/w", $opt_socket_wrapper_pcap);
455         print "SOCKET_WRAPPER_DIR=$socket_wrapper_dir\n";
456 } elsif (not $opt_list) {
457          unless ($< == 0) {
458                  warn("not using socket wrapper, but also not running as root. Will not be able to listen on proper ports");
459          }
460 }
461
462 if ($opt_use_dns_faking) {
463         print "DNS: Faking nameserver\n";
464         $ENV{SAMBA_DNS_FAKING} = 1;
465 }
466
467 my $target;
468 my $testenv_default = "none";
469
470 if ($opt_mitkrb5 == 1) {
471         $ENV{MITKRB5} = $opt_mitkrb5;
472 }
473
474 # After this many seconds, the server will self-terminate.  All tests
475 # must terminate in this time, and testenv will only stay alive this
476 # long
477
478 my $server_maxtime;
479 if ($opt_testenv) {
480     # 1 year should be enough :-)
481     $server_maxtime = 365 * 24 * 60 * 60;
482 } else {
483     # make test should run under 5 hours
484     $server_maxtime = 5 * 60 * 60;
485 }
486
487 if (defined($ENV{SMBD_MAXTIME}) and $ENV{SMBD_MAXTIME} ne "") {
488     $server_maxtime = $ENV{SMBD_MAXTIME};
489 }
490
491 $target = new Samba($bindir, $ldap, $srcdir, $server_maxtime);
492 unless ($opt_list) {
493         if ($opt_target eq "samba") {
494                 $testenv_default = "ad_dc";
495         } elsif ($opt_target eq "samba3") {
496                 $testenv_default = "nt4_member";
497         }
498 }
499
500 sub read_test_regexes($)
501 {
502         my ($name) = @_;
503         my @ret = ();
504         open(LF, "<$name") or die("unable to read $name: $!");
505         while (<LF>) { 
506                 chomp; 
507                 next if (/^#/);
508                 if (/^(.*?)([ \t]+)\#([\t ]*)(.*?)$/) {
509                         push (@ret, [$1, $4]);
510                 } else {
511                         s/^(.*?)([ \t]+)\#([\t ]*)(.*?)$//;
512                         push (@ret, [$_, undef]); 
513                 }
514         }
515         close(LF);
516         return @ret;
517 }
518
519 foreach (@opt_exclude) {
520         push (@excludes, read_test_regexes($_));
521 }
522
523 foreach (@opt_include) {
524         push (@includes, read_test_regexes($_));
525 }
526
527 # We give the selftest client 6 different IPv4 addresses to use. Most tests
528 # only use the first (.11) IP. Note that winsreplication.c is one test that
529 # uses the other IPs (search for iface_list_count()).
530 my $interfaces = Samba::get_interfaces_config("client", 6);
531
532 my $clientdir = "$prefix_abs/client";
533
534 my $conffile = "$clientdir/client.conf";
535 $ENV{SMB_CONF_PATH} = $conffile;
536
537 sub write_clientconf($$$)
538 {
539         my ($conffile, $clientdir, $vars) = @_;
540
541         mkdir("$clientdir", 0777) unless -d "$clientdir";
542
543         if ( -d "$clientdir/private" ) {
544                 unlink <$clientdir/private/*>;
545         } else {
546                 mkdir("$clientdir/private", 0777);
547         }
548
549         if ( -d "$clientdir/bind-dns" ) {
550                 unlink <$clientdir/bind-dns/*>;
551         } else {
552                 mkdir("$clientdir/bind-dns", 0777);
553         }
554
555         if ( -d "$clientdir/lockdir" ) {
556                 unlink <$clientdir/lockdir/*>;
557         } else {
558                 mkdir("$clientdir/lockdir", 0777);
559         }
560
561         if ( -d "$clientdir/statedir" ) {
562                 unlink <$clientdir/statedir/*>;
563         } else {
564                 mkdir("$clientdir/statedir", 0777);
565         }
566
567         if ( -d "$clientdir/cachedir" ) {
568                 unlink <$clientdir/cachedir/*>;
569         } else {
570                 mkdir("$clientdir/cachedir", 0777);
571         }
572
573         # this is ugly, but the ncalrpcdir needs exactly 0755
574         # otherwise tests fail.
575         my $mask = umask;
576         umask 0022;
577         if ( -d "$clientdir/ncalrpcdir/np" ) {
578                 unlink <$clientdir/ncalrpcdir/np/*>;
579                 rmdir "$clientdir/ncalrpcdir/np";
580         }
581         if ( -d "$clientdir/ncalrpcdir" ) {
582                 unlink <$clientdir/ncalrpcdir/*>;
583                 rmdir "$clientdir/ncalrpcdir";
584         }
585         mkdir("$clientdir/ncalrpcdir", 0755);
586         umask $mask;
587
588         my $cadir = "$ENV{SRCDIR_ABS}/selftest/manage-ca/CA-samba.example.com";
589         my $cacert = "$cadir/Public/CA-samba.example.com-cert.pem";
590         my $cacrl_pem = "$cadir/Public/CA-samba.example.com-crl.pem";
591         my $ca_users_dir = "$cadir/Users";
592
593         if ( -d "$clientdir/pkinit" ) {
594                 unlink <$clientdir/pkinit/*>;
595         } else {
596                 mkdir("$clientdir/pkinit", 0700);
597         }
598
599         # each user has a USER-${USER_PRINCIPAL_NAME}-cert.pem and
600         # USER-${USER_PRINCIPAL_NAME}-private-key.pem symlink
601         # We make a copy here and make the certificated easily
602         # accessable in the client environment.
603         my $mask = umask;
604         umask 0077;
605         opendir USERS, "${ca_users_dir}" or die "Could not open dir '${ca_users_dir}': $!";
606         for my $d (readdir USERS) {
607                 my $user_dir = "${ca_users_dir}/${d}";
608                 next if ${d} =~ /^\./;
609                 next if (! -d "${user_dir}");
610                 opendir USER, "${user_dir}" or die "Could not open dir '${user_dir}': $!";
611                 for my $l (readdir USER) {
612                         my $user_link = "${user_dir}/${l}";
613                         next if ${l} =~ /^\./;
614                         next if (! -l "${user_link}");
615
616                         my $dest = "${clientdir}/pkinit/${l}";
617                         Samba::copy_file_content(${user_link}, ${dest});
618                 }
619                 closedir USER;
620         }
621         closedir USERS;
622         umask $mask;
623
624         open(CF, ">$conffile");
625         print CF "[global]\n";
626         print CF "\tnetbios name = client\n";
627         if (defined($vars->{DOMAIN})) {
628                 print CF "\tworkgroup = $vars->{DOMAIN}\n";
629         }
630         if (defined($vars->{REALM})) {
631                 print CF "\trealm = $vars->{REALM}\n";
632         }
633         if ($opt_socket_wrapper) {
634                 print CF "\tinterfaces = $interfaces\n";
635         }
636         print CF "
637         private dir = $clientdir/private
638         binddns dir = $clientdir/bind-dns
639         lock dir = $clientdir/lockdir
640         state directory = $clientdir/statedir
641         cache directory = $clientdir/cachedir
642         ncalrpc dir = $clientdir/ncalrpcdir
643         panic action = $RealBin/gdb_backtrace \%d
644         max xmit = 32K
645         notify:inotify = false
646         ldb:nosync = true
647         system:anonymous = true
648         client lanman auth = Yes
649         log level = 1
650         torture:basedir = $clientdir
651 #We don't want to pass our self-tests if the PAC code is wrong
652         gensec:require_pac = true
653 #We don't want to run 'speed' tests for very long
654         torture:timelimit = 1
655         winbind separator = /
656         tls cafile = ${cacert}
657         tls crlfile = ${cacrl_pem}
658         tls verify peer = no_check
659         include system krb5 conf = no
660 ";
661         close(CF);
662 }
663
664 my @todo = ();
665
666 sub should_run_test($)
667 {
668         my $name = shift;
669         if ($#tests == -1) {
670                 return 1;
671         }
672         for (my $i=0; $i <= $#tests; $i++) {
673                 if ($name =~ /$tests[$i]/i) {
674                         return 1;
675                 }
676         }
677         return 0;
678 }
679
680 sub read_testlist($)
681 {
682         my ($filename) = @_;
683
684         my @ret = ();
685         open(IN, $filename) or die("Unable to open $filename: $!");
686
687         while (<IN>) {
688                 if (/-- TEST(-LOADLIST|) --\n/) {
689                         my $supports_loadlist = (defined($1) and $1 eq "-LOADLIST");
690                         my $name = <IN>;
691                         $name =~ s/\n//g;
692                         my $env = <IN>;
693                         $env =~ s/\n//g;
694                         my $loadlist;
695                         if ($supports_loadlist) {
696                                 $loadlist = <IN>;
697                                 $loadlist =~ s/\n//g;
698                         }
699                         my $cmdline = <IN>;
700                         $cmdline =~ s/\n//g;
701                         if (should_run_test($name) == 1) {
702                                 push (@ret, [$name, $env, $cmdline, $loadlist]);
703                         }
704                 } else {
705                         print;
706                 }
707         }
708         close(IN) or die("Error creating recipe from $filename");
709         return @ret;
710 }
711
712 if ($#testlists == -1) {
713         die("No testlists specified");
714 }
715
716 $ENV{SELFTEST_PREFIX} = "$prefix_abs";
717 $ENV{SELFTEST_TMPDIR} = "$tmpdir_abs";
718 $ENV{TMPDIR} = "$tmpdir_abs";
719 $ENV{TEST_DATA_PREFIX} = "$tmpdir_abs";
720 if ($opt_quick) {
721         $ENV{SELFTEST_QUICK} = "1";
722 } else {
723         $ENV{SELFTEST_QUICK} = "";
724 }
725 $ENV{SELFTEST_MAXTIME} = $torture_maxtime;
726
727 my $selftest_krbt_ccache_path = "$tmpdir_abs/selftest.krb5_ccache";
728 $ENV{KRB5CCNAME} = "FILE:${selftest_krbt_ccache_path}.global";
729
730 my @available = ();
731 foreach my $fn (@testlists) {
732         foreach (read_testlist($fn)) {
733                 my $name = $$_[0];
734                 next if (@includes and not defined(find_in_list(\@includes, $name)));
735                 push (@available, $_);
736         }
737 }
738
739 my $restricted = undef;
740 my $restricted_used = {};
741
742 if ($opt_load_list) {
743         $restricted = [];
744         open(LOAD_LIST, "<$opt_load_list") or die("Unable to open $opt_load_list");
745         while (<LOAD_LIST>) {
746                 chomp;
747                 push (@$restricted, $_);
748         }
749         close(LOAD_LIST);
750 }
751
752 my $individual_tests = undef;
753 $individual_tests = {};
754
755 foreach my $testsuite (@available) {
756         my $name = $$testsuite[0];
757         my $skipreason = skip(@$testsuite);
758         if (defined($restricted)) {
759                 # Find the testsuite for this test
760                 my $match = undef;
761                 foreach my $r (@$restricted) {
762                         if ($r eq $name) {
763                                 $individual_tests->{$name} = [];
764                                 $match = $r;
765                                 $restricted_used->{$r} = 1;
766                         } elsif (substr($r, 0, length($name)+1) eq "$name.") {
767                                 push(@{$individual_tests->{$name}}, $r);
768                                 $match = $r;
769                                 $restricted_used->{$r} = 1;
770                         }
771                 }
772                 if ($match) {
773                         if (defined($skipreason)) {
774                                 if (not $opt_list) {
775                                         Subunit::skip_testsuite($name, $skipreason);
776                                 }
777                         } else {
778                                 push(@todo, $testsuite);
779                         }
780                 }
781         } elsif (defined($skipreason)) {
782                 if (not $opt_list) {
783                         Subunit::skip_testsuite($name, $skipreason);
784                 }
785         } else {
786                 push(@todo, $testsuite);
787         }
788 }
789
790 if (defined($restricted)) {
791         foreach (@$restricted) {
792                 unless (defined($restricted_used->{$_})) {
793                         print "No test or testsuite found matching $_\n";
794                 }
795         }
796 } elsif ($#todo == -1) {
797         print STDERR "No tests to run\n";
798         exit(1);
799 }
800
801 my $suitestotal = $#todo + 1;
802
803 unless ($opt_list) {
804         Subunit::progress($suitestotal);
805         Subunit::report_time();
806 }
807
808 my $i = 0;
809 $| = 1;
810
811 my %running_envs = ();
812
813 sub get_running_env($)
814 {
815         my ($name) = @_;
816
817         my $envname = $name;
818
819         $envname =~ s/:.*//;
820
821         return $running_envs{$envname};
822 }
823
824 sub sighandler($)
825 {
826         my $signame = shift;
827
828         $SIG{INT} = $SIG{QUIT} = $SIG{TERM} = 'DEFAULT';
829         $SIG{PIPE} = 'IGNORE';
830
831         open(STDOUT, ">&STDERR") or die "can't dup STDOUT to STDERR: $!";
832
833         print "$0: PID[$$]: Got SIG${signame} teardown environments.\n";
834         teardown_env($_) foreach(keys %running_envs);
835         system("pstree -p $$");
836         print "$0: PID[$$]: Exiting...\n";
837         exit(1);
838 };
839
840 $SIG{INT} = $SIG{QUIT} = $SIG{TERM} = $SIG{PIPE} = \&sighandler;
841
842 sub setup_env($$)
843 {
844         my ($name, $prefix) = @_;
845
846         my $testenv_vars = undef;
847
848         my $envname = $name;
849         my $option = $name;
850
851         $envname =~ s/:.*//;
852         $option =~ s/^[^:]*//;
853         $option =~ s/^://;
854
855         $option = "client" if $option eq "";
856
857         # Initially clear out the environment for the provision, so previous envs'
858         # variables don't leak in. Provisioning steps must explicitly set their
859         # necessary variables when calling out to other executables
860         Samba::clear_exported_envvars();
861         delete $ENV{SOCKET_WRAPPER_DEFAULT_IFACE};
862         delete $ENV{SMB_CONF_PATH};
863
864         $ENV{KRB5CCNAME} = "FILE:${selftest_krbt_ccache_path}.${envname}/ignore";
865
866         if (defined(get_running_env($envname))) {
867                 $testenv_vars = get_running_env($envname);
868                 if (not $testenv_vars->{target}->check_env($testenv_vars)) {
869                         print $testenv_vars->{target}->getlog_env($testenv_vars);
870                         $testenv_vars = undef;
871                 }
872         } else {
873                 $testenv_vars = $target->setup_env($envname, $prefix);
874                 if (defined($testenv_vars) and $testenv_vars eq "UNKNOWN") {
875                     return $testenv_vars;
876                 } elsif (defined($testenv_vars) && not defined($testenv_vars->{target})) {
877                         $testenv_vars->{target} = $target;
878                 }
879                 if (not defined($testenv_vars)) {
880                         if ($opt_one) {
881                                 die("$opt_target can't start up known environment '$envname'");
882                         } else {
883                                 warn("$opt_target can't start up known environment '$envname'");
884                         }
885                 }
886         }
887
888         return undef unless defined($testenv_vars);
889
890         $running_envs{$envname} = $testenv_vars;
891
892         if ($option eq "local") {
893                 SocketWrapper::set_default_iface($testenv_vars->{SOCKET_WRAPPER_DEFAULT_IFACE});
894                 $ENV{SMB_CONF_PATH} = $testenv_vars->{SERVERCONFFILE};
895         } elsif ($option eq "client") {
896                 SocketWrapper::set_default_iface(11);
897                 write_clientconf($conffile, $clientdir, $testenv_vars);
898                 $ENV{SMB_CONF_PATH} = $conffile;
899         } else {
900                 die("Unknown option[$option] for envname[$envname]");
901         }
902
903         # export the environment variables for the testenv (SERVER, SERVER_IP, etc)
904         Samba::export_envvars($testenv_vars);
905
906         my $krb5_ccache_path = "${selftest_krbt_ccache_path}.${envname}.${option}";
907         unlink($krb5_ccache_path);
908         $ENV{KRB5CCNAME} = "FILE:${krb5_ccache_path}";
909         return $testenv_vars;
910 }
911
912 sub getlog_env($)
913 {
914         my ($envname) = @_;
915         return "" if ($envname eq "none");
916         my $env = get_running_env($envname);
917         return $env->{target}->getlog_env($env);
918 }
919
920 sub check_env($)
921 {
922         my ($envname) = @_;
923         my $env = get_running_env($envname);
924         return $env->{target}->check_env($env);
925 }
926
927 sub teardown_env($)
928 {
929         my ($envname) = @_;
930         return if ($envname eq "none");
931         print STDERR "teardown_env($envname)\n";
932         my $env = get_running_env($envname);
933         $env->{target}->teardown_env($env);
934         delete $running_envs{$envname};
935 }
936
937 # This 'global' file needs to be empty when we start
938 unlink("$prefix_abs/dns_host_file");
939 unlink("$prefix_abs/hosts");
940
941 if ($opt_random_order) {
942         require List::Util;
943         my @newtodo = List::Util::shuffle(@todo);
944         @todo = @newtodo;
945 }
946
947 if ($opt_testenv) {
948         my $testenv_name = $ENV{SELFTEST_TESTENV};
949         $testenv_name = $testenv_default unless defined($testenv_name);
950
951         my $testenv_vars = setup_env($testenv_name, $prefix);
952
953         if (not $testenv_vars or $testenv_vars eq "UNKNOWN") {
954                 die("Unable to setup environment $testenv_name");
955         }
956
957         $ENV{PIDDIR} = $testenv_vars->{PIDDIR};
958         $ENV{ENVNAME} = $testenv_name;
959
960         my $envvarstr = Samba::exported_envvars_str($testenv_vars);
961
962         my @term_args = ("echo -e \"
963 Welcome to the Samba4 Test environment '$testenv_name'
964
965 This matches the client environment used in make test
966 server is pid `cat \$PIDDIR/samba.pid`
967
968 Some useful environment variables:
969 TORTURE_OPTIONS=\$TORTURE_OPTIONS
970 SMB_CONF_PATH=\$SMB_CONF_PATH
971
972 $envvarstr
973 \" && LD_LIBRARY_PATH=$ENV{LD_LIBRARY_PATH} bash");
974         my @term = ();
975         if ($ENV{TERMINAL}) {
976             @term = ($ENV{TERMINAL});
977                 # override the default terminal args (if specified)
978                 if (defined($ENV{TERMINAL_ARGS})) {
979                         @term_args = split(/ /, $ENV{TERMINAL_ARGS});
980                 }
981         } else {
982             @term = ("xterm", "-e");
983             unshift(@term_args, ("bash", "-c"));
984         }
985
986         system(@term, @term_args);
987
988         teardown_env($testenv_name);
989 } elsif ($opt_list) {
990         foreach (@todo) {
991                 my $name = $$_[0];
992                 my $envname = $$_[1];
993                 my $cmd = $$_[2];
994                 my $listcmd = $$_[3];
995
996                 unless (defined($listcmd)) {
997                         warn("Unable to list tests in $name");
998                         # Rather than ignoring this testsuite altogether, just pretend the entire testsuite is
999                         # a single "test".
1000                         print "$name\n";
1001                         next;
1002                 }
1003
1004                 system($listcmd);
1005
1006                 if ($? == -1) {
1007                         die("Unable to run $listcmd: $!");
1008                 } elsif ($? & 127) {
1009                         die(sprintf("%s died with signal %d, %s coredump\n", $listcmd, ($? & 127),  ($? & 128) ? 'with' : 'without'));
1010                 }
1011
1012                 my $exitcode = $? >> 8;
1013                 if ($exitcode != 0) {
1014                         die("$cmd exited with exit code $exitcode");
1015                 }
1016         }
1017 } else {
1018         foreach (@todo) {
1019                 $i++;
1020                 my $cmd = $$_[2];
1021                 my $name = $$_[0];
1022                 my $envname = $$_[1];
1023                 my $envvars = setup_env($envname, $prefix);
1024
1025                 if (not defined($envvars)) {
1026                         Subunit::start_testsuite($name);
1027                         Subunit::end_testsuite($name, "error",
1028                                 "unable to set up environment $envname - exiting");
1029                         next;
1030                 } elsif ($envvars eq "UNKNOWN") {
1031                         Subunit::start_testsuite($name);
1032                         Subunit::end_testsuite($name, "error",
1033                                 "environment $envname is unknown - exiting");
1034                         next;
1035                 }
1036
1037                 # Generate a file with the individual tests to run, if the 
1038                 # test runner for this test suite supports it.
1039                 if ($individual_tests and $individual_tests->{$name}) {
1040                         if ($$_[3]) {
1041                                 my ($fh, $listid_file) = tempfile(UNLINK => 0);
1042                                 foreach my $test (@{$individual_tests->{$name}}) {
1043                                         print $fh substr($test, length($name)+1) . "\n";
1044                                 }
1045                                 $cmd =~ s/\$LOADLIST/--load-list=$listid_file/g;
1046                         } else {
1047                                 warn("Unable to run individual tests in $name, it does not support --loadlist.");
1048                         }
1049                 }
1050
1051                 run_testsuite($envname, $name, $cmd, $i, $suitestotal);
1052
1053                 teardown_env($envname) if ($opt_resetup_env);
1054         }
1055 }
1056
1057 print "\n";
1058
1059 teardown_env($_) foreach (keys %running_envs);
1060
1061 my $failed = 0;
1062
1063 # if there were any valgrind failures, show them
1064 foreach (<$prefix/valgrind.log*>) {
1065         next unless (-s $_);
1066         print "VALGRIND FAILURE\n";
1067         $failed++;
1068         system("cat $_");
1069 }
1070 exit 0;