Merge git://git.samba.org/tridge/ctdb

change how we filter out "empty" records in the traversecode
so that we output the same list of keys in "catdb" as "tdbdump".

when traversing a persistent database, as an optimization, only
traverse on the local node (and thus skip checking if we are
dmaster or not). If the local node is not part of the vnnmap and thus
would not be guaranteed to have an uptodate persistent database
we instead traverse it on one of the other nodes that are in the vnnmap.

fixed postun script to prevent corrupting RPM database

Add two new options

CTDB_SAMBA_SKIP_CONF_CHECK and CTDB_SAMBA_CHECK_PORTS.
The first is used to tell ctdb to no longer monitoring if the smb.conf file is consistent or not.

The second specifies which ports to check that smb is listening on
instead of using testparm to figure this out.

Since the net, testparm and smbstatus may block indefinitely in some configurations
we must have a way to configure ctdb to NOT use any of these three commands
in the scripts. These commands should thus never be used in scripts.

Signed-off-by: Ronnie Sahlberg <ronniesahlberg@gmail.com>

remove a debugging echo statement

fixed up exit status for onnode

Merge commit 'ronnie/master'

new version 1.0.47

Signed-off-by: Ronnie Sahlberg <ronniesahlberg@gmail.com>

Fix a very subtle race where we could get a double free of a talloced
memory if ctdb_run_eventscript() would be called
during processing of ctdb_event_script_timeout() for
user unvoked eventscripts. (eventsccripts invoked by "ctdb eventscript ...")

Signed-off-by: Ronnie Sahlberg <ronniesahlberg@gmail.com>

Signed-off-by: Martin Schwenke <martin@meltin.net>
Update packaging/RPM/ctdb.spec to reflect onnode changes.

Revert "Yip yip yip!"

This reverts commit f7bdf96843a7e4ad61ad378786922d6281de9d93.

Yip yip yip!

When in verbose mode with -p, each line is prefixed with the node
address/name.  To implement this stderr has redirected to stdout -
this doesn't need to be done but is the simplest implementation.
Remove -t option since it doesn't seem to accomplish much but causes
spurious messages to be displayed by ssh.  Add explicit -h and --help
options.  Make style of usage message consistent with documentation.
Document new features in doc/onnode.1.xml.

Update Makefile.in for new version of onnode.

Complete rewrite of tools/onnode.  Remove old tools/onnode.ssh,
tools/onnode.rsh.

explain why you have to have a real ip address as well as the "virtual"
ip address for lvs

new version 10.0.46

add documentation for both LVS:single-ip and CAPABILITIES:wan-accelerator

Update to the LVS eventscript.
Do not assume all nodes are members of LVS so always deciding the recmaster will be lvsmaster wont work.

Instead,
Create the set of active LVS nodes as those nodes that are LVS capable and
also HEALTHY.
Except if ALL LVS capable nodes are unhealthy in which case we allow the unhealthy
nodes to be part of the active set.

In the active set, pick one of the active nodes as being the lvsmaster
which will receive all incoming traffic and distribute it across
the active lvs nodes in the cluster.

Add three mode commands to the CTDB tool.

lvs: which shows which nodes are active LVS servers
lvsmaster: which shows which node is the lvs master multiplex node
pnn: which prints the pnn of the local node

make LVS a capability so that we can see which nodes are configured with
LVS and which are not using LVS.

"ctdb getcapabilities"

add an option to skip checking that all the samba shares are ok
when monitoring the node health.
this might be useful to skip for environments with thousands of shares

remove the attempts to restart NFS.

nfs should never stop spontaneously so trying to restart it is
just counterproductive and at best a workaround to
hide real bugs.

if we have enabled LVS   but we dont have all the required packages
just log it to the messages
dont stop ctdb from starting

proper waitpid() fix.
remove all waitpid() calls and use the event system to trap sigchld

Revert "pull the development files out into their own package"

This reverts commit 36be210bbc5e0af75c5fd6e57863272bfa0e942e.

Revert "add spec file for development rpm"

This reverts commit bd7b254b81dda4d9d62516abf32f93f2503eb9bb.

Revert "copy ctdb-dev to the spec directory"

This reverts commit 8814997c1b9623397058088dd0e1775cecfe371b.

copy ctdb-dev to the spec directory

add spec file for development rpm

pull the development files out into their own package

install the readme in /usr/share/doc/ctdb/ instead of under /etc

 mark /etc/ctdb/functions as a config file to keep rpmlint happy

From Chris Cowan,  patch to make aix compile again

Replace \s with [[:space:]] in our regexps we use for egrep.

Kevin Collins noticed that RHEL5 grep-2.5.1-54.2.el5 built for
x86 does not handle \s    while the exact same RHEL5 package for amd64
does!

[[:space:]] is more portable.  Even across the same package version ( different architecture ) from the same vendor :-)

Revert "waitpid() can block if it takes a long time before the child terminates"

This reverts commit bfba5c7249eff8a10a43b53c1b89dd44b625fd10.

revert the waitpid changes.   we need to waitpid for some childredn so should
refactor the approach completely

Revert "set sigchild to SIG_IGN instead of SIG_DFL"

This reverts commit b1f1e80d3ad50280a300f2ed021513cf0a6f3a76.

set sigchild to SIG_IGN instead of SIG_DFL

new version 1.0.45

update the monitor event for nfs to track how many times in a row it has failed
to "ping" the local nfs daemon.

Once it has failed more than 3 times in a row it will attempt to restart the nfs service.

waitpid() can block if it takes a long time before the child terminates
so we should not call it from the main daemon.

1, set SIGCHLD to SIG_DFL to make sure we ignore this signal

2, get rid of all waitpid() calls

3, change reporting of event script status code from _exit()/waitpid()   to write()/read() one byte across the pipe.

use more libral handling of event scripts timing out.

If the event script that timed out was for the "monitor" event, then
even if it timed out we still return SUCCESS back to the guy invoking the eventscript.
Only consider the eventscript for "monitor" to have failed with an error
IFF it actually terminated with an error,   or if it timed out 5 times in a row and hung.

new version .44

zero out the sockaddr_in structure before we store the ipv4 data in it to make sure that all data is initialized. Othervise valgrind will complain about uninitialized data when we write this structure out on the wire

we need a 'case x:' in our ugly 'encode the control opcode as a linenumber in valgrind output' hack to make it work

If a transaction commit fails. Log this error and cancel all pending transactions to the
databases instead of calling ctdb_fatal()

 in the destructor for the lock-wait child, make sure that we cancel any pending
transactions.

fixed a case statement

an extraordinarily ugly patch!

This is a hack to allow backtraces under valgrind to show what opcode
is getting uninitialised bytes

ensure pad bytes in the ltdb_header are initialised

don't use mmap in tdb if --nosetsched is set. That makes valgrind
happier (it doesn't like the mmap/msync calls in tdb)

prevent valgrind errors where we print unitialised values on control errors

fixed a warning

fixed some incorrect CTDB_NO_MEMORY*() calls found after fixing the
_VOID varient

CTDB_NO_MEMORY_VOID() needs to return on error

added option to start ctdb under valgrind

Just add CTDB_VALGRIND=yes in /etc/sysconfig/ctdb, and look at the
logs in /var/log/ctdb_valgrind.*

zero out the ctdb->freeze_handle when we free it

This prevents heap corruption when a freeze child dies

we dont need to explicitely thaw the databases from the recovery daemon
since this is already done implicitely when we changed recovery mode
back to normal

track both when we last started and ended a recovery.
make ctdb uptime print how long the recovery took

in the recovery daemon when we check that the public ip address
allocation on the local node is correct (we have the ips we should have
and we dont have any we shouldnt have) use ctdb uptime and check the
recovery start/stop times and make sure we dont check for ip allocation
inconsistencies during a recovery  where the ip address allocation is in flux.

print the opcode when an async callback detects an error

update a comment to reflect that this is not always a real recovery
it can also be printed when we just do an ip reallocation

new version

initdit/ctdb is not a config file

make /etc/ctdb/functions executable and add a hashbang to it so
rpmlint wont complain

test

Revert "test"

This reverts commit f71287a28d66db202fe52f9a43b6daf2389d7f66.

test

reduce loglevel of the info message we are updating the flags on all nodes

force an update of the flags from the recmaster after each monitoring run

/etc/ctdb/functions should not be executable

third attempt for fixing a freeze child writing to the socket

verify that the recmaster has the correct flags for us   and if not tell the recmaster what the flags should be

only loop over the write it the write failed

the write() from the freeze child process can fail
try writing many times and log an error if the write failed

it is 2008   not 2008 right now :-)

update to 1.0.42

ban the node after 3 failed scripts by default

if the event scripts hangs EventScriptsBanCount consecutive times in a row
the node will ban itself for the default recovery ban period

when a eventscript has timed out, log the event options (i.e. "monitor" "takeip 1.2..." etc)
to the log

make it possible to re-start a recovery without marking the current node as
the culprit.

add a callback for failed nodes to the async control helper.

this callback is called for every node where the control failed (or timed out)

when we issue the start recovery control from recovery master,
set any node that fails as a culprit   so it will eventually be banned

first cut to convert takeover_callback_state{}
to use ctdb_sock_addr instead of sockaddr_in

fix a comment

note that we dont actually send the ipv6 "gratious arp" on the wire just yet.
(since ipv6 doesnt use arp)
but all the infrastructure is there when we implement sending raw neig.disc. packets

convert handling of gratious arps and their controls and helpers to
use the ctdb_sock_addr structure so tehy work for both ipv4 and ipv6

add a parameter for the tdb-flags to the client function
ctdb_attach()   so that we can pass TDB_NOSYNC when we attach to
a persistent database and want fast unsafe writes instead of
slow but safe tdb_transaction writes.

enhance the ctdb_persistent test suite to test both safe and unsafe writes

run the persistent write test with 4 nodes by default

use the timelimit argument to the persistent writer to run the test for
30 seconds by default

redesign the test of persistent writes
so that we have n persistent writers on n nodes,
all writers writing persistently to the same record.

each writer on a node has its own "counter" in this record that is incremented by one in each iteration.
the persistent writer on node 0 also checks that all the counters in the record are increasing monotonically and if they are not, flagging it as an ERROR.

create the nodes file in a 'test' subdirectory and not the current directory

delete all persistent databases when the test starts
(the tests only uses test databases in a special test directory)

do not set up any public addresses in the tests

wait until there are no disconnected or unhealthy nodes when starting the
test daemons instead of waiting for the recovery mode to change.
we do want to wait until the system has recovered and ALL nodes are ok.

debugleves can now be negative   so print their value using %d instead of %u

update to .41

dont bother casting to a void* private_data pointer,
just pass it as 'state' structure

remove another field we dont need in the childwrite_handle structure

remote a comment that is no longer relevant

remove a field in the childwrite_handle structure we dont need

do persistent writes in a child process

update to .40

read the samba sysconfig from the samba eventscript

disable transactions for now,  there are more situations where there are conflicting locks   and the "net" command is not prepared that the persistent store can fail.

restore a timeout value to the default settings instead of the hardcoded 3 second test value

fix some memory hierarchy bugs in allocation of the state structure for persistent writes.

since these two controls (UPDATE_RECORD and PERSISTENT_STORE) can respond
asynchronously to the control,   we can not allocate the state variable as a child off ctdb_req_control  instead we must allocate state as a child off ctdb itself
and steal ctdb_req_control so it becomes a child of state.

othervise both ctdb_req_control and also state will be released immediately after we have finished setting up the async reply and returned.

cleanup of the previous patch.

With these patches, ctdbd will enforce and (by default) always use
tdb_transactions when updating/writing records to a persistent database.

This might come with a small performance degratation  since transactions
are slower than no transactions at all.

If a client, such as samba wants to use a persistent database but does NOT
want to pay the performance penalty, it can specify TDB_NOSYNC  as the
srvid parameter in the ctdb_control() for CTDB_CONTROL_DB_ATTACH_PERSISTENT.

In this case CTDBD will remember that "this database is not that important"
so I can use unsafe (no transaction) tdb_stores to write the updates.
It will be faster than the default (always use transaction) but less crash safe.