version 1.0.112-4
[metze/ctdb/wip.git] / packaging / RPM / ctdb.spec.in
1 %define initdir %{_sysconfdir}/init.d
2
3 Summary: Clustered TDB
4 Vendor: Samba Team
5 Packager: Samba Team <samba@samba.org>
6 Name: ctdb
7 Version: 1.0.112
8 Release: 4
9 Epoch: 0
10 License: GNU GPL version 3
11 Group: System Environment/Daemons
12 URL: http://ctdb.samba.org/
13
14 Source: ctdb-%{version}.tar.gz
15
16 Prereq: /bin/mktemp /usr/bin/killall
17 Prereq: fileutils sed /etc/init.d
18
19 Provides: ctdb = %{version}
20
21 Prefix: /usr
22 BuildRoot: %{_tmppath}/%{name}-%{version}-root
23
24 %description
25 ctdb is the clustered database used by samba
26
27
28 #######################################################################
29
30 %prep
31 %setup -q
32 # setup the init script and sysconfig file
33 %setup -T -D -n ctdb-%{version} -q
34
35 %build
36
37 ## check for ccache
38 if ccache -h >/dev/null 2>&1 ; then
39         CC="ccache gcc"
40 else
41         CC="gcc"
42 fi
43
44 export CC
45
46 ## always run autogen.sh
47 ./autogen.sh
48
49 CFLAGS="$RPM_OPT_FLAGS $EXTRA -O0 -D_GNU_SOURCE -DCTDB_VERS=\"%{version}-%{release}\"" ./configure \
50         --prefix=%{_prefix} \
51         --sysconfdir=%{_sysconfdir} \
52         --mandir=%{_mandir} \
53         --localstatedir="/var"
54
55 make docdir=%{_docdir} showflags
56 make docdir=%{_docdir}
57
58 %install
59 # Clean up in case there is trash left from a previous build
60 rm -rf $RPM_BUILD_ROOT
61
62 # Create the target build directory hierarchy
63 mkdir -p $RPM_BUILD_ROOT%{_sysconfdir}/sysconfig
64 mkdir -p $RPM_BUILD_ROOT%{_sysconfdir}/init.d
65
66 make DESTDIR=$RPM_BUILD_ROOT docdir=%{_docdir} install
67
68 install -m644 config/ctdb.sysconfig $RPM_BUILD_ROOT%{_sysconfdir}/sysconfig/ctdb
69 install -m755 config/ctdb.init $RPM_BUILD_ROOT%{initdir}/ctdb
70
71 mkdir -p $RPM_BUILD_ROOT%{_docdir}/ctdb/tests/bin
72 install -m755 tests/bin/ctdb_transaction $RPM_BUILD_ROOT%{_docdir}/ctdb/tests/bin
73
74 # Remove "*.old" files
75 find $RPM_BUILD_ROOT -name "*.old" -exec rm -f {} \;
76
77 %clean
78 rm -rf $RPM_BUILD_ROOT
79
80
81 #######################################################################
82 ## Files section                                                     ##
83 #######################################################################
84
85 %files
86 %defattr(-,root,root)
87
88 %config(noreplace) %{_sysconfdir}/sysconfig/ctdb
89 %config(noreplace) %{_sysconfdir}/ctdb/notify.sh
90 %config(noreplace) %{_sysconfdir}/ctdb/functions
91 %attr(755,root,root) %{initdir}/ctdb
92
93 %{_docdir}/ctdb/README.eventscripts
94 %{_docdir}/ctdb/recovery-process.txt
95 %{_sysconfdir}/ctdb/events.d/00.ctdb
96 %{_sysconfdir}/ctdb/events.d/01.reclock
97 %{_sysconfdir}/ctdb/events.d/10.interface
98 %{_sysconfdir}/ctdb/events.d/11.natgw
99 %{_sysconfdir}/ctdb/events.d/11.routing
100 %{_sysconfdir}/ctdb/events.d/20.multipathd
101 %{_sysconfdir}/ctdb/events.d/31.clamd
102 %{_sysconfdir}/ctdb/events.d/40.vsftpd
103 %{_sysconfdir}/ctdb/events.d/41.httpd
104 %{_sysconfdir}/ctdb/events.d/50.samba
105 %{_sysconfdir}/ctdb/events.d/60.nfs
106 %{_sysconfdir}/ctdb/events.d/61.nfstickle
107 %{_sysconfdir}/ctdb/events.d/70.iscsi
108 %{_sysconfdir}/ctdb/events.d/91.lvs
109 %{_sysconfdir}/ctdb/statd-callout
110 %{_sbindir}/ctdbd
111 %{_bindir}/ctdb
112 %{_bindir}/smnotify
113 %{_bindir}/ping_pong
114 %{_bindir}/ctdb_diagnostics
115 %{_bindir}/onnode
116 %{_mandir}/man1/ctdb.1.gz
117 %{_mandir}/man1/ctdbd.1.gz
118 %{_mandir}/man1/onnode.1.gz
119 %{_includedir}/ctdb.h
120 %{_includedir}/ctdb_private.h
121 %{_libdir}/pkgconfig/ctdb.pc
122
123 %{_docdir}/ctdb/tests/bin/ctdb_transaction
124
125 %changelog
126 * Wed Jan 21 2010 : Version 1.0.112-4
127  - Update onnode with more flexible ways to define the path to the nodes file
128 * Wed Jan 20 2010 : Version 1.0.112-3
129  - Explicitely source the nfs sysconfig file from the 61.nfstickles script.
130 * Wed Jan 13 2010 : Version 1.0.112-2
131  - Incorrect use of dup2() could cause ctdb to spin eating 100% cpu.
132 * Tue Jan 12 2010 : Version 1.0.112
133   - Revert the use of wbinfo --ping-dc as it is proving too unreliable.
134   - Minor testsuite changes.
135 * Fri Dec 18 2009 : Version 1.0.111
136  - Fix a logging bug when an eventscript is aborted that could cause a crash.
137  - Add back cb_status that was lost in a previous commit.
138 * Fri Dec 18 2009 : Version 1.0.110
139  - Metxe: fix for filedescriptor leak in the new eventscript code.
140  - Rusty: fix for a crash bug in the eventscript code.
141 * Thu Dec 17 2009 : Version 1.0.109
142  - Massive eventscript updates. (bz58828)
143  - Nice the daemon instead of using realtime scheduler, also use mlockall() to
144    reduce the risk of blockign due to paging.
145  - Workarounds for valgrind when forking once for each script. Valgrind consumes
146    massive cpu when terminating the scripts on virtual systems.
147  - Sync the tdb library with upstream, and use the new TDB_DISALLOW_NESTING flag.
148  - Add new command "ctdb dumpdbbackup"
149  - Start using the new tdb check framework to validate tdb files upon startup.
150  - A new framework where we can control health for individual tdb databases.
151  - Fix a crash bug in the logging code.
152  - New transaction code for persistent databases.
153  - Various other smaller fixes.
154 * Mon Dec 7 2009 : Version 1.0.108
155  - Transaction updates from Michael Adam.
156  - Use the new wbinfo --ping-dc instead of -p in the eventscript for samba
157    the check if winbindd is ok.
158  - Add a better "process-exist" for samba so it will automatically
159    reap smbd's on stopped and banned nodes to reclaim subrecords.
160    This will be done a bit differently in the next release.
161  - Use a statically allocated buffer for the 'first-time' capture buffer
162    to reduce the pressure on malloc/free.
163 * Wed Dec 2 2009 : Version 1.0.107
164  - fix for rusty to solve a double-free that can happen when there are
165    multiple packets queued and the connection is destroyed before
166    all packets are processed.
167 * Tue Dec 1 2009 : Version 1.0.106
168  - Buildscript changes from Michael Adam
169  - Dont do a full recovery when there is a mismatch detected for ip addresses,
170    just do a less disruptive ip-reallocation
171  - When starting ctdbd, wait until all initial recoveries have finished 
172    before we issue the "startup" event.
173    So dont start services or monitoring until the cluster has
174    stabilized.
175  - Major eventscript overhaul by Ronnie, Rusty and Martins and fixes of a few
176    bugs found.
177 * Thu Nov 19 2009 : Version 1.0.105
178  - Fix a bug where we could SEGV if multiple concurrent "ctdb eventscript ..."
179    are used and some of them block.
180  - Monitor the daemon from the syslog child process so we shutdown cleanly when
181    the main daemon terminates.
182  - Add a 500k line ringbuffer in memory where all log messages are stored.
183  - Add a "ctdb getlog <level>" command to pull log messages from the in memory
184    ringbuffer.
185  - From martin : fixes to cifs and nfs autotests
186  - from michael a : fix a bashism in 11.natgw
187 * Fri Nov 6 2009 : Version 1.0.104
188  - Suggestion from Metze, we can now use killtcp to kill local connections
189    for nfs so change the killtcp script to kill both directions of an NFS
190    connection.
191    We used to deliberately only kill one direction in these cases due to
192    limitations.
193  - Suggestion from christian Ambach, when using natgw, try to avoid using a
194    UNHEALTHY node as the natgw master.
195  - From Michael Adam: Fix a SEGV bug in the recent change to the eventscripts
196    to allow the timeout to apply to each individual script.
197  - fix a talloc bug in teh vacuuming code that produced nasty valgrind
198    warnings.
199  - From Rusty: Set up ulimit to create core files for ctdb, and spawned
200    processes by default. This is useful for debugging and testing but can be
201    disabled by setting CTDB_SUPRESS_COREFILE=yes in the sysconfig file.
202  - Remove the wbinfo -t check from the startup check that winbindd is happy.
203  - Enhance the test for bond devices so we also check if the sysadmin have
204    disabled all slave devices using "ifdown".
205 * Tue Nov 3 2009 : Version 1.0.103
206  - Dont use vacuuming on persistent databases
207  - Michael A : transaction updates to persistent databases
208  - Dont activate service automatically when installing the RPM. Leave this to the admin.
209  - Create a child process to send all log messages to, to prevent a hung/slow syslogd
210    from blocking the main daemon. In this case, discard log messages instead and let the child
211    process block.
212  - Michael A: updates to log messages
213 * Thu Oct 29 2009 : Version 1.0.102
214  - Wolfgang: fix for the vacuuming code
215  - Wolfgang: stronger tests for persistent database filename tests
216  - Improve the log message when we refuse to startup since wbinfo -t fails
217    to make it easier to spot in the log.
218  - Update the uptime command output and the man page to indicate that
219    "time since last ..." if from either the last recovery OR the last failover
220  - Michael A: transaction updates
221 * Wed Oct 28 2009 : Version 1.0.101
222  - create a separate context for non-monitoring events so they dont interfere with the monitor event
223  - make sure to return status 0 in teh callback when we abort an event
224 * Wed Oct 28 2009 : Version 1.0.100
225  - Change eventscript handling to allow EventScriptTimeout for each individual script instead of for all scripts as a whole.
226  - Enhanced logging from the eventscripts, log the name and the duration for each script as it finishes.
227  - Add a check to use wbinfo -t for the startup event of samba
228  - TEMP: allow clients to attach to databases even when teh node is in recovery mode
229  - dont run the monitor event as frequently after an event has failed
230  - DEBUG: in the eventloops, check the local time and warn if the time changes backward or rapidly forward
231  - From Metze, fix a bug where recovery master becoming unhealthy did not trigger an ip failover.
232  - Disable the multipath script by default
233  - Automatically re-activate the reclock checking if the reclock file is specified at runtime. Update manpage to reflect this.
234  - Add a mechanism where samba can register a SRVID and if samba unexpectedly disconnects, a message will be broadcasted to all other samba daemons.
235  - Log the pstree on hung scripts to a file in /tmp isntead of /var/log/messages
236  - change ban count before unhealthy/banned to 10
237 * Thu Oct 22 2009 : Version 1.0.99
238  - Fix a SEGV in the new db priority code.
239  - From Wolfgang : eliminate a ctdb_fatal() if there is a dmaster violation detected.
240  - During testing we often add/delete eventscripts at runtime. This could cause an eventscript to fail and mark the node unhealthy if an eventscript was deleted while we were listing the names. Handle the errorcode and make sure the node does not becomne unhealthy in this case.
241  - Lower the debuglevel for the messages when ctdb creates a filedescruiptor so we dont spam the logs with these messages.
242  - Dont have the RPM automatically restart ctdb
243  - Volker : add a missing transaction_cancel() in the handling of persistent databases
244  - Treat interfaces with the anme ethX* as bond devices in 10.interfaces so we do the correct test for if they are up or not.
245 * Tue Oct 20 2009 : Version 1.0.98
246  - Fix for the vacuuming database from Wolfgang M
247  - Create a directory where the test framework can put temporary overrides
248    to variables and functions.
249  - Wait a lot longer before shutting down the node when the reclock file
250    is incorrectly configured, and log where it is configured.
251  - Try to avoid running the "monitor" event when databases are frozen.
252  - Add logging for every time we create a filedescriptor so we can trap
253    fd leaks.
254 * Thu Oct 14 2009 : Version 1.0.97
255  - From martins : update onnode.
256    Update onnode to allow specifying an alternative nodes file from
257    the command line and also to be able to specify hostnames on the
258    list of targets :
259    onnode host1,host2,...   
260 * Tue Oct 13 2009 : Version 1.0.96
261  - Add more debugging output when eventscripts have trouble. Print a 
262    "pstree -p" to the log when scripts have hung.
263  - Update the initscript,  only print the "No reclock file used" warning
264    when we do "service ctdb start", dont also print them for all other
265    actions.
266  - When changing between unhealthy/healthy state, push a request to the
267    recovery master to perform an ip reallocation   instead of waiting for the
268    recovery master to pull and check the state change.
269  - Fix a bug in the new db-priority handling where a pre-.95 recovery master
270    could no longer lock the databases on a post-.95 daemon.
271  - Always create the nfs state directories during the "monitor" event.
272    This makes it easier to configure and enable nfs at runtime.
273  - From Volker, forward-port a simper deadlock avoiding patch from the 1.0.82
274    branch. This is a simpler versionof the "db priority lock order" patch
275    that went into 1.0.95, and will be kept for a few versions until samba
276    has been updated to use the functionality from 1.0.95.
277 * Mon Oct 12 2009 : Version 1.0.95
278  - Add database priorities. Allow samba to set the priority of databases
279    and lock the databases in priority order during recovery
280    to avoid a deadlock when samba locks one database then blocks indefinitely
281    while waiting for the second databaso to become locked.
282  - Be aggressive and ban nodes where the recovery transaction start call
283    fails.
284 * Thu Oct 10 2009 : Version 1.0.94
285  - Be very aggressive and quickly ban nodes that can not freeze their databases
286 * Tue Oct 8 2009 : Version 1.0.93
287  - When adding an ip, make sure to update this assignment on all nodes
288    so it wont show up as -1 on other nodes.
289  - When adding an ip and immediately deleting it, it was possible that
290    the daemon would crash accessing already freed memory.
291    Readjust the memory hierarchy so the destructors are called in the right order.
292  - Add a handshake to the recovery daemon to eliminate some rare cases where
293    addip/delip might cause a recovery to occur.
294  - updated onnode documenation from Martin S
295  - Updates to the natgw eventscript to allow disabling natgw at runtime
296 * Fri Oct 2 2009 : Version 1.0.92
297  - Test updates and merge from martin
298  - Add notification for "startup"
299  - Add documentation for notification
300  - from martin, a fix for restarting vsftpd in the eventscript
301 * Tue Sep 29 2009 : Version 1.0.91
302  - New vacuum and repack design from Wolgang Mueller.
303  - Add a new eventscript 01.reclock that will first mark a node unhealthy and later ban the node if the reclock file can not be accessed.
304  - Add machinereadable output to the ctdb getreclock command
305  - merge transaction updates from Michael Adam
306  - In the new banning code, reset the culprit count to 0 for all nodes that could successfully compelte a full recovery.
307  - dont mark the recovery master as a ban culprit because a node in the cluster needs a recovery. this happens naturally when using ctdb recover command so dont make this cause a node to be banned.
308 * Sat Sep 12 2009 : Version 1.0.90
309  - Be more forgiving for eventscripts that hang during startup
310  - Fix for a banning bug in the new banning logic
311 * Thu Sep 3 2009 : Version 1.0.89
312  - Make it possible to manage winbind independently of samba.
313  - Add new prototype banning code
314  - Overwrite the vsftpd state file instead of appending. This eliminates
315    annoying errors in the log.
316  - Redirect some iptables commands to dev null
317  - From Michael A, explicitely set the broadcast when we takeover a public ip
318  - Remove a reclock file check we no longer need
319  - Skip any persistent database files ending in .bak
320 * Mon Aug 17 2009 : Version 1.0.88
321  - Add a new state for eventscripts : DISABLED.
322    Add two new commands "ctdb enablescript/disablescript" to enable/disable
323    eventscripts at runtime.
324  - Bugfixes for TDB from rusty.
325  - Merge/Port changes from upstream TDB library by rusty.
326  - Additional new tests from MartinS. Tests for stop/continue.
327  - Initial patch to rework vacuuming/repacking process from Wolfgang Mueller.
328  - Updates from Michael Adam for persistent writes.
329  - Updates from MartinS to handle the new STOPPED bit in the test framework.
330  - Make it possible to enable/disable the RECMASTER and LMASTER roles
331    at runtime. Add two new commands 
332    "ctdb setlmasterrole/setrecmasterrole on/off"
333  - Make it possible to enable/disable the natgw feature at runtime. Add
334    the command "ctdb setnatgwstate on/off"
335 * Fri Jul 17 2009 : Version 1.0.87
336  - Add a new event "stopped" that is called when a node is stopped.
337  - Documentation of the STOPPED flag and the stop/continue commands
338  - Make it possible to start a node in STOPPED mode.
339  - Add a new node flag : STOPPED and commands "ctdb stop" "ctdb continue"
340    These commands are similar to "diasble/enable" but will also remove the node from the vnnmap, while disable only fails all ip addresses over.
341  - tests for NFS , CIFS by martins
342  - major updates to the init script by martins
343  - Send gratious arps with a 1.1 second stride instead of a 1 second stride to workaround interesting "features" of common linux stacks.
344  - Various test enhancements from martins:
345    - additional other tests
346    - add tests for grat arp generation, ping during failover, ssh and failover
347    - New/updated tcp tickle tests and supprot functions
348    - provide better debugging when a test fails
349    - make ctdbd restarts more reliable in the tests
350    - update the "wait bar" to  make the wait progress in tests more obvious
351    - various cleanups
352  - when dispatching a message to a handler, make the message a real talloc object so that we can reparent the object in the tallic hierarchy.
353  - document the ipreallocate command
354  - Updates to enable/disable to use the ipreallocate command to block until the following ipreallocation has completed.
355  - Update the main daemon and the tools to allow debug level to be a string instead of an integer.
356  - Update the sysconfig file to show using string literals instead of numeric values for the debuglevels used.
357  - If no debuglevel is specific, make "ctdb setdebug" show the available options.
358  - When trying to allocate network packets, add explicit checks if the network transport has been shutdown before trying and failing, to make log messages easier to read. Add this extra check and logging to every plave packets are allocated.
359 * Tue Jun 30 2009 : Version 1.0.86
360  - Do not access the reclock at all if VerifyRecoveryLock is zero, not even try to probe it.
361  - Allow setting the reclock file as "", which means that no reclock file at all should be used.
362  - Document that a reclock file is no longer required, but that it is dangerous.
363  - Add a control that can be used to set/clear/change the reclock file in the daemon during runtime.
364  - Update the recovery daemon to poll whether a reclock file should be sued and if so which file at runtime in each monitoring cycle.
365  - Automatically disable VerifyRecoveryLock everytime a user changes the location of the reclock file.
366  - do not allow the VerifyRecoveryLock to be set using ctdb setvar if there is no recovery lock file specified.
367  - Add two commands "ctdb getreclock" and "ctdb setreclock" to modify the reclock file.
368 * Tue Jun 23 2009 : Version 1.0.85
369  - From William Jojo : Dont use getopt on AIX
370  - Make it possible to use "ctdb listnodes" also when the daemon is not running
371  - Provide machinereadable output to "ctdb listnodes"
372  - Dont list DELETED nodes in the ctdb listnodes output
373  - Try to avoid causing a recovery for the average case when adding/deleting/moving an ip
374  - When banning a node, drop the IPs on that node only and not all nodes.
375  - Add tests for NFS and CIFS tickles
376  - Rename 99.routing to 11.routing so it executes before NFS and LVS scripts
377  - Increase the default timeout before we deem an unresponsive recovery daemon hung and shutdown
378  - Reduce the reclock timout to 5 seconds
379  - Spawn a child process in the recovery daemon ot check the reclock file to
380    avoid blocking the process if the underlying filesystem is unresponsive
381  - fix for filedescriptor leak when a child process timesout
382  - Dont log errors if waitpid() returns -1
383  - Onnode updates by Martins
384  - Test and initscript cleanups from Martin S
385 * Tue Jun 2 2009 : Version 1.0.84
386  - Fix a bug in onnode that could not handle dead nodes
387 * Tue Jun 2 2009 : Version 1.0.83
388  - Document how to remove a ndoe from a running cluster.
389  - Hide all deleted nodes from ctdb output.
390  - Lower the loglevel on some eventscript related items
391  - Dont queue packets to deleted nodes
392  - When building initial vnnmap, ignode any nonexisting nodes
393  - Add a new nodestate : DELETED that is used when deleting a node from an
394    existing cluster.
395  - dont remove the ctdb socket when shutting down. This prevents a race in the
396    initscripts when restarting ctdb quickly after stopping it.
397  - TDB nesting reworked.
398  - Remove obsolete ipmux
399  - From Flavio Carmo Junior: Add eventscript and documentation for ClamAV antivirus engine
400  - From Sumit Bose: fix the regex in the test to handle the new ctdb
401    statistics output that was recently added.
402  - change the socket type we use for grauitious arps from the obsolete
403    AF_INET/SOCK_PACKET to instead use PF_PACKET/SOCK_RAW.
404  - Check return codes for some functions, from Sumit Bose, based on codereview by Jim Meyering.
405  - Sumit Bose: Remove structure memeber node_list_file that is no longer used.
406  - Sumit Bose: fix configure warning for netfilter.h
407  - Updates to the webpages by Volker.
408  - Remove error messages about missing /var/log/log.ctdb file from ctdb_diagnostics.sh from christian Ambach
409  - Additional error logs if hte eventscript switching from dameon to client mode fails.
410  - track how long it takes for ctdbd and the recovery daemon to perform the rec-lock fcntl() lock attemt and show this in the ctdb statistics output.
411 * Thu May 14 2009 : Version 1.0.82
412  - Update the "ctdb lvsmaster" command to return -1 on error.
413  - Add a -Y flag to "ctdb lvsmaster"
414  - RHEL5 apache leaks semaphores when crashing. Add semaphore cleanup to the 
415    41.httpd eventscript and try to restart apache when it has crashed.
416  - Fixes to some tests
417  - Add a -o option to "onnode" which will redirect all stdout to a file for
418    each of the nodes.
419  - Add a natgw and a lvs node specifier to onnode so that we can use 
420    "onnode natgw ..."
421  - Assign the natgw address to lo instead of the private network so it can also
422    be used where private and public networks are the same.
423  - Add GPL boilerplates to two missing scripts.
424  - Change the natgw prefix NATGW_ to CTDB_NATGW_
425 * Fri May 8 2009 : Version 1.0.81
426  - use smbstatus -np instead of smbstatus -n in the 50.samba eventscript 
427    since this avoids performing an expensive traverse on the locking and brlock
428    databases.
429  - make ctdb automatically terminate all traverse child processes clusterwide
430    associated to a client application that terminates before the traversal is
431    completed.
432  - From Sumit Bose : fixes to AC_INIT handling.
433  - From Michael Adam, add Tridge's "ping_pong" tool the the ctdb distro since 
434    this is very useful for testing the backend filesystem.
435  - From Sumit bose, add support for additional 64 bit platforms.
436  - Add a link from the webpage to Michael Adams SambaXP paper on CTDB.
437 * Fri May 1 2009 : Version 1.0.80
438  - change init shutdown level to 01 for ctdb so it stops before any of the other services
439  - if we can not pull a database from a remote node during recovery, mark that node as a culprit so it becomes banned
440  - increase the loglevel when we volunteer to drop all ip addresses after beeing in recovery mode for too long. Make this timeout tuneable with "RecoveryDropAllIPs" and have it default to 60 seconds
441  - Add a new flag TDB_NO_NESTING to the tdb layer to prevent nested transactions which ctdb does not use and does not expect. Have ctdb set this flag to prevent nested transactions from occuring.
442  - dont unconditionally kill off ctdb and restrat it on "service ctdb start". Fail "service ctdb start" with an error if ctdb is already running.
443  - Add a new tunable "VerifyRecoveryLock" that can be set to 0 to prevent the main ctdb daemon to verify that the recovery master has locked the reclock file correctly before allowing it to set the recovery mode to active.
444  - fix a cosmetic bug with ctdb statistics where certain counters could become negative.
445 * Wed Apr 8 2009 : Version 1.0.79
446  - From Mathieu Parent: add a ctdb pkgconfig file
447  - Fix bug 6250
448  - add a funciton remove_ip to safely remove an ip from an interface, taking care to workaround an issue with linux alias interfaces.
449  - Update the natgw eventscript to use the safe remove_ip() function
450  - fix a bug in the eventscript child process that would cause the socket to be removed.
451  - dont verify nodemap on banned nodes during cluster monitoring
452  - Update the dodgy SeqnumInterval to have ms resolution
453 * Tue Mar 31 2009 : Version 1.0.78
454  - Add a notify mechanism so we can send snmptraps/email to external management systems when the node becomes unhealthy
455  - include 11.natgw eventscript in thew install so that the NATGW feature works
456 * Tue Mar 31 2009 : Version 1.0.77
457  - Update the 99.routing eventscript to also try to add the routes (back) during a releaseip event. Similar to the reasons why we must add addresses back during releaseip in 10.interfaces
458 * Wed Mar 24 2009 : Version 1.0.76
459  - Add a debugging command "xpnn" which can print the pnn of the node even when ctdbd is not running.
460  - Redo the NATGW implementation to allow multiple disjoing NATGW groups in the same cluster.
461 * Tue Mar 24 2009 : Version 1.0.75
462  - Various updates to LVS
463  - Fix a bug in the killtcp control where we did not set the port correctly
464  - add a new "ctdb scriptstatus" command that shows the status of the eventrscripts.
465 * Mon Mar 16 2009 : Version 1.0.74
466  - Fixes to AIX from C Cowan.
467  - Fixes to ctdb_diagnostics so we collect correct GPFS data
468  - Fixes to the net conf list command in ctdb_diagnostics
469  - Check the static-routes file IFF it exists in ctdb_diagnostics
470 * Wed Mar 4 2009 : Version 1.0.73
471  - Add possibility to disable the check of shares for NFS and Samba
472  - From Sumit Bose, fix dependencies so make -j works
473 * Wed Feb 18 2009 : Version 1.0.72
474  - Updates to test scripts by martin s
475  - Adding a COPYING file
476  - Use netstat to check for services and ports and fallback to netcat
477    only if netstat is unavailable.
478 * Mon Feb 2 2009 : Version 1.0.71
479  - Additional ipv6 fixes from Michael Adams
480 * Fri Jan 16 2009 : Version 1.0.70
481  - IPv6 support is completed. this is backward compatible with ipv4-only
482    systems. To use IPv6 with samba and ctdb you need current GIT of samba 3.3
483    or michael adams samba-ctdeb branch.
484  - Many enhancements to the build system and scripts to make it more SUSE
485    friendly by Michael Adams.
486  - Change of how the naming of the package is structured. We are now
487    using "1.0.70" as a release and "-1" as the revision instead of as
488    previously using "1.0" as release and ".70" as the revision.
489    By Michael Adams.
490 * Thu Dec 18 2008 : Version 1.0.69
491  - Various fixes to scripts by M Adam
492  - Dont call ctdb_fatal() when the transport is down during shutdown
493 * Fri Dec 12 2008 : Version 1.0.68
494  - Fixes for monitoring of interfaces status from Michael Adam.
495  - Use -q instead of >/dev/null for grep to enhance readability of the
496    scripts from Michael Adam.
497  - Update to the "ctdb recover" command. This command now block until the
498    has completed. This makes it much easier to use in scripts and avoids
499    the common workaround :
500       ctdb recover
501       ... loop while waiting for recovery completes ...
502       continue ...
503  - Add a CTDB_TIMEOUT variable. If set, this variable provides an automatic
504    timeout for "ctdb <command>", similar to using -T <timeout>
505  - Set a unique errorcode for "ctdb <command>" when it terminates due to a 
506    timeout so that scripts can distinguish between a hung command and what was
507    just a failure.
508  - Update "ctdb ban/unban" so that if the cluster is in recovery these commands
509    blocks and waits until after recovery is complete before the perform the
510    ban/unban operation. This is necessary since the recovery process can cause
511    nodes to become automatically unbanned.
512  - Update "ctdb ban/unban" to block until the recovery that will follow shortly
513    after this command has completed.
514    This makes it much easier to use in scripts and avoids the common
515    workaround :
516       ctdb ban/unban
517       ... loop while waiting for recovery completes ...
518       continue ...
519  - Bugfix for the new flags handling in 1.0.67. Abort and restart monitoring
520    if we failed to get proper nodemaps from a remote node instead of
521    dereferencing a null pointer.
522  - If ctdbd was explicitely started with the '--socket' argument, make
523    ctdbd automatically set CTDB_SOCKET to the specified argument.
524    This ensures that eventscripts spawned by the ctdb daemon will default to
525    using the same socket and talk to the correct daemon.
526    This primarily affects running multiple daemons on the same host and where 
527    you want each instance of ctdb daemons have their eventscripts talk to the
528    "correct" daemon.
529  - Update "ctdb ping" to return an error code if the ping fail so that it
530    can be used in scripts.
531  - Update to how to synchronize management of node flags across the cluster.
532 * Thu Dec 3 2008 : Version 1.0.67
533  - Add a document describing the recovery process.
534  - Fix a bug in "ctdb setdebug" where it would refuse to set a negative
535    debug level.
536  - Print the list of literals for debug names if an invalid one was given
537    to "ctdb setdebug"
538  - Redesign how "ctdb reloadnodes" works and reduce the amont of tcp teardowns
539    used during this event.
540  - Make it possible to delete a public ip from all nodes at once using
541    "ctdb delip -n all"
542 * Mon Nov 24 2008 : Version 1.0.66
543  - Allow to change the recmaster even when we are not frozen.
544  - Remove two redundant SAMBA_CHECK variables from the sysconf example
545  - After a node failure it can take very long before some lock operations
546    ctdb needs to perform are allowed/works with gpfs again. Workaround this
547    by treating a hang/timeout as success.
548  - Dont override CTDB_BASE is fet in the shell already
549  - Always send keepalive packets regardless of whether the link is idle or not.
550  - Rewrite the disable/enable flag update logic to prevent a race between 
551    "ctdb disable/enable" and the recovery daemon when updating the flags to 
552    all nodes.
553 * Thu Nov 13 2008 : Version 1.0.65
554  - Update the sysconfig example: The default debug level is 2 (NOTICE) and not
555    0 (ERROR)
556  - Add support for a CTDB_SOCKET environment variable for the ctdb command
557    line tool. If set, this overrides the default socket the ctdb tool will
558    use.
559  - Add logging of high latency operations.
560 * Mon Oct 22 2008 : Version 1.0.64
561  - Add a context and a timed event so that once we have been in recovery for
562    too long we drop all public addresses.
563 * Mon Oct 20 2008 : Version 1.0.63
564  - Remove logging of "periodic cleanup ..." in 50.samba
565  - When we reload a nodes file, we must detect this and reload the file also
566    in the recovery daemon before we try to dereference somethoung beyond the end
567    of the nodes array.
568 * Thu Oct 16 2008 : Version 1.0.62
569  - Allow multiple eventscritps using the same prefix number.
570    It is undefined which order scripts with the same prefix will execute in.
571 * Wed Oct 15 2008 : Version 1.0.61
572  - Use "route add -net" instead of "ip route add" when adding routes in 99.routing
573  - lower the loglevel os several debug statements
574  - check the status returned from ctdb_ctrl_get_tickles() before we try to print them out to the screen.
575  - install a new eventscript 20.multipathd whoich can be used to monitor that multipath devices are healthy
576 * Wed Oct 15 2008 : Version 1.0.60
577  - Verify that nodes we try to ban/unban are reachable and print an error othervise.
578  - Update the client and server sides of TAKEIP/RELEASEIP/GETPUBLICIPS and GETNODEMAP to fall back to the old style ipv4-only controls if the new ipv4/ipv6 controls fail. This allows an ipv4/v6 enabled ctdb daemon to interoperate with earlier ipv4-only versions of the daemons.
579  - From Mathieu Parent : log debian systems log the package versions in ctdb diagnostics
580  - From Mathieu Parent : specify logdir location for debian (this patch was later reversed)
581  - From Michael Adams : allow # comments in nodes/public_addresses files
582 * Tue Oct 7 2008 : Version 1.0.59
583  - Updated "reloadnodes" logic. Instead of bouncing the entire tcp layer it is sufficient to just close and reopen all outgoing tcp connections.
584  - New eventscript 99.routing which can be used to re-attach routes to public interfaces after a takeip event. (routes may be deleted by the kernel when we release an ip)
585  - IDR tree fix from Jim Houston
586  - Better handling of critical events if the local clock is suddenly changed forward by a lot.
587  - Fix three slow memory leaks in the recovery daemon
588  - New ctdb command : ctdb recmaster   which prints the pnn of the recmaster
589  - Onnode enhancements from Martin S : "healthy" and "connected" are now possible nodespecifiers
590  - From Martin S : doc fixes
591  - lowering some debug levels for some nonvital informational messages
592  - Make the daemon daemon monitoring stronger and allow ctdbd to detect a hung
593    recovery daemon.
594  - From C Cowan : patches to compile ipv6 under AIX
595  - zero out some structs to keep valgrind happy
596 * Wed Aug 27 2008 : Version 1.0.58
597  - revert the name change tcp_tcp_client back to tcp_control_tcp so
598    samba can build.
599  - Updates to the init script from Abhijith Das <adas@redhat.com>
600 * Mon Aug 25 2008 : Version 1.0.57
601  - initial support for IPv6
602 * Mon Aug 11 2008 : Version 1.0.56
603  - fix a memory leak in the recovery daemon.
604 * Mon Aug 11 2008 : Version 1.0.55
605  - Fix the releaseip message we seond to samba.
606 * Fri Aug 8 2008 : Version 1.0.54
607  - fix a looping error in the transaction code
608  - provide a more detailed error code for persistent store errors
609    so clients can make more intelligent choices on how to try to recover
610 * Thu Aug 7 2008 : Version 1.0.53
611  - Remove the reclock.pnn file   it can cause gpfs to fail to umount
612  - New transaction code
613 * Mon Aug 4 2008 : Version 1.0.52
614  - Send an explicit gratious arp when starting sending the tcp tickles.
615  - When doing failover, issue a killtcp to non-NFS/non-CIFS clients
616    so that they fail quickly. NFS and CIFS already fail and recover 
617    quickly.
618  - Update the test scripts to handle CTRL-C to kill off the test.
619 * Mon Jul 28 2008 : Version 1.0.51
620  - Strip off the vlan tag from bond devices before we check in /proc
621    if the interface is up or not.
622  - Use testparm in the background in the scripts to allow probing
623    that the shares do exist.
624  - Fix a bug in the logging code to handle multiline entries better
625  - Rename private elements from private to private_data
626 * Fri Jul 18 2008 : Version 1.0.50
627  - Dont assume that just because we can establish a TCP connection
628    that we are actually talking to a functioning ctdb daemon.
629    So dont mark the node as CONNECTED just because the tcp handshake
630    was successful.
631  - Dont try to set the recmaster to ourself during elections for those
632    cases we know this will fail. To remove some annoying benign but scary
633    looking entries from the log.
634  - Bugfix for eventsystem for signal handling that could cause a node to
635    hang.
636 * Thu Jul 17 2008 : Version 1.0.49
637  - Update the safe persistent update fix to work with unpatched samba
638    servers.
639 * Thu Jul 17 2008 : Version 1.0.48
640  - Update the spec file.
641  - Do not start new user-triggered eventscripts if we are already
642    inside recovery mode.
643  - Add two new controls to start/cancel a persistent update.
644    A client such as samba can use these to tell ctdbd that it will soon
645    be writing directly to the persistent database tdb file. So if
646    samba is -9ed before it has eitehr done the persistent_store or
647    canceled the operation, ctdb knows that the persistent databases
648    'may' be out of sync and therefore a full blown recovery is called for.
649  - Add two new options :
650    CTDB_SAMBA_SKIP_CONF_CHECK and CTDB_SAMBA_CHECK_PORTS that can be used
651    to override what checks to do when monitoring samba health.
652    We can no longer use the smbstatus, net or testparm commands to check
653    if samba or its config is healthy since these commands may block
654    indefinitely and thus can not be used in scripts.
655 * Fri Jul 11 2008 : Version 1.0.47
656  - Fix a double free bug where if a user striggered (ctdb eventscript)
657    hung and while the timeout handler was being processed a new user
658    triggered eventscript was started we would free state twice.
659  - Rewrite of onnode and associated documentation.
660 * Thu Jul 10 2008 : Version 1.0.46
661  - Document both the LVS:cingle-ip-address and the REMOTE-NODE:wan-accelerator
662    capabilities.
663  - Add commands "ctdb pnn", "ctdb lvs", "ctdb lvsmaster".
664  - LVS improvements. LVS is the single-ip-address mode for a ctdb cluster.
665  - Fixes to supress rpmlint warnings
666  - AXI compile fixes.
667  - Change \s to [[:space:]] in some scripts. Not all RHEL5 packages come
668    with a egrep that handles \s   even same version but different arch.
669  - Revert the change to NFS restart. CTDB should NOT attempt to restart
670    failed services.
671  - Rewrite of the waitpid() patch to use the eventsystem for handling
672    signals.
673 * Tue Jul 8 2008 : Version 1.0.45
674  - Try to restart the nfs service if it has failed to respond 3 times in a row.
675  - waitpid() can block if the child does not respond promptly to SIGTERM.
676    ignore all SIGCHILD signals by setting SIGCHLD to SIG_DEF.
677    get rid of all calls to waitpid().
678  - make handling of eventscripts hanging more liberal.
679    only consider the script to have failed and making the node unhealthy
680    IF the eventscript terminated wiht an error
681    OR the eventscript hung 5 or more times in a row
682 * Mon Jul 7 2008 : Version 1.0.44
683  - Add a CTDB_VALGRIND option to /etc/sysconfig/ctdb to make it start
684    ctdb under valgrind. Logs go to /var/log/ctdb_valgrind.PID
685  - Add a hack to show the control opcode that caused uninitialized data
686    in the valgrind output by encoding the opcode as the line number.
687  - Initialize structures and allocated memory in various places in
688    ctdb to make it valgrind-clean and remove all valgrind errors/warnings.
689  - If/when we destroy a lockwait child, also make sure we cancel any pending transactions
690  - If a transaction_commit fails, delete/cancel any pending transactions and
691    return an error instead of calling ctdb_fatal()
692  - When running ctdb under valgrind, make sure we run it with --nosetsched and also
693    ensure that we do not use mem-mapped i/o when accessing the tdb's.
694  - zero out ctdb->freeze_handle when we free/destroy a freeze-child.
695    This prevent a heap corruption/ctdb crash bug that could trigger
696    if the freeze child times out.
697  - we dont need to explicitely thaw the databases from the recovery daemon
698    since this is done implicitely when we restore the recovery mode back to normal.
699  - track when we start and stop a recovery. Add the 'time it took to complete the
700    recovery' to the 'ctdb uptime' output.
701    Ensure by tracking the start/stop recovery timestamps that we do not
702    check that the ip allocation is consistend from inside the recovery daemon
703    while a different node (recovery master) is performing a recovery.
704    This prevent a race that could cause a full recovery to trigger if the
705    'ctdb disable/enable' commands took very long.
706  - The freeze child indicates to the master daemon that all databases are locked
707    by writing data to the pipe shared with the master daemon.
708    This write sometimes fail and thus the master daemon never notices that the databases
709    are locked cvausing long timeouts and extra recoveries.
710    Check that the write is successful and try the write again if it failed.
711  - In each node, verify that the recmaster have the right node flags for us
712    and force a push of our flags to the recmaster if wrong.
713 * Tue Jul 1 2008 : Version 1.0.43
714  - Updates and bugfixes to the specfile to keep rpmlint happy
715  - Force a global flags update after each recovery event.
716  - Verify that the recmaster agrees with our node flags and update the
717    recmaster othervise.
718  - When writing back to the parent from a freeze-child across the pipe,
719    loop over the write in case the write failed with an error  othervise
720    the parent will never be notified tha the child has completed the operation.
721  - Automatically thaw all databases when recmaster marks us as being in normal
722    mode instead of recovery mode.
723 * Fri Jun 13 2008 : Version 1.0.42
724  - When event scripts have hung/timedout more than EventScriptBanCount times
725    in a row the node will ban itself.
726  - Many updates to persistent write tests and the test scripts.
727 * Wed May 28 2008 : Version 1.0.41
728  - Reactivate the safe writes to persistent databases and solve the
729    locking issues. Locking issues are solved the only possible way,
730    by using a child process to do the writes.  Expensive and slow but... . 
731 * Tue May 27 2008 : Version 1.0.40
732  - Read the samba sysconfig file from the 50.samba eventscript
733  - Fix some emmory hierarchical bugs in the persistent write handling
734 * Thu May 22 2008 : Version 1.0.39
735  - Moved a CTDB_MANAGES_NFS, CTDB_MANAGES_ISCSI and CTDB_MANAGES_CSFTPD
736    into /etc/sysconfig/ctdb
737  - Lowered some debug messages to not fill the logfile with entries
738    that normally occur in the default configuration.
739 * Fri May 16 2008 : Version 1.0.38
740  - Add machine readable output support to "ctdb getmonmode"
741  - Lots of tweaks and enhancements if the event scripts are "slow"
742  - Merge from tridge: an attempt to break the chicken-and-egg deadlock that
743    net conf introduces if used from an eventscript.
744  - Enhance tickles so we can tickle an ipv6 connection.
745  - Start adding ipv6 support : create a new container to replace sockaddr_in.
746  - Add a checksum routine for ipv6/tcp
747  - When starting up ctdb, let the init script do a tdbdump on all
748    persistent databases and verify that they are good (i.e. not corrupted).
749  - Try to use "safe transactions" when writing to a persistent database
750    that was opened with the TDB_NOSYNC flag. If we can get the transaction
751    thats great, if we cant  we have to write anyway since we cant block here.
752 * Mon May 12 2008 : Version 1.0.37
753  - When we shutdown ctdb we close the transport down before we run the 
754    "shutdown" eventscripts. If ctdb decides to send a packet to a remote node
755    after we have shutdown the transport but before we have shutdown ctdbd
756    itself this could lead to a SEGV instead of a clean shutdown. Fix.
757  - When using the "exportfs" command to extract which NFS export directories
758    to monitor,  exportfs violates the "principle of least surprise" and
759    sometimes report a single export line as two lines of text output
760    causing the monitoring to fail.
761 * Fri May 9 2008 : Version 1.0.36
762  - fix a memory corruption bug that could cause the recovery daemon to crash.
763  - fix a bug with distributing public ip addresses during recovery.
764    If the node that is the recovery master did NOT use public addresses,
765    then it assumed that no other node in the cluster used them either and
766    thus skipped the entire step of reallocating public addresses.
767 * Wed May 7 2008 : Version 1.0.35
768  - During recovery, when we define the new set of lmasters (vnnmap)
769    only consider those nodes that have the can-be-lmaster capability
770    when we create the vnnmap. unless there are no nodes available which
771    supports this capability in which case we allow the recmaster to
772    become lmaster capable (temporarily).
773  - Extend the async framework so that we can use paralell async calls
774    to controls that return data.
775  - If we do not have the "can be recmaster" capability, make sure we will
776    lose any recmaster elections, unless there are no nodes available that
777    have the capability, in which case we "take/win" the election anyway.
778  - Close and reopen the reclock pnn file at regular intervals.
779    Make it a non-fatal event if we occasionally fail to open/read/write
780    to this file.
781  - Monitor that the recovery daemon is still running from the main ctdb
782    daemon and shutdown the main daemon when recovery daemon has terminated.
783  - Add a "ctdb getcapabilities" command to read the capabilities off a node.
784  - Define two new capabilities : can be recmaster and can be lmaster
785    and default both capabilities to YES.
786  - Log denied tcp connection attempts with DEBUG_ERR and not DEBUG_WARNING
787 * Thu Apr 24 2008 : Version 1.0.34
788  - When deleting a public ip from a node, try to migrate the ip to a different
789    node first.
790  - Change catdb to produce output similar to tdbdump
791  - When adding a new public ip address, if this ip does not exist yet in
792    the cluster, then grab the ip on the local node and activate it.
793  - When a node disagrees with the recmaster on WHO is the recmaster, then
794    mark that node as a recovery culprit so it will eventually become
795    banned.
796  - Make ctdb eventscript support the -n all argument.
797 * Thu Apr 10 2008 : Version 1.0.33
798  - Add facilities to include site local adaptations to the eventscript
799    by /etc/ctdb/rc.local which will be read by all eventscripts.
800  - Add a "ctdb version" command.
801  - Secure the domain socket with proper permissions from Chris Cowan
802  - Bugfixes for AIX from Chris Cowan
803 * Wed Apr 02 2008 : Version 1.0.32
804  - Add a control to have a node execute the eventscripts with arbitrary
805    command line arguments.
806  - Add a control "rddumpmemory" that will dump the talloc memory allocations
807    for the recovery daemon.
808  - Decorate the talloc memdump to produce better and easier memory leak
809    tracking. 
810  - Update the RHEL5 iscsi tgtd scripts to allow one iscsi target for each
811    public address.
812  - Add two new controls "addip/delip" that can be used to add/remove public
813    addresses to a node at runtime. After using these controls a "ctdb recover"
814    ir required to make the changes take.
815  - Fix a couple of slow memory leaks.
816 * Tue Mar 25 2008 : Version 1.0.31
817  - Add back controls to disable/enable monitoring on a node.
818  - Fix a memory leak where we used to attach CALL data to the ctdb structure
819    when performing a local call. Memory which would be lost if the call was
820    aborted.
821  - Reduce the loglevel for the log output when someone connects to a non
822    public ip address for samba.
823  - Redo and optimize the vacuuming process to send only one control to each
824    other node containing all records to be vacuumed instead of one
825    control per node per record.
826 * Tue Mar 04 2008 : Version 1.0.30
827  - Update documentation cor new commands and tuneables
828  - Add machinereadable output to the ip,uptime and getdebug commands
829  - Add a moveip command to manually failover/failback public ips
830  - Add NoIPFallback tuneable that prevents ip address failback
831  - Use file locking inside the CFS as alternative to verify when other nodes
832    Are connected/disconnected to be able to recover from split network
833  - Add DisableWhenUnhealthy tunable
834  - Add CTDB_START_AS_DISABLED sysconfig param
835  - Add --start-as-disabled flag to ctdb
836  - Add ability to monitor for OOM condition
837 * Thu Feb 21 2008 : Version 1.0.29
838  - Add a new command to make expansion of an existing cluster easier
839  - Fix bug with references to freed objects in the ctdb structure
840  - Propagate debuglevel changes to the recovery daemon
841  - Merge patches to event scripts from Mathieu Parent :
842  - MP: Simulate "service" on systems which do not provide this tool
843  - MP: Set correct permissions for events.d/README
844  - Add nice helper functions to start/stop nfs from the event scripts
845 * Fri Feb 08 2008 : Version 1.0.28
846  - Fix a problem where we tried to use ethtool on non-ethernet interfaces
847  - Warn if the ipvsadm packege is missing when LVS is used
848  - Dont use absolute pathnames in some of the event scripts
849  - Fix for persistent tdbs growing inifinitely.
850 * Wed Feb 06 2008 : Version 1.0.27
851  - Add eventscript for iscsi
852 * Thu Jan 31 2008 : Version 1.0.26
853  - Fix crashbug in tdb transaction code
854 * Tue Jan 29 2008 : Version 1.0.25
855  - added async recovery code
856  - make event scripts more portable
857  - fixed ctdb dumpmemory
858  - more efficient tdb allocation code
859  - improved machine readable ctdb status output
860  - added ctdb uptime
861 * Wed Jan 16 2008 : Version 1.0.24
862  - added syslog support
863  - documentation updates
864 * Wed Jan 16 2008 : Version 1.0.23
865  - fixed a memory leak in the recoveryd
866  - fixed a corruption bug in the new transaction code
867  - fixed a case where an packet for a disconnected client could be processed
868  - added http event script
869  - updated documentation
870 * Thu Jan 10 2008 : Version 1.0.22
871  - auto-run vacuum and repack ops
872 * Wed Jan 09 2008 : Version 1.0.21
873  - added ctdb vacuum and ctdb repack code
874 * Sun Jan 06 2008 : Version 1.0.20
875  - new transaction based recovery code
876 * Sat Jan 05 2008 : Version 1.0.19
877  - fixed non-master bug
878  - big speedup in recovery for large databases
879  - lots of changes to improve tdb and ctdb for high churn databases
880 * Thu Dec 27 2007 : Version 1.0.18
881  - fixed crash bug in monitor_handler
882 * Tue Dec 04 2007 : Version 1.0.17
883  - fixed bugs related to ban/unban of nodes
884  - fixed a race condition that could lead to monitoring being permanently disabled,
885    which would lead to long recovery times
886  - make deterministic IPs the default
887  - fixed a bug related to continuous recovery 
888  - added a debugging option --node-ip