config: add 13.per_ip_routing event script
[sahlberg/ctdb.git] / packaging / RPM / ctdb.spec.in
1 %define initdir %{_sysconfdir}/init.d
2
3 Summary: Clustered TDB
4 Vendor: Samba Team
5 Packager: Samba Team <samba@samba.org>
6 Name: ctdb
7 Version: 1.0.113
8 Release: 1GITHASH
9 Epoch: 0
10 License: GNU GPL version 3
11 Group: System Environment/Daemons
12 URL: http://ctdb.samba.org/
13
14 Source: ctdb-%{version}.tar.gz
15
16 Prereq: /bin/mktemp /usr/bin/killall
17 Prereq: fileutils sed /etc/init.d
18
19 Provides: ctdb = %{version}
20
21 Prefix: /usr
22 BuildRoot: %{_tmppath}/%{name}-%{version}-root
23
24 %description
25 ctdb is the clustered database used by samba
26
27
28 #######################################################################
29
30 %prep
31 %setup -q
32 # setup the init script and sysconfig file
33 %setup -T -D -n ctdb-%{version} -q
34
35 %build
36
37 ## check for ccache
38 if ccache -h >/dev/null 2>&1 ; then
39         CC="ccache gcc"
40 else
41         CC="gcc"
42 fi
43
44 export CC
45
46 ## always run autogen.sh
47 ./autogen.sh
48
49 CFLAGS="$RPM_OPT_FLAGS $EXTRA -O0 -D_GNU_SOURCE -DCTDB_VERS=\"%{version}-%{release}\"" ./configure \
50         --prefix=%{_prefix} \
51         --sysconfdir=%{_sysconfdir} \
52         --mandir=%{_mandir} \
53         --localstatedir="/var"
54
55 make docdir=%{_docdir} showflags
56 make docdir=%{_docdir}
57
58 %install
59 # Clean up in case there is trash left from a previous build
60 rm -rf $RPM_BUILD_ROOT
61
62 # Create the target build directory hierarchy
63 mkdir -p $RPM_BUILD_ROOT%{_sysconfdir}/sysconfig
64 mkdir -p $RPM_BUILD_ROOT%{_sysconfdir}/init.d
65
66 make DESTDIR=$RPM_BUILD_ROOT docdir=%{_docdir} install
67
68 install -m644 config/ctdb.sysconfig $RPM_BUILD_ROOT%{_sysconfdir}/sysconfig/ctdb
69 install -m755 config/ctdb.init $RPM_BUILD_ROOT%{initdir}/ctdb
70
71 mkdir -p $RPM_BUILD_ROOT%{_docdir}/ctdb/tests/bin
72 install -m755 tests/bin/ctdb_transaction $RPM_BUILD_ROOT%{_docdir}/ctdb/tests/bin
73
74 # Remove "*.old" files
75 find $RPM_BUILD_ROOT -name "*.old" -exec rm -f {} \;
76
77 %clean
78 rm -rf $RPM_BUILD_ROOT
79
80
81 #######################################################################
82 ## Files section                                                     ##
83 #######################################################################
84
85 %files
86 %defattr(-,root,root)
87
88 %config(noreplace) %{_sysconfdir}/sysconfig/ctdb
89 %config(noreplace) %{_sysconfdir}/ctdb/notify.sh
90 %config(noreplace) %{_sysconfdir}/ctdb/functions
91 %attr(755,root,root) %{initdir}/ctdb
92
93 %{_docdir}/ctdb/README.eventscripts
94 %{_docdir}/ctdb/recovery-process.txt
95 %{_sysconfdir}/ctdb/events.d/00.ctdb
96 %{_sysconfdir}/ctdb/events.d/01.reclock
97 %{_sysconfdir}/ctdb/events.d/10.interface
98 %{_sysconfdir}/ctdb/events.d/13.per_ip_routing
99 %{_sysconfdir}/ctdb/events.d/11.natgw
100 %{_sysconfdir}/ctdb/events.d/11.routing
101 %{_sysconfdir}/ctdb/events.d/20.multipathd
102 %{_sysconfdir}/ctdb/events.d/31.clamd
103 %{_sysconfdir}/ctdb/events.d/40.vsftpd
104 %{_sysconfdir}/ctdb/events.d/41.httpd
105 %{_sysconfdir}/ctdb/events.d/50.samba
106 %{_sysconfdir}/ctdb/events.d/60.nfs
107 %{_sysconfdir}/ctdb/events.d/61.nfstickle
108 %{_sysconfdir}/ctdb/events.d/70.iscsi
109 %{_sysconfdir}/ctdb/events.d/91.lvs
110 %{_sysconfdir}/ctdb/statd-callout
111 %{_sysconfdir}/ctdb/interface_modify.sh
112 %{_sbindir}/ctdbd
113 %{_bindir}/ctdb
114 %{_bindir}/smnotify
115 %{_bindir}/ping_pong
116 %{_bindir}/ctdb_diagnostics
117 %{_bindir}/onnode
118 %{_mandir}/man1/ctdb.1.gz
119 %{_mandir}/man1/ctdbd.1.gz
120 %{_mandir}/man1/onnode.1.gz
121 %{_includedir}/ctdb.h
122 %{_includedir}/ctdb_private.h
123 %{_libdir}/pkgconfig/ctdb.pc
124
125 %{_docdir}/ctdb/tests/bin/ctdb_transaction
126
127 %changelog
128 * Wed Jan 13 2010 : Version 1.0.113
129  - Incorrect use of dup2() could cause ctdb to spin eating 100% cpu.
130 * Tue Jan 12 2010 : Version 1.0.112
131   - Revert the use of wbinfo --ping-dc as it is proving too unreliable.
132   - Minor testsuite changes.
133 * Fri Dec 18 2009 : Version 1.0.111
134  - Fix a logging bug when an eventscript is aborted that could cause a crash.
135  - Add back cb_status that was lost in a previous commit.
136 * Fri Dec 18 2009 : Version 1.0.110
137  - Metxe: fix for filedescriptor leak in the new eventscript code.
138  - Rusty: fix for a crash bug in the eventscript code.
139 * Thu Dec 17 2009 : Version 1.0.109
140  - Massive eventscript updates. (bz58828)
141  - Nice the daemon instead of using realtime scheduler, also use mlockall() to
142    reduce the risk of blockign due to paging.
143  - Workarounds for valgrind when forking once for each script. Valgrind consumes
144    massive cpu when terminating the scripts on virtual systems.
145  - Sync the tdb library with upstream, and use the new TDB_DISALLOW_NESTING flag.
146  - Add new command "ctdb dumpdbbackup"
147  - Start using the new tdb check framework to validate tdb files upon startup.
148  - A new framework where we can control health for individual tdb databases.
149  - Fix a crash bug in the logging code.
150  - New transaction code for persistent databases.
151  - Various other smaller fixes.
152 * Mon Dec 7 2009 : Version 1.0.108
153  - Transaction updates from Michael Adam.
154  - Use the new wbinfo --ping-dc instead of -p in the eventscript for samba
155    the check if winbindd is ok.
156  - Add a better "process-exist" for samba so it will automatically
157    reap smbd's on stopped and banned nodes to reclaim subrecords.
158    This will be done a bit differently in the next release.
159  - Use a statically allocated buffer for the 'first-time' capture buffer
160    to reduce the pressure on malloc/free.
161 * Wed Dec 2 2009 : Version 1.0.107
162  - fix for rusty to solve a double-free that can happen when there are
163    multiple packets queued and the connection is destroyed before
164    all packets are processed.
165 * Tue Dec 1 2009 : Version 1.0.106
166  - Buildscript changes from Michael Adam
167  - Dont do a full recovery when there is a mismatch detected for ip addresses,
168    just do a less disruptive ip-reallocation
169  - When starting ctdbd, wait until all initial recoveries have finished 
170    before we issue the "startup" event.
171    So dont start services or monitoring until the cluster has
172    stabilized.
173  - Major eventscript overhaul by Ronnie, Rusty and Martins and fixes of a few
174    bugs found.
175 * Thu Nov 19 2009 : Version 1.0.105
176  - Fix a bug where we could SEGV if multiple concurrent "ctdb eventscript ..."
177    are used and some of them block.
178  - Monitor the daemon from the syslog child process so we shutdown cleanly when
179    the main daemon terminates.
180  - Add a 500k line ringbuffer in memory where all log messages are stored.
181  - Add a "ctdb getlog <level>" command to pull log messages from the in memory
182    ringbuffer.
183  - From martin : fixes to cifs and nfs autotests
184  - from michael a : fix a bashism in 11.natgw
185 * Fri Nov 6 2009 : Version 1.0.104
186  - Suggestion from Metze, we can now use killtcp to kill local connections
187    for nfs so change the killtcp script to kill both directions of an NFS
188    connection.
189    We used to deliberately only kill one direction in these cases due to
190    limitations.
191  - Suggestion from christian Ambach, when using natgw, try to avoid using a
192    UNHEALTHY node as the natgw master.
193  - From Michael Adam: Fix a SEGV bug in the recent change to the eventscripts
194    to allow the timeout to apply to each individual script.
195  - fix a talloc bug in teh vacuuming code that produced nasty valgrind
196    warnings.
197  - From Rusty: Set up ulimit to create core files for ctdb, and spawned
198    processes by default. This is useful for debugging and testing but can be
199    disabled by setting CTDB_SUPRESS_COREFILE=yes in the sysconfig file.
200  - Remove the wbinfo -t check from the startup check that winbindd is happy.
201  - Enhance the test for bond devices so we also check if the sysadmin have
202    disabled all slave devices using "ifdown".
203 * Tue Nov 3 2009 : Version 1.0.103
204  - Dont use vacuuming on persistent databases
205  - Michael A : transaction updates to persistent databases
206  - Dont activate service automatically when installing the RPM. Leave this to the admin.
207  - Create a child process to send all log messages to, to prevent a hung/slow syslogd
208    from blocking the main daemon. In this case, discard log messages instead and let the child
209    process block.
210  - Michael A: updates to log messages
211 * Thu Oct 29 2009 : Version 1.0.102
212  - Wolfgang: fix for the vacuuming code
213  - Wolfgang: stronger tests for persistent database filename tests
214  - Improve the log message when we refuse to startup since wbinfo -t fails
215    to make it easier to spot in the log.
216  - Update the uptime command output and the man page to indicate that
217    "time since last ..." if from either the last recovery OR the last failover
218  - Michael A: transaction updates
219 * Wed Oct 28 2009 : Version 1.0.101
220  - create a separate context for non-monitoring events so they dont interfere with the monitor event
221  - make sure to return status 0 in teh callback when we abort an event
222 * Wed Oct 28 2009 : Version 1.0.100
223  - Change eventscript handling to allow EventScriptTimeout for each individual script instead of for all scripts as a whole.
224  - Enhanced logging from the eventscripts, log the name and the duration for each script as it finishes.
225  - Add a check to use wbinfo -t for the startup event of samba
226  - TEMP: allow clients to attach to databases even when teh node is in recovery mode
227  - dont run the monitor event as frequently after an event has failed
228  - DEBUG: in the eventloops, check the local time and warn if the time changes backward or rapidly forward
229  - From Metze, fix a bug where recovery master becoming unhealthy did not trigger an ip failover.
230  - Disable the multipath script by default
231  - Automatically re-activate the reclock checking if the reclock file is specified at runtime. Update manpage to reflect this.
232  - Add a mechanism where samba can register a SRVID and if samba unexpectedly disconnects, a message will be broadcasted to all other samba daemons.
233  - Log the pstree on hung scripts to a file in /tmp isntead of /var/log/messages
234  - change ban count before unhealthy/banned to 10
235 * Thu Oct 22 2009 : Version 1.0.99
236  - Fix a SEGV in the new db priority code.
237  - From Wolfgang : eliminate a ctdb_fatal() if there is a dmaster violation detected.
238  - During testing we often add/delete eventscripts at runtime. This could cause an eventscript to fail and mark the node unhealthy if an eventscript was deleted while we were listing the names. Handle the errorcode and make sure the node does not becomne unhealthy in this case.
239  - Lower the debuglevel for the messages when ctdb creates a filedescruiptor so we dont spam the logs with these messages.
240  - Dont have the RPM automatically restart ctdb
241  - Volker : add a missing transaction_cancel() in the handling of persistent databases
242  - Treat interfaces with the anme ethX* as bond devices in 10.interfaces so we do the correct test for if they are up or not.
243 * Tue Oct 20 2009 : Version 1.0.98
244  - Fix for the vacuuming database from Wolfgang M
245  - Create a directory where the test framework can put temporary overrides
246    to variables and functions.
247  - Wait a lot longer before shutting down the node when the reclock file
248    is incorrectly configured, and log where it is configured.
249  - Try to avoid running the "monitor" event when databases are frozen.
250  - Add logging for every time we create a filedescriptor so we can trap
251    fd leaks.
252 * Thu Oct 14 2009 : Version 1.0.97
253  - From martins : update onnode.
254    Update onnode to allow specifying an alternative nodes file from
255    the command line and also to be able to specify hostnames on the
256    list of targets :
257    onnode host1,host2,...   
258 * Tue Oct 13 2009 : Version 1.0.96
259  - Add more debugging output when eventscripts have trouble. Print a 
260    "pstree -p" to the log when scripts have hung.
261  - Update the initscript,  only print the "No reclock file used" warning
262    when we do "service ctdb start", dont also print them for all other
263    actions.
264  - When changing between unhealthy/healthy state, push a request to the
265    recovery master to perform an ip reallocation   instead of waiting for the
266    recovery master to pull and check the state change.
267  - Fix a bug in the new db-priority handling where a pre-.95 recovery master
268    could no longer lock the databases on a post-.95 daemon.
269  - Always create the nfs state directories during the "monitor" event.
270    This makes it easier to configure and enable nfs at runtime.
271  - From Volker, forward-port a simper deadlock avoiding patch from the 1.0.82
272    branch. This is a simpler versionof the "db priority lock order" patch
273    that went into 1.0.95, and will be kept for a few versions until samba
274    has been updated to use the functionality from 1.0.95.
275 * Mon Oct 12 2009 : Version 1.0.95
276  - Add database priorities. Allow samba to set the priority of databases
277    and lock the databases in priority order during recovery
278    to avoid a deadlock when samba locks one database then blocks indefinitely
279    while waiting for the second databaso to become locked.
280  - Be aggressive and ban nodes where the recovery transaction start call
281    fails.
282 * Thu Oct 10 2009 : Version 1.0.94
283  - Be very aggressive and quickly ban nodes that can not freeze their databases
284 * Tue Oct 8 2009 : Version 1.0.93
285  - When adding an ip, make sure to update this assignment on all nodes
286    so it wont show up as -1 on other nodes.
287  - When adding an ip and immediately deleting it, it was possible that
288    the daemon would crash accessing already freed memory.
289    Readjust the memory hierarchy so the destructors are called in the right order.
290  - Add a handshake to the recovery daemon to eliminate some rare cases where
291    addip/delip might cause a recovery to occur.
292  - updated onnode documenation from Martin S
293  - Updates to the natgw eventscript to allow disabling natgw at runtime
294 * Fri Oct 2 2009 : Version 1.0.92
295  - Test updates and merge from martin
296  - Add notification for "startup"
297  - Add documentation for notification
298  - from martin, a fix for restarting vsftpd in the eventscript
299 * Tue Sep 29 2009 : Version 1.0.91
300  - New vacuum and repack design from Wolgang Mueller.
301  - Add a new eventscript 01.reclock that will first mark a node unhealthy and later ban the node if the reclock file can not be accessed.
302  - Add machinereadable output to the ctdb getreclock command
303  - merge transaction updates from Michael Adam
304  - In the new banning code, reset the culprit count to 0 for all nodes that could successfully compelte a full recovery.
305  - dont mark the recovery master as a ban culprit because a node in the cluster needs a recovery. this happens naturally when using ctdb recover command so dont make this cause a node to be banned.
306 * Sat Sep 12 2009 : Version 1.0.90
307  - Be more forgiving for eventscripts that hang during startup
308  - Fix for a banning bug in the new banning logic
309 * Thu Sep 3 2009 : Version 1.0.89
310  - Make it possible to manage winbind independently of samba.
311  - Add new prototype banning code
312  - Overwrite the vsftpd state file instead of appending. This eliminates
313    annoying errors in the log.
314  - Redirect some iptables commands to dev null
315  - From Michael A, explicitely set the broadcast when we takeover a public ip
316  - Remove a reclock file check we no longer need
317  - Skip any persistent database files ending in .bak
318 * Mon Aug 17 2009 : Version 1.0.88
319  - Add a new state for eventscripts : DISABLED.
320    Add two new commands "ctdb enablescript/disablescript" to enable/disable
321    eventscripts at runtime.
322  - Bugfixes for TDB from rusty.
323  - Merge/Port changes from upstream TDB library by rusty.
324  - Additional new tests from MartinS. Tests for stop/continue.
325  - Initial patch to rework vacuuming/repacking process from Wolfgang Mueller.
326  - Updates from Michael Adam for persistent writes.
327  - Updates from MartinS to handle the new STOPPED bit in the test framework.
328  - Make it possible to enable/disable the RECMASTER and LMASTER roles
329    at runtime. Add two new commands 
330    "ctdb setlmasterrole/setrecmasterrole on/off"
331  - Make it possible to enable/disable the natgw feature at runtime. Add
332    the command "ctdb setnatgwstate on/off"
333 * Fri Jul 17 2009 : Version 1.0.87
334  - Add a new event "stopped" that is called when a node is stopped.
335  - Documentation of the STOPPED flag and the stop/continue commands
336  - Make it possible to start a node in STOPPED mode.
337  - Add a new node flag : STOPPED and commands "ctdb stop" "ctdb continue"
338    These commands are similar to "diasble/enable" but will also remove the node from the vnnmap, while disable only fails all ip addresses over.
339  - tests for NFS , CIFS by martins
340  - major updates to the init script by martins
341  - Send gratious arps with a 1.1 second stride instead of a 1 second stride to workaround interesting "features" of common linux stacks.
342  - Various test enhancements from martins:
343    - additional other tests
344    - add tests for grat arp generation, ping during failover, ssh and failover
345    - New/updated tcp tickle tests and supprot functions
346    - provide better debugging when a test fails
347    - make ctdbd restarts more reliable in the tests
348    - update the "wait bar" to  make the wait progress in tests more obvious
349    - various cleanups
350  - when dispatching a message to a handler, make the message a real talloc object so that we can reparent the object in the tallic hierarchy.
351  - document the ipreallocate command
352  - Updates to enable/disable to use the ipreallocate command to block until the following ipreallocation has completed.
353  - Update the main daemon and the tools to allow debug level to be a string instead of an integer.
354  - Update the sysconfig file to show using string literals instead of numeric values for the debuglevels used.
355  - If no debuglevel is specific, make "ctdb setdebug" show the available options.
356  - When trying to allocate network packets, add explicit checks if the network transport has been shutdown before trying and failing, to make log messages easier to read. Add this extra check and logging to every plave packets are allocated.
357 * Tue Jun 30 2009 : Version 1.0.86
358  - Do not access the reclock at all if VerifyRecoveryLock is zero, not even try to probe it.
359  - Allow setting the reclock file as "", which means that no reclock file at all should be used.
360  - Document that a reclock file is no longer required, but that it is dangerous.
361  - Add a control that can be used to set/clear/change the reclock file in the daemon during runtime.
362  - Update the recovery daemon to poll whether a reclock file should be sued and if so which file at runtime in each monitoring cycle.
363  - Automatically disable VerifyRecoveryLock everytime a user changes the location of the reclock file.
364  - do not allow the VerifyRecoveryLock to be set using ctdb setvar if there is no recovery lock file specified.
365  - Add two commands "ctdb getreclock" and "ctdb setreclock" to modify the reclock file.
366 * Tue Jun 23 2009 : Version 1.0.85
367  - From William Jojo : Dont use getopt on AIX
368  - Make it possible to use "ctdb listnodes" also when the daemon is not running
369  - Provide machinereadable output to "ctdb listnodes"
370  - Dont list DELETED nodes in the ctdb listnodes output
371  - Try to avoid causing a recovery for the average case when adding/deleting/moving an ip
372  - When banning a node, drop the IPs on that node only and not all nodes.
373  - Add tests for NFS and CIFS tickles
374  - Rename 99.routing to 11.routing so it executes before NFS and LVS scripts
375  - Increase the default timeout before we deem an unresponsive recovery daemon hung and shutdown
376  - Reduce the reclock timout to 5 seconds
377  - Spawn a child process in the recovery daemon ot check the reclock file to
378    avoid blocking the process if the underlying filesystem is unresponsive
379  - fix for filedescriptor leak when a child process timesout
380  - Dont log errors if waitpid() returns -1
381  - Onnode updates by Martins
382  - Test and initscript cleanups from Martin S
383 * Tue Jun 2 2009 : Version 1.0.84
384  - Fix a bug in onnode that could not handle dead nodes
385 * Tue Jun 2 2009 : Version 1.0.83
386  - Document how to remove a ndoe from a running cluster.
387  - Hide all deleted nodes from ctdb output.
388  - Lower the loglevel on some eventscript related items
389  - Dont queue packets to deleted nodes
390  - When building initial vnnmap, ignode any nonexisting nodes
391  - Add a new nodestate : DELETED that is used when deleting a node from an
392    existing cluster.
393  - dont remove the ctdb socket when shutting down. This prevents a race in the
394    initscripts when restarting ctdb quickly after stopping it.
395  - TDB nesting reworked.
396  - Remove obsolete ipmux
397  - From Flavio Carmo Junior: Add eventscript and documentation for ClamAV antivirus engine
398  - From Sumit Bose: fix the regex in the test to handle the new ctdb
399    statistics output that was recently added.
400  - change the socket type we use for grauitious arps from the obsolete
401    AF_INET/SOCK_PACKET to instead use PF_PACKET/SOCK_RAW.
402  - Check return codes for some functions, from Sumit Bose, based on codereview by Jim Meyering.
403  - Sumit Bose: Remove structure memeber node_list_file that is no longer used.
404  - Sumit Bose: fix configure warning for netfilter.h
405  - Updates to the webpages by Volker.
406  - Remove error messages about missing /var/log/log.ctdb file from ctdb_diagnostics.sh from christian Ambach
407  - Additional error logs if hte eventscript switching from dameon to client mode fails.
408  - track how long it takes for ctdbd and the recovery daemon to perform the rec-lock fcntl() lock attemt and show this in the ctdb statistics output.
409 * Thu May 14 2009 : Version 1.0.82
410  - Update the "ctdb lvsmaster" command to return -1 on error.
411  - Add a -Y flag to "ctdb lvsmaster"
412  - RHEL5 apache leaks semaphores when crashing. Add semaphore cleanup to the 
413    41.httpd eventscript and try to restart apache when it has crashed.
414  - Fixes to some tests
415  - Add a -o option to "onnode" which will redirect all stdout to a file for
416    each of the nodes.
417  - Add a natgw and a lvs node specifier to onnode so that we can use 
418    "onnode natgw ..."
419  - Assign the natgw address to lo instead of the private network so it can also
420    be used where private and public networks are the same.
421  - Add GPL boilerplates to two missing scripts.
422  - Change the natgw prefix NATGW_ to CTDB_NATGW_
423 * Fri May 8 2009 : Version 1.0.81
424  - use smbstatus -np instead of smbstatus -n in the 50.samba eventscript 
425    since this avoids performing an expensive traverse on the locking and brlock
426    databases.
427  - make ctdb automatically terminate all traverse child processes clusterwide
428    associated to a client application that terminates before the traversal is
429    completed.
430  - From Sumit Bose : fixes to AC_INIT handling.
431  - From Michael Adam, add Tridge's "ping_pong" tool the the ctdb distro since 
432    this is very useful for testing the backend filesystem.
433  - From Sumit bose, add support for additional 64 bit platforms.
434  - Add a link from the webpage to Michael Adams SambaXP paper on CTDB.
435 * Fri May 1 2009 : Version 1.0.80
436  - change init shutdown level to 01 for ctdb so it stops before any of the other services
437  - if we can not pull a database from a remote node during recovery, mark that node as a culprit so it becomes banned
438  - increase the loglevel when we volunteer to drop all ip addresses after beeing in recovery mode for too long. Make this timeout tuneable with "RecoveryDropAllIPs" and have it default to 60 seconds
439  - Add a new flag TDB_NO_NESTING to the tdb layer to prevent nested transactions which ctdb does not use and does not expect. Have ctdb set this flag to prevent nested transactions from occuring.
440  - dont unconditionally kill off ctdb and restrat it on "service ctdb start". Fail "service ctdb start" with an error if ctdb is already running.
441  - Add a new tunable "VerifyRecoveryLock" that can be set to 0 to prevent the main ctdb daemon to verify that the recovery master has locked the reclock file correctly before allowing it to set the recovery mode to active.
442  - fix a cosmetic bug with ctdb statistics where certain counters could become negative.
443 * Wed Apr 8 2009 : Version 1.0.79
444  - From Mathieu Parent: add a ctdb pkgconfig file
445  - Fix bug 6250
446  - add a funciton remove_ip to safely remove an ip from an interface, taking care to workaround an issue with linux alias interfaces.
447  - Update the natgw eventscript to use the safe remove_ip() function
448  - fix a bug in the eventscript child process that would cause the socket to be removed.
449  - dont verify nodemap on banned nodes during cluster monitoring
450  - Update the dodgy SeqnumInterval to have ms resolution
451 * Tue Mar 31 2009 : Version 1.0.78
452  - Add a notify mechanism so we can send snmptraps/email to external management systems when the node becomes unhealthy
453  - include 11.natgw eventscript in thew install so that the NATGW feature works
454 * Tue Mar 31 2009 : Version 1.0.77
455  - Update the 99.routing eventscript to also try to add the routes (back) during a releaseip event. Similar to the reasons why we must add addresses back during releaseip in 10.interfaces
456 * Wed Mar 24 2009 : Version 1.0.76
457  - Add a debugging command "xpnn" which can print the pnn of the node even when ctdbd is not running.
458  - Redo the NATGW implementation to allow multiple disjoing NATGW groups in the same cluster.
459 * Tue Mar 24 2009 : Version 1.0.75
460  - Various updates to LVS
461  - Fix a bug in the killtcp control where we did not set the port correctly
462  - add a new "ctdb scriptstatus" command that shows the status of the eventrscripts.
463 * Mon Mar 16 2009 : Version 1.0.74
464  - Fixes to AIX from C Cowan.
465  - Fixes to ctdb_diagnostics so we collect correct GPFS data
466  - Fixes to the net conf list command in ctdb_diagnostics
467  - Check the static-routes file IFF it exists in ctdb_diagnostics
468 * Wed Mar 4 2009 : Version 1.0.73
469  - Add possibility to disable the check of shares for NFS and Samba
470  - From Sumit Bose, fix dependencies so make -j works
471 * Wed Feb 18 2009 : Version 1.0.72
472  - Updates to test scripts by martin s
473  - Adding a COPYING file
474  - Use netstat to check for services and ports and fallback to netcat
475    only if netstat is unavailable.
476 * Mon Feb 2 2009 : Version 1.0.71
477  - Additional ipv6 fixes from Michael Adams
478 * Fri Jan 16 2009 : Version 1.0.70
479  - IPv6 support is completed. this is backward compatible with ipv4-only
480    systems. To use IPv6 with samba and ctdb you need current GIT of samba 3.3
481    or michael adams samba-ctdeb branch.
482  - Many enhancements to the build system and scripts to make it more SUSE
483    friendly by Michael Adams.
484  - Change of how the naming of the package is structured. We are now
485    using "1.0.70" as a release and "-1" as the revision instead of as
486    previously using "1.0" as release and ".70" as the revision.
487    By Michael Adams.
488 * Thu Dec 18 2008 : Version 1.0.69
489  - Various fixes to scripts by M Adam
490  - Dont call ctdb_fatal() when the transport is down during shutdown
491 * Fri Dec 12 2008 : Version 1.0.68
492  - Fixes for monitoring of interfaces status from Michael Adam.
493  - Use -q instead of >/dev/null for grep to enhance readability of the
494    scripts from Michael Adam.
495  - Update to the "ctdb recover" command. This command now block until the
496    has completed. This makes it much easier to use in scripts and avoids
497    the common workaround :
498       ctdb recover
499       ... loop while waiting for recovery completes ...
500       continue ...
501  - Add a CTDB_TIMEOUT variable. If set, this variable provides an automatic
502    timeout for "ctdb <command>", similar to using -T <timeout>
503  - Set a unique errorcode for "ctdb <command>" when it terminates due to a 
504    timeout so that scripts can distinguish between a hung command and what was
505    just a failure.
506  - Update "ctdb ban/unban" so that if the cluster is in recovery these commands
507    blocks and waits until after recovery is complete before the perform the
508    ban/unban operation. This is necessary since the recovery process can cause
509    nodes to become automatically unbanned.
510  - Update "ctdb ban/unban" to block until the recovery that will follow shortly
511    after this command has completed.
512    This makes it much easier to use in scripts and avoids the common
513    workaround :
514       ctdb ban/unban
515       ... loop while waiting for recovery completes ...
516       continue ...
517  - Bugfix for the new flags handling in 1.0.67. Abort and restart monitoring
518    if we failed to get proper nodemaps from a remote node instead of
519    dereferencing a null pointer.
520  - If ctdbd was explicitely started with the '--socket' argument, make
521    ctdbd automatically set CTDB_SOCKET to the specified argument.
522    This ensures that eventscripts spawned by the ctdb daemon will default to
523    using the same socket and talk to the correct daemon.
524    This primarily affects running multiple daemons on the same host and where 
525    you want each instance of ctdb daemons have their eventscripts talk to the
526    "correct" daemon.
527  - Update "ctdb ping" to return an error code if the ping fail so that it
528    can be used in scripts.
529  - Update to how to synchronize management of node flags across the cluster.
530 * Thu Dec 3 2008 : Version 1.0.67
531  - Add a document describing the recovery process.
532  - Fix a bug in "ctdb setdebug" where it would refuse to set a negative
533    debug level.
534  - Print the list of literals for debug names if an invalid one was given
535    to "ctdb setdebug"
536  - Redesign how "ctdb reloadnodes" works and reduce the amont of tcp teardowns
537    used during this event.
538  - Make it possible to delete a public ip from all nodes at once using
539    "ctdb delip -n all"
540 * Mon Nov 24 2008 : Version 1.0.66
541  - Allow to change the recmaster even when we are not frozen.
542  - Remove two redundant SAMBA_CHECK variables from the sysconf example
543  - After a node failure it can take very long before some lock operations
544    ctdb needs to perform are allowed/works with gpfs again. Workaround this
545    by treating a hang/timeout as success.
546  - Dont override CTDB_BASE is fet in the shell already
547  - Always send keepalive packets regardless of whether the link is idle or not.
548  - Rewrite the disable/enable flag update logic to prevent a race between 
549    "ctdb disable/enable" and the recovery daemon when updating the flags to 
550    all nodes.
551 * Thu Nov 13 2008 : Version 1.0.65
552  - Update the sysconfig example: The default debug level is 2 (NOTICE) and not
553    0 (ERROR)
554  - Add support for a CTDB_SOCKET environment variable for the ctdb command
555    line tool. If set, this overrides the default socket the ctdb tool will
556    use.
557  - Add logging of high latency operations.
558 * Mon Oct 22 2008 : Version 1.0.64
559  - Add a context and a timed event so that once we have been in recovery for
560    too long we drop all public addresses.
561 * Mon Oct 20 2008 : Version 1.0.63
562  - Remove logging of "periodic cleanup ..." in 50.samba
563  - When we reload a nodes file, we must detect this and reload the file also
564    in the recovery daemon before we try to dereference somethoung beyond the end
565    of the nodes array.
566 * Thu Oct 16 2008 : Version 1.0.62
567  - Allow multiple eventscritps using the same prefix number.
568    It is undefined which order scripts with the same prefix will execute in.
569 * Wed Oct 15 2008 : Version 1.0.61
570  - Use "route add -net" instead of "ip route add" when adding routes in 99.routing
571  - lower the loglevel os several debug statements
572  - check the status returned from ctdb_ctrl_get_tickles() before we try to print them out to the screen.
573  - install a new eventscript 20.multipathd whoich can be used to monitor that multipath devices are healthy
574 * Wed Oct 15 2008 : Version 1.0.60
575  - Verify that nodes we try to ban/unban are reachable and print an error othervise.
576  - Update the client and server sides of TAKEIP/RELEASEIP/GETPUBLICIPS and GETNODEMAP to fall back to the old style ipv4-only controls if the new ipv4/ipv6 controls fail. This allows an ipv4/v6 enabled ctdb daemon to interoperate with earlier ipv4-only versions of the daemons.
577  - From Mathieu Parent : log debian systems log the package versions in ctdb diagnostics
578  - From Mathieu Parent : specify logdir location for debian (this patch was later reversed)
579  - From Michael Adams : allow # comments in nodes/public_addresses files
580 * Tue Oct 7 2008 : Version 1.0.59
581  - Updated "reloadnodes" logic. Instead of bouncing the entire tcp layer it is sufficient to just close and reopen all outgoing tcp connections.
582  - New eventscript 99.routing which can be used to re-attach routes to public interfaces after a takeip event. (routes may be deleted by the kernel when we release an ip)
583  - IDR tree fix from Jim Houston
584  - Better handling of critical events if the local clock is suddenly changed forward by a lot.
585  - Fix three slow memory leaks in the recovery daemon
586  - New ctdb command : ctdb recmaster   which prints the pnn of the recmaster
587  - Onnode enhancements from Martin S : "healthy" and "connected" are now possible nodespecifiers
588  - From Martin S : doc fixes
589  - lowering some debug levels for some nonvital informational messages
590  - Make the daemon daemon monitoring stronger and allow ctdbd to detect a hung
591    recovery daemon.
592  - From C Cowan : patches to compile ipv6 under AIX
593  - zero out some structs to keep valgrind happy
594 * Wed Aug 27 2008 : Version 1.0.58
595  - revert the name change tcp_tcp_client back to tcp_control_tcp so
596    samba can build.
597  - Updates to the init script from Abhijith Das <adas@redhat.com>
598 * Mon Aug 25 2008 : Version 1.0.57
599  - initial support for IPv6
600 * Mon Aug 11 2008 : Version 1.0.56
601  - fix a memory leak in the recovery daemon.
602 * Mon Aug 11 2008 : Version 1.0.55
603  - Fix the releaseip message we seond to samba.
604 * Fri Aug 8 2008 : Version 1.0.54
605  - fix a looping error in the transaction code
606  - provide a more detailed error code for persistent store errors
607    so clients can make more intelligent choices on how to try to recover
608 * Thu Aug 7 2008 : Version 1.0.53
609  - Remove the reclock.pnn file   it can cause gpfs to fail to umount
610  - New transaction code
611 * Mon Aug 4 2008 : Version 1.0.52
612  - Send an explicit gratious arp when starting sending the tcp tickles.
613  - When doing failover, issue a killtcp to non-NFS/non-CIFS clients
614    so that they fail quickly. NFS and CIFS already fail and recover 
615    quickly.
616  - Update the test scripts to handle CTRL-C to kill off the test.
617 * Mon Jul 28 2008 : Version 1.0.51
618  - Strip off the vlan tag from bond devices before we check in /proc
619    if the interface is up or not.
620  - Use testparm in the background in the scripts to allow probing
621    that the shares do exist.
622  - Fix a bug in the logging code to handle multiline entries better
623  - Rename private elements from private to private_data
624 * Fri Jul 18 2008 : Version 1.0.50
625  - Dont assume that just because we can establish a TCP connection
626    that we are actually talking to a functioning ctdb daemon.
627    So dont mark the node as CONNECTED just because the tcp handshake
628    was successful.
629  - Dont try to set the recmaster to ourself during elections for those
630    cases we know this will fail. To remove some annoying benign but scary
631    looking entries from the log.
632  - Bugfix for eventsystem for signal handling that could cause a node to
633    hang.
634 * Thu Jul 17 2008 : Version 1.0.49
635  - Update the safe persistent update fix to work with unpatched samba
636    servers.
637 * Thu Jul 17 2008 : Version 1.0.48
638  - Update the spec file.
639  - Do not start new user-triggered eventscripts if we are already
640    inside recovery mode.
641  - Add two new controls to start/cancel a persistent update.
642    A client such as samba can use these to tell ctdbd that it will soon
643    be writing directly to the persistent database tdb file. So if
644    samba is -9ed before it has eitehr done the persistent_store or
645    canceled the operation, ctdb knows that the persistent databases
646    'may' be out of sync and therefore a full blown recovery is called for.
647  - Add two new options :
648    CTDB_SAMBA_SKIP_CONF_CHECK and CTDB_SAMBA_CHECK_PORTS that can be used
649    to override what checks to do when monitoring samba health.
650    We can no longer use the smbstatus, net or testparm commands to check
651    if samba or its config is healthy since these commands may block
652    indefinitely and thus can not be used in scripts.
653 * Fri Jul 11 2008 : Version 1.0.47
654  - Fix a double free bug where if a user striggered (ctdb eventscript)
655    hung and while the timeout handler was being processed a new user
656    triggered eventscript was started we would free state twice.
657  - Rewrite of onnode and associated documentation.
658 * Thu Jul 10 2008 : Version 1.0.46
659  - Document both the LVS:cingle-ip-address and the REMOTE-NODE:wan-accelerator
660    capabilities.
661  - Add commands "ctdb pnn", "ctdb lvs", "ctdb lvsmaster".
662  - LVS improvements. LVS is the single-ip-address mode for a ctdb cluster.
663  - Fixes to supress rpmlint warnings
664  - AXI compile fixes.
665  - Change \s to [[:space:]] in some scripts. Not all RHEL5 packages come
666    with a egrep that handles \s   even same version but different arch.
667  - Revert the change to NFS restart. CTDB should NOT attempt to restart
668    failed services.
669  - Rewrite of the waitpid() patch to use the eventsystem for handling
670    signals.
671 * Tue Jul 8 2008 : Version 1.0.45
672  - Try to restart the nfs service if it has failed to respond 3 times in a row.
673  - waitpid() can block if the child does not respond promptly to SIGTERM.
674    ignore all SIGCHILD signals by setting SIGCHLD to SIG_DEF.
675    get rid of all calls to waitpid().
676  - make handling of eventscripts hanging more liberal.
677    only consider the script to have failed and making the node unhealthy
678    IF the eventscript terminated wiht an error
679    OR the eventscript hung 5 or more times in a row
680 * Mon Jul 7 2008 : Version 1.0.44
681  - Add a CTDB_VALGRIND option to /etc/sysconfig/ctdb to make it start
682    ctdb under valgrind. Logs go to /var/log/ctdb_valgrind.PID
683  - Add a hack to show the control opcode that caused uninitialized data
684    in the valgrind output by encoding the opcode as the line number.
685  - Initialize structures and allocated memory in various places in
686    ctdb to make it valgrind-clean and remove all valgrind errors/warnings.
687  - If/when we destroy a lockwait child, also make sure we cancel any pending transactions
688  - If a transaction_commit fails, delete/cancel any pending transactions and
689    return an error instead of calling ctdb_fatal()
690  - When running ctdb under valgrind, make sure we run it with --nosetsched and also
691    ensure that we do not use mem-mapped i/o when accessing the tdb's.
692  - zero out ctdb->freeze_handle when we free/destroy a freeze-child.
693    This prevent a heap corruption/ctdb crash bug that could trigger
694    if the freeze child times out.
695  - we dont need to explicitely thaw the databases from the recovery daemon
696    since this is done implicitely when we restore the recovery mode back to normal.
697  - track when we start and stop a recovery. Add the 'time it took to complete the
698    recovery' to the 'ctdb uptime' output.
699    Ensure by tracking the start/stop recovery timestamps that we do not
700    check that the ip allocation is consistend from inside the recovery daemon
701    while a different node (recovery master) is performing a recovery.
702    This prevent a race that could cause a full recovery to trigger if the
703    'ctdb disable/enable' commands took very long.
704  - The freeze child indicates to the master daemon that all databases are locked
705    by writing data to the pipe shared with the master daemon.
706    This write sometimes fail and thus the master daemon never notices that the databases
707    are locked cvausing long timeouts and extra recoveries.
708    Check that the write is successful and try the write again if it failed.
709  - In each node, verify that the recmaster have the right node flags for us
710    and force a push of our flags to the recmaster if wrong.
711 * Tue Jul 1 2008 : Version 1.0.43
712  - Updates and bugfixes to the specfile to keep rpmlint happy
713  - Force a global flags update after each recovery event.
714  - Verify that the recmaster agrees with our node flags and update the
715    recmaster othervise.
716  - When writing back to the parent from a freeze-child across the pipe,
717    loop over the write in case the write failed with an error  othervise
718    the parent will never be notified tha the child has completed the operation.
719  - Automatically thaw all databases when recmaster marks us as being in normal
720    mode instead of recovery mode.
721 * Fri Jun 13 2008 : Version 1.0.42
722  - When event scripts have hung/timedout more than EventScriptBanCount times
723    in a row the node will ban itself.
724  - Many updates to persistent write tests and the test scripts.
725 * Wed May 28 2008 : Version 1.0.41
726  - Reactivate the safe writes to persistent databases and solve the
727    locking issues. Locking issues are solved the only possible way,
728    by using a child process to do the writes.  Expensive and slow but... . 
729 * Tue May 27 2008 : Version 1.0.40
730  - Read the samba sysconfig file from the 50.samba eventscript
731  - Fix some emmory hierarchical bugs in the persistent write handling
732 * Thu May 22 2008 : Version 1.0.39
733  - Moved a CTDB_MANAGES_NFS, CTDB_MANAGES_ISCSI and CTDB_MANAGES_CSFTPD
734    into /etc/sysconfig/ctdb
735  - Lowered some debug messages to not fill the logfile with entries
736    that normally occur in the default configuration.
737 * Fri May 16 2008 : Version 1.0.38
738  - Add machine readable output support to "ctdb getmonmode"
739  - Lots of tweaks and enhancements if the event scripts are "slow"
740  - Merge from tridge: an attempt to break the chicken-and-egg deadlock that
741    net conf introduces if used from an eventscript.
742  - Enhance tickles so we can tickle an ipv6 connection.
743  - Start adding ipv6 support : create a new container to replace sockaddr_in.
744  - Add a checksum routine for ipv6/tcp
745  - When starting up ctdb, let the init script do a tdbdump on all
746    persistent databases and verify that they are good (i.e. not corrupted).
747  - Try to use "safe transactions" when writing to a persistent database
748    that was opened with the TDB_NOSYNC flag. If we can get the transaction
749    thats great, if we cant  we have to write anyway since we cant block here.
750 * Mon May 12 2008 : Version 1.0.37
751  - When we shutdown ctdb we close the transport down before we run the 
752    "shutdown" eventscripts. If ctdb decides to send a packet to a remote node
753    after we have shutdown the transport but before we have shutdown ctdbd
754    itself this could lead to a SEGV instead of a clean shutdown. Fix.
755  - When using the "exportfs" command to extract which NFS export directories
756    to monitor,  exportfs violates the "principle of least surprise" and
757    sometimes report a single export line as two lines of text output
758    causing the monitoring to fail.
759 * Fri May 9 2008 : Version 1.0.36
760  - fix a memory corruption bug that could cause the recovery daemon to crash.
761  - fix a bug with distributing public ip addresses during recovery.
762    If the node that is the recovery master did NOT use public addresses,
763    then it assumed that no other node in the cluster used them either and
764    thus skipped the entire step of reallocating public addresses.
765 * Wed May 7 2008 : Version 1.0.35
766  - During recovery, when we define the new set of lmasters (vnnmap)
767    only consider those nodes that have the can-be-lmaster capability
768    when we create the vnnmap. unless there are no nodes available which
769    supports this capability in which case we allow the recmaster to
770    become lmaster capable (temporarily).
771  - Extend the async framework so that we can use paralell async calls
772    to controls that return data.
773  - If we do not have the "can be recmaster" capability, make sure we will
774    lose any recmaster elections, unless there are no nodes available that
775    have the capability, in which case we "take/win" the election anyway.
776  - Close and reopen the reclock pnn file at regular intervals.
777    Make it a non-fatal event if we occasionally fail to open/read/write
778    to this file.
779  - Monitor that the recovery daemon is still running from the main ctdb
780    daemon and shutdown the main daemon when recovery daemon has terminated.
781  - Add a "ctdb getcapabilities" command to read the capabilities off a node.
782  - Define two new capabilities : can be recmaster and can be lmaster
783    and default both capabilities to YES.
784  - Log denied tcp connection attempts with DEBUG_ERR and not DEBUG_WARNING
785 * Thu Apr 24 2008 : Version 1.0.34
786  - When deleting a public ip from a node, try to migrate the ip to a different
787    node first.
788  - Change catdb to produce output similar to tdbdump
789  - When adding a new public ip address, if this ip does not exist yet in
790    the cluster, then grab the ip on the local node and activate it.
791  - When a node disagrees with the recmaster on WHO is the recmaster, then
792    mark that node as a recovery culprit so it will eventually become
793    banned.
794  - Make ctdb eventscript support the -n all argument.
795 * Thu Apr 10 2008 : Version 1.0.33
796  - Add facilities to include site local adaptations to the eventscript
797    by /etc/ctdb/rc.local which will be read by all eventscripts.
798  - Add a "ctdb version" command.
799  - Secure the domain socket with proper permissions from Chris Cowan
800  - Bugfixes for AIX from Chris Cowan
801 * Wed Apr 02 2008 : Version 1.0.32
802  - Add a control to have a node execute the eventscripts with arbitrary
803    command line arguments.
804  - Add a control "rddumpmemory" that will dump the talloc memory allocations
805    for the recovery daemon.
806  - Decorate the talloc memdump to produce better and easier memory leak
807    tracking. 
808  - Update the RHEL5 iscsi tgtd scripts to allow one iscsi target for each
809    public address.
810  - Add two new controls "addip/delip" that can be used to add/remove public
811    addresses to a node at runtime. After using these controls a "ctdb recover"
812    ir required to make the changes take.
813  - Fix a couple of slow memory leaks.
814 * Tue Mar 25 2008 : Version 1.0.31
815  - Add back controls to disable/enable monitoring on a node.
816  - Fix a memory leak where we used to attach CALL data to the ctdb structure
817    when performing a local call. Memory which would be lost if the call was
818    aborted.
819  - Reduce the loglevel for the log output when someone connects to a non
820    public ip address for samba.
821  - Redo and optimize the vacuuming process to send only one control to each
822    other node containing all records to be vacuumed instead of one
823    control per node per record.
824 * Tue Mar 04 2008 : Version 1.0.30
825  - Update documentation cor new commands and tuneables
826  - Add machinereadable output to the ip,uptime and getdebug commands
827  - Add a moveip command to manually failover/failback public ips
828  - Add NoIPFallback tuneable that prevents ip address failback
829  - Use file locking inside the CFS as alternative to verify when other nodes
830    Are connected/disconnected to be able to recover from split network
831  - Add DisableWhenUnhealthy tunable
832  - Add CTDB_START_AS_DISABLED sysconfig param
833  - Add --start-as-disabled flag to ctdb
834  - Add ability to monitor for OOM condition
835 * Thu Feb 21 2008 : Version 1.0.29
836  - Add a new command to make expansion of an existing cluster easier
837  - Fix bug with references to freed objects in the ctdb structure
838  - Propagate debuglevel changes to the recovery daemon
839  - Merge patches to event scripts from Mathieu Parent :
840  - MP: Simulate "service" on systems which do not provide this tool
841  - MP: Set correct permissions for events.d/README
842  - Add nice helper functions to start/stop nfs from the event scripts
843 * Fri Feb 08 2008 : Version 1.0.28
844  - Fix a problem where we tried to use ethtool on non-ethernet interfaces
845  - Warn if the ipvsadm packege is missing when LVS is used
846  - Dont use absolute pathnames in some of the event scripts
847  - Fix for persistent tdbs growing inifinitely.
848 * Wed Feb 06 2008 : Version 1.0.27
849  - Add eventscript for iscsi
850 * Thu Jan 31 2008 : Version 1.0.26
851  - Fix crashbug in tdb transaction code
852 * Tue Jan 29 2008 : Version 1.0.25
853  - added async recovery code
854  - make event scripts more portable
855  - fixed ctdb dumpmemory
856  - more efficient tdb allocation code
857  - improved machine readable ctdb status output
858  - added ctdb uptime
859 * Wed Jan 16 2008 : Version 1.0.24
860  - added syslog support
861  - documentation updates
862 * Wed Jan 16 2008 : Version 1.0.23
863  - fixed a memory leak in the recoveryd
864  - fixed a corruption bug in the new transaction code
865  - fixed a case where an packet for a disconnected client could be processed
866  - added http event script
867  - updated documentation
868 * Thu Jan 10 2008 : Version 1.0.22
869  - auto-run vacuum and repack ops
870 * Wed Jan 09 2008 : Version 1.0.21
871  - added ctdb vacuum and ctdb repack code
872 * Sun Jan 06 2008 : Version 1.0.20
873  - new transaction based recovery code
874 * Sat Jan 05 2008 : Version 1.0.19
875  - fixed non-master bug
876  - big speedup in recovery for large databases
877  - lots of changes to improve tdb and ctdb for high churn databases
878 * Thu Dec 27 2007 : Version 1.0.18
879  - fixed crash bug in monitor_handler
880 * Tue Dec 04 2007 : Version 1.0.17
881  - fixed bugs related to ban/unban of nodes
882  - fixed a race condition that could lead to monitoring being permanently disabled,
883    which would lead to long recovery times
884  - make deterministic IPs the default
885  - fixed a bug related to continuous recovery 
886  - added a debugging option --node-ip