b9ca5cb02bb3c6498e91b5febba3fcef86fe9798
[tridge/ctdb.git] / include / ctdb_private.h
1 /* 
2    ctdb database library
3
4    Copyright (C) Andrew Tridgell  2006
5
6    This program is free software; you can redistribute it and/or modify
7    it under the terms of the GNU General Public License as published by
8    the Free Software Foundation; either version 3 of the License, or
9    (at your option) any later version.
10    
11    This program is distributed in the hope that it will be useful,
12    but WITHOUT ANY WARRANTY; without even the implied warranty of
13    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14    GNU General Public License for more details.
15    
16    You should have received a copy of the GNU General Public License
17    along with this program; if not, see <http://www.gnu.org/licenses/>.
18 */
19
20 #ifndef _CTDB_PRIVATE_H
21 #define _CTDB_PRIVATE_H
22
23 #include "ctdb.h"
24 #include <sys/socket.h>
25
26 /* location of daemon socket */
27 #define CTDB_PATH       "/tmp/ctdb.socket"
28
29 /* default ctdb port number */
30 #define CTDB_PORT 4379
31
32 /* we must align packets to ensure ctdb works on all architectures (eg. sparc) */
33 #define CTDB_DS_ALIGNMENT 8
34
35
36 #define CTDB_NULL_FUNC      0xFF000001
37 #define CTDB_FETCH_FUNC     0xFF000002
38
39
40 /*
41   recovery daemon memdump reply address
42  */
43 struct rd_memdump_reply {
44         uint32_t pnn;
45         uint64_t srvid;
46 };
47
48 /*
49   description for a TAKEOVER_RUN message reply address
50  */
51 struct takeover_run_reply {
52         uint32_t pnn;
53         uint64_t srvid;
54 };
55
56 /*
57  * pid of the ctdbd daemon
58  */
59 extern pid_t ctdbd_pid;
60
61 /*
62   a tcp connection description
63  */
64 struct ctdb_tcp_connection {
65         ctdb_sock_addr src_addr;
66         ctdb_sock_addr dst_addr;
67 };
68
69 /* the wire representation for a tcp tickle array */
70 struct ctdb_tcp_wire_array {
71         uint32_t num;
72         struct ctdb_tcp_connection connections[1];
73 };      
74
75 /* the list of tcp tickles used by get/set tcp tickle list */
76 struct ctdb_control_tcp_tickle_list {
77         ctdb_sock_addr addr;
78         struct ctdb_tcp_wire_array tickles;
79 };
80
81 /*
82   array of tcp connections
83  */
84 struct ctdb_tcp_array {
85         uint32_t num;
86         struct ctdb_tcp_connection *connections;
87 };      
88
89
90 /* all tunable variables go in here */
91 struct ctdb_tunable {
92         uint32_t max_redirect_count;
93         uint32_t seqnum_interval; /* unit is ms */
94         uint32_t control_timeout;
95         uint32_t traverse_timeout;
96         uint32_t keepalive_interval;
97         uint32_t keepalive_limit;
98         uint32_t max_lacount;
99         uint32_t recover_timeout;
100         uint32_t recover_interval;
101         uint32_t election_timeout;
102         uint32_t takeover_timeout;
103         uint32_t monitor_interval;
104         uint32_t tickle_update_interval;
105         uint32_t script_timeout;
106         uint32_t script_timeout_count; /* allow dodgy scripts to hang this many times in a row before we mark the node unhealthy */
107         uint32_t script_unhealthy_on_timeout; /* obsolete */
108         uint32_t recovery_grace_period;
109         uint32_t recovery_ban_period;
110         uint32_t database_hash_size;
111         uint32_t database_max_dead;
112         uint32_t rerecovery_timeout;
113         uint32_t enable_bans;
114         uint32_t deterministic_public_ips;
115         uint32_t reclock_ping_period;
116         uint32_t no_ip_failback;
117         uint32_t verbose_memory_names;
118         uint32_t recd_ping_timeout;
119         uint32_t recd_ping_failcount;
120         uint32_t log_latency_ms;
121         uint32_t reclock_latency_ms;
122         uint32_t recovery_drop_all_ips;
123         uint32_t verify_recovery_lock;
124         uint32_t vacuum_default_interval;
125         uint32_t vacuum_max_run_time;
126         uint32_t repack_limit;
127         uint32_t vacuum_limit;
128         uint32_t vacuum_min_interval;
129         uint32_t vacuum_max_interval;
130         uint32_t max_queue_depth_drop_msg;
131         uint32_t use_status_events_for_monitoring;
132         uint32_t allow_unhealthy_db_read;
133 };
134
135 /*
136   an installed ctdb remote call
137 */
138 struct ctdb_registered_call {
139         struct ctdb_registered_call *next, *prev;
140         uint32_t id;
141         ctdb_fn_t fn;
142 };
143
144 /*
145   this address structure might need to be generalised later for some
146   transports
147 */
148 struct ctdb_address {
149         const char *address;
150         int port;
151 };
152
153 /*
154   check that a pnn is valid
155  */
156 #define ctdb_validate_pnn(ctdb, pnn) (((uint32_t)(pnn)) < (ctdb)->num_nodes)
157
158
159 /* called from the queue code when a packet comes in. Called with data==NULL
160    on error */
161 typedef void (*ctdb_queue_cb_fn_t)(uint8_t *data, size_t length,
162                                    void *private_data);
163
164 /* used for callbacks in ctdb_control requests */
165 typedef void (*ctdb_control_callback_fn_t)(struct ctdb_context *,
166                                            int32_t status, TDB_DATA data, 
167                                            const char *errormsg,
168                                            void *private_data);
169 /*
170   structure describing a connected client in the daemon
171  */
172 struct ctdb_client {
173         struct ctdb_context *ctdb;
174         int fd;
175         struct ctdb_queue *queue;
176         uint32_t client_id;
177         pid_t pid;
178         struct ctdb_tcp_list *tcp_list;
179         uint32_t db_id;
180         uint32_t num_persistent_updates;
181         struct ctdb_client_notify_list *notify;
182 };
183
184 struct ctdb_iface;
185
186 /* state associated with a public ip address */
187 struct ctdb_vnn {
188         struct ctdb_vnn *prev, *next;
189
190         struct ctdb_iface *iface;
191         const char **ifaces;
192         ctdb_sock_addr public_address;
193         uint8_t public_netmask_bits;
194
195         /* the node number that is serving this public address, if any. 
196            If no node serves this ip it is set to -1 */
197         int32_t pnn;
198
199         /* List of clients to tickle for this public address */
200         struct ctdb_tcp_array *tcp_array;
201
202         /* whether we need to update the other nodes with changes to our list
203            of connected clients */
204         bool tcp_update_needed;
205
206         /* a context to hang sending gratious arp events off */
207         TALLOC_CTX *takeover_ctx;
208
209         struct ctdb_kill_tcp *killtcp;
210 };
211
212 /*
213   state associated with one node
214 */
215 struct ctdb_node {
216         struct ctdb_context *ctdb;
217         struct ctdb_address address;
218         const char *name; /* for debug messages */
219         void *private_data; /* private to transport */
220         uint32_t pnn;
221 #define NODE_FLAGS_DISCONNECTED         0x00000001 /* node isn't connected */
222 #define NODE_FLAGS_UNHEALTHY            0x00000002 /* monitoring says node is unhealthy */
223 #define NODE_FLAGS_PERMANENTLY_DISABLED 0x00000004 /* administrator has disabled node */
224 #define NODE_FLAGS_BANNED               0x00000008 /* recovery daemon has banned the node */
225 #define NODE_FLAGS_DELETED              0x00000010 /* this node has been deleted */
226 #define NODE_FLAGS_STOPPED              0x00000020 /* this node has been stopped */
227 #define NODE_FLAGS_DISABLED             (NODE_FLAGS_UNHEALTHY|NODE_FLAGS_PERMANENTLY_DISABLED)
228 #define NODE_FLAGS_INACTIVE             (NODE_FLAGS_DELETED|NODE_FLAGS_DISCONNECTED|NODE_FLAGS_BANNED|NODE_FLAGS_STOPPED)
229         uint32_t flags;
230
231         /* used by the dead node monitoring */
232         uint32_t dead_count;
233         uint32_t rx_cnt;
234         uint32_t tx_cnt;
235
236         /* used to track node capabilities, is only valid/tracked inside the
237            recovery daemon.
238         */
239         uint32_t capabilities;
240
241         /* a list of controls pending to this node, so we can time them out quickly
242            if the node becomes disconnected */
243         struct daemon_control_state *pending_controls;
244
245         /* used by the recovery daemon when distributing ip addresses 
246            across the nodes.  it needs to know which public ip's can be handled
247            by each node.
248         */
249         struct ctdb_all_public_ips *known_public_ips;
250         struct ctdb_all_public_ips *available_public_ips;
251         /* used by the recovery dameon to track when a node should be banned */
252         struct ctdb_banning_state *ban_state; 
253 };
254
255 /*
256   transport specific methods
257 */
258 struct ctdb_methods {
259         int (*initialise)(struct ctdb_context *); /* initialise transport structures */ 
260         int (*start)(struct ctdb_context *); /* start the transport */
261         int (*add_node)(struct ctdb_node *); /* setup a new node */     
262         int (*connect_node)(struct ctdb_node *); /* connect to node */
263         int (*queue_pkt)(struct ctdb_node *, uint8_t *data, uint32_t length);
264         void *(*allocate_pkt)(TALLOC_CTX *mem_ctx, size_t );
265         void (*shutdown)(struct ctdb_context *); /* shutdown transport */
266         void (*restart)(struct ctdb_node *); /* stop and restart the connection */
267 };
268
269 /*
270   transport calls up to the ctdb layer
271 */
272 struct ctdb_upcalls {
273         /* recv_pkt is called when a packet comes in */
274         void (*recv_pkt)(struct ctdb_context *, uint8_t *data, uint32_t length);
275
276         /* node_dead is called when an attempt to send to a node fails */
277         void (*node_dead)(struct ctdb_node *);
278
279         /* node_connected is called when a connection to a node is established */
280         void (*node_connected)(struct ctdb_node *);
281 };
282
283 /* list of message handlers - needs to be changed to a more efficient data
284    structure so we can find a message handler given a srvid quickly */
285 struct ctdb_message_list {
286         struct ctdb_context *ctdb;
287         struct ctdb_message_list *next, *prev;
288         uint64_t srvid;
289         ctdb_message_fn_t message_handler;
290         void *message_private;
291 };
292
293 /* additional data required for the daemon mode */
294 struct ctdb_daemon_data {
295         int sd;
296         char *name;
297         struct ctdb_queue *queue;
298 };
299
300 /*
301   ctdb status information
302  */
303 struct ctdb_statistics {
304         uint32_t num_clients;
305         uint32_t frozen;
306         uint32_t recovering;
307         uint32_t client_packets_sent;
308         uint32_t client_packets_recv;
309         uint32_t node_packets_sent;
310         uint32_t node_packets_recv;
311         uint32_t keepalive_packets_sent;
312         uint32_t keepalive_packets_recv;
313         struct {
314                 uint32_t req_call;
315                 uint32_t reply_call;
316                 uint32_t req_dmaster;
317                 uint32_t reply_dmaster;
318                 uint32_t reply_error;
319                 uint32_t req_message;
320                 uint32_t req_control;
321                 uint32_t reply_control;
322         } node;
323         struct {
324                 uint32_t req_call;
325                 uint32_t req_message;
326                 uint32_t req_control;
327         } client;
328         struct {
329                 uint32_t call;
330                 uint32_t control;
331                 uint32_t traverse;
332         } timeouts;
333         struct {
334                 double ctdbd;
335                 double recd;
336         } reclock;
337         uint32_t total_calls;
338         uint32_t pending_calls;
339         uint32_t lockwait_calls;
340         uint32_t pending_lockwait_calls;
341         uint32_t childwrite_calls;
342         uint32_t pending_childwrite_calls;
343         uint32_t memory_used;
344         uint32_t __last_counter; /* hack for control_statistics_all */
345         uint32_t max_hop_count;
346         double max_call_latency;
347         double max_lockwait_latency;
348         double max_childwrite_latency;
349 };
350
351
352 #define INVALID_GENERATION 1
353 /* table that contains the mapping between a hash value and lmaster
354  */
355 struct ctdb_vnn_map {
356         uint32_t generation;
357         uint32_t size;
358         uint32_t *map;
359 };
360
361 /* 
362    a wire representation of the vnn map
363  */
364 struct ctdb_vnn_map_wire {
365         uint32_t generation;
366         uint32_t size;
367         uint32_t map[1];
368 };
369
370 /* a structure that contains the elements required for the write record
371    control
372 */
373 struct ctdb_write_record {
374         uint32_t dbid;
375         uint32_t keylen;
376         uint32_t datalen;
377         unsigned char blob[1];
378 };
379
380 enum ctdb_freeze_mode {CTDB_FREEZE_NONE, CTDB_FREEZE_PENDING, CTDB_FREEZE_FROZEN};
381
382 #define CTDB_MONITORING_ACTIVE          0
383 #define CTDB_MONITORING_DISABLED        1
384
385 /* The different capabilities of the ctdb daemon. */
386 #define CTDB_CAP_RECMASTER              0x00000001
387 #define CTDB_CAP_LMASTER                0x00000002
388 /* This capability is set if CTDB_LVS_PUBLIC_IP is set */
389 #define CTDB_CAP_LVS                    0x00000004
390 /* This capability is set if NATGW is enabled */
391 #define CTDB_CAP_NATGW                  0x00000008
392
393 #define NUM_DB_PRIORITIES 3
394 /* main state of the ctdb daemon */
395 struct ctdb_context {
396         struct event_context *ev;
397         struct timeval ctdbd_start_time;
398         struct timeval last_recovery_started;
399         struct timeval last_recovery_finished;
400         uint32_t recovery_mode;
401         TALLOC_CTX *tickle_update_context;
402         TALLOC_CTX *keepalive_ctx;
403         struct ctdb_tunable tunable;
404         enum ctdb_freeze_mode freeze_mode[NUM_DB_PRIORITIES+1];
405         struct ctdb_freeze_handle *freeze_handles[NUM_DB_PRIORITIES+1];
406         bool freeze_transaction_started;
407         uint32_t freeze_transaction_id;
408         struct ctdb_address address;
409         const char *name;
410         const char *db_directory;
411         const char *db_directory_persistent;
412         const char *db_directory_state;
413         struct tdb_wrap *db_persistent_health;
414         uint32_t db_persistent_startup_generation;
415         uint64_t db_persistent_check_errors;
416         uint64_t max_persistent_check_errors;
417         const char *transport;
418         char *recovery_lock_file;
419         int recovery_lock_fd;
420         uint32_t pnn; /* our own pnn */
421         uint32_t num_nodes;
422         uint32_t num_connected;
423         unsigned flags;
424         uint32_t capabilities;
425         struct idr_context *idr;
426         uint16_t idr_cnt;
427         struct ctdb_node **nodes; /* array of nodes in the cluster - indexed by vnn */
428         struct ctdb_vnn *vnn; /* list of public ip addresses and interfaces */
429         struct ctdb_vnn *single_ip_vnn; /* a structure for the single ip */
430         struct ctdb_iface *ifaces; /* list of local interfaces */
431         char *err_msg;
432         const struct ctdb_methods *methods; /* transport methods */
433         const struct ctdb_upcalls *upcalls; /* transport upcalls */
434         void *private_data; /* private to transport */
435         struct ctdb_db_context *db_list;
436         struct ctdb_message_list *message_list;
437         struct ctdb_daemon_data daemon;
438         struct ctdb_statistics statistics;
439         struct ctdb_vnn_map *vnn_map;
440         uint32_t num_clients;
441         uint32_t recovery_master;
442         struct ctdb_call_state *pending_calls;
443         struct ctdb_client_ip *client_ip_list;
444         bool do_checkpublicip;
445         struct _trbt_tree_t *server_ids;        
446         const char *event_script_dir;
447         const char *notification_script;
448         const char *default_public_interface;
449         pid_t ctdbd_pid;
450         pid_t recoverd_pid;
451         pid_t syslogd_pid;
452         bool done_startup;
453         const char *node_ip;
454         struct ctdb_monitor_state *monitor;
455         struct ctdb_log_state *log;
456         int start_as_disabled;
457         int start_as_stopped;
458         bool valgrinding;
459         uint32_t event_script_timeouts; /* counting how many consecutive times an eventscript has timedout */
460         uint32_t *recd_ping_count;
461         TALLOC_CTX *release_ips_ctx; /* a context used to automatically drop all IPs if we fail to recover the node */
462
463         TALLOC_CTX *event_script_ctx;
464
465         struct ctdb_event_script_state *current_monitor;
466         struct ctdb_scripts_wire *last_status[CTDB_EVENT_MAX];
467
468         TALLOC_CTX *banning_ctx;
469
470         /* mapping from pid to ctdb_client * */
471         struct ctdb_client_pid_list *client_pids;
472 };
473
474 struct ctdb_db_context {
475         struct ctdb_db_context *next, *prev;
476         struct ctdb_context *ctdb;
477         uint32_t db_id;
478         uint32_t priority;
479         bool persistent;
480         const char *db_name;
481         const char *db_path;
482         struct tdb_wrap *ltdb;
483         struct ctdb_registered_call *calls; /* list of registered calls */
484         uint32_t seqnum;
485         struct timed_event *seqnum_update;
486         struct ctdb_traverse_local_handle *traverse;
487         bool transaction_active;
488         struct ctdb_vacuum_handle *vacuum_handle;
489         char *unhealthy_reason;
490 };
491
492
493 #define CTDB_NO_MEMORY(ctdb, p) do { if (!(p)) { \
494           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
495           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
496           return -1; }} while (0)
497
498 #define CTDB_NO_MEMORY_VOID(ctdb, p) do { if (!(p)) { \
499           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
500           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
501           return; }} while (0)
502
503 #define CTDB_NO_MEMORY_NULL(ctdb, p) do { if (!(p)) { \
504           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
505           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
506           return NULL; }} while (0)
507
508 #define CTDB_NO_MEMORY_FATAL(ctdb, p) do { if (!(p)) { \
509           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
510           ctdb_fatal(ctdb, "Out of memory in " __location__ ); \
511           }} while (0)
512
513 /*
514   the extended header for records in the ltdb
515 */
516 struct ctdb_ltdb_header {
517         uint64_t rsn;
518         uint32_t dmaster;
519         uint32_t laccessor;
520         uint32_t lacount;
521 };
522
523 enum ctdb_controls {CTDB_CONTROL_PROCESS_EXISTS          = 0, 
524                     CTDB_CONTROL_STATISTICS              = 1, 
525                     /* #2 removed */
526                     CTDB_CONTROL_PING                    = 3,
527                     CTDB_CONTROL_GETDBPATH               = 4,
528                     CTDB_CONTROL_GETVNNMAP               = 5,
529                     CTDB_CONTROL_SETVNNMAP               = 6,
530                     CTDB_CONTROL_GET_DEBUG               = 7,
531                     CTDB_CONTROL_SET_DEBUG               = 8,
532                     CTDB_CONTROL_GET_DBMAP               = 9,
533                     CTDB_CONTROL_GET_NODEMAPv4           = 10, /* obsolete */
534                     CTDB_CONTROL_SET_DMASTER             = 11,
535                     /* #12 removed */
536                     CTDB_CONTROL_PULL_DB                 = 13,
537                     CTDB_CONTROL_PUSH_DB                 = 14,
538                     CTDB_CONTROL_GET_RECMODE             = 15,
539                     CTDB_CONTROL_SET_RECMODE             = 16,
540                     CTDB_CONTROL_STATISTICS_RESET        = 17,
541                     CTDB_CONTROL_DB_ATTACH               = 18,
542                     CTDB_CONTROL_SET_CALL                = 19,
543                     CTDB_CONTROL_TRAVERSE_START          = 20,
544                     CTDB_CONTROL_TRAVERSE_ALL            = 21,
545                     CTDB_CONTROL_TRAVERSE_DATA           = 22,
546                     CTDB_CONTROL_REGISTER_SRVID          = 23,
547                     CTDB_CONTROL_DEREGISTER_SRVID        = 24,
548                     CTDB_CONTROL_GET_DBNAME              = 25,
549                     CTDB_CONTROL_ENABLE_SEQNUM           = 26,
550                     CTDB_CONTROL_UPDATE_SEQNUM           = 27,
551                     /* #28 removed */
552                     CTDB_CONTROL_DUMP_MEMORY             = 29,
553                     CTDB_CONTROL_GET_PID                 = 30,
554                     CTDB_CONTROL_GET_RECMASTER           = 31,
555                     CTDB_CONTROL_SET_RECMASTER           = 32,
556                     CTDB_CONTROL_FREEZE                  = 33,
557                     CTDB_CONTROL_THAW                    = 34,
558                     CTDB_CONTROL_GET_PNN                 = 35,
559                     CTDB_CONTROL_SHUTDOWN                = 36,
560                     CTDB_CONTROL_GET_MONMODE             = 37,
561                     /* #38 removed */
562                     /* #39 removed */
563                     /* #40 removed */
564                     /* #41 removed */
565                     CTDB_CONTROL_TAKEOVER_IPv4           = 42, /* obsolete */
566                     CTDB_CONTROL_RELEASE_IPv4            = 43, /* obsolete */
567                     CTDB_CONTROL_TCP_CLIENT              = 44,
568                     CTDB_CONTROL_TCP_ADD                 = 45,
569                     CTDB_CONTROL_TCP_REMOVE              = 46,
570                     CTDB_CONTROL_STARTUP                 = 47,
571                     CTDB_CONTROL_SET_TUNABLE             = 48,
572                     CTDB_CONTROL_GET_TUNABLE             = 49,
573                     CTDB_CONTROL_LIST_TUNABLES           = 50,
574                     CTDB_CONTROL_GET_PUBLIC_IPSv4        = 51, /* obsolete */
575                     CTDB_CONTROL_MODIFY_FLAGS            = 52,
576                     CTDB_CONTROL_GET_ALL_TUNABLES        = 53,
577                     CTDB_CONTROL_KILL_TCP                = 54,
578                     CTDB_CONTROL_GET_TCP_TICKLE_LIST     = 55,
579                     CTDB_CONTROL_SET_TCP_TICKLE_LIST     = 56,
580                     CTDB_CONTROL_REGISTER_SERVER_ID      = 57,
581                     CTDB_CONTROL_UNREGISTER_SERVER_ID    = 58,
582                     CTDB_CONTROL_CHECK_SERVER_ID         = 59,
583                     CTDB_CONTROL_GET_SERVER_ID_LIST      = 60,
584                     CTDB_CONTROL_DB_ATTACH_PERSISTENT    = 61,
585                     CTDB_CONTROL_PERSISTENT_STORE        = 62,
586                     CTDB_CONTROL_UPDATE_RECORD           = 63,
587                     CTDB_CONTROL_SEND_GRATIOUS_ARP       = 64,
588                     CTDB_CONTROL_TRANSACTION_START       = 65,
589                     CTDB_CONTROL_TRANSACTION_COMMIT      = 66,
590                     CTDB_CONTROL_WIPE_DATABASE           = 67,
591                     /* #68 removed */
592                     CTDB_CONTROL_UPTIME                  = 69,
593                     CTDB_CONTROL_START_RECOVERY          = 70,
594                     CTDB_CONTROL_END_RECOVERY            = 71,
595                     CTDB_CONTROL_RELOAD_NODES_FILE       = 72,
596                     /* #73 removed */
597                     CTDB_CONTROL_TRY_DELETE_RECORDS      = 74,
598                     CTDB_CONTROL_ENABLE_MONITOR          = 75,
599                     CTDB_CONTROL_DISABLE_MONITOR         = 76,
600                     CTDB_CONTROL_ADD_PUBLIC_IP           = 77,
601                     CTDB_CONTROL_DEL_PUBLIC_IP           = 78,
602                     CTDB_CONTROL_RUN_EVENTSCRIPTS        = 79,
603                     CTDB_CONTROL_GET_CAPABILITIES        = 80,
604                     CTDB_CONTROL_START_PERSISTENT_UPDATE = 81,
605                     CTDB_CONTROL_CANCEL_PERSISTENT_UPDATE= 82,
606                     CTDB_CONTROL_TRANS2_COMMIT           = 83,
607                     CTDB_CONTROL_TRANS2_FINISHED         = 84,
608                     CTDB_CONTROL_TRANS2_ERROR            = 85,
609                     CTDB_CONTROL_TRANS2_COMMIT_RETRY     = 86,
610                     CTDB_CONTROL_RECD_PING               = 87,
611                     CTDB_CONTROL_RELEASE_IP              = 88,
612                     CTDB_CONTROL_TAKEOVER_IP             = 89,
613                     CTDB_CONTROL_GET_PUBLIC_IPS          = 90,
614                     CTDB_CONTROL_GET_NODEMAP             = 91,
615                     CTDB_CONTROL_GET_EVENT_SCRIPT_STATUS = 96,
616                     CTDB_CONTROL_TRAVERSE_KILL           = 97,
617                     CTDB_CONTROL_RECD_RECLOCK_LATENCY    = 98,
618                     CTDB_CONTROL_GET_RECLOCK_FILE        = 99,
619                     CTDB_CONTROL_SET_RECLOCK_FILE        = 100,
620                     CTDB_CONTROL_STOP_NODE               = 101,
621                     CTDB_CONTROL_CONTINUE_NODE           = 102,
622                     CTDB_CONTROL_SET_NATGWSTATE          = 103,
623                     CTDB_CONTROL_SET_LMASTERROLE         = 104,
624                     CTDB_CONTROL_SET_RECMASTERROLE       = 105,
625                     CTDB_CONTROL_ENABLE_SCRIPT           = 107,
626                     CTDB_CONTROL_DISABLE_SCRIPT          = 108,
627                     CTDB_CONTROL_SET_BAN_STATE           = 109,
628                     CTDB_CONTROL_GET_BAN_STATE           = 110,
629                     CTDB_CONTROL_SET_DB_PRIORITY         = 111,
630                     CTDB_CONTROL_GET_DB_PRIORITY         = 112,
631                     CTDB_CONTROL_TRANSACTION_CANCEL      = 113,
632                     CTDB_CONTROL_REGISTER_NOTIFY         = 114,
633                     CTDB_CONTROL_DEREGISTER_NOTIFY       = 115,
634                     CTDB_CONTROL_TRANS2_ACTIVE           = 116,
635                     CTDB_CONTROL_GET_LOG                 = 117,
636                     CTDB_CONTROL_CLEAR_LOG               = 118,
637                     CTDB_CONTROL_TRANS3_COMMIT           = 119,
638                     CTDB_CONTROL_GET_DB_SEQNUM           = 120,
639                     CTDB_CONTROL_DB_SET_HEALTHY          = 121,
640                     CTDB_CONTROL_DB_GET_HEALTH           = 122,
641 };      
642
643 /*
644   structure passed in set_call control
645  */
646 struct ctdb_control_set_call {
647         uint32_t db_id;
648         ctdb_fn_t fn;
649         uint32_t id;
650 };
651
652 /*
653   struct for kill_tcp control
654  */
655 struct ctdb_control_killtcp {
656         ctdb_sock_addr src_addr;
657         ctdb_sock_addr dst_addr;
658 };
659
660 /*
661   struct holding a ctdb_sock_addr and an interface name,
662   used to add/remove public addresses
663  */
664 struct ctdb_control_ip_iface {
665         ctdb_sock_addr addr;
666         uint32_t mask;
667         uint32_t len;
668         char iface[1];
669 };
670
671 /*
672   struct holding a ctdb_sock_addr and an interface name,
673   used for send_gratious_arp
674  */
675 struct ctdb_control_gratious_arp {
676         ctdb_sock_addr addr;
677         uint32_t mask;
678         uint32_t len;
679         char iface[1];
680 };
681
682 /*
683   struct for tcp_add and tcp_remove controls
684  */
685 struct ctdb_control_tcp_vnn {
686         ctdb_sock_addr src;
687         ctdb_sock_addr dest;
688 };
689
690 /*
691   persistent store control - update this record on all other nodes
692  */
693 struct ctdb_control_persistent_store {
694         uint32_t db_id;
695         uint32_t len;
696         uint8_t  data[1];
697 };
698
699 /*
700   structure used for CTDB_SRVID_NODE_FLAGS_CHANGED
701  */
702 struct ctdb_node_flag_change {
703         uint32_t pnn;
704         uint32_t new_flags;
705         uint32_t old_flags;
706 };
707
708 /*
709   struct for admin setting a ban
710  */
711 struct ctdb_ban_info {
712         uint32_t pnn;
713         uint32_t ban_time;
714 };
715
716 enum call_state {CTDB_CALL_WAIT, CTDB_CALL_DONE, CTDB_CALL_ERROR};
717
718 #define CTDB_LMASTER_ANY        0xffffffff
719
720 /*
721   state of a in-progress ctdb call
722 */
723 struct ctdb_call_state {
724         struct ctdb_call_state *next, *prev;
725         enum call_state state;
726         uint32_t reqid;
727         struct ctdb_req_call *c;
728         struct ctdb_db_context *ctdb_db;
729         const char *errmsg;
730         struct ctdb_call *call;
731         uint32_t generation;
732         struct {
733                 void (*fn)(struct ctdb_call_state *);
734                 void *private_data;
735         } async;
736 };
737
738
739 /* used for fetch_lock */
740 struct ctdb_fetch_handle {
741         struct ctdb_db_context *ctdb_db;
742         TDB_DATA key;
743         TDB_DATA *data;
744         struct ctdb_ltdb_header header;
745 };
746
747 /*
748   operation IDs
749 */
750 enum ctdb_operation {
751         CTDB_REQ_CALL           = 0,
752         CTDB_REPLY_CALL         = 1,
753         CTDB_REQ_DMASTER        = 2,
754         CTDB_REPLY_DMASTER      = 3,
755         CTDB_REPLY_ERROR        = 4,
756         CTDB_REQ_MESSAGE        = 5,
757         /* #6 removed */
758         CTDB_REQ_CONTROL        = 7,
759         CTDB_REPLY_CONTROL      = 8,
760         CTDB_REQ_KEEPALIVE      = 9,
761 };
762
763 #define CTDB_MAGIC 0x43544442 /* CTDB */
764 #define CTDB_VERSION 1
765
766 /*
767   packet structures
768 */
769 struct ctdb_req_header {
770         uint32_t length;
771         uint32_t ctdb_magic;
772         uint32_t ctdb_version;
773         uint32_t generation;
774         uint32_t operation;
775         uint32_t destnode;
776         uint32_t srcnode;
777         uint32_t reqid;
778 };
779
780 struct ctdb_req_call {
781         struct ctdb_req_header hdr;
782         uint32_t flags;
783         uint32_t db_id;
784         uint32_t callid;
785         uint32_t hopcount;
786         uint32_t keylen;
787         uint32_t calldatalen;
788         uint8_t data[1]; /* key[] followed by calldata[] */
789 };
790
791 struct ctdb_reply_call {
792         struct ctdb_req_header hdr;
793         uint32_t status;
794         uint32_t datalen;
795         uint8_t  data[1];
796 };
797
798 struct ctdb_reply_error {
799         struct ctdb_req_header hdr;
800         uint32_t status;
801         uint32_t msglen;
802         uint8_t  msg[1];
803 };
804
805 struct ctdb_req_dmaster {
806         struct ctdb_req_header hdr;
807         uint32_t db_id;
808         uint64_t rsn;
809         uint32_t dmaster;
810         uint32_t keylen;
811         uint32_t datalen;
812         uint8_t  data[1];
813 };
814
815 struct ctdb_reply_dmaster {
816         struct ctdb_req_header hdr;
817         uint32_t db_id;
818         uint64_t rsn;
819         uint32_t keylen;
820         uint32_t datalen;
821         uint8_t  data[1];
822 };
823
824 struct ctdb_req_message {
825         struct ctdb_req_header hdr;
826         uint64_t srvid;
827         uint32_t datalen;
828         uint8_t data[1];
829 };
830
831 struct ctdb_req_getdbpath {
832         struct ctdb_req_header hdr;
833         uint32_t db_id;
834 };
835
836 struct ctdb_reply_getdbpath {
837         struct ctdb_req_header hdr;
838         uint32_t datalen;
839         uint8_t data[1];
840 };
841
842 struct ctdb_req_control {
843         struct ctdb_req_header hdr;
844         uint32_t opcode;
845         uint64_t srvid;
846         uint32_t client_id;
847 #define CTDB_CTRL_FLAG_NOREPLY   1
848 #define CTDB_CTRL_FLAG_OPCODE_SPECIFIC   0xFFFF0000
849         uint32_t flags;
850         uint32_t datalen;
851         uint8_t data[1];
852 };
853
854 struct ctdb_reply_control {
855         struct ctdb_req_header hdr;
856         int32_t  status;
857         uint32_t datalen;
858         uint32_t errorlen;
859         uint8_t data[1];
860 };
861
862 struct ctdb_req_keepalive {
863         struct ctdb_req_header hdr;
864 };
865
866
867 /* types of failures possible from TRANS2_COMMIT */
868 enum ctdb_trans2_commit_error {
869         CTDB_TRANS2_COMMIT_SUCCESS=0, /* all nodes committed successfully */
870         CTDB_TRANS2_COMMIT_TIMEOUT=1, /* at least one node timed out */
871         CTDB_TRANS2_COMMIT_ALLFAIL=2, /* all nodes failed the commit */
872         CTDB_TRANS2_COMMIT_SOMEFAIL=3 /* some nodes failed the commit, some allowed it */
873 };
874
875 /* internal prototypes */
876 void ctdb_set_error(struct ctdb_context *ctdb, const char *fmt, ...) PRINTF_ATTRIBUTE(2,3);
877 void ctdb_fatal(struct ctdb_context *ctdb, const char *msg);
878 bool ctdb_same_address(struct ctdb_address *a1, struct ctdb_address *a2);
879 int ctdb_parse_address(struct ctdb_context *ctdb,
880                        TALLOC_CTX *mem_ctx, const char *str,
881                        struct ctdb_address *address);
882 bool ctdb_same_ip(const ctdb_sock_addr *ip1, const ctdb_sock_addr *ip2);
883 bool ctdb_same_sockaddr(const ctdb_sock_addr *ip1, const ctdb_sock_addr *ip2);
884 uint32_t ctdb_hash(const TDB_DATA *key);
885 uint32_t ctdb_hash_string(const char *str);
886 void ctdb_request_call(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
887 void ctdb_request_dmaster(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
888 void ctdb_request_message(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
889 void ctdb_reply_dmaster(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
890 void ctdb_reply_call(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
891 void ctdb_reply_error(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
892
893 uint32_t ctdb_lmaster(struct ctdb_context *ctdb, const TDB_DATA *key);
894 int ctdb_ltdb_fetch(struct ctdb_db_context *ctdb_db, 
895                     TDB_DATA key, struct ctdb_ltdb_header *header, 
896                     TALLOC_CTX *mem_ctx, TDB_DATA *data);
897 int ctdb_ltdb_store(struct ctdb_db_context *ctdb_db, TDB_DATA key, 
898                     struct ctdb_ltdb_header *header, TDB_DATA data);
899 int32_t ctdb_control_start_persistent_update(struct ctdb_context *ctdb, 
900                         struct ctdb_req_control *c,
901                         TDB_DATA recdata);
902 int32_t ctdb_control_cancel_persistent_update(struct ctdb_context *ctdb, 
903                         struct ctdb_req_control *c,
904                         TDB_DATA recdata);
905 void ctdb_queue_packet(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
906 void ctdb_queue_packet_opcode(struct ctdb_context *ctdb, struct ctdb_req_header *hdr, unsigned opcode);
907 int ctdb_ltdb_lock_requeue(struct ctdb_db_context *ctdb_db, 
908                            TDB_DATA key, struct ctdb_req_header *hdr,
909                            void (*recv_pkt)(void *, struct ctdb_req_header *),
910                            void *recv_context, bool ignore_generation);
911 int ctdb_ltdb_lock_fetch_requeue(struct ctdb_db_context *ctdb_db, 
912                                  TDB_DATA key, struct ctdb_ltdb_header *header, 
913                                  struct ctdb_req_header *hdr, TDB_DATA *data,
914                                  void (*recv_pkt)(void *, struct ctdb_req_header *),
915                                  void *recv_context, bool ignore_generation);
916 void ctdb_input_pkt(struct ctdb_context *ctdb, struct ctdb_req_header *);
917
918 struct ctdb_call_state *ctdb_call_local_send(struct ctdb_db_context *ctdb_db, 
919                                              struct ctdb_call *call,
920                                              struct ctdb_ltdb_header *header,
921                                              TDB_DATA *data);
922
923
924 int ctdbd_start(struct ctdb_context *ctdb);
925 struct ctdb_call_state *ctdbd_call_send(struct ctdb_db_context *ctdb_db, struct ctdb_call *call);
926 int ctdbd_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
927
928 /*
929   queue a packet for sending
930 */
931 int ctdb_queue_send(struct ctdb_queue *queue, uint8_t *data, uint32_t length);
932
933 /*
934   setup the fd used by the queue
935  */
936 int ctdb_queue_set_fd(struct ctdb_queue *queue, int fd);
937
938 /*
939   setup a packet queue on a socket
940  */
941 struct ctdb_queue *ctdb_queue_setup(struct ctdb_context *ctdb,
942                                     TALLOC_CTX *mem_ctx, int fd, int alignment,
943                                     
944                                     ctdb_queue_cb_fn_t callback,
945                                     void *private_data);
946
947 /*
948   allocate a packet for use in client<->daemon communication
949  */
950 struct ctdb_req_header *_ctdbd_allocate_pkt(struct ctdb_context *ctdb,
951                                             TALLOC_CTX *mem_ctx, 
952                                             enum ctdb_operation operation, 
953                                             size_t length, size_t slength,
954                                             const char *type);
955 #define ctdbd_allocate_pkt(ctdb, mem_ctx, operation, length, type) \
956         (type *)_ctdbd_allocate_pkt(ctdb, mem_ctx, operation, length, sizeof(type), #type)
957
958 struct ctdb_req_header *_ctdb_transport_allocate(struct ctdb_context *ctdb,
959                                                  TALLOC_CTX *mem_ctx, 
960                                                  enum ctdb_operation operation, 
961                                                  size_t length, size_t slength,
962                                                  const char *type);
963 #define ctdb_transport_allocate(ctdb, mem_ctx, operation, length, type) \
964         (type *)_ctdb_transport_allocate(ctdb, mem_ctx, operation, length, sizeof(type), #type)
965
966 int ctdb_queue_length(struct ctdb_queue *queue);
967
968 /*
969   lock a record in the ltdb, given a key
970  */
971 int ctdb_ltdb_lock(struct ctdb_db_context *ctdb_db, TDB_DATA key);
972
973 /*
974   unlock a record in the ltdb, given a key
975  */
976 int ctdb_ltdb_unlock(struct ctdb_db_context *ctdb_db, TDB_DATA key);
977
978
979 /*
980   make a ctdb call to the local daemon - async send. Called from client context.
981
982   This constructs a ctdb_call request and queues it for processing. 
983   This call never blocks.
984 */
985 struct ctdb_call_state *ctdb_client_call_send(struct ctdb_db_context *ctdb_db, 
986                                               struct ctdb_call *call);
987
988 /*
989   make a recv call to the local ctdb daemon - called from client context
990
991   This is called when the program wants to wait for a ctdb_call to complete and get the 
992   results. This call will block unless the call has already completed.
993 */
994 int ctdb_client_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
995
996 int ctdb_daemon_set_message_handler(struct ctdb_context *ctdb, uint64_t srvid, 
997                              ctdb_message_fn_t handler,
998                              void *private_data);
999
1000 int ctdb_client_send_message(struct ctdb_context *ctdb, uint32_t vnn,
1001                              uint64_t srvid, TDB_DATA data);
1002
1003 /*
1004   send a ctdb message
1005 */
1006 int ctdb_daemon_send_message(struct ctdb_context *ctdb, uint32_t pnn,
1007                              uint64_t srvid, TDB_DATA data);
1008
1009
1010 struct lockwait_handle *ctdb_lockwait(struct ctdb_db_context *ctdb_db,
1011                                       TDB_DATA key,
1012                                       void (*callback)(void *), void *private_data);
1013
1014 struct ctdb_call_state *ctdb_daemon_call_send(struct ctdb_db_context *ctdb_db, 
1015                                               struct ctdb_call *call);
1016
1017 int ctdb_daemon_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
1018
1019 struct ctdb_call_state *ctdb_daemon_call_send_remote(struct ctdb_db_context *ctdb_db, 
1020                                                      struct ctdb_call *call, 
1021                                                      struct ctdb_ltdb_header *header);
1022
1023 int ctdb_call_local(struct ctdb_db_context *ctdb_db, struct ctdb_call *call,
1024                     struct ctdb_ltdb_header *header, TALLOC_CTX *mem_ctx, TDB_DATA *data,
1025                     uint32_t caller);
1026
1027 #define ctdb_reqid_find(ctdb, reqid, type)      (type *)_ctdb_reqid_find(ctdb, reqid, #type, __location__)
1028
1029 void ctdb_recv_raw_pkt(void *p, uint8_t *data, uint32_t length);
1030
1031 int ctdb_socket_connect(struct ctdb_context *ctdb);
1032
1033 void ctdb_latency(struct ctdb_db_context *ctdb_db, const char *name, double *latency, struct timeval t);
1034 void ctdb_reclock_latency(struct ctdb_context *ctdb, const char *name, double *latency, double l);
1035
1036 uint32_t ctdb_reqid_new(struct ctdb_context *ctdb, void *state);
1037 void *_ctdb_reqid_find(struct ctdb_context *ctdb, uint32_t reqid, const char *type, const char *location);
1038 void ctdb_reqid_remove(struct ctdb_context *ctdb, uint32_t reqid);
1039
1040 void ctdb_request_control(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
1041 void ctdb_reply_control(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
1042
1043 int ctdb_daemon_send_control(struct ctdb_context *ctdb, uint32_t destnode,
1044                              uint64_t srvid, uint32_t opcode, uint32_t client_id, uint32_t flags,
1045                              TDB_DATA data,
1046                              ctdb_control_callback_fn_t callback,
1047                              void *private_data);
1048
1049 int32_t ctdb_control_db_attach(struct ctdb_context *ctdb, TDB_DATA indata, 
1050                                TDB_DATA *outdata, uint64_t tdb_flags, bool persistent);
1051
1052 int ctdb_daemon_set_call(struct ctdb_context *ctdb, uint32_t db_id,
1053                          ctdb_fn_t fn, int id);
1054
1055 int ctdb_control(struct ctdb_context *ctdb, uint32_t destnode, uint64_t srvid, 
1056                  uint32_t opcode, uint32_t flags, TDB_DATA data, 
1057                  TALLOC_CTX *mem_ctx, TDB_DATA *outdata, int32_t *status,
1058                  struct timeval *timeout, char **errormsg);
1059 int ctdb_control_recv(struct ctdb_context *ctdb, 
1060                 struct ctdb_client_control_state *state, 
1061                 TALLOC_CTX *mem_ctx,
1062                 TDB_DATA *outdata, int32_t *status, char **errormsg);
1063
1064 struct ctdb_client_control_state *
1065 ctdb_control_send(struct ctdb_context *ctdb, 
1066                 uint32_t destnode, uint64_t srvid, 
1067                 uint32_t opcode, uint32_t flags, TDB_DATA data, 
1068                 TALLOC_CTX *mem_ctx,
1069                 struct timeval *timeout,
1070                 char **errormsg);
1071
1072
1073
1074
1075 #define CHECK_CONTROL_DATA_SIZE(size) do { \
1076  if (indata.dsize != size) { \
1077          DEBUG(0,(__location__ " Invalid data size in opcode %u. Got %u expected %u\n", \
1078                   opcode, (unsigned)indata.dsize, (unsigned)size));     \
1079          return -1; \
1080  } \
1081  } while (0)
1082
1083 int ctdb_control_getvnnmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1084 int ctdb_control_setvnnmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1085 int ctdb_control_getdbmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1086 int ctdb_control_getnodemapv4(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1087 int ctdb_control_getnodemap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1088 int ctdb_control_writerecord(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1089
1090
1091 struct ctdb_traverse_start {
1092         uint32_t db_id;
1093         uint32_t reqid;
1094         uint64_t srvid;
1095 };
1096
1097 /*
1098   structure used to pass record data between the child and parent
1099  */
1100 struct ctdb_rec_data {
1101         uint32_t length;
1102         uint32_t reqid;
1103         uint32_t keylen;
1104         uint32_t datalen;
1105         uint8_t  data[1];
1106 };
1107                                    
1108
1109 /* structure used for pulldb control */
1110 struct ctdb_control_pulldb {
1111         uint32_t db_id;
1112         uint32_t lmaster;
1113 };
1114
1115 /* structure used for sending lists of records */
1116 struct ctdb_marshall_buffer {
1117         uint32_t db_id;
1118         uint32_t count;
1119         uint8_t data[1];
1120 };
1121
1122 /* set dmaster control structure */
1123 struct ctdb_control_set_dmaster {
1124         uint32_t db_id;
1125         uint32_t dmaster;
1126 };
1127
1128 /*
1129   structure for setting a tunable
1130  */
1131 struct ctdb_control_set_tunable {
1132         uint32_t value;
1133         uint32_t length;
1134         uint8_t  name[1];
1135 };
1136
1137 /*
1138   structure for getting a tunable
1139  */
1140 struct ctdb_control_get_tunable {
1141         uint32_t length;
1142         uint8_t  name[1];
1143 };
1144
1145 /*
1146   structure for listing tunables
1147  */
1148 struct ctdb_control_list_tunable {
1149         uint32_t length;
1150         /* returns a : separated list of tunable names */
1151         uint8_t  data[1];
1152 };
1153
1154
1155 /* table that contains a list of all nodes a ctdb knows about and their 
1156    status
1157  */
1158 struct ctdb_node_and_flags {
1159         uint32_t pnn;
1160         uint32_t flags;
1161         ctdb_sock_addr addr;
1162 };
1163
1164 struct ctdb_node_map {
1165         uint32_t num;
1166         struct ctdb_node_and_flags nodes[1];
1167 };
1168
1169 struct ctdb_node_and_flagsv4 {
1170         uint32_t pnn;
1171         uint32_t flags;
1172         struct sockaddr_in sin;
1173 };
1174
1175 struct ctdb_node_mapv4 {
1176         uint32_t num;
1177         struct ctdb_node_and_flagsv4 nodes[1];
1178 };
1179
1180 struct ctdb_control_wipe_database {
1181         uint32_t db_id;
1182         uint32_t transaction_id;
1183 };
1184
1185 /*
1186   state of a in-progress ctdb call in client
1187 */
1188 struct ctdb_client_call_state {
1189         enum call_state state;
1190         uint32_t reqid;
1191         struct ctdb_db_context *ctdb_db;
1192         struct ctdb_call *call;
1193         struct {
1194                 void (*fn)(struct ctdb_client_call_state *);
1195                 void *private_data;
1196         } async;
1197 };
1198
1199
1200 int32_t ctdb_control_traverse_start(struct ctdb_context *ctdb, TDB_DATA indata, 
1201                                     TDB_DATA *outdata, uint32_t srcnode, uint32_t client_id);
1202 int32_t ctdb_control_traverse_all(struct ctdb_context *ctdb, TDB_DATA data, TDB_DATA *outdata);
1203 int32_t ctdb_control_traverse_data(struct ctdb_context *ctdb, TDB_DATA data, TDB_DATA *outdata);
1204 int32_t ctdb_control_traverse_kill(struct ctdb_context *ctdb, TDB_DATA indata, 
1205                                     TDB_DATA *outdata, uint32_t srcnode);
1206
1207 int ctdb_dispatch_message(struct ctdb_context *ctdb, uint64_t srvid, TDB_DATA data);
1208
1209 int daemon_register_message_handler(struct ctdb_context *ctdb, uint32_t client_id, uint64_t srvid);
1210 int ctdb_deregister_message_handler(struct ctdb_context *ctdb, uint64_t srvid, void *private_data);
1211 int daemon_deregister_message_handler(struct ctdb_context *ctdb, uint32_t client_id, uint64_t srvid);
1212
1213 int32_t ctdb_ltdb_enable_seqnum(struct ctdb_context *ctdb, uint32_t db_id);
1214 int32_t ctdb_ltdb_update_seqnum(struct ctdb_context *ctdb, uint32_t db_id, uint32_t srcnode);
1215
1216 struct ctdb_rec_data *ctdb_marshall_record(TALLOC_CTX *mem_ctx, uint32_t reqid, 
1217                                            TDB_DATA key, struct ctdb_ltdb_header *, TDB_DATA data);
1218
1219 struct ctdb_rec_data *ctdb_marshall_loop_next(struct ctdb_marshall_buffer *m, struct ctdb_rec_data *r,
1220                                               uint32_t *reqid,
1221                                               struct ctdb_ltdb_header *header,
1222                                               TDB_DATA *key, TDB_DATA *data);
1223
1224 int32_t ctdb_control_pull_db(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1225 int32_t ctdb_control_push_db(struct ctdb_context *ctdb, TDB_DATA indata);
1226 int32_t ctdb_control_set_dmaster(struct ctdb_context *ctdb, TDB_DATA indata);
1227
1228 int32_t ctdb_control_set_recmode(struct ctdb_context *ctdb, 
1229                                  struct ctdb_req_control *c,
1230                                  TDB_DATA indata, bool *async_reply,
1231                                  const char **errormsg);
1232 void ctdb_request_control_reply(struct ctdb_context *ctdb, struct ctdb_req_control *c,
1233                                 TDB_DATA *outdata, int32_t status, const char *errormsg);
1234
1235 int32_t ctdb_control_freeze(struct ctdb_context *ctdb, struct ctdb_req_control *c, bool *async_reply);
1236 int32_t ctdb_control_thaw(struct ctdb_context *ctdb, uint32_t priority);
1237
1238 int ctdb_start_recoverd(struct ctdb_context *ctdb);
1239 void ctdb_stop_recoverd(struct ctdb_context *ctdb);
1240
1241 uint32_t ctdb_get_num_active_nodes(struct ctdb_context *ctdb);
1242
1243 void ctdb_disable_monitoring(struct ctdb_context *ctdb);
1244 void ctdb_enable_monitoring(struct ctdb_context *ctdb);
1245 void ctdb_stop_monitoring(struct ctdb_context *ctdb);
1246 void ctdb_start_monitoring(struct ctdb_context *ctdb);
1247 void ctdb_start_tcp_tickle_update(struct ctdb_context *ctdb);
1248 void ctdb_send_keepalive(struct ctdb_context *ctdb, uint32_t destnode);
1249 void ctdb_start_keepalive(struct ctdb_context *ctdb);
1250 void ctdb_stop_keepalive(struct ctdb_context *ctdb);
1251 int32_t ctdb_run_eventscripts(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA data, bool *async_reply);
1252
1253
1254 void ctdb_daemon_cancel_controls(struct ctdb_context *ctdb, struct ctdb_node *node);
1255 void ctdb_call_resend_all(struct ctdb_context *ctdb);
1256 void ctdb_node_dead(struct ctdb_node *node);
1257 void ctdb_node_connected(struct ctdb_node *node);
1258 bool ctdb_blocking_freeze(struct ctdb_context *ctdb);
1259 void ctdb_high_priority(struct ctdb_context *ctdb);
1260 int32_t ctdb_control_takeover_ip(struct ctdb_context *ctdb, 
1261                                  struct ctdb_req_control *c,
1262                                  TDB_DATA indata, 
1263                                  bool *async_reply);
1264 int32_t ctdb_control_takeover_ipv4(struct ctdb_context *ctdb, 
1265                                  struct ctdb_req_control *c,
1266                                  TDB_DATA indata, 
1267                                  bool *async_reply);
1268 int32_t ctdb_control_release_ip(struct ctdb_context *ctdb, 
1269                                  struct ctdb_req_control *c,
1270                                  TDB_DATA indata, 
1271                                  bool *async_reply);
1272 int32_t ctdb_control_release_ipv4(struct ctdb_context *ctdb, 
1273                                  struct ctdb_req_control *c,
1274                                  TDB_DATA indata, 
1275                                  bool *async_reply);
1276 int32_t ctdb_control_start_recovery(struct ctdb_context *ctdb, 
1277                                  struct ctdb_req_control *c,
1278                                  bool *async_reply);
1279 int32_t ctdb_control_end_recovery(struct ctdb_context *ctdb, 
1280                                  struct ctdb_req_control *c,
1281                                  bool *async_reply);
1282
1283 struct ctdb_public_ipv4 {
1284         uint32_t pnn;
1285         struct sockaddr_in sin;
1286 };
1287
1288 struct ctdb_public_ip {
1289         uint32_t pnn;
1290         ctdb_sock_addr addr;
1291 };
1292 int ctdb_ctrl_takeover_ip(struct ctdb_context *ctdb, struct timeval timeout, 
1293                           uint32_t destnode, struct ctdb_public_ip *ip);
1294 int ctdb_ctrl_release_ip(struct ctdb_context *ctdb, struct timeval timeout, 
1295                          uint32_t destnode, struct ctdb_public_ip *ip);
1296
1297 struct ctdb_all_public_ipsv4 {
1298         uint32_t num;
1299         struct ctdb_public_ipv4 ips[1];
1300 };
1301
1302 struct ctdb_all_public_ips {
1303         uint32_t num;
1304         struct ctdb_public_ip ips[1];
1305 };
1306 int32_t ctdb_control_get_public_ipsv4(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA *outdata);
1307 int32_t ctdb_control_get_public_ips(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA *outdata);
1308 int ctdb_ctrl_get_public_ips(struct ctdb_context *ctdb, 
1309                              struct timeval timeout,
1310                              uint32_t destnode,
1311                              TALLOC_CTX *mem_ctx,
1312                              struct ctdb_all_public_ips **ips);
1313 #define CTDB_PUBLIC_IP_FLAGS_ONLY_AVAILABLE 0x00010000
1314 int ctdb_ctrl_get_public_ips_flags(struct ctdb_context *ctdb,
1315                                    struct timeval timeout, uint32_t destnode,
1316                                    TALLOC_CTX *mem_ctx,
1317                                    uint32_t flags,
1318                                    struct ctdb_all_public_ips **ips);
1319 int ctdb_ctrl_get_public_ipsv4(struct ctdb_context *ctdb, 
1320                         struct timeval timeout, uint32_t destnode, 
1321                         TALLOC_CTX *mem_ctx, struct ctdb_all_public_ips **ips);
1322
1323
1324 /* from takeover/system.c */
1325 uint32_t uint16_checksum(uint16_t *data, size_t n);
1326 int ctdb_sys_send_arp(const ctdb_sock_addr *addr, const char *iface);
1327 bool ctdb_sys_have_ip(ctdb_sock_addr *addr);
1328 int ctdb_sys_send_tcp(const ctdb_sock_addr *dest, 
1329                       const ctdb_sock_addr *src,
1330                       uint32_t seq, uint32_t ack, int rst);
1331
1332 int ctdb_set_public_addresses(struct ctdb_context *ctdb, const char *alist);
1333 int ctdb_set_single_public_ip(struct ctdb_context *ctdb,
1334                               const char *iface,
1335                               const char *ip);
1336 int ctdb_set_event_script(struct ctdb_context *ctdb, const char *script);
1337 int ctdb_set_event_script_dir(struct ctdb_context *ctdb, const char *script_dir);
1338 int ctdb_set_notification_script(struct ctdb_context *ctdb, const char *script);
1339 int ctdb_takeover_run(struct ctdb_context *ctdb, struct ctdb_node_map *nodemap);
1340
1341 int32_t ctdb_control_tcp_client(struct ctdb_context *ctdb, uint32_t client_id, 
1342                                 TDB_DATA indata);
1343 int32_t ctdb_control_tcp_add(struct ctdb_context *ctdb, TDB_DATA indata);
1344 int32_t ctdb_control_tcp_remove(struct ctdb_context *ctdb, TDB_DATA indata);
1345 int32_t ctdb_control_startup(struct ctdb_context *ctdb, uint32_t vnn);
1346 int32_t ctdb_control_kill_tcp(struct ctdb_context *ctdb, TDB_DATA indata);
1347 int32_t ctdb_control_send_gratious_arp(struct ctdb_context *ctdb, TDB_DATA indata);
1348 int32_t ctdb_control_get_tcp_tickle_list(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1349 int32_t ctdb_control_set_tcp_tickle_list(struct ctdb_context *ctdb, TDB_DATA indata);
1350
1351 void ctdb_takeover_client_destructor_hook(struct ctdb_client *client);
1352 int ctdb_event_script(struct ctdb_context *ctdb, enum ctdb_eventscript_call call);
1353 int ctdb_event_script_args(struct ctdb_context *ctdb, enum ctdb_eventscript_call call,
1354                            const char *fmt, ...) PRINTF_ATTRIBUTE(3,4);
1355 int ctdb_event_script_callback(struct ctdb_context *ctdb, 
1356                                TALLOC_CTX *mem_ctx,
1357                                void (*callback)(struct ctdb_context *, int, void *),
1358                                void *private_data,
1359                                bool from_user,
1360                                enum ctdb_eventscript_call call,
1361                                const char *fmt, ...) PRINTF_ATTRIBUTE(7,8);
1362 void ctdb_release_all_ips(struct ctdb_context *ctdb);
1363
1364 void set_nonblocking(int fd);
1365 void set_close_on_exec(int fd);
1366
1367 bool ctdb_recovery_lock(struct ctdb_context *ctdb, bool keep);
1368
1369 int ctdb_set_recovery_lock_file(struct ctdb_context *ctdb, const char *file);
1370
1371 int32_t ctdb_control_get_tunable(struct ctdb_context *ctdb, TDB_DATA indata, 
1372                                  TDB_DATA *outdata);
1373 int32_t ctdb_control_set_tunable(struct ctdb_context *ctdb, TDB_DATA indata);
1374 int32_t ctdb_control_list_tunables(struct ctdb_context *ctdb, TDB_DATA *outdata);
1375 int32_t ctdb_control_try_delete_records(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1376 int32_t ctdb_control_add_public_address(struct ctdb_context *ctdb, TDB_DATA indata);
1377 int32_t ctdb_control_del_public_address(struct ctdb_context *ctdb, TDB_DATA indata);
1378
1379 void ctdb_tunables_set_defaults(struct ctdb_context *ctdb);
1380
1381 int32_t ctdb_control_modflags(struct ctdb_context *ctdb, TDB_DATA indata);
1382
1383 int ctdb_ctrl_get_all_tunables(struct ctdb_context *ctdb, 
1384                                struct timeval timeout, 
1385                                uint32_t destnode,
1386                                struct ctdb_tunable *tunables);
1387
1388 int ctdb_start_freeze(struct ctdb_context *ctdb, uint32_t priority);
1389
1390 bool parse_ip_mask(const char *s, const char *iface, ctdb_sock_addr *addr, unsigned *mask);
1391 bool parse_ip_port(const char *s, ctdb_sock_addr *addr);
1392 bool parse_ip(const char *s, const char *iface, unsigned port, ctdb_sock_addr *addr);
1393 bool parse_ipv4(const char *s, unsigned port, struct sockaddr_in *sin);
1394  
1395
1396 int ctdb_sys_open_capture_socket(const char *iface, void **private_data);
1397 int ctdb_sys_close_capture_socket(void *private_data);
1398 int ctdb_sys_read_tcp_packet(int s, void *private_data, ctdb_sock_addr *src, ctdb_sock_addr *dst, uint32_t *ack_seq, uint32_t *seq);
1399
1400 int ctdb_ctrl_killtcp(struct ctdb_context *ctdb, 
1401                       struct timeval timeout, 
1402                       uint32_t destnode,
1403                       struct ctdb_control_killtcp *killtcp);
1404
1405 int ctdb_ctrl_add_public_ip(struct ctdb_context *ctdb, 
1406                       struct timeval timeout, 
1407                       uint32_t destnode,
1408                       struct ctdb_control_ip_iface *pub);
1409
1410 int ctdb_ctrl_del_public_ip(struct ctdb_context *ctdb, 
1411                       struct timeval timeout, 
1412                       uint32_t destnode,
1413                       struct ctdb_control_ip_iface *pub);
1414
1415 int ctdb_ctrl_gratious_arp(struct ctdb_context *ctdb, 
1416                       struct timeval timeout, 
1417                       uint32_t destnode,
1418                       ctdb_sock_addr *addr,
1419                       const char *ifname);
1420
1421 int ctdb_ctrl_get_tcp_tickles(struct ctdb_context *ctdb, 
1422                       struct timeval timeout, 
1423                       uint32_t destnode,
1424                       TALLOC_CTX *mem_ctx,
1425                       ctdb_sock_addr *addr,
1426                       struct ctdb_control_tcp_tickle_list **list);
1427
1428
1429 int32_t ctdb_control_register_server_id(struct ctdb_context *ctdb, 
1430                       uint32_t client_id,
1431                       TDB_DATA indata);
1432 int32_t ctdb_control_check_server_id(struct ctdb_context *ctdb, 
1433                       TDB_DATA indata);
1434 int32_t ctdb_control_unregister_server_id(struct ctdb_context *ctdb, 
1435                       TDB_DATA indata);
1436 int32_t ctdb_control_get_server_id_list(struct ctdb_context *ctdb, 
1437                       TDB_DATA *outdata);
1438 int32_t ctdb_control_uptime(struct ctdb_context *ctdb, 
1439                       TDB_DATA *outdata);
1440
1441 int ctdb_attach_databases(struct ctdb_context *ctdb);
1442
1443 int32_t ctdb_control_persistent_store(struct ctdb_context *ctdb, 
1444                                       struct ctdb_req_control *c, 
1445                                       TDB_DATA recdata, bool *async_reply);
1446 int32_t ctdb_control_update_record(struct ctdb_context *ctdb, 
1447                                    struct ctdb_req_control *c, TDB_DATA recdata, 
1448                                    bool *async_reply);
1449 int32_t ctdb_control_trans2_commit(struct ctdb_context *ctdb, 
1450                                    struct ctdb_req_control *c, 
1451                                    TDB_DATA recdata, bool *async_reply);
1452
1453 int32_t ctdb_control_trans3_commit(struct ctdb_context *ctdb,
1454                                    struct ctdb_req_control *c,
1455                                    TDB_DATA recdata, bool *async_reply);
1456
1457 int32_t ctdb_control_transaction_start(struct ctdb_context *ctdb, uint32_t id);
1458 int32_t ctdb_control_transaction_commit(struct ctdb_context *ctdb, uint32_t id);
1459 int32_t ctdb_control_transaction_cancel(struct ctdb_context *ctdb);
1460 int32_t ctdb_control_wipe_database(struct ctdb_context *ctdb, TDB_DATA indata);
1461 int32_t ctdb_control_db_set_healthy(struct ctdb_context *ctdb, TDB_DATA indata);
1462 int32_t ctdb_control_db_get_health(struct ctdb_context *ctdb,
1463                                    TDB_DATA indata,
1464                                    TDB_DATA *outdata);
1465
1466
1467 int ctdb_vacuum(struct ctdb_context *ctdb, int argc, const char **argv);
1468 int ctdb_repack(struct ctdb_context *ctdb, int argc, const char **argv);
1469
1470 void ctdb_block_signal(int signum);
1471 void ctdb_unblock_signal(int signum);
1472 int32_t ctdb_monitoring_mode(struct ctdb_context *ctdb);
1473 int ctdb_set_child_logging(struct ctdb_context *ctdb);
1474 void ctdb_lockdown_memory(struct ctdb_context *ctdb);
1475
1476 typedef void (*client_async_callback)(struct ctdb_context *ctdb, uint32_t node_pnn, int32_t res, TDB_DATA outdata, void *callback_data);
1477
1478 struct client_async_data {
1479         enum ctdb_controls opcode;
1480         bool dont_log_errors;
1481         uint32_t count;
1482         uint32_t fail_count;
1483         client_async_callback callback;
1484         client_async_callback fail_callback;
1485         void *callback_data;
1486 };
1487 void ctdb_client_async_add(struct client_async_data *data, struct ctdb_client_control_state *state);
1488 int ctdb_client_async_wait(struct ctdb_context *ctdb, struct client_async_data *data);
1489 int ctdb_client_async_control(struct ctdb_context *ctdb,
1490                                 enum ctdb_controls opcode,
1491                                 uint32_t *nodes,
1492                                 uint64_t srvid,
1493                                 struct timeval timeout,
1494                                 bool dont_log_errors,
1495                                 TDB_DATA data,
1496                                 client_async_callback client_callback,
1497                                 client_async_callback fail_callback,
1498                                 void *callback_data);
1499
1500 void ctdb_load_nodes_file(struct ctdb_context *ctdb);
1501
1502 int ctdb_control_reload_nodes_file(struct ctdb_context *ctdb, uint32_t opcode);
1503
1504 int32_t ctdb_dump_memory(struct ctdb_context *ctdb, TDB_DATA *outdata);
1505 int32_t ctdb_control_get_capabilities(struct ctdb_context *ctdb, TDB_DATA *outdata);
1506
1507 int32_t ctdb_control_trans2_finished(struct ctdb_context *ctdb, 
1508                                      struct ctdb_req_control *c);
1509 int32_t ctdb_control_trans2_error(struct ctdb_context *ctdb, 
1510                                   struct ctdb_req_control *c);
1511 int32_t ctdb_control_trans2_active(struct ctdb_context *ctdb,
1512                                    struct ctdb_req_control *c,
1513                                    uint32_t db_id);
1514
1515 char *ctdb_addr_to_str(ctdb_sock_addr *addr);
1516 unsigned ctdb_addr_to_port(ctdb_sock_addr *addr);
1517 void ctdb_canonicalize_ip(const ctdb_sock_addr *ip, ctdb_sock_addr *cip);
1518
1519 int32_t ctdb_control_recd_ping(struct ctdb_context *ctdb);
1520 int32_t ctdb_control_set_recmaster(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata);
1521
1522 extern int script_log_level;
1523
1524 int32_t ctdb_control_get_event_script_status(struct ctdb_context *ctdb,
1525                                              uint32_t call_type,
1526                                              TDB_DATA *outdata);
1527
1528 int ctdb_log_event_script_output(struct ctdb_context *ctdb, char *str, uint16_t len);
1529 int ctdb_ctrl_report_recd_lock_latency(struct ctdb_context *ctdb, struct timeval timeout, double latency);
1530
1531 int32_t ctdb_control_stop_node(struct ctdb_context *ctdb, struct ctdb_req_control *c, bool *async_reply);
1532 int32_t ctdb_control_continue_node(struct ctdb_context *ctdb);
1533
1534 int ctdb_vacuum_init(struct ctdb_db_context *ctdb_db);
1535
1536 int32_t ctdb_control_enable_script(struct ctdb_context *ctdb, TDB_DATA indata);
1537 int32_t ctdb_control_disable_script(struct ctdb_context *ctdb, TDB_DATA indata);
1538
1539 int32_t ctdb_control_set_ban_state(struct ctdb_context *ctdb, TDB_DATA indata);
1540 int32_t ctdb_control_get_ban_state(struct ctdb_context *ctdb, TDB_DATA *outdata);
1541 int32_t ctdb_control_set_db_priority(struct ctdb_context *ctdb, TDB_DATA indata);
1542 void ctdb_ban_self(struct ctdb_context *ctdb);
1543
1544 int32_t ctdb_control_register_notify(struct ctdb_context *ctdb, uint32_t client_id, TDB_DATA indata);
1545
1546 int32_t ctdb_control_deregister_notify(struct ctdb_context *ctdb, uint32_t client_id, TDB_DATA indata);
1547
1548 int start_syslog_daemon(struct ctdb_context *ctdb);
1549
1550 /* Where to send the log messages back to */
1551 struct ctdb_get_log_addr {
1552         uint32_t pnn;
1553         uint64_t srvid;
1554         int32_t level;
1555 };
1556
1557 extern int log_ringbuf_size;
1558
1559 int32_t ctdb_control_get_log(struct ctdb_context *ctdb, TDB_DATA addr);
1560 int32_t ctdb_control_clear_log(struct ctdb_context *ctdb);
1561
1562
1563 struct ctdb_log_state *ctdb_fork_with_logging(TALLOC_CTX *mem_ctx,
1564                                               struct ctdb_context *ctdb,
1565                                               void (*logfn)(const char *, uint16_t, void *),
1566                                               void *logfn_private, pid_t *pid);
1567
1568 int32_t ctdb_control_process_exists(struct ctdb_context *ctdb, pid_t pid);
1569 struct ctdb_client *ctdb_find_client_by_pid(struct ctdb_context *ctdb, pid_t pid);
1570
1571 int32_t ctdb_control_get_db_seqnum(struct ctdb_context *ctdb,
1572                                    TDB_DATA indata,
1573                                    TDB_DATA *outdata);
1574
1575 int ctdb_load_persistent_health(struct ctdb_context *ctdb,
1576                                 struct ctdb_db_context *ctdb_db);
1577 int ctdb_update_persistent_health(struct ctdb_context *ctdb,
1578                                   struct ctdb_db_context *ctdb_db,
1579                                   const char *reason,/* NULL means healthy */
1580                                   int num_healthy_nodes);
1581 int ctdb_recheck_persistent_health(struct ctdb_context *ctdb);
1582
1583 void ctdb_run_notification_script(struct ctdb_context *ctdb, const char *event);
1584
1585 void ctdb_fault_setup(void);
1586 #endif