include/ctdb_private.h

   1 /*
   2    ctdb database library
   3
   4    Copyright (C) Andrew Tridgell  2006
   5
   6    This program is free software; you can redistribute it and/or modify
   7    it under the terms of the GNU General Public License as published by
   8    the Free Software Foundation; either version 3 of the License, or
   9    (at your option) any later version.
  10
  11    This program is distributed in the hope that it will be useful,
  12    but WITHOUT ANY WARRANTY; without even the implied warranty of
  13    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14    GNU General Public License for more details.
  15
  16    You should have received a copy of the GNU General Public License
  17    along with this program; if not, see <http://www.gnu.org/licenses/>.
  18 */
  19
  20 #ifndef _CTDB_PRIVATE_H
  21 #define _CTDB_PRIVATE_H
  22
  23 #include "ctdb_client.h"
  24 #include <sys/socket.h>
  25
  26 /*
  27   recovery daemon memdump reply address
  28  */
  29 struct rd_memdump_reply {
  30         uint32_t pnn;
  31         uint64_t srvid;
  32 };
  33
  34 /*
  35   description for a TAKEOVER_RUN message reply address
  36  */
  37 struct takeover_run_reply {
  38         uint32_t pnn;
  39         uint64_t srvid;
  40 };
  41
  42 /*
  43  * pid of the ctdbd daemon
  44  */
  45 extern pid_t ctdbd_pid;
  46
  47 /*
  48   a tcp connection description
  49   also used by tcp_add and tcp_remove controls
  50  */
  51 struct ctdb_tcp_connection {
  52         ctdb_sock_addr src_addr;
  53         ctdb_sock_addr dst_addr;
  54 };
  55
  56 /* the wire representation for a tcp tickle array */
  57 struct ctdb_tcp_wire_array {
  58         uint32_t num;
  59         struct ctdb_tcp_connection connections[1];
  60 };
  61
  62 /* the list of tcp tickles used by get/set tcp tickle list */
  63 struct ctdb_control_tcp_tickle_list {
  64         ctdb_sock_addr addr;
  65         struct ctdb_tcp_wire_array tickles;
  66 };
  67
  68 /*
  69   array of tcp connections
  70  */
  71 struct ctdb_tcp_array {
  72         uint32_t num;
  73         struct ctdb_tcp_connection *connections;
  74 };
  75
  76
  77 /* all tunable variables go in here */
  78 struct ctdb_tunable {
  79         uint32_t max_redirect_count;
  80         uint32_t seqnum_interval; /* unit is ms */
  81         uint32_t control_timeout;
  82         uint32_t traverse_timeout;
  83         uint32_t keepalive_interval;
  84         uint32_t keepalive_limit;
  85         uint32_t recover_timeout;
  86         uint32_t recover_interval;
  87         uint32_t election_timeout;
  88         uint32_t takeover_timeout;
  89         uint32_t monitor_interval;
  90         uint32_t tickle_update_interval;
  91         uint32_t script_timeout;
  92         uint32_t script_timeout_count; /* allow dodgy scripts to hang this many times in a row before we mark the node unhealthy */
  93         uint32_t script_unhealthy_on_timeout; /* obsolete */
  94         uint32_t recovery_grace_period;
  95         uint32_t recovery_ban_period;
  96         uint32_t database_hash_size;
  97         uint32_t database_max_dead;
  98         uint32_t rerecovery_timeout;
  99         uint32_t enable_bans;
 100         uint32_t deterministic_public_ips;
 101         uint32_t reclock_ping_period;
 102         uint32_t no_ip_failback;
 103         uint32_t disable_ip_failover;
 104         uint32_t verbose_memory_names;
 105         uint32_t recd_ping_timeout;
 106         uint32_t recd_ping_failcount;
 107         uint32_t log_latency_ms;
 108         uint32_t reclock_latency_ms;
 109         uint32_t recovery_drop_all_ips;
 110         uint32_t verify_recovery_lock;
 111         uint32_t vacuum_default_interval;
 112         uint32_t vacuum_max_run_time;
 113         uint32_t repack_limit;
 114         uint32_t vacuum_limit;
 115         uint32_t vacuum_min_interval;
 116         uint32_t vacuum_max_interval;
 117         uint32_t max_queue_depth_drop_msg;
 118         uint32_t use_status_events_for_monitoring;
 119         uint32_t allow_unhealthy_db_read;
 120         uint32_t stat_history_interval;
 121         uint32_t deferred_attach_timeout;
 122         uint32_t vacuum_fast_path_count;
 123         uint32_t lcp2_public_ip_assignment;
 124         uint32_t allow_client_db_attach;
 125 };
 126
 127 /*
 128   an installed ctdb remote call
 129 */
 130 struct ctdb_registered_call {
 131         struct ctdb_registered_call *next, *prev;
 132         uint32_t id;
 133         ctdb_fn_t fn;
 134 };
 135
 136 /*
 137   this address structure might need to be generalised later for some
 138   transports
 139 */
 140 struct ctdb_address {
 141         const char *address;
 142         int port;
 143 };
 144
 145 /*
 146   check that a pnn is valid
 147  */
 148 #define ctdb_validate_pnn(ctdb, pnn) (((uint32_t)(pnn)) < (ctdb)->num_nodes)
 149
 150
 151 /* called from the queue code when a packet comes in. Called with data==NULL
 152    on error */
 153 typedef void (*ctdb_queue_cb_fn_t)(uint8_t *data, size_t length,
 154                                    void *private_data);
 155
 156 /* used for callbacks in ctdb_control requests */
 157 typedef void (*ctdb_control_callback_fn_t)(struct ctdb_context *,
 158                                            int32_t status, TDB_DATA data,
 159                                            const char *errormsg,
 160                                            void *private_data);
 161 /*
 162   structure describing a connected client in the daemon
 163  */
 164 struct ctdb_client {
 165         struct ctdb_context *ctdb;
 166         int fd;
 167         struct ctdb_queue *queue;
 168         uint32_t client_id;
 169         pid_t pid;
 170         struct ctdb_tcp_list *tcp_list;
 171         uint32_t db_id;
 172         uint32_t num_persistent_updates;
 173         struct ctdb_client_notify_list *notify;
 174 };
 175
 176 struct ctdb_iface;
 177
 178 /* state associated with a public ip address */
 179 struct ctdb_vnn {
 180         struct ctdb_vnn *prev, *next;
 181
 182         struct ctdb_iface *iface;
 183         const char **ifaces;
 184         ctdb_sock_addr public_address;
 185         uint8_t public_netmask_bits;
 186
 187         /* the node number that is serving this public address, if any.
 188            If no node serves this ip it is set to -1 */
 189         int32_t pnn;
 190
 191         /* List of clients to tickle for this public address */
 192         struct ctdb_tcp_array *tcp_array;
 193
 194         /* whether we need to update the other nodes with changes to our list
 195            of connected clients */
 196         bool tcp_update_needed;
 197
 198         /* a context to hang sending gratious arp events off */
 199         TALLOC_CTX *takeover_ctx;
 200
 201         struct ctdb_kill_tcp *killtcp;
 202 };
 203
 204 /*
 205   state associated with one node
 206 */
 207 struct ctdb_node {
 208         struct ctdb_context *ctdb;
 209         struct ctdb_address address;
 210         const char *name; /* for debug messages */
 211         void *private_data; /* private to transport */
 212         uint32_t pnn;
 213         uint32_t flags;
 214
 215         /* used by the dead node monitoring */
 216         uint32_t dead_count;
 217         uint32_t rx_cnt;
 218         uint32_t tx_cnt;
 219
 220         /* used to track node capabilities, is only valid/tracked inside the
 221            recovery daemon.
 222         */
 223         uint32_t capabilities;
 224
 225         /* a list of controls pending to this node, so we can time them out quickly
 226            if the node becomes disconnected */
 227         struct daemon_control_state *pending_controls;
 228
 229         /* used by the recovery daemon when distributing ip addresses
 230            across the nodes.  it needs to know which public ip's can be handled
 231            by each node.
 232         */
 233         struct ctdb_all_public_ips *known_public_ips;
 234         struct ctdb_all_public_ips *available_public_ips;
 235         /* used by the recovery dameon to track when a node should be banned */
 236         struct ctdb_banning_state *ban_state;
 237 };
 238
 239 /*
 240   transport specific methods
 241 */
 242 struct ctdb_methods {
 243         int (*initialise)(struct ctdb_context *); /* initialise transport structures */
 244         int (*start)(struct ctdb_context *); /* start the transport */
 245         int (*add_node)(struct ctdb_node *); /* setup a new node */
 246         int (*connect_node)(struct ctdb_node *); /* connect to node */
 247         int (*queue_pkt)(struct ctdb_node *, uint8_t *data, uint32_t length);
 248         void *(*allocate_pkt)(TALLOC_CTX *mem_ctx, size_t );
 249         void (*shutdown)(struct ctdb_context *); /* shutdown transport */
 250         void (*restart)(struct ctdb_node *); /* stop and restart the connection */
 251 };
 252
 253 /*
 254   transport calls up to the ctdb layer
 255 */
 256 struct ctdb_upcalls {
 257         /* recv_pkt is called when a packet comes in */
 258         void (*recv_pkt)(struct ctdb_context *, uint8_t *data, uint32_t length);
 259
 260         /* node_dead is called when an attempt to send to a node fails */
 261         void (*node_dead)(struct ctdb_node *);
 262
 263         /* node_connected is called when a connection to a node is established */
 264         void (*node_connected)(struct ctdb_node *);
 265 };
 266
 267 /* list of message handlers - needs to be changed to a more efficient data
 268    structure so we can find a message handler given a srvid quickly */
 269 struct ctdb_message_list {
 270         struct ctdb_context *ctdb;
 271         struct ctdb_message_list *next, *prev;
 272         uint64_t srvid;
 273         ctdb_msg_fn_t message_handler;
 274         void *message_private;
 275 };
 276
 277 /* additional data required for the daemon mode */
 278 struct ctdb_daemon_data {
 279         int sd;
 280         char *name;
 281         struct ctdb_queue *queue;
 282 };
 283
 284
 285 #define CTDB_UPDATE_STAT(ctdb, counter, value) \
 286         {                                                                               \
 287                 if (value > ctdb->statistics.counter) {                                 \
 288                         ctdb->statistics.counter = c->hopcount;                         \
 289                 }                                                                       \
 290                 if (value > ctdb->statistics_current.counter) {                         \
 291                         ctdb->statistics_current.counter = c->hopcount;                 \
 292                 }                                                                       \
 293         }
 294
 295 #define CTDB_INCREMENT_STAT(ctdb, counter) \
 296         {                                                                               \
 297                 ctdb->statistics.counter++;                                             \
 298                 ctdb->statistics_current.counter++;                                     \
 299         }
 300
 301 #define CTDB_DECREMENT_STAT(ctdb, counter) \
 302         {                                                                               \
 303                 if (ctdb->statistics.counter > 0)                                       \
 304                         ctdb->statistics.counter--;                                     \
 305                 if (ctdb->statistics_current.counter > 0)                               \
 306                         ctdb->statistics_current.counter--;                             \
 307         }
 308
 309 #define CTDB_UPDATE_RECLOCK_LATENCY(ctdb, name, counter, value) \
 310         {                                                                               \
 311                 if (value > ctdb->statistics.counter.max)                                       \
 312                         ctdb->statistics.counter.max = value;                           \
 313                 if (value > ctdb->statistics_current.counter.max)                               \
 314                         ctdb->statistics_current.counter.max = value;                   \
 315                                                                                         \
 316                 if (ctdb->statistics.counter.num == 0 || value < ctdb->statistics.counter.min)  \
 317                         ctdb->statistics.counter.min = value;                           \
 318                 if (ctdb->statistics_current.counter.num == 0 || value < ctdb->statistics_current.counter.min)  \
 319                         ctdb->statistics_current.counter.min = value;                   \
 320                                                                                         \
 321                 ctdb->statistics.counter.total += value;                                        \
 322                 ctdb->statistics_current.counter.total += value;                                \
 323                                                                                         \
 324                 ctdb->statistics.counter.num++;                                         \
 325                 ctdb->statistics_current.counter.num++;                                 \
 326                                                                                         \
 327                 if (ctdb->tunable.reclock_latency_ms != 0) {                            \
 328                         if (value*1000 > ctdb->tunable.reclock_latency_ms) {            \
 329                                 DEBUG(DEBUG_ERR, ("High RECLOCK latency %fs for operation %s\n", value, name)); \
 330                         }                                                               \
 331                 }                                                                       \
 332         }
 333
 334
 335 #define CTDB_UPDATE_LATENCY(ctdb, db, operation, counter, t) \
 336         {                                                                               \
 337                 double l = timeval_elapsed(&t);                                         \
 338                                                                                         \
 339                 if (l > ctdb->statistics.counter.max)                                   \
 340                         ctdb->statistics.counter.max = l;                               \
 341                 if (l > ctdb->statistics_current.counter.max)                           \
 342                         ctdb->statistics_current.counter.max = l;                       \
 343                                                                                         \
 344                 if (ctdb->statistics.counter.num == 0 || l < ctdb->statistics.counter.min)      \
 345                         ctdb->statistics.counter.min = l;                               \
 346                 if (ctdb->statistics_current.counter.num == 0 || l < ctdb->statistics_current.counter.min)      \
 347                         ctdb->statistics_current.counter.min = l;                       \
 348                                                                                         \
 349                 ctdb->statistics.counter.total += l;                                    \
 350                 ctdb->statistics_current.counter.total += l;                            \
 351                                                                                         \
 352                 ctdb->statistics.counter.num++;                                         \
 353                 ctdb->statistics_current.counter.num++;                                 \
 354                                                                                         \
 355                 if (ctdb->tunable.log_latency_ms !=0) {                                 \
 356                         if (l*1000 > ctdb->tunable.log_latency_ms) {                    \
 357                                 DEBUG(DEBUG_WARNING, ("High latency %.6fs for operation %s on database %s\n", l, operation, db->db_name));\
 358                         }                                                               \
 359                 }                                                                       \
 360         }
 361
 362
 363
 364
 365
 366 #define INVALID_GENERATION 1
 367 /* table that contains the mapping between a hash value and lmaster
 368  */
 369 struct ctdb_vnn_map {
 370         uint32_t generation;
 371         uint32_t size;
 372         uint32_t *map;
 373 };
 374
 375 /*
 376    a wire representation of the vnn map
 377  */
 378 struct ctdb_vnn_map_wire {
 379         uint32_t generation;
 380         uint32_t size;
 381         uint32_t map[1];
 382 };
 383
 384 /* a structure that contains the elements required for the write record
 385    control
 386 */
 387 struct ctdb_write_record {
 388         uint32_t dbid;
 389         uint32_t keylen;
 390         uint32_t datalen;
 391         unsigned char blob[1];
 392 };
 393
 394 enum ctdb_freeze_mode {CTDB_FREEZE_NONE, CTDB_FREEZE_PENDING, CTDB_FREEZE_FROZEN};
 395
 396 #define CTDB_MONITORING_ACTIVE          0
 397 #define CTDB_MONITORING_DISABLED        1
 398
 399 /* The different capabilities of the ctdb daemon. */
 400 #define CTDB_CAP_RECMASTER              0x00000001
 401 #define CTDB_CAP_LMASTER                0x00000002
 402 /* This capability is set if CTDB_LVS_PUBLIC_IP is set */
 403 #define CTDB_CAP_LVS                    0x00000004
 404 /* This capability is set if NATGW is enabled */
 405 #define CTDB_CAP_NATGW                  0x00000008
 406
 407 #define NUM_DB_PRIORITIES 3
 408 /* main state of the ctdb daemon */
 409 struct ctdb_context {
 410         struct tevent_context *ev;
 411         struct timeval ctdbd_start_time;
 412         struct timeval last_recovery_started;
 413         struct timeval last_recovery_finished;
 414         uint32_t recovery_mode;
 415         TALLOC_CTX *tickle_update_context;
 416         TALLOC_CTX *keepalive_ctx;
 417         TALLOC_CTX *check_public_ifaces_ctx;
 418         struct ctdb_tunable tunable;
 419         enum ctdb_freeze_mode freeze_mode[NUM_DB_PRIORITIES+1];
 420         struct ctdb_freeze_handle *freeze_handles[NUM_DB_PRIORITIES+1];
 421         bool freeze_transaction_started;
 422         uint32_t freeze_transaction_id;
 423         struct ctdb_address address;
 424         const char *name;
 425         const char *db_directory;
 426         const char *db_directory_persistent;
 427         const char *db_directory_state;
 428         struct tdb_wrap *db_persistent_health;
 429         uint32_t db_persistent_startup_generation;
 430         uint64_t db_persistent_check_errors;
 431         uint64_t max_persistent_check_errors;
 432         const char *transport;
 433         char *recovery_lock_file;
 434         int recovery_lock_fd;
 435         uint32_t pnn; /* our own pnn */
 436         uint32_t num_nodes;
 437         uint32_t num_connected;
 438         unsigned flags;
 439         uint32_t capabilities;
 440         struct idr_context *idr;
 441         int lastid;
 442         struct ctdb_node **nodes; /* array of nodes in the cluster - indexed by vnn */
 443         struct ctdb_vnn *vnn; /* list of public ip addresses and interfaces */
 444         struct ctdb_vnn *single_ip_vnn; /* a structure for the single ip */
 445         struct ctdb_iface *ifaces; /* list of local interfaces */
 446         char *err_msg;
 447         const struct ctdb_methods *methods; /* transport methods */
 448         const struct ctdb_upcalls *upcalls; /* transport upcalls */
 449         void *private_data; /* private to transport */
 450         struct ctdb_db_context *db_list;
 451         struct ctdb_message_list *message_list;
 452         struct ctdb_daemon_data daemon;
 453         struct ctdb_statistics statistics;
 454         struct ctdb_statistics statistics_current;
 455 #define MAX_STAT_HISTORY 100
 456         struct ctdb_statistics statistics_history[MAX_STAT_HISTORY];
 457         struct ctdb_vnn_map *vnn_map;
 458         uint32_t num_clients;
 459         uint32_t recovery_master;
 460         struct ctdb_call_state *pending_calls;
 461         struct ctdb_client_ip *client_ip_list;
 462         struct trbt_tree *server_ids;
 463         bool do_setsched;
 464         void *saved_scheduler_param;
 465         const char *event_script_dir;
 466         const char *notification_script;
 467         const char *default_public_interface;
 468         pid_t ctdbd_pid;
 469         pid_t recoverd_pid;
 470         pid_t syslogd_pid;
 471         bool done_startup;
 472         const char *node_ip;
 473         struct ctdb_monitor_state *monitor;
 474         struct ctdb_log_state *log;
 475         int start_as_disabled;
 476         int start_as_stopped;
 477         bool valgrinding;
 478         uint32_t event_script_timeouts; /* counting how many consecutive times an eventscript has timedout */
 479         uint32_t *recd_ping_count;
 480         TALLOC_CTX *release_ips_ctx; /* a context used to automatically drop all IPs if we fail to recover the node */
 481
 482         TALLOC_CTX *event_script_ctx;
 483
 484         struct ctdb_event_script_state *current_monitor;
 485         struct ctdb_scripts_wire *last_status[CTDB_EVENT_MAX];
 486
 487         TALLOC_CTX *banning_ctx;
 488
 489         struct ctdb_vacuum_child_context *vacuumers;
 490
 491         /* mapping from pid to ctdb_client * */
 492         struct ctdb_client_pid_list *client_pids;
 493
 494         /* used in the recovery daemon to remember the ip allocation */
 495         struct trbt_tree *ip_tree;
 496
 497         /* Used to defer db attach requests while in recovery mode */
 498         struct ctdb_deferred_attach_context *deferred_attach;
 499 };
 500
 501 struct ctdb_db_context {
 502         struct ctdb_db_context *next, *prev;
 503         struct ctdb_context *ctdb;
 504         uint32_t db_id;
 505         uint32_t priority;
 506         bool persistent;
 507         bool readonly; /* Do we support read-only delegations ? */
 508         const char *db_name;
 509         const char *db_path;
 510         struct tdb_wrap *ltdb;
 511         struct tdb_context *rottdb; /* ReadOnly tracking TDB */
 512         struct ctdb_registered_call *calls; /* list of registered calls */
 513         uint32_t seqnum;
 514         struct timed_event *seqnum_update;
 515         struct ctdb_traverse_local_handle *traverse;
 516         bool transaction_active;
 517         struct ctdb_vacuum_handle *vacuum_handle;
 518         char *unhealthy_reason;
 519         int pending_requests;
 520         struct lockwait_handle *lockwait_active;
 521         struct lockwait_handle *lockwait_overflow;
 522         struct revokechild_handle *revokechild_active;
 523         struct ctdb_persistent_state *persistent_state;
 524         struct trbt_tree *delete_queue;
 525         int (*ctdb_ltdb_store_fn)(struct ctdb_db_context *ctdb_db,
 526                                   TDB_DATA key,
 527                                   struct ctdb_ltdb_header *header,
 528                                   TDB_DATA data);
 529
 530         /* used to track which records we are currently fetching
 531            so we can avoid sending duplicate fetch requests
 532         */
 533         struct trbt_tree *deferred_fetch;
 534 };
 535
 536
 537 #define CTDB_NO_MEMORY(ctdb, p) do { if (!(p)) { \
 538           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
 539           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
 540           return -1; }} while (0)
 541
 542 #define CTDB_NO_MEMORY_VOID(ctdb, p) do { if (!(p)) { \
 543           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
 544           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
 545           return; }} while (0)
 546
 547 #define CTDB_NO_MEMORY_NULL(ctdb, p) do { if (!(p)) { \
 548           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
 549           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
 550           return NULL; }} while (0)
 551
 552 #define CTDB_NO_MEMORY_FATAL(ctdb, p) do { if (!(p)) { \
 553           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
 554           ctdb_fatal(ctdb, "Out of memory in " __location__ ); \
 555           }} while (0)
 556
 557 /*
 558   structure passed in set_call control
 559  */
 560 struct ctdb_control_set_call {
 561         uint32_t db_id;
 562         ctdb_fn_t fn;
 563         uint32_t id;
 564 };
 565
 566 /*
 567   struct for kill_tcp control
 568  */
 569 struct ctdb_control_killtcp {
 570         ctdb_sock_addr src_addr;
 571         ctdb_sock_addr dst_addr;
 572 };
 573
 574 /*
 575   struct holding a ctdb_sock_addr and an interface name,
 576   used to add/remove public addresses
 577  */
 578 struct ctdb_control_ip_iface {
 579         ctdb_sock_addr addr;
 580         uint32_t mask;
 581         uint32_t len;
 582         char iface[1];
 583 };
 584
 585 /*
 586   struct holding a ctdb_sock_addr and an interface name,
 587   used for send_gratious_arp
 588  */
 589 struct ctdb_control_gratious_arp {
 590         ctdb_sock_addr addr;
 591         uint32_t mask;
 592         uint32_t len;
 593         char iface[1];
 594 };
 595
 596 /*
 597   persistent store control - update this record on all other nodes
 598  */
 599 struct ctdb_control_persistent_store {
 600         uint32_t db_id;
 601         uint32_t len;
 602         uint8_t  data[1];
 603 };
 604
 605 /*
 606   structure used for CTDB_SRVID_NODE_FLAGS_CHANGED
 607  */
 608 struct ctdb_node_flag_change {
 609         uint32_t pnn;
 610         uint32_t new_flags;
 611         uint32_t old_flags;
 612 };
 613
 614 /*
 615   struct for admin setting a ban
 616  */
 617 struct ctdb_ban_info {
 618         uint32_t pnn;
 619         uint32_t ban_time;
 620 };
 621
 622 enum call_state {CTDB_CALL_WAIT, CTDB_CALL_DONE, CTDB_CALL_ERROR};
 623
 624 #define CTDB_LMASTER_ANY        0xffffffff
 625
 626 /*
 627   state of a in-progress ctdb call
 628 */
 629 struct ctdb_call_state {
 630         struct ctdb_call_state *next, *prev;
 631         enum call_state state;
 632         uint32_t reqid;
 633         struct ctdb_req_call *c;
 634         struct ctdb_db_context *ctdb_db;
 635         const char *errmsg;
 636         struct ctdb_call *call;
 637         uint32_t generation;
 638         struct {
 639                 void (*fn)(struct ctdb_call_state *);
 640                 void *private_data;
 641         } async;
 642 };
 643
 644
 645 /* used for fetch_lock */
 646 struct ctdb_fetch_handle {
 647         struct ctdb_db_context *ctdb_db;
 648         TDB_DATA key;
 649         TDB_DATA *data;
 650         struct ctdb_ltdb_header header;
 651 };
 652
 653 /* internal prototypes */
 654 void ctdb_set_error(struct ctdb_context *ctdb, const char *fmt, ...) PRINTF_ATTRIBUTE(2,3);
 655 void ctdb_fatal(struct ctdb_context *ctdb, const char *msg);
 656 bool ctdb_same_address(struct ctdb_address *a1, struct ctdb_address *a2);
 657 int ctdb_parse_address(struct ctdb_context *ctdb,
 658                        TALLOC_CTX *mem_ctx, const char *str,
 659                        struct ctdb_address *address);
 660 bool ctdb_same_ip(const ctdb_sock_addr *ip1, const ctdb_sock_addr *ip2);
 661 bool ctdb_same_sockaddr(const ctdb_sock_addr *ip1, const ctdb_sock_addr *ip2);
 662 uint32_t ctdb_hash(const TDB_DATA *key);
 663 uint32_t ctdb_hash_string(const char *str);
 664 void ctdb_request_call(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 665 void ctdb_request_dmaster(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 666 void ctdb_request_message(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 667 void ctdb_reply_dmaster(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 668 void ctdb_reply_call(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 669 void ctdb_reply_error(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 670
 671 uint32_t ctdb_lmaster(struct ctdb_context *ctdb, const TDB_DATA *key);
 672 int ctdb_ltdb_fetch(struct ctdb_db_context *ctdb_db,
 673                     TDB_DATA key, struct ctdb_ltdb_header *header,
 674                     TALLOC_CTX *mem_ctx, TDB_DATA *data);
 675 int ctdb_ltdb_store(struct ctdb_db_context *ctdb_db, TDB_DATA key,
 676                     struct ctdb_ltdb_header *header, TDB_DATA data);
 677 int ctdb_ltdb_delete(struct ctdb_db_context *ctdb_db, TDB_DATA key);
 678 int ctdb_ltdb_fetch_with_header(struct ctdb_db_context *ctdb_db,
 679                     TDB_DATA key, struct ctdb_ltdb_header *header,
 680                     TALLOC_CTX *mem_ctx, TDB_DATA *data);
 681 int32_t ctdb_control_start_persistent_update(struct ctdb_context *ctdb,
 682                         struct ctdb_req_control *c,
 683                         TDB_DATA recdata);
 684 int32_t ctdb_control_cancel_persistent_update(struct ctdb_context *ctdb,
 685                         struct ctdb_req_control *c,
 686                         TDB_DATA recdata);
 687 void ctdb_queue_packet(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 688 void ctdb_queue_packet_opcode(struct ctdb_context *ctdb, struct ctdb_req_header *hdr, unsigned opcode);
 689 int ctdb_ltdb_lock_requeue(struct ctdb_db_context *ctdb_db,
 690                            TDB_DATA key, struct ctdb_req_header *hdr,
 691                            void (*recv_pkt)(void *, struct ctdb_req_header *),
 692                            void *recv_context, bool ignore_generation);
 693 int ctdb_ltdb_lock_fetch_requeue(struct ctdb_db_context *ctdb_db,
 694                                  TDB_DATA key, struct ctdb_ltdb_header *header,
 695                                  struct ctdb_req_header *hdr, TDB_DATA *data,
 696                                  void (*recv_pkt)(void *, struct ctdb_req_header *),
 697                                  void *recv_context, bool ignore_generation);
 698 void ctdb_input_pkt(struct ctdb_context *ctdb, struct ctdb_req_header *);
 699
 700 struct ctdb_call_state *ctdb_call_local_send(struct ctdb_db_context *ctdb_db,
 701                                              struct ctdb_call *call,
 702                                              struct ctdb_ltdb_header *header,
 703                                              TDB_DATA *data);
 704
 705
 706 int ctdbd_start(struct ctdb_context *ctdb);
 707 struct ctdb_call_state *ctdbd_call_send(struct ctdb_db_context *ctdb_db, struct ctdb_call *call);
 708 int ctdbd_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
 709
 710 /*
 711   queue a packet for sending
 712 */
 713 int ctdb_queue_send(struct ctdb_queue *queue, uint8_t *data, uint32_t length);
 714
 715 /*
 716   setup the fd used by the queue
 717  */
 718 int ctdb_queue_set_fd(struct ctdb_queue *queue, int fd);
 719
 720 /*
 721   setup a packet queue on a socket
 722  */
 723 struct ctdb_queue *ctdb_queue_setup(struct ctdb_context *ctdb,
 724                                     TALLOC_CTX *mem_ctx, int fd, int alignment,
 725
 726                                     ctdb_queue_cb_fn_t callback,
 727                                     void *private_data, const char *fmt, ...)
 728         PRINTF_ATTRIBUTE(7,8);
 729
 730 /*
 731   allocate a packet for use in client<->daemon communication
 732  */
 733 struct ctdb_req_header *_ctdbd_allocate_pkt(struct ctdb_context *ctdb,
 734                                             TALLOC_CTX *mem_ctx,
 735                                             enum ctdb_operation operation,
 736                                             size_t length, size_t slength,
 737                                             const char *type);
 738 #define ctdbd_allocate_pkt(ctdb, mem_ctx, operation, length, type) \
 739         (type *)_ctdbd_allocate_pkt(ctdb, mem_ctx, operation, length, sizeof(type), #type)
 740
 741 struct ctdb_req_header *_ctdb_transport_allocate(struct ctdb_context *ctdb,
 742                                                  TALLOC_CTX *mem_ctx,
 743                                                  enum ctdb_operation operation,
 744                                                  size_t length, size_t slength,
 745                                                  const char *type);
 746 #define ctdb_transport_allocate(ctdb, mem_ctx, operation, length, type) \
 747         (type *)_ctdb_transport_allocate(ctdb, mem_ctx, operation, length, sizeof(type), #type)
 748
 749 int ctdb_queue_length(struct ctdb_queue *queue);
 750
 751 /*
 752   lock a record in the ltdb, given a key
 753  */
 754 int ctdb_ltdb_lock(struct ctdb_db_context *ctdb_db, TDB_DATA key);
 755
 756 /*
 757   unlock a record in the ltdb, given a key
 758  */
 759 int ctdb_ltdb_unlock(struct ctdb_db_context *ctdb_db, TDB_DATA key);
 760
 761
 762 /*
 763   make a ctdb call to the local daemon - async send. Called from client context.
 764
 765   This constructs a ctdb_call request and queues it for processing.
 766   This call never blocks.
 767 */
 768 struct ctdb_call_state *ctdb_client_call_send(struct ctdb_db_context *ctdb_db,
 769                                               struct ctdb_call *call);
 770
 771 /*
 772   make a recv call to the local ctdb daemon - called from client context
 773
 774   This is called when the program wants to wait for a ctdb_call to complete and get the
 775   results. This call will block unless the call has already completed.
 776 */
 777 int ctdb_client_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
 778
 779 int ctdb_client_send_message(struct ctdb_context *ctdb, uint32_t vnn,
 780                              uint64_t srvid, TDB_DATA data);
 781
 782 /*
 783   send a ctdb message
 784 */
 785 int ctdb_daemon_send_message(struct ctdb_context *ctdb, uint32_t pnn,
 786                              uint64_t srvid, TDB_DATA data);
 787
 788
 789 struct lockwait_handle *ctdb_lockwait(struct ctdb_db_context *ctdb_db,
 790                                       TDB_DATA key,
 791                                       void (*callback)(void *), void *private_data);
 792
 793 struct ctdb_call_state *ctdb_daemon_call_send(struct ctdb_db_context *ctdb_db,
 794                                               struct ctdb_call *call);
 795
 796 int ctdb_daemon_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
 797
 798 struct ctdb_call_state *ctdb_daemon_call_send_remote(struct ctdb_db_context *ctdb_db,
 799                                                      struct ctdb_call *call,
 800                                                      struct ctdb_ltdb_header *header);
 801
 802 int ctdb_call_local(struct ctdb_db_context *ctdb_db, struct ctdb_call *call,
 803                     struct ctdb_ltdb_header *header, TALLOC_CTX *mem_ctx,
 804                     TDB_DATA *data, bool updatetdb);
 805
 806 #define ctdb_reqid_find(ctdb, reqid, type)      (type *)_ctdb_reqid_find(ctdb, reqid, #type, __location__)
 807
 808 void ctdb_recv_raw_pkt(void *p, uint8_t *data, uint32_t length);
 809
 810 int ctdb_socket_connect(struct ctdb_context *ctdb);
 811 void ctdb_client_read_cb(uint8_t *data, size_t cnt, void *args);
 812
 813 #define CTDB_BAD_REQID ((uint32_t)-1)
 814 uint32_t ctdb_reqid_new(struct ctdb_context *ctdb, void *state);
 815 void *_ctdb_reqid_find(struct ctdb_context *ctdb, uint32_t reqid, const char *type, const char *location);
 816 void ctdb_reqid_remove(struct ctdb_context *ctdb, uint32_t reqid);
 817
 818 void ctdb_request_control(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 819 void ctdb_reply_control(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 820
 821 int ctdb_daemon_send_control(struct ctdb_context *ctdb, uint32_t destnode,
 822                              uint64_t srvid, uint32_t opcode, uint32_t client_id, uint32_t flags,
 823                              TDB_DATA data,
 824                              ctdb_control_callback_fn_t callback,
 825                              void *private_data);
 826
 827 int32_t ctdb_control_db_attach(struct ctdb_context *ctdb, TDB_DATA indata,
 828                                TDB_DATA *outdata, uint64_t tdb_flags,
 829                                bool persistent, uint32_t client_id,
 830                                struct ctdb_req_control *c,
 831                                bool *async_reply);
 832
 833 int ctdb_daemon_set_call(struct ctdb_context *ctdb, uint32_t db_id,
 834                          ctdb_fn_t fn, int id);
 835
 836 int ctdb_control(struct ctdb_context *ctdb, uint32_t destnode, uint64_t srvid,
 837                  uint32_t opcode, uint32_t flags, TDB_DATA data,
 838                  TALLOC_CTX *mem_ctx, TDB_DATA *outdata, int32_t *status,
 839                  struct timeval *timeout, char **errormsg);
 840 int ctdb_control_recv(struct ctdb_context *ctdb,
 841                 struct ctdb_client_control_state *state,
 842                 TALLOC_CTX *mem_ctx,
 843                 TDB_DATA *outdata, int32_t *status, char **errormsg);
 844
 845 struct ctdb_client_control_state *
 846 ctdb_control_send(struct ctdb_context *ctdb,
 847                 uint32_t destnode, uint64_t srvid,
 848                 uint32_t opcode, uint32_t flags, TDB_DATA data,
 849                 TALLOC_CTX *mem_ctx,
 850                 struct timeval *timeout,
 851                 char **errormsg);
 852
 853
 854
 855
 856 #define CHECK_CONTROL_DATA_SIZE(size) do { \
 857  if (indata.dsize != size) { \
 858          DEBUG(0,(__location__ " Invalid data size in opcode %u. Got %u expected %u\n", \
 859                   opcode, (unsigned)indata.dsize, (unsigned)size));     \
 860          return -1; \
 861  } \
 862  } while (0)
 863
 864 #define CHECK_CONTROL_MIN_DATA_SIZE(size) do { \
 865  if (indata.dsize < size) { \
 866          DEBUG(0,(__location__ " Invalid data size in opcode %u. Got %u expected >= %u\n", \
 867                   opcode, (unsigned)indata.dsize, (unsigned)size));     \
 868          return -1; \
 869  } \
 870  } while (0)
 871
 872 int ctdb_control_getvnnmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
 873 int ctdb_control_setvnnmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
 874 int ctdb_control_getdbmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
 875 int ctdb_control_getnodemapv4(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
 876 int ctdb_control_getnodemap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
 877 int ctdb_control_writerecord(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
 878
 879
 880 /* structure used for pulldb control */
 881 struct ctdb_control_pulldb {
 882         uint32_t db_id;
 883         uint32_t lmaster;
 884 };
 885
 886 /* structure used for sending lists of records */
 887 struct ctdb_marshall_buffer {
 888         uint32_t db_id;
 889         uint32_t count;
 890         uint8_t data[1];
 891 };
 892
 893 /* set dmaster control structure */
 894 struct ctdb_control_set_dmaster {
 895         uint32_t db_id;
 896         uint32_t dmaster;
 897 };
 898
 899 /*
 900   structure for setting a tunable
 901  */
 902 struct ctdb_control_set_tunable {
 903         uint32_t value;
 904         uint32_t length;
 905         uint8_t  name[1];
 906 };
 907
 908 /*
 909   structure for getting a tunable
 910  */
 911 struct ctdb_control_get_tunable {
 912         uint32_t length;
 913         uint8_t  name[1];
 914 };
 915
 916 /*
 917   structure for listing tunables
 918  */
 919 struct ctdb_control_list_tunable {
 920         uint32_t length;
 921         /* returns a : separated list of tunable names */
 922         uint8_t  data[1];
 923 };
 924
 925
 926 struct ctdb_node_and_flagsv4 {
 927         uint32_t pnn;
 928         uint32_t flags;
 929         struct sockaddr_in sin;
 930 };
 931
 932 struct ctdb_node_mapv4 {
 933         uint32_t num;
 934         struct ctdb_node_and_flagsv4 nodes[1];
 935 };
 936
 937 struct ctdb_control_wipe_database {
 938         uint32_t db_id;
 939         uint32_t transaction_id;
 940 };
 941
 942 /*
 943   state of a in-progress ctdb call in client
 944 */
 945 struct ctdb_client_call_state {
 946         enum call_state state;
 947         uint32_t reqid;
 948         struct ctdb_db_context *ctdb_db;
 949         struct ctdb_call *call;
 950         struct {
 951                 void (*fn)(struct ctdb_client_call_state *);
 952                 void *private_data;
 953         } async;
 954 };
 955
 956
 957 int32_t ctdb_control_traverse_start(struct ctdb_context *ctdb, TDB_DATA indata,
 958                                     TDB_DATA *outdata, uint32_t srcnode, uint32_t client_id);
 959 int32_t ctdb_control_traverse_all(struct ctdb_context *ctdb, TDB_DATA data, TDB_DATA *outdata);
 960 int32_t ctdb_control_traverse_data(struct ctdb_context *ctdb, TDB_DATA data, TDB_DATA *outdata);
 961 int32_t ctdb_control_traverse_kill(struct ctdb_context *ctdb, TDB_DATA indata,
 962                                     TDB_DATA *outdata, uint32_t srcnode);
 963
 964 int ctdb_dispatch_message(struct ctdb_context *ctdb, uint64_t srvid, TDB_DATA data);
 965
 966 int daemon_register_message_handler(struct ctdb_context *ctdb, uint32_t client_id, uint64_t srvid);
 967 int ctdb_deregister_message_handler(struct ctdb_context *ctdb, uint64_t srvid, void *private_data);
 968 int daemon_deregister_message_handler(struct ctdb_context *ctdb, uint32_t client_id, uint64_t srvid);
 969
 970 int32_t ctdb_ltdb_enable_seqnum(struct ctdb_context *ctdb, uint32_t db_id);
 971 int32_t ctdb_ltdb_update_seqnum(struct ctdb_context *ctdb, uint32_t db_id, uint32_t srcnode);
 972
 973 struct ctdb_rec_data *ctdb_marshall_record(TALLOC_CTX *mem_ctx, uint32_t reqid,
 974                                            TDB_DATA key, struct ctdb_ltdb_header *, TDB_DATA data);
 975
 976 struct ctdb_rec_data *ctdb_marshall_loop_next(struct ctdb_marshall_buffer *m, struct ctdb_rec_data *r,
 977                                               uint32_t *reqid,
 978                                               struct ctdb_ltdb_header *header,
 979                                               TDB_DATA *key, TDB_DATA *data);
 980
 981 int32_t ctdb_control_pull_db(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
 982 int32_t ctdb_control_push_db(struct ctdb_context *ctdb, TDB_DATA indata);
 983 int32_t ctdb_control_set_dmaster(struct ctdb_context *ctdb, TDB_DATA indata);
 984
 985 int32_t ctdb_control_set_recmode(struct ctdb_context *ctdb,
 986                                  struct ctdb_req_control *c,
 987                                  TDB_DATA indata, bool *async_reply,
 988                                  const char **errormsg);
 989 void ctdb_request_control_reply(struct ctdb_context *ctdb, struct ctdb_req_control *c,
 990                                 TDB_DATA *outdata, int32_t status, const char *errormsg);
 991
 992 int32_t ctdb_control_freeze(struct ctdb_context *ctdb, struct ctdb_req_control *c, bool *async_reply);
 993 int32_t ctdb_control_thaw(struct ctdb_context *ctdb, uint32_t priority);
 994
 995 int ctdb_start_recoverd(struct ctdb_context *ctdb);
 996 void ctdb_stop_recoverd(struct ctdb_context *ctdb);
 997
 998 uint32_t ctdb_get_num_active_nodes(struct ctdb_context *ctdb);
 999
1000 void ctdb_disable_monitoring(struct ctdb_context *ctdb);
1001 void ctdb_enable_monitoring(struct ctdb_context *ctdb);
1002 void ctdb_stop_monitoring(struct ctdb_context *ctdb);
1003 void ctdb_start_monitoring(struct ctdb_context *ctdb);
1004 void ctdb_start_tcp_tickle_update(struct ctdb_context *ctdb);
1005 void ctdb_send_keepalive(struct ctdb_context *ctdb, uint32_t destnode);
1006 void ctdb_start_keepalive(struct ctdb_context *ctdb);
1007 void ctdb_stop_keepalive(struct ctdb_context *ctdb);
1008 int32_t ctdb_run_eventscripts(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA data, bool *async_reply);
1009
1010
1011 void ctdb_daemon_cancel_controls(struct ctdb_context *ctdb, struct ctdb_node *node);
1012 void ctdb_call_resend_all(struct ctdb_context *ctdb);
1013 void ctdb_node_dead(struct ctdb_node *node);
1014 void ctdb_node_connected(struct ctdb_node *node);
1015 bool ctdb_blocking_freeze(struct ctdb_context *ctdb);
1016 void ctdb_set_scheduler(struct ctdb_context *ctdb);
1017 void ctdb_restore_scheduler(struct ctdb_context *ctdb);
1018 pid_t ctdb_fork(struct ctdb_context *ctdb);
1019 int32_t ctdb_control_takeover_ip(struct ctdb_context *ctdb,
1020                                  struct ctdb_req_control *c,
1021                                  TDB_DATA indata,
1022                                  bool *async_reply);
1023 int32_t ctdb_control_takeover_ipv4(struct ctdb_context *ctdb,
1024                                  struct ctdb_req_control *c,
1025                                  TDB_DATA indata,
1026                                  bool *async_reply);
1027 int32_t ctdb_control_release_ip(struct ctdb_context *ctdb,
1028                                  struct ctdb_req_control *c,
1029                                  TDB_DATA indata,
1030                                  bool *async_reply);
1031 int32_t ctdb_control_release_ipv4(struct ctdb_context *ctdb,
1032                                  struct ctdb_req_control *c,
1033                                  TDB_DATA indata,
1034                                  bool *async_reply);
1035 int32_t ctdb_control_start_recovery(struct ctdb_context *ctdb,
1036                                  struct ctdb_req_control *c,
1037                                  bool *async_reply);
1038 int32_t ctdb_control_end_recovery(struct ctdb_context *ctdb,
1039                                  struct ctdb_req_control *c,
1040                                  bool *async_reply);
1041
1042 struct ctdb_public_ipv4 {
1043         uint32_t pnn;
1044         struct sockaddr_in sin;
1045 };
1046
1047 int ctdb_ctrl_takeover_ip(struct ctdb_context *ctdb, struct timeval timeout,
1048                           uint32_t destnode, struct ctdb_public_ip *ip);
1049 int ctdb_ctrl_release_ip(struct ctdb_context *ctdb, struct timeval timeout,
1050                          uint32_t destnode, struct ctdb_public_ip *ip);
1051
1052 struct ctdb_all_public_ipsv4 {
1053         uint32_t num;
1054         struct ctdb_public_ipv4 ips[1];
1055 };
1056
1057 int32_t ctdb_control_get_public_ipsv4(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA *outdata);
1058 int32_t ctdb_control_get_public_ips(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA *outdata);
1059 int ctdb_ctrl_get_public_ips(struct ctdb_context *ctdb,
1060                              struct timeval timeout,
1061                              uint32_t destnode,
1062                              TALLOC_CTX *mem_ctx,
1063                              struct ctdb_all_public_ips **ips);
1064 #define CTDB_PUBLIC_IP_FLAGS_ONLY_AVAILABLE 0x00010000
1065 int ctdb_ctrl_get_public_ips_flags(struct ctdb_context *ctdb,
1066                                    struct timeval timeout, uint32_t destnode,
1067                                    TALLOC_CTX *mem_ctx,
1068                                    uint32_t flags,
1069                                    struct ctdb_all_public_ips **ips);
1070 int ctdb_ctrl_get_public_ipsv4(struct ctdb_context *ctdb,
1071                         struct timeval timeout, uint32_t destnode,
1072                         TALLOC_CTX *mem_ctx, struct ctdb_all_public_ips **ips);
1073
1074 #ifdef IFNAMSIZ
1075 #define CTDB_IFACE_SIZE IFNAMSIZ
1076 #else
1077 #define CTDB_IFACE_SIZE 16
1078 #endif
1079
1080 struct ctdb_control_iface_info {
1081         char name[CTDB_IFACE_SIZE+2];
1082         uint16_t link_state;
1083         uint32_t references;
1084 };
1085
1086 struct ctdb_control_public_ip_info {
1087         struct ctdb_public_ip ip;
1088         uint32_t active_idx;
1089         uint32_t num;
1090         struct ctdb_control_iface_info ifaces[1];
1091 };
1092
1093 struct ctdb_control_get_ifaces {
1094         uint32_t num;
1095         struct ctdb_control_iface_info ifaces[1];
1096 };
1097
1098 int32_t ctdb_control_get_public_ip_info(struct ctdb_context *ctdb,
1099                                         struct ctdb_req_control *c,
1100                                         TDB_DATA indata,
1101                                         TDB_DATA *outdata);
1102 int32_t ctdb_control_get_ifaces(struct ctdb_context *ctdb,
1103                                 struct ctdb_req_control *c,
1104                                 TDB_DATA *outdata);
1105 int32_t ctdb_control_set_iface_link(struct ctdb_context *ctdb,
1106                                     struct ctdb_req_control *c,
1107                                     TDB_DATA indata);
1108 int ctdb_ctrl_get_public_ip_info(struct ctdb_context *ctdb,
1109                                  struct timeval timeout, uint32_t destnode,
1110                                  TALLOC_CTX *mem_ctx,
1111                                  const ctdb_sock_addr *addr,
1112                                  struct ctdb_control_public_ip_info **info);
1113 int ctdb_ctrl_get_ifaces(struct ctdb_context *ctdb,
1114                          struct timeval timeout, uint32_t destnode,
1115                          TALLOC_CTX *mem_ctx,
1116                          struct ctdb_control_get_ifaces **ifaces);
1117 int ctdb_ctrl_set_iface_link(struct ctdb_context *ctdb,
1118                              struct timeval timeout, uint32_t destnode,
1119                              TALLOC_CTX *mem_ctx,
1120                              const struct ctdb_control_iface_info *info);
1121
1122 /* from takeover/system.c */
1123 uint32_t uint16_checksum(uint16_t *data, size_t n);
1124 int ctdb_sys_send_arp(const ctdb_sock_addr *addr, const char *iface);
1125 bool ctdb_sys_have_ip(ctdb_sock_addr *addr);
1126 bool ctdb_sys_check_iface_exists(const char *iface);
1127 int ctdb_sys_send_tcp(const ctdb_sock_addr *dest,
1128                       const ctdb_sock_addr *src,
1129                       uint32_t seq, uint32_t ack, int rst);
1130
1131 int ctdb_set_public_addresses(struct ctdb_context *ctdb, const char *alist);
1132 int ctdb_set_single_public_ip(struct ctdb_context *ctdb,
1133                               const char *iface,
1134                               const char *ip);
1135 int ctdb_set_event_script(struct ctdb_context *ctdb, const char *script);
1136 int ctdb_set_event_script_dir(struct ctdb_context *ctdb, const char *script_dir);
1137 int ctdb_set_notification_script(struct ctdb_context *ctdb, const char *script);
1138 int ctdb_takeover_run(struct ctdb_context *ctdb, struct ctdb_node_map *nodemap);
1139
1140 int32_t ctdb_control_tcp_client(struct ctdb_context *ctdb, uint32_t client_id,
1141                                 TDB_DATA indata);
1142 int32_t ctdb_control_tcp_add(struct ctdb_context *ctdb, TDB_DATA indata, bool tcp_update_needed);
1143 int32_t ctdb_control_tcp_remove(struct ctdb_context *ctdb, TDB_DATA indata);
1144 int32_t ctdb_control_startup(struct ctdb_context *ctdb, uint32_t vnn);
1145 int32_t ctdb_control_kill_tcp(struct ctdb_context *ctdb, TDB_DATA indata);
1146 int32_t ctdb_control_send_gratious_arp(struct ctdb_context *ctdb, TDB_DATA indata);
1147 int32_t ctdb_control_get_tcp_tickle_list(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1148 int32_t ctdb_control_set_tcp_tickle_list(struct ctdb_context *ctdb, TDB_DATA indata);
1149
1150 void ctdb_takeover_client_destructor_hook(struct ctdb_client *client);
1151 int ctdb_event_script(struct ctdb_context *ctdb, enum ctdb_eventscript_call call);
1152 int ctdb_event_script_args(struct ctdb_context *ctdb, enum ctdb_eventscript_call call,
1153                            const char *fmt, ...) PRINTF_ATTRIBUTE(3,4);
1154 int ctdb_event_script_callback(struct ctdb_context *ctdb,
1155                                TALLOC_CTX *mem_ctx,
1156                                void (*callback)(struct ctdb_context *, int, void *),
1157                                void *private_data,
1158                                bool from_user,
1159                                enum ctdb_eventscript_call call,
1160                                const char *fmt, ...) PRINTF_ATTRIBUTE(7,8);
1161 void ctdb_release_all_ips(struct ctdb_context *ctdb);
1162
1163 void set_nonblocking(int fd);
1164 void set_close_on_exec(int fd);
1165
1166 bool ctdb_recovery_lock(struct ctdb_context *ctdb, bool keep);
1167
1168 int ctdb_set_recovery_lock_file(struct ctdb_context *ctdb, const char *file);
1169
1170 int32_t ctdb_control_get_tunable(struct ctdb_context *ctdb, TDB_DATA indata,
1171                                  TDB_DATA *outdata);
1172 int32_t ctdb_control_set_tunable(struct ctdb_context *ctdb, TDB_DATA indata);
1173 int32_t ctdb_control_list_tunables(struct ctdb_context *ctdb, TDB_DATA *outdata);
1174 int32_t ctdb_control_try_delete_records(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1175 int32_t ctdb_control_add_public_address(struct ctdb_context *ctdb, TDB_DATA indata);
1176 int32_t ctdb_control_del_public_address(struct ctdb_context *ctdb, TDB_DATA indata);
1177
1178 void ctdb_tunables_set_defaults(struct ctdb_context *ctdb);
1179
1180 int32_t ctdb_control_modflags(struct ctdb_context *ctdb, TDB_DATA indata);
1181
1182 int ctdb_ctrl_get_all_tunables(struct ctdb_context *ctdb,
1183                                struct timeval timeout,
1184                                uint32_t destnode,
1185                                struct ctdb_tunable *tunables);
1186
1187 int ctdb_start_freeze(struct ctdb_context *ctdb, uint32_t priority);
1188
1189 bool parse_ip_mask(const char *s, const char *iface, ctdb_sock_addr *addr, unsigned *mask);
1190 bool parse_ip_port(const char *s, ctdb_sock_addr *addr);
1191 bool parse_ip(const char *s, const char *iface, unsigned port, ctdb_sock_addr *addr);
1192 bool parse_ipv4(const char *s, unsigned port, struct sockaddr_in *sin);
1193
1194
1195 int ctdb_sys_open_capture_socket(const char *iface, void **private_data);
1196 int ctdb_sys_close_capture_socket(void *private_data);
1197 int ctdb_sys_read_tcp_packet(int s, void *private_data, ctdb_sock_addr *src, ctdb_sock_addr *dst, uint32_t *ack_seq, uint32_t *seq);
1198
1199 int ctdb_ctrl_killtcp(struct ctdb_context *ctdb,
1200                       struct timeval timeout,
1201                       uint32_t destnode,
1202                       struct ctdb_control_killtcp *killtcp);
1203
1204 int ctdb_ctrl_add_public_ip(struct ctdb_context *ctdb,
1205                       struct timeval timeout,
1206                       uint32_t destnode,
1207                       struct ctdb_control_ip_iface *pub);
1208
1209 int ctdb_ctrl_del_public_ip(struct ctdb_context *ctdb,
1210                       struct timeval timeout,
1211                       uint32_t destnode,
1212                       struct ctdb_control_ip_iface *pub);
1213
1214 int ctdb_ctrl_gratious_arp(struct ctdb_context *ctdb,
1215                       struct timeval timeout,
1216                       uint32_t destnode,
1217                       ctdb_sock_addr *addr,
1218                       const char *ifname);
1219
1220 int ctdb_ctrl_get_tcp_tickles(struct ctdb_context *ctdb,
1221                       struct timeval timeout,
1222                       uint32_t destnode,
1223                       TALLOC_CTX *mem_ctx,
1224                       ctdb_sock_addr *addr,
1225                       struct ctdb_control_tcp_tickle_list **list);
1226
1227
1228 int32_t ctdb_control_register_server_id(struct ctdb_context *ctdb,
1229                       uint32_t client_id,
1230                       TDB_DATA indata);
1231 int32_t ctdb_control_check_server_id(struct ctdb_context *ctdb,
1232                       TDB_DATA indata);
1233 int32_t ctdb_control_unregister_server_id(struct ctdb_context *ctdb,
1234                       TDB_DATA indata);
1235 int32_t ctdb_control_get_server_id_list(struct ctdb_context *ctdb,
1236                       TDB_DATA *outdata);
1237 int32_t ctdb_control_uptime(struct ctdb_context *ctdb,
1238                       TDB_DATA *outdata);
1239
1240 int ctdb_attach_databases(struct ctdb_context *ctdb);
1241
1242 int32_t ctdb_control_persistent_store(struct ctdb_context *ctdb,
1243                                       struct ctdb_req_control *c,
1244                                       TDB_DATA recdata, bool *async_reply);
1245 int32_t ctdb_control_update_record(struct ctdb_context *ctdb,
1246                                    struct ctdb_req_control *c, TDB_DATA recdata,
1247                                    bool *async_reply);
1248 int32_t ctdb_control_trans2_commit(struct ctdb_context *ctdb,
1249                                    struct ctdb_req_control *c,
1250                                    TDB_DATA recdata, bool *async_reply);
1251
1252 int32_t ctdb_control_trans3_commit(struct ctdb_context *ctdb,
1253                                    struct ctdb_req_control *c,
1254                                    TDB_DATA recdata, bool *async_reply);
1255
1256 void ctdb_persistent_finish_trans3_commits(struct ctdb_context *ctdb);
1257
1258 int32_t ctdb_control_transaction_start(struct ctdb_context *ctdb, uint32_t id);
1259 int32_t ctdb_control_transaction_commit(struct ctdb_context *ctdb, uint32_t id);
1260 int32_t ctdb_control_transaction_cancel(struct ctdb_context *ctdb);
1261 int32_t ctdb_control_wipe_database(struct ctdb_context *ctdb, TDB_DATA indata);
1262 int32_t ctdb_control_db_set_healthy(struct ctdb_context *ctdb, TDB_DATA indata);
1263 int32_t ctdb_control_db_get_health(struct ctdb_context *ctdb,
1264                                    TDB_DATA indata,
1265                                    TDB_DATA *outdata);
1266
1267
1268 int ctdb_vacuum(struct ctdb_context *ctdb, int argc, const char **argv);
1269 int ctdb_repack(struct ctdb_context *ctdb, int argc, const char **argv);
1270
1271 void ctdb_block_signal(int signum);
1272 void ctdb_unblock_signal(int signum);
1273 int32_t ctdb_monitoring_mode(struct ctdb_context *ctdb);
1274 int ctdb_set_child_logging(struct ctdb_context *ctdb);
1275 void ctdb_lockdown_memory(struct ctdb_context *ctdb);
1276
1277 typedef void (*client_async_callback)(struct ctdb_context *ctdb, uint32_t node_pnn, int32_t res, TDB_DATA outdata, void *callback_data);
1278
1279 struct client_async_data {
1280         enum ctdb_controls opcode;
1281         bool dont_log_errors;
1282         uint32_t count;
1283         uint32_t fail_count;
1284         client_async_callback callback;
1285         client_async_callback fail_callback;
1286         void *callback_data;
1287 };
1288 void ctdb_client_async_add(struct client_async_data *data, struct ctdb_client_control_state *state);
1289 int ctdb_client_async_wait(struct ctdb_context *ctdb, struct client_async_data *data);
1290 int ctdb_client_async_control(struct ctdb_context *ctdb,
1291                                 enum ctdb_controls opcode,
1292                                 uint32_t *nodes,
1293                                 uint64_t srvid,
1294                                 struct timeval timeout,
1295                                 bool dont_log_errors,
1296                                 TDB_DATA data,
1297                                 client_async_callback client_callback,
1298                                 client_async_callback fail_callback,
1299                                 void *callback_data);
1300
1301 void ctdb_load_nodes_file(struct ctdb_context *ctdb);
1302
1303 int ctdb_control_reload_nodes_file(struct ctdb_context *ctdb, uint32_t opcode);
1304
1305 int32_t ctdb_dump_memory(struct ctdb_context *ctdb, TDB_DATA *outdata);
1306 int32_t ctdb_control_get_capabilities(struct ctdb_context *ctdb, TDB_DATA *outdata);
1307
1308 int32_t ctdb_control_trans2_finished(struct ctdb_context *ctdb,
1309                                      struct ctdb_req_control *c);
1310 int32_t ctdb_control_trans2_error(struct ctdb_context *ctdb,
1311                                   struct ctdb_req_control *c);
1312 int32_t ctdb_control_trans2_active(struct ctdb_context *ctdb,
1313                                    struct ctdb_req_control *c,
1314                                    uint32_t db_id);
1315
1316 char *ctdb_addr_to_str(ctdb_sock_addr *addr);
1317 unsigned ctdb_addr_to_port(ctdb_sock_addr *addr);
1318 void ctdb_canonicalize_ip(const ctdb_sock_addr *ip, ctdb_sock_addr *cip);
1319
1320 int32_t ctdb_control_recd_ping(struct ctdb_context *ctdb);
1321 int32_t ctdb_control_set_recmaster(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata);
1322
1323 extern int script_log_level;
1324 extern bool fast_start;
1325
1326 int32_t ctdb_control_get_event_script_status(struct ctdb_context *ctdb,
1327                                              uint32_t call_type,
1328                                              TDB_DATA *outdata);
1329
1330 int ctdb_log_event_script_output(struct ctdb_context *ctdb, char *str, uint16_t len);
1331 int ctdb_ctrl_report_recd_lock_latency(struct ctdb_context *ctdb, struct timeval timeout, double latency);
1332
1333 int32_t ctdb_control_stop_node(struct ctdb_context *ctdb, struct ctdb_req_control *c, bool *async_reply);
1334 int32_t ctdb_control_continue_node(struct ctdb_context *ctdb);
1335
1336 void ctdb_stop_vacuuming(struct ctdb_context *ctdb);
1337 int ctdb_vacuum_init(struct ctdb_db_context *ctdb_db);
1338
1339 int32_t ctdb_control_enable_script(struct ctdb_context *ctdb, TDB_DATA indata);
1340 int32_t ctdb_control_disable_script(struct ctdb_context *ctdb, TDB_DATA indata);
1341
1342 int32_t ctdb_local_node_got_banned(struct ctdb_context *ctdb);
1343 int32_t ctdb_control_set_ban_state(struct ctdb_context *ctdb, TDB_DATA indata);
1344 int32_t ctdb_control_get_ban_state(struct ctdb_context *ctdb, TDB_DATA *outdata);
1345 int32_t ctdb_control_set_db_priority(struct ctdb_context *ctdb, TDB_DATA indata);
1346 void ctdb_ban_self(struct ctdb_context *ctdb);
1347
1348 int32_t ctdb_control_register_notify(struct ctdb_context *ctdb, uint32_t client_id, TDB_DATA indata);
1349
1350 int32_t ctdb_control_deregister_notify(struct ctdb_context *ctdb, uint32_t client_id, TDB_DATA indata);
1351
1352 int start_syslog_daemon(struct ctdb_context *ctdb);
1353
1354 /* Where to send the log messages back to */
1355 struct ctdb_get_log_addr {
1356         uint32_t pnn;
1357         uint64_t srvid;
1358         int32_t level;
1359 };
1360
1361 extern int log_ringbuf_size;
1362
1363 int32_t ctdb_control_get_log(struct ctdb_context *ctdb, TDB_DATA addr);
1364 int32_t ctdb_control_clear_log(struct ctdb_context *ctdb);
1365
1366
1367 struct ctdb_log_state *ctdb_fork_with_logging(TALLOC_CTX *mem_ctx,
1368                                               struct ctdb_context *ctdb,
1369                                               const char *log_prefix,
1370                                               void (*logfn)(const char *, uint16_t, void *),
1371                                               void *logfn_private, pid_t *pid);
1372
1373 int32_t ctdb_control_process_exists(struct ctdb_context *ctdb, pid_t pid);
1374 struct ctdb_client *ctdb_find_client_by_pid(struct ctdb_context *ctdb, pid_t pid);
1375
1376 int32_t ctdb_control_get_db_seqnum(struct ctdb_context *ctdb,
1377                                    TDB_DATA indata,
1378                                    TDB_DATA *outdata);
1379
1380 int ctdb_load_persistent_health(struct ctdb_context *ctdb,
1381                                 struct ctdb_db_context *ctdb_db);
1382 int ctdb_update_persistent_health(struct ctdb_context *ctdb,
1383                                   struct ctdb_db_context *ctdb_db,
1384                                   const char *reason,/* NULL means healthy */
1385                                   int num_healthy_nodes);
1386 int ctdb_recheck_persistent_health(struct ctdb_context *ctdb);
1387
1388 void ctdb_run_notification_script(struct ctdb_context *ctdb, const char *event);
1389
1390 void ctdb_fault_setup(void);
1391
1392 int verify_remote_ip_allocation(struct ctdb_context *ctdb,
1393                                 struct ctdb_all_public_ips *ips);
1394 int update_ip_assignment_tree(struct ctdb_context *ctdb,
1395                                 struct ctdb_public_ip *ip);
1396
1397 int ctdb_init_tevent_logging(struct ctdb_context *ctdb);
1398
1399 int ctdb_statistics_init(struct ctdb_context *ctdb);
1400
1401 int32_t ctdb_control_get_stat_history(struct ctdb_context *ctdb,
1402                                       struct ctdb_req_control *c,
1403                                       TDB_DATA *outdata);
1404
1405 int ctdb_deferred_drop_all_ips(struct ctdb_context *ctdb);
1406
1407 int ctdb_process_deferred_attach(struct ctdb_context *ctdb);
1408
1409 /**
1410  * structure to pass to a schedule_for_deletion_control
1411  */
1412 struct ctdb_control_schedule_for_deletion {
1413         uint32_t db_id;
1414         struct ctdb_ltdb_header hdr;
1415         uint32_t keylen;
1416         uint8_t key[1]; /* key[] */
1417 };
1418
1419 int32_t ctdb_control_schedule_for_deletion(struct ctdb_context *ctdb,
1420                                            TDB_DATA indata);
1421
1422
1423 int32_t ctdb_local_schedule_for_deletion(struct ctdb_db_context *ctdb_db,
1424                                          const struct ctdb_ltdb_header *hdr,
1425                                          TDB_DATA key);
1426
1427 struct ctdb_ltdb_header *ctdb_header_from_record_handle(struct ctdb_record_handle *h);
1428
1429 /* For unit testing ctdb_transaction.c. */
1430 struct ctdb_public_ip_list {
1431         struct ctdb_public_ip_list *next;
1432         uint32_t pnn;
1433         ctdb_sock_addr addr;
1434 };
1435 uint32_t ip_distance(ctdb_sock_addr *ip1, ctdb_sock_addr *ip2);
1436 uint32_t ip_distance_2_sum(ctdb_sock_addr *ip,
1437                            struct ctdb_public_ip_list *ips,
1438                            int pnn);
1439 uint32_t lcp2_imbalance(struct ctdb_public_ip_list * all_ips, int pnn);
1440 void lcp2_init(struct ctdb_context * tmp_ctx,
1441                struct ctdb_node_map * nodemap,
1442                uint32_t mask,
1443                struct ctdb_public_ip_list *all_ips,
1444                uint32_t **lcp2_imbalances,
1445                bool **newly_healthy);
1446 void lcp2_allocate_unassigned(struct ctdb_context *ctdb,
1447                               struct ctdb_node_map *nodemap,
1448                               uint32_t mask,
1449                               struct ctdb_public_ip_list *all_ips,
1450                               uint32_t *lcp2_imbalances);
1451 bool lcp2_failback(struct ctdb_context *ctdb,
1452                    struct ctdb_node_map *nodemap,
1453                    uint32_t mask,
1454                    struct ctdb_public_ip_list *all_ips,
1455                    uint32_t *lcp2_imbalances,
1456                    bool *newly_healthy);
1457 void ctdb_takeover_run_core(struct ctdb_context *ctdb,
1458                             struct ctdb_node_map *nodemap,
1459                             struct ctdb_public_ip_list **all_ips_p);
1460
1461 int ctdb_trackingdb_add_pnn(struct ctdb_context *ctdb, TDB_DATA *data, uint32_t pnn);
1462
1463 typedef void (*ctdb_trackingdb_cb)(struct ctdb_context *ctdb, uint32_t pnn, void *private_data);
1464
1465 void ctdb_trackingdb_traverse(struct ctdb_context *ctdb, TDB_DATA data, ctdb_trackingdb_cb cb, void *private_data);
1466
1467 int ctdb_start_revoke_ro_record(struct ctdb_context *ctdb, struct ctdb_db_context *ctdb_db, TDB_DATA key, struct ctdb_ltdb_header *header, TDB_DATA data);
1468
1469 typedef void (*deferred_requeue_fn)(void *call_context, struct ctdb_req_header *hdr);
1470
1471 int ctdb_add_revoke_deferred_call(struct ctdb_context *ctdb, struct ctdb_db_context *ctdb_db, TDB_DATA key, struct ctdb_req_header *hdr, deferred_requeue_fn fn, void *call_context);
1472
1473 int ctdb_set_db_readonly(struct ctdb_context *ctdb, struct ctdb_db_context *ctdb_db);
1474
1475 int ctdb_null_func(struct ctdb_call_info *call);
1476
1477 int ctdb_fetch_func(struct ctdb_call_info *call);
1478
1479 int ctdb_fetch_with_header_func(struct ctdb_call_info *call);
1480
1481 #endif