include/ctdb_private.h

   1 /*
   2    ctdb database library
   3
   4    Copyright (C) Andrew Tridgell  2006
   5
   6    This program is free software; you can redistribute it and/or modify
   7    it under the terms of the GNU General Public License as published by
   8    the Free Software Foundation; either version 3 of the License, or
   9    (at your option) any later version.
  10
  11    This program is distributed in the hope that it will be useful,
  12    but WITHOUT ANY WARRANTY; without even the implied warranty of
  13    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14    GNU General Public License for more details.
  15
  16    You should have received a copy of the GNU General Public License
  17    along with this program; if not, see <http://www.gnu.org/licenses/>.
  18 */
  19
  20 #ifndef _CTDB_PRIVATE_H
  21 #define _CTDB_PRIVATE_H
  22
  23 #include "ctdb.h"
  24 #include <sys/socket.h>
  25
  26 /* location of daemon socket */
  27 #define CTDB_PATH       "/tmp/ctdb.socket"
  28
  29 /* default ctdb port number */
  30 #define CTDB_PORT 4379
  31
  32 /* we must align packets to ensure ctdb works on all architectures (eg. sparc) */
  33 #define CTDB_DS_ALIGNMENT 8
  34
  35
  36 #define CTDB_NULL_FUNC      0xFF000001
  37 #define CTDB_FETCH_FUNC     0xFF000002
  38
  39
  40 /*
  41   recovery daemon memdump reply address
  42  */
  43 struct rd_memdump_reply {
  44         uint32_t pnn;
  45         uint64_t srvid;
  46 };
  47
  48 /*
  49   description for a TAKEOVER_RUN message reply address
  50  */
  51 struct takeover_run_reply {
  52         uint32_t pnn;
  53         uint64_t srvid;
  54 };
  55
  56 /*
  57  * pid of the ctdbd daemon
  58  */
  59 extern pid_t ctdbd_pid;
  60
  61 /*
  62   a tcp connection description
  63  */
  64 struct ctdb_tcp_connection {
  65         ctdb_sock_addr src_addr;
  66         ctdb_sock_addr dst_addr;
  67 };
  68
  69 /* the wire representation for a tcp tickle array */
  70 struct ctdb_tcp_wire_array {
  71         uint32_t num;
  72         struct ctdb_tcp_connection connections[1];
  73 };
  74
  75 /* the list of tcp tickles used by get/set tcp tickle list */
  76 struct ctdb_control_tcp_tickle_list {
  77         ctdb_sock_addr addr;
  78         struct ctdb_tcp_wire_array tickles;
  79 };
  80
  81 /*
  82   array of tcp connections
  83  */
  84 struct ctdb_tcp_array {
  85         uint32_t num;
  86         struct ctdb_tcp_connection *connections;
  87 };
  88
  89
  90 /* all tunable variables go in here */
  91 struct ctdb_tunable {
  92         uint32_t max_redirect_count;
  93         uint32_t seqnum_interval; /* unit is ms */
  94         uint32_t control_timeout;
  95         uint32_t traverse_timeout;
  96         uint32_t keepalive_interval;
  97         uint32_t keepalive_limit;
  98         uint32_t max_lacount;
  99         uint32_t recover_timeout;
 100         uint32_t recover_interval;
 101         uint32_t election_timeout;
 102         uint32_t takeover_timeout;
 103         uint32_t monitor_interval;
 104         uint32_t tickle_update_interval;
 105         uint32_t script_timeout;
 106         uint32_t script_timeout_count; /* allow dodgy scripts to hang this many times in a row before we mark the node unhealthy */
 107         uint32_t script_unhealthy_on_timeout; /* obsolete */
 108         uint32_t recovery_grace_period;
 109         uint32_t recovery_ban_period;
 110         uint32_t database_hash_size;
 111         uint32_t database_max_dead;
 112         uint32_t rerecovery_timeout;
 113         uint32_t enable_bans;
 114         uint32_t deterministic_public_ips;
 115         uint32_t reclock_ping_period;
 116         uint32_t no_ip_failback;
 117         uint32_t verbose_memory_names;
 118         uint32_t recd_ping_timeout;
 119         uint32_t recd_ping_failcount;
 120         uint32_t log_latency_ms;
 121         uint32_t reclock_latency_ms;
 122         uint32_t recovery_drop_all_ips;
 123         uint32_t verify_recovery_lock;
 124         uint32_t vacuum_default_interval;
 125         uint32_t vacuum_max_run_time;
 126         uint32_t repack_limit;
 127         uint32_t vacuum_limit;
 128         uint32_t vacuum_min_interval;
 129         uint32_t vacuum_max_interval;
 130         uint32_t max_queue_depth_drop_msg;
 131         uint32_t use_status_events_for_monitoring;
 132         uint32_t allow_unhealthy_db_read;
 133 };
 134
 135 /*
 136   an installed ctdb remote call
 137 */
 138 struct ctdb_registered_call {
 139         struct ctdb_registered_call *next, *prev;
 140         uint32_t id;
 141         ctdb_fn_t fn;
 142 };
 143
 144 /*
 145   this address structure might need to be generalised later for some
 146   transports
 147 */
 148 struct ctdb_address {
 149         const char *address;
 150         int port;
 151 };
 152
 153 /*
 154   check that a pnn is valid
 155  */
 156 #define ctdb_validate_pnn(ctdb, pnn) (((uint32_t)(pnn)) < (ctdb)->num_nodes)
 157
 158
 159 /* called from the queue code when a packet comes in. Called with data==NULL
 160    on error */
 161 typedef void (*ctdb_queue_cb_fn_t)(uint8_t *data, size_t length,
 162                                    void *private_data);
 163
 164 /* used for callbacks in ctdb_control requests */
 165 typedef void (*ctdb_control_callback_fn_t)(struct ctdb_context *,
 166                                            int32_t status, TDB_DATA data,
 167                                            const char *errormsg,
 168                                            void *private_data);
 169 /*
 170   structure describing a connected client in the daemon
 171  */
 172 struct ctdb_client {
 173         struct ctdb_context *ctdb;
 174         int fd;
 175         struct ctdb_queue *queue;
 176         uint32_t client_id;
 177         pid_t pid;
 178         struct ctdb_tcp_list *tcp_list;
 179         uint32_t db_id;
 180         uint32_t num_persistent_updates;
 181         struct ctdb_client_notify_list *notify;
 182 };
 183
 184 struct ctdb_iface;
 185
 186 /* state associated with a public ip address */
 187 struct ctdb_vnn {
 188         struct ctdb_vnn *prev, *next;
 189
 190         struct ctdb_iface *iface;
 191         const char **ifaces;
 192         ctdb_sock_addr public_address;
 193         uint8_t public_netmask_bits;
 194
 195         /* the node number that is serving this public address, if any.
 196            If no node serves this ip it is set to -1 */
 197         int32_t pnn;
 198
 199         /* List of clients to tickle for this public address */
 200         struct ctdb_tcp_array *tcp_array;
 201
 202         /* whether we need to update the other nodes with changes to our list
 203            of connected clients */
 204         bool tcp_update_needed;
 205
 206         /* a context to hang sending gratious arp events off */
 207         TALLOC_CTX *takeover_ctx;
 208
 209         struct ctdb_kill_tcp *killtcp;
 210 };
 211
 212 /*
 213   state associated with one node
 214 */
 215 struct ctdb_node {
 216         struct ctdb_context *ctdb;
 217         struct ctdb_address address;
 218         const char *name; /* for debug messages */
 219         void *private_data; /* private to transport */
 220         uint32_t pnn;
 221 #define NODE_FLAGS_DISCONNECTED         0x00000001 /* node isn't connected */
 222 #define NODE_FLAGS_UNHEALTHY            0x00000002 /* monitoring says node is unhealthy */
 223 #define NODE_FLAGS_PERMANENTLY_DISABLED 0x00000004 /* administrator has disabled node */
 224 #define NODE_FLAGS_BANNED               0x00000008 /* recovery daemon has banned the node */
 225 #define NODE_FLAGS_DELETED              0x00000010 /* this node has been deleted */
 226 #define NODE_FLAGS_STOPPED              0x00000020 /* this node has been stopped */
 227 #define NODE_FLAGS_DISABLED             (NODE_FLAGS_UNHEALTHY|NODE_FLAGS_PERMANENTLY_DISABLED)
 228 #define NODE_FLAGS_INACTIVE             (NODE_FLAGS_DELETED|NODE_FLAGS_DISCONNECTED|NODE_FLAGS_BANNED|NODE_FLAGS_STOPPED)
 229         uint32_t flags;
 230
 231         /* used by the dead node monitoring */
 232         uint32_t dead_count;
 233         uint32_t rx_cnt;
 234         uint32_t tx_cnt;
 235
 236         /* used to track node capabilities, is only valid/tracked inside the
 237            recovery daemon.
 238         */
 239         uint32_t capabilities;
 240
 241         /* a list of controls pending to this node, so we can time them out quickly
 242            if the node becomes disconnected */
 243         struct daemon_control_state *pending_controls;
 244
 245         /* used by the recovery daemon when distributing ip addresses
 246            across the nodes.  it needs to know which public ip's can be handled
 247            by each node.
 248         */
 249         struct ctdb_all_public_ips *public_ips;
 250         /* used by the recovery dameon to track when a node should be banned */
 251         struct ctdb_banning_state *ban_state;
 252 };
 253
 254 /*
 255   transport specific methods
 256 */
 257 struct ctdb_methods {
 258         int (*initialise)(struct ctdb_context *); /* initialise transport structures */
 259         int (*start)(struct ctdb_context *); /* start the transport */
 260         int (*add_node)(struct ctdb_node *); /* setup a new node */
 261         int (*connect_node)(struct ctdb_node *); /* connect to node */
 262         int (*queue_pkt)(struct ctdb_node *, uint8_t *data, uint32_t length);
 263         void *(*allocate_pkt)(TALLOC_CTX *mem_ctx, size_t );
 264         void (*shutdown)(struct ctdb_context *); /* shutdown transport */
 265         void (*restart)(struct ctdb_node *); /* stop and restart the connection */
 266 };
 267
 268 /*
 269   transport calls up to the ctdb layer
 270 */
 271 struct ctdb_upcalls {
 272         /* recv_pkt is called when a packet comes in */
 273         void (*recv_pkt)(struct ctdb_context *, uint8_t *data, uint32_t length);
 274
 275         /* node_dead is called when an attempt to send to a node fails */
 276         void (*node_dead)(struct ctdb_node *);
 277
 278         /* node_connected is called when a connection to a node is established */
 279         void (*node_connected)(struct ctdb_node *);
 280 };
 281
 282 /* list of message handlers - needs to be changed to a more efficient data
 283    structure so we can find a message handler given a srvid quickly */
 284 struct ctdb_message_list {
 285         struct ctdb_context *ctdb;
 286         struct ctdb_message_list *next, *prev;
 287         uint64_t srvid;
 288         ctdb_message_fn_t message_handler;
 289         void *message_private;
 290 };
 291
 292 /* additional data required for the daemon mode */
 293 struct ctdb_daemon_data {
 294         int sd;
 295         char *name;
 296         struct ctdb_queue *queue;
 297 };
 298
 299 /*
 300   ctdb status information
 301  */
 302 struct ctdb_statistics {
 303         uint32_t num_clients;
 304         uint32_t frozen;
 305         uint32_t recovering;
 306         uint32_t client_packets_sent;
 307         uint32_t client_packets_recv;
 308         uint32_t node_packets_sent;
 309         uint32_t node_packets_recv;
 310         uint32_t keepalive_packets_sent;
 311         uint32_t keepalive_packets_recv;
 312         struct {
 313                 uint32_t req_call;
 314                 uint32_t reply_call;
 315                 uint32_t req_dmaster;
 316                 uint32_t reply_dmaster;
 317                 uint32_t reply_error;
 318                 uint32_t req_message;
 319                 uint32_t req_control;
 320                 uint32_t reply_control;
 321         } node;
 322         struct {
 323                 uint32_t req_call;
 324                 uint32_t req_message;
 325                 uint32_t req_control;
 326         } client;
 327         struct {
 328                 uint32_t call;
 329                 uint32_t control;
 330                 uint32_t traverse;
 331         } timeouts;
 332         struct {
 333                 double ctdbd;
 334                 double recd;
 335         } reclock;
 336         uint32_t total_calls;
 337         uint32_t pending_calls;
 338         uint32_t lockwait_calls;
 339         uint32_t pending_lockwait_calls;
 340         uint32_t childwrite_calls;
 341         uint32_t pending_childwrite_calls;
 342         uint32_t memory_used;
 343         uint32_t __last_counter; /* hack for control_statistics_all */
 344         uint32_t max_hop_count;
 345         double max_call_latency;
 346         double max_lockwait_latency;
 347         double max_childwrite_latency;
 348 };
 349
 350
 351 #define INVALID_GENERATION 1
 352 /* table that contains the mapping between a hash value and lmaster
 353  */
 354 struct ctdb_vnn_map {
 355         uint32_t generation;
 356         uint32_t size;
 357         uint32_t *map;
 358 };
 359
 360 /*
 361    a wire representation of the vnn map
 362  */
 363 struct ctdb_vnn_map_wire {
 364         uint32_t generation;
 365         uint32_t size;
 366         uint32_t map[1];
 367 };
 368
 369 /* a structure that contains the elements required for the write record
 370    control
 371 */
 372 struct ctdb_write_record {
 373         uint32_t dbid;
 374         uint32_t keylen;
 375         uint32_t datalen;
 376         unsigned char blob[1];
 377 };
 378
 379 enum ctdb_freeze_mode {CTDB_FREEZE_NONE, CTDB_FREEZE_PENDING, CTDB_FREEZE_FROZEN};
 380
 381 #define CTDB_MONITORING_ACTIVE          0
 382 #define CTDB_MONITORING_DISABLED        1
 383
 384 /* The different capabilities of the ctdb daemon. */
 385 #define CTDB_CAP_RECMASTER              0x00000001
 386 #define CTDB_CAP_LMASTER                0x00000002
 387 /* This capability is set if CTDB_LVS_PUBLIC_IP is set */
 388 #define CTDB_CAP_LVS                    0x00000004
 389 /* This capability is set if NATGW is enabled */
 390 #define CTDB_CAP_NATGW                  0x00000008
 391
 392 #define NUM_DB_PRIORITIES 3
 393 /* main state of the ctdb daemon */
 394 struct ctdb_context {
 395         struct event_context *ev;
 396         struct timeval ctdbd_start_time;
 397         struct timeval last_recovery_started;
 398         struct timeval last_recovery_finished;
 399         uint32_t recovery_mode;
 400         TALLOC_CTX *tickle_update_context;
 401         TALLOC_CTX *keepalive_ctx;
 402         struct ctdb_tunable tunable;
 403         enum ctdb_freeze_mode freeze_mode[NUM_DB_PRIORITIES+1];
 404         struct ctdb_freeze_handle *freeze_handles[NUM_DB_PRIORITIES+1];
 405         bool freeze_transaction_started;
 406         uint32_t freeze_transaction_id;
 407         struct ctdb_address address;
 408         const char *name;
 409         const char *db_directory;
 410         const char *db_directory_persistent;
 411         const char *db_directory_state;
 412         struct tdb_wrap *db_persistent_health;
 413         uint32_t db_persistent_startup_generation;
 414         uint64_t db_persistent_check_errors;
 415         uint64_t max_persistent_check_errors;
 416         const char *transport;
 417         char *recovery_lock_file;
 418         int recovery_lock_fd;
 419         uint32_t pnn; /* our own pnn */
 420         uint32_t num_nodes;
 421         uint32_t num_connected;
 422         unsigned flags;
 423         uint32_t capabilities;
 424         struct idr_context *idr;
 425         uint16_t idr_cnt;
 426         struct ctdb_node **nodes; /* array of nodes in the cluster - indexed by vnn */
 427         struct ctdb_vnn *vnn; /* list of public ip addresses and interfaces */
 428         struct ctdb_vnn *single_ip_vnn; /* a structure for the single ip */
 429         struct ctdb_iface *ifaces; /* list of local interfaces */
 430         char *err_msg;
 431         const struct ctdb_methods *methods; /* transport methods */
 432         const struct ctdb_upcalls *upcalls; /* transport upcalls */
 433         void *private_data; /* private to transport */
 434         struct ctdb_db_context *db_list;
 435         struct ctdb_message_list *message_list;
 436         struct ctdb_daemon_data daemon;
 437         struct ctdb_statistics statistics;
 438         struct ctdb_vnn_map *vnn_map;
 439         uint32_t num_clients;
 440         uint32_t recovery_master;
 441         struct ctdb_call_state *pending_calls;
 442         struct ctdb_client_ip *client_ip_list;
 443         bool do_checkpublicip;
 444         struct _trbt_tree_t *server_ids;
 445         const char *event_script_dir;
 446         const char *notification_script;
 447         const char *default_public_interface;
 448         pid_t ctdbd_pid;
 449         pid_t recoverd_pid;
 450         pid_t syslogd_pid;
 451         bool done_startup;
 452         const char *node_ip;
 453         struct ctdb_monitor_state *monitor;
 454         struct ctdb_log_state *log;
 455         int start_as_disabled;
 456         int start_as_stopped;
 457         bool valgrinding;
 458         uint32_t event_script_timeouts; /* counting how many consecutive times an eventscript has timedout */
 459         uint32_t *recd_ping_count;
 460         TALLOC_CTX *release_ips_ctx; /* a context used to automatically drop all IPs if we fail to recover the node */
 461
 462         TALLOC_CTX *event_script_ctx;
 463
 464         struct ctdb_event_script_state *current_monitor;
 465         struct ctdb_scripts_wire *last_status[CTDB_EVENT_MAX];
 466
 467         TALLOC_CTX *banning_ctx;
 468
 469         /* mapping from pid to ctdb_client * */
 470         struct ctdb_client_pid_list *client_pids;
 471 };
 472
 473 struct ctdb_db_context {
 474         struct ctdb_db_context *next, *prev;
 475         struct ctdb_context *ctdb;
 476         uint32_t db_id;
 477         uint32_t priority;
 478         bool persistent;
 479         const char *db_name;
 480         const char *db_path;
 481         struct tdb_wrap *ltdb;
 482         struct ctdb_registered_call *calls; /* list of registered calls */
 483         uint32_t seqnum;
 484         struct timed_event *seqnum_update;
 485         struct ctdb_traverse_local_handle *traverse;
 486         bool transaction_active;
 487         struct ctdb_vacuum_handle *vacuum_handle;
 488         char *unhealthy_reason;
 489 };
 490
 491
 492 #define CTDB_NO_MEMORY(ctdb, p) do { if (!(p)) { \
 493           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
 494           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
 495           return -1; }} while (0)
 496
 497 #define CTDB_NO_MEMORY_VOID(ctdb, p) do { if (!(p)) { \
 498           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
 499           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
 500           return; }} while (0)
 501
 502 #define CTDB_NO_MEMORY_NULL(ctdb, p) do { if (!(p)) { \
 503           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
 504           ctdb_set_error(ctdb, "Out of memory at %s:%d", __FILE__, __LINE__); \
 505           return NULL; }} while (0)
 506
 507 #define CTDB_NO_MEMORY_FATAL(ctdb, p) do { if (!(p)) { \
 508           DEBUG(0,("Out of memory for %s at %s\n", #p, __location__)); \
 509           ctdb_fatal(ctdb, "Out of memory in " __location__ ); \
 510           }} while (0)
 511
 512 /*
 513   the extended header for records in the ltdb
 514 */
 515 struct ctdb_ltdb_header {
 516         uint64_t rsn;
 517         uint32_t dmaster;
 518         uint32_t laccessor;
 519         uint32_t lacount;
 520 };
 521
 522 enum ctdb_controls {CTDB_CONTROL_PROCESS_EXISTS          = 0,
 523                     CTDB_CONTROL_STATISTICS              = 1,
 524                     /* #2 removed */
 525                     CTDB_CONTROL_PING                    = 3,
 526                     CTDB_CONTROL_GETDBPATH               = 4,
 527                     CTDB_CONTROL_GETVNNMAP               = 5,
 528                     CTDB_CONTROL_SETVNNMAP               = 6,
 529                     CTDB_CONTROL_GET_DEBUG               = 7,
 530                     CTDB_CONTROL_SET_DEBUG               = 8,
 531                     CTDB_CONTROL_GET_DBMAP               = 9,
 532                     CTDB_CONTROL_GET_NODEMAPv4           = 10, /* obsolete */
 533                     CTDB_CONTROL_SET_DMASTER             = 11,
 534                     /* #12 removed */
 535                     CTDB_CONTROL_PULL_DB                 = 13,
 536                     CTDB_CONTROL_PUSH_DB                 = 14,
 537                     CTDB_CONTROL_GET_RECMODE             = 15,
 538                     CTDB_CONTROL_SET_RECMODE             = 16,
 539                     CTDB_CONTROL_STATISTICS_RESET        = 17,
 540                     CTDB_CONTROL_DB_ATTACH               = 18,
 541                     CTDB_CONTROL_SET_CALL                = 19,
 542                     CTDB_CONTROL_TRAVERSE_START          = 20,
 543                     CTDB_CONTROL_TRAVERSE_ALL            = 21,
 544                     CTDB_CONTROL_TRAVERSE_DATA           = 22,
 545                     CTDB_CONTROL_REGISTER_SRVID          = 23,
 546                     CTDB_CONTROL_DEREGISTER_SRVID        = 24,
 547                     CTDB_CONTROL_GET_DBNAME              = 25,
 548                     CTDB_CONTROL_ENABLE_SEQNUM           = 26,
 549                     CTDB_CONTROL_UPDATE_SEQNUM           = 27,
 550                     /* #28 removed */
 551                     CTDB_CONTROL_DUMP_MEMORY             = 29,
 552                     CTDB_CONTROL_GET_PID                 = 30,
 553                     CTDB_CONTROL_GET_RECMASTER           = 31,
 554                     CTDB_CONTROL_SET_RECMASTER           = 32,
 555                     CTDB_CONTROL_FREEZE                  = 33,
 556                     CTDB_CONTROL_THAW                    = 34,
 557                     CTDB_CONTROL_GET_PNN                 = 35,
 558                     CTDB_CONTROL_SHUTDOWN                = 36,
 559                     CTDB_CONTROL_GET_MONMODE             = 37,
 560                     /* #38 removed */
 561                     /* #39 removed */
 562                     /* #40 removed */
 563                     /* #41 removed */
 564                     CTDB_CONTROL_TAKEOVER_IPv4           = 42, /* obsolete */
 565                     CTDB_CONTROL_RELEASE_IPv4            = 43, /* obsolete */
 566                     CTDB_CONTROL_TCP_CLIENT              = 44,
 567                     CTDB_CONTROL_TCP_ADD                 = 45,
 568                     CTDB_CONTROL_TCP_REMOVE              = 46,
 569                     CTDB_CONTROL_STARTUP                 = 47,
 570                     CTDB_CONTROL_SET_TUNABLE             = 48,
 571                     CTDB_CONTROL_GET_TUNABLE             = 49,
 572                     CTDB_CONTROL_LIST_TUNABLES           = 50,
 573                     CTDB_CONTROL_GET_PUBLIC_IPSv4        = 51, /* obsolete */
 574                     CTDB_CONTROL_MODIFY_FLAGS            = 52,
 575                     CTDB_CONTROL_GET_ALL_TUNABLES        = 53,
 576                     CTDB_CONTROL_KILL_TCP                = 54,
 577                     CTDB_CONTROL_GET_TCP_TICKLE_LIST     = 55,
 578                     CTDB_CONTROL_SET_TCP_TICKLE_LIST     = 56,
 579                     CTDB_CONTROL_REGISTER_SERVER_ID      = 57,
 580                     CTDB_CONTROL_UNREGISTER_SERVER_ID    = 58,
 581                     CTDB_CONTROL_CHECK_SERVER_ID         = 59,
 582                     CTDB_CONTROL_GET_SERVER_ID_LIST      = 60,
 583                     CTDB_CONTROL_DB_ATTACH_PERSISTENT    = 61,
 584                     CTDB_CONTROL_PERSISTENT_STORE        = 62,
 585                     CTDB_CONTROL_UPDATE_RECORD           = 63,
 586                     CTDB_CONTROL_SEND_GRATIOUS_ARP       = 64,
 587                     CTDB_CONTROL_TRANSACTION_START       = 65,
 588                     CTDB_CONTROL_TRANSACTION_COMMIT      = 66,
 589                     CTDB_CONTROL_WIPE_DATABASE           = 67,
 590                     /* #68 removed */
 591                     CTDB_CONTROL_UPTIME                  = 69,
 592                     CTDB_CONTROL_START_RECOVERY          = 70,
 593                     CTDB_CONTROL_END_RECOVERY            = 71,
 594                     CTDB_CONTROL_RELOAD_NODES_FILE       = 72,
 595                     /* #73 removed */
 596                     CTDB_CONTROL_TRY_DELETE_RECORDS      = 74,
 597                     CTDB_CONTROL_ENABLE_MONITOR          = 75,
 598                     CTDB_CONTROL_DISABLE_MONITOR         = 76,
 599                     CTDB_CONTROL_ADD_PUBLIC_IP           = 77,
 600                     CTDB_CONTROL_DEL_PUBLIC_IP           = 78,
 601                     CTDB_CONTROL_RUN_EVENTSCRIPTS        = 79,
 602                     CTDB_CONTROL_GET_CAPABILITIES        = 80,
 603                     CTDB_CONTROL_START_PERSISTENT_UPDATE = 81,
 604                     CTDB_CONTROL_CANCEL_PERSISTENT_UPDATE= 82,
 605                     CTDB_CONTROL_TRANS2_COMMIT           = 83,
 606                     CTDB_CONTROL_TRANS2_FINISHED         = 84,
 607                     CTDB_CONTROL_TRANS2_ERROR            = 85,
 608                     CTDB_CONTROL_TRANS2_COMMIT_RETRY     = 86,
 609                     CTDB_CONTROL_RECD_PING               = 87,
 610                     CTDB_CONTROL_RELEASE_IP              = 88,
 611                     CTDB_CONTROL_TAKEOVER_IP             = 89,
 612                     CTDB_CONTROL_GET_PUBLIC_IPS          = 90,
 613                     CTDB_CONTROL_GET_NODEMAP             = 91,
 614                     CTDB_CONTROL_GET_EVENT_SCRIPT_STATUS = 96,
 615                     CTDB_CONTROL_TRAVERSE_KILL           = 97,
 616                     CTDB_CONTROL_RECD_RECLOCK_LATENCY    = 98,
 617                     CTDB_CONTROL_GET_RECLOCK_FILE        = 99,
 618                     CTDB_CONTROL_SET_RECLOCK_FILE        = 100,
 619                     CTDB_CONTROL_STOP_NODE               = 101,
 620                     CTDB_CONTROL_CONTINUE_NODE           = 102,
 621                     CTDB_CONTROL_SET_NATGWSTATE          = 103,
 622                     CTDB_CONTROL_SET_LMASTERROLE         = 104,
 623                     CTDB_CONTROL_SET_RECMASTERROLE       = 105,
 624                     CTDB_CONTROL_ENABLE_SCRIPT           = 107,
 625                     CTDB_CONTROL_DISABLE_SCRIPT          = 108,
 626                     CTDB_CONTROL_SET_BAN_STATE           = 109,
 627                     CTDB_CONTROL_GET_BAN_STATE           = 110,
 628                     CTDB_CONTROL_SET_DB_PRIORITY         = 111,
 629                     CTDB_CONTROL_GET_DB_PRIORITY         = 112,
 630                     CTDB_CONTROL_TRANSACTION_CANCEL      = 113,
 631                     CTDB_CONTROL_REGISTER_NOTIFY         = 114,
 632                     CTDB_CONTROL_DEREGISTER_NOTIFY       = 115,
 633                     CTDB_CONTROL_TRANS2_ACTIVE           = 116,
 634                     CTDB_CONTROL_GET_LOG                 = 117,
 635                     CTDB_CONTROL_CLEAR_LOG               = 118,
 636                     CTDB_CONTROL_TRANS3_COMMIT           = 119,
 637                     CTDB_CONTROL_GET_DB_SEQNUM           = 120,
 638                     CTDB_CONTROL_DB_SET_HEALTHY          = 121,
 639                     CTDB_CONTROL_DB_GET_HEALTH           = 122,
 640 };
 641
 642 /*
 643   structure passed in set_call control
 644  */
 645 struct ctdb_control_set_call {
 646         uint32_t db_id;
 647         ctdb_fn_t fn;
 648         uint32_t id;
 649 };
 650
 651 /*
 652   struct for kill_tcp control
 653  */
 654 struct ctdb_control_killtcp {
 655         ctdb_sock_addr src_addr;
 656         ctdb_sock_addr dst_addr;
 657 };
 658
 659 /*
 660   struct holding a ctdb_sock_addr and an interface name,
 661   used to add/remove public addresses
 662  */
 663 struct ctdb_control_ip_iface {
 664         ctdb_sock_addr addr;
 665         uint32_t mask;
 666         uint32_t len;
 667         char iface[1];
 668 };
 669
 670 /*
 671   struct holding a ctdb_sock_addr and an interface name,
 672   used for send_gratious_arp
 673  */
 674 struct ctdb_control_gratious_arp {
 675         ctdb_sock_addr addr;
 676         uint32_t mask;
 677         uint32_t len;
 678         char iface[1];
 679 };
 680
 681 /*
 682   struct for tcp_add and tcp_remove controls
 683  */
 684 struct ctdb_control_tcp_vnn {
 685         ctdb_sock_addr src;
 686         ctdb_sock_addr dest;
 687 };
 688
 689 /*
 690   persistent store control - update this record on all other nodes
 691  */
 692 struct ctdb_control_persistent_store {
 693         uint32_t db_id;
 694         uint32_t len;
 695         uint8_t  data[1];
 696 };
 697
 698 /*
 699   structure used for CTDB_SRVID_NODE_FLAGS_CHANGED
 700  */
 701 struct ctdb_node_flag_change {
 702         uint32_t pnn;
 703         uint32_t new_flags;
 704         uint32_t old_flags;
 705 };
 706
 707 /*
 708   struct for admin setting a ban
 709  */
 710 struct ctdb_ban_info {
 711         uint32_t pnn;
 712         uint32_t ban_time;
 713 };
 714
 715 enum call_state {CTDB_CALL_WAIT, CTDB_CALL_DONE, CTDB_CALL_ERROR};
 716
 717 #define CTDB_LMASTER_ANY        0xffffffff
 718
 719 /*
 720   state of a in-progress ctdb call
 721 */
 722 struct ctdb_call_state {
 723         struct ctdb_call_state *next, *prev;
 724         enum call_state state;
 725         uint32_t reqid;
 726         struct ctdb_req_call *c;
 727         struct ctdb_db_context *ctdb_db;
 728         const char *errmsg;
 729         struct ctdb_call *call;
 730         uint32_t generation;
 731         struct {
 732                 void (*fn)(struct ctdb_call_state *);
 733                 void *private_data;
 734         } async;
 735 };
 736
 737
 738 /* used for fetch_lock */
 739 struct ctdb_fetch_handle {
 740         struct ctdb_db_context *ctdb_db;
 741         TDB_DATA key;
 742         TDB_DATA *data;
 743         struct ctdb_ltdb_header header;
 744 };
 745
 746 /*
 747   operation IDs
 748 */
 749 enum ctdb_operation {
 750         CTDB_REQ_CALL           = 0,
 751         CTDB_REPLY_CALL         = 1,
 752         CTDB_REQ_DMASTER        = 2,
 753         CTDB_REPLY_DMASTER      = 3,
 754         CTDB_REPLY_ERROR        = 4,
 755         CTDB_REQ_MESSAGE        = 5,
 756         /* #6 removed */
 757         CTDB_REQ_CONTROL        = 7,
 758         CTDB_REPLY_CONTROL      = 8,
 759         CTDB_REQ_KEEPALIVE      = 9,
 760 };
 761
 762 #define CTDB_MAGIC 0x43544442 /* CTDB */
 763 #define CTDB_VERSION 1
 764
 765 /*
 766   packet structures
 767 */
 768 struct ctdb_req_header {
 769         uint32_t length;
 770         uint32_t ctdb_magic;
 771         uint32_t ctdb_version;
 772         uint32_t generation;
 773         uint32_t operation;
 774         uint32_t destnode;
 775         uint32_t srcnode;
 776         uint32_t reqid;
 777 };
 778
 779 struct ctdb_req_call {
 780         struct ctdb_req_header hdr;
 781         uint32_t flags;
 782         uint32_t db_id;
 783         uint32_t callid;
 784         uint32_t hopcount;
 785         uint32_t keylen;
 786         uint32_t calldatalen;
 787         uint8_t data[1]; /* key[] followed by calldata[] */
 788 };
 789
 790 struct ctdb_reply_call {
 791         struct ctdb_req_header hdr;
 792         uint32_t status;
 793         uint32_t datalen;
 794         uint8_t  data[1];
 795 };
 796
 797 struct ctdb_reply_error {
 798         struct ctdb_req_header hdr;
 799         uint32_t status;
 800         uint32_t msglen;
 801         uint8_t  msg[1];
 802 };
 803
 804 struct ctdb_req_dmaster {
 805         struct ctdb_req_header hdr;
 806         uint32_t db_id;
 807         uint64_t rsn;
 808         uint32_t dmaster;
 809         uint32_t keylen;
 810         uint32_t datalen;
 811         uint8_t  data[1];
 812 };
 813
 814 struct ctdb_reply_dmaster {
 815         struct ctdb_req_header hdr;
 816         uint32_t db_id;
 817         uint64_t rsn;
 818         uint32_t keylen;
 819         uint32_t datalen;
 820         uint8_t  data[1];
 821 };
 822
 823 struct ctdb_req_message {
 824         struct ctdb_req_header hdr;
 825         uint64_t srvid;
 826         uint32_t datalen;
 827         uint8_t data[1];
 828 };
 829
 830 struct ctdb_req_getdbpath {
 831         struct ctdb_req_header hdr;
 832         uint32_t db_id;
 833 };
 834
 835 struct ctdb_reply_getdbpath {
 836         struct ctdb_req_header hdr;
 837         uint32_t datalen;
 838         uint8_t data[1];
 839 };
 840
 841 struct ctdb_req_control {
 842         struct ctdb_req_header hdr;
 843         uint32_t opcode;
 844         uint64_t srvid;
 845         uint32_t client_id;
 846 #define CTDB_CTRL_FLAG_NOREPLY   1
 847 #define CTDB_CTRL_FLAG_OPCODE_SPECIFIC   0xFFFF0000
 848         uint32_t flags;
 849         uint32_t datalen;
 850         uint8_t data[1];
 851 };
 852
 853 struct ctdb_reply_control {
 854         struct ctdb_req_header hdr;
 855         int32_t  status;
 856         uint32_t datalen;
 857         uint32_t errorlen;
 858         uint8_t data[1];
 859 };
 860
 861 struct ctdb_req_keepalive {
 862         struct ctdb_req_header hdr;
 863 };
 864
 865
 866 /* types of failures possible from TRANS2_COMMIT */
 867 enum ctdb_trans2_commit_error {
 868         CTDB_TRANS2_COMMIT_SUCCESS=0, /* all nodes committed successfully */
 869         CTDB_TRANS2_COMMIT_TIMEOUT=1, /* at least one node timed out */
 870         CTDB_TRANS2_COMMIT_ALLFAIL=2, /* all nodes failed the commit */
 871         CTDB_TRANS2_COMMIT_SOMEFAIL=3 /* some nodes failed the commit, some allowed it */
 872 };
 873
 874 /* internal prototypes */
 875 void ctdb_set_error(struct ctdb_context *ctdb, const char *fmt, ...) PRINTF_ATTRIBUTE(2,3);
 876 void ctdb_fatal(struct ctdb_context *ctdb, const char *msg);
 877 bool ctdb_same_address(struct ctdb_address *a1, struct ctdb_address *a2);
 878 int ctdb_parse_address(struct ctdb_context *ctdb,
 879                        TALLOC_CTX *mem_ctx, const char *str,
 880                        struct ctdb_address *address);
 881 bool ctdb_same_ip(const ctdb_sock_addr *ip1, const ctdb_sock_addr *ip2);
 882 bool ctdb_same_sockaddr(const ctdb_sock_addr *ip1, const ctdb_sock_addr *ip2);
 883 uint32_t ctdb_hash(const TDB_DATA *key);
 884 uint32_t ctdb_hash_string(const char *str);
 885 void ctdb_request_call(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 886 void ctdb_request_dmaster(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 887 void ctdb_request_message(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 888 void ctdb_reply_dmaster(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 889 void ctdb_reply_call(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 890 void ctdb_reply_error(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 891
 892 uint32_t ctdb_lmaster(struct ctdb_context *ctdb, const TDB_DATA *key);
 893 int ctdb_ltdb_fetch(struct ctdb_db_context *ctdb_db,
 894                     TDB_DATA key, struct ctdb_ltdb_header *header,
 895                     TALLOC_CTX *mem_ctx, TDB_DATA *data);
 896 int ctdb_ltdb_store(struct ctdb_db_context *ctdb_db, TDB_DATA key,
 897                     struct ctdb_ltdb_header *header, TDB_DATA data);
 898 int32_t ctdb_control_start_persistent_update(struct ctdb_context *ctdb,
 899                         struct ctdb_req_control *c,
 900                         TDB_DATA recdata);
 901 int32_t ctdb_control_cancel_persistent_update(struct ctdb_context *ctdb,
 902                         struct ctdb_req_control *c,
 903                         TDB_DATA recdata);
 904 void ctdb_queue_packet(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
 905 void ctdb_queue_packet_opcode(struct ctdb_context *ctdb, struct ctdb_req_header *hdr, unsigned opcode);
 906 int ctdb_ltdb_lock_requeue(struct ctdb_db_context *ctdb_db,
 907                            TDB_DATA key, struct ctdb_req_header *hdr,
 908                            void (*recv_pkt)(void *, struct ctdb_req_header *),
 909                            void *recv_context, bool ignore_generation);
 910 int ctdb_ltdb_lock_fetch_requeue(struct ctdb_db_context *ctdb_db,
 911                                  TDB_DATA key, struct ctdb_ltdb_header *header,
 912                                  struct ctdb_req_header *hdr, TDB_DATA *data,
 913                                  void (*recv_pkt)(void *, struct ctdb_req_header *),
 914                                  void *recv_context, bool ignore_generation);
 915 void ctdb_input_pkt(struct ctdb_context *ctdb, struct ctdb_req_header *);
 916
 917 struct ctdb_call_state *ctdb_call_local_send(struct ctdb_db_context *ctdb_db,
 918                                              struct ctdb_call *call,
 919                                              struct ctdb_ltdb_header *header,
 920                                              TDB_DATA *data);
 921
 922
 923 int ctdbd_start(struct ctdb_context *ctdb);
 924 struct ctdb_call_state *ctdbd_call_send(struct ctdb_db_context *ctdb_db, struct ctdb_call *call);
 925 int ctdbd_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
 926
 927 /*
 928   queue a packet for sending
 929 */
 930 int ctdb_queue_send(struct ctdb_queue *queue, uint8_t *data, uint32_t length);
 931
 932 /*
 933   setup the fd used by the queue
 934  */
 935 int ctdb_queue_set_fd(struct ctdb_queue *queue, int fd);
 936
 937 /*
 938   setup a packet queue on a socket
 939  */
 940 struct ctdb_queue *ctdb_queue_setup(struct ctdb_context *ctdb,
 941                                     TALLOC_CTX *mem_ctx, int fd, int alignment,
 942
 943                                     ctdb_queue_cb_fn_t callback,
 944                                     void *private_data);
 945
 946 /*
 947   allocate a packet for use in client<->daemon communication
 948  */
 949 struct ctdb_req_header *_ctdbd_allocate_pkt(struct ctdb_context *ctdb,
 950                                             TALLOC_CTX *mem_ctx,
 951                                             enum ctdb_operation operation,
 952                                             size_t length, size_t slength,
 953                                             const char *type);
 954 #define ctdbd_allocate_pkt(ctdb, mem_ctx, operation, length, type) \
 955         (type *)_ctdbd_allocate_pkt(ctdb, mem_ctx, operation, length, sizeof(type), #type)
 956
 957 struct ctdb_req_header *_ctdb_transport_allocate(struct ctdb_context *ctdb,
 958                                                  TALLOC_CTX *mem_ctx,
 959                                                  enum ctdb_operation operation,
 960                                                  size_t length, size_t slength,
 961                                                  const char *type);
 962 #define ctdb_transport_allocate(ctdb, mem_ctx, operation, length, type) \
 963         (type *)_ctdb_transport_allocate(ctdb, mem_ctx, operation, length, sizeof(type), #type)
 964
 965 int ctdb_queue_length(struct ctdb_queue *queue);
 966
 967 /*
 968   lock a record in the ltdb, given a key
 969  */
 970 int ctdb_ltdb_lock(struct ctdb_db_context *ctdb_db, TDB_DATA key);
 971
 972 /*
 973   unlock a record in the ltdb, given a key
 974  */
 975 int ctdb_ltdb_unlock(struct ctdb_db_context *ctdb_db, TDB_DATA key);
 976
 977
 978 /*
 979   make a ctdb call to the local daemon - async send. Called from client context.
 980
 981   This constructs a ctdb_call request and queues it for processing.
 982   This call never blocks.
 983 */
 984 struct ctdb_call_state *ctdb_client_call_send(struct ctdb_db_context *ctdb_db,
 985                                               struct ctdb_call *call);
 986
 987 /*
 988   make a recv call to the local ctdb daemon - called from client context
 989
 990   This is called when the program wants to wait for a ctdb_call to complete and get the
 991   results. This call will block unless the call has already completed.
 992 */
 993 int ctdb_client_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
 994
 995 int ctdb_daemon_set_message_handler(struct ctdb_context *ctdb, uint64_t srvid,
 996                              ctdb_message_fn_t handler,
 997                              void *private_data);
 998
 999 int ctdb_client_send_message(struct ctdb_context *ctdb, uint32_t vnn,
1000                              uint64_t srvid, TDB_DATA data);
1001
1002 /*
1003   send a ctdb message
1004 */
1005 int ctdb_daemon_send_message(struct ctdb_context *ctdb, uint32_t pnn,
1006                              uint64_t srvid, TDB_DATA data);
1007
1008
1009 struct lockwait_handle *ctdb_lockwait(struct ctdb_db_context *ctdb_db,
1010                                       TDB_DATA key,
1011                                       void (*callback)(void *), void *private_data);
1012
1013 struct ctdb_call_state *ctdb_daemon_call_send(struct ctdb_db_context *ctdb_db,
1014                                               struct ctdb_call *call);
1015
1016 int ctdb_daemon_call_recv(struct ctdb_call_state *state, struct ctdb_call *call);
1017
1018 struct ctdb_call_state *ctdb_daemon_call_send_remote(struct ctdb_db_context *ctdb_db,
1019                                                      struct ctdb_call *call,
1020                                                      struct ctdb_ltdb_header *header);
1021
1022 int ctdb_call_local(struct ctdb_db_context *ctdb_db, struct ctdb_call *call,
1023                     struct ctdb_ltdb_header *header, TALLOC_CTX *mem_ctx, TDB_DATA *data,
1024                     uint32_t caller);
1025
1026 #define ctdb_reqid_find(ctdb, reqid, type)      (type *)_ctdb_reqid_find(ctdb, reqid, #type, __location__)
1027
1028 void ctdb_recv_raw_pkt(void *p, uint8_t *data, uint32_t length);
1029
1030 int ctdb_socket_connect(struct ctdb_context *ctdb);
1031
1032 void ctdb_latency(struct ctdb_db_context *ctdb_db, const char *name, double *latency, struct timeval t);
1033 void ctdb_reclock_latency(struct ctdb_context *ctdb, const char *name, double *latency, double l);
1034
1035 uint32_t ctdb_reqid_new(struct ctdb_context *ctdb, void *state);
1036 void *_ctdb_reqid_find(struct ctdb_context *ctdb, uint32_t reqid, const char *type, const char *location);
1037 void ctdb_reqid_remove(struct ctdb_context *ctdb, uint32_t reqid);
1038
1039 void ctdb_request_control(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
1040 void ctdb_reply_control(struct ctdb_context *ctdb, struct ctdb_req_header *hdr);
1041
1042 int ctdb_daemon_send_control(struct ctdb_context *ctdb, uint32_t destnode,
1043                              uint64_t srvid, uint32_t opcode, uint32_t client_id, uint32_t flags,
1044                              TDB_DATA data,
1045                              ctdb_control_callback_fn_t callback,
1046                              void *private_data);
1047
1048 int32_t ctdb_control_db_attach(struct ctdb_context *ctdb, TDB_DATA indata,
1049                                TDB_DATA *outdata, uint64_t tdb_flags, bool persistent);
1050
1051 int ctdb_daemon_set_call(struct ctdb_context *ctdb, uint32_t db_id,
1052                          ctdb_fn_t fn, int id);
1053
1054 int ctdb_control(struct ctdb_context *ctdb, uint32_t destnode, uint64_t srvid,
1055                  uint32_t opcode, uint32_t flags, TDB_DATA data,
1056                  TALLOC_CTX *mem_ctx, TDB_DATA *outdata, int32_t *status,
1057                  struct timeval *timeout, char **errormsg);
1058 int ctdb_control_recv(struct ctdb_context *ctdb,
1059                 struct ctdb_client_control_state *state,
1060                 TALLOC_CTX *mem_ctx,
1061                 TDB_DATA *outdata, int32_t *status, char **errormsg);
1062
1063 struct ctdb_client_control_state *
1064 ctdb_control_send(struct ctdb_context *ctdb,
1065                 uint32_t destnode, uint64_t srvid,
1066                 uint32_t opcode, uint32_t flags, TDB_DATA data,
1067                 TALLOC_CTX *mem_ctx,
1068                 struct timeval *timeout,
1069                 char **errormsg);
1070
1071
1072
1073
1074 #define CHECK_CONTROL_DATA_SIZE(size) do { \
1075  if (indata.dsize != size) { \
1076          DEBUG(0,(__location__ " Invalid data size in opcode %u. Got %u expected %u\n", \
1077                   opcode, (unsigned)indata.dsize, (unsigned)size));     \
1078          return -1; \
1079  } \
1080  } while (0)
1081
1082 int ctdb_control_getvnnmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1083 int ctdb_control_setvnnmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1084 int ctdb_control_getdbmap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1085 int ctdb_control_getnodemapv4(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1086 int ctdb_control_getnodemap(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1087 int ctdb_control_writerecord(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata, TDB_DATA *outdata);
1088
1089
1090 struct ctdb_traverse_start {
1091         uint32_t db_id;
1092         uint32_t reqid;
1093         uint64_t srvid;
1094 };
1095
1096 /*
1097   structure used to pass record data between the child and parent
1098  */
1099 struct ctdb_rec_data {
1100         uint32_t length;
1101         uint32_t reqid;
1102         uint32_t keylen;
1103         uint32_t datalen;
1104         uint8_t  data[1];
1105 };
1106
1107
1108 /* structure used for pulldb control */
1109 struct ctdb_control_pulldb {
1110         uint32_t db_id;
1111         uint32_t lmaster;
1112 };
1113
1114 /* structure used for sending lists of records */
1115 struct ctdb_marshall_buffer {
1116         uint32_t db_id;
1117         uint32_t count;
1118         uint8_t data[1];
1119 };
1120
1121 /* set dmaster control structure */
1122 struct ctdb_control_set_dmaster {
1123         uint32_t db_id;
1124         uint32_t dmaster;
1125 };
1126
1127 /*
1128   structure for setting a tunable
1129  */
1130 struct ctdb_control_set_tunable {
1131         uint32_t value;
1132         uint32_t length;
1133         uint8_t  name[1];
1134 };
1135
1136 /*
1137   structure for getting a tunable
1138  */
1139 struct ctdb_control_get_tunable {
1140         uint32_t length;
1141         uint8_t  name[1];
1142 };
1143
1144 /*
1145   structure for listing tunables
1146  */
1147 struct ctdb_control_list_tunable {
1148         uint32_t length;
1149         /* returns a : separated list of tunable names */
1150         uint8_t  data[1];
1151 };
1152
1153
1154 /* table that contains a list of all nodes a ctdb knows about and their
1155    status
1156  */
1157 struct ctdb_node_and_flags {
1158         uint32_t pnn;
1159         uint32_t flags;
1160         ctdb_sock_addr addr;
1161 };
1162
1163 struct ctdb_node_map {
1164         uint32_t num;
1165         struct ctdb_node_and_flags nodes[1];
1166 };
1167
1168 struct ctdb_node_and_flagsv4 {
1169         uint32_t pnn;
1170         uint32_t flags;
1171         struct sockaddr_in sin;
1172 };
1173
1174 struct ctdb_node_mapv4 {
1175         uint32_t num;
1176         struct ctdb_node_and_flagsv4 nodes[1];
1177 };
1178
1179 struct ctdb_control_wipe_database {
1180         uint32_t db_id;
1181         uint32_t transaction_id;
1182 };
1183
1184 /*
1185   state of a in-progress ctdb call in client
1186 */
1187 struct ctdb_client_call_state {
1188         enum call_state state;
1189         uint32_t reqid;
1190         struct ctdb_db_context *ctdb_db;
1191         struct ctdb_call *call;
1192         struct {
1193                 void (*fn)(struct ctdb_client_call_state *);
1194                 void *private_data;
1195         } async;
1196 };
1197
1198
1199 int32_t ctdb_control_traverse_start(struct ctdb_context *ctdb, TDB_DATA indata,
1200                                     TDB_DATA *outdata, uint32_t srcnode, uint32_t client_id);
1201 int32_t ctdb_control_traverse_all(struct ctdb_context *ctdb, TDB_DATA data, TDB_DATA *outdata);
1202 int32_t ctdb_control_traverse_data(struct ctdb_context *ctdb, TDB_DATA data, TDB_DATA *outdata);
1203 int32_t ctdb_control_traverse_kill(struct ctdb_context *ctdb, TDB_DATA indata,
1204                                     TDB_DATA *outdata, uint32_t srcnode);
1205
1206 int ctdb_dispatch_message(struct ctdb_context *ctdb, uint64_t srvid, TDB_DATA data);
1207
1208 int daemon_register_message_handler(struct ctdb_context *ctdb, uint32_t client_id, uint64_t srvid);
1209 int ctdb_deregister_message_handler(struct ctdb_context *ctdb, uint64_t srvid, void *private_data);
1210 int daemon_deregister_message_handler(struct ctdb_context *ctdb, uint32_t client_id, uint64_t srvid);
1211
1212 int32_t ctdb_ltdb_enable_seqnum(struct ctdb_context *ctdb, uint32_t db_id);
1213 int32_t ctdb_ltdb_update_seqnum(struct ctdb_context *ctdb, uint32_t db_id, uint32_t srcnode);
1214
1215 struct ctdb_rec_data *ctdb_marshall_record(TALLOC_CTX *mem_ctx, uint32_t reqid,
1216                                            TDB_DATA key, struct ctdb_ltdb_header *, TDB_DATA data);
1217
1218 struct ctdb_rec_data *ctdb_marshall_loop_next(struct ctdb_marshall_buffer *m, struct ctdb_rec_data *r,
1219                                               uint32_t *reqid,
1220                                               struct ctdb_ltdb_header *header,
1221                                               TDB_DATA *key, TDB_DATA *data);
1222
1223 int32_t ctdb_control_pull_db(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1224 int32_t ctdb_control_push_db(struct ctdb_context *ctdb, TDB_DATA indata);
1225 int32_t ctdb_control_set_dmaster(struct ctdb_context *ctdb, TDB_DATA indata);
1226
1227 int32_t ctdb_control_set_recmode(struct ctdb_context *ctdb,
1228                                  struct ctdb_req_control *c,
1229                                  TDB_DATA indata, bool *async_reply,
1230                                  const char **errormsg);
1231 void ctdb_request_control_reply(struct ctdb_context *ctdb, struct ctdb_req_control *c,
1232                                 TDB_DATA *outdata, int32_t status, const char *errormsg);
1233
1234 int32_t ctdb_control_freeze(struct ctdb_context *ctdb, struct ctdb_req_control *c, bool *async_reply);
1235 int32_t ctdb_control_thaw(struct ctdb_context *ctdb, uint32_t priority);
1236
1237 int ctdb_start_recoverd(struct ctdb_context *ctdb);
1238 void ctdb_stop_recoverd(struct ctdb_context *ctdb);
1239
1240 uint32_t ctdb_get_num_active_nodes(struct ctdb_context *ctdb);
1241
1242 void ctdb_disable_monitoring(struct ctdb_context *ctdb);
1243 void ctdb_enable_monitoring(struct ctdb_context *ctdb);
1244 void ctdb_stop_monitoring(struct ctdb_context *ctdb);
1245 void ctdb_start_monitoring(struct ctdb_context *ctdb);
1246 void ctdb_start_tcp_tickle_update(struct ctdb_context *ctdb);
1247 void ctdb_send_keepalive(struct ctdb_context *ctdb, uint32_t destnode);
1248 void ctdb_start_keepalive(struct ctdb_context *ctdb);
1249 void ctdb_stop_keepalive(struct ctdb_context *ctdb);
1250 int32_t ctdb_run_eventscripts(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA data, bool *async_reply);
1251
1252
1253 void ctdb_daemon_cancel_controls(struct ctdb_context *ctdb, struct ctdb_node *node);
1254 void ctdb_call_resend_all(struct ctdb_context *ctdb);
1255 void ctdb_node_dead(struct ctdb_node *node);
1256 void ctdb_node_connected(struct ctdb_node *node);
1257 bool ctdb_blocking_freeze(struct ctdb_context *ctdb);
1258 void ctdb_high_priority(struct ctdb_context *ctdb);
1259 int32_t ctdb_control_takeover_ip(struct ctdb_context *ctdb,
1260                                  struct ctdb_req_control *c,
1261                                  TDB_DATA indata,
1262                                  bool *async_reply);
1263 int32_t ctdb_control_takeover_ipv4(struct ctdb_context *ctdb,
1264                                  struct ctdb_req_control *c,
1265                                  TDB_DATA indata,
1266                                  bool *async_reply);
1267 int32_t ctdb_control_release_ip(struct ctdb_context *ctdb,
1268                                  struct ctdb_req_control *c,
1269                                  TDB_DATA indata,
1270                                  bool *async_reply);
1271 int32_t ctdb_control_release_ipv4(struct ctdb_context *ctdb,
1272                                  struct ctdb_req_control *c,
1273                                  TDB_DATA indata,
1274                                  bool *async_reply);
1275 int32_t ctdb_control_start_recovery(struct ctdb_context *ctdb,
1276                                  struct ctdb_req_control *c,
1277                                  bool *async_reply);
1278 int32_t ctdb_control_end_recovery(struct ctdb_context *ctdb,
1279                                  struct ctdb_req_control *c,
1280                                  bool *async_reply);
1281
1282 struct ctdb_public_ipv4 {
1283         uint32_t pnn;
1284         struct sockaddr_in sin;
1285 };
1286
1287 struct ctdb_public_ip {
1288         uint32_t pnn;
1289         ctdb_sock_addr addr;
1290 };
1291 int ctdb_ctrl_takeover_ip(struct ctdb_context *ctdb, struct timeval timeout,
1292                           uint32_t destnode, struct ctdb_public_ip *ip);
1293 int ctdb_ctrl_release_ip(struct ctdb_context *ctdb, struct timeval timeout,
1294                          uint32_t destnode, struct ctdb_public_ip *ip);
1295
1296 struct ctdb_all_public_ipsv4 {
1297         uint32_t num;
1298         struct ctdb_public_ipv4 ips[1];
1299 };
1300
1301 struct ctdb_all_public_ips {
1302         uint32_t num;
1303         struct ctdb_public_ip ips[1];
1304 };
1305 int32_t ctdb_control_get_public_ipsv4(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA *outdata);
1306 int32_t ctdb_control_get_public_ips(struct ctdb_context *ctdb, struct ctdb_req_control *c, TDB_DATA *outdata);
1307 int ctdb_ctrl_get_public_ips(struct ctdb_context *ctdb,
1308                         struct timeval timeout, uint32_t destnode,
1309                         TALLOC_CTX *mem_ctx, struct ctdb_all_public_ips **ips);
1310 int ctdb_ctrl_get_public_ipsv4(struct ctdb_context *ctdb,
1311                         struct timeval timeout, uint32_t destnode,
1312                         TALLOC_CTX *mem_ctx, struct ctdb_all_public_ips **ips);
1313
1314
1315 /* from takeover/system.c */
1316 uint32_t uint16_checksum(uint16_t *data, size_t n);
1317 int ctdb_sys_send_arp(const ctdb_sock_addr *addr, const char *iface);
1318 bool ctdb_sys_have_ip(ctdb_sock_addr *addr);
1319 int ctdb_sys_send_tcp(const ctdb_sock_addr *dest,
1320                       const ctdb_sock_addr *src,
1321                       uint32_t seq, uint32_t ack, int rst);
1322
1323 int ctdb_set_public_addresses(struct ctdb_context *ctdb, const char *alist);
1324 int ctdb_set_single_public_ip(struct ctdb_context *ctdb,
1325                               const char *iface,
1326                               const char *ip);
1327 int ctdb_set_event_script(struct ctdb_context *ctdb, const char *script);
1328 int ctdb_set_event_script_dir(struct ctdb_context *ctdb, const char *script_dir);
1329 int ctdb_set_notification_script(struct ctdb_context *ctdb, const char *script);
1330 int ctdb_takeover_run(struct ctdb_context *ctdb, struct ctdb_node_map *nodemap);
1331
1332 int32_t ctdb_control_tcp_client(struct ctdb_context *ctdb, uint32_t client_id,
1333                                 TDB_DATA indata);
1334 int32_t ctdb_control_tcp_add(struct ctdb_context *ctdb, TDB_DATA indata);
1335 int32_t ctdb_control_tcp_remove(struct ctdb_context *ctdb, TDB_DATA indata);
1336 int32_t ctdb_control_startup(struct ctdb_context *ctdb, uint32_t vnn);
1337 int32_t ctdb_control_kill_tcp(struct ctdb_context *ctdb, TDB_DATA indata);
1338 int32_t ctdb_control_send_gratious_arp(struct ctdb_context *ctdb, TDB_DATA indata);
1339 int32_t ctdb_control_get_tcp_tickle_list(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1340 int32_t ctdb_control_set_tcp_tickle_list(struct ctdb_context *ctdb, TDB_DATA indata);
1341
1342 void ctdb_takeover_client_destructor_hook(struct ctdb_client *client);
1343 int ctdb_event_script(struct ctdb_context *ctdb, enum ctdb_eventscript_call call);
1344 int ctdb_event_script_args(struct ctdb_context *ctdb, enum ctdb_eventscript_call call,
1345                            const char *fmt, ...) PRINTF_ATTRIBUTE(3,4);
1346 int ctdb_event_script_callback(struct ctdb_context *ctdb,
1347                                TALLOC_CTX *mem_ctx,
1348                                void (*callback)(struct ctdb_context *, int, void *),
1349                                void *private_data,
1350                                bool from_user,
1351                                enum ctdb_eventscript_call call,
1352                                const char *fmt, ...) PRINTF_ATTRIBUTE(7,8);
1353 void ctdb_release_all_ips(struct ctdb_context *ctdb);
1354
1355 void set_nonblocking(int fd);
1356 void set_close_on_exec(int fd);
1357
1358 bool ctdb_recovery_lock(struct ctdb_context *ctdb, bool keep);
1359
1360 int ctdb_set_recovery_lock_file(struct ctdb_context *ctdb, const char *file);
1361
1362 int32_t ctdb_control_get_tunable(struct ctdb_context *ctdb, TDB_DATA indata,
1363                                  TDB_DATA *outdata);
1364 int32_t ctdb_control_set_tunable(struct ctdb_context *ctdb, TDB_DATA indata);
1365 int32_t ctdb_control_list_tunables(struct ctdb_context *ctdb, TDB_DATA *outdata);
1366 int32_t ctdb_control_try_delete_records(struct ctdb_context *ctdb, TDB_DATA indata, TDB_DATA *outdata);
1367 int32_t ctdb_control_add_public_address(struct ctdb_context *ctdb, TDB_DATA indata);
1368 int32_t ctdb_control_del_public_address(struct ctdb_context *ctdb, TDB_DATA indata);
1369
1370 void ctdb_tunables_set_defaults(struct ctdb_context *ctdb);
1371
1372 int32_t ctdb_control_modflags(struct ctdb_context *ctdb, TDB_DATA indata);
1373
1374 int ctdb_ctrl_get_all_tunables(struct ctdb_context *ctdb,
1375                                struct timeval timeout,
1376                                uint32_t destnode,
1377                                struct ctdb_tunable *tunables);
1378
1379 int ctdb_start_freeze(struct ctdb_context *ctdb, uint32_t priority);
1380
1381 bool parse_ip_mask(const char *s, const char *iface, ctdb_sock_addr *addr, unsigned *mask);
1382 bool parse_ip_port(const char *s, ctdb_sock_addr *addr);
1383 bool parse_ip(const char *s, const char *iface, unsigned port, ctdb_sock_addr *addr);
1384 bool parse_ipv4(const char *s, unsigned port, struct sockaddr_in *sin);
1385
1386
1387 int ctdb_sys_open_capture_socket(const char *iface, void **private_data);
1388 int ctdb_sys_close_capture_socket(void *private_data);
1389 int ctdb_sys_read_tcp_packet(int s, void *private_data, ctdb_sock_addr *src, ctdb_sock_addr *dst, uint32_t *ack_seq, uint32_t *seq);
1390
1391 int ctdb_ctrl_killtcp(struct ctdb_context *ctdb,
1392                       struct timeval timeout,
1393                       uint32_t destnode,
1394                       struct ctdb_control_killtcp *killtcp);
1395
1396 int ctdb_ctrl_add_public_ip(struct ctdb_context *ctdb,
1397                       struct timeval timeout,
1398                       uint32_t destnode,
1399                       struct ctdb_control_ip_iface *pub);
1400
1401 int ctdb_ctrl_del_public_ip(struct ctdb_context *ctdb,
1402                       struct timeval timeout,
1403                       uint32_t destnode,
1404                       struct ctdb_control_ip_iface *pub);
1405
1406 int ctdb_ctrl_gratious_arp(struct ctdb_context *ctdb,
1407                       struct timeval timeout,
1408                       uint32_t destnode,
1409                       ctdb_sock_addr *addr,
1410                       const char *ifname);
1411
1412 int ctdb_ctrl_get_tcp_tickles(struct ctdb_context *ctdb,
1413                       struct timeval timeout,
1414                       uint32_t destnode,
1415                       TALLOC_CTX *mem_ctx,
1416                       ctdb_sock_addr *addr,
1417                       struct ctdb_control_tcp_tickle_list **list);
1418
1419
1420 int32_t ctdb_control_register_server_id(struct ctdb_context *ctdb,
1421                       uint32_t client_id,
1422                       TDB_DATA indata);
1423 int32_t ctdb_control_check_server_id(struct ctdb_context *ctdb,
1424                       TDB_DATA indata);
1425 int32_t ctdb_control_unregister_server_id(struct ctdb_context *ctdb,
1426                       TDB_DATA indata);
1427 int32_t ctdb_control_get_server_id_list(struct ctdb_context *ctdb,
1428                       TDB_DATA *outdata);
1429 int32_t ctdb_control_uptime(struct ctdb_context *ctdb,
1430                       TDB_DATA *outdata);
1431
1432 int ctdb_attach_databases(struct ctdb_context *ctdb);
1433
1434 int32_t ctdb_control_persistent_store(struct ctdb_context *ctdb,
1435                                       struct ctdb_req_control *c,
1436                                       TDB_DATA recdata, bool *async_reply);
1437 int32_t ctdb_control_update_record(struct ctdb_context *ctdb,
1438                                    struct ctdb_req_control *c, TDB_DATA recdata,
1439                                    bool *async_reply);
1440 int32_t ctdb_control_trans2_commit(struct ctdb_context *ctdb,
1441                                    struct ctdb_req_control *c,
1442                                    TDB_DATA recdata, bool *async_reply);
1443
1444 int32_t ctdb_control_trans3_commit(struct ctdb_context *ctdb,
1445                                    struct ctdb_req_control *c,
1446                                    TDB_DATA recdata, bool *async_reply);
1447
1448 int32_t ctdb_control_transaction_start(struct ctdb_context *ctdb, uint32_t id);
1449 int32_t ctdb_control_transaction_commit(struct ctdb_context *ctdb, uint32_t id);
1450 int32_t ctdb_control_transaction_cancel(struct ctdb_context *ctdb);
1451 int32_t ctdb_control_wipe_database(struct ctdb_context *ctdb, TDB_DATA indata);
1452 int32_t ctdb_control_db_set_healthy(struct ctdb_context *ctdb, TDB_DATA indata);
1453 int32_t ctdb_control_db_get_health(struct ctdb_context *ctdb,
1454                                    TDB_DATA indata,
1455                                    TDB_DATA *outdata);
1456
1457
1458 int ctdb_vacuum(struct ctdb_context *ctdb, int argc, const char **argv);
1459 int ctdb_repack(struct ctdb_context *ctdb, int argc, const char **argv);
1460
1461 void ctdb_block_signal(int signum);
1462 void ctdb_unblock_signal(int signum);
1463 int32_t ctdb_monitoring_mode(struct ctdb_context *ctdb);
1464 int ctdb_set_child_logging(struct ctdb_context *ctdb);
1465 void ctdb_lockdown_memory(struct ctdb_context *ctdb);
1466
1467 typedef void (*client_async_callback)(struct ctdb_context *ctdb, uint32_t node_pnn, int32_t res, TDB_DATA outdata, void *callback_data);
1468
1469 struct client_async_data {
1470         enum ctdb_controls opcode;
1471         bool dont_log_errors;
1472         uint32_t count;
1473         uint32_t fail_count;
1474         client_async_callback callback;
1475         client_async_callback fail_callback;
1476         void *callback_data;
1477 };
1478 void ctdb_client_async_add(struct client_async_data *data, struct ctdb_client_control_state *state);
1479 int ctdb_client_async_wait(struct ctdb_context *ctdb, struct client_async_data *data);
1480 int ctdb_client_async_control(struct ctdb_context *ctdb,
1481                                 enum ctdb_controls opcode,
1482                                 uint32_t *nodes,
1483                                 uint64_t srvid,
1484                                 struct timeval timeout,
1485                                 bool dont_log_errors,
1486                                 TDB_DATA data,
1487                                 client_async_callback client_callback,
1488                                 client_async_callback fail_callback,
1489                                 void *callback_data);
1490
1491 void ctdb_load_nodes_file(struct ctdb_context *ctdb);
1492
1493 int ctdb_control_reload_nodes_file(struct ctdb_context *ctdb, uint32_t opcode);
1494
1495 int32_t ctdb_dump_memory(struct ctdb_context *ctdb, TDB_DATA *outdata);
1496 int32_t ctdb_control_get_capabilities(struct ctdb_context *ctdb, TDB_DATA *outdata);
1497
1498 int32_t ctdb_control_trans2_finished(struct ctdb_context *ctdb,
1499                                      struct ctdb_req_control *c);
1500 int32_t ctdb_control_trans2_error(struct ctdb_context *ctdb,
1501                                   struct ctdb_req_control *c);
1502 int32_t ctdb_control_trans2_active(struct ctdb_context *ctdb,
1503                                    struct ctdb_req_control *c,
1504                                    uint32_t db_id);
1505
1506 char *ctdb_addr_to_str(ctdb_sock_addr *addr);
1507 unsigned ctdb_addr_to_port(ctdb_sock_addr *addr);
1508 void ctdb_canonicalize_ip(const ctdb_sock_addr *ip, ctdb_sock_addr *cip);
1509
1510 int32_t ctdb_control_recd_ping(struct ctdb_context *ctdb);
1511 int32_t ctdb_control_set_recmaster(struct ctdb_context *ctdb, uint32_t opcode, TDB_DATA indata);
1512
1513 extern int script_log_level;
1514
1515 int32_t ctdb_control_get_event_script_status(struct ctdb_context *ctdb,
1516                                              uint32_t call_type,
1517                                              TDB_DATA *outdata);
1518
1519 int ctdb_log_event_script_output(struct ctdb_context *ctdb, char *str, uint16_t len);
1520 int ctdb_ctrl_report_recd_lock_latency(struct ctdb_context *ctdb, struct timeval timeout, double latency);
1521
1522 int32_t ctdb_control_stop_node(struct ctdb_context *ctdb, struct ctdb_req_control *c, bool *async_reply);
1523 int32_t ctdb_control_continue_node(struct ctdb_context *ctdb);
1524
1525 int ctdb_vacuum_init(struct ctdb_db_context *ctdb_db);
1526
1527 int32_t ctdb_control_enable_script(struct ctdb_context *ctdb, TDB_DATA indata);
1528 int32_t ctdb_control_disable_script(struct ctdb_context *ctdb, TDB_DATA indata);
1529
1530 int32_t ctdb_control_set_ban_state(struct ctdb_context *ctdb, TDB_DATA indata);
1531 int32_t ctdb_control_get_ban_state(struct ctdb_context *ctdb, TDB_DATA *outdata);
1532 int32_t ctdb_control_set_db_priority(struct ctdb_context *ctdb, TDB_DATA indata);
1533 void ctdb_ban_self(struct ctdb_context *ctdb);
1534
1535 int32_t ctdb_control_register_notify(struct ctdb_context *ctdb, uint32_t client_id, TDB_DATA indata);
1536
1537 int32_t ctdb_control_deregister_notify(struct ctdb_context *ctdb, uint32_t client_id, TDB_DATA indata);
1538
1539 int start_syslog_daemon(struct ctdb_context *ctdb);
1540
1541 /* Where to send the log messages back to */
1542 struct ctdb_get_log_addr {
1543         uint32_t pnn;
1544         uint64_t srvid;
1545         int32_t level;
1546 };
1547
1548 extern int log_ringbuf_size;
1549
1550 int32_t ctdb_control_get_log(struct ctdb_context *ctdb, TDB_DATA addr);
1551 int32_t ctdb_control_clear_log(struct ctdb_context *ctdb);
1552
1553
1554 struct ctdb_log_state *ctdb_fork_with_logging(TALLOC_CTX *mem_ctx,
1555                                               struct ctdb_context *ctdb,
1556                                               void (*logfn)(const char *, uint16_t, void *),
1557                                               void *logfn_private, pid_t *pid);
1558
1559 int32_t ctdb_control_process_exists(struct ctdb_context *ctdb, pid_t pid);
1560 struct ctdb_client *ctdb_find_client_by_pid(struct ctdb_context *ctdb, pid_t pid);
1561
1562 int32_t ctdb_control_get_db_seqnum(struct ctdb_context *ctdb,
1563                                    TDB_DATA indata,
1564                                    TDB_DATA *outdata);
1565
1566 int ctdb_load_persistent_health(struct ctdb_context *ctdb,
1567                                 struct ctdb_db_context *ctdb_db);
1568 int ctdb_update_persistent_health(struct ctdb_context *ctdb,
1569                                   struct ctdb_db_context *ctdb_db,
1570                                   const char *reason,/* NULL means healthy */
1571                                   int num_healthy_nodes);
1572 int ctdb_recheck_persistent_health(struct ctdb_context *ctdb);
1573
1574 void ctdb_run_notification_script(struct ctdb_context *ctdb, const char *event);
1575
1576 void ctdb_fault_setup(void);
1577 #endif