source4/cluster/ctdb/common/ctdb_call.c

   1 /*
   2    ctdb_call protocol code
   3
   4    Copyright (C) Andrew Tridgell  2006
   5
   6    This library is free software; you can redistribute it and/or
   7    modify it under the terms of the GNU Lesser General Public
   8    License as published by the Free Software Foundation; either
   9    version 3 of the License, or (at your option) any later version.
  10
  11    This library is distributed in the hope that it will be useful,
  12    but WITHOUT ANY WARRANTY; without even the implied warranty of
  13    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14    Lesser General Public License for more details.
  15
  16    You should have received a copy of the GNU Lesser General Public
  17    License along with this library; if not, see <http://www.gnu.org/licenses/>.
  18 */
  19 /*
  20   see http://wiki.samba.org/index.php/Samba_%26_Clustering for
  21   protocol design and packet details
  22 */
  23 #include "includes.h"
  24 #include "lib/events/events.h"
  25 #include "lib/tdb/include/tdb.h"
  26 #include "system/network.h"
  27 #include "system/filesys.h"
  28 #include "../include/ctdb_private.h"
  29
  30 /*
  31   find the ctdb_db from a db index
  32  */
  33  struct ctdb_db_context *find_ctdb_db(struct ctdb_context *ctdb, uint32_t id)
  34 {
  35         struct ctdb_db_context *ctdb_db;
  36
  37         for (ctdb_db=ctdb->db_list; ctdb_db; ctdb_db=ctdb_db->next) {
  38                 if (ctdb_db->db_id == id) {
  39                         break;
  40                 }
  41         }
  42         return ctdb_db;
  43 }
  44
  45
  46 /*
  47   local version of ctdb_call
  48 */
  49 int ctdb_call_local(struct ctdb_db_context *ctdb_db, struct ctdb_call *call,
  50                     struct ctdb_ltdb_header *header, TDB_DATA *data,
  51                     uint32_t caller)
  52 {
  53         struct ctdb_call_info *c;
  54         struct ctdb_registered_call *fn;
  55         struct ctdb_context *ctdb = ctdb_db->ctdb;
  56
  57         c = talloc(ctdb, struct ctdb_call_info);
  58         CTDB_NO_MEMORY(ctdb, c);
  59
  60         c->key = call->key;
  61         c->call_data = &call->call_data;
  62         c->record_data.dptr = talloc_memdup(c, data->dptr, data->dsize);
  63         c->record_data.dsize = data->dsize;
  64         CTDB_NO_MEMORY(ctdb, c->record_data.dptr);
  65         c->new_data = NULL;
  66         c->reply_data = NULL;
  67         c->status = 0;
  68
  69         for (fn=ctdb_db->calls;fn;fn=fn->next) {
  70                 if (fn->id == call->call_id) break;
  71         }
  72         if (fn == NULL) {
  73                 ctdb_set_error(ctdb, "Unknown call id %u\n", call->call_id);
  74                 talloc_free(c);
  75                 return -1;
  76         }
  77
  78         if (fn->fn(c) != 0) {
  79                 ctdb_set_error(ctdb, "ctdb_call %u failed\n", call->call_id);
  80                 talloc_free(c);
  81                 return -1;
  82         }
  83
  84         if (header->laccessor != caller) {
  85                 header->lacount = 0;
  86         }
  87         header->laccessor = caller;
  88         header->lacount++;
  89
  90         /* we need to force the record to be written out if this was a remote access,
  91            so that the lacount is updated */
  92         if (c->new_data == NULL && header->laccessor != ctdb->vnn) {
  93                 c->new_data = &c->record_data;
  94         }
  95
  96         if (c->new_data) {
  97                 if (ctdb_ltdb_store(ctdb_db, call->key, header, *c->new_data) != 0) {
  98                         ctdb_set_error(ctdb, "ctdb_call tdb_store failed\n");
  99                         talloc_free(c);
 100                         return -1;
 101                 }
 102         }
 103
 104         if (c->reply_data) {
 105                 call->reply_data = *c->reply_data;
 106                 talloc_steal(ctdb, call->reply_data.dptr);
 107                 talloc_set_name_const(call->reply_data.dptr, __location__);
 108         } else {
 109                 call->reply_data.dptr = NULL;
 110                 call->reply_data.dsize = 0;
 111         }
 112         call->status = c->status;
 113
 114         talloc_free(c);
 115
 116         return 0;
 117 }
 118
 119 /*
 120   send an error reply
 121 */
 122 static void ctdb_send_error(struct ctdb_context *ctdb,
 123                             struct ctdb_req_header *hdr, uint32_t status,
 124                             const char *fmt, ...) PRINTF_ATTRIBUTE(4,5);
 125 static void ctdb_send_error(struct ctdb_context *ctdb,
 126                             struct ctdb_req_header *hdr, uint32_t status,
 127                             const char *fmt, ...)
 128 {
 129         va_list ap;
 130         struct ctdb_reply_error *r;
 131         char *msg;
 132         int msglen, len;
 133
 134         va_start(ap, fmt);
 135         msg = talloc_vasprintf(ctdb, fmt, ap);
 136         if (msg == NULL) {
 137                 ctdb_fatal(ctdb, "Unable to allocate error in ctdb_send_error\n");
 138         }
 139         va_end(ap);
 140
 141         msglen = strlen(msg)+1;
 142         len = offsetof(struct ctdb_reply_error, msg);
 143         r = ctdb->methods->allocate_pkt(msg, len + msglen);
 144         CTDB_NO_MEMORY_FATAL(ctdb, r);
 145         talloc_set_name_const(r, "send_error packet");
 146
 147         r->hdr.length    = len + msglen;
 148         r->hdr.ctdb_magic = CTDB_MAGIC;
 149         r->hdr.ctdb_version = CTDB_VERSION;
 150         r->hdr.operation = CTDB_REPLY_ERROR;
 151         r->hdr.destnode  = hdr->srcnode;
 152         r->hdr.srcnode   = ctdb->vnn;
 153         r->hdr.reqid     = hdr->reqid;
 154         r->status        = status;
 155         r->msglen        = msglen;
 156         memcpy(&r->msg[0], msg, msglen);
 157
 158         ctdb_queue_packet(ctdb, &r->hdr);
 159
 160         talloc_free(msg);
 161 }
 162
 163
 164 /*
 165   send a redirect reply
 166 */
 167 static void ctdb_call_send_redirect(struct ctdb_context *ctdb,
 168                                     struct ctdb_req_call *c,
 169                                     struct ctdb_ltdb_header *header)
 170 {
 171         struct ctdb_reply_redirect *r;
 172
 173         r = ctdb->methods->allocate_pkt(ctdb, sizeof(*r));
 174         CTDB_NO_MEMORY_FATAL(ctdb, r);
 175         talloc_set_name_const(r, "send_redirect packet");
 176         r->hdr.length = sizeof(*r);
 177         r->hdr.ctdb_magic = CTDB_MAGIC;
 178         r->hdr.ctdb_version = CTDB_VERSION;
 179         r->hdr.operation = CTDB_REPLY_REDIRECT;
 180         r->hdr.destnode  = c->hdr.srcnode;
 181         r->hdr.srcnode   = ctdb->vnn;
 182         r->hdr.reqid     = c->hdr.reqid;
 183         r->dmaster       = header->dmaster;
 184
 185         ctdb_queue_packet(ctdb, &r->hdr);
 186
 187         talloc_free(r);
 188 }
 189
 190 /*
 191   send a dmaster request (give another node the dmaster for a record)
 192
 193   This is always sent to the lmaster, which ensures that the lmaster
 194   always knows who the dmaster is. The lmaster will then send a
 195   CTDB_REPLY_DMASTER to the new dmaster
 196 */
 197 static void ctdb_call_send_dmaster(struct ctdb_db_context *ctdb_db,
 198                                    struct ctdb_req_call *c,
 199                                    struct ctdb_ltdb_header *header,
 200                                    TDB_DATA *key, TDB_DATA *data)
 201 {
 202         struct ctdb_req_dmaster *r;
 203         struct ctdb_context *ctdb = ctdb_db->ctdb;
 204         int len;
 205
 206         len = offsetof(struct ctdb_req_dmaster, data) + key->dsize + data->dsize;
 207         r = ctdb->methods->allocate_pkt(ctdb, len);
 208         CTDB_NO_MEMORY_FATAL(ctdb, r);
 209         talloc_set_name_const(r, "send_dmaster packet");
 210         r->hdr.length    = len;
 211         r->hdr.ctdb_magic = CTDB_MAGIC;
 212         r->hdr.ctdb_version = CTDB_VERSION;
 213         r->hdr.operation = CTDB_REQ_DMASTER;
 214         r->hdr.destnode  = ctdb_lmaster(ctdb, key);
 215         r->hdr.srcnode   = ctdb->vnn;
 216         r->hdr.reqid     = c->hdr.reqid;
 217         r->db_id         = c->db_id;
 218         r->dmaster       = c->hdr.srcnode;
 219         r->keylen        = key->dsize;
 220         r->datalen       = data->dsize;
 221         memcpy(&r->data[0], key->dptr, key->dsize);
 222         memcpy(&r->data[key->dsize], data->dptr, data->dsize);
 223
 224         /* XXX - probably not necessary when lmaster==dmaster
 225            update the ltdb to record the new dmaster */
 226         header->dmaster = r->hdr.destnode;
 227         ctdb_ltdb_store(ctdb_db, *key, header, *data);
 228
 229         ctdb_queue_packet(ctdb, &r->hdr);
 230
 231         talloc_free(r);
 232 }
 233
 234
 235 /*
 236   called when a CTDB_REQ_DMASTER packet comes in
 237
 238   this comes into the lmaster for a record when the current dmaster
 239   wants to give up the dmaster role and give it to someone else
 240 */
 241 void ctdb_request_dmaster(struct ctdb_context *ctdb, struct ctdb_req_header *hdr)
 242 {
 243         struct ctdb_req_dmaster *c = (struct ctdb_req_dmaster *)hdr;
 244         struct ctdb_reply_dmaster *r;
 245         TDB_DATA key, data, data2;
 246         struct ctdb_ltdb_header header;
 247         struct ctdb_db_context *ctdb_db;
 248         int ret, len;
 249         TALLOC_CTX *tmp_ctx;
 250
 251         key.dptr = c->data;
 252         key.dsize = c->keylen;
 253         data.dptr = c->data + c->keylen;
 254         data.dsize = c->datalen;
 255
 256         ctdb_db = find_ctdb_db(ctdb, c->db_id);
 257         if (!ctdb_db) {
 258                 ctdb_send_error(ctdb, hdr, -1,
 259                                 "Unknown database in request. db_id==0x%08x",
 260                                 c->db_id);
 261                 return;
 262         }
 263
 264         /* fetch the current record */
 265         ret = ctdb_ltdb_lock_fetch_requeue(ctdb_db, key, &header, hdr, &data2,
 266                                            ctdb_recv_raw_pkt, ctdb);
 267         if (ret == -1) {
 268                 ctdb_fatal(ctdb, "ctdb_req_dmaster failed to fetch record");
 269                 return;
 270         }
 271         if (ret == -2) {
 272                 DEBUG(2,(__location__ " deferring ctdb_request_dmaster\n"));
 273                 return;
 274         }
 275
 276         /* its a protocol error if the sending node is not the current dmaster */
 277         if (header.dmaster != hdr->srcnode &&
 278             hdr->srcnode != ctdb_lmaster(ctdb_db->ctdb, &key)) {
 279                 ctdb_fatal(ctdb, "dmaster request from non-master");
 280                 return;
 281         }
 282
 283         header.dmaster = c->dmaster;
 284         ret = ctdb_ltdb_store(ctdb_db, key, &header, data);
 285         ctdb_ltdb_unlock(ctdb_db, key);
 286         if (ret != 0) {
 287                 ctdb_fatal(ctdb, "ctdb_req_dmaster unable to update dmaster");
 288                 return;
 289         }
 290
 291         /* put the packet on a temporary context, allowing us to safely free
 292            it below even if ctdb_reply_dmaster() has freed it already */
 293         tmp_ctx = talloc_new(ctdb);
 294
 295         /* send the CTDB_REPLY_DMASTER */
 296         len = offsetof(struct ctdb_reply_dmaster, data) + data.dsize;
 297         r = ctdb->methods->allocate_pkt(tmp_ctx, len);
 298         CTDB_NO_MEMORY_FATAL(ctdb, r);
 299
 300         talloc_set_name_const(r, "reply_dmaster packet");
 301         r->hdr.length    = len;
 302         r->hdr.ctdb_magic = CTDB_MAGIC;
 303         r->hdr.ctdb_version = CTDB_VERSION;
 304         r->hdr.operation = CTDB_REPLY_DMASTER;
 305         r->hdr.destnode  = c->dmaster;
 306         r->hdr.srcnode   = ctdb->vnn;
 307         r->hdr.reqid     = hdr->reqid;
 308         r->datalen       = data.dsize;
 309         memcpy(&r->data[0], data.dptr, data.dsize);
 310
 311         ctdb_queue_packet(ctdb, &r->hdr);
 312
 313         talloc_free(tmp_ctx);
 314 }
 315
 316
 317 /*
 318   called when a CTDB_REQ_CALL packet comes in
 319 */
 320 void ctdb_request_call(struct ctdb_context *ctdb, struct ctdb_req_header *hdr)
 321 {
 322         struct ctdb_req_call *c = (struct ctdb_req_call *)hdr;
 323         TDB_DATA data;
 324         struct ctdb_reply_call *r;
 325         int ret, len;
 326         struct ctdb_ltdb_header header;
 327         struct ctdb_call call;
 328         struct ctdb_db_context *ctdb_db;
 329
 330         ctdb_db = find_ctdb_db(ctdb, c->db_id);
 331         if (!ctdb_db) {
 332                 ctdb_send_error(ctdb, hdr, -1,
 333                                 "Unknown database in request. db_id==0x%08x",
 334                                 c->db_id);
 335                 return;
 336         }
 337
 338         call.call_id  = c->callid;
 339         call.key.dptr = c->data;
 340         call.key.dsize = c->keylen;
 341         call.call_data.dptr = c->data + c->keylen;
 342         call.call_data.dsize = c->calldatalen;
 343
 344         /* determine if we are the dmaster for this key. This also
 345            fetches the record data (if any), thus avoiding a 2nd fetch of the data
 346            if the call will be answered locally */
 347
 348         ret = ctdb_ltdb_lock_fetch_requeue(ctdb_db, call.key, &header, hdr, &data,
 349                                            ctdb_recv_raw_pkt, ctdb);
 350         if (ret == -1) {
 351                 ctdb_send_error(ctdb, hdr, ret, "ltdb fetch failed in ctdb_request_call");
 352                 return;
 353         }
 354         if (ret == -2) {
 355                 DEBUG(2,(__location__ " deferred ctdb_request_call\n"));
 356                 return;
 357         }
 358
 359         /* if we are not the dmaster, then send a redirect to the
 360            requesting node */
 361         if (header.dmaster != ctdb->vnn) {
 362                 ctdb_call_send_redirect(ctdb, c, &header);
 363                 talloc_free(data.dptr);
 364                 ctdb_ltdb_unlock(ctdb_db, call.key);
 365                 return;
 366         }
 367
 368         /* if this nodes has done enough consecutive calls on the same record
 369            then give them the record
 370            or if the node requested an immediate migration
 371         */
 372         if ( (header.laccessor == c->hdr.srcnode
 373               && header.lacount >= ctdb->max_lacount)
 374            || c->flags&CTDB_IMMEDIATE_MIGRATION ) {
 375                 ctdb_call_send_dmaster(ctdb_db, c, &header, &call.key, &data);
 376                 talloc_free(data.dptr);
 377                 ctdb_ltdb_unlock(ctdb_db, call.key);
 378                 return;
 379         }
 380
 381         ctdb_call_local(ctdb_db, &call, &header, &data, c->hdr.srcnode);
 382
 383         ctdb_ltdb_unlock(ctdb_db, call.key);
 384
 385         len = offsetof(struct ctdb_reply_call, data) + call.reply_data.dsize;
 386         r = ctdb->methods->allocate_pkt(ctdb, len);
 387         CTDB_NO_MEMORY_FATAL(ctdb, r);
 388         talloc_set_name_const(r, "reply_call packet");
 389         r->hdr.length    = len;
 390         r->hdr.ctdb_magic = CTDB_MAGIC;
 391         r->hdr.ctdb_version = CTDB_VERSION;
 392         r->hdr.operation = CTDB_REPLY_CALL;
 393         r->hdr.destnode  = hdr->srcnode;
 394         r->hdr.srcnode   = hdr->destnode;
 395         r->hdr.reqid     = hdr->reqid;
 396         r->status        = call.status;
 397         r->datalen       = call.reply_data.dsize;
 398         if (call.reply_data.dsize) {
 399                 memcpy(&r->data[0], call.reply_data.dptr, call.reply_data.dsize);
 400                 talloc_free(call.reply_data.dptr);
 401         }
 402
 403         ctdb_queue_packet(ctdb, &r->hdr);
 404
 405         talloc_free(r);
 406 }
 407
 408 /*
 409   called when a CTDB_REPLY_CALL packet comes in
 410
 411   This packet comes in response to a CTDB_REQ_CALL request packet. It
 412   contains any reply data from the call
 413 */
 414 void ctdb_reply_call(struct ctdb_context *ctdb, struct ctdb_req_header *hdr)
 415 {
 416         struct ctdb_reply_call *c = (struct ctdb_reply_call *)hdr;
 417         struct ctdb_call_state *state;
 418
 419         state = idr_find_type(ctdb->idr, hdr->reqid, struct ctdb_call_state);
 420         if (state == NULL) {
 421                 DEBUG(0, ("reqid %d not found\n", hdr->reqid));
 422                 return;
 423         }
 424
 425         state->call.reply_data.dptr = c->data;
 426         state->call.reply_data.dsize = c->datalen;
 427         state->call.status = c->status;
 428
 429         talloc_steal(state, c);
 430
 431         state->state = CTDB_CALL_DONE;
 432         if (state->async.fn) {
 433                 state->async.fn(state);
 434         }
 435 }
 436
 437 /*
 438   called when a CTDB_REPLY_DMASTER packet comes in
 439
 440   This packet comes in from the lmaster response to a CTDB_REQ_CALL
 441   request packet. It means that the current dmaster wants to give us
 442   the dmaster role
 443 */
 444 void ctdb_reply_dmaster(struct ctdb_context *ctdb, struct ctdb_req_header *hdr)
 445 {
 446         struct ctdb_reply_dmaster *c = (struct ctdb_reply_dmaster *)hdr;
 447         struct ctdb_call_state *state;
 448         struct ctdb_db_context *ctdb_db;
 449         TDB_DATA data;
 450         int ret;
 451
 452         state = idr_find_type(ctdb->idr, hdr->reqid, struct ctdb_call_state);
 453         if (state == NULL) {
 454                 return;
 455         }
 456
 457         ctdb_db = state->ctdb_db;
 458
 459         ret = ctdb_ltdb_lock_requeue(ctdb_db, state->call.key, hdr,
 460                                      ctdb_recv_raw_pkt, ctdb);
 461         if (ret == -2) {
 462                 return;
 463         }
 464         if (ret != 0) {
 465                 DEBUG(0,(__location__ " Failed to get lock in ctdb_reply_dmaster\n"));
 466                 return;
 467         }
 468
 469         data.dptr = c->data;
 470         data.dsize = c->datalen;
 471
 472         talloc_steal(state, c);
 473
 474         /* we're now the dmaster - update our local ltdb with new header
 475            and data */
 476         state->header.dmaster = ctdb->vnn;
 477
 478         if (ctdb_ltdb_store(ctdb_db, state->call.key, &state->header, data) != 0) {
 479                 ctdb_ltdb_unlock(ctdb_db, state->call.key);
 480                 ctdb_fatal(ctdb, "ctdb_reply_dmaster store failed\n");
 481                 return;
 482         }
 483
 484         ctdb_call_local(ctdb_db, &state->call, &state->header, &data, ctdb->vnn);
 485
 486         ctdb_ltdb_unlock(ctdb_db, state->call.key);
 487
 488         talloc_steal(state, state->call.reply_data.dptr);
 489
 490         state->state = CTDB_CALL_DONE;
 491         if (state->async.fn) {
 492                 state->async.fn(state);
 493         }
 494 }
 495
 496
 497 /*
 498   called when a CTDB_REPLY_ERROR packet comes in
 499 */
 500 void ctdb_reply_error(struct ctdb_context *ctdb, struct ctdb_req_header *hdr)
 501 {
 502         struct ctdb_reply_error *c = (struct ctdb_reply_error *)hdr;
 503         struct ctdb_call_state *state;
 504
 505         state = idr_find_type(ctdb->idr, hdr->reqid, struct ctdb_call_state);
 506         if (state == NULL) return;
 507
 508         talloc_steal(state, c);
 509
 510         state->state  = CTDB_CALL_ERROR;
 511         state->errmsg = (char *)c->msg;
 512         if (state->async.fn) {
 513                 state->async.fn(state);
 514         }
 515 }
 516
 517
 518 /*
 519   called when a CTDB_REPLY_REDIRECT packet comes in
 520
 521   This packet arrives when we have sent a CTDB_REQ_CALL request and
 522   the node that received it is not the dmaster for the given key. We
 523   are given a hint as to what node to try next.
 524 */
 525 void ctdb_reply_redirect(struct ctdb_context *ctdb, struct ctdb_req_header *hdr)
 526 {
 527         struct ctdb_reply_redirect *c = (struct ctdb_reply_redirect *)hdr;
 528         struct ctdb_call_state *state;
 529
 530         state = idr_find_type(ctdb->idr, hdr->reqid, struct ctdb_call_state);
 531         if (state == NULL) return;
 532
 533         talloc_steal(state, c);
 534
 535         /* don't allow for too many redirects */
 536         if (state->redirect_count++ == CTDB_MAX_REDIRECT) {
 537                 c->dmaster = ctdb_lmaster(ctdb, &state->call.key);
 538         }
 539
 540         /* send it off again */
 541         state->node = ctdb->nodes[c->dmaster];
 542         state->c->hdr.destnode = c->dmaster;
 543
 544         ctdb_queue_packet(ctdb, &state->c->hdr);
 545 }
 546
 547 /*
 548   destroy a ctdb_call
 549 */
 550 static int ctdb_call_destructor(struct ctdb_call_state *state)
 551 {
 552         idr_remove(state->node->ctdb->idr, state->c->hdr.reqid);
 553         return 0;
 554 }
 555
 556
 557 /*
 558   called when a ctdb_call times out
 559 */
 560 void ctdb_call_timeout(struct event_context *ev, struct timed_event *te,
 561                        struct timeval t, void *private_data)
 562 {
 563         struct ctdb_call_state *state = talloc_get_type(private_data, struct ctdb_call_state);
 564         state->state = CTDB_CALL_ERROR;
 565         ctdb_set_error(state->node->ctdb, "ctdb_call %u timed out",
 566                        state->c->hdr.reqid);
 567         if (state->async.fn) {
 568                 state->async.fn(state);
 569         }
 570 }
 571
 572 /*
 573   this allows the caller to setup a async.fn
 574 */
 575 static void call_local_trigger(struct event_context *ev, struct timed_event *te,
 576                        struct timeval t, void *private_data)
 577 {
 578         struct ctdb_call_state *state = talloc_get_type(private_data, struct ctdb_call_state);
 579         if (state->async.fn) {
 580                 state->async.fn(state);
 581         }
 582 }
 583
 584
 585 /*
 586   construct an event driven local ctdb_call
 587
 588   this is used so that locally processed ctdb_call requests are processed
 589   in an event driven manner
 590 */
 591 struct ctdb_call_state *ctdb_call_local_send(struct ctdb_db_context *ctdb_db,
 592                                              struct ctdb_call *call,
 593                                              struct ctdb_ltdb_header *header,
 594                                              TDB_DATA *data)
 595 {
 596         struct ctdb_call_state *state;
 597         struct ctdb_context *ctdb = ctdb_db->ctdb;
 598         int ret;
 599
 600         state = talloc_zero(ctdb_db, struct ctdb_call_state);
 601         CTDB_NO_MEMORY_NULL(ctdb, state);
 602
 603         talloc_steal(state, data->dptr);
 604
 605         state->state = CTDB_CALL_DONE;
 606         state->node = ctdb->nodes[ctdb->vnn];
 607         state->call = *call;
 608         state->ctdb_db = ctdb_db;
 609
 610         ret = ctdb_call_local(ctdb_db, &state->call, header, data, ctdb->vnn);
 611         talloc_steal(state, state->call.reply_data.dptr);
 612
 613         event_add_timed(ctdb->ev, state, timeval_zero(), call_local_trigger, state);
 614
 615         return state;
 616 }
 617
 618
 619 /*
 620   make a remote ctdb call - async send. Called in daemon context.
 621
 622   This constructs a ctdb_call request and queues it for processing.
 623   This call never blocks.
 624 */
 625 struct ctdb_call_state *ctdb_daemon_call_send_remote(struct ctdb_db_context *ctdb_db,
 626                                                      struct ctdb_call *call,
 627                                                      struct ctdb_ltdb_header *header)
 628 {
 629         uint32_t len;
 630         struct ctdb_call_state *state;
 631         struct ctdb_context *ctdb = ctdb_db->ctdb;
 632
 633         state = talloc_zero(ctdb_db, struct ctdb_call_state);
 634         CTDB_NO_MEMORY_NULL(ctdb, state);
 635
 636         len = offsetof(struct ctdb_req_call, data) + call->key.dsize + call->call_data.dsize;
 637         state->c = ctdb->methods->allocate_pkt(state, len);
 638         CTDB_NO_MEMORY_NULL(ctdb, state->c);
 639         talloc_set_name_const(state->c, "req_call packet");
 640
 641         state->c->hdr.length    = len;
 642         state->c->hdr.ctdb_magic = CTDB_MAGIC;
 643         state->c->hdr.ctdb_version = CTDB_VERSION;
 644         state->c->hdr.operation = CTDB_REQ_CALL;
 645         state->c->hdr.destnode  = header->dmaster;
 646         state->c->hdr.srcnode   = ctdb->vnn;
 647         /* this limits us to 16k outstanding messages - not unreasonable */
 648         state->c->hdr.reqid     = idr_get_new(ctdb->idr, state, 0xFFFF);
 649         state->c->flags         = call->flags;
 650         state->c->db_id         = ctdb_db->db_id;
 651         state->c->callid        = call->call_id;
 652         state->c->keylen        = call->key.dsize;
 653         state->c->calldatalen   = call->call_data.dsize;
 654         memcpy(&state->c->data[0], call->key.dptr, call->key.dsize);
 655         memcpy(&state->c->data[call->key.dsize],
 656                call->call_data.dptr, call->call_data.dsize);
 657         state->call                = *call;
 658         state->call.call_data.dptr = &state->c->data[call->key.dsize];
 659         state->call.key.dptr       = &state->c->data[0];
 660
 661         state->node   = ctdb->nodes[header->dmaster];
 662         state->state  = CTDB_CALL_WAIT;
 663         state->header = *header;
 664         state->ctdb_db = ctdb_db;
 665
 666         talloc_set_destructor(state, ctdb_call_destructor);
 667
 668         ctdb_queue_packet(ctdb, &state->c->hdr);
 669
 670         event_add_timed(ctdb->ev, state, timeval_current_ofs(CTDB_REQ_TIMEOUT, 0),
 671                         ctdb_call_timeout, state);
 672         return state;
 673 }
 674
 675 /*
 676   make a remote ctdb call - async recv - called in daemon context
 677
 678   This is called when the program wants to wait for a ctdb_call to complete and get the
 679   results. This call will block unless the call has already completed.
 680 */
 681 int ctdb_daemon_call_recv(struct ctdb_call_state *state, struct ctdb_call *call)
 682 {
 683         while (state->state < CTDB_CALL_DONE) {
 684                 event_loop_once(state->node->ctdb->ev);
 685         }
 686         if (state->state != CTDB_CALL_DONE) {
 687                 ctdb_set_error(state->node->ctdb, "%s", state->errmsg);
 688                 talloc_free(state);
 689                 return -1;
 690         }
 691
 692         if (state->call.reply_data.dsize) {
 693                 call->reply_data.dptr = talloc_memdup(state->node->ctdb,
 694                                                       state->call.reply_data.dptr,
 695                                                       state->call.reply_data.dsize);
 696                 call->reply_data.dsize = state->call.reply_data.dsize;
 697         } else {
 698                 call->reply_data.dptr = NULL;
 699                 call->reply_data.dsize = 0;
 700         }
 701         call->status = state->call.status;
 702         talloc_free(state);
 703         return 0;
 704 }
 705
 706