r24033: We need to be able to cope with packet_handler calling itself
[samba.git] / source3 / lib / packet.c
1 /* 
2    Unix SMB/CIFS implementation.
3    Packet handling
4    Copyright (C) Volker Lendecke 2007
5    
6    This program is free software; you can redistribute it and/or modify
7    it under the terms of the GNU General Public License as published by
8    the Free Software Foundation; either version 3 of the License, or
9    (at your option) any later version.
10    
11    This program is distributed in the hope that it will be useful,
12    but WITHOUT ANY WARRANTY; without even the implied warranty of
13    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14    GNU General Public License for more details.
15    
16    You should have received a copy of the GNU General Public License
17    along with this program.  If not, see <http://www.gnu.org/licenses/>.
18 */
19
20 #include "includes.h"
21
22 struct packet_context {
23         int fd;
24         struct data_blob in, out;
25 };
26
27 /*
28  * Close the underlying fd
29  */
30 static int packet_context_destructor(struct packet_context *ctx)
31 {
32         return close(ctx->fd);
33 }
34
35 /*
36  * Initialize a packet context. The fd is given to the packet context, meaning
37  * that it is automatically closed when the packet context is freed.
38  */
39 struct packet_context *packet_init(TALLOC_CTX *mem_ctx, int fd)
40 {
41         struct packet_context *result;
42
43         if (!(result = TALLOC_ZERO_P(mem_ctx, struct packet_context))) {
44                 return NULL;
45         }
46
47         result->fd = fd;
48         talloc_set_destructor(result, packet_context_destructor);
49         return result;
50 }
51
52 /*
53  * Pull data from the fd
54  */
55 NTSTATUS packet_fd_read(struct packet_context *ctx)
56 {
57         int res, available;
58         size_t new_size;
59         uint8 *in;
60
61         res = ioctl(ctx->fd, FIONREAD, &available);
62
63         if (res == -1) {
64                 DEBUG(10, ("ioctl(FIONREAD) failed: %s\n", strerror(errno)));
65                 return map_nt_error_from_unix(errno);
66         }
67
68         SMB_ASSERT(available >= 0);
69
70         if (available == 0) {
71                 return NT_STATUS_END_OF_FILE;
72         }
73
74         new_size = ctx->in.length + available;
75
76         if (new_size < ctx->in.length) {
77                 DEBUG(0, ("integer wrap\n"));
78                 return NT_STATUS_NO_MEMORY;
79         }
80
81         if (!(in = TALLOC_REALLOC_ARRAY(ctx, ctx->in.data, uint8, new_size))) {
82                 DEBUG(10, ("talloc failed\n"));
83                 return NT_STATUS_NO_MEMORY;
84         }
85
86         res = recv(ctx->fd, in + ctx->in.length, available, 0);
87
88         if (res < 0) {
89                 DEBUG(10, ("recv failed: %s\n", strerror(errno)));
90                 return map_nt_error_from_unix(errno);
91         }
92
93         if (res == 0) {
94                 return NT_STATUS_END_OF_FILE;
95         }
96
97         ctx->in.data = in;
98         ctx->in.length += available;
99
100         return NT_STATUS_OK;
101 }
102
103 NTSTATUS packet_fd_read_sync(struct packet_context *ctx)
104 {
105         int res;
106         fd_set r_fds;
107
108         FD_ZERO(&r_fds);
109         FD_SET(ctx->fd, &r_fds);
110
111         res = sys_select(ctx->fd+1, &r_fds, NULL, NULL, NULL);
112
113         if (res == -1) {
114                 DEBUG(10, ("select returned %s\n", strerror(errno)));
115                 return map_nt_error_from_unix(errno);
116         }
117
118         return packet_fd_read(ctx);
119 }
120
121 BOOL packet_handler(struct packet_context *ctx,
122                     BOOL (*full_req)(const struct data_blob *data,
123                                      size_t *length,
124                                      void *private_data),
125                     NTSTATUS (*callback)(const struct data_blob *data,
126                                          void *private_data),
127                     void *private_data,
128                     NTSTATUS *status)
129 {
130         size_t length;
131         struct data_blob data;
132
133         if (!full_req(&ctx->in, &length, private_data)) {
134                 return False;
135         }
136
137         SMB_ASSERT(length <= ctx->in.length);
138
139         data = data_blob(ctx->in.data, length);
140
141         memmove(ctx->in.data, ctx->in.data + length,
142                 ctx->in.length - length);
143         ctx->in.length -= length;
144
145         *status = callback(&data, private_data);
146
147         data_blob_free(&data);
148
149         return True;
150 }
151
152 /*
153  * How many bytes of outgoing data do we have pending?
154  */
155 size_t packet_outgoing_bytes(struct packet_context *ctx)
156 {
157         return ctx->out.length;
158 }
159
160 /*
161  * Push data to the fd
162  */
163 NTSTATUS packet_fd_write(struct packet_context *ctx)
164 {
165         ssize_t sent;
166
167         sent = send(ctx->fd, ctx->out.data, ctx->out.length, 0);
168
169         if (sent == -1) {
170                 DEBUG(0, ("send failed: %s\n", strerror(errno)));
171                 return map_nt_error_from_unix(errno);
172         }
173
174         memmove(ctx->out.data, ctx->out.data + sent,
175                 ctx->out.length - sent);
176         ctx->out.length -= sent;
177
178         return NT_STATUS_OK;
179 }
180
181 /*
182  * Sync flush all outgoing bytes
183  */
184 NTSTATUS packet_flush(struct packet_context *ctx)
185 {
186         while (ctx->out.length != 0) {
187                 NTSTATUS status = packet_fd_write(ctx);
188                 if (!NT_STATUS_IS_OK(status)) {
189                         return status;
190                 }
191         }
192         return NT_STATUS_OK;
193 }
194
195 /*
196  * Send a list of DATA_BLOBs
197  *
198  * Example:  packet_send(ctx, 2, data_blob_const(&size, sizeof(size)),
199  *                       data_blob_const(buf, size));
200  */
201 NTSTATUS packet_send(struct packet_context *ctx, int num_blobs, ...)
202 {
203         va_list ap;
204         int i;
205         size_t len;
206         uint8 *out;
207
208         len = ctx->out.length;
209
210         va_start(ap, num_blobs);
211         for (i=0; i<num_blobs; i++) {
212                 size_t tmp;
213                 struct data_blob blob = va_arg(ap, struct data_blob);
214
215                 tmp = len + blob.length;
216                 if (tmp < len) {
217                         DEBUG(0, ("integer overflow\n"));
218                         va_end(ap);
219                         return NT_STATUS_NO_MEMORY;
220                 }
221                 len = tmp;
222         }
223         va_end(ap);
224
225         if (len == 0) {
226                 return NT_STATUS_OK;
227         }
228
229         if (!(out = TALLOC_REALLOC_ARRAY(ctx, ctx->out.data, uint8, len))) {
230                 DEBUG(0, ("talloc failed\n"));
231                 return NT_STATUS_NO_MEMORY;
232         }
233
234         ctx->out.data = out;
235
236         va_start(ap, num_blobs);
237         for (i=0; i<num_blobs; i++) {
238                 struct data_blob blob = va_arg(ap, struct data_blob);
239
240                 memcpy(ctx->out.data+ctx->out.length, blob.data, blob.length);
241                 ctx->out.length += blob.length;
242         }
243         va_end(ap);
244
245         SMB_ASSERT(ctx->out.length == len);
246         return NT_STATUS_OK;
247 }
248
249 /*
250  * Get the packet context's file descriptor
251  */
252 int packet_get_fd(struct packet_context *ctx)
253 {
254         return ctx->fd;
255 }
256