[GLUE] Rsync SAMBA_3_2_0 SVN r25598 in order to create the v3-2-test branch.
[samba.git] / source / lib / util_str.c
index c065bfe9db619a47841ce36273ca62a4c06d71b8..fbd9c1ca6daf1da762c80b4810c9f50436dd7390 100644 (file)
@@ -5,10 +5,12 @@
    Copyright (C) Andrew Tridgell 1992-2001
    Copyright (C) Simo Sorce      2001-2002
    Copyright (C) Martin Pool     2003
+   Copyright (C) James Peach    2006
+   Copyright (C) Jeremy Allison  1992-2007
    
    This program is free software; you can redistribute it and/or modify
    it under the terms of the GNU General Public License as published by
-   the Free Software Foundation; either version 2 of the License, or
+   the Free Software Foundation; either version 3 of the License, or
    (at your option) any later version.
    
    This program is distributed in the hope that it will be useful,
@@ -17,8 +19,7 @@
    GNU General Public License for more details.
    
    You should have received a copy of the GNU General Public License
-   along with this program; if not, write to the Free Software
-   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
+   along with this program.  If not, see <http://www.gnu.org/licenses/>.
 */
 
 #include "includes.h"
  **/
 
 /**
- * Get the next token from a string, return False if none found.
- * Handles double-quotes.
- * 
+ * Internal function to get the next token from a string, return False if none
+ * found.  Handles double-quotes.  This is the work horse function called by
+ * next_token() and next_token_no_ltrim().
+ *
  * Based on a routine by GJC@VILLAGE.COM. 
  * Extensively modified by Andrew.Tridgell@anu.edu.au
- **/
-BOOL next_token(const char **ptr,char *buff, const char *sep, size_t bufsize)
+ */
+static BOOL next_token_internal(const char **ptr,
+                                char *buff,
+                                const char *sep,
+                                size_t bufsize,
+                                BOOL ltrim)
 {
        char *s;
        char *pbuf;
@@ -51,9 +57,11 @@ BOOL next_token(const char **ptr,char *buff, const char *sep, size_t bufsize)
        if (!sep)
                sep = " \t\n\r";
 
-       /* find the first non sep char */
-       while (*s && strchr_m(sep,*s))
-               s++;
+       /* find the first non sep char, if left-trimming is requested */
+       if (ltrim) {
+               while (*s && strchr_m(sep,*s))
+                       s++;
+       }
        
        /* nothing left? */
        if (! *s)
@@ -62,7 +70,7 @@ BOOL next_token(const char **ptr,char *buff, const char *sep, size_t bufsize)
        /* copy over the token */
        pbuf = buff;
        for (quoted = False; len < bufsize && *s && (quoted || !strchr_m(sep,*s)); s++) {
-               if (*s == '\"') {
+               if ( *s == '\"' ) {
                        quoted = !quoted;
                } else {
                        len++;
@@ -76,6 +84,29 @@ BOOL next_token(const char **ptr,char *buff, const char *sep, size_t bufsize)
        return(True);
 }
 
+/*
+ * Get the next token from a string, return False if none found.  Handles
+ * double-quotes.  This version trims leading separator characters before
+ * looking for a token.
+ */
+BOOL next_token(const char **ptr, char *buff, const char *sep, size_t bufsize)
+{
+    return next_token_internal(ptr, buff, sep, bufsize, True);
+}
+
+/*
+ * Get the next token from a string, return False if none found.  Handles
+ * double-quotes.  This version does not trim leading separator characters
+ * before looking for a token.
+ */
+BOOL next_token_no_ltrim(const char **ptr,
+                         char *buff,
+                         const char *sep,
+                         size_t bufsize)
+{
+    return next_token_internal(ptr, buff, sep, bufsize, False);
+}
+
 /**
 This is like next_token but is not re-entrant and "remembers" the first 
 parameter so you can pass NULL. This is useful for user interface code
@@ -95,8 +126,6 @@ BOOL next_token_nr(const char **ptr,char *buff, const char *sep, size_t bufsize)
        return ret;     
 }
 
-static uint16 tmpbuf[sizeof(pstring)];
-
 void set_first_token(char *ptr)
 {
        last_ptr = ptr;
@@ -134,17 +163,20 @@ char **toktocliplist(int *ctok, const char *sep)
        *ctok=ictok;
        s=(char *)last_ptr;
        
-       if (!(ret=iret=malloc(ictok*sizeof(char *))))
+       if (!(ret=iret=SMB_MALLOC_ARRAY(char *,ictok+1)))
                return NULL;
        
        while(ictok--) {    
                *iret++=s;
-               while(*s++)
-                       ;
-               while(!*s)
-                       s++;
+               if (ictok > 0) {
+                       while(*s++)
+                               ;
+                       while(!*s)
+                               s++;
+               }
        }
 
+       ret[*ctok] = NULL;
        return ret;
 }
 
@@ -180,7 +212,7 @@ char **toktocliplist(int *ctok, const char *sep)
 int StrCaseCmp(const char *s, const char *t)
 {
 
-       const char * ps, * pt;
+       const char *ps, *pt;
        size_t size;
        smb_ucs2_t *buffer_s, *buffer_t;
        int ret;
@@ -198,8 +230,8 @@ int StrCaseCmp(const char *s, const char *t)
                        /* not ascii anymore, do it the hard way from here on in */
                        break;
 
-               us = toupper(*ps);
-               ut = toupper(*pt);
+               us = toupper_ascii(*ps);
+               ut = toupper_ascii(*pt);
                if (us == ut)
                        continue;
                else if (us < ut)
@@ -208,17 +240,17 @@ int StrCaseCmp(const char *s, const char *t)
                        return +1;
        }
 
-       size = push_ucs2_allocate(&buffer_s, s);
+       size = push_ucs2_allocate(&buffer_s, ps);
        if (size == (size_t)-1) {
-               return strcmp(s, t); 
+               return strcmp(ps, pt); 
                /* Not quite the right answer, but finding the right one
                   under this failure case is expensive, and it's pretty close */
        }
        
-       size = push_ucs2_allocate(&buffer_t, t);
+       size = push_ucs2_allocate(&buffer_t, pt);
        if (size == (size_t)-1) {
                SAFE_FREE(buffer_s);
-               return strcmp(s, t); 
+               return strcmp(ps, pt); 
                /* Not quite the right answer, but finding the right one
                   under this failure case is expensive, and it's pretty close */
        }
@@ -233,12 +265,63 @@ int StrCaseCmp(const char *s, const char *t)
 /**
  Case insensitive string compararison, length limited.
 **/
-int StrnCaseCmp(const char *s, const char *t, size_t n)
+int StrnCaseCmp(const char *s, const char *t, size_t len)
 {
-       pstring buf1, buf2;
-       unix_strupper(s, strlen(s)+1, buf1, sizeof(buf1));
-       unix_strupper(t, strlen(t)+1, buf2, sizeof(buf2));
-       return strncmp(buf1,buf2,n);
+       size_t n = 0;
+       const char *ps, *pt;
+       size_t size;
+       smb_ucs2_t *buffer_s, *buffer_t;
+       int ret;
+
+       for (ps = s, pt = t; n < len ; ps++, pt++, n++) {
+               char us, ut;
+
+               if (!*ps && !*pt)
+                       return 0; /* both ended */
+               else if (!*ps)
+                       return -1; /* s is a prefix */
+               else if (!*pt)
+                       return +1; /* t is a prefix */
+               else if ((*ps & 0x80) || (*pt & 0x80))
+                       /* not ascii anymore, do it the
+                        * hard way from here on in */
+                       break;
+
+               us = toupper_ascii(*ps);
+               ut = toupper_ascii(*pt);
+               if (us == ut)
+                       continue;
+               else if (us < ut)
+                       return -1;
+               else if (us > ut)
+                       return +1;
+       }
+
+       if (n == len) {
+               return 0;
+       }
+
+       size = push_ucs2_allocate(&buffer_s, ps);
+       if (size == (size_t)-1) {
+               return strncmp(ps, pt, len-n);
+               /* Not quite the right answer, but finding the right one
+                  under this failure case is expensive,
+                  and it's pretty close */
+       }
+
+       size = push_ucs2_allocate(&buffer_t, pt);
+       if (size == (size_t)-1) {
+               SAFE_FREE(buffer_s);
+               return strncmp(ps, pt, len-n);
+               /* Not quite the right answer, but finding the right one
+                  under this failure case is expensive,
+                  and it's pretty close */
+       }
+
+       ret = strncasecmp_w(buffer_s, buffer_t, len-n);
+       SAFE_FREE(buffer_s);
+       SAFE_FREE(buffer_t);
+       return ret;
 }
 
 /**
@@ -252,7 +335,7 @@ BOOL strequal(const char *s1, const char *s2)
                return(True);
        if (!s1 || !s2)
                return(False);
-  
+
        return(StrCaseCmp(s1,s2)==0);
 }
 
@@ -263,12 +346,12 @@ BOOL strequal(const char *s1, const char *s2)
  **/
 BOOL strnequal(const char *s1,const char *s2,size_t n)
 {
-  if (s1 == s2)
-         return(True);
-  if (!s1 || !s2 || !n)
-         return(False);
-  
-  return(StrnCaseCmp(s1,s2,n)==0);
+       if (s1 == s2)
+               return(True);
+       if (!s1 || !s2 || !n)
+               return(False);
+
+       return(StrnCaseCmp(s1,s2,n)==0);
 }
 
 /**
@@ -277,12 +360,12 @@ BOOL strnequal(const char *s1,const char *s2,size_t n)
 
 BOOL strcsequal(const char *s1,const char *s2)
 {
-  if (s1 == s2)
-         return(True);
-  if (!s1 || !s2)
-         return(False);
+       if (s1 == s2)
+               return(True);
+       if (!s1 || !s2)
+               return(False);
   
-  return(strcmp(s1,s2)==0);
+       return(strcmp(s1,s2)==0);
 }
 
 /**
@@ -306,7 +389,7 @@ int strwicmp(const char *psz1, const char *psz2)
                        psz1++;
                while (isspace((int)*psz2))
                        psz2++;
-               if (toupper(*psz1) != toupper(*psz2) || *psz1 == '\0'
+               if (toupper_ascii(*psz1) != toupper_ascii(*psz2) || *psz1 == '\0'
                    || *psz2 == '\0')
                        break;
                psz1++;
@@ -322,11 +405,16 @@ int strwicmp(const char *psz1, const char *psz2)
 
 char *strupper_static(const char *s)
 {
-       static pstring str;
+       static char *str = NULL;
 
-       pstrcpy(str, s);
+       if (str) {
+               SAFE_FREE(str);
+       }
+       str = SMB_STRDUP(s);
+       if (!str) {
+               return CONST_DISCARD(char *,s);
+       }
        strupper_m(str);
-
        return str;
 }
 
@@ -334,9 +422,8 @@ char *strupper_static(const char *s)
  Convert a string to "normal" form.
 **/
 
-void strnorm(char *s)
+void strnorm(char *s, int case_default)
 {
-       extern int case_default;
        if (case_default == CASE_UPPER)
                strupper_m(s);
        else
@@ -347,12 +434,11 @@ void strnorm(char *s)
  Check if a string is in "normal" case.
 **/
 
-BOOL strisnormal(const char *s)
+BOOL strisnormal(const char *s, int case_default)
 {
-       extern int case_default;
        if (case_default == CASE_UPPER)
                return(!strhaslower(s));
-       
+
        return(!strhasupper(s));
 }
 
@@ -361,43 +447,81 @@ BOOL strisnormal(const char *s)
  String replace.
  NOTE: oldc and newc must be 7 bit characters
 **/
-
-void string_replace(pstring s,char oldc,char newc)
+void string_replace( char *s, char oldc, char newc )
 {
-       unsigned char *p;
+       char *p;
 
        /* this is quite a common operation, so we want it to be
           fast. We optimise for the ascii case, knowing that all our
           supported multi-byte character sets are ascii-compatible
           (ie. they match for the first 128 chars) */
 
-       for (p = (unsigned char *)s; *p; p++) {
+       for (p = s; *p; p++) {
                if (*p & 0x80) /* mb string - slow path. */
                        break;
-               if (*p == oldc)
+               if (*p == oldc) {
                        *p = newc;
+               }
        }
 
        if (!*p)
                return;
 
        /* Slow (mb) path. */
-       push_ucs2(NULL, tmpbuf, p, sizeof(tmpbuf), STR_TERMINATE);
-       string_replace_w(tmpbuf, UCS2_CHAR(oldc), UCS2_CHAR(newc));
-       pull_ucs2(NULL, p, tmpbuf, -1, sizeof(tmpbuf), STR_TERMINATE);
+#ifdef BROKEN_UNICODE_COMPOSE_CHARACTERS
+       /* With compose characters we must restart from the beginning. JRA. */
+       p = s;
+#endif
+
+       while (*p) {
+               size_t c_size;
+               next_codepoint(p, &c_size);
+
+               if (c_size == 1) {
+                       if (*p == oldc) {
+                               *p = newc;
+                       }
+               }
+               p += c_size;
+       }
 }
 
 /**
Skip past some strings in a buffer.
-**/
*  Skip past some strings in a buffer - old version - no checks.
+ *  **/
 
-char *skip_string(char *buf,size_t n)
+char *push_skip_string(char *buf)
 {
-       while (n--)
-               buf += strlen(buf) + 1;
+       buf += strlen(buf) + 1;
        return(buf);
 }
 
+/**
+ Skip past a string in a buffer. Buffer may not be
+ null terminated. end_ptr points to the first byte after
+ then end of the buffer.
+**/
+
+char *skip_string(const char *base, size_t len, char *buf)
+{
+       const char *end_ptr = base + len;
+
+       if (end_ptr < base || !base || !buf || buf >= end_ptr) {
+               return NULL;
+       }
+
+       /* Skip the string */
+       while (*buf) {
+               buf++;
+               if (buf >= end_ptr) {
+                       return NULL;
+               }
+       }
+       /* Skip the '\0' */
+       buf++;
+       return buf;
+}
+
 /**
  Count the number of characters in a string. Normally this will
  be the same as the number of bytes in a string for single byte strings,
@@ -406,9 +530,14 @@ char *skip_string(char *buf,size_t n)
 
 size_t str_charnum(const char *s)
 {
-       uint16 tmpbuf2[sizeof(pstring)];
-       push_ucs2(NULL, tmpbuf2,s, sizeof(tmpbuf2), STR_TERMINATE);
-       return strlen_w(tmpbuf2);
+       size_t ret;
+       smb_ucs2_t *tmpbuf2 = NULL;
+       if (push_ucs2_allocate(&tmpbuf2, s) == (size_t)-1) {
+               return 0;
+       }
+       ret = strlen_w(tmpbuf2);
+       SAFE_FREE(tmpbuf2);
+       return ret;
 }
 
 /**
@@ -419,9 +548,14 @@ size_t str_charnum(const char *s)
 
 size_t str_ascii_charnum(const char *s)
 {
-       pstring tmpbuf2;
-       push_ascii(tmpbuf2, s, sizeof(tmpbuf2), STR_TERMINATE);
-       return strlen(tmpbuf2);
+       size_t ret;
+       char *tmpbuf2 = NULL;
+       if (push_ascii_allocate(&tmpbuf2, s) == (size_t)-1) {
+               return 0;
+       }
+       ret = strlen(tmpbuf2);
+       SAFE_FREE(tmpbuf2);
+       return ret;
 }
 
 BOOL trim_char(char *s,char cfront,char cback)
@@ -523,12 +657,22 @@ BOOL trim_string(char *s,const char *front,const char *back)
 
 BOOL strhasupper(const char *s)
 {
-       smb_ucs2_t *ptr;
-       push_ucs2(NULL, tmpbuf,s, sizeof(tmpbuf), STR_TERMINATE);
-       for(ptr=tmpbuf;*ptr;ptr++)
-               if(isupper_w(*ptr))
-                       return True;
-       return(False);
+       smb_ucs2_t *tmp, *p;
+       BOOL ret;
+
+       if (push_ucs2_allocate(&tmp, s) == -1) {
+               return False;
+       }
+
+       for(p = tmp; *p != 0; p++) {
+               if(isupper_w(*p)) {
+                       break;
+               }
+       }
+
+       ret = (*p != 0);
+       SAFE_FREE(tmp);
+       return ret;
 }
 
 /**
@@ -537,12 +681,22 @@ BOOL strhasupper(const char *s)
 
 BOOL strhaslower(const char *s)
 {
-       smb_ucs2_t *ptr;
-       push_ucs2(NULL, tmpbuf,s, sizeof(tmpbuf), STR_TERMINATE);
-       for(ptr=tmpbuf;*ptr;ptr++)
-               if(islower_w(*ptr))
-                       return True;
-       return(False);
+       smb_ucs2_t *tmp, *p;
+       BOOL ret;
+
+       if (push_ucs2_allocate(&tmp, s) == -1) {
+               return False;
+       }
+
+       for(p = tmp; *p != 0; p++) {
+               if(islower_w(*p)) {
+                       break;
+               }
+       }
+
+       ret = (*p != 0);
+       SAFE_FREE(tmp);
+       return ret;
 }
 
 /**
@@ -553,10 +707,17 @@ size_t count_chars(const char *s,char c)
 {
        smb_ucs2_t *ptr;
        int count;
-       push_ucs2(NULL, tmpbuf,s, sizeof(tmpbuf), STR_TERMINATE);
-       for(count=0,ptr=tmpbuf;*ptr;ptr++)
+       smb_ucs2_t *alloc_tmpbuf = NULL;
+
+       if (push_ucs2_allocate(&alloc_tmpbuf, s) == (size_t)-1) {
+               return 0;
+       }
+
+       for(count=0,ptr=alloc_tmpbuf;*ptr;ptr++)
                if(*ptr==UCS2_CHAR(c))
                        count++;
+
+       SAFE_FREE(alloc_tmpbuf);
        return(count);
 }
 
@@ -570,7 +731,7 @@ char *safe_strcpy_fn(const char *fn, int line, char *dest,const char *src, size_
        size_t len;
 
        if (!dest) {
-               DEBUG(0,("ERROR: NULL dest in safe_strcpy\n"));
+               DEBUG(0,("ERROR: NULL dest in safe_strcpy, called from [%s][%d]\n", fn, line));
                return NULL;
        }
 
@@ -586,8 +747,9 @@ char *safe_strcpy_fn(const char *fn, int line, char *dest,const char *src, size_
        len = strnlen(src, maxlength+1);
 
        if (len > maxlength) {
-               DEBUG(0,("ERROR: string overflow by %u (%u - %u) in safe_strcpy [%.50s]\n",
-                        (unsigned int)(len-maxlength), len, maxlength, src));
+               DEBUG(0,("ERROR: string overflow by %lu (%lu - %lu) in safe_strcpy [%.50s]\n",
+                        (unsigned long)(len-maxlength), (unsigned long)len, 
+                        (unsigned long)maxlength, src));
                len = maxlength;
        }
       
@@ -605,7 +767,7 @@ char *safe_strcat_fn(const char *fn, int line, char *dest, const char *src, size
        size_t src_len, dest_len;
 
        if (!dest) {
-               DEBUG(0,("ERROR: NULL dest in safe_strcat\n"));
+               DEBUG(0,("ERROR: NULL dest in safe_strcat, called from [%s][%d]\n", fn, line));
                return NULL;
        }
 
@@ -649,7 +811,7 @@ char *alpha_strcpy_fn(const char *fn, int line, char *dest, const char *src, con
 #endif
 
        if (!dest) {
-               DEBUG(0,("ERROR: NULL dest in alpha_strcpy\n"));
+               DEBUG(0,("ERROR: NULL dest in alpha_strcpy, called from [%s][%d]\n", fn, line));
                return NULL;
        }
 
@@ -667,7 +829,7 @@ char *alpha_strcpy_fn(const char *fn, int line, char *dest, const char *src, con
 
        for(i = 0; i < len; i++) {
                int val = (src[i] & 0xff);
-               if (isupper(val) || islower(val) || isdigit(val) || strchr_m(other_safe_chars, val))
+               if (isupper_ascii(val) || islower_ascii(val) || isdigit(val) || strchr_m(other_safe_chars, val))
                        dest[i] = src[i];
                else
                        dest[i] = '_';
@@ -690,9 +852,11 @@ char *StrnCpy_fn(const char *fn, int line,char *dest,const char *src,size_t n)
        clobber_region(fn, line, dest, n+1);
 #endif
 
-       if (!dest)
+       if (!dest) {
+               DEBUG(0,("ERROR: NULL dest in StrnCpy, called from [%s][%d]\n", fn, line));
                return(NULL);
-       
+       }
+
        if (!src) {
                *dest = 0;
                return(dest);
@@ -759,12 +923,12 @@ size_t strhex_to_str(char *p, size_t len, const char *strhex)
                        continue;
                }
 
-               if (!(p1 = strchr_m(hexchars, toupper(strhex[i]))))
+               if (!(p1 = strchr_m(hexchars, toupper_ascii(strhex[i]))))
                        break;
 
                i++; /* next hex digit */
 
-               if (!(p2 = strchr_m(hexchars, toupper(strhex[i]))))
+               if (!(p2 = strchr_m(hexchars, toupper_ascii(strhex[i]))))
                        break;
 
                /* get the two nybbles */
@@ -780,48 +944,81 @@ size_t strhex_to_str(char *p, size_t len, const char *strhex)
        return num_chars;
 }
 
+DATA_BLOB strhex_to_data_blob(TALLOC_CTX *mem_ctx, const char *strhex) 
+{
+       DATA_BLOB ret_blob;
+
+       if (mem_ctx != NULL)
+               ret_blob = data_blob_talloc(mem_ctx, NULL, strlen(strhex)/2+1);
+       else
+               ret_blob = data_blob(NULL, strlen(strhex)/2+1);
+
+       ret_blob.length = strhex_to_str((char*)ret_blob.data,   
+                                       strlen(strhex), 
+                                       strhex);
+
+       return ret_blob;
+}
+
 /**
  * Routine to print a buffer as HEX digits, into an allocated string.
  */
 
-void hex_encode(const unsigned char *buff_in, size_t len, char **out_hex_buffer)
+char *hex_encode(TALLOC_CTX *mem_ctx, const unsigned char *buff_in, size_t len)
 {
        int i;
        char *hex_buffer;
 
-       *out_hex_buffer = smb_xmalloc((len*2)+1);
-       hex_buffer = *out_hex_buffer;
+       hex_buffer = TALLOC_ARRAY(mem_ctx, char, (len*2)+1);
 
        for (i = 0; i < len; i++)
                slprintf(&hex_buffer[i*2], 3, "%02X", buff_in[i]);
+
+       return hex_buffer;
 }
 
 /**
  Check if a string is part of a list.
 **/
 
-BOOL in_list(char *s,char *list,BOOL casesensitive)
+BOOL in_list(const char *s, const char *list, BOOL casesensitive)
 {
-       pstring tok;
+       char *tok;
        const char *p=list;
+       size_t bufsize = strlen(list);
+       BOOL ret = False;
 
        if (!list)
                return(False);
 
-       while (next_token(&p,tok,LIST_SEP,sizeof(tok))) {
+       /* We know a token can't be larger
+        * than the entire list. */
+
+       tok = SMB_MALLOC_ARRAY(char, bufsize+1);
+       if (!tok) {
+               return False;
+       }
+
+       while (next_token(&p,tok,LIST_SEP,bufsize+1)) {
                if (casesensitive) {
-                       if (strcmp(tok,s) == 0)
-                               return(True);
+                       if (strcmp(tok,s) == 0) {
+                               ret = True;
+                               break;
+                       }
                } else {
-                       if (StrCaseCmp(tok,s) == 0)
-                               return(True);
+                       if (StrCaseCmp(tok,s) == 0) {
+                               ret = True;
+                               break;
+                       }
                }
        }
-       return(False);
+
+       SAFE_FREE(tok);
+       return ret;
 }
 
 /* this is used to prevent lots of mallocs of size 1 */
-static char *null_string = NULL;
+static const char *null_string = "";
 
 /**
  Set a string value, allocing the space for the string
@@ -830,22 +1027,16 @@ static char *null_string = NULL;
 static BOOL string_init(char **dest,const char *src)
 {
        size_t l;
+
        if (!src)     
                src = "";
 
        l = strlen(src);
 
        if (l == 0) {
-               if (!null_string) {
-                       if((null_string = (char *)malloc(1)) == NULL) {
-                               DEBUG(0,("string_init: malloc fail for null_string.\n"));
-                               return False;
-                       }
-                       *null_string = 0;
-               }
-               *dest = null_string;
+               *dest = CONST_DISCARD(char*, null_string);
        } else {
-               (*dest) = strdup(src);
+               (*dest) = SMB_STRDUP(src);
                if ((*dest) == NULL) {
                        DEBUG(0,("Out of memory in string_init\n"));
                        return False;
@@ -883,14 +1074,15 @@ BOOL string_set(char **dest,const char *src)
  enough room!
 
  This routine looks for pattern in s and replaces it with 
- insert. It may do multiple replacements.
+ insert. It may do multiple replacements or just one.
 
  Any of " ; ' $ or ` in the insert string are replaced with _
  if len==0 then the string cannot be extended. This is different from the old
  use of len==0 which was for no length checks to be done.
 **/
 
-void string_sub(char *s,const char *pattern, const char *insert, size_t len)
+void string_sub2(char *s,const char *pattern, const char *insert, size_t len, 
+                BOOL remove_unsafe_characters, BOOL replace_once, BOOL allow_trailing_dollar)
 {
        char *p;
        ssize_t ls,lp,li, i;
@@ -905,7 +1097,7 @@ void string_sub(char *s,const char *pattern, const char *insert, size_t len)
        if (len == 0)
                len = ls + 1; /* len is number of *bytes* */
 
-       while (lp <= ls && (p = strstr(s,pattern))) {
+       while (lp <= ls && (p = strstr_m(s,pattern))) {
                if (ls + (li-lp) >= len) {
                        DEBUG(0,("ERROR: string overflow by %d in string_sub(%.50s, %d)\n", 
                                 (int)(ls + (li-lp) - len),
@@ -922,20 +1114,42 @@ void string_sub(char *s,const char *pattern, const char *insert, size_t len)
                        case '\'':
                        case ';':
                        case '$':
+                               /* allow a trailing $ (as in machine accounts) */
+                               if (allow_trailing_dollar && (i == li - 1 )) {
+                                       p[i] = insert[i];
+                                       break;
+                               }
                        case '%':
                        case '\r':
                        case '\n':
-                               p[i] = '_';
-                               break;
+                               if ( remove_unsafe_characters ) {
+                                       p[i] = '_';
+                                       /* yes this break should be here since we want to 
+                                          fall throw if not replacing unsafe chars */
+                                       break;
+                               }
                        default:
                                p[i] = insert[i];
                        }
                }
                s = p + li;
                ls += (li-lp);
+
+               if (replace_once)
+                       break;
        }
 }
 
+void string_sub_once(char *s, const char *pattern, const char *insert, size_t len)
+{
+       string_sub2( s, pattern, insert, len, True, True, False );
+}
+
+void string_sub(char *s,const char *pattern, const char *insert, size_t len)
+{
+       string_sub2( s, pattern, insert, len, True, False, False );
+}
+
 void fstring_sub(char *s,const char *pattern,const char *insert)
 {
        string_sub(s, pattern, insert, sizeof(fstring));
@@ -953,7 +1167,8 @@ void pstring_sub(char *s,const char *pattern,const char *insert)
  as string.
 **/
 
-char *realloc_string_sub(char *string, const char *pattern, const char *insert)
+char *realloc_string_sub(char *string, const char *pattern,
+                        const char *insert)
 {
        char *p, *in;
        char *s;
@@ -964,7 +1179,7 @@ char *realloc_string_sub(char *string, const char *pattern, const char *insert)
 
        s = string;
 
-       in = strdup(insert);
+       in = SMB_STRDUP(insert);
        if (!in) {
                DEBUG(0, ("realloc_string_sub: out of memory!\n"));
                return NULL;
@@ -990,17 +1205,87 @@ char *realloc_string_sub(char *string, const char *pattern, const char *insert)
                }
        }
        
-       while ((p = strstr(s,pattern))) {
+       while ((p = strstr_m(s,pattern))) {
                if (ld > 0) {
                        int offset = PTR_DIFF(s,string);
-                       char *t = Realloc(string, ls + ld + 1);
-                       if (!t) {
+                       string = (char *)SMB_REALLOC(string, ls + ld + 1);
+                       if (!string) {
                                DEBUG(0, ("realloc_string_sub: out of memory!\n"));
                                SAFE_FREE(in);
                                return NULL;
                        }
-                       string = t;
-                       p = t + offset + (p - s);
+                       p = string + offset + (p - s);
+               }
+               if (li != lp) {
+                       memmove(p+li,p+lp,strlen(p+lp)+1);
+               }
+               memcpy(p, in, li);
+               s = p + li;
+               ls += ld;
+       }
+       SAFE_FREE(in);
+       return string;
+}
+
+/* Same as string_sub, but returns a talloc'ed string */
+
+char *talloc_string_sub(TALLOC_CTX *mem_ctx, const char *src,
+                       const char *pattern, const char *insert)
+{
+       char *p, *in;
+       char *s;
+       char *string;
+       ssize_t ls,lp,li,ld, i;
+
+       if (!insert || !pattern || !*pattern || !src || !*src)
+               return NULL;
+
+       string = talloc_strdup(mem_ctx, src);
+       if (string == NULL) {
+               DEBUG(0, ("talloc_strdup failed\n"));
+               return NULL;
+       }
+
+       s = string;
+
+       in = SMB_STRDUP(insert);
+       if (!in) {
+               DEBUG(0, ("talloc_string_sub: out of memory!\n"));
+               return NULL;
+       }
+       ls = (ssize_t)strlen(s);
+       lp = (ssize_t)strlen(pattern);
+       li = (ssize_t)strlen(insert);
+       ld = li - lp;
+       for (i=0;i<li;i++) {
+               switch (in[i]) {
+                       case '`':
+                       case '"':
+                       case '\'':
+                       case ';':
+                       case '$':
+                       case '%':
+                       case '\r':
+                       case '\n':
+                               in[i] = '_';
+                       default:
+                               /* ok */
+                               break;
+               }
+       }
+       
+       while ((p = strstr_m(s,pattern))) {
+               if (ld > 0) {
+                       int offset = PTR_DIFF(s,string);
+                       string = (char *)TALLOC_REALLOC(mem_ctx, string,
+                                                       ls + ld + 1);
+                       if (!string) {
+                               DEBUG(0, ("talloc_string_sub: out of "
+                                         "memory!\n"));
+                               SAFE_FREE(in);
+                               return NULL;
+                       }
+                       p = string + offset + (p - s);
                }
                if (li != lp) {
                        memmove(p+li,p+lp,strlen(p+lp)+1);
@@ -1038,7 +1323,7 @@ void all_string_sub(char *s,const char *pattern,const char *insert, size_t len)
        if (len == 0)
                len = ls + 1; /* len is number of *bytes* */
        
-       while (lp <= ls && (p = strstr(s,pattern))) {
+       while (lp <= ls && (p = strstr_m(s,pattern))) {
                if (ls + (li-lp) >= len) {
                        DEBUG(0,("ERROR: string overflow by %d in all_string_sub(%.50s, %d)\n", 
                                 (int)(ls + (li-lp) - len),
@@ -1084,7 +1369,7 @@ static smb_ucs2_t *all_string_sub_w(const smb_ucs2_t *s, const smb_ucs2_t *patte
                }
        }
 
-       r = rp = (smb_ucs2_t *)malloc((lt + 1)*(sizeof(smb_ucs2_t)));
+       r = rp = SMB_MALLOC_ARRAY(smb_ucs2_t, lt + 1);
        if (!r) {
                DEBUG(0, ("all_string_sub_w: out of memory!\n"));
                return NULL;
@@ -1175,37 +1460,67 @@ char *string_truncate(char *s, unsigned int length)
  We convert via ucs2 for now.
 **/
 
-char *strchr_m(const char *s, char c)
+char *strchr_m(const char *src, char c)
 {
-       wpstring ws;
-       pstring s2;
+       smb_ucs2_t *ws = NULL;
+       char *s2 = NULL;
        smb_ucs2_t *p;
+       const char *s;
+       char *ret;
+
+       /* characters below 0x3F are guaranteed to not appear in
+          non-initial position in multi-byte charsets */
+       if ((c & 0xC0) == 0) {
+               return strchr(src, c);
+       }
 
        /* this is quite a common operation, so we want it to be
           fast. We optimise for the ascii case, knowing that all our
           supported multi-byte character sets are ascii-compatible
           (ie. they match for the first 128 chars) */
 
-       while (*s && !(((unsigned char)s[0]) & 0x80)) {
+       for (s = src; *s && !(((unsigned char)s[0]) & 0x80); s++) {
                if (*s == c)
-                       return s;
-               s++;
+                       return (char *)s;
        }
 
        if (!*s)
                return NULL;
 
-       push_ucs2(NULL, ws, s, sizeof(ws), STR_TERMINATE);
+#ifdef BROKEN_UNICODE_COMPOSE_CHARACTERS
+       /* With compose characters we must restart from the beginning. JRA. */
+       s = src;
+#endif
+
+       if (push_ucs2_allocate(&ws, s)==(size_t)-1) {
+               /* Wrong answer, but what can we do... */
+               return strchr(src, c);
+       }
        p = strchr_w(ws, UCS2_CHAR(c));
-       if (!p)
+       if (!p) {
+               SAFE_FREE(ws);
                return NULL;
+       }
        *p = 0;
-       pull_ucs2_pstring(s2, ws);
-       return (char *)(s+strlen(s2));
+       if (pull_ucs2_allocate(&s2, ws)==(size_t)-1) {
+               SAFE_FREE(ws);
+               /* Wrong answer, but what can we do... */
+               return strchr(src, c);
+       }
+       ret = (char *)(s+strlen(s2));
+       SAFE_FREE(ws);
+       SAFE_FREE(s2);
+       return ret;
 }
 
 char *strrchr_m(const char *s, char c)
 {
+       /* characters below 0x3F are guaranteed to not appear in
+          non-initial position in multi-byte charsets */
+       if ((c & 0xC0) == 0) {
+               return strrchr(s, c);
+       }
+
        /* this is quite a common operation, so we want it to be
           fast. We optimise for the ascii case, knowing that all our
           supported multi-byte character sets are ascii-compatible
@@ -1232,7 +1547,7 @@ char *strrchr_m(const char *s, char c)
                                        break;
                                }
                                /* No - we have a match ! */
-                               return cp;
+                               return (char *)cp;
                        }
                } while (cp-- != s);
                if (!got_mb)
@@ -1241,17 +1556,30 @@ char *strrchr_m(const char *s, char c)
 
        /* String contained a non-ascii char. Slow path. */
        {
-               wpstring ws;
-               pstring s2;
+               smb_ucs2_t *ws = NULL;
+               char *s2 = NULL;
                smb_ucs2_t *p;
+               char *ret;
 
-               push_ucs2(NULL, ws, s, sizeof(ws), STR_TERMINATE);
+               if (push_ucs2_allocate(&ws,s)==(size_t)-1) {
+                       /* Wrong answer, but what can we do. */
+                       return strrchr(s, c);
+               }
                p = strrchr_w(ws, UCS2_CHAR(c));
-               if (!p)
+               if (!p) {
+                       SAFE_FREE(ws);
                        return NULL;
+               }
                *p = 0;
-               pull_ucs2_pstring(s2, ws);
-               return (char *)(s+strlen(s2));
+               if (pull_ucs2_allocate(&s2,ws)==(size_t)-1) {
+                       SAFE_FREE(ws);
+                       /* Wrong answer, but what can we do. */
+                       return strrchr(s, c);
+               }
+               ret = (char *)(s+strlen(s2));
+               SAFE_FREE(ws);
+               SAFE_FREE(s2);
+               return ret;
        }
 }
 
@@ -1262,32 +1590,129 @@ char *strrchr_m(const char *s, char c)
 
 char *strnrchr_m(const char *s, char c, unsigned int n)
 {
-       wpstring ws;
-       pstring s2;
+       smb_ucs2_t *ws = NULL;
+       char *s2 = NULL;
        smb_ucs2_t *p;
+       char *ret;
 
-       push_ucs2(NULL, ws, s, sizeof(ws), STR_TERMINATE);
+       if (push_ucs2_allocate(&ws,s)==(size_t)-1) {
+               /* Too hard to try and get right. */
+               return NULL;
+       }
        p = strnrchr_w(ws, UCS2_CHAR(c), n);
-       if (!p)
+       if (!p) {
+               SAFE_FREE(ws);
                return NULL;
+       }
        *p = 0;
-       pull_ucs2_pstring(s2, ws);
-       return (char *)(s+strlen(s2));
+       if (pull_ucs2_allocate(&s2,ws)==(size_t)-1) {
+               SAFE_FREE(ws);
+               /* Too hard to try and get right. */
+               return NULL;
+       }
+       ret = (char *)(s+strlen(s2));
+       SAFE_FREE(ws);
+       SAFE_FREE(s2);
+       return ret;
 }
 
-/**
Convert a string to lower case.
-**/
+/***********************************************************************
strstr_m - We convert via ucs2 for now.
+***********************************************************************/
 
-void strlower_m(char *s)
+char *strstr_m(const char *src, const char *findstr)
 {
-       /* this is quite a common operation, so we want it to be
+       smb_ucs2_t *p;
+       smb_ucs2_t *src_w, *find_w;
+       const char *s;
+       char *s2;
+       char *retp;
+
+       size_t findstr_len = 0;
+
+       /* for correctness */
+       if (!findstr[0]) {
+               return (char*)src;
+       }
+
+       /* Samba does single character findstr calls a *lot*. */
+       if (findstr[1] == '\0')
+               return strchr_m(src, *findstr);
+
+       /* We optimise for the ascii case, knowing that all our
+          supported multi-byte character sets are ascii-compatible
+          (ie. they match for the first 128 chars) */
+
+       for (s = src; *s && !(((unsigned char)s[0]) & 0x80); s++) {
+               if (*s == *findstr) {
+                       if (!findstr_len) 
+                               findstr_len = strlen(findstr);
+
+                       if (strncmp(s, findstr, findstr_len) == 0) {
+                               return (char *)s;
+                       }
+               }
+       }
+
+       if (!*s)
+               return NULL;
+
+#if 1 /* def BROKEN_UNICODE_COMPOSE_CHARACTERS */
+       /* 'make check' fails unless we do this */
+
+       /* With compose characters we must restart from the beginning. JRA. */
+       s = src;
+#endif
+
+       if (push_ucs2_allocate(&src_w, src) == (size_t)-1) {
+               DEBUG(0,("strstr_m: src malloc fail\n"));
+               return NULL;
+       }
+       
+       if (push_ucs2_allocate(&find_w, findstr) == (size_t)-1) {
+               SAFE_FREE(src_w);
+               DEBUG(0,("strstr_m: find malloc fail\n"));
+               return NULL;
+       }
+
+       p = strstr_w(src_w, find_w);
+
+       if (!p) {
+               SAFE_FREE(src_w);
+               SAFE_FREE(find_w);
+               return NULL;
+       }
+       
+       *p = 0;
+       if (pull_ucs2_allocate(&s2, src_w) == (size_t)-1) {
+               SAFE_FREE(src_w);
+               SAFE_FREE(find_w);
+               DEBUG(0,("strstr_m: dest malloc fail\n"));
+               return NULL;
+       }
+       retp = (char *)(s+strlen(s2));
+       SAFE_FREE(src_w);
+       SAFE_FREE(find_w);
+       SAFE_FREE(s2);
+       return retp;
+}
+
+/**
+ Convert a string to lower case.
+**/
+
+void strlower_m(char *s)
+{
+       size_t len;
+       int errno_save;
+
+       /* this is quite a common operation, so we want it to be
           fast. We optimise for the ascii case, knowing that all our
           supported multi-byte character sets are ascii-compatible
           (ie. they match for the first 128 chars) */
 
-       while (*s && !(((unsigned char)s[0]) & 0x7F)) {
-               *s = tolower((unsigned char)*s);
+       while (*s && !(((unsigned char)s[0]) & 0x80)) {
+               *s = tolower_ascii((unsigned char)*s);
                s++;
        }
 
@@ -1296,7 +1721,14 @@ void strlower_m(char *s)
 
        /* I assume that lowercased string takes the same number of bytes
         * as source string even in UTF-8 encoding. (VIV) */
-       unix_strlower(s,strlen(s)+1,s,strlen(s)+1);     
+       len = strlen(s) + 1;
+       errno_save = errno;
+       errno = 0;
+       unix_strlower(s,len,s,len);     
+       /* Catch mb conversion errors that may not terminate. */
+       if (errno)
+               s[len-1] = '\0';
+       errno = errno_save;
 }
 
 /**
@@ -1305,13 +1737,16 @@ void strlower_m(char *s)
 
 void strupper_m(char *s)
 {
+       size_t len;
+       int errno_save;
+
        /* this is quite a common operation, so we want it to be
           fast. We optimise for the ascii case, knowing that all our
           supported multi-byte character sets are ascii-compatible
           (ie. they match for the first 128 chars) */
 
-       while (*s && !(((unsigned char)s[0]) & 0x7F)) {
-               *s = toupper((unsigned char)*s);
+       while (*s && !(((unsigned char)s[0]) & 0x80)) {
+               *s = toupper_ascii((unsigned char)*s);
                s++;
        }
 
@@ -1320,21 +1755,98 @@ void strupper_m(char *s)
 
        /* I assume that lowercased string takes the same number of bytes
         * as source string even in multibyte encoding. (VIV) */
-       unix_strupper(s,strlen(s)+1,s,strlen(s)+1);     
+       len = strlen(s) + 1;
+       errno_save = errno;
+       errno = 0;
+       unix_strupper(s,len,s,len);     
+       /* Catch mb conversion errors that may not terminate. */
+       if (errno)
+               s[len-1] = '\0';
+       errno = errno_save;
+}
+
+/**
+ Count the number of UCS2 characters in a string. Normally this will
+ be the same as the number of bytes in a string for single byte strings,
+ but will be different for multibyte.
+**/
+
+size_t strlen_m(const char *s)
+{
+       size_t count = 0;
+
+       if (!s) {
+               return 0;
+       }
+
+       while (*s && !(((uint8_t)*s) & 0x80)) {
+               s++;
+               count++;
+       }
+
+       if (!*s) {
+               return count;
+       }
+
+       while (*s) {
+               size_t c_size;
+               codepoint_t c = next_codepoint(s, &c_size);
+               if (c < 0x10000) {
+                       /* Unicode char fits into 16 bits. */
+                       count += 1;
+               } else {
+                       /* Double-width unicode char - 32 bits. */
+                       count += 2;
+               }
+               s += c_size;
+       }
+
+       return count;
 }
 
+/**
+ Count the number of UCS2 characters in a string including the null
+ terminator.
+**/
+
+size_t strlen_m_term(const char *s)
+{
+       if (!s) {
+               return 0;
+       }
+       return strlen_m(s) + 1;
+}
+
+/*
+ * Weird helper routine for the winreg pipe: If nothing is around, return 0,
+ * if a string is there, include the terminator.
+ */
+
+size_t strlen_m_term_null(const char *s)
+{
+       size_t len;
+       if (!s) {
+               return 0;
+       }
+       len = strlen_m(s);
+       if (len == 0) {
+               return 0;
+       }
+
+       return len+1;
+}
 /**
  Return a RFC2254 binary string representation of a buffer.
  Used in LDAP filters.
  Caller must free.
 **/
 
-char *binary_string(char *buf, int len)
+char *binary_string_rfc2254(char *buf, int len)
 {
        char *s;
        int i, j;
        const char *hex = "0123456789ABCDEF";
-       s = malloc(len * 3 + 1);
+       s = (char *)SMB_MALLOC(len * 3 + 1);
        if (!s)
                return NULL;
        for (j=i=0;i<len;i++) {
@@ -1347,6 +1859,22 @@ char *binary_string(char *buf, int len)
        return s;
 }
 
+char *binary_string(char *buf, int len)
+{
+       char *s;
+       int i, j;
+       const char *hex = "0123456789ABCDEF";
+       s = (char *)SMB_MALLOC(len * 2 + 1);
+       if (!s)
+               return NULL;
+       for (j=i=0;i<len;i++) {
+               s[j]   = hex[((unsigned char)buf[i]) >> 4];
+               s[j+1] = hex[((unsigned char)buf[i]) & 0xF];
+               j += 2;
+       }
+       s[j] = 0;
+       return s;
+}
 /**
  Just a typesafety wrapper for snprintf into a pstring.
 **/
@@ -1378,97 +1906,101 @@ int fstr_sprintf(fstring s, const char *fmt, ...)
        return ret;
 }
 
-
-#ifndef HAVE_STRNDUP
-/**
- Some platforms don't have strndup.
-**/
-
- char *strndup(const char *s, size_t n)
-{
-       char *ret;
-       
-       n = strnlen(s, n);
-       ret = malloc(n+1);
-       if (!ret)
-               return NULL;
-       memcpy(ret, s, n);
-       ret[n] = 0;
-
-       return ret;
-}
-#endif
-
-#ifndef HAVE_STRNLEN
-/**
- Some platforms don't have strnlen
-**/
-
- size_t strnlen(const char *s, size_t n)
-{
-       int i;
-       for (i=0; s[i] && i<n; i++)
-               /* noop */ ;
-       return i;
-}
-#endif
-
 /**
  List of Strings manipulation functions
 **/
 
 #define S_LIST_ABS 16 /* List Allocation Block Size */
 
-char **str_list_make(const char *string, const char *sep)
+static char **str_list_make_internal(TALLOC_CTX *mem_ctx, const char *string, const char *sep)
 {
        char **list, **rlist;
        const char *str;
        char *s;
        int num, lsize;
        pstring tok;
-       
+
        if (!string || !*string)
                return NULL;
-       s = strdup(string);
+       if (mem_ctx) {
+               s = talloc_strdup(mem_ctx, string);
+       } else {
+               s = SMB_STRDUP(string);
+       }
        if (!s) {
                DEBUG(0,("str_list_make: Unable to allocate memory"));
                return NULL;
        }
        if (!sep) sep = LIST_SEP;
-       
+
        num = lsize = 0;
        list = NULL;
-       
+
        str = s;
-       while (next_token(&str, tok, sep, sizeof(tok))) {               
+       while (next_token(&str, tok, sep, sizeof(tok))) {
                if (num == lsize) {
                        lsize += S_LIST_ABS;
-                       rlist = (char **)Realloc(list, ((sizeof(char **)) * (lsize +1)));
+                       if (mem_ctx) {
+                               rlist = TALLOC_REALLOC_ARRAY(mem_ctx, list, char *, lsize +1);
+                       } else {
+                               /* We need to keep the old list on error so we can free the elements
+                                  if the realloc fails. */
+                               rlist = SMB_REALLOC_ARRAY_KEEP_OLD_ON_ERROR(list, char *, lsize +1);
+                       }
                        if (!rlist) {
                                DEBUG(0,("str_list_make: Unable to allocate memory"));
                                str_list_free(&list);
-                               SAFE_FREE(s);
+                               if (mem_ctx) {
+                                       TALLOC_FREE(s);
+                               } else {
+                                       SAFE_FREE(s);
+                               }
                                return NULL;
-                       } else
+                       } else {
                                list = rlist;
+                       }
                        memset (&list[num], 0, ((sizeof(char**)) * (S_LIST_ABS +1)));
                }
-               
-               list[num] = strdup(tok);
+
+               if (mem_ctx) {
+                       list[num] = talloc_strdup(mem_ctx, tok);
+               } else {
+                       list[num] = SMB_STRDUP(tok);
+               }
+
                if (!list[num]) {
                        DEBUG(0,("str_list_make: Unable to allocate memory"));
                        str_list_free(&list);
-                       SAFE_FREE(s);
+                       if (mem_ctx) {
+                               TALLOC_FREE(s);
+                       } else {
+                               SAFE_FREE(s);
+                       }
                        return NULL;
                }
        
                num++;  
        }
-       
-       SAFE_FREE(s);
+
+       if (mem_ctx) {
+               TALLOC_FREE(s);
+       } else {
+               SAFE_FREE(s);
+       }
+
        return list;
 }
 
+char **str_list_make_talloc(TALLOC_CTX *mem_ctx, const char *string, const char *sep)
+{
+       return str_list_make_internal(mem_ctx, string, sep);
+}
+
+char **str_list_make(const char *string, const char *sep)
+{
+       return str_list_make_internal(NULL, string, sep);
+}
+
 BOOL str_list_copy(char ***dest, const char **src)
 {
        char **list, **rlist;
@@ -1484,17 +2016,18 @@ BOOL str_list_copy(char ***dest, const char **src)
        while (src[num]) {
                if (num == lsize) {
                        lsize += S_LIST_ABS;
-                       rlist = (char **)Realloc(list, ((sizeof(char **)) * (lsize +1)));
+                       rlist = SMB_REALLOC_ARRAY_KEEP_OLD_ON_ERROR(list, char *, lsize +1);
                        if (!rlist) {
                                DEBUG(0,("str_list_copy: Unable to re-allocate memory"));
                                str_list_free(&list);
                                return False;
-                       } else
+                       } else {
                                list = rlist;
+                       }
                        memset (&list[num], 0, ((sizeof(char **)) * (S_LIST_ABS +1)));
                }
                
-               list[num] = strdup(src[num]);
+               list[num] = SMB_STRDUP(src[num]);
                if (!list[num]) {
                        DEBUG(0,("str_list_copy: Unable to allocate memory"));
                        str_list_free(&list);
@@ -1530,16 +2063,52 @@ BOOL str_list_compare(char **list1, char **list2)
        return True;
 }
 
-void str_list_free(char ***list)
+static void str_list_free_internal(TALLOC_CTX *mem_ctx, char ***list)
 {
        char **tlist;
        
        if (!list || !*list)
                return;
        tlist = *list;
-       for(; *tlist; tlist++)
-               SAFE_FREE(*tlist);
-       SAFE_FREE(*list);
+       for(; *tlist; tlist++) {
+               if (mem_ctx) {
+                       TALLOC_FREE(*tlist);
+               } else {
+                       SAFE_FREE(*tlist);
+               }
+       }
+       if (mem_ctx) {
+               TALLOC_FREE(*tlist);
+       } else {
+               SAFE_FREE(*list);
+       }
+}
+
+void str_list_free_talloc(TALLOC_CTX *mem_ctx, char ***list)
+{
+       str_list_free_internal(mem_ctx, list);
+}
+
+void str_list_free(char ***list)
+{
+       str_list_free_internal(NULL, list);
+}
+
+/******************************************************************************
+ *****************************************************************************/
+
+int str_list_count( const char **list )
+{
+       int i = 0;
+
+       if ( ! list )
+               return 0;
+
+       /* count the number of list members */
+       
+       for ( i=0; *list; i++, list++ );
+       
+       return i;
 }
 
 /******************************************************************************
@@ -1547,18 +2116,20 @@ void str_list_free(char ***list)
  for the work
  *****************************************************************************/
  
-BOOL str_list_sub_basic( char **list, const char *smb_name )
+BOOL str_list_sub_basic( char **list, const char *smb_name,
+                        const char *domain_name )
 {
        char *s, *tmpstr;
        
        while ( *list ) {
                s = *list;
-               tmpstr = alloc_sub_basic(smb_name, s);
+               tmpstr = alloc_sub_basic(smb_name, domain_name, s);
                if ( !tmpstr ) {
                        DEBUG(0,("str_list_sub_basic: alloc_sub_basic() return NULL!\n"));
                        return False;
                }
 
+               SAFE_FREE(*list);
                *list = tmpstr;
                        
                list++;
@@ -1591,11 +2162,11 @@ BOOL str_list_substitute(char **list, const char *pattern, const char *insert)
                s = *list;
                ls = (ssize_t)strlen(s);
 
-               while ((p = strstr(s, pattern))) {
+               while ((p = strstr_m(s, pattern))) {
                        t = *list;
                        d = p -t;
                        if (ld) {
-                               t = (char *) malloc(ls +ld +1);
+                               t = (char *) SMB_MALLOC(ls +ld +1);
                                if (!t) {
                                        DEBUG(0,("str_list_substitute: Unable to allocate memory"));
                                        return False;
@@ -1685,7 +2256,7 @@ char* ipstr_list_make(char** ipstr_list, const struct ip_service* ip_list, int i
        int i;
        
        /* arguments checking */
-       if (!ip_list && !ipstr_list) return 0;
+       if (!ip_list || !ipstr_list) return 0;
 
        *ipstr_list = NULL;
        
@@ -1718,7 +2289,7 @@ int ipstr_list_parse(const char* ipstr_list, struct ip_service **ip_list)
                return 0;
        
        count = count_chars(ipstr_list, IPSTR_LIST_CHAR) + 1;
-       if ( (*ip_list = (struct ip_service*)malloc(count * sizeof(struct ip_service))) == NULL ) {
+       if ( (*ip_list = SMB_MALLOC_ARRAY(struct ip_service, count)) == NULL ) {
                DEBUG(0,("ipstr_list_parse: malloc failed for %lu entries\n", (unsigned long)count));
                return 0;
        }
@@ -1768,11 +2339,6 @@ void rfc1738_unescape(char *buf)
 {
        char *p=buf;
 
-       while ((p=strchr_m(p,'+')))
-               *p = ' ';
-
-       p = buf;
-
        while (p && *p && (p=strchr_m(p,'%'))) {
                int c1 = p[1];
                int c2 = p[2];
@@ -1831,6 +2397,10 @@ DATA_BLOB base64_decode_data_blob(const char *s)
                s++; i++;
        }
 
+       if ((n > 0) && (*s == '=')) {
+               n -= 1;
+       }
+
        /* fix up length */
        decoded.length = n;
        return decoded;
@@ -1842,9 +2412,15 @@ DATA_BLOB base64_decode_data_blob(const char *s)
 void base64_decode_inplace(char *s)
 {
        DATA_BLOB decoded = base64_decode_data_blob(s);
-       memcpy(s, decoded.data, decoded.length);
-       /* null terminate */
-       s[decoded.length] = '\0';
+
+       if ( decoded.length != 0 ) {
+               memcpy(s, decoded.data, decoded.length);
+
+               /* null terminate */
+               s[decoded.length] = '\0';
+       } else {
+               *s = '\0';
+       }
 
        data_blob_free(&decoded);
 }
@@ -1858,10 +2434,16 @@ char * base64_encode_data_blob(DATA_BLOB data)
 {
        int bits = 0;
        int char_count = 0;
-       size_t out_cnt = 0;
-       size_t len = data.length;
-       size_t output_len = data.length * 2;
-       char *result = malloc(output_len); /* get us plenty of space */
+       size_t out_cnt, len, output_len;
+       char *result;
+
+        if (!data.length || !data.data)
+               return NULL;
+
+       out_cnt = 0;
+       len = data.length;
+       output_len = data.length * 2;
+       result = (char *)SMB_MALLOC(output_len); /* get us plenty of space */
 
        while (len-- && out_cnt < (data.length * 2) - 5) {
                int c = (unsigned char) *(data.data++);
@@ -1901,18 +2483,447 @@ SMB_BIG_UINT STR_TO_SMB_BIG_UINT(const char *nptr, const char **entptr)
        SMB_BIG_UINT val = -1;
        const char *p = nptr;
        
-       while (p && *p && isspace(*p))
+       if (!p) {
+               if (entptr) {
+                       *entptr = p;
+               }
+               return val;
+       }
+
+       while (*p && isspace(*p))
                p++;
+
 #ifdef LARGE_SMB_OFF_T
        sscanf(p,"%llu",&val);  
 #else /* LARGE_SMB_OFF_T */
        sscanf(p,"%lu",&val);
 #endif /* LARGE_SMB_OFF_T */
        if (entptr) {
-               while (p && *p && isdigit(*p))
+               while (*p && isdigit(*p))
                        p++;
                *entptr = p;
        }
 
        return val;
 }
+
+/* Convert a size specification to a count of bytes. We accept the following
+ * suffixes:
+ *         bytes if there is no suffix
+ *     kK  kibibytes
+ *     mM  mebibytes
+ *     gG  gibibytes
+ *     tT  tibibytes
+ *     pP  whatever the ISO name for petabytes is
+ *
+ *  Returns 0 if the string can't be converted.
+ */
+SMB_OFF_T conv_str_size(const char * str)
+{
+        SMB_OFF_T lval;
+       char * end;
+
+        if (str == NULL || *str == '\0') {
+                return 0;
+        }
+
+#ifdef HAVE_STRTOULL
+       if (sizeof(SMB_OFF_T) == 8) {
+           lval = strtoull(str, &end, 10 /* base */);
+       } else {
+           lval = strtoul(str, &end, 10 /* base */);
+       }
+#else
+       lval = strtoul(str, &end, 10 /* base */);
+#endif
+
+        if (end == NULL || end == str) {
+                return 0;
+        }
+
+        if (*end) {
+               SMB_OFF_T lval_orig = lval;
+
+                if (strwicmp(end, "K") == 0) {
+                        lval *= (SMB_OFF_T)1024;
+                } else if (strwicmp(end, "M") == 0) {
+                        lval *= ((SMB_OFF_T)1024 * (SMB_OFF_T)1024);
+                } else if (strwicmp(end, "G") == 0) {
+                        lval *= ((SMB_OFF_T)1024 * (SMB_OFF_T)1024 *
+                               (SMB_OFF_T)1024);
+                } else if (strwicmp(end, "T") == 0) {
+                        lval *= ((SMB_OFF_T)1024 * (SMB_OFF_T)1024 *
+                               (SMB_OFF_T)1024 * (SMB_OFF_T)1024);
+                } else if (strwicmp(end, "P") == 0) {
+                        lval *= ((SMB_OFF_T)1024 * (SMB_OFF_T)1024 *
+                               (SMB_OFF_T)1024 * (SMB_OFF_T)1024 *
+                               (SMB_OFF_T)1024);
+                } else {
+                        return 0;
+                }
+
+               /* Primitive attempt to detect wrapping on platforms with
+                * 4-byte SMB_OFF_T. It's better to let the caller handle
+                * a failure than some random number.
+                */
+               if (lval_orig <= lval) {
+                       return 0;
+               }
+        }
+
+       return lval;
+}
+
+void string_append(char **left, const char *right)
+{
+       int new_len = strlen(right) + 1;
+
+       if (*left == NULL) {
+               *left = (char *)SMB_MALLOC(new_len);
+               *left[0] = '\0';
+       } else {
+               new_len += strlen(*left);
+               *left = (char *)SMB_REALLOC(*left, new_len);
+       }
+
+       if (*left == NULL) {
+               return;
+       }
+
+       safe_strcat(*left, right, new_len-1);
+}
+
+BOOL add_string_to_array(TALLOC_CTX *mem_ctx,
+                        const char *str, const char ***strings,
+                        int *num)
+{
+       char *dup_str = talloc_strdup(mem_ctx, str);
+
+       *strings = TALLOC_REALLOC_ARRAY(mem_ctx, *strings, const char *, (*num)+1);
+
+       if ((*strings == NULL) || (dup_str == NULL)) {
+               *num = 0;
+               return False;
+       }
+
+       (*strings)[*num] = dup_str;
+       *num += 1;
+       return True;
+}
+
+/* Append an sprintf'ed string. Double buffer size on demand. Usable without
+ * error checking in between. The indiation that something weird happened is
+ * string==NULL */
+
+void sprintf_append(TALLOC_CTX *mem_ctx, char **string, ssize_t *len,
+                   size_t *bufsize, const char *fmt, ...)
+{
+       va_list ap;
+       char *newstr;
+       int ret;
+       BOOL increased;
+
+       /* len<0 is an internal marker that something failed */
+       if (*len < 0)
+               goto error;
+
+       if (*string == NULL) {
+               if (*bufsize == 0)
+                       *bufsize = 128;
+
+               *string = TALLOC_ARRAY(mem_ctx, char, *bufsize);
+               if (*string == NULL)
+                       goto error;
+       }
+
+       va_start(ap, fmt);
+       ret = vasprintf(&newstr, fmt, ap);
+       va_end(ap);
+
+       if (ret < 0)
+               goto error;
+
+       increased = False;
+
+       while ((*len)+ret >= *bufsize) {
+               increased = True;
+               *bufsize *= 2;
+               if (*bufsize >= (1024*1024*256))
+                       goto error;
+       }
+
+       if (increased) {
+               *string = TALLOC_REALLOC_ARRAY(mem_ctx, *string, char,
+                                              *bufsize);
+               if (*string == NULL) {
+                       goto error;
+               }
+       }
+
+       StrnCpy((*string)+(*len), newstr, ret);
+       (*len) += ret;
+       free(newstr);
+       return;
+
+ error:
+       *len = -1;
+       *string = NULL;
+}
+
+/*
+   Returns the substring from src between the first occurrence of
+   the char "front" and the first occurence of the char "back".
+   Mallocs the return string which must be freed.  Not for use
+   with wide character strings.
+*/
+char *sstring_sub(const char *src, char front, char back)
+{
+       char *temp1, *temp2, *temp3;
+       ptrdiff_t len;
+
+       temp1 = strchr(src, front);
+       if (temp1 == NULL) return NULL;
+       temp2 = strchr(src, back);
+       if (temp2 == NULL) return NULL;
+       len = temp2 - temp1;
+       if (len <= 0) return NULL;
+       temp3 = (char*)SMB_MALLOC(len);
+       if (temp3 == NULL) {
+               DEBUG(1,("Malloc failure in sstring_sub\n"));
+               return NULL;
+       }
+       memcpy(temp3, temp1+1, len-1);
+       temp3[len-1] = '\0';
+       return temp3;
+}
+
+/********************************************************************
+ Check a string for any occurrences of a specified list of invalid
+ characters.
+********************************************************************/
+
+BOOL validate_net_name( const char *name, const char *invalid_chars, int max_len )
+{
+       int i;
+
+       for ( i=0; i<max_len && name[i]; i++ ) {
+               /* fail if strchr_m() finds one of the invalid characters */
+               if ( name[i] && strchr_m( invalid_chars, name[i] ) ) {
+                       return False;
+               }
+       }
+
+       return True;
+}
+
+
+/**
+return the number of bytes occupied by a buffer in ASCII format
+the result includes the null termination
+limited by 'n' bytes
+**/
+size_t ascii_len_n(const char *src, size_t n)
+{
+       size_t len;
+
+       len = strnlen(src, n);
+       if (len+1 <= n) {
+               len += 1;
+       }
+
+       return len;
+}
+
+/**
+return the number of bytes occupied by a buffer in CH_UTF16 format
+the result includes the null termination
+**/
+size_t utf16_len(const void *buf)
+{
+       size_t len;
+
+       for (len = 0; SVAL(buf,len); len += 2) ;
+
+       return len + 2;
+}
+
+/**
+return the number of bytes occupied by a buffer in CH_UTF16 format
+the result includes the null termination
+limited by 'n' bytes
+**/
+size_t utf16_len_n(const void *src, size_t n)
+{
+       size_t len;
+
+       for (len = 0; (len+2 < n) && SVAL(src, len); len += 2) ;
+
+       if (len+2 <= n) {
+               len += 2;
+       }
+
+       return len;
+}
+
+/*******************************************************************
+ Add a shell escape character '\' to any character not in a known list
+ of characters. UNIX charset format.
+*******************************************************************/
+
+#define INCLUDE_LIST "0123456789ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz_/ \t.,"
+#define INSIDE_DQUOTE_LIST "$`\n\"\\"
+
+char *escape_shell_string(const char *src)
+{
+       size_t srclen = strlen(src);
+       char *ret = SMB_MALLOC_ARRAY(char, (srclen * 2) + 1);
+       char *dest = ret;
+       BOOL in_s_quote = False;
+       BOOL in_d_quote = False;
+       BOOL next_escaped = False;
+
+       if (!ret) {
+               return NULL;
+       }
+
+       while (*src) {
+               size_t c_size;
+               codepoint_t c = next_codepoint(src, &c_size);
+
+               if (c == INVALID_CODEPOINT) {
+                       SAFE_FREE(ret);
+                       return NULL;
+               }
+
+               if (c_size > 1) {
+                       memcpy(dest, src, c_size);
+                       src += c_size;
+                       dest += c_size;
+                       next_escaped = False;
+                       continue;
+               }
+
+               /*
+                * Deal with backslash escaped state.
+                * This only lasts for one character.
+                */
+
+               if (next_escaped) {
+                       *dest++ = *src++;
+                       next_escaped = False;
+                       continue;
+               }
+
+               /*
+                * Deal with single quote state. The
+                * only thing we care about is exiting
+                * this state.
+                */
+
+               if (in_s_quote) {
+                       if (*src == '\'') {
+                               in_s_quote = False;
+                       }
+                       *dest++ = *src++;
+                       continue;
+               }
+
+               /* 
+                * Deal with double quote state. The most
+                * complex state. We must cope with \, meaning
+                * possibly escape next char (depending what it
+                * is), ", meaning exit this state, and possibly
+                * add an \ escape to any unprotected character
+                * (listed in INSIDE_DQUOTE_LIST).
+                */
+
+               if (in_d_quote) {
+                       if (*src == '\\') {
+                               /* 
+                                * Next character might be escaped.
+                                * We have to peek. Inside double
+                                * quotes only INSIDE_DQUOTE_LIST
+                                * characters are escaped by a \.
+                                */
+
+                               char nextchar;
+
+                               c = next_codepoint(&src[1], &c_size);
+                               if (c == INVALID_CODEPOINT) {
+                                       SAFE_FREE(ret);
+                                       return NULL;
+                               }
+                               if (c_size > 1) {
+                                       /*
+                                        * Don't escape the next char.
+                                        * Just copy the \.
+                                        */
+                                       *dest++ = *src++;
+                                       continue;
+                               }
+
+                               nextchar = src[1];
+
+                               if (nextchar && strchr(INSIDE_DQUOTE_LIST, (int)nextchar)) {
+                                       next_escaped = True;
+                               }
+                               *dest++ = *src++;
+                               continue;
+                       }
+
+                       if (*src == '\"') {
+                               /* Exit double quote state. */
+                               in_d_quote = False;
+                               *dest++ = *src++;
+                               continue;
+                       }
+
+                       /*
+                        * We know the character isn't \ or ",
+                        * so escape it if it's any of the other
+                        * possible unprotected characters.
+                        */
+
+                       if (strchr(INSIDE_DQUOTE_LIST, (int)*src)) {
+                               *dest++ = '\\';
+                       }
+                       *dest++ = *src++;
+                       continue;
+               }
+
+               /* 
+                * From here to the end of the loop we're
+                * not in the single or double quote state.
+                */
+
+               if (*src == '\\') {
+                       /* Next character must be escaped. */
+                       next_escaped = True;
+                       *dest++ = *src++;
+                       continue;
+               }
+
+               if (*src == '\'') {
+                       /* Go into single quote state. */
+                       in_s_quote = True;
+                       *dest++ = *src++;
+                       continue;
+               }
+
+               if (*src == '\"') {
+                       /* Go into double quote state. */
+                       in_d_quote = True;
+                       *dest++ = *src++;
+                       continue;
+               }
+
+               /* Check if we need to escape the character. */
+
+               if (!strchr(INCLUDE_LIST, (int)*src)) {
+                       *dest++ = '\\';
+               }
+               *dest++ = *src++;
+       }
+       *dest++ = '\0';
+       return ret;
+}