← Back to branch summary

~ubuntu-branches/ubuntu/trusty/mariadb-5.5/trusty-proposed

« back to all changes in this revision

Viewing changes to storage/tokudb/ft-index/src/tests/hotindexer-put-commit.cc

  • Committer: Package Import Robot
  • Author(s): James Page, Otto Kekäläinen
  • Date: 2014-02-17 16:51:52 UTC
  • mfrom: (2.1.1 sid)
  • Revision ID: package-import@ubuntu.com-20140217165152-k315d3175g865kkx
Tags: 5.5.35-1
http://bugs.debian.org/737597
http://bugs.debian.org/733002
http://bugs.debian.org/734426
http://bugs.debian.org/735284
http://bugs.debian.org/736480
http://bugs.debian.org/732967
[ Otto Kekäläinen ]
* New upstream release, fixing the following security issues:
  - Buffer overflow in client/mysql.cc (Closes: #737597).
    - CVE-2014-0001
  - http://www.oracle.com/technetwork/topics/security/cpujan2014-1972949.html
    - CVE-2013-5891
    - CVE-2013-5908
    - CVE-2014-0386
    - CVE-2014-0393
    - CVE-2014-0401
    - CVE-2014-0402
    - CVE-2014-0412
    - CVE-2014-0420
    - CVE-2014-0437
* Upstream https://mariadb.atlassian.net/browse/MDEV-4902
  fixes compatibility with Bison 3.0 (Closes: #733002)
* Updated Russian debconf translation (Closes: #734426)
* Updated Japanese debconf translation (Closes: #735284)
* Updated French debconf translation (Closes: #736480)
* Renamed SONAME properly (Closes: #732967)

Show diffs side-by-side

added added

removed removed

Lines of Context:
storage/tokudb/ft-index/src/tests/hotindexer-put-commit.cc
 
1
/* -*- mode: C++; c-basic-offset: 4; indent-tabs-mode: nil -*- */
 
2
// vim: ft=cpp:expandtab:ts=8:sw=4:softtabstop=4:
 
3
#ident "$Id$"
 
4
/*
 
5
COPYING CONDITIONS NOTICE:
 
6
 
 
7
  This program is free software; you can redistribute it and/or modify
 
8
  it under the terms of version 2 of the GNU General Public License as
 
9
  published by the Free Software Foundation, and provided that the
 
10
  following conditions are met:
 
11
 
 
12
      * Redistributions of source code must retain this COPYING
 
13
        CONDITIONS NOTICE, the COPYRIGHT NOTICE (below), the
 
14
        DISCLAIMER (below), the UNIVERSITY PATENT NOTICE (below), the
 
15
        PATENT MARKING NOTICE (below), and the PATENT RIGHTS
 
16
        GRANT (below).
 
17
 
 
18
      * Redistributions in binary form must reproduce this COPYING
 
19
        CONDITIONS NOTICE, the COPYRIGHT NOTICE (below), the
 
20
        DISCLAIMER (below), the UNIVERSITY PATENT NOTICE (below), the
 
21
        PATENT MARKING NOTICE (below), and the PATENT RIGHTS
 
22
        GRANT (below) in the documentation and/or other materials
 
23
        provided with the distribution.
 
24
 
 
25
  You should have received a copy of the GNU General Public License
 
26
  along with this program; if not, write to the Free Software
 
27
  Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
 
28
  02110-1301, USA.
 
29
 
 
30
COPYRIGHT NOTICE:
 
31
 
 
32
  TokuDB, Tokutek Fractal Tree Indexing Library.
 
33
  Copyright (C) 2007-2013 Tokutek, Inc.
 
34
 
 
35
DISCLAIMER:
 
36
 
 
37
  This program is distributed in the hope that it will be useful, but
 
38
  WITHOUT ANY WARRANTY; without even the implied warranty of
 
39
  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
 
40
  General Public License for more details.
 
41
 
 
42
UNIVERSITY PATENT NOTICE:
 
43
 
 
44
  The technology is licensed by the Massachusetts Institute of
 
45
  Technology, Rutgers State University of New Jersey, and the Research
 
46
  Foundation of State University of New York at Stony Brook under
 
47
  United States of America Serial No. 11/760379 and to the patents
 
48
  and/or patent applications resulting from it.
 
49
 
 
50
PATENT MARKING NOTICE:
 
51
 
 
52
  This software is covered by US Patent No. 8,185,551.
 
53
  This software is covered by US Patent No. 8,489,638.
 
54
 
 
55
PATENT RIGHTS GRANT:
 
56
 
 
57
  "THIS IMPLEMENTATION" means the copyrightable works distributed by
 
58
  Tokutek as part of the Fractal Tree project.
 
59
 
 
60
  "PATENT CLAIMS" means the claims of patents that are owned or
 
61
  licensable by Tokutek, both currently or in the future; and that in
 
62
  the absence of this license would be infringed by THIS
 
63
  IMPLEMENTATION or by using or running THIS IMPLEMENTATION.
 
64
 
 
65
  "PATENT CHALLENGE" shall mean a challenge to the validity,
 
66
  patentability, enforceability and/or non-infringement of any of the
 
67
  PATENT CLAIMS or otherwise opposing any of the PATENT CLAIMS.
 
68
 
 
69
  Tokutek hereby grants to you, for the term and geographical scope of
 
70
  the PATENT CLAIMS, a non-exclusive, no-charge, royalty-free,
 
71
  irrevocable (except as stated in this section) patent license to
 
72
  make, have made, use, offer to sell, sell, import, transfer, and
 
73
  otherwise run, modify, and propagate the contents of THIS
 
74
  IMPLEMENTATION, where such license applies only to the PATENT
 
75
  CLAIMS.  This grant does not include claims that would be infringed
 
76
  only as a consequence of further modifications of THIS
 
77
  IMPLEMENTATION.  If you or your agent or licensee institute or order
 
78
  or agree to the institution of patent litigation against any entity
 
79
  (including a cross-claim or counterclaim in a lawsuit) alleging that
 
80
  THIS IMPLEMENTATION constitutes direct or contributory patent
 
81
  infringement, or inducement of patent infringement, then any rights
 
82
  granted to you under this License shall terminate as of the date
 
83
  such litigation is filed.  If you or your agent or exclusive
 
84
  licensee institute or order or agree to the institution of a PATENT
 
85
  CHALLENGE, then Tokutek may terminate any rights granted to you
 
86
  under this License.
 
87
*/
 
88
 
 
89
#ident "Copyright (c) 2007-2013 Tokutek Inc.  All rights reserved."
 
90
#ident "The technology is licensed by the Massachusetts Institute of Technology, Rutgers State University of New Jersey, and the Research Foundation of State University of New York at Stony Brook under United States of America Serial No. 11/760379 and to the patents and/or patent applications resulting from it."
 
91
#include "test.h"
 
92
#include "ydb.h"
 
93
#include "toku_pthread.h"
 
94
 
 
95
// this test reproduces the rollback log corruption that occurs when hot indexing runs concurrent with a long commit.
 
96
// the concurrent operation occurs when the commit periodically releases the ydb lock which allows the hot indexer
 
97
// to run.  the hot indexer erroneously append to the rollback log that is in the process of being committed.
 
98
 
 
99
static int
 
100
put_callback(DB *dest_db, DB *src_db, DBT_ARRAY *dest_keys, DBT_ARRAY *dest_vals, const DBT *src_key, const DBT *src_val) {
 
101
    toku_dbt_array_resize(dest_keys, 1);
 
102
    toku_dbt_array_resize(dest_vals, 1);
 
103
    DBT *dest_key = &dest_keys->dbts[0];
 
104
    DBT *dest_val = &dest_vals->dbts[0];
 
105
    (void) dest_db; (void) src_db; (void) dest_key; (void) dest_val; (void) src_key; (void) src_val;
 
106
 
 
107
    lazy_assert(src_db != NULL && dest_db != NULL);
 
108
 
 
109
    if (dest_key->flags == DB_DBT_REALLOC) {
 
110
        dest_key->data = toku_realloc(dest_key->data, src_key->size);
 
111
        memcpy(dest_key->data, src_key->data, src_key->size);
 
112
        dest_key->size = src_key->size;
 
113
    }
 
114
    if (dest_val->flags == DB_DBT_REALLOC) {
 
115
        dest_val->data = toku_realloc(dest_val->data, src_val->size);
 
116
        memcpy(dest_val->data, src_val->data, src_val->size);
 
117
        dest_val->size = src_val->size;
 
118
    }
 
119
    
 
120
    return 0;
 
121
}
 
122
 
 
123
struct indexer_arg {
 
124
    DB_ENV *env;
 
125
    DB *src_db;
 
126
    int n_dest_db;
 
127
    DB **dest_db;
 
128
};
 
129
 
 
130
static void *
 
131
indexer_thread(void *arg) {
 
132
    struct indexer_arg *indexer_arg = (struct indexer_arg *) arg;
 
133
    DB_ENV *env = indexer_arg->env;
 
134
    int r;
 
135
    
 
136
    DB_TXN *indexer_txn = NULL;
 
137
    r = env->txn_begin(env, NULL, &indexer_txn, 0); assert_zero(r);
 
138
        
 
139
    DB_INDEXER *indexer = NULL;
 
140
    r = env->create_indexer(env, indexer_txn, &indexer, indexer_arg->src_db, indexer_arg->n_dest_db, indexer_arg->dest_db, NULL, 0); assert_zero(r);
 
141
    
 
142
    if (verbose) fprintf(stderr, "build start\n");
 
143
    r = indexer->build(indexer); assert_zero(r);
 
144
    if (verbose) fprintf(stderr, "build end\n");
 
145
        
 
146
    r = indexer->close(indexer); assert_zero(r);
 
147
        
 
148
    r = indexer_txn->commit(indexer_txn, 0); assert_zero(r);
 
149
 
 
150
    return arg;
 
151
}
 
152
 
 
153
static void
 
154
verify_full(DB_ENV *env, DB *db, int n) {
 
155
    int r;
 
156
    
 
157
    DB_TXN *txn = NULL;
 
158
    r = env->txn_begin(env, NULL, &txn, 0); assert_zero(r);
 
159
 
 
160
    DBC *cursor = NULL;
 
161
    r = db->cursor(db, txn, &cursor, 0); assert_zero(r);
 
162
 
 
163
    int i = 0;
 
164
    DBT key; dbt_init_realloc(&key);
 
165
    DBT val; dbt_init_realloc(&val);
 
166
    while (1) {
 
167
        r = cursor->c_get(cursor, &key, &val, DB_NEXT);
 
168
        if (r == DB_NOTFOUND)
 
169
            break;
 
170
        int k;
 
171
        assert(key.size == sizeof k);
 
172
        memcpy(&k, key.data, key.size);
 
173
        assert(k == (int) htonl(i));
 
174
        int v;
 
175
        assert(val.size == sizeof v);
 
176
        memcpy(&v, val.data, val.size);
 
177
        assert(v == i);
 
178
        i++;
 
179
    }
 
180
    assert(i == n);
 
181
    toku_free(key.data);
 
182
    toku_free(val.data);
 
183
    
 
184
    r = cursor->c_close(cursor); assert_zero(r);
 
185
 
 
186
    r = txn->commit(txn, 0); assert_zero(r);
 
187
}
 
188
 
 
189
static void
 
190
run_test(void) {
 
191
    int r;
 
192
    DB_ENV *env = NULL;
 
193
    r = db_env_create(&env, 0); assert_zero(r);
 
194
 
 
195
    r = env->set_generate_row_callback_for_put(env, put_callback); assert_zero(r);
 
196
 
 
197
    r = env->open(env, TOKU_TEST_FILENAME, DB_INIT_MPOOL|DB_CREATE|DB_THREAD |DB_INIT_LOCK|DB_INIT_LOG|DB_INIT_TXN|DB_PRIVATE, S_IRWXU+S_IRWXG+S_IRWXO); assert_zero(r);
 
198
 
 
199
    DB *src_db = NULL;
 
200
    r = db_create(&src_db, env, 0); assert_zero(r);
 
201
    r = src_db->open(src_db, NULL, "0.tdb", NULL, DB_BTREE, DB_AUTO_COMMIT+DB_CREATE, S_IRWXU+S_IRWXG+S_IRWXO); assert_zero(r);
 
202
 
 
203
    DB *dest_db = NULL;
 
204
    r = db_create(&dest_db, env, 0); assert_zero(r);
 
205
    r = dest_db->open(dest_db, NULL, "1.tdb", NULL, DB_BTREE, DB_AUTO_COMMIT+DB_CREATE, S_IRWXU+S_IRWXG+S_IRWXO); assert_zero(r);
 
206
 
 
207
    DB_TXN *txn = NULL;
 
208
    r = env->txn_begin(env, NULL, &txn, 0); assert_zero(r);
 
209
 
 
210
    // insert some
 
211
    int n = 246723;
 
212
    for (int i = 0; i < n; i++) {
 
213
        int k = htonl(i);
 
214
        int v = i;
 
215
        DBT key; dbt_init(&key, &k, sizeof k);
 
216
        DBT val; dbt_init(&val, &v, sizeof v);
 
217
        r = src_db->put(src_db, txn, &key, &val, 0); assert_zero(r);
 
218
    }
 
219
 
 
220
    // run the indexer
 
221
    struct indexer_arg indexer_arg = { env, src_db, 1, &dest_db };
 
222
    toku_pthread_t pid;
 
223
    r = toku_pthread_create(&pid, NULL, indexer_thread, &indexer_arg); assert_zero(r);
 
224
 
 
225
    if (verbose) fprintf(stderr, "commit start\n");
 
226
    r = txn->commit(txn, 0); assert_zero(r);
 
227
    if (verbose) fprintf(stderr, "commit end\n");
 
228
 
 
229
    void *ret;
 
230
    r = toku_pthread_join(pid, &ret); assert_zero(r);
 
231
 
 
232
    verify_full(env, src_db, n);
 
233
    verify_full(env, dest_db, n);
 
234
 
 
235
    r = src_db->close(src_db, 0); assert_zero(r);
 
236
 
 
237
    r = dest_db->close(dest_db, 0); assert_zero(r);
 
238
 
 
239
    r = env->close(env, 0); assert_zero(r);
 
240
}
 
241
 
 
242
int
 
243
test_main(int argc, char * const argv[]) {
 
244
    int r;
 
245
 
 
246
    // parse_args(argc, argv);
 
247
    for (int i = 1; i < argc; i++) {
 
248
        char * const arg = argv[i];
 
249
        if (strcmp(arg, "-v") == 0) {
 
250
            verbose++;
 
251
            continue;
 
252
        }
 
253
        if (strcmp(arg, "-q") == 0) {
 
254
            verbose = 0;
 
255
            continue;
 
256
        }
 
257
    }
 
258
 
 
259
    toku_os_recursive_delete(TOKU_TEST_FILENAME);
 
260
    r = toku_os_mkdir(TOKU_TEST_FILENAME, S_IRWXU+S_IRWXG+S_IRWXO); assert_zero(r);
 
261
 
 
262
    run_test();
 
263
 
 
264
    return 0;
 
265
}
 
266