← Back to branch summary

~ubuntu-branches/ubuntu/jaunty/swfdec0.8/jaunty

« back to all changes in this revision

Viewing changes to test/trace/double-to-string-6.swf.trace.org

  • Committer: Package Import Robot
  • Author(s): Didier Roche
  • Date: 2008-10-10 19:15:24 UTC
  • Revision ID: package-import@ubuntu.com-20081010191524-5z85qiky1d4bvgfa
Tags: upstream-0.8.0
ImportĀ upstreamĀ versionĀ 0.8.0

Show diffs side-by-side

added added

removed removed

Lines of Context:
test/trace/double-to-string-6.swf.trace.org
 
1
# There's a bug with rounding that I haven't figured out.
 
2
# Current swfdec prints 1.06221184844164e-11 as 1.06221184844165e-11
 
3
# The non-rounded result is 1.0622118484416451e-11
 
4
 
 
5
Check various things for double to string conversion
 
6
1
 
7
-1
 
8
2
 
9
-2
 
10
0.5
 
11
-0.5
 
12
2.5
 
13
-2.5
 
14
0.25
 
15
-0.25
 
16
4.25
 
17
-4.25
 
18
0.125
 
19
-0.125
 
20
8.125
 
21
-8.125
 
22
0.0625
 
23
-0.0625
 
24
16.0625
 
25
-16.0625
 
26
0.03125
 
27
-0.03125
 
28
32.03125
 
29
-32.03125
 
30
0.015625
 
31
-0.015625
 
32
64.015625
 
33
-64.015625
 
34
0.0078125
 
35
-0.0078125
 
36
128.0078125
 
37
-128.0078125
 
38
0.00390625
 
39
-0.00390625
 
40
256.00390625
 
41
-256.00390625
 
42
0.001953125
 
43
-0.001953125
 
44
512.001953125
 
45
-512.001953125
 
46
0.0009765625
 
47
-0.0009765625
 
48
1024.0009765625
 
49
-1024.0009765625
 
50
0.00048828125
 
51
-0.00048828125
 
52
2048.00048828125
 
53
-2048.00048828125
 
54
0.000244140625
 
55
-0.000244140625
 
56
4096.00024414063
 
57
-4096.00024414063
 
58
0.0001220703125
 
59
-0.0001220703125
 
60
8192.00012207031
 
61
-8192.00012207031
 
62
0.00006103515625
 
63
-0.00006103515625
 
64
16384.0000610352
 
65
-16384.0000610352
 
66
0.000030517578125
 
67
-0.000030517578125
 
68
32768.0000305176
 
69
-32768.0000305176
 
70
0.0000152587890625
 
71
-0.0000152587890625
 
72
65536.0000152588
 
73
-65536.0000152588
 
74
7.62939453125e-6
 
75
-7.62939453125e-6
 
76
131072.000007629
 
77
-131072.000007629
 
78
3.814697265625e-6
 
79
-3.814697265625e-6
 
80
262144.000003815
 
81
-262144.000003815
 
82
1.9073486328125e-6
 
83
-1.9073486328125e-6
 
84
524288.000001907
 
85
-524288.000001907
 
86
9.5367431640625e-7
 
87
-9.5367431640625e-7
 
88
1048576.00000095
 
89
-1048576.00000095
 
90
4.76837158203125e-7
 
91
-4.76837158203125e-7
 
92
2097152.00000048
 
93
-2097152.00000048
 
94
2.38418579101563e-7
 
95
-2.38418579101563e-7
 
96
4194304.00000024
 
97
-4194304.00000024
 
98
1.19209289550781e-7
 
99
-1.19209289550781e-7
 
100
8388608.00000012
 
101
-8388608.00000012
 
102
5.96046447753906e-8
 
103
-5.96046447753906e-8
 
104
16777216.0000001
 
105
-16777216.0000001
 
106
2.98023223876953e-8
 
107
-2.98023223876953e-8
 
108
33554432
 
109
-33554432
 
110
1.49011611938477e-8
 
111
-1.49011611938477e-8
 
112
67108864
 
113
-67108864
 
114
7.45058059692383e-9
 
115
-7.45058059692383e-9
 
116
134217728
 
117
-134217728
 
118
3.72529029846191e-9
 
119
-3.72529029846191e-9
 
120
268435456
 
121
-268435456
 
122
1.86264514923096e-9
 
123
-1.86264514923096e-9
 
124
536870912
 
125
-536870912
 
126
9.31322574615479e-10
 
127
-9.31322574615479e-10
 
128
1073741824
 
129
-1073741824
 
130
4.65661287307739e-10
 
131
-4.65661287307739e-10
 
132
2147483648
 
133
-2147483648
 
134
2.3283064365387e-10
 
135
-2.3283064365387e-10
 
136
4294967296
 
137
-4294967296
 
138
1.16415321826935e-10
 
139
-1.16415321826935e-10
 
140
8589934592
 
141
-8589934592
 
142
5.82076609134674e-11
 
143
-5.82076609134674e-11
 
144
17179869184
 
145
-17179869184
 
146
2.91038304567337e-11
 
147
-2.91038304567337e-11
 
148
34359738368
 
149
-34359738368
 
150
1.45519152283669e-11
 
151
-1.45519152283669e-11
 
152
68719476736
 
153
-68719476736
 
154
7.27595761418343e-12
 
155
-7.27595761418343e-12
 
156
137438953472
 
157
-137438953472
 
158
3.63797880709171e-12
 
159
-3.63797880709171e-12
 
160
274877906944
 
161
-274877906944
 
162
1.81898940354586e-12
 
163
-1.81898940354586e-12
 
164
549755813888
 
165
-549755813888
 
166
9.09494701772928e-13
 
167
-9.09494701772928e-13
 
168
1099511627776
 
169
-1099511627776
 
170
4.54747350886464e-13
 
171
-4.54747350886464e-13
 
172
2199023255552
 
173
-2199023255552
 
174
2.27373675443232e-13
 
175
-2.27373675443232e-13
 
176
4398046511104
 
177
-4398046511104
 
178
1.13686837721616e-13
 
179
-1.13686837721616e-13
 
180
8796093022208
 
181
-8796093022208
 
182
5.6843418860808e-14
 
183
-5.6843418860808e-14
 
184
17592186044416
 
185
-17592186044416
 
186
2.8421709430404e-14
 
187
-2.8421709430404e-14
 
188
35184372088832
 
189
-35184372088832
 
190
1.4210854715202e-14
 
191
-1.4210854715202e-14
 
192
70368744177664
 
193
-70368744177664
 
194
7.105427357601e-15
 
195
-7.105427357601e-15
 
196
140737488355328
 
197
-140737488355328
 
198
3.5527136788005e-15
 
199
-3.5527136788005e-15
 
200
281474976710656
 
201
-281474976710656
 
202
1.77635683940025e-15
 
203
-1.77635683940025e-15
 
204
562949953421312
 
205
-562949953421312
 
206
1
 
207
-1
 
208
0.333333333333333
 
209
-0.333333333333333
 
210
0.111111111111111
 
211
-0.111111111111111
 
212
0.037037037037037
 
213
-0.037037037037037
 
214
0.0123456790123457
 
215
-0.0123456790123457
 
216
0.00411522633744856
 
217
-0.00411522633744856
 
218
0.00137174211248285
 
219
-0.00137174211248285
 
220
0.000457247370827618
 
221
-0.000457247370827618
 
222
0.000152415790275873
 
223
-0.000152415790275873
 
224
0.0000508052634252909
 
225
-0.0000508052634252909
 
226
0.0000169350878084303
 
227
-0.0000169350878084303
 
228
5.64502926947676e-6
 
229
-5.64502926947676e-6
 
230
1.88167642315892e-6
 
231
-1.88167642315892e-6
 
232
6.27225474386307e-7
 
233
-6.27225474386307e-7
 
234
2.09075158128769e-7
 
235
-2.09075158128769e-7
 
236
6.96917193762563e-8
 
237
-6.96917193762563e-8
 
238
2.32305731254188e-8
 
239
-2.32305731254188e-8
 
240
7.74352437513959e-9
 
241
-7.74352437513959e-9
 
242
2.5811747917132e-9
 
243
-2.5811747917132e-9
 
244
8.60391597237733e-10
 
245
-8.60391597237733e-10
 
246
2.86797199079244e-10
 
247
-2.86797199079244e-10
 
248
9.55990663597481e-11
 
249
-9.55990663597481e-11
 
250
3.18663554532494e-11
 
251
-3.18663554532494e-11
 
252
1.06221184844164e-11
 
253
-1.06221184844164e-11
 
254
3.54070616147215e-12
 
255
-3.54070616147215e-12
 
256
1.18023538715738e-12
 
257
-1.18023538715738e-12
 
258
3.93411795719128e-13
 
259
-3.93411795719128e-13
 
260
1.31137265239709e-13
 
261
-1.31137265239709e-13
 
262
4.37124217465698e-14
 
263
-4.37124217465698e-14
 
264
1.45708072488566e-14
 
265
-1.45708072488566e-14
 
266
4.85693574961886e-15
 
267
-4.85693574961886e-15
 
268
1.61897858320629e-15
 
269
-1.61897858320629e-15
 
270
2
 
271
-2
 
272
1.5
 
273
-1.5
 
274
1.25
 
275
-1.25
 
276
1.125
 
277
-1.125
 
278
1.0625
 
279
-1.0625
 
280
1.03125
 
281
-1.03125
 
282
1.015625
 
283
-1.015625
 
284
1.0078125
 
285
-1.0078125
 
286
1.00390625
 
287
-1.00390625
 
288
1.001953125
 
289
-1.001953125
 
290
1.0009765625
 
291
-1.0009765625
 
292
1.00048828125
 
293
-1.00048828125
 
294
1.000244140625
 
295
-1.000244140625
 
296
1.0001220703125
 
297
-1.0001220703125
 
298
1.00006103515625
 
299
-1.00006103515625
 
300
1.00003051757813
 
301
-1.00003051757813
 
302
1.00001525878906
 
303
-1.00001525878906
 
304
1.00000762939453
 
305
-1.00000762939453
 
306
1.00000381469727
 
307
-1.00000381469727
 
308
1.00000190734863
 
309
-1.00000190734863
 
310
1.00000095367432
 
311
-1.00000095367432
 
312
1.00000047683716
 
313
-1.00000047683716
 
314
1.00000023841858
 
315
-1.00000023841858
 
316
1.00000011920929
 
317
-1.00000011920929
 
318
1.00000005960464
 
319
-1.00000005960464
 
320
1.00000002980232
 
321
-1.00000002980232
 
322
1.00000001490116
 
323
-1.00000001490116
 
324
1.00000000745058
 
325
-1.00000000745058
 
326
1.00000000372529
 
327
-1.00000000372529
 
328
1.00000000186265
 
329
-1.00000000186265
 
330
1.00000000093132
 
331
-1.00000000093132
 
332
1.00000000046566
 
333
-1.00000000046566
 
334
1.00000000023283
 
335
-1.00000000023283
 
336
1.00000000011642
 
337
-1.00000000011642
 
338
1.00000000005821
 
339
-1.00000000005821
 
340
1.0000000000291
 
341
-1.0000000000291
 
342
1.00000000001455
 
343
-1.00000000001455
 
344
1.00000000000728
 
345
-1.00000000000728
 
346
1.00000000000364
 
347
-1.00000000000364
 
348
1.00000000000182
 
349
-1.00000000000182
 
350
1.00000000000091
 
351
-1.00000000000091
 
352
1.00000000000045
 
353
-1.00000000000045
 
354
1.00000000000023
 
355
-1.00000000000023
 
356
1.00000000000011
 
357
-1.00000000000011
 
358
1.00000000000006
 
359
-1.00000000000006
 
360
1.00000000000003
 
361
-1.00000000000003
 
362
1.00000000000001
 
363
-1.00000000000001
 
364
1.00000000000001
 
365
-1.00000000000001
 
366
1
 
367
-1
 
368
1
 
369
-1
 
370
1
 
371
-1
 
372
1.0000001
 
373
-1.0000001
 
374
2
 
375
-2
 
376
2.0000001
 
377
-2.0000001
 
378
4
 
379
-4
 
380
4.0000001
 
381
-4.0000001
 
382
8
 
383
-8
 
384
8.0000001
 
385
-8.0000001
 
386
16
 
387
-16
 
388
16.0000001
 
389
-16.0000001
 
390
32
 
391
-32
 
392
32.0000001
 
393
-32.0000001
 
394
64
 
395
-64
 
396
64.0000001
 
397
-64.0000001
 
398
128
 
399
-128
 
400
128.0000001
 
401
-128.0000001
 
402
256
 
403
-256
 
404
256.0000001
 
405
-256.0000001
 
406
512
 
407
-512
 
408
512.0000001
 
409
-512.0000001
 
410
1024
 
411
-1024
 
412
1024.0000001
 
413
-1024.0000001
 
414
2048
 
415
-2048
 
416
2048.0000001
 
417
-2048.0000001
 
418
4096
 
419
-4096
 
420
4096.0000001
 
421
-4096.0000001
 
422
8192
 
423
-8192
 
424
8192.0000001
 
425
-8192.0000001
 
426
16384
 
427
-16384
 
428
16384.0000001
 
429
-16384.0000001
 
430
32768
 
431
-32768
 
432
32768.0000001
 
433
-32768.0000001
 
434
65536
 
435
-65536
 
436
65536.0000001
 
437
-65536.0000001
 
438
131072
 
439
-131072
 
440
131072.0000001
 
441
-131072.0000001
 
442
262144
 
443
-262144
 
444
262144.0000001
 
445
-262144.0000001
 
446
524288
 
447
-524288
 
448
524288.0000001
 
449
-524288.0000001
 
450
1048576
 
451
-1048576
 
452
1048576.0000001
 
453
-1048576.0000001
 
454
2097152
 
455
-2097152
 
456
2097152.0000001
 
457
-2097152.0000001
 
458
4194304
 
459
-4194304
 
460
4194304.0000001
 
461
-4194304.0000001
 
462
8388608
 
463
-8388608
 
464
8388608.0000001
 
465
-8388608.0000001
 
466
16777216
 
467
-16777216
 
468
16777216.0000001
 
469
-16777216.0000001
 
470
33554432
 
471
-33554432
 
472
33554432.0000001
 
473
-33554432.0000001
 
474
67108864
 
475
-67108864
 
476
67108864.0000001
 
477
-67108864.0000001
 
478
134217728
 
479
-134217728
 
480
134217728
 
481
-134217728
 
482
268435456
 
483
-268435456
 
484
268435456
 
485
-268435456
 
486
536870912
 
487
-536870912
 
488
536870912
 
489
-536870912
 
490
1073741824
 
491
-1073741824
 
492
1073741824
 
493
-1073741824
 
494
2147483648
 
495
-2147483648
 
496
2147483648
 
497
-2147483648
 
498
4294967296
 
499
-4294967296
 
500
4294967296
 
501
-4294967296
 
502
8589934592
 
503
-8589934592
 
504
8589934592
 
505
-8589934592
 
506
17179869184
 
507
-17179869184
 
508
17179869184
 
509
-17179869184
 
510
34359738368
 
511
-34359738368
 
512
34359738368
 
513
-34359738368
 
514
68719476736
 
515
-68719476736
 
516
68719476736
 
517
-68719476736
 
518
137438953472
 
519
-137438953472
 
520
137438953472
 
521
-137438953472
 
522
274877906944
 
523
-274877906944
 
524
274877906944
 
525
-274877906944
 
526
549755813888
 
527
-549755813888
 
528
549755813888
 
529
-549755813888
 
530
1099511627776
 
531
-1099511627776
 
532
1099511627776
 
533
-1099511627776
 
534
2199023255552
 
535
-2199023255552
 
536
2199023255552
 
537
-2199023255552
 
538
4398046511104
 
539
-4398046511104
 
540
4398046511104
 
541
-4398046511104
 
542
8796093022208
 
543
-8796093022208
 
544
8796093022208
 
545
-8796093022208
 
546
17592186044416
 
547
-17592186044416
 
548
17592186044416
 
549
-17592186044416
 
550
35184372088832
 
551
-35184372088832
 
552
35184372088832
 
553
-35184372088832
 
554
70368744177664
 
555
-70368744177664
 
556
70368744177664
 
557
-70368744177664
 
558
140737488355328
 
559
-140737488355328
 
560
140737488355328
 
561
-140737488355328
 
562
281474976710656
 
563
-281474976710656
 
564
281474976710656
 
565
-281474976710656
 
566
562949953421312
 
567
-562949953421312
 
568
562949953421312
 
569
-562949953421312
 
570
1.12589990684262e+15
 
571
-1.12589990684262e+15
 
572
1.12589990684262e+15
 
573
-1.12589990684262e+15
 
574
2.25179981368525e+15
 
575
-2.25179981368525e+15
 
576
2.25179981368525e+15
 
577
-2.25179981368525e+15
 
578
4.5035996273705e+15
 
579
-4.5035996273705e+15
 
580
4.5035996273705e+15
 
581
-4.5035996273705e+15
 
582
9.00719925474099e+15
 
583
-9.00719925474099e+15
 
584
9.00719925474099e+15
 
585
-9.00719925474099e+15
 
586
1
 
587
-1
 
588
10
 
589
-10
 
590
100
 
591
-100
 
592
1000
 
593
-1000
 
594
10000
 
595
-10000
 
596
100000
 
597
-100000
 
598
1000000
 
599
-1000000
 
600
10000000
 
601
-10000000
 
602
100000000
 
603
-100000000
 
604
1000000000
 
605
-1000000000
 
606
10000000000
 
607
-10000000000
 
608
100000000000
 
609
-100000000000
 
610
1000000000000
 
611
-1000000000000
 
612
10000000000000
 
613
-10000000000000
 
614
100000000000000
 
615
-100000000000000
 
616
1e+15
 
617
-1e+15