← Back to branch summary

~malept/ubuntu/lucid/python2.6/dev-dependency-fix

« back to all changes in this revision

Viewing changes to Lib/test/decimaltestdata/ddAbs.decTest

  • Committer: Bazaar Package Importer
  • Author(s): Matthias Klose
  • Date: 2009-02-13 12:51:00 UTC
  • Revision ID: james.westby@ubuntu.com-20090213125100-uufgcb9yeqzujpqw
Tags: upstream-2.6.1
Import upstream version 2.6.1

Show diffs side-by-side

added added

removed removed

Lines of Context:
Lib/test/decimaltestdata/ddAbs.decTest
 
1
------------------------------------------------------------------------
 
2
-- ddAbs.decTest -- decDouble absolute value, heeding sNaN            --
 
3
-- Copyright (c) IBM Corporation, 1981, 2008.  All rights reserved.   --
 
4
------------------------------------------------------------------------
 
5
-- Please see the document "General Decimal Arithmetic Testcases"     --
 
6
-- at http://www2.hursley.ibm.com/decimal for the description of      --
 
7
-- these testcases.                                                   --
 
8
--                                                                    --
 
9
-- These testcases are experimental ('beta' versions), and they       --
 
10
-- may contain errors.  They are offered on an as-is basis.  In       --
 
11
-- particular, achieving the same results as the tests here is not    --
 
12
-- a guarantee that an implementation complies with any Standard      --
 
13
-- or specification.  The tests are not exhaustive.                   --
 
14
--                                                                    --
 
15
-- Please send comments, suggestions, and corrections to the author:  --
 
16
--   Mike Cowlishaw, IBM Fellow                                       --
 
17
--   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --
 
18
--   mfc@uk.ibm.com                                                   --
 
19
------------------------------------------------------------------------
 
20
version: 2.58
 
21
 
 
22
precision:   16
 
23
maxExponent: 384
 
24
minExponent: -383
 
25
extended:    1
 
26
clamp:       1
 
27
rounding:    half_even
 
28
 
 
29
ddabs001 abs '1'      -> '1'
 
30
ddabs002 abs '-1'     -> '1'
 
31
ddabs003 abs '1.00'   -> '1.00'
 
32
ddabs004 abs '-1.00'  -> '1.00'
 
33
ddabs005 abs '0'      -> '0'
 
34
ddabs006 abs '0.00'   -> '0.00'
 
35
ddabs007 abs '00.0'   -> '0.0'
 
36
ddabs008 abs '00.00'  -> '0.00'
 
37
ddabs009 abs '00'     -> '0'
 
38
 
 
39
ddabs010 abs '-2'     -> '2'
 
40
ddabs011 abs '2'      -> '2'
 
41
ddabs012 abs '-2.00'  -> '2.00'
 
42
ddabs013 abs '2.00'   -> '2.00'
 
43
ddabs014 abs '-0'     -> '0'
 
44
ddabs015 abs '-0.00'  -> '0.00'
 
45
ddabs016 abs '-00.0'  -> '0.0'
 
46
ddabs017 abs '-00.00' -> '0.00'
 
47
ddabs018 abs '-00'    -> '0'
 
48
 
 
49
ddabs020 abs '-2000000' -> '2000000'
 
50
ddabs021 abs '2000000'  -> '2000000'
 
51
 
 
52
ddabs030 abs '+0.1'            -> '0.1'
 
53
ddabs031 abs '-0.1'            -> '0.1'
 
54
ddabs032 abs '+0.01'           -> '0.01'
 
55
ddabs033 abs '-0.01'           -> '0.01'
 
56
ddabs034 abs '+0.001'          -> '0.001'
 
57
ddabs035 abs '-0.001'          -> '0.001'
 
58
ddabs036 abs '+0.000001'       -> '0.000001'
 
59
ddabs037 abs '-0.000001'       -> '0.000001'
 
60
ddabs038 abs '+0.000000000001' -> '1E-12'
 
61
ddabs039 abs '-0.000000000001' -> '1E-12'
 
62
 
 
63
-- examples from decArith
 
64
ddabs040 abs '2.1'     ->  '2.1'
 
65
ddabs041 abs '-100'    ->  '100'
 
66
ddabs042 abs '101.5'   ->  '101.5'
 
67
ddabs043 abs '-101.5'  ->  '101.5'
 
68
 
 
69
-- more fixed, potential LHS swaps/overlays if done by subtract 0
 
70
ddabs060 abs '-56267E-10'  -> '0.0000056267'
 
71
ddabs061 abs '-56267E-5'   -> '0.56267'
 
72
ddabs062 abs '-56267E-2'   -> '562.67'
 
73
ddabs063 abs '-56267E-1'   -> '5626.7'
 
74
ddabs065 abs '-56267E-0'   -> '56267'
 
75
 
 
76
-- subnormals and underflow
 
77
 
 
78
-- long operand tests
 
79
ddabs321 abs 1234567890123456  -> 1234567890123456
 
80
ddabs322 abs 12345678000  -> 12345678000
 
81
ddabs323 abs 1234567800   -> 1234567800
 
82
ddabs324 abs 1234567890   -> 1234567890
 
83
ddabs325 abs 1234567891   -> 1234567891
 
84
ddabs326 abs 12345678901  -> 12345678901
 
85
ddabs327 abs 1234567896   -> 1234567896
 
86
 
 
87
-- zeros
 
88
ddabs111 abs          0   -> 0
 
89
ddabs112 abs         -0   -> 0
 
90
ddabs113 abs       0E+6   -> 0E+6
 
91
ddabs114 abs      -0E+6   -> 0E+6
 
92
ddabs115 abs     0.0000   -> 0.0000
 
93
ddabs116 abs    -0.0000   -> 0.0000
 
94
ddabs117 abs      0E-141  -> 0E-141
 
95
ddabs118 abs     -0E-141  -> 0E-141
 
96
 
 
97
-- full coefficients, alternating bits
 
98
ddabs121 abs  2682682682682682         -> 2682682682682682
 
99
ddabs122 abs  -2682682682682682        -> 2682682682682682
 
100
ddabs123 abs  1341341341341341         -> 1341341341341341
 
101
ddabs124 abs  -1341341341341341        -> 1341341341341341
 
102
 
 
103
-- Nmax, Nmin, Ntiny
 
104
ddabs131 abs  9.999999999999999E+384   -> 9.999999999999999E+384
 
105
ddabs132 abs  1E-383                   -> 1E-383
 
106
ddabs133 abs  1.000000000000000E-383   -> 1.000000000000000E-383
 
107
ddabs134 abs  1E-398                   -> 1E-398 Subnormal
 
108
 
 
109
ddabs135 abs  -1E-398                  -> 1E-398 Subnormal
 
110
ddabs136 abs  -1.000000000000000E-383  -> 1.000000000000000E-383
 
111
ddabs137 abs  -1E-383                  -> 1E-383
 
112
ddabs138 abs  -9.999999999999999E+384  -> 9.999999999999999E+384
 
113
 
 
114
-- specials
 
115
ddabs520 abs 'Inf'    -> 'Infinity'
 
116
ddabs521 abs '-Inf'   -> 'Infinity'
 
117
ddabs522 abs   NaN    ->  NaN
 
118
ddabs523 abs  sNaN    ->  NaN   Invalid_operation
 
119
ddabs524 abs   NaN22  ->  NaN22
 
120
ddabs525 abs  sNaN33  ->  NaN33 Invalid_operation
 
121
ddabs526 abs  -NaN22  -> -NaN22
 
122
ddabs527 abs -sNaN33  -> -NaN33 Invalid_operation
 
123
 
 
124
-- Null tests
 
125
ddabs900 abs  # -> NaN Invalid_operation
 
126