← Back to branch summary

~ubuntu-branches/ubuntu/maverick/python3.1/maverick

« back to all changes in this revision

Viewing changes to Lib/test/decimaltestdata/dqScaleB.decTest

  • Committer: Bazaar Package Importer
  • Author(s): Matthias Klose
  • Date: 2009-03-23 00:01:27 UTC
  • Revision ID: james.westby@ubuntu.com-20090323000127-5fstfxju4ufrhthq
Tags: upstream-3.1~a1+20090322
Import upstream version 3.1~a1+20090322

Show diffs side-by-side

added added

removed removed

Lines of Context:
Lib/test/decimaltestdata/dqScaleB.decTest
 
1
------------------------------------------------------------------------
 
2
-- dqScalebB.decTest -- scale a decQuad by powers of 10               --
 
3
-- Copyright (c) IBM Corporation, 1981, 2008.  All rights reserved.   --
 
4
------------------------------------------------------------------------
 
5
-- Please see the document "General Decimal Arithmetic Testcases"     --
 
6
-- at http://www2.hursley.ibm.com/decimal for the description of      --
 
7
-- these testcases.                                                   --
 
8
--                                                                    --
 
9
-- These testcases are experimental ('beta' versions), and they       --
 
10
-- may contain errors.  They are offered on an as-is basis.  In       --
 
11
-- particular, achieving the same results as the tests here is not    --
 
12
-- a guarantee that an implementation complies with any Standard      --
 
13
-- or specification.  The tests are not exhaustive.                   --
 
14
--                                                                    --
 
15
-- Please send comments, suggestions, and corrections to the author:  --
 
16
--   Mike Cowlishaw, IBM Fellow                                       --
 
17
--   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --
 
18
--   mfc@uk.ibm.com                                                   --
 
19
------------------------------------------------------------------------
 
20
version: 2.58
 
21
 
 
22
extended:    1
 
23
clamp:       1
 
24
precision:   34
 
25
maxExponent: 6144
 
26
minExponent: -6143
 
27
rounding:    half_even
 
28
 
 
29
-- Max |rhs| is 2*(6144+34) = 12356
 
30
 
 
31
-- Sanity checks
 
32
dqscb001 scaleb       7.50   10 -> 7.50E+10
 
33
dqscb002 scaleb       7.50    3 -> 7.50E+3
 
34
dqscb003 scaleb       7.50    2 -> 750
 
35
dqscb004 scaleb       7.50    1 -> 75.0
 
36
dqscb005 scaleb       7.50    0 -> 7.50
 
37
dqscb006 scaleb       7.50   -1 -> 0.750
 
38
dqscb007 scaleb       7.50   -2 -> 0.0750
 
39
dqscb008 scaleb       7.50  -10 -> 7.50E-10
 
40
dqscb009 scaleb      -7.50    3 -> -7.50E+3
 
41
dqscb010 scaleb      -7.50    2 -> -750
 
42
dqscb011 scaleb      -7.50    1 -> -75.0
 
43
dqscb012 scaleb      -7.50    0 -> -7.50
 
44
dqscb013 scaleb      -7.50   -1 -> -0.750
 
45
 
 
46
-- Infinities
 
47
dqscb014 scaleb  Infinity   1 -> Infinity
 
48
dqscb015 scaleb  -Infinity  2 -> -Infinity
 
49
dqscb016 scaleb  Infinity  -1 -> Infinity
 
50
dqscb017 scaleb  -Infinity -2 -> -Infinity
 
51
 
 
52
-- Next two are somewhat undefined in 754r; treat as non-integer
 
53
dqscb018 scaleb  10  Infinity -> NaN Invalid_operation
 
54
dqscb019 scaleb  10 -Infinity -> NaN Invalid_operation
 
55
 
 
56
-- NaNs are undefined in 754r; assume usual processing
 
57
-- NaNs, 0 payload
 
58
dqscb021 scaleb         NaN  1 -> NaN
 
59
dqscb022 scaleb        -NaN -1 -> -NaN
 
60
dqscb023 scaleb        sNaN  1 -> NaN Invalid_operation
 
61
dqscb024 scaleb       -sNaN  1 -> -NaN Invalid_operation
 
62
dqscb025 scaleb    4    NaN    -> NaN
 
63
dqscb026 scaleb -Inf   -NaN    -> -NaN
 
64
dqscb027 scaleb    4   sNaN    -> NaN Invalid_operation
 
65
dqscb028 scaleb  Inf  -sNaN    -> -NaN Invalid_operation
 
66
 
 
67
-- non-integer RHS
 
68
dqscb030 scaleb  1.23    1    ->  12.3
 
69
dqscb031 scaleb  1.23    1.00 ->  NaN Invalid_operation
 
70
dqscb032 scaleb  1.23    1.1  ->  NaN Invalid_operation
 
71
dqscb033 scaleb  1.23    1.01 ->  NaN Invalid_operation
 
72
dqscb034 scaleb  1.23    0.01 ->  NaN Invalid_operation
 
73
dqscb035 scaleb  1.23    0.11 ->  NaN Invalid_operation
 
74
dqscb036 scaleb  1.23    0.999999999 ->  NaN Invalid_operation
 
75
dqscb037 scaleb  1.23   -1    ->  0.123
 
76
dqscb0614 scaleb  1.23   -1.00 ->  NaN Invalid_operation
 
77
dqscb039 scaleb  1.23   -1.1  ->  NaN Invalid_operation
 
78
dqscb040 scaleb  1.23   -1.01 ->  NaN Invalid_operation
 
79
dqscb041 scaleb  1.23   -0.01 ->  NaN Invalid_operation
 
80
dqscb042 scaleb  1.23   -0.11 ->  NaN Invalid_operation
 
81
dqscb043 scaleb  1.23   -0.999999999 ->  NaN Invalid_operation
 
82
dqscb044 scaleb  1.23    0.1         ->  NaN Invalid_operation
 
83
dqscb045 scaleb  1.23    1E+1        ->  NaN Invalid_operation
 
84
dqscb046 scaleb  1.23    1.1234E+6   ->  NaN Invalid_operation
 
85
dqscb047 scaleb  1.23    1.123E+4    ->  NaN Invalid_operation
 
86
 
 
87
-- out-of range RHS
 
88
dqscb120 scaleb  1.23    12355       ->  Infinity Overflow Inexact Rounded
 
89
dqscb121 scaleb  1.23    12356       ->  Infinity Overflow Inexact Rounded
 
90
dqscb122 scaleb  1.23    12357       ->  NaN Invalid_operation
 
91
dqscb123 scaleb  1.23    12358       ->  NaN Invalid_operation
 
92
dqscb124 scaleb  1.23   -12355       ->  0E-6176 Underflow Subnormal Inexact Rounded Clamped
 
93
dqscb125 scaleb  1.23   -12356       ->  0E-6176 Underflow Subnormal Inexact Rounded Clamped
 
94
dqscb126 scaleb  1.23   -12357       ->  NaN Invalid_operation
 
95
dqscb127 scaleb  1.23   -12358       ->  NaN Invalid_operation
 
96
 
 
97
-- NaNs, non-0 payload
 
98
-- propagating NaNs
 
99
dqscb861 scaleb  NaN01   -Inf     ->  NaN1
 
100
dqscb862 scaleb -NaN02   -1000    -> -NaN2
 
101
dqscb863 scaleb  NaN03    1000    ->  NaN3
 
102
dqscb864 scaleb  NaN04    Inf     ->  NaN4
 
103
dqscb865 scaleb  NaN05    NaN61   ->  NaN5
 
104
dqscb866 scaleb -Inf     -NaN71   -> -NaN71
 
105
dqscb867 scaleb -1000     NaN81   ->  NaN81
 
106
dqscb868 scaleb  1000     NaN91   ->  NaN91
 
107
dqscb869 scaleb  Inf      NaN101  ->  NaN101
 
108
dqscb871 scaleb  sNaN011  -Inf    ->  NaN11  Invalid_operation
 
109
dqscb872 scaleb  sNaN012  -1000   ->  NaN12  Invalid_operation
 
110
dqscb873 scaleb -sNaN013   1000   -> -NaN13  Invalid_operation
 
111
dqscb874 scaleb  sNaN014   NaN171 ->  NaN14  Invalid_operation
 
112
dqscb875 scaleb  sNaN015  sNaN181 ->  NaN15  Invalid_operation
 
113
dqscb876 scaleb  NaN016   sNaN191 ->  NaN191 Invalid_operation
 
114
dqscb877 scaleb -Inf      sNaN201 ->  NaN201 Invalid_operation
 
115
dqscb878 scaleb -1000     sNaN211 ->  NaN211 Invalid_operation
 
116
dqscb879 scaleb  1000    -sNaN221 -> -NaN221 Invalid_operation
 
117
dqscb880 scaleb  Inf      sNaN231 ->  NaN231 Invalid_operation
 
118
dqscb881 scaleb  NaN025   sNaN241 ->  NaN241 Invalid_operation
 
119
 
 
120
-- finites
 
121
dqscb051 scaleb          7   -2  -> 0.07
 
122
dqscb052 scaleb         -7   -2  -> -0.07
 
123
dqscb053 scaleb         75   -2  -> 0.75
 
124
dqscb054 scaleb        -75   -2  -> -0.75
 
125
dqscb055 scaleb       7.50   -2  -> 0.0750
 
126
dqscb056 scaleb      -7.50   -2  -> -0.0750
 
127
dqscb057 scaleb       7.500  -2  -> 0.07500
 
128
dqscb058 scaleb      -7.500  -2  -> -0.07500
 
129
dqscb061 scaleb          7   -1  -> 0.7
 
130
dqscb062 scaleb         -7   -1  -> -0.7
 
131
dqscb063 scaleb         75   -1  -> 7.5
 
132
dqscb064 scaleb        -75   -1  -> -7.5
 
133
dqscb065 scaleb       7.50   -1  -> 0.750
 
134
dqscb066 scaleb      -7.50   -1  -> -0.750
 
135
dqscb067 scaleb       7.500  -1  -> 0.7500
 
136
dqscb068 scaleb      -7.500  -1  -> -0.7500
 
137
dqscb071 scaleb          7    0  -> 7
 
138
dqscb072 scaleb         -7    0  -> -7
 
139
dqscb073 scaleb         75    0  -> 75
 
140
dqscb074 scaleb        -75    0  -> -75
 
141
dqscb075 scaleb       7.50    0  -> 7.50
 
142
dqscb076 scaleb      -7.50    0  -> -7.50
 
143
dqscb077 scaleb       7.500   0  -> 7.500
 
144
dqscb078 scaleb      -7.500   0  -> -7.500
 
145
dqscb081 scaleb          7    1  -> 7E+1
 
146
dqscb082 scaleb         -7    1  -> -7E+1
 
147
dqscb083 scaleb         75    1  -> 7.5E+2
 
148
dqscb084 scaleb        -75    1  -> -7.5E+2
 
149
dqscb085 scaleb       7.50    1  -> 75.0
 
150
dqscb086 scaleb      -7.50    1  -> -75.0
 
151
dqscb087 scaleb       7.500   1  -> 75.00
 
152
dqscb088 scaleb      -7.500   1  -> -75.00
 
153
dqscb091 scaleb          7    2  -> 7E+2
 
154
dqscb092 scaleb         -7    2  -> -7E+2
 
155
dqscb093 scaleb         75    2  -> 7.5E+3
 
156
dqscb094 scaleb        -75    2  -> -7.5E+3
 
157
dqscb095 scaleb       7.50    2  -> 750
 
158
dqscb096 scaleb      -7.50    2  -> -750
 
159
dqscb097 scaleb       7.500   2  -> 750.0
 
160
dqscb098 scaleb      -7.500   2  -> -750.0
 
161
 
 
162
-- zeros
 
163
dqscb111 scaleb          0  1 -> 0E+1
 
164
dqscb112 scaleb         -0  2 -> -0E+2
 
165
dqscb113 scaleb       0E+4  3 -> 0E+7
 
166
dqscb114 scaleb      -0E+4  4 -> -0E+8
 
167
dqscb115 scaleb     0.0000  5 -> 0E+1
 
168
dqscb116 scaleb    -0.0000  6 -> -0E+2
 
169
dqscb117 scaleb      0E-141 7 -> 0E-134
 
170
dqscb118 scaleb     -0E-141 8 -> -0E-133
 
171
 
 
172
-- Nmax, Nmin, Ntiny
 
173
dqscb132 scaleb  9.999999999999999999999999999999999E+6144  +6144 -> Infinity    Overflow Inexact Rounded
 
174
dqscb133 scaleb  9.999999999999999999999999999999999E+6144  +10 -> Infinity     Overflow Inexact Rounded
 
175
dqscb134 scaleb  9.999999999999999999999999999999999E+6144  +1  -> Infinity     Overflow Inexact Rounded
 
176
dqscb135 scaleb  9.999999999999999999999999999999999E+6144   0  -> 9.999999999999999999999999999999999E+6144
 
177
dqscb136 scaleb  9.999999999999999999999999999999999E+6144  -1  -> 9.999999999999999999999999999999999E+6143
 
178
dqscb137 scaleb  1E-6143           +1  -> 1E-6142
 
179
dqscb1614 scaleb  1E-6143           -0  -> 1E-6143
 
180
dqscb139 scaleb  1E-6143           -1  -> 1E-6144          Subnormal
 
181
dqscb140 scaleb  1.000000000000000000000000000000000E-6143  +1  -> 1.000000000000000000000000000000000E-6142
 
182
dqscb141 scaleb  1.000000000000000000000000000000000E-6143   0  -> 1.000000000000000000000000000000000E-6143
 
183
dqscb142 scaleb  1.000000000000000000000000000000000E-6143  -1  -> 1.00000000000000000000000000000000E-6144 Subnormal Rounded
 
184
dqscb143 scaleb  1E-6176          +1  -> 1E-6175         Subnormal
 
185
dqscb144 scaleb  1E-6176          -0  -> 1E-6176         Subnormal
 
186
dqscb145 scaleb  1E-6176          -1  -> 0E-6176         Underflow Subnormal Inexact Rounded Clamped
 
187
 
 
188
dqscb150 scaleb  -1E-6176         +1  -> -1E-6175        Subnormal
 
189
dqscb151 scaleb  -1E-6176         -0  -> -1E-6176        Subnormal
 
190
dqscb152 scaleb  -1E-6176         -1  -> -0E-6176        Underflow Subnormal Inexact Rounded Clamped
 
191
dqscb153 scaleb  -1.000000000000000000000000000000000E-6143 +1  -> -1.000000000000000000000000000000000E-6142
 
192
dqscb154 scaleb  -1.000000000000000000000000000000000E-6143 +0  -> -1.000000000000000000000000000000000E-6143
 
193
dqscb155 scaleb  -1.000000000000000000000000000000000E-6143 -1  -> -1.00000000000000000000000000000000E-6144 Subnormal Rounded
 
194
dqscb156 scaleb  -1E-6143          +1  -> -1E-6142
 
195
dqscb157 scaleb  -1E-6143          -0  -> -1E-6143
 
196
dqscb158 scaleb  -1E-6143          -1  -> -1E-6144          Subnormal
 
197
dqscb159 scaleb  -9.999999999999999999999999999999999E+6144 +1  -> -Infinity        Overflow Inexact Rounded
 
198
dqscb160 scaleb  -9.999999999999999999999999999999999E+6144 +0  -> -9.999999999999999999999999999999999E+6144
 
199
dqscb161 scaleb  -9.999999999999999999999999999999999E+6144 -1  -> -9.999999999999999999999999999999999E+6143
 
200
dqscb162 scaleb  -9E+6144          +1  -> -Infinity        Overflow Inexact Rounded
 
201
dqscb163 scaleb  -1E+6144          +1  -> -Infinity        Overflow Inexact Rounded
 
202
 
 
203
-- some Origami
 
204
-- (these check that overflow is being done correctly)
 
205
dqscb171 scaleb   1000E+6109  +1 -> 1.000E+6113
 
206
dqscb172 scaleb   1000E+6110  +1 -> 1.000E+6114
 
207
dqscb173 scaleb   1000E+6111  +1 -> 1.0000E+6115                    Clamped
 
208
dqscb174 scaleb   1000E+6112  +1 -> 1.00000E+6116                   Clamped
 
209
dqscb175 scaleb   1000E+6113  +1 -> 1.000000E+6117                  Clamped
 
210
dqscb176 scaleb   1000E+6114  +1 -> 1.0000000E+6118                 Clamped
 
211
dqscb177 scaleb   1000E+6131  +1 -> 1.000000000000000000000000E+6135                Clamped
 
212
dqscb178 scaleb   1000E+6132  +1 -> 1.0000000000000000000000000E+6136               Clamped
 
213
dqscb179 scaleb   1000E+6133  +1 -> 1.00000000000000000000000000E+6137              Clamped
 
214
dqscb180 scaleb   1000E+6134  +1 -> 1.000000000000000000000000000E+6138             Clamped
 
215
dqscb181 scaleb   1000E+6135  +1 -> 1.0000000000000000000000000000E+6139            Clamped
 
216
dqscb182 scaleb   1000E+6136  +1 -> 1.00000000000000000000000000000E+6140           Clamped
 
217
dqscb183 scaleb   1000E+6137  +1 -> 1.000000000000000000000000000000E+6141          Clamped
 
218
dqscb184 scaleb   1000E+6138  +1 -> 1.0000000000000000000000000000000E+6142         Clamped
 
219
dqscb185 scaleb   1000E+6139  +1 -> 1.00000000000000000000000000000000E+6143        Clamped
 
220
dqscb186 scaleb   1000E+6140  +1 -> 1.000000000000000000000000000000000E+6144       Clamped
 
221
dqscb187 scaleb   1000E+6141  +1 -> Infinity    Overflow Inexact Rounded
 
222
 
 
223
-- and a few more subnormal truncations
 
224
-- (these check that underflow is being done correctly)
 
225
dqscb221 scaleb  1.000000000000000000000000000000000E-6143   0  -> 1.000000000000000000000000000000000E-6143
 
226
dqscb222 scaleb  1.000000000000000000000000000000000E-6143  -1  -> 1.00000000000000000000000000000000E-6144 Subnormal Rounded
 
227
dqscb223 scaleb  1.000000000000000000000000000000000E-6143  -2  -> 1.0000000000000000000000000000000E-6145 Subnormal Rounded
 
228
dqscb224 scaleb  1.000000000000000000000000000000000E-6143  -3  -> 1.000000000000000000000000000000E-6146 Subnormal Rounded
 
229
dqscb225 scaleb  1.000000000000000000000000000000000E-6143  -4  -> 1.00000000000000000000000000000E-6147 Subnormal Rounded
 
230
dqscb226 scaleb  1.000000000000000000000000000000000E-6143  -5  -> 1.0000000000000000000000000000E-6148 Subnormal Rounded
 
231
dqscb227 scaleb  1.000000000000000000000000000000000E-6143  -6  -> 1.000000000000000000000000000E-6149 Subnormal Rounded
 
232
dqscb228 scaleb  1.000000000000000000000000000000000E-6143  -7  -> 1.00000000000000000000000000E-6150 Subnormal Rounded
 
233
dqscb229 scaleb  1.000000000000000000000000000000000E-6143  -8  -> 1.0000000000000000000000000E-6151 Subnormal Rounded
 
234
dqscb230 scaleb  1.000000000000000000000000000000000E-6143  -9  -> 1.000000000000000000000000E-6152 Subnormal Rounded
 
235
dqscb231 scaleb  1.000000000000000000000000000000000E-6143  -10 -> 1.00000000000000000000000E-6153 Subnormal Rounded
 
236
dqscb232 scaleb  1.000000000000000000000000000000000E-6143  -11 -> 1.0000000000000000000000E-6154 Subnormal Rounded
 
237
dqscb233 scaleb  1.000000000000000000000000000000000E-6143  -12 -> 1.000000000000000000000E-6155 Subnormal Rounded
 
238
dqscb234 scaleb  1.000000000000000000000000000000000E-6143  -13 -> 1.00000000000000000000E-6156 Subnormal Rounded
 
239
dqscb235 scaleb  1.000000000000000000000000000000000E-6143  -14 -> 1.0000000000000000000E-6157 Subnormal Rounded
 
240
dqscb236 scaleb  1.000000000000000000000000000000000E-6143  -15 -> 1.000000000000000000E-6158 Subnormal Rounded
 
241
dqscb237 scaleb  1.000000000000000000000000000000000E-6143  -16 -> 1.00000000000000000E-6159 Subnormal Rounded
 
242
dqscb238 scaleb  1.000000000000000000000000000000000E-6143  -17 -> 1.0000000000000000E-6160 Subnormal Rounded
 
243
dqscb239 scaleb  1.000000000000000000000000000000000E-6143  -18 -> 1.000000000000000E-6161 Subnormal Rounded
 
244
dqscb202 scaleb  1.000000000000000000000000000000000E-6143  -19 -> 1.00000000000000E-6162 Subnormal Rounded
 
245
dqscb203 scaleb  1.000000000000000000000000000000000E-6143  -20 -> 1.0000000000000E-6163 Subnormal Rounded
 
246
dqscb204 scaleb  1.000000000000000000000000000000000E-6143  -21 -> 1.000000000000E-6164 Subnormal Rounded
 
247
dqscb205 scaleb  1.000000000000000000000000000000000E-6143  -22 -> 1.00000000000E-6165 Subnormal Rounded
 
248
dqscb206 scaleb  1.000000000000000000000000000000000E-6143  -23 -> 1.0000000000E-6166 Subnormal Rounded
 
249
dqscb207 scaleb  1.000000000000000000000000000000000E-6143  -24 -> 1.000000000E-6167 Subnormal Rounded
 
250
dqscb208 scaleb  1.000000000000000000000000000000000E-6143  -25 -> 1.00000000E-6168 Subnormal Rounded
 
251
dqscb209 scaleb  1.000000000000000000000000000000000E-6143  -26 -> 1.0000000E-6169 Subnormal Rounded
 
252
dqscb210 scaleb  1.000000000000000000000000000000000E-6143  -27 -> 1.000000E-6170 Subnormal Rounded
 
253
dqscb211 scaleb  1.000000000000000000000000000000000E-6143  -28 -> 1.00000E-6171 Subnormal Rounded
 
254
dqscb212 scaleb  1.000000000000000000000000000000000E-6143  -29 -> 1.0000E-6172 Subnormal Rounded
 
255
dqscb213 scaleb  1.000000000000000000000000000000000E-6143  -30 -> 1.000E-6173 Subnormal Rounded
 
256
dqscb214 scaleb  1.000000000000000000000000000000000E-6143  -31 -> 1.00E-6174 Subnormal Rounded
 
257
dqscb215 scaleb  1.000000000000000000000000000000000E-6143  -32 -> 1.0E-6175 Subnormal Rounded
 
258
dqscb216 scaleb  1.000000000000000000000000000000000E-6143  -33 -> 1E-6176 Subnormal Rounded
 
259
dqscb217 scaleb  1.000000000000000000000000000000000E-6143  -34 -> 0E-6176 Underflow Subnormal Inexact Rounded Clamped
 
260
dqscb218 scaleb  1.000000000000000000000000000000000E-6143  -35 -> 0E-6176 Underflow Subnormal Inexact Rounded Clamped