~ubuntu-branches/ubuntu/feisty/comedilib/feisty

« back to all changes in this revision

Viewing changes to comedi_calibrate/results/pci-6071e

  • Committer: Bazaar Package Importer
  • Author(s): David Schleef
  • Date: 2003-09-23 18:11:12 UTC
  • Revision ID: james.westby@ubuntu.com-20030923181112-sat05jyh702rb1at
Tags: upstream-0.7.21
ImportĀ upstreamĀ versionĀ 0.7.21

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
eeprom reference lsb=218 msb=255
 
2
resulting reference voltage: 4.99996
 
3
Warning: device may not be not fully calibrated due to insufficient
 
4
information.
 
5
Please file a bug report at http://bugs.comedi.org/ and attach this output.
 
6
This output will also allow comedi_calibrate to execute more
 
7
quickly in the future.
 
8
Id: comedi_calibrate.c,v 1.84 2003/06/12 19:57:43 fmhess Exp
 
9
Driver name: ni_pcimio
 
10
Device name: pci-6071e
 
11
Id: ni.c,v 1.80 2003/05/25 21:11:20 fmhess Exp
 
12
Comedi version: 0.7.66
 
13
ai, bipolar zero offset, low gain
 
14
reading 3.496(96)e-3, target 0
 
15
caldac[4] gain=-7.863(12)e-4 V/bit S_min=21.857 dof=14
 
16
caldac[8] gain=-1.01(12)e-5 V/bit S_min=0.699013 dof=14
 
17
ai, bipolar zero offset, high gain
 
18
reading -5.5954(61)e-4, target 0
 
19
caldac[2] gain=6.41(81)e-8 V/bit S_min=1.04594 dof=14
 
20
caldac[4] gain=-3.8878(81)e-6 V/bit S_min=2.21943 dof=14
 
21
caldac[8] gain=-8.8661(81)e-6 V/bit S_min=13.8114 dof=14
 
22
ai, bipolar voltage reference, low gain
 
23
reading 5.001536(87), target 4.99996
 
24
caldac[2] gain=-4.825(12)e-4 V/bit S_min=24.8851 dof=14
 
25
caldac[4] gain=-7.812(12)e-4 V/bit S_min=5.92385 dof=14
 
26
caldac[8] gain=-10.0(12)e-6 V/bit S_min=0.833473 dof=14
 
27
ai, unipolar zero offset, low gain
 
28
reading 0.020499(84), target 0.002442
 
29
caldac[4] gain=-5.3645(74)e-4 V/bit S_min=55067.4 dof=14
 
30
caldac[7] gain=-6.3301(73)e-4 V/bit S_min=89089.2 dof=14
 
31
caldac[8] gain=-9.0(12)e-6 V/bit S_min=1.22819 dof=14
 
32
ai, unipolar zero offset, high gain
 
33
reading 0.0( 0)e-2147483648, target 1.221e-05
 
34
caldac[4] gain=-3.440(52)e-8 V/bit S_min=20293.2 dof=14
 
35
caldac[7] gain=-2.600(11)e-7 V/bit S_min=123976 dof=14
 
36
caldac[8] gain=-2.1118(26)e-6 V/bit S_min=467809 dof=14
 
37
ai, unipolar voltage reference, low gain
 
38
reading 5.018162(90), target 4.99996
 
39
caldac[2] gain=-4.805(12)e-4 V/bit S_min=10.2476 dof=14
 
40
caldac[4] gain=-7.811(12)e-4 V/bit S_min=7.58262 dof=14
 
41
caldac[7] gain=-9.601(12)e-4 V/bit S_min=8.59342 dof=14
 
42
caldac[8] gain=-9.1(12)e-6 V/bit S_min=0.774693 dof=14
 
43
ao 0, zero offset, low gain
 
44
reading -0.012243(88), target 0.002442
 
45
caldac[4] gain=-7.857(12)e-4 V/bit S_min=19.0306 dof=14
 
46
caldac[6] gain=-9.039(12)e-4 V/bit S_min=22.6976 dof=14
 
47
caldac[8] gain=-9.0(12)e-6 V/bit S_min=0.687618 dof=14
 
48
caldac[10] gain=-1.362(12)e-4 V/bit S_min=12.3635 dof=14
 
49
ao 0, reference voltage, low gain
 
50
reading 7.980512(86), target 8.00244
 
51
caldac[2] gain=-7.634(12)e-4 V/bit S_min=29.3582 dof=14
 
52
caldac[4] gain=-7.770(12)e-4 V/bit S_min=4.27958 dof=14
 
53
caldac[6] gain=-8.946(12)e-4 V/bit S_min=2.72123 dof=14
 
54
caldac[8] gain=-9.0(12)e-6 V/bit S_min=1.6493 dof=14
 
55
caldac[10] gain=-2.050(12)e-4 V/bit S_min=1.45642 dof=14
 
56
caldac[11] gain=-1.562(12)e-4 V/bit S_min=1.61435 dof=14
 
57
ao 0, linearity (negative), low gain
 
58
reading 3.984733(88), target 4.00244
 
59
caldac[2] gain=-3.781(12)e-4 V/bit S_min=7.11583 dof=14
 
60
caldac[4] gain=-7.760(12)e-4 V/bit S_min=2.55866 dof=14
 
61
caldac[6] gain=-8.945(12)e-4 V/bit S_min=2.82617 dof=14
 
62
caldac[8] gain=-9.5(12)e-6 V/bit S_min=1.31389 dof=14
 
63
caldac[10] gain=-1.852(12)e-4 V/bit S_min=0.724459 dof=14
 
64
caldac[11] gain=-7.80(12)e-5 V/bit S_min=0.597508 dof=14
 
65
ao 1, zero offset, low gain
 
66
reading -0.012859(85), target 0.002442
 
67
caldac[1] gain=-1.370(12)e-4 V/bit S_min=11.4009 dof=14
 
68
caldac[4] gain=-7.853(12)e-4 V/bit S_min=21.2819 dof=14
 
69
caldac[8] gain=-8.9(12)e-6 V/bit S_min=0.684516 dof=14
 
70
caldac[9] gain=-9.040(12)e-4 V/bit S_min=23.8881 dof=14
 
71
ao 1, reference voltage, low gain
 
72
reading 7.983063(83), target 8.00244
 
73
caldac[1] gain=-2.057(12)e-4 V/bit S_min=1.90165 dof=14
 
74
caldac[2] gain=-7.637(12)e-4 V/bit S_min=23.2246 dof=14
 
75
caldac[4] gain=-7.765(12)e-4 V/bit S_min=2.28834 dof=14
 
76
caldac[5] gain=-1.563(12)e-4 V/bit S_min=2.00985 dof=14
 
77
caldac[8] gain=-8.8(12)e-6 V/bit S_min=0.949137 dof=14
 
78
caldac[9] gain=-8.953(12)e-4 V/bit S_min=1.98644 dof=14
 
79
ao 1, linearity (negative), low gain
 
80
reading 3.985644(89), target 4.00244
 
81
caldac[1] gain=-1.853(12)e-4 V/bit S_min=1.78522 dof=14
 
82
caldac[2] gain=-3.788(12)e-4 V/bit S_min=10.0287 dof=14
 
83
caldac[4] gain=-7.753(12)e-4 V/bit S_min=4.62437 dof=14
 
84
caldac[5] gain=-7.79(12)e-5 V/bit S_min=1.26242 dof=14
 
85
caldac[8] gain=-9.3(12)e-6 V/bit S_min=0.382142 dof=14
 
86
caldac[9] gain=-8.949(12)e-4 V/bit S_min=3.74794 dof=14
 
87
ao 0, unipolar zero offset, low gain
 
88
reading -0.011404(84), target 0
 
89
caldac[4] gain=-7.852(12)e-4 V/bit S_min=22.6656 dof=14
 
90
caldac[6] gain=-9.043(12)e-4 V/bit S_min=19.5332 dof=14
 
91
caldac[8] gain=-8.8(12)e-6 V/bit S_min=0.444858 dof=14
 
92
caldac[10] gain=-4.45(12)e-5 V/bit S_min=0.924042 dof=14
 
93
ao 0, unipolar high, low gain
 
94
reading -0.011590(86), target 0
 
95
caldac[4] gain=-7.858(12)e-4 V/bit S_min=17.0993 dof=14
 
96
caldac[6] gain=-9.045(12)e-4 V/bit S_min=18.9856 dof=14
 
97
caldac[8] gain=-8.9(12)e-6 V/bit S_min=0.916444 dof=14
 
98
caldac[10] gain=-4.40(12)e-5 V/bit S_min=0.65867 dof=14
 
99
ao 0, unipolar linearity (mid), low gain
 
100
reading -0.011514(89), target 0
 
101
caldac[4] gain=-7.855(12)e-4 V/bit S_min=17.8868 dof=14
 
102
caldac[6] gain=-9.047(12)e-4 V/bit S_min=20.7486 dof=14
 
103
caldac[8] gain=-8.7(12)e-6 V/bit S_min=0.56776 dof=14
 
104
caldac[10] gain=-4.37(12)e-5 V/bit S_min=0.700342 dof=14
 
105
ao 1, unipolar zero offset, low gain
 
106
reading -0.013150(89), target 0
 
107
caldac[1] gain=-4.42(12)e-5 V/bit S_min=1.27423 dof=14
 
108
caldac[4] gain=-7.856(12)e-4 V/bit S_min=23.4799 dof=14
 
109
caldac[8] gain=-9.0(12)e-6 V/bit S_min=0.656603 dof=14
 
110
caldac[9] gain=-9.042(12)e-4 V/bit S_min=21.7567 dof=14
 
111
ao 1, unipolar high, low gain
 
112
reading -0.013078(86), target 0
 
113
caldac[1] gain=-4.43(12)e-5 V/bit S_min=0.738629 dof=14
 
114
caldac[4] gain=-7.850(12)e-4 V/bit S_min=23.9083 dof=14
 
115
caldac[8] gain=-8.8(12)e-6 V/bit S_min=0.304527 dof=14
 
116
caldac[9] gain=-9.046(12)e-4 V/bit S_min=18.0342 dof=14
 
117
ao 1, unipolar linearity (mid), low gain
 
118
reading -0.013097(84), target 0
 
119
caldac[1] gain=-4.42(12)e-5 V/bit S_min=0.831672 dof=14
 
120
caldac[4] gain=-7.854(12)e-4 V/bit S_min=22.5469 dof=14
 
121
caldac[8] gain=-8.8(12)e-6 V/bit S_min=0.62557 dof=14
 
122
caldac[9] gain=-9.045(12)e-4 V/bit S_min=23.6266 dof=14
 
123
WARNING: you need comedi driver version 0.7.67 or later
 
124
for this calibration to work properly
 
125
relative binary: ai, bipolar zero offset, low gain, ai, bipolar voltage
 
126
reference, low gain
 
127
caldac[2] set to 123
 
128
relative binary: ai, bipolar zero offset, low gain, ai, bipolar zero offset,
 
129
high gain
 
130
caldac[4] set to 131
 
131
binary: ai, bipolar zero offset, high gain
 
132
caldac[0] set to 255
 
133
WARNING: caldac[0] pegged!
 
134
binary: ai, bipolar zero offset, high gain
 
135
caldac[8] set to 62
 
136
postgain linearity: ao 0, linearity (negative), low gain,
 
137
ao 0, zero offset, low gain,
 
138
ao 0, reference voltage, low gain
 
139
caldac[10] set to 153
 
140
binary: ao 0, zero offset, low gain
 
141
caldac[6] set to 105
 
142
binary: ao 0, reference voltage, low gain
 
143
caldac[11] set to 85
 
144
postgain linearity: ao 0, unipolar zero offset, low gain,
 
145
ao 0, unipolar linearity (mid), low gain,
 
146
ao 0, unipolar high, low gain
 
147
caldac[10] set to 1
 
148
binary: ao 0, unipolar zero offset, low gain
 
149
caldac[6] set to 118
 
150
binary: ao 0, unipolar high, low gain
 
151
caldac[11] set to 16
 
152
postgain linearity: ao 1, linearity (negative), low gain,
 
153
ao 1, zero offset, low gain,
 
154
ao 1, reference voltage, low gain
 
155
caldac[1] set to 143
 
156
binary: ao 1, zero offset, low gain
 
157
caldac[9] set to 105
 
158
binary: ao 1, reference voltage, low gain
 
159
caldac[5] set to 115
 
160
postgain linearity: ao 1, unipolar zero offset, low gain,
 
161
ao 1, unipolar linearity (mid), low gain,
 
162
ao 1, unipolar high, low gain
 
163
caldac[1] set to 1
 
164
binary: ao 1, unipolar zero offset, low gain
 
165
caldac[9] set to 116
 
166
binary: ao 1, unipolar high, low gain
 
167
caldac[5] set to 0
 
168
WARNING: caldac[5] pegged!
 
169
writing calibration to /etc/comedi/calibrations/ni_pcimio_pci-6071e_comedi0
 
170
ai, bipolar zero offset, low gain
 
171
applied calibration for subdev 0, channel 0, range 0, aref 3
 
172
reading 5.68(92)e-4, target 0
 
173
caldac[4] gain=-7.867(12)e-4 V/bit S_min=21.0838 dof=14
 
174
caldac[8] gain=-1.14(12)e-5 V/bit S_min=1.35955 dof=14
 
175
ai, bipolar zero offset, high gain
 
176
applied calibration for subdev 0, channel 0, range 7, aref 3
 
177
reading 5.2(59)e-7, target 0
 
178
caldac[4] gain=-3.9334(81)e-6 V/bit S_min=10.5606 dof=14
 
179
caldac[8] gain=-8.8700(81)e-6 V/bit S_min=16.3103 dof=14
 
180
ai, bipolar voltage reference, low gain
 
181
applied calibration for subdev 0, channel 5, range 0, aref 3
 
182
reading 5.000963(87), target 4.99996
 
183
caldac[2] gain=-4.825(12)e-4 V/bit S_min=23.7361 dof=14
 
184
caldac[4] gain=-7.819(12)e-4 V/bit S_min=4.81761 dof=14
 
185
caldac[8] gain=-9.9(12)e-6 V/bit S_min=0.971836 dof=14
 
186
ai, unipolar zero offset, low gain
 
187
applied calibration for subdev 0, channel 0, range 8, aref 3
 
188
reading 0.018215(86), target 0.002442
 
189
caldac[4] gain=-5.3987(75)e-4 V/bit S_min=52638 dof=14
 
190
caldac[7] gain=-6.1980(73)e-4 V/bit S_min=92809.6 dof=14
 
191
caldac[8] gain=-9.0(12)e-6 V/bit S_min=1.01631 dof=14
 
192
ai, unipolar zero offset, high gain
 
193
applied calibration for subdev 0, channel 0, range 15, aref 3
 
194
reading 8.838(58)e-5, target 1.221e-05
 
195
caldac[4] gain=-2.6829(52)e-6 V/bit S_min=28212.7 dof=14
 
196
caldac[7] gain=-3.0849(50)e-6 V/bit S_min=49735.8 dof=14
 
197
caldac[8] gain=-2.0447(26)e-6 V/bit S_min=463142 dof=14
 
198
ai, unipolar voltage reference, low gain
 
199
applied calibration for subdev 0, channel 5, range 8, aref 3
 
200
reading 5.017733(89), target 4.99996
 
201
caldac[2] gain=-4.806(12)e-4 V/bit S_min=13.5741 dof=14
 
202
caldac[4] gain=-7.816(12)e-4 V/bit S_min=4.25985 dof=14
 
203
caldac[7] gain=-9.610(12)e-4 V/bit S_min=7.08873 dof=14
 
204
caldac[8] gain=-8.6(12)e-6 V/bit S_min=1.11003 dof=14
 
205
ao 0, zero offset, low gain
 
206
applied calibration for subdev 1, channel 0, range 0, aref 0
 
207
applied calibration for subdev 0, channel 2, range 0, aref 3
 
208
reading 2.742(89)e-3, target 0.002442
 
209
caldac[4] gain=-7.862(12)e-4 V/bit S_min=21.1642 dof=14
 
210
caldac[6] gain=-9.040(12)e-4 V/bit S_min=25.7068 dof=14
 
211
caldac[8] gain=-8.8(12)e-6 V/bit S_min=0.916272 dof=14
 
212
caldac[10] gain=-1.396(12)e-4 V/bit S_min=10.2294 dof=14
 
213
ao 0, reference voltage, low gain
 
214
applied calibration for subdev 1, channel 0, range 0, aref 0
 
215
applied calibration for subdev 0, channel 2, range 0, aref 3
 
216
reading 8.002456(86), target 8.00244
 
217
caldac[2] gain=-7.649(12)e-4 V/bit S_min=22.7145 dof=14
 
218
caldac[4] gain=-7.773(12)e-4 V/bit S_min=1.9363 dof=14
 
219
caldac[6] gain=-8.957(12)e-4 V/bit S_min=1.68465 dof=14
 
220
caldac[8] gain=-8.8(12)e-6 V/bit S_min=0.814041 dof=14
 
221
caldac[10] gain=-2.051(12)e-4 V/bit S_min=2.5541 dof=14
 
222
caldac[11] gain=-1.552(12)e-4 V/bit S_min=0.894274 dof=14
 
223
ao 0, linearity (negative), low gain
 
224
applied calibration for subdev 1, channel 0, range 0, aref 0
 
225
applied calibration for subdev 0, channel 2, range 0, aref 3
 
226
reading 4.001874(87), target 4.00244
 
227
caldac[2] gain=-3.802(12)e-4 V/bit S_min=5.15407 dof=14
 
228
caldac[4] gain=-7.759(12)e-4 V/bit S_min=3.55141 dof=14
 
229
caldac[6] gain=-8.954(12)e-4 V/bit S_min=2.50699 dof=14
 
230
caldac[8] gain=-9.2(12)e-6 V/bit S_min=0.518118 dof=14
 
231
caldac[10] gain=-1.855(12)e-4 V/bit S_min=1.37541 dof=14
 
232
caldac[11] gain=-7.76(12)e-5 V/bit S_min=0.917532 dof=14
 
233
ao 1, zero offset, low gain
 
234
applied calibration for subdev 1, channel 1, range 0, aref 0
 
235
applied calibration for subdev 0, channel 3, range 0, aref 3
 
236
reading 3.320(89)e-3, target 0.002442
 
237
caldac[1] gain=-1.395(12)e-4 V/bit S_min=9.13709 dof=14
 
238
caldac[4] gain=-7.862(12)e-4 V/bit S_min=18.5454 dof=14
 
239
caldac[8] gain=-9.6(12)e-6 V/bit S_min=0.531896 dof=14
 
240
caldac[9] gain=-9.062(12)e-4 V/bit S_min=17.5875 dof=14
 
241
ao 1, reference voltage, low gain
 
242
applied calibration for subdev 1, channel 1, range 0, aref 0
 
243
applied calibration for subdev 0, channel 3, range 0, aref 3
 
244
reading 8.002537(85), target 8.00244
 
245
caldac[1] gain=-2.055(12)e-4 V/bit S_min=2.2748 dof=14
 
246
caldac[2] gain=-7.679(12)e-4 V/bit S_min=17.2396 dof=14
 
247
caldac[4] gain=-7.768(12)e-4 V/bit S_min=2.15147 dof=14
 
248
caldac[5] gain=-1.542(12)e-4 V/bit S_min=0.655287 dof=14
 
249
caldac[8] gain=-9.1(12)e-6 V/bit S_min=1.92542 dof=14
 
250
caldac[9] gain=-8.960(12)e-4 V/bit S_min=3.66176 dof=14
 
251
ao 1, linearity (negative), low gain
 
252
applied calibration for subdev 1, channel 1, range 0, aref 0
 
253
applied calibration for subdev 0, channel 3, range 0, aref 3
 
254
reading 4.002270(85), target 4.00244
 
255
caldac[1] gain=-1.859(12)e-4 V/bit S_min=0.845903 dof=14
 
256
caldac[2] gain=-3.827(12)e-4 V/bit S_min=11.7608 dof=14
 
257
caldac[4] gain=-7.757(12)e-4 V/bit S_min=1.98853 dof=14
 
258
caldac[5] gain=-7.76(12)e-5 V/bit S_min=1.35054 dof=14
 
259
caldac[8] gain=-8.5(12)e-6 V/bit S_min=0.943043 dof=14
 
260
caldac[9] gain=-8.942(12)e-4 V/bit S_min=1.58679 dof=14
 
261
ao 0, unipolar zero offset, low gain
 
262
applied calibration for subdev 1, channel 0, range 1, aref 0
 
263
applied calibration for subdev 0, channel 2, range 0, aref 3
 
264
reading 2.10(90)e-4, target 0
 
265
caldac[4] gain=-7.863(12)e-4 V/bit S_min=20.3835 dof=14
 
266
caldac[6] gain=-9.051(12)e-4 V/bit S_min=19.4684 dof=14
 
267
caldac[8] gain=-1.12(12)e-5 V/bit S_min=1.95292 dof=14
 
268
caldac[10] gain=-4.57(12)e-5 V/bit S_min=2.75928 dof=14
 
269
ao 0, unipolar high, low gain
 
270
applied calibration for subdev 1, channel 0, range 1, aref 0
 
271
applied calibration for subdev 0, channel 2, range 0, aref 3
 
272
reading 3.00(92)e-4, target 0
 
273
caldac[4] gain=-7.868(12)e-4 V/bit S_min=16.4288 dof=14
 
274
caldac[6] gain=-9.056(12)e-4 V/bit S_min=24.5643 dof=14
 
275
caldac[8] gain=-1.11(12)e-5 V/bit S_min=1.43656 dof=14
 
276
caldac[10] gain=-4.65(12)e-5 V/bit S_min=0.837541 dof=14
 
277
ao 0, unipolar linearity (mid), low gain
 
278
applied calibration for subdev 1, channel 0, range 1, aref 0
 
279
applied calibration for subdev 0, channel 2, range 0, aref 3
 
280
reading 1.96(90)e-4, target 0
 
281
caldac[4] gain=-7.868(12)e-4 V/bit S_min=14.2051 dof=14
 
282
caldac[6] gain=-9.056(12)e-4 V/bit S_min=18.6665 dof=14
 
283
caldac[8] gain=-1.12(12)e-5 V/bit S_min=1.18046 dof=14
 
284
caldac[10] gain=-4.56(12)e-5 V/bit S_min=1.98868 dof=14
 
285
ao 1, unipolar zero offset, low gain
 
286
applied calibration for subdev 1, channel 1, range 1, aref 0
 
287
applied calibration for subdev 0, channel 3, range 0, aref 3
 
288
reading 3.62(91)e-4, target 0
 
289
caldac[1] gain=-4.59(12)e-5 V/bit S_min=2.76109 dof=14
 
290
caldac[4] gain=-7.864(12)e-4 V/bit S_min=17.9176 dof=14
 
291
caldac[8] gain=-1.18(12)e-5 V/bit S_min=1.05356 dof=14
 
292
caldac[9] gain=-9.054(12)e-4 V/bit S_min=20.5404 dof=14
 
293
ao 1, unipolar high, low gain
 
294
applied calibration for subdev 1, channel 1, range 1, aref 0
 
295
applied calibration for subdev 0, channel 3, range 0, aref 3
 
296
reading 4.67(91)e-4, target 0
 
297
caldac[1] gain=-4.62(12)e-5 V/bit S_min=2.01282 dof=14
 
298
caldac[4] gain=-7.867(12)e-4 V/bit S_min=18.8753 dof=14
 
299
caldac[8] gain=-1.11(12)e-5 V/bit S_min=0.816831 dof=14
 
300
caldac[9] gain=-9.055(12)e-4 V/bit S_min=21.3795 dof=14
 
301
ao 1, unipolar linearity (mid), low gain
 
302
applied calibration for subdev 1, channel 1, range 1, aref 0
 
303
applied calibration for subdev 0, channel 3, range 0, aref 3
 
304
reading 4.91(91)e-4, target 0
 
305
caldac[1] gain=-4.55(12)e-5 V/bit S_min=2.45985 dof=14
 
306
caldac[4] gain=-7.863(12)e-4 V/bit S_min=18.2828 dof=14
 
307
caldac[8] gain=-1.15(12)e-5 V/bit S_min=0.957032 dof=14
 
308
caldac[9] gain=-9.053(12)e-4 V/bit S_min=20.0688 dof=14
 
309
Applied calibration for subdevice 0, channel 0, range 0, aref 0