~ubuntu-branches/ubuntu/utopic/fftw3/utopic

« back to all changes in this revision

Viewing changes to doc/html/FFTW-Accuracy-on-Cell.html

  • Committer: Package Import Robot
  • Author(s): Matthias Klose
  • Date: 2011-12-14 13:21:22 UTC
  • mfrom: (3.1.5 sid)
  • Revision ID: package-import@ubuntu.com-20111214132122-l4avyl2kkr7vq5aj
Tags: 3.3-1ubuntu1
* Merge with Debian; remaining changes:
  - Revert the ARM workaround.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
 
<html lang="en">
2
 
<head>
3
 
<title>FFTW Accuracy on Cell - FFTW 3.2.2</title>
4
 
<meta http-equiv="Content-Type" content="text/html">
5
 
<meta name="description" content="FFTW 3.2.2">
6
 
<meta name="generator" content="makeinfo 4.13">
7
 
<link title="Top" rel="start" href="index.html#Top">
8
 
<link rel="up" href="FFTW-on-the-Cell-Processor.html#FFTW-on-the-Cell-Processor" title="FFTW on the Cell Processor">
9
 
<link rel="prev" href="Cell-Caveats.html#Cell-Caveats" title="Cell Caveats">
10
 
<link href="http://www.gnu.org/software/texinfo/" rel="generator-home" title="Texinfo Homepage">
11
 
<!--
12
 
This manual is for FFTW
13
 
(version 3.2.2, 12 July 2009).
14
 
 
15
 
Copyright (C) 2003 Matteo Frigo.
16
 
 
17
 
Copyright (C) 2003 Massachusetts Institute of Technology.
18
 
 
19
 
     Permission is granted to make and distribute verbatim copies of
20
 
     this manual provided the copyright notice and this permission
21
 
     notice are preserved on all copies.
22
 
 
23
 
     Permission is granted to copy and distribute modified versions of
24
 
     this manual under the conditions for verbatim copying, provided
25
 
     that the entire resulting derived work is distributed under the
26
 
     terms of a permission notice identical to this one.
27
 
 
28
 
     Permission is granted to copy and distribute translations of this
29
 
     manual into another language, under the above conditions for
30
 
     modified versions, except that this permission notice may be
31
 
     stated in a translation approved by the Free Software Foundation.
32
 
   -->
33
 
<meta http-equiv="Content-Style-Type" content="text/css">
34
 
<style type="text/css"><!--
35
 
  pre.display { font-family:inherit }
36
 
  pre.format  { font-family:inherit }
37
 
  pre.smalldisplay { font-family:inherit; font-size:smaller }
38
 
  pre.smallformat  { font-family:inherit; font-size:smaller }
39
 
  pre.smallexample { font-size:smaller }
40
 
  pre.smalllisp    { font-size:smaller }
41
 
  span.sc    { font-variant:small-caps }
42
 
  span.roman { font-family:serif; font-weight:normal; } 
43
 
  span.sansserif { font-family:sans-serif; font-weight:normal; } 
44
 
--></style>
45
 
</head>
46
 
<body>
47
 
<div class="node">
48
 
<a name="FFTW-Accuracy-on-Cell"></a>
49
 
<p>
50
 
Previous:&nbsp;<a rel="previous" accesskey="p" href="Cell-Caveats.html#Cell-Caveats">Cell Caveats</a>,
51
 
Up:&nbsp;<a rel="up" accesskey="u" href="FFTW-on-the-Cell-Processor.html#FFTW-on-the-Cell-Processor">FFTW on the Cell Processor</a>
52
 
<hr>
53
 
</div>
54
 
 
55
 
<h3 class="section">6.3 FFTW Accuracy on Cell</h3>
56
 
 
57
 
<p>The SPEs are fully IEEE-754 compliant in double precision.  In single
58
 
precision, they only implement round-towards-zero as opposed to the
59
 
standard round-to-even mode.  (The PPE is fully IEEE-754 compliant
60
 
like all other PowerPC implementations.)  Because of the rounding
61
 
mode, FFTW is less accurate when running on the SPEs than on the PPE. 
62
 
The accuracy loss is hard to quantify in general, but as a rough
63
 
guideline, the L2 norm of the relative roundoff error for random
64
 
inputs is 4 to 8 times larger than the corresponding calculation in
65
 
round-to-even arithmetic.  In other words, expect to lose 2 to 3 bits
66
 
of accuracy.
67
 
 
68
 
   <p>FFTW currently does not use any algorithm that degrades accuracy to
69
 
gain performance on the SPE.  One implication of this choice is that
70
 
large 1D transforms run slower than they would if we were willing to
71
 
sacrifice another bit or so of accuracy.
72
 
 
73
 
<!-- ************************************************************ -->
74
 
   </body></html>
75