~ubuntu-branches/ubuntu/maverick/blender/maverick

« back to all changes in this revision

Viewing changes to extern/fftw/dft/k7/codelets/n1k7i_128.S

  • Committer: Bazaar Package Importer
  • Author(s): Khashayar Naderehvandi, Khashayar Naderehvandi, Alessio Treglia
  • Date: 2009-01-22 16:53:59 UTC
  • mfrom: (14.1.1 experimental)
  • Revision ID: james.westby@ubuntu.com-20090122165359-v0996tn7fbit64ni
Tags: 2.48a+dfsg-1ubuntu1
[ Khashayar Naderehvandi ]
* Merge from debian experimental (LP: #320045), Ubuntu remaining changes:
  - Add patch correcting header file locations.
  - Add libvorbis-dev and libgsm1-dev to Build-Depends.
  - Use avcodec_decode_audio2() in source/blender/src/hddaudio.c

[ Alessio Treglia ]
* Add missing previous changelog entries.

Show diffs side-by-side

added added

removed removed

Lines of Context:
 
1
/*
 
2
 * Copyright (c) 2003, 2006 Matteo Frigo
 
3
 * Copyright (c) 2003, 2006 Massachusetts Institute of Technology
 
4
 *
 
5
 * This program is free software; you can redistribute it and/or modify
 
6
 * it under the terms of the GNU General Public License as published by
 
7
 * the Free Software Foundation; either version 2 of the License, or
 
8
 * (at your option) any later version.
 
9
 *
 
10
 * This program is distributed in the hope that it will be useful,
 
11
 * but WITHOUT ANY WARRANTY; without even the implied warranty of
 
12
 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
13
 * GNU General Public License for more details.
 
14
 *
 
15
 * You should have received a copy of the GNU General Public License
 
16
 * along with this program; if not, write to the Free Software
 
17
 * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
18
 *
 
19
 */
 
20
 
 
21
/* This file was automatically generated --- DO NOT EDIT */
 
22
/* Generated on Sat Jul  1 22:45:32 EDT 2006 */
 
23
 
 
24
#include "config.h"
 
25
 
 
26
 
 
27
 
 
28
/* cheap-mode: VECTGRADE_FULL succeeded. (8036 steps) */
 
29
/* Generated by: ../../../genfft-k7/gen_notw -no-randomized-cse -n 128 -sign 1 -name n1k7i_128 */
 
30
 
 
31
/*
 
32
 * Generator Id's : 
 
33
 * $Id: algsimp.ml,v 1.4 2006-01-05 03:04:27 stevenj Exp $
 
34
 * $Id: fft.ml,v 1.4 2006-01-05 03:04:27 stevenj Exp $
 
35
 * $Id: gen_notw.ml,v 1.12 2006-01-05 03:04:27 stevenj Exp $
 
36
 */
 
37
 
 
38
/* The following asm code is Copyright (c) 2000-2001 Stefan Kral */
 
39
.section .rodata
 
40
        .balign 64
 
41
chs_lo: .long 0x80000000, 0x00000000
 
42
chs_hi: .long 0x00000000, 0x80000000
 
43
KP923879532KP382683432: .float +0.923879532511286756128183189396788286822416626, +0.382683432365089771728459984030398866761344562
 
44
KP382683432KP923879532: .float +0.382683432365089771728459984030398866761344562, +0.923879532511286756128183189396788286822416626
 
45
KP707106781KP707106781: .float +0.707106781186547524400844362104849039284835938, +0.707106781186547524400844362104849039284835938
 
46
KP555570233KP831469612: .float +0.555570233019602224742830813948532874374937191, +0.831469612302545237078788377617905756738560812
 
47
KP831469612KP555570233: .float +0.831469612302545237078788377617905756738560812, +0.555570233019602224742830813948532874374937191
 
48
KP980785280KP195090322: .float +0.980785280403230449126182236134239036973933731, +0.195090322016128267848284868477022240927691618
 
49
KP195090322KP980785280: .float +0.195090322016128267848284868477022240927691618, +0.980785280403230449126182236134239036973933731
 
50
KP773010453KP634393284: .float +0.773010453362736960810906609758469800971041293, +0.634393284163645498215171613225493370675687095
 
51
KP634393284KP773010453: .float +0.634393284163645498215171613225493370675687095, +0.773010453362736960810906609758469800971041293
 
52
KP995184726KP098017140: .float +0.995184726672196886244836953109479921575474869, +0.098017140329560601994195563888641845861136673
 
53
KP098017140KP995184726: .float +0.098017140329560601994195563888641845861136673, +0.995184726672196886244836953109479921575474869
 
54
KP956940335KP290284677: .float +0.956940335732208864935797886980269969482849206, +0.290284677254462367636192375817395274691476278
 
55
KP290284677KP956940335: .float +0.290284677254462367636192375817395274691476278, +0.956940335732208864935797886980269969482849206
 
56
KP881921264KP471396736: .float +0.881921264348355029712756863660388349508442621, +0.471396736825997648556387625905254377657460319
 
57
KP471396736KP881921264: .float +0.471396736825997648556387625905254377657460319, +0.881921264348355029712756863660388349508442621
 
58
KP146730474KP989176509: .float +0.146730474455361751658850129646717819706215317, +0.989176509964780973451673738016243063983689533
 
59
KP514102744KP857728610: .float +0.514102744193221726593693838968815772608049120, +0.857728610000272069902269984284770137042490799
 
60
KP857728610KP514102744: .float +0.857728610000272069902269984284770137042490799, +0.514102744193221726593693838968815772608049120
 
61
KP803207531KP595699304: .float +0.803207531480644909806676512963141923879569427, +0.595699304492433343467036528829969889511926338
 
62
KP242980179KP970031253: .float +0.242980179903263889948274162077471118320990783, +0.970031253194543992603984207286100251456865962
 
63
KP970031253KP242980179: .float +0.970031253194543992603984207286100251456865962, +0.242980179903263889948274162077471118320990783
 
64
KP595699304KP803207531: .float +0.595699304492433343467036528829969889511926338, +0.803207531480644909806676512963141923879569427
 
65
KP989176509KP146730474: .float +0.989176509964780973451673738016243063983689533, +0.146730474455361751658850129646717819706215317
 
66
KP427555093KP903989293: .float +0.427555093430282094320966856888798534304578629, +0.903989293123443331586200297230537048710132025
 
67
KP049067674KP998795456: .float +0.049067674327418014254954976942682658314745363, +0.998795456205172392714771604759100694443203615
 
68
KP998795456KP049067674: .float +0.998795456205172392714771604759100694443203615, +0.049067674327418014254954976942682658314745363
 
69
KP941544065KP336889853: .float +0.941544065183020778412509402599502357185589796, +0.336889853392220050689253212619147570477766780
 
70
KP671558954KP740951125: .float +0.671558954847018400625376850427421803228750632, +0.740951125354959091175616897495162729728955309
 
71
KP740951125KP671558954: .float +0.740951125354959091175616897495162729728955309, +0.671558954847018400625376850427421803228750632
 
72
KP336889853KP941544065: .float +0.336889853392220050689253212619147570477766780, +0.941544065183020778412509402599502357185589796
 
73
KP903989293KP427555093: .float +0.903989293123443331586200297230537048710132025, +0.427555093430282094320966856888798534304578629
 
74
.text
 
75
.text
 
76
        .balign 64
 
77
n1k7i_128:
 
78
        subl $2764, %esp
 
79
        femms 
 
80
        movl 2784(%esp), %ecx
 
81
        movl %esi, 2756(%esp)
 
82
        movl 2788(%esp), %esi
 
83
        movl 2772(%esp), %eax
 
84
        movl %ebx, 2760(%esp)
 
85
        movl 2780(%esp), %ebx
 
86
        movl %edi, 2752(%esp)
 
87
        leal (,%ecx,4), %ecx
 
88
        movl %ebp, 2748(%esp)
 
89
        leal (,%esi,4), %esi
 
90
        movl %ecx, %edx
 
91
        movl %esi, %edi
 
92
        sall $6, %edx
 
93
        addl %eax, %edx
 
94
        sall $6, %edi
 
95
        addl %ebx, %edi
 
96
        sall $2, 2796(%esp)
 
97
        sall $2, 2800(%esp)
 
98
        .p2align 4,,7
 
99
.L0:
 
100
        /* promise simd cell size = 8 */ 
 
101
        movq (%eax), %mm1
 
102
        leal (,%ecx,4), %ebp
 
103
        movq (%edx), %mm0
 
104
        movq (%edx,%ebp,8), %mm3
 
105
        movq (%eax,%ebp,8), %mm4
 
106
        leal (%ecx,%ecx), %ebp
 
107
        movq %mm1, %mm2
 
108
        leal (%ebp,%ebp,2), %ebp
 
109
        pfadd %mm0, %mm1
 
110
        pfsub %mm0, %mm2
 
111
        movq %mm4, %mm5
 
112
        movq (%eax,%ebp,8), %mm7
 
113
        pfsub %mm3, %mm4
 
114
        movq (%edx,%ebp,8), %mm0
 
115
        leal (%ecx,%ecx), %ebp
 
116
        pfadd %mm3, %mm5
 
117
        movq %mm1, %mm6
 
118
        movq %mm2, 0(%esp)
 
119
        movq %mm4, 8(%esp)
 
120
        movq (%edx,%ebp,8), %mm2
 
121
        movq (%eax,%ebp,8), %mm4
 
122
        movq %mm0, %mm3
 
123
        pfadd %mm5, %mm6
 
124
        leal (%ecx,%ecx,2), %ebp
 
125
        pfsub %mm5, %mm1
 
126
        pfsub %mm7, %mm3
 
127
        movq %mm4, %mm5
 
128
        pfsub %mm2, %mm4
 
129
        pfadd %mm7, %mm0
 
130
        pfadd %mm2, %mm5
 
131
        movq %mm1, 64(%esp)
 
132
        movq (%edx,%ebp,8), %mm2
 
133
        movq %mm4, %mm7
 
134
        pfpnacc %mm3, %mm7
 
135
        movq %mm5, %mm1
 
136
        pswapd %mm3, %mm3
 
137
        pfadd %mm0, %mm5
 
138
        pfsubr %mm0, %mm1
 
139
        movq (%eax,%ebp,8), %mm0
 
140
        leal (%ecx,%ecx,2), %ebp
 
141
        pfpnacc %mm4, %mm3
 
142
        leal (%ecx,%ebp,2), %ebp
 
143
        movq %mm7, 24(%esp)
 
144
        movq %mm0, %mm4
 
145
        movq (%eax,%ebp,8), %mm7
 
146
        pfsub %mm2, %mm0
 
147
        movq %mm3, 16(%esp)
 
148
        movq (%edx,%ebp,8), %mm3
 
149
        leal (%ecx,%ecx,4), %ebp
 
150
        pfadd %mm2, %mm4
 
151
        pswapd %mm1, %mm1
 
152
        pxor chs_lo, %mm0
 
153
        pxor chs_hi, %mm1
 
154
        movq %mm3, %mm2
 
155
        pfadd %mm7, %mm3
 
156
        pfsub %mm7, %mm2
 
157
        movq %mm0, 32(%esp)
 
158
        movq (%edx,%ebp,8), %mm0
 
159
        movq %mm3, %mm7
 
160
        pfsub %mm4, %mm3
 
161
        movq %mm2, 48(%esp)
 
162
        movq (%eax,%ebp,8), %mm2
 
163
        pfadd %mm4, %mm7
 
164
        leal (%ecx,%ecx,8), %ebp
 
165
        movq %mm3, 40(%esp)
 
166
        movq (%edx,%ecx,8), %mm3
 
167
        movq %mm2, %mm4
 
168
        pfadd %mm0, %mm2
 
169
        pfsub %mm0, %mm4
 
170
        movq %mm4, 56(%esp)
 
171
        movq (%eax,%ecx,8), %mm0
 
172
        movq %mm0, %mm4
 
173
        pfadd %mm3, %mm0
 
174
        pfsub %mm3, %mm4
 
175
        movq %mm0, %mm3
 
176
        pfadd %mm2, %mm0
 
177
        pfsub %mm2, %mm3
 
178
        movq %mm6, %mm2
 
179
        pfsub %mm5, %mm6
 
180
        pfadd %mm5, %mm2
 
181
        movq %mm0, %mm5
 
182
        pfsubr %mm7, %mm0
 
183
        pfadd %mm7, %mm5
 
184
        movq %mm6, 72(%esp)
 
185
        movq 64(%esp), %mm6
 
186
        movq %mm2, %mm7
 
187
        movq %mm0, 112(%esp)
 
188
        pfadd %mm5, %mm2
 
189
        pfsub %mm5, %mm7
 
190
        movq 56(%esp), %mm5
 
191
        movq %mm6, %mm0
 
192
        pfsub %mm1, %mm6
 
193
        pfadd %mm1, %mm0
 
194
        movq %mm4, %mm1
 
195
        movq %mm2, 192(%esp)
 
196
        movq 8(%esp), %mm2
 
197
        pswapd %mm5, %mm5
 
198
        movq %mm7, 120(%esp)
 
199
        movq %mm6, 88(%esp)
 
200
        movq 0(%esp), %mm6
 
201
        pxor chs_lo, %mm5
 
202
        movq %mm0, 80(%esp)
 
203
        pswapd %mm2, %mm2
 
204
        pxor chs_lo, %mm2
 
205
        movq %mm6, %mm0
 
206
        pfadd %mm5, %mm1
 
207
        pfsub %mm5, %mm4
 
208
        movq 48(%esp), %mm5
 
209
        pfadd %mm2, %mm0
 
210
        pfsub %mm2, %mm6
 
211
        movq 32(%esp), %mm2
 
212
        movq %mm1, %mm7
 
213
        pswapd %mm5, %mm5
 
214
        pfmul KP923879532KP382683432, %mm1
 
215
        pfmul KP382683432KP923879532, %mm7
 
216
        movq %mm0, 104(%esp)
 
217
        movq %mm5, %mm0
 
218
        pfsub %mm2, %mm5
 
219
        movq %mm6, 96(%esp)
 
220
        pfadd %mm2, %mm0
 
221
        movq 40(%esp), %mm2
 
222
        movq %mm5, %mm6
 
223
        pfmul KP382683432KP923879532, %mm5
 
224
        pfmul KP923879532KP382683432, %mm6
 
225
        pfpnacc %mm5, %mm1
 
226
        movq %mm3, %mm5
 
227
        pfpnacc %mm2, %mm5
 
228
        pswapd %mm2, %mm2
 
229
        pfpnacc %mm7, %mm6
 
230
        movq %mm4, %mm7
 
231
        pfmul KP923879532KP382683432, %mm4
 
232
        pfpnacc %mm3, %mm2
 
233
        movq %mm1, 128(%esp)
 
234
        movq 24(%esp), %mm1
 
235
        pfmul KP382683432KP923879532, %mm7
 
236
        movq %mm5, %mm3
 
237
        movq %mm6, 136(%esp)
 
238
        movq 16(%esp), %mm6
 
239
        pfacc %mm2, %mm5
 
240
        pfnacc %mm3, %mm2
 
241
        movq %mm1, %mm3
 
242
        pfacc %mm6, %mm1
 
243
        pfnacc %mm3, %mm6
 
244
        pfmul KP707106781KP707106781, %mm5
 
245
        movq %mm0, %mm3
 
246
        pfmul KP707106781KP707106781, %mm2
 
247
        pfmul KP382683432KP923879532, %mm0
 
248
        pfmul KP707106781KP707106781, %mm1
 
249
        pfmul KP707106781KP707106781, %mm6
 
250
        pfmul KP923879532KP382683432, %mm3
 
251
        movq %mm5, 176(%esp)
 
252
        movq %mm2, 184(%esp)
 
253
        movq (%edx,%ebp,4), %mm5
 
254
        movq (%eax,%ebp,4), %mm2
 
255
        leal (%ecx,%ecx,2), %ebp
 
256
        pfpnacc %mm4, %mm0
 
257
        movq %mm1, 168(%esp)
 
258
        leal (%ecx,%ebp,4), %ebp
 
259
        movq %mm6, 144(%esp)
 
260
        movq (%edx,%ecx,4), %mm1
 
261
        movq (%eax,%ecx,4), %mm6
 
262
        movq %mm2, %mm4
 
263
        pfpnacc %mm3, %mm7
 
264
        pfadd %mm5, %mm2
 
265
        movq %mm0, 152(%esp)
 
266
        movq (%eax,%ebp,4), %mm0
 
267
        pfsub %mm5, %mm4
 
268
        movq (%edx,%ebp,4), %mm5
 
269
        leal (%ecx,%ecx,4), %ebp
 
270
        movq %mm6, %mm3
 
271
        pfadd %mm1, %mm6
 
272
        movq %mm7, 160(%esp)
 
273
        pfsub %mm1, %mm3
 
274
        movq %mm5, %mm1
 
275
        pfadd %mm0, %mm5
 
276
        pswapd %mm4, %mm4
 
277
        movq %mm6, %mm7
 
278
        pfsub %mm2, %mm6
 
279
        pfsub %mm0, %mm1
 
280
        pxor chs_lo, %mm4
 
281
        movq %mm3, 232(%esp)
 
282
        movq (%edx,%ebp,4), %mm0
 
283
        movq (%eax,%ebp,4), %mm3
 
284
        pfadd %mm2, %mm7
 
285
        leal (%ecx,%ecx,2), %ebp
 
286
        movq %mm6, 200(%esp)
 
287
        leal (%ebp,%ecx,8), %ebp
 
288
        movq %mm3, %mm2
 
289
        pfsub %mm0, %mm3
 
290
        pfadd %mm0, %mm2
 
291
        movq %mm3, %mm0
 
292
        pfpnacc %mm1, %mm0
 
293
        pswapd %mm1, %mm1
 
294
        movq %mm2, %mm6
 
295
        pfsubr %mm5, %mm2
 
296
        pfpnacc %mm3, %mm1
 
297
        movq (%edx,%ebp,4), %mm3
 
298
        pfadd %mm5, %mm6
 
299
        movq (%eax,%ebp,4), %mm5
 
300
        leal (%ecx,%ecx,2), %ebp
 
301
        movq %mm0, 216(%esp)
 
302
        movq %mm2, 208(%esp)
 
303
        movq %mm1, 224(%esp)
 
304
        movq (%edx,%ebp,4), %mm0
 
305
        movq (%eax,%ebp,4), %mm1
 
306
        movq %mm3, %mm2
 
307
        pfadd %mm5, %mm3
 
308
        leal (%ecx,%ecx,2), %ebp
 
309
        pfsub %mm5, %mm2
 
310
        leal (%ecx,%ebp,2), %ebp
 
311
        movq %mm1, %mm5
 
312
        pfsub %mm0, %mm1
 
313
        pfadd %mm0, %mm5
 
314
        movq %mm1, %mm0
 
315
        pfpnacc %mm2, %mm0
 
316
        pswapd %mm2, %mm2
 
317
        pfpnacc %mm1, %mm2
 
318
        movq %mm5, %mm1
 
319
        pfadd %mm3, %mm5
 
320
        movq %mm0, 256(%esp)
 
321
        pfsub %mm3, %mm1
 
322
        movq (%edx,%ebp,4), %mm0
 
323
        movq (%eax,%ebp,4), %mm3
 
324
        leal (%ecx,%ecx,2), %ebp
 
325
        movq %mm2, 248(%esp)
 
326
        leal (%ebp,%ebp,4), %ebp
 
327
        pxor chs_hi, %mm1
 
328
        movq %mm3, %mm2
 
329
        pfsub %mm0, %mm3
 
330
        pfadd %mm0, %mm2
 
331
        movq %mm1, 240(%esp)
 
332
        movq (%eax,%ebp,4), %mm0
 
333
        movq (%edx,%ebp,4), %mm1
 
334
        leal (%ecx,%ecx), %ebp
 
335
        pxor chs_lo, %mm3
 
336
        leal (%ecx,%ebp,8), %ebp
 
337
        movq %mm3, 264(%esp)
 
338
        movq %mm1, %mm3
 
339
        pfadd %mm0, %mm1
 
340
        pfsub %mm0, %mm3
 
341
        movq %mm1, %mm0
 
342
        pfsub %mm2, %mm1
 
343
        pfadd %mm2, %mm0
 
344
        movq %mm7, %mm2
 
345
        pswapd %mm3, %mm3
 
346
        pfadd %mm6, %mm7
 
347
        pfsub %mm6, %mm2
 
348
        movq %mm1, 272(%esp)
 
349
        movq %mm0, %mm6
 
350
        pfadd %mm5, %mm0
 
351
        pfsub %mm5, %mm6
 
352
        movq %mm7, %mm5
 
353
        movq %mm2, %mm1
 
354
        pfsubr %mm0, %mm5
 
355
        pfadd %mm0, %mm7
 
356
        movq 232(%esp), %mm0
 
357
        pfpnacc %mm6, %mm1
 
358
        pswapd %mm6, %mm6
 
359
        pfpnacc %mm2, %mm6
 
360
        movq %mm5, 360(%esp)
 
361
        movq %mm7, 400(%esp)
 
362
        movq %mm1, 280(%esp)
 
363
        movq 224(%esp), %mm2
 
364
        movq 216(%esp), %mm5
 
365
        movq %mm0, %mm1
 
366
        pfsub %mm4, %mm0
 
367
        movq %mm2, %mm7
 
368
        pfadd %mm4, %mm1
 
369
        movq %mm6, 288(%esp)
 
370
        pfnacc %mm5, %mm2
 
371
        pfacc %mm7, %mm5
 
372
        movq %mm0, %mm6
 
373
        movq 264(%esp), %mm7
 
374
        movq %mm1, %mm4
 
375
        pfmul KP707106781KP707106781, %mm2
 
376
        pfmul KP707106781KP707106781, %mm5
 
377
        pfadd %mm2, %mm6
 
378
        pfsub %mm2, %mm0
 
379
        movq %mm3, %mm2
 
380
        pfadd %mm5, %mm4
 
381
        pfsub %mm5, %mm1
 
382
        movq %mm6, 312(%esp)
 
383
        movq 256(%esp), %mm5
 
384
        movq 248(%esp), %mm6
 
385
        pfsub %mm7, %mm3
 
386
        movq %mm0, 304(%esp)
 
387
        pfadd %mm7, %mm2
 
388
        movq %mm4, 296(%esp)
 
389
        movq %mm5, %mm0
 
390
        movq %mm1, 344(%esp)
 
391
        movq 272(%esp), %mm1
 
392
        pfnacc %mm6, %mm5
 
393
        movq %mm3, %mm4
 
394
        pfacc %mm0, %mm6
 
395
        movq %mm2, %mm7
 
396
        movq 240(%esp), %mm0
 
397
        pswapd %mm1, %mm1
 
398
        pfmul KP707106781KP707106781, %mm5
 
399
        pfmul KP707106781KP707106781, %mm6
 
400
        pfadd %mm5, %mm2
 
401
        pfadd %mm6, %mm4
 
402
        pfsub %mm5, %mm7
 
403
        movq 200(%esp), %mm5
 
404
        pfsub %mm6, %mm3
 
405
        movq %mm1, %mm6
 
406
        pfadd %mm0, %mm1
 
407
        movq %mm2, 336(%esp)
 
408
        movq %mm4, 320(%esp)
 
409
        movq 208(%esp), %mm4
 
410
        pfsub %mm0, %mm6
 
411
        movq %mm7, 328(%esp)
 
412
        movq %mm3, 352(%esp)
 
413
        movq %mm5, %mm3
 
414
        movq %mm1, %mm0
 
415
        pfmul KP382683432KP923879532, %mm1
 
416
        pswapd %mm4, %mm4
 
417
        movq %mm6, %mm2
 
418
        pfmul KP923879532KP382683432, %mm6
 
419
        pfmul KP923879532KP382683432, %mm0
 
420
        pxor chs_hi, %mm4
 
421
        pfmul KP382683432KP923879532, %mm2
 
422
        pfadd %mm4, %mm5
 
423
        pfsub %mm4, %mm3
 
424
        movq %mm5, %mm7
 
425
        pfmul KP923879532KP382683432, %mm5
 
426
        movq %mm3, %mm4
 
427
        pfmul KP382683432KP923879532, %mm3
 
428
        pfmul KP382683432KP923879532, %mm7
 
429
        pfmul KP923879532KP382683432, %mm4
 
430
        pfpnacc %mm1, %mm5
 
431
        movq (%edx,%ebp,2), %mm1
 
432
        pfpnacc %mm6, %mm3
 
433
        movq (%eax,%ebp,2), %mm6
 
434
        leal (%ecx,%ecx,2), %ebp
 
435
        pfpnacc %mm7, %mm0
 
436
        pfpnacc %mm4, %mm2
 
437
        movq (%edx,%ecx,2), %mm4
 
438
        leal (%ecx,%ebp,8), %ebp
 
439
        movq %mm5, 376(%esp)
 
440
        movq %mm3, 392(%esp)
 
441
        movq (%eax,%ecx,2), %mm5
 
442
        movq %mm6, %mm7
 
443
        pfsub %mm1, %mm6
 
444
        movq %mm0, 368(%esp)
 
445
        movq (%eax,%ebp,2), %mm0
 
446
        pfadd %mm1, %mm7
 
447
        movq (%edx,%ebp,2), %mm1
 
448
        leal (%ecx,%ecx,8), %ebp
 
449
        movq %mm5, %mm3
 
450
        pfsub %mm4, %mm5
 
451
        movq %mm2, 384(%esp)
 
452
        movq %mm6, 448(%esp)
 
453
        movq (%edx,%ebp,2), %mm6
 
454
        pfadd %mm4, %mm3
 
455
        movq %mm1, %mm2
 
456
        pfadd %mm0, %mm1
 
457
        movq %mm5, 440(%esp)
 
458
        movq (%eax,%ebp,2), %mm5
 
459
        leal (%ecx,%ecx,2), %ebp
 
460
        pfsub %mm0, %mm2
 
461
        movq %mm3, %mm4
 
462
        pfsub %mm7, %mm3
 
463
        leal (%ebp,%ecx,8), %ebp
 
464
        movq %mm5, %mm0
 
465
        pfadd %mm7, %mm4
 
466
        pfadd %mm6, %mm5
 
467
        pfsub %mm6, %mm0
 
468
        movq %mm3, 456(%esp)
 
469
        movq %mm4, 408(%esp)
 
470
        movq (%edx,%ebp,2), %mm3
 
471
        movq (%eax,%ebp,2), %mm4
 
472
        leal (%ecx,%ecx,2), %ebp
 
473
        movq %mm5, %mm7
 
474
        pfadd %mm1, %mm5
 
475
        movq %mm0, %mm6
 
476
        pfsubr %mm1, %mm7
 
477
        pfpnacc %mm2, %mm6
 
478
        pswapd %mm2, %mm2
 
479
        movq %mm4, %mm1
 
480
        pfsub %mm3, %mm4
 
481
        movq %mm5, 416(%esp)
 
482
        movq (%edx,%ebp,2), %mm5
 
483
        pfpnacc %mm0, %mm2
 
484
        movq (%eax,%ebp,2), %mm0
 
485
        leal (%ecx,%ecx,2), %ebp
 
486
        movq %mm7, 464(%esp)
 
487
        pfadd %mm3, %mm1
 
488
        leal (%ebp,%ebp,8), %ebp
 
489
        movq %mm6, 424(%esp)
 
490
        pxor chs_lo, %mm4
 
491
        movq (%eax,%ebp,2), %mm7
 
492
        movq (%edx,%ebp,2), %mm6
 
493
        leal (%ecx,%ecx,8), %ebp
 
494
        movq %mm0, %mm3
 
495
        pfadd %mm5, %mm0
 
496
        movq %mm2, 432(%esp)
 
497
        leal (%ecx,%ebp,2), %ebp
 
498
        pfsub %mm5, %mm3
 
499
        movq %mm4, 472(%esp)
 
500
        movq (%edx,%ebp,2), %mm5
 
501
        movq (%eax,%ebp,2), %mm4
 
502
        movq %mm6, %mm2
 
503
        pfadd %mm7, %mm6
 
504
        leal (%ecx,%ecx,2), %ebp
 
505
        pfsub %mm7, %mm2
 
506
        leal (%ebp,%ebp,4), %ebp
 
507
        movq %mm4, %mm7
 
508
        pfadd %mm5, %mm4
 
509
        pfsub %mm5, %mm7
 
510
        movq %mm6, %mm5
 
511
        pswapd %mm2, %mm2
 
512
        pfsub %mm1, %mm6
 
513
        pfadd %mm1, %mm5
 
514
        movq %mm0, %mm1
 
515
        pfsub %mm4, %mm0
 
516
        pfadd %mm4, %mm1
 
517
        pswapd %mm7, %mm7
 
518
        pxor chs_lo, %mm7
 
519
        movq %mm5, 480(%esp)
 
520
        movq %mm3, %mm5
 
521
        movq %mm0, %mm4
 
522
        movq %mm1, 520(%esp)
 
523
        movq 472(%esp), %mm1
 
524
        pfpnacc %mm6, %mm4
 
525
        pswapd %mm6, %mm6
 
526
        pfadd %mm7, %mm3
 
527
        pfpnacc %mm0, %mm6
 
528
        movq (%edx,%ebp,2), %mm0
 
529
        pfsub %mm7, %mm5
 
530
        movq %mm2, %mm7
 
531
        movq %mm4, 592(%esp)
 
532
        movq (%eax,%ebp,2), %mm4
 
533
        leal (%ecx,%ecx,2), %ebp
 
534
        pfadd %mm1, %mm2
 
535
        movq %mm3, 488(%esp)
 
536
        leal (%ebp,%ebp,4), %ebp
 
537
        pfsub %mm1, %mm7
 
538
        movq %mm6, 600(%esp)
 
539
        movq %mm5, 504(%esp)
 
540
        leal (%ecx,%ebp,2), %ebp
 
541
        movq %mm4, %mm3
 
542
        pfadd %mm0, %mm4
 
543
        movq %mm2, 512(%esp)
 
544
        movq (%eax,%ebp,2), %mm1
 
545
        movq (%edx,%ebp,2), %mm5
 
546
        leal (%ecx,%ecx,2), %ebp
 
547
        pfsub %mm0, %mm3
 
548
        movq %mm7, 496(%esp)
 
549
        leal (%ebp,%ebp,4), %ebp
 
550
        movq %mm5, %mm6
 
551
        leal (%ebp,%ecx,8), %ebp
 
552
        pfadd %mm1, %mm5
 
553
        pxor chs_lo, %mm3
 
554
        pfsub %mm1, %mm6
 
555
        movq (%eax,%ebp,2), %mm0
 
556
        movq (%edx,%ebp,2), %mm7
 
557
        leal (%ecx,%ecx,2), %ebp
 
558
        movq %mm5, %mm2
 
559
        pfsub %mm4, %mm5
 
560
        leal (%ecx,%ebp,2), %ebp
 
561
        movq %mm3, 536(%esp)
 
562
        movq %mm6, 544(%esp)
 
563
        pfadd %mm4, %mm2
 
564
        movq %mm7, %mm1
 
565
        movq (%edx,%ebp,2), %mm3
 
566
        movq (%eax,%ebp,2), %mm6
 
567
        leal (%ecx,%ecx,2), %ebp
 
568
        pfadd %mm0, %mm7
 
569
        movq %mm5, 584(%esp)
 
570
        leal (%ecx,%ebp,4), %ebp
 
571
        pfsub %mm0, %mm1
 
572
        movq %mm2, 528(%esp)
 
573
        movq %mm6, %mm4
 
574
        pfadd %mm3, %mm6
 
575
        movq (%eax,%ebp,2), %mm2
 
576
        movq (%edx,%ebp,2), %mm5
 
577
        leal (%ecx,%ecx,4), %ebp
 
578
        pfsub %mm3, %mm4
 
579
        movq %mm6, %mm0
 
580
        pfadd %mm7, %mm6
 
581
        movq %mm2, %mm3
 
582
        pfadd %mm5, %mm2
 
583
        pfsub %mm7, %mm0
 
584
        movq %mm4, %mm7
 
585
        pfsub %mm5, %mm3
 
586
        movq (%eax,%ebp,2), %mm5
 
587
        pfpnacc %mm1, %mm7
 
588
        movq %mm6, 552(%esp)
 
589
        pswapd %mm1, %mm1
 
590
        movq (%edx,%ebp,2), %mm6
 
591
        leal (%ecx,%ecx,2), %ebp
 
592
        pfpnacc %mm4, %mm1
 
593
        pxor chs_hi, %mm0
 
594
        leal (%ebp,%ebp,8), %ebp
 
595
        movq %mm5, %mm4
 
596
        pxor chs_lo, %mm3
 
597
        movq %mm7, 560(%esp)
 
598
        leal (%ebp,%ecx,2), %ebp
 
599
        pfsub %mm6, %mm5
 
600
        movq %mm1, 568(%esp)
 
601
        pfadd %mm6, %mm4
 
602
        movq (%eax,%ebp,2), %mm7
 
603
        movq (%edx,%ebp,2), %mm1
 
604
        leal (%ecx,%ecx,4), %ebp
 
605
        movq %mm0, 576(%esp)
 
606
        leal (%ecx,%ebp,4), %ebp
 
607
        movq %mm5, 608(%esp)
 
608
        movq (%edx,%ebp,2), %mm6
 
609
        movq (%eax,%ebp,2), %mm5
 
610
        movq %mm1, %mm0
 
611
        pfadd %mm7, %mm1
 
612
        leal (%ecx,%ecx,4), %ebp
 
613
        pfsub %mm7, %mm0
 
614
        leal (%ebp,%ebp,8), %ebp
 
615
        movq %mm5, %mm7
 
616
        pfadd %mm6, %mm5
 
617
        leal (%ebp,%ecx,2), %ebp
 
618
        pfsub %mm6, %mm7
 
619
        movq %mm4, %mm6
 
620
        pswapd %mm0, %mm0
 
621
        pfadd %mm5, %mm4
 
622
        pfsub %mm5, %mm6
 
623
        movq %mm1, %mm5
 
624
        pfadd %mm2, %mm1
 
625
        pxor chs_lo, %mm7
 
626
        pfsub %mm2, %mm5
 
627
        movq %mm4, %mm2
 
628
        pfadd %mm1, %mm4
 
629
        pfsubr %mm1, %mm2
 
630
        movq %mm0, %mm1
 
631
        pfsub %mm3, %mm0
 
632
        pfadd %mm3, %mm1
 
633
        movq %mm4, 664(%esp)
 
634
        movq 608(%esp), %mm3
 
635
        pswapd %mm2, %mm2
 
636
        movq %mm0, 616(%esp)
 
637
        movq 464(%esp), %mm0
 
638
        pswapd %mm3, %mm3
 
639
        movq %mm1, 656(%esp)
 
640
        movq 456(%esp), %mm1
 
641
        pxor chs_hi, %mm2
 
642
        movq %mm3, %mm4
 
643
        pfadd %mm7, %mm3
 
644
        pswapd %mm0, %mm0
 
645
        pfsub %mm7, %mm4
 
646
        movq %mm1, %mm7
 
647
        pxor chs_hi, %mm0
 
648
        movq %mm3, 632(%esp)
 
649
        movq %mm4, 624(%esp)
 
650
        movq 440(%esp), %mm3
 
651
        movq 448(%esp), %mm4
 
652
        pfadd %mm0, %mm7
 
653
        pfsub %mm0, %mm1
 
654
        movq %mm3, %mm0
 
655
        pswapd %mm4, %mm4
 
656
        movq %mm7, 640(%esp)
 
657
        movq %mm1, 648(%esp)
 
658
        movq 432(%esp), %mm7
 
659
        pxor chs_lo, %mm4
 
660
        movq 424(%esp), %mm1
 
661
        pfadd %mm4, %mm0
 
662
        pfsub %mm4, %mm3
 
663
        movq %mm7, %mm4
 
664
        pfnacc %mm1, %mm7
 
665
        pfacc %mm4, %mm1
 
666
        movq %mm3, %mm4
 
667
        pfmul KP707106781KP707106781, %mm7
 
668
        pfmul KP707106781KP707106781, %mm1
 
669
        pfadd %mm7, %mm4
 
670
        pfsub %mm7, %mm3
 
671
        movq %mm0, %mm7
 
672
        pfsub %mm1, %mm0
 
673
        pfadd %mm1, %mm7
 
674
        movq %mm4, 688(%esp)
 
675
        movq %mm3, 680(%esp)
 
676
        movq %mm0, 696(%esp)
 
677
        movq %mm7, 672(%esp)
 
678
        movq 600(%esp), %mm1
 
679
        movq 592(%esp), %mm4
 
680
        movq 576(%esp), %mm0
 
681
        movq 584(%esp), %mm7
 
682
        movq %mm1, %mm3
 
683
        pfacc %mm4, %mm1
 
684
        pfnacc %mm3, %mm4
 
685
        pswapd %mm7, %mm7
 
686
        pfmul KP707106781KP707106781, %mm1
 
687
        movq %mm7, %mm3
 
688
        pfmul KP707106781KP707106781, %mm4
 
689
        pfsub %mm0, %mm7
 
690
        pfadd %mm0, %mm3
 
691
        movq %mm6, %mm0
 
692
        pfpnacc %mm5, %mm0
 
693
        movq %mm7, 768(%esp)
 
694
        pswapd %mm5, %mm5
 
695
        movq %mm3, %mm7
 
696
        pfpnacc %mm6, %mm5
 
697
        movq %mm4, 728(%esp)
 
698
        movq 544(%esp), %mm4
 
699
        pfsub %mm1, %mm3
 
700
        pfadd %mm1, %mm7
 
701
        movq %mm0, %mm6
 
702
        movq 536(%esp), %mm1
 
703
        pfacc %mm5, %mm0
 
704
        pfnacc %mm6, %mm5
 
705
        pswapd %mm4, %mm4
 
706
        movq %mm7, 720(%esp)
 
707
        movq %mm3, 704(%esp)
 
708
        movq 560(%esp), %mm6
 
709
        movq 568(%esp), %mm7
 
710
        movq %mm4, %mm3
 
711
        pfsub %mm1, %mm4
 
712
        pfmul KP707106781KP707106781, %mm0
 
713
        pfadd %mm1, %mm3
 
714
        pfmul KP707106781KP707106781, %mm5
 
715
        movq %mm7, %mm1
 
716
        pfacc %mm6, %mm7
 
717
        pfnacc %mm1, %mm6
 
718
        movq %mm3, %mm1
 
719
        pfmul KP707106781KP707106781, %mm7
 
720
        movq %mm0, 712(%esp)
 
721
        movq %mm4, %mm0
 
722
        movq %mm5, 776(%esp)
 
723
        movq 408(%esp), %mm5
 
724
        pfmul KP707106781KP707106781, %mm6
 
725
        pfadd %mm7, %mm0
 
726
        pfsub %mm7, %mm4
 
727
        movq 416(%esp), %mm7
 
728
        pfsub %mm6, %mm3
 
729
        pfadd %mm6, %mm1
 
730
        movq %mm5, %mm6
 
731
        movq %mm0, 736(%esp)
 
732
        pfsub %mm7, %mm5
 
733
        movq %mm4, 760(%esp)
 
734
        movq 528(%esp), %mm4
 
735
        pfadd %mm7, %mm6
 
736
        movq %mm3, 744(%esp)
 
737
        movq %mm1, 752(%esp)
 
738
        movq 552(%esp), %mm7
 
739
        movq 520(%esp), %mm1
 
740
        movq %mm5, %mm0
 
741
        pfadd %mm2, %mm5
 
742
        movq %mm4, %mm3
 
743
        pfsub %mm7, %mm4
 
744
        pfsub %mm2, %mm0
 
745
        movq 480(%esp), %mm2
 
746
        pfadd %mm7, %mm3
 
747
        movq %mm1, %mm7
 
748
        movq %mm5, 784(%esp)
 
749
        pswapd %mm4, %mm4
 
750
        pfsub %mm2, %mm1
 
751
        movq %mm0, 800(%esp)
 
752
        movq 664(%esp), %mm0
 
753
        pfadd %mm2, %mm7
 
754
        movq %mm3, %mm5
 
755
        movq %mm6, %mm2
 
756
        pxor chs_hi, %mm1
 
757
        pfsub %mm0, %mm6
 
758
        pfsub %mm7, %mm3
 
759
        pfadd %mm7, %mm5
 
760
        pfadd %mm0, %mm2
 
761
        movq %mm1, %mm7
 
762
        pfadd %mm4, %mm1
 
763
        pfsubr %mm4, %mm7
 
764
        movq 504(%esp), %mm4
 
765
        movq %mm2, %mm0
 
766
        pfadd %mm5, %mm2
 
767
        movq %mm1, 792(%esp)
 
768
        pfsubr %mm5, %mm0
 
769
        movq %mm7, 808(%esp)
 
770
        movq 512(%esp), %mm5
 
771
        movq %mm6, %mm7
 
772
        pswapd %mm4, %mm1
 
773
        pfmul KP382683432KP923879532, %mm4
 
774
        movq %mm2, 904(%esp)
 
775
        pfpnacc %mm3, %mm7
 
776
        pswapd %mm3, %mm3
 
777
        movq %mm5, %mm2
 
778
        pfmul KP923879532KP382683432, %mm5
 
779
        movq %mm0, 896(%esp)
 
780
        pfpnacc %mm6, %mm3
 
781
        movq 656(%esp), %mm6
 
782
        pfmul KP382683432KP923879532, %mm1
 
783
        pfmul KP382683432KP923879532, %mm2
 
784
        movq %mm7, 888(%esp)
 
785
        movq %mm3, 880(%esp)
 
786
        movq 632(%esp), %mm7
 
787
        movq %mm6, %mm0
 
788
        pfmul KP382683432KP923879532, %mm6
 
789
        pfpnacc %mm5, %mm4
 
790
        pswapd %mm7, %mm3
 
791
        pfmul KP923879532KP382683432, %mm0
 
792
        pfmul KP382683432KP923879532, %mm7
 
793
        pfpnacc %mm1, %mm2
 
794
        movq 496(%esp), %mm1
 
795
        pfmul KP382683432KP923879532, %mm3
 
796
        movq %mm4, %mm5
 
797
        pfnacc %mm2, %mm4
 
798
        pfacc %mm5, %mm2
 
799
        movq 488(%esp), %mm5
 
800
        pfpnacc %mm7, %mm6
 
801
        movq %mm1, %mm7
 
802
        pfmul KP382683432KP923879532, %mm1
 
803
        pfpnacc %mm0, %mm3
 
804
        movq %mm4, 816(%esp)
 
805
        pfmul KP923879532KP382683432, %mm7
 
806
        pswapd %mm5, %mm4
 
807
        pfmul KP923879532KP382683432, %mm5
 
808
        movq %mm2, 824(%esp)
 
809
        movq %mm6, %mm0
 
810
        pfnacc %mm3, %mm6
 
811
        pfmul KP923879532KP382683432, %mm4
 
812
        pfacc %mm0, %mm3
 
813
        movq %mm6, 832(%esp)
 
814
        movq 616(%esp), %mm0
 
815
        movq 624(%esp), %mm6
 
816
        pfpnacc %mm1, %mm5
 
817
        movq %mm3, 840(%esp)
 
818
        movq %mm0, %mm2
 
819
        pfmul KP923879532KP382683432, %mm0
 
820
        pfpnacc %mm4, %mm7
 
821
        pfmul KP382683432KP923879532, %mm2
 
822
        pswapd %mm6, %mm3
 
823
        pfmul KP923879532KP382683432, %mm6
 
824
        movq %mm5, %mm1
 
825
        pfmul KP923879532KP382683432, %mm3
 
826
        pfnacc %mm7, %mm5
 
827
        pfacc %mm1, %mm7
 
828
        movq (%eax,%ebp), %mm1
 
829
        pfpnacc %mm6, %mm0
 
830
        movq (%edx,%ebp), %mm6
 
831
        leal (%ecx,%ecx,2), %ebp
 
832
        movq %mm5, 856(%esp)
 
833
        pfpnacc %mm2, %mm3
 
834
        leal (%ebp,%ebp,4), %ebp
 
835
        movq %mm7, 848(%esp)
 
836
        movq (%edx,%ebp), %mm5
 
837
        movq (%eax,%ebp), %mm7
 
838
        leal (%ecx,%ecx,2), %ebp
 
839
        movq %mm0, %mm4
 
840
        movq %mm6, %mm2
 
841
        pfadd %mm1, %mm6
 
842
        pfnacc %mm3, %mm0
 
843
        leal (%ebp,%ebp,4), %ebp
 
844
        pfacc %mm4, %mm3
 
845
        movq %mm7, %mm4
 
846
        leal (%ecx,%ebp,2), %ebp
 
847
        pfadd %mm5, %mm7
 
848
        pfsub %mm1, %mm2
 
849
        movq %mm0, 872(%esp)
 
850
        pfsub %mm5, %mm4
 
851
        movq (%edx,%ebp), %mm0
 
852
        movq (%eax,%ebp), %mm5
 
853
        leal (%ecx,%ecx,2), %ebp
 
854
        movq %mm3, 864(%esp)
 
855
        movq %mm7, %mm1
 
856
        pfadd %mm6, %mm7
 
857
        leal (%ecx,%ebp,2), %ebp
 
858
        pfsub %mm6, %mm1
 
859
        movq %mm4, %mm6
 
860
        movq %mm5, %mm3
 
861
        leal (%ebp,%ebp,8), %ebp
 
862
        pfadd %mm0, %mm5
 
863
        pfpnacc %mm2, %mm6
 
864
        movq %mm7, 912(%esp)
 
865
        pswapd %mm2, %mm2
 
866
        pfsub %mm0, %mm3
 
867
        movq (%eax,%ebp), %mm7
 
868
        movq (%edx,%ebp), %mm0
 
869
        leal (%ecx,%ecx,2), %ebp
 
870
        pfpnacc %mm4, %mm2
 
871
        pxor chs_hi, %mm1
 
872
        leal (%ebp,%ebp,4), %ebp
 
873
        movq %mm6, 936(%esp)
 
874
        movq %mm0, %mm4
 
875
        pxor chs_lo, %mm3
 
876
        pfadd %mm7, %mm0
 
877
        leal (%ebp,%ecx,8), %ebp
 
878
        movq %mm2, 928(%esp)
 
879
        movq %mm1, 960(%esp)
 
880
        pfsub %mm7, %mm4
 
881
        movq (%edx,%ebp), %mm2
 
882
        movq (%eax,%ebp), %mm1
 
883
        leal (%ecx,%ecx,2), %ebp
 
884
        movq %mm3, 944(%esp)
 
885
        movq %mm0, %mm6
 
886
        pfsub %mm5, %mm0
 
887
        leal (%ecx,%ebp,2), %ebp
 
888
        movq %mm4, 952(%esp)
 
889
        pfadd %mm5, %mm6
 
890
        movq (%edx,%ebp), %mm3
 
891
        movq (%eax,%ebp), %mm4
 
892
        leal (%ecx,%ecx,2), %ebp
 
893
        movq %mm1, %mm7
 
894
        pfsub %mm2, %mm1
 
895
        movq %mm0, 968(%esp)
 
896
        leal (%ebp,%ebp,8), %ebp
 
897
        pfadd %mm2, %mm7
 
898
        movq %mm6, 920(%esp)
 
899
        leal (%ecx,%ebp,2), %ebp
 
900
        movq %mm4, %mm5
 
901
        pfadd %mm3, %mm4
 
902
        pxor chs_lo, %mm1
 
903
        movq (%eax,%ebp), %mm0
 
904
        movq (%edx,%ebp), %mm2
 
905
        leal (%ecx,%ecx,2), %ebp
 
906
        pfsub %mm3, %mm5
 
907
        leal (%ecx,%ebp,4), %ebp
 
908
        movq %mm1, 976(%esp)
 
909
        leal (%ebp,%ebp,2), %ebp
 
910
        movq %mm2, %mm6
 
911
        pfadd %mm0, %mm2
 
912
        movq (%edx,%ebp), %mm3
 
913
        movq (%eax,%ebp), %mm1
 
914
        pfsub %mm0, %mm6
 
915
        leal (%ecx,%ecx), %ebp
 
916
        leal (%ecx,%ebp,8), %ebp
 
917
        movq %mm1, %mm0
 
918
        pfadd %mm3, %mm1
 
919
        pswapd %mm6, %mm6
 
920
        leal (%ecx,%ebp,2), %ebp
 
921
        pfsub %mm3, %mm0
 
922
        movq %mm2, %mm3
 
923
        pfsub %mm7, %mm2
 
924
        pfadd %mm7, %mm3
 
925
        movq %mm4, %mm7
 
926
        pfsub %mm1, %mm4
 
927
        pfadd %mm1, %mm7
 
928
        pswapd %mm0, %mm0
 
929
        pxor chs_lo, %mm0
 
930
        movq %mm3, 984(%esp)
 
931
        movq %mm5, %mm3
 
932
        movq %mm4, %mm1
 
933
        movq %mm7, 1024(%esp)
 
934
        movq 976(%esp), %mm7
 
935
        pfpnacc %mm2, %mm1
 
936
        pswapd %mm2, %mm2
 
937
        pfadd %mm0, %mm5
 
938
        pfpnacc %mm4, %mm2
 
939
        movq %mm6, %mm4
 
940
        pfadd %mm7, %mm6
 
941
        movq %mm1, 1048(%esp)
 
942
        pfsub %mm7, %mm4
 
943
        movq (%edx,%ebp), %mm1
 
944
        movq (%eax,%ebp), %mm7
 
945
        leal (%ecx,%ecx,2), %ebp
 
946
        movq %mm5, 992(%esp)
 
947
        movq %mm2, 1096(%esp)
 
948
        pfsub %mm0, %mm3
 
949
        movq (%edx,%ebp), %mm2
 
950
        movq (%eax,%ebp), %mm5
 
951
        leal (%ecx,%ecx), %ebp
 
952
        movq %mm6, 1016(%esp)
 
953
        leal (%ecx,%ebp,8), %ebp
 
954
        movq %mm4, 1000(%esp)
 
955
        movq %mm7, %mm0
 
956
        movq %mm3, 1008(%esp)
 
957
        pfsub %mm1, %mm7
 
958
        leal (%ebp,%ebp,2), %ebp
 
959
        movq %mm5, %mm4
 
960
        pfsub %mm2, %mm5
 
961
        pfadd %mm1, %mm0
 
962
        movq (%eax,%ebp), %mm3
 
963
        movq (%edx,%ebp), %mm6
 
964
        leal (%ecx,%ecx,8), %ebp
 
965
        pfadd %mm2, %mm4
 
966
        movq %mm7, 1040(%esp)
 
967
        leal (%ecx,%ebp,2), %ebp
 
968
        movq %mm5, 1032(%esp)
 
969
        movq (%eax,%ebp), %mm5
 
970
        movq %mm6, %mm7
 
971
        movq (%edx,%ebp), %mm2
 
972
        pfsub %mm3, %mm6
 
973
        movq %mm4, %mm1
 
974
        leal (%ecx,%ecx,2), %ebp
 
975
        pfadd %mm3, %mm7
 
976
        pfadd %mm0, %mm4
 
977
        leal (%ebp,%ecx,8), %ebp
 
978
        movq %mm5, %mm3
 
979
        pfsub %mm2, %mm5
 
980
        pfsub %mm0, %mm1
 
981
        pswapd %mm6, %mm0
 
982
        pfadd %mm2, %mm3
 
983
        pfpnacc %mm5, %mm0
 
984
        pfpnacc %mm6, %mm5
 
985
        movq %mm1, 1064(%esp)
 
986
        movq %mm4, %mm1
 
987
        movq %mm3, %mm2
 
988
        pfsubr %mm7, %mm3
 
989
        pfadd %mm7, %mm2
 
990
        movq (%edx,%ebp), %mm7
 
991
        movq %mm5, %mm6
 
992
        pfacc %mm0, %mm5
 
993
        movq %mm3, 1072(%esp)
 
994
        movq (%eax,%ebp), %mm3
 
995
        imull $59, %ecx, %ebp
 
996
        pfnacc %mm6, %mm0
 
997
        pfsub %mm2, %mm4
 
998
        pfmul KP707106781KP707106781, %mm5
 
999
        pfadd %mm2, %mm1
 
1000
        movq %mm3, %mm6
 
1001
        pfadd %mm7, %mm3
 
1002
        pfmul KP707106781KP707106781, %mm0
 
1003
        movq %mm4, 1104(%esp)
 
1004
        movq (%eax,%ebp), %mm2
 
1005
        pfsub %mm7, %mm6
 
1006
        movq (%edx,%ebp), %mm4
 
1007
        leal (%ecx,%ecx,2), %ebp
 
1008
        movq %mm1, 1056(%esp)
 
1009
        leal (%ebp,%ebp,8), %ebp
 
1010
        movq %mm5, 1080(%esp)
 
1011
        movq %mm6, 1112(%esp)
 
1012
        movq (%edx,%ebp), %mm1
 
1013
        movq (%eax,%ebp), %mm5
 
1014
        leal (%ecx,%ecx,4), %ebp
 
1015
        movq %mm4, %mm7
 
1016
        movq %mm0, 1088(%esp)
 
1017
        pfadd %mm2, %mm4
 
1018
        leal (%ecx,%ebp,4), %ebp
 
1019
        pfsub %mm2, %mm7
 
1020
        leal (%ecx,%ebp,2), %ebp
 
1021
        movq %mm5, %mm6
 
1022
        pfadd %mm1, %mm5
 
1023
        movq (%eax,%ebp), %mm0
 
1024
        movq (%edx,%ebp), %mm2
 
1025
        pfsub %mm1, %mm6
 
1026
        pswapd %mm7, %mm7
 
1027
        leal (,%ecx,4), %ebp
 
1028
        leal (%ecx,%ebp,8), %ebp
 
1029
        movq %mm2, %mm1
 
1030
        pfadd %mm0, %mm2
 
1031
        pxor chs_lo, %mm6
 
1032
        pfsub %mm0, %mm1
 
1033
        movq %mm4, %mm0
 
1034
        pfadd %mm5, %mm4
 
1035
        pfsub %mm5, %mm0
 
1036
        movq %mm3, %mm5
 
1037
        pfsub %mm2, %mm3
 
1038
        pfadd %mm2, %mm5
 
1039
        movq %mm7, %mm2
 
1040
        pfadd %mm6, %mm7
 
1041
        movq %mm0, 1152(%esp)
 
1042
        pfsub %mm6, %mm2
 
1043
        movq %mm4, %mm0
 
1044
        pxor chs_hi, %mm3
 
1045
        movq 1112(%esp), %mm6
 
1046
        pfadd %mm5, %mm4
 
1047
        pfsub %mm5, %mm0
 
1048
        movq %mm3, 1128(%esp)
 
1049
        movq 1104(%esp), %mm3
 
1050
        movq %mm6, %mm5
 
1051
        movq %mm4, 1120(%esp)
 
1052
        pfpnacc %mm1, %mm5
 
1053
        pswapd %mm1, %mm1
 
1054
        movq %mm3, %mm4
 
1055
        pfpnacc %mm6, %mm1
 
1056
        pfpnacc %mm0, %mm4
 
1057
        pswapd %mm0, %mm0
 
1058
        movq %mm5, %mm6
 
1059
        pfpnacc %mm3, %mm0
 
1060
        pfnacc %mm1, %mm5
 
1061
        pfacc %mm6, %mm1
 
1062
        movq %mm4, %mm3
 
1063
        movq 1096(%esp), %mm6
 
1064
        pfnacc %mm0, %mm4
 
1065
        pfacc %mm3, %mm0
 
1066
        movq 1048(%esp), %mm3
 
1067
        pfmul KP707106781KP707106781, %mm5
 
1068
        pfmul KP707106781KP707106781, %mm1
 
1069
        pfmul KP707106781KP707106781, %mm4
 
1070
        pfmul KP707106781KP707106781, %mm0
 
1071
        movq %mm1, 1160(%esp)
 
1072
        movq %mm6, %mm1
 
1073
        pfacc %mm3, %mm6
 
1074
        movq %mm4, 1144(%esp)
 
1075
        movq 968(%esp), %mm4
 
1076
        pfnacc %mm1, %mm3
 
1077
        movq %mm0, 1136(%esp)
 
1078
        movq 960(%esp), %mm0
 
1079
        pfmul KP707106781KP707106781, %mm6
 
1080
        pswapd %mm4, %mm4
 
1081
        pfmul KP707106781KP707106781, %mm3
 
1082
        movq %mm4, %mm1
 
1083
        pfadd %mm0, %mm4
 
1084
        pfsub %mm0, %mm1
 
1085
        movq %mm4, %mm0
 
1086
        pfadd %mm6, %mm4
 
1087
        pfsub %mm6, %mm0
 
1088
        movq %mm1, %mm6
 
1089
        pfadd %mm3, %mm1
 
1090
        movq %mm4, 1168(%esp)
 
1091
        movq %mm7, %mm4
 
1092
        pfsub %mm5, %mm7
 
1093
        pfsub %mm3, %mm6
 
1094
        pfadd %mm5, %mm4
 
1095
        movq %mm0, 1176(%esp)
 
1096
        movq %mm1, 1184(%esp)
 
1097
        movq %mm6, 1192(%esp)
 
1098
        movq 1040(%esp), %mm5
 
1099
        movq 1032(%esp), %mm0
 
1100
        movq 1088(%esp), %mm6
 
1101
        pswapd %mm5, %mm5
 
1102
        movq %mm4, %mm3
 
1103
        pfmul KP555570233KP831469612, %mm4
 
1104
        movq %mm0, %mm1
 
1105
        pxor chs_lo, %mm5
 
1106
        pfmul KP831469612KP555570233, %mm3
 
1107
        pfsub %mm5, %mm0
 
1108
        pfadd %mm5, %mm1
 
1109
        movq %mm0, %mm5
 
1110
        pfadd %mm6, %mm0
 
1111
        pfsub %mm6, %mm5
 
1112
        pswapd %mm0, %mm6
 
1113
        pfmul KP831469612KP555570233, %mm0
 
1114
        pfmul KP831469612KP555570233, %mm6
 
1115
        pfpnacc %mm4, %mm0
 
1116
        movq %mm7, %mm4
 
1117
        pfmul KP980785280KP195090322, %mm7
 
1118
        pfpnacc %mm6, %mm3
 
1119
        pswapd %mm5, %mm6
 
1120
        pfmul KP195090322KP980785280, %mm5
 
1121
        pfmul KP195090322KP980785280, %mm4
 
1122
        movq %mm0, 1240(%esp)
 
1123
        pfmul KP195090322KP980785280, %mm6
 
1124
        movq %mm3, 1216(%esp)
 
1125
        movq 952(%esp), %mm0
 
1126
        movq 944(%esp), %mm3
 
1127
        pfpnacc %mm7, %mm5
 
1128
        pswapd %mm0, %mm0
 
1129
        pfpnacc %mm6, %mm4
 
1130
        movq 936(%esp), %mm6
 
1131
        movq %mm0, %mm7
 
1132
        pfadd %mm3, %mm0
 
1133
        movq %mm5, 1208(%esp)
 
1134
        movq 928(%esp), %mm5
 
1135
        pfsub %mm3, %mm7
 
1136
        movq %mm6, %mm3
 
1137
        movq %mm4, 1200(%esp)
 
1138
        movq %mm0, %mm4
 
1139
        pfnacc %mm5, %mm6
 
1140
        pfacc %mm3, %mm5
 
1141
        movq %mm7, %mm3
 
1142
        pfmul KP707106781KP707106781, %mm6
 
1143
        pfmul KP707106781KP707106781, %mm5
 
1144
        pfsub %mm6, %mm0
 
1145
        pfadd %mm6, %mm4
 
1146
        movq 1160(%esp), %mm6
 
1147
        pfadd %mm5, %mm7
 
1148
        pfsub %mm5, %mm3
 
1149
        movq %mm2, %mm5
 
1150
        movq %mm0, 1232(%esp)
 
1151
        movq %mm4, 1264(%esp)
 
1152
        movq 1080(%esp), %mm0
 
1153
        movq %mm1, %mm4
 
1154
        pfadd %mm6, %mm2
 
1155
        pfsub %mm6, %mm5
 
1156
        movq %mm7, 1224(%esp)
 
1157
        movq %mm3, 1288(%esp)
 
1158
        pfsub %mm0, %mm4
 
1159
        pfadd %mm0, %mm1
 
1160
        pswapd %mm2, %mm7
 
1161
        pswapd %mm5, %mm6
 
1162
        pfmul KP555570233KP831469612, %mm5
 
1163
        pfmul KP980785280KP195090322, %mm7
 
1164
        movq %mm4, %mm3
 
1165
        pfmul KP831469612KP555570233, %mm4
 
1166
        movq %mm1, %mm0
 
1167
        pfmul KP980785280KP195090322, %mm1
 
1168
        pfmul KP555570233KP831469612, %mm6
 
1169
        pfmul KP555570233KP831469612, %mm3
 
1170
        pfmul KP980785280KP195090322, %mm2
 
1171
        pfmul KP195090322KP980785280, %mm0
 
1172
        pfpnacc %mm4, %mm5
 
1173
        movq 1024(%esp), %mm4
 
1174
        pfpnacc %mm7, %mm1
 
1175
        movq 984(%esp), %mm7
 
1176
        pfpnacc %mm6, %mm3
 
1177
        movq %mm4, %mm6
 
1178
        movq %mm5, 1280(%esp)
 
1179
        movq 920(%esp), %mm5
 
1180
        pfpnacc %mm0, %mm2
 
1181
        movq %mm1, 1248(%esp)
 
1182
        movq 912(%esp), %mm0
 
1183
        pfsub %mm7, %mm4
 
1184
        pfadd %mm7, %mm6
 
1185
        movq %mm3, 1272(%esp)
 
1186
        movq 1152(%esp), %mm7
 
1187
        movq %mm5, %mm1
 
1188
        pfsub %mm0, %mm5
 
1189
        movq %mm2, 1256(%esp)
 
1190
        movq 1128(%esp), %mm2
 
1191
        pfadd %mm0, %mm1
 
1192
        pxor chs_hi, %mm4
 
1193
        pswapd %mm7, %mm7
 
1194
        movq %mm7, %mm0
 
1195
        pswapd %mm5, %mm5
 
1196
        pfadd %mm2, %mm7
 
1197
        movq %mm4, %mm3
 
1198
        pfsub %mm2, %mm0
 
1199
        movq 1072(%esp), %mm2
 
1200
        pfadd %mm5, %mm4
 
1201
        pfsubr %mm5, %mm3
 
1202
        movq %mm7, %mm5
 
1203
        pfmul KP923879532KP382683432, %mm7
 
1204
        pswapd %mm2, %mm2
 
1205
        pfmul KP382683432KP923879532, %mm5
 
1206
        movq %mm4, 1296(%esp)
 
1207
        movq 1064(%esp), %mm4
 
1208
        pxor chs_hi, %mm2
 
1209
        movq %mm3, 1304(%esp)
 
1210
        movq %mm4, %mm3
 
1211
        pfadd %mm2, %mm4
 
1212
        pfsub %mm2, %mm3
 
1213
        pswapd %mm4, %mm2
 
1214
        pfmul KP923879532KP382683432, %mm4
 
1215
        pfmul KP923879532KP382683432, %mm2
 
1216
        pfpnacc %mm5, %mm4
 
1217
        movq 1056(%esp), %mm5
 
1218
        pfpnacc %mm2, %mm7
 
1219
        movq %mm4, 1320(%esp)
 
1220
        movq 1120(%esp), %mm2
 
1221
        movq %mm5, %mm4
 
1222
        movq %mm7, 1312(%esp)
 
1223
        movq %mm1, %mm7
 
1224
        pfadd %mm6, %mm1
 
1225
        pfsub %mm2, %mm5
 
1226
        pfadd %mm2, %mm4
 
1227
        pfsub %mm6, %mm7
 
1228
        movq 1008(%esp), %mm6
 
1229
        movq %mm1, %mm2
 
1230
        pxor chs_hi, %mm5
 
1231
        pfsub %mm4, %mm1
 
1232
        pfadd %mm4, %mm2
 
1233
        movq %mm7, 1336(%esp)
 
1234
        movq 1016(%esp), %mm4
 
1235
        pswapd %mm6, %mm7
 
1236
        pfmul KP382683432KP923879532, %mm6
 
1237
        movq %mm5, 1328(%esp)
 
1238
        pfmul KP382683432KP923879532, %mm7
 
1239
        movq %mm1, 1392(%esp)
 
1240
        movq %mm4, %mm5
 
1241
        pfmul KP923879532KP382683432, %mm4
 
1242
        movq %mm2, 1400(%esp)
 
1243
        movq 1000(%esp), %mm1
 
1244
        pfmul KP382683432KP923879532, %mm5
 
1245
        movq %mm1, %mm2
 
1246
        pfmul KP382683432KP923879532, %mm1
 
1247
        pfpnacc %mm4, %mm6
 
1248
        pfmul KP923879532KP382683432, %mm2
 
1249
        pfpnacc %mm7, %mm5
 
1250
        movq 992(%esp), %mm7
 
1251
        movq %mm6, %mm4
 
1252
        pfnacc %mm5, %mm6
 
1253
        pfacc %mm4, %mm5
 
1254
        pswapd %mm7, %mm4
 
1255
        pfmul KP923879532KP382683432, %mm7
 
1256
        pfmul KP923879532KP382683432, %mm4
 
1257
        movq %mm6, 1344(%esp)
 
1258
        pswapd %mm3, %mm6
 
1259
        pfmul KP382683432KP923879532, %mm3
 
1260
        movq %mm5, 1352(%esp)
 
1261
        movq %mm0, %mm5
 
1262
        pfmul KP923879532KP382683432, %mm0
 
1263
        pfmul KP382683432KP923879532, %mm6
 
1264
        pfmul KP382683432KP923879532, %mm5
 
1265
        pfpnacc %mm1, %mm7
 
1266
        pfpnacc %mm4, %mm2
 
1267
        movq (%edx,%ebp), %mm4
 
1268
        pfpnacc %mm0, %mm3
 
1269
        movq (%eax,%ebp), %mm0
 
1270
        leal (%ecx,%ecx), %ebp
 
1271
        movq %mm7, %mm1
 
1272
        pfnacc %mm2, %mm7
 
1273
        leal (%ebp,%ebp,2), %ebp
 
1274
        pfpnacc %mm6, %mm5
 
1275
        pfacc %mm1, %mm2
 
1276
        movq %mm3, 1384(%esp)
 
1277
        movq (%edx,%ecx), %mm1
 
1278
        movq (%eax,%ecx), %mm3
 
1279
        movq %mm0, %mm6
 
1280
        leal (%ecx,%ebp,8), %ebp
 
1281
        pfadd %mm4, %mm0
 
1282
        movq %mm7, 1368(%esp)
 
1283
        movq %mm5, 1376(%esp)
 
1284
        pfsub %mm4, %mm6
 
1285
        movq (%eax,%ebp), %mm5
 
1286
        movq (%edx,%ebp), %mm4
 
1287
        leal (%ecx,%ecx), %ebp
 
1288
        movq %mm2, 1360(%esp)
 
1289
        movq %mm3, %mm7
 
1290
        pfsub %mm1, %mm3
 
1291
        leal (%ecx,%ebp,8), %ebp
 
1292
        pfadd %mm1, %mm7
 
1293
        movq %mm6, 1448(%esp)
 
1294
        movq %mm4, %mm2
 
1295
        movq (%edx,%ebp), %mm1
 
1296
        pfsub %mm5, %mm4
 
1297
        movq %mm3, 1440(%esp)
 
1298
        movq (%eax,%ebp), %mm3
 
1299
        leal (%ecx,%ecx,2), %ebp
 
1300
        pfadd %mm5, %mm2
 
1301
        movq %mm7, %mm6
 
1302
        pfsub %mm0, %mm7
 
1303
        leal (%ecx,%ebp,8), %ebp
 
1304
        movq %mm3, %mm5
 
1305
        pfsub %mm1, %mm3
 
1306
        pfadd %mm0, %mm6
 
1307
        pfadd %mm1, %mm5
 
1308
        movq %mm7, 1408(%esp)
 
1309
        movq (%edx,%ebp), %mm7
 
1310
        movq %mm3, %mm1
 
1311
        movq %mm6, 1464(%esp)
 
1312
        movq (%eax,%ebp), %mm6
 
1313
        leal (%ecx,%ecx,8), %ebp
 
1314
        movq %mm5, %mm0
 
1315
        pfsubr %mm2, %mm5
 
1316
        pfpnacc %mm4, %mm1
 
1317
        pswapd %mm4, %mm4
 
1318
        pfadd %mm2, %mm0
 
1319
        pfpnacc %mm3, %mm4
 
1320
        movq (%edx,%ebp), %mm3
 
1321
        movq %mm6, %mm2
 
1322
        movq %mm5, 1416(%esp)
 
1323
        movq (%eax,%ebp), %mm5
 
1324
        leal (%ecx,%ecx,2), %ebp
 
1325
        pfadd %mm7, %mm6
 
1326
        movq %mm1, 1424(%esp)
 
1327
        leal (%ecx,%ebp,2), %ebp
 
1328
        pfsub %mm7, %mm2
 
1329
        movq %mm0, 1456(%esp)
 
1330
        movq %mm4, 1432(%esp)
 
1331
        leal (%ecx,%ebp,8), %ebp
 
1332
        movq %mm5, %mm1
 
1333
        pfadd %mm3, %mm5
 
1334
        movq (%eax,%ebp), %mm7
 
1335
        movq (%edx,%ebp), %mm0
 
1336
        leal (%ecx,%ecx,4), %ebp
 
1337
        pfsub %mm3, %mm1
 
1338
        pxor chs_lo, %mm2
 
1339
        leal (%ecx,%ebp,8), %ebp
 
1340
        movq %mm5, 1472(%esp)
 
1341
        movq %mm0, %mm4
 
1342
        movq (%eax,%ebp), %mm5
 
1343
        pfsub %mm7, %mm0
 
1344
        movq (%edx,%ebp), %mm3
 
1345
        pswapd %mm1, %mm1
 
1346
        leal (%ecx,%ecx,4), %ebp
 
1347
        pfadd %mm7, %mm4
 
1348
        leal (%ecx,%ebp,4), %ebp
 
1349
        movq %mm5, %mm7
 
1350
        pswapd %mm0, %mm0
 
1351
        pfadd %mm3, %mm5
 
1352
        pfsub %mm3, %mm7
 
1353
        movq %mm0, %mm3
 
1354
        pfsub %mm2, %mm0
 
1355
        pfadd %mm2, %mm3
 
1356
        movq %mm4, %mm2
 
1357
        pfadd %mm6, %mm4
 
1358
        pfsub %mm6, %mm2
 
1359
        pxor chs_lo, %mm7
 
1360
        movq %mm0, 1488(%esp)
 
1361
        movq %mm3, 1504(%esp)
 
1362
        movq 1472(%esp), %mm0
 
1363
        movq %mm1, %mm3
 
1364
        pfsub %mm7, %mm3
 
1365
        movq %mm0, %mm6
 
1366
        pfsub %mm5, %mm0
 
1367
        pfadd %mm7, %mm1
 
1368
        pfadd %mm5, %mm6
 
1369
        movq %mm3, 1480(%esp)
 
1370
        movq (%edx,%ebp), %mm3
 
1371
        movq %mm0, %mm5
 
1372
        movq %mm1, 1496(%esp)
 
1373
        movq (%eax,%ebp), %mm1
 
1374
        leal (%ecx,%ecx,4), %ebp
 
1375
        movq %mm6, %mm7
 
1376
        pfadd %mm4, %mm6
 
1377
        pfpnacc %mm2, %mm5
 
1378
        pswapd %mm2, %mm2
 
1379
        pfsubr %mm4, %mm7
 
1380
        pfpnacc %mm0, %mm2
 
1381
        movq (%edx,%ebp), %mm0
 
1382
        movq %mm1, %mm4
 
1383
        movq %mm6, 1528(%esp)
 
1384
        movq (%eax,%ebp), %mm6
 
1385
        leal (%ecx,%ecx,8), %ebp
 
1386
        pfadd %mm3, %mm1
 
1387
        movq %mm5, 1520(%esp)
 
1388
        leal (%ecx,%ebp,4), %ebp
 
1389
        pfsub %mm3, %mm4
 
1390
        movq %mm7, 1536(%esp)
 
1391
        movq %mm2, 1512(%esp)
 
1392
        movq (%edx,%ebp), %mm3
 
1393
        movq (%eax,%ebp), %mm7
 
1394
        leal (%ecx,%ecx,2), %ebp
 
1395
        movq %mm6, %mm5
 
1396
        pfadd %mm0, %mm6
 
1397
        leal (%ecx,%ebp,4), %ebp
 
1398
        movq %mm4, 1544(%esp)
 
1399
        pfsub %mm0, %mm5
 
1400
        leal (%ecx,%ebp,4), %ebp
 
1401
        movq %mm7, %mm2
 
1402
        pfadd %mm3, %mm7
 
1403
        movq (%edx,%ebp), %mm0
 
1404
        movq (%eax,%ebp), %mm4
 
1405
        pfsub %mm3, %mm2
 
1406
        leal (%ecx,%ecx,2), %ebp
 
1407
        leal (%ecx,%ebp,4), %ebp
 
1408
        movq %mm0, %mm3
 
1409
        pfadd %mm4, %mm0
 
1410
        pfsub %mm4, %mm3
 
1411
        movq %mm6, %mm4
 
1412
        pfadd %mm7, %mm6
 
1413
        pfsub %mm7, %mm4
 
1414
        pswapd %mm2, %mm7
 
1415
        pxor chs_lo, %mm2
 
1416
        pxor chs_lo, %mm7
 
1417
        movq %mm4, 1552(%esp)
 
1418
        pswapd %mm5, %mm4
 
1419
        pfadd %mm2, %mm4
 
1420
        movq %mm1, %mm2
 
1421
        pfadd %mm7, %mm5
 
1422
        movq 1544(%esp), %mm7
 
1423
        pfadd %mm0, %mm1
 
1424
        pfsub %mm0, %mm2
 
1425
        movq %mm6, %mm0
 
1426
        movq %mm4, 1568(%esp)
 
1427
        pswapd %mm3, %mm4
 
1428
        movq %mm5, 1600(%esp)
 
1429
        movq (%edx,%ebp), %mm5
 
1430
        pfsub %mm1, %mm0
 
1431
        pfpnacc %mm7, %mm4
 
1432
        pxor chs_hi, %mm2
 
1433
        pfadd %mm1, %mm6
 
1434
        movq (%eax,%ebp), %mm1
 
1435
        leal (%ecx,%ecx,2), %ebp
 
1436
        pfpnacc %mm3, %mm7
 
1437
        leal (%ebp,%ebp,4), %ebp
 
1438
        movq %mm0, 1584(%esp)
 
1439
        movq %mm2, 1576(%esp)
 
1440
        leal (%ecx,%ebp,4), %ebp
 
1441
        movq %mm6, 1608(%esp)
 
1442
        movq %mm1, %mm0
 
1443
        movq %mm7, %mm3
 
1444
        pfsub %mm5, %mm1
 
1445
        movq (%eax,%ebp), %mm2
 
1446
        movq (%edx,%ebp), %mm6
 
1447
        leal (%ecx,%ecx,2), %ebp
 
1448
        pfacc %mm4, %mm3
 
1449
        pfnacc %mm4, %mm7
 
1450
        leal (%ebp,%ebp,8), %ebp
 
1451
        pfadd %mm5, %mm0
 
1452
        movq %mm1, 1616(%esp)
 
1453
        leal (%ebp,%ecx,2), %ebp
 
1454
        movq %mm6, %mm4
 
1455
        pfadd %mm2, %mm6
 
1456
        pfmul KP707106781KP707106781, %mm3
 
1457
        pfmul KP707106781KP707106781, %mm7
 
1458
        movq (%edx,%ebp), %mm5
 
1459
        pfsub %mm2, %mm4
 
1460
        movq (%eax,%ebp), %mm1
 
1461
        leal (%ecx,%ecx,4), %ebp
 
1462
        leal (%ebp,%ebp,8), %ebp
 
1463
        movq %mm3, 1592(%esp)
 
1464
        movq %mm7, 1560(%esp)
 
1465
        movq (%edx,%ebp), %mm3
 
1466
        movq (%eax,%ebp), %mm2
 
1467
        movq %mm1, %mm7
 
1468
        pfadd %mm5, %mm1
 
1469
        /* simd data load/store barrier */ 
 
1470
        leal (,%esi,4), %ebp
 
1471
        pfsub %mm5, %mm7
 
1472
        addl 2796(%esp), %eax
 
1473
        addl 2796(%esp), %edx
 
1474
        movq %mm3, %mm5
 
1475
        pfadd %mm2, %mm3
 
1476
        pfsub %mm2, %mm5
 
1477
        movq %mm6, %mm2
 
1478
        pfadd %mm1, %mm6
 
1479
        pfsub %mm1, %mm2
 
1480
        pswapd %mm7, %mm1
 
1481
        pxor chs_lo, %mm7
 
1482
        pxor chs_lo, %mm1
 
1483
        movq %mm2, 1624(%esp)
 
1484
        pswapd %mm4, %mm2
 
1485
        pfadd %mm7, %mm2
 
1486
        movq %mm0, %mm7
 
1487
        pfadd %mm1, %mm4
 
1488
        movq 1616(%esp), %mm1
 
1489
        pfadd %mm3, %mm0
 
1490
        pfsub %mm3, %mm7
 
1491
        movq %mm6, %mm3
 
1492
        movq %mm2, 1648(%esp)
 
1493
        pswapd %mm5, %mm2
 
1494
        pfpnacc %mm1, %mm2
 
1495
        pfpnacc %mm5, %mm1
 
1496
        pxor chs_hi, %mm7
 
1497
        pfadd %mm0, %mm6
 
1498
        pfsub %mm0, %mm3
 
1499
        movq 1608(%esp), %mm0
 
1500
        movq %mm1, %mm5
 
1501
        movq %mm7, 1656(%esp)
 
1502
        pfnacc %mm2, %mm1
 
1503
        movq %mm0, %mm7
 
1504
        pfacc %mm2, %mm5
 
1505
        movq 1464(%esp), %mm2
 
1506
        pfsubr %mm6, %mm0
 
1507
        pfadd %mm6, %mm7
 
1508
        movq 1456(%esp), %mm6
 
1509
        pfmul KP707106781KP707106781, %mm1
 
1510
        pfmul KP707106781KP707106781, %mm5
 
1511
        movq %mm0, 1640(%esp)
 
1512
        movq %mm2, %mm0
 
1513
        pfsub %mm6, %mm2
 
1514
        pfadd %mm6, %mm0
 
1515
        movq %mm1, 1632(%esp)
 
1516
        movq 1536(%esp), %mm6
 
1517
        movq %mm2, %mm1
 
1518
        pswapd %mm6, %mm6
 
1519
        pxor chs_hi, %mm6
 
1520
        pfadd %mm6, %mm2
 
1521
        pfsub %mm6, %mm1
 
1522
        movq %mm2, 1664(%esp)
 
1523
        movq 1528(%esp), %mm6
 
1524
        movq %mm0, %mm2
 
1525
        pfadd %mm6, %mm0
 
1526
        movq %mm1, 1672(%esp)
 
1527
        pfsub %mm6, %mm2
 
1528
        movq 1448(%esp), %mm6
 
1529
        movq %mm0, %mm1
 
1530
        pfsub %mm7, %mm0
 
1531
        movq %mm2, 1680(%esp)
 
1532
        pswapd %mm6, %mm6
 
1533
        movq 1440(%esp), %mm2
 
1534
        pfadd %mm7, %mm1
 
1535
        pxor chs_lo, %mm6
 
1536
        movq %mm0, 1688(%esp)
 
1537
        movq 1432(%esp), %mm0
 
1538
        movq %mm2, %mm7
 
1539
        movq %mm1, 1696(%esp)
 
1540
        movq 1424(%esp), %mm1
 
1541
        pfadd %mm6, %mm7
 
1542
        pfsub %mm6, %mm2
 
1543
        movq %mm0, %mm6
 
1544
        pfnacc %mm1, %mm0
 
1545
        pfacc %mm6, %mm1
 
1546
        movq %mm2, %mm6
 
1547
        pfmul KP707106781KP707106781, %mm0
 
1548
        pfmul KP707106781KP707106781, %mm1
 
1549
        pfadd %mm0, %mm6
 
1550
        pfsub %mm0, %mm2
 
1551
        movq %mm7, %mm0
 
1552
        pfsub %mm1, %mm7
 
1553
        pfadd %mm1, %mm0
 
1554
        movq %mm6, 1720(%esp)
 
1555
        movq %mm2, 1712(%esp)
 
1556
        movq %mm7, 1728(%esp)
 
1557
        movq 1416(%esp), %mm1
 
1558
        movq 1408(%esp), %mm6
 
1559
        movq 1520(%esp), %mm7
 
1560
        pswapd %mm1, %mm1
 
1561
        movq %mm0, 1704(%esp)
 
1562
        movq 1512(%esp), %mm0
 
1563
        movq %mm6, %mm2
 
1564
        pxor chs_hi, %mm1
 
1565
        pfadd %mm1, %mm2
 
1566
        pfsub %mm1, %mm6
 
1567
        movq %mm7, %mm1
 
1568
        pfacc %mm0, %mm7
 
1569
        pfnacc %mm1, %mm0
 
1570
        movq %mm2, %mm1
 
1571
        pfmul KP707106781KP707106781, %mm7
 
1572
        pfmul KP707106781KP707106781, %mm0
 
1573
        pfadd %mm7, %mm1
 
1574
        pfsub %mm7, %mm2
 
1575
        movq %mm6, %mm7
 
1576
        pfsub %mm0, %mm6
 
1577
        pfadd %mm0, %mm7
 
1578
        movq %mm4, %mm0
 
1579
        pfsub %mm5, %mm4
 
1580
        movq %mm1, 1736(%esp)
 
1581
        pfadd %mm5, %mm0
 
1582
        movq %mm2, 1744(%esp)
 
1583
        movq %mm6, 1792(%esp)
 
1584
        movq %mm7, 1752(%esp)
 
1585
        movq 1600(%esp), %mm5
 
1586
        movq 1592(%esp), %mm2
 
1587
        movq %mm5, %mm6
 
1588
        pswapd %mm0, %mm1
 
1589
        pfmul KP980785280KP195090322, %mm0
 
1590
        pfadd %mm2, %mm5
 
1591
        pfsub %mm2, %mm6
 
1592
        pfmul KP980785280KP195090322, %mm1
 
1593
        movq %mm5, %mm7
 
1594
        pfmul KP980785280KP195090322, %mm5
 
1595
        movq %mm6, %mm2
 
1596
        pfmul KP555570233KP831469612, %mm6
 
1597
        pfmul KP195090322KP980785280, %mm7
 
1598
        pfmul KP831469612KP555570233, %mm2
 
1599
        pfpnacc %mm0, %mm5
 
1600
        pswapd %mm4, %mm0
 
1601
        pfmul KP555570233KP831469612, %mm4
 
1602
        pfmul KP555570233KP831469612, %mm0
 
1603
        pfpnacc %mm7, %mm1
 
1604
        movq %mm5, 1760(%esp)
 
1605
        movq %mm1, 1768(%esp)
 
1606
        movq 1584(%esp), %mm7
 
1607
        movq 1624(%esp), %mm1
 
1608
        movq %mm7, %mm5
 
1609
        pfpnacc %mm4, %mm6
 
1610
        movq 1656(%esp), %mm4
 
1611
        pfpnacc %mm2, %mm0
 
1612
        pfpnacc %mm3, %mm5
 
1613
        pswapd %mm3, %mm3
 
1614
        pswapd %mm1, %mm1
 
1615
        movq %mm6, 1776(%esp)
 
1616
        movq 1552(%esp), %mm6
 
1617
        pfpnacc %mm7, %mm3
 
1618
        movq %mm0, 1784(%esp)
 
1619
        movq 1576(%esp), %mm0
 
1620
        movq %mm1, %mm2
 
1621
        pfsub %mm4, %mm1
 
1622
        movq %mm5, %mm7
 
1623
        pfadd %mm4, %mm2
 
1624
        pswapd %mm6, %mm6
 
1625
        pfacc %mm3, %mm5
 
1626
        pfnacc %mm7, %mm3
 
1627
        movq %mm6, %mm4
 
1628
        pfadd %mm0, %mm6
 
1629
        movq %mm2, %mm7
 
1630
        pfmul KP923879532KP382683432, %mm2
 
1631
        pfsub %mm0, %mm4
 
1632
        pfmul KP707106781KP707106781, %mm5
 
1633
        pfmul KP707106781KP707106781, %mm3
 
1634
        pswapd %mm6, %mm0
 
1635
        pfmul KP923879532KP382683432, %mm6
 
1636
        pfmul KP382683432KP923879532, %mm7
 
1637
        pfmul KP923879532KP382683432, %mm0
 
1638
        movq %mm5, 1816(%esp)
 
1639
        movq %mm3, 1824(%esp)
 
1640
        movq 1568(%esp), %mm5
 
1641
        movq 1560(%esp), %mm3
 
1642
        pfpnacc %mm6, %mm2
 
1643
        pfpnacc %mm7, %mm0
 
1644
        movq 1648(%esp), %mm7
 
1645
        movq %mm5, %mm6
 
1646
        pfsub %mm3, %mm5
 
1647
        movq %mm2, 1808(%esp)
 
1648
        movq 1632(%esp), %mm2
 
1649
        pfadd %mm3, %mm6
 
1650
        movq %mm7, %mm3
 
1651
        movq %mm0, 1800(%esp)
 
1652
        pfadd %mm2, %mm7
 
1653
        pswapd %mm6, %mm0
 
1654
        pfsub %mm2, %mm3
 
1655
        pfmul KP831469612KP555570233, %mm6
 
1656
        pfmul KP831469612KP555570233, %mm0
 
1657
        movq %mm7, %mm2
 
1658
        pfmul KP831469612KP555570233, %mm7
 
1659
        pfmul KP555570233KP831469612, %mm2
 
1660
        pfpnacc %mm6, %mm7
 
1661
        movq %mm3, %mm6
 
1662
        pfmul KP195090322KP980785280, %mm3
 
1663
        pfpnacc %mm2, %mm0
 
1664
        pswapd %mm5, %mm2
 
1665
        pfmul KP195090322KP980785280, %mm5
 
1666
        pfmul KP980785280KP195090322, %mm6
 
1667
        movq %mm7, 1856(%esp)
 
1668
        pfmul KP195090322KP980785280, %mm2
 
1669
        movq %mm0, 1872(%esp)
 
1670
        movq 1504(%esp), %mm7
 
1671
        pfpnacc %mm5, %mm3
 
1672
        movq 1496(%esp), %mm5
 
1673
        movq %mm7, %mm0
 
1674
        pfmul KP382683432KP923879532, %mm7
 
1675
        pfpnacc %mm6, %mm2
 
1676
        pfmul KP923879532KP382683432, %mm0
 
1677
        pswapd %mm5, %mm6
 
1678
        pfmul KP382683432KP923879532, %mm5
 
1679
        movq %mm3, 1832(%esp)
 
1680
        movq 1488(%esp), %mm3
 
1681
        pfmul KP382683432KP923879532, %mm6
 
1682
        movq %mm2, 1840(%esp)
 
1683
        movq %mm3, %mm2
 
1684
        pfmul KP923879532KP382683432, %mm3
 
1685
        pfpnacc %mm5, %mm7
 
1686
        pfmul KP382683432KP923879532, %mm2
 
1687
        pfpnacc %mm0, %mm6
 
1688
        movq 1480(%esp), %mm0
 
1689
        movq %mm7, %mm5
 
1690
        pfnacc %mm6, %mm7
 
1691
        pfacc %mm5, %mm6
 
1692
        pswapd %mm0, %mm5
 
1693
        pfmul KP923879532KP382683432, %mm0
 
1694
        pfmul KP923879532KP382683432, %mm5
 
1695
        movq %mm7, 1848(%esp)
 
1696
        pswapd %mm4, %mm7
 
1697
        pfmul KP382683432KP923879532, %mm4
 
1698
        movq %mm6, 1880(%esp)
 
1699
        movq %mm1, %mm6
 
1700
        pfmul KP923879532KP382683432, %mm1
 
1701
        pfmul KP382683432KP923879532, %mm7
 
1702
        pfmul KP382683432KP923879532, %mm6
 
1703
        pfpnacc %mm0, %mm3
 
1704
        pfpnacc %mm2, %mm5
 
1705
        movq 1400(%esp), %mm2
 
1706
        pfpnacc %mm1, %mm7
 
1707
        movq %mm3, %mm0
 
1708
        movq 1696(%esp), %mm1
 
1709
        pfnacc %mm5, %mm3
 
1710
        pfpnacc %mm4, %mm6
 
1711
        pfacc %mm0, %mm5
 
1712
        movq %mm7, 1896(%esp)
 
1713
        movq 192(%esp), %mm0
 
1714
        movq 400(%esp), %mm7
 
1715
        movq %mm1, %mm4
 
1716
        pfsubr %mm2, %mm1
 
1717
        movq %mm3, 1888(%esp)
 
1718
        movq %mm6, 1904(%esp)
 
1719
        movq 904(%esp), %mm6
 
1720
        pfadd %mm2, %mm4
 
1721
        movq %mm0, %mm3
 
1722
        movq %mm5, 1864(%esp)
 
1723
        pfadd %mm7, %mm0
 
1724
        pswapd %mm1, %mm1
 
1725
        pfsub %mm7, %mm3
 
1726
        pxor chs_hi, %mm1
 
1727
        movq %mm0, %mm5
 
1728
        pfsub %mm6, %mm0
 
1729
        pfadd %mm6, %mm5
 
1730
        movq 1392(%esp), %mm6
 
1731
        movq %mm0, %mm2
 
1732
        pfadd %mm1, %mm0
 
1733
        pfsub %mm1, %mm2
 
1734
        movq 1688(%esp), %mm1
 
1735
        movq %mm5, %mm7
 
1736
        pfsub %mm4, %mm5
 
1737
        pfadd %mm4, %mm7
 
1738
        movq %mm0, (%ebx,%ebp,8)
 
1739
        movq %mm1, %mm4
 
1740
        movq %mm2, (%edi,%ebp,8)
 
1741
        movq %mm3, %mm2
 
1742
        movq %mm5, (%edi)
 
1743
        movq 896(%esp), %mm5
 
1744
        leal (%esi,%esi), %ebp
 
1745
        pfpnacc %mm6, %mm4
 
1746
        pswapd %mm6, %mm6
 
1747
        movq %mm7, (%ebx)
 
1748
        pfpnacc %mm1, %mm6
 
1749
        pswapd %mm5, %mm5
 
1750
        movq %mm4, %mm0
 
1751
        pxor chs_hi, %mm5
 
1752
        pfacc %mm6, %mm4
 
1753
        pfnacc %mm0, %mm6
 
1754
        movq 120(%esp), %mm0
 
1755
        pfadd %mm5, %mm3
 
1756
        pfmul KP707106781KP707106781, %mm4
 
1757
        pfsub %mm5, %mm2
 
1758
        movq 360(%esp), %mm5
 
1759
        pfmul KP707106781KP707106781, %mm6
 
1760
        movq %mm3, %mm7
 
1761
        movq %mm2, %mm1
 
1762
        pswapd %mm5, %mm5
 
1763
        pfadd %mm4, %mm7
 
1764
        pxor chs_hi, %mm5
 
1765
        pfsub %mm4, %mm3
 
1766
        movq %mm0, %mm4
 
1767
        pfadd %mm6, %mm1
 
1768
        pfsub %mm6, %mm2
 
1769
        movq 888(%esp), %mm6
 
1770
        movq %mm7, (%ebx,%ebp,8)
 
1771
        movq 880(%esp), %mm7
 
1772
        pfadd %mm5, %mm0
 
1773
        movq %mm3, (%edi,%ebp,8)
 
1774
        leal (%esi,%esi), %ebp
 
1775
        pfsub %mm5, %mm4
 
1776
        movq 1336(%esp), %mm5
 
1777
        leal (%ebp,%ebp,2), %ebp
 
1778
        movq %mm6, %mm3
 
1779
        pfacc %mm7, %mm6
 
1780
        movq %mm0, 1920(%esp)
 
1781
        movq 1328(%esp), %mm0
 
1782
        movq %mm1, (%ebx,%ebp,8)
 
1783
        movq 1640(%esp), %mm1
 
1784
        pfnacc %mm3, %mm7
 
1785
        movq 1680(%esp), %mm3
 
1786
        pswapd %mm5, %mm5
 
1787
        movq %mm2, (%edi,%ebp,8)
 
1788
        leal (%esi,%esi,2), %ebp
 
1789
        pfmul KP707106781KP707106781, %mm6
 
1790
        movq %mm5, %mm2
 
1791
        pfadd %mm0, %mm5
 
1792
        pswapd %mm1, %mm1
 
1793
        pfmul KP707106781KP707106781, %mm7
 
1794
        pfsub %mm0, %mm2
 
1795
        movq %mm3, %mm0
 
1796
        pxor chs_hi, %mm1
 
1797
        movq %mm6, 1912(%esp)
 
1798
        movq %mm5, %mm6
 
1799
        pfmul KP382683432KP923879532, %mm5
 
1800
        pfadd %mm1, %mm3
 
1801
        pfsub %mm1, %mm0
 
1802
        pfmul KP923879532KP382683432, %mm6
 
1803
        pswapd %mm3, %mm1
 
1804
        pfmul KP923879532KP382683432, %mm3
 
1805
        pfmul KP923879532KP382683432, %mm1
 
1806
        pfpnacc %mm5, %mm3
 
1807
        movq %mm2, %mm5
 
1808
        pfmul KP923879532KP382683432, %mm2
 
1809
        pfpnacc %mm1, %mm6
 
1810
        pswapd %mm0, %mm1
 
1811
        pfmul KP382683432KP923879532, %mm5
 
1812
        pfmul KP382683432KP923879532, %mm1
 
1813
        pfmul KP382683432KP923879532, %mm0
 
1814
        pfpnacc %mm1, %mm5
 
1815
        movq %mm4, %mm1
 
1816
        pfpnacc %mm2, %mm0
 
1817
        pfadd %mm7, %mm4
 
1818
        pfsub %mm7, %mm1
 
1819
        movq %mm5, %mm2
 
1820
        pfnacc %mm0, %mm5
 
1821
        pfacc %mm2, %mm0
 
1822
        movq %mm4, %mm2
 
1823
        movq %mm1, %mm7
 
1824
        pfadd %mm5, %mm7
 
1825
        pfadd %mm0, %mm4
 
1826
        pfsub %mm0, %mm2
 
1827
        movq %mm3, %mm0
 
1828
        pfsub %mm5, %mm1
 
1829
        movq 1920(%esp), %mm5
 
1830
        pfacc %mm6, %mm3
 
1831
        movq %mm4, (%ebx,%ebp,8)
 
1832
        movq 1912(%esp), %mm4
 
1833
        pfnacc %mm0, %mm6
 
1834
        movq %mm2, (%edi,%ebp,8)
 
1835
        leal (%esi,%esi,2), %ebp
 
1836
        movq %mm5, %mm0
 
1837
        leal (%esi,%ebp,2), %ebp
 
1838
        pfsub %mm4, %mm5
 
1839
        pfadd %mm4, %mm0
 
1840
        movq %mm1, (%edi,%ebp,8)
 
1841
        movq 280(%esp), %mm1
 
1842
        movq %mm7, (%ebx,%ebp,8)
 
1843
        movq 288(%esp), %mm7
 
1844
        leal (%esi,%esi,4), %ebp
 
1845
        movq %mm5, %mm2
 
1846
        pfsub %mm6, %mm5
 
1847
        movq %mm0, %mm4
 
1848
        pfadd %mm3, %mm0
 
1849
        pfadd %mm6, %mm2
 
1850
        movq %mm1, %mm6
 
1851
        pfacc %mm7, %mm1
 
1852
        pfsub %mm3, %mm4
 
1853
        movq 808(%esp), %mm3
 
1854
        movq %mm5, (%edi,%ebp,8)
 
1855
        pfnacc %mm6, %mm7
 
1856
        movq 112(%esp), %mm6
 
1857
        movq %mm0, (%ebx,%esi,8)
 
1858
        movq 72(%esp), %mm0
 
1859
        movq %mm2, (%ebx,%ebp,8)
 
1860
        leal (%esi,%esi,2), %ebp
 
1861
        pfmul KP707106781KP707106781, %mm1
 
1862
        movq %mm4, (%edi,%esi,8)
 
1863
        movq 800(%esp), %mm4
 
1864
        movq %mm3, %mm2
 
1865
        pswapd %mm6, %mm6
 
1866
        pfmul KP382683432KP923879532, %mm3
 
1867
        leal (%esi,%ebp,2), %ebp
 
1868
        pfmul KP923879532KP382683432, %mm2
 
1869
        movq %mm0, %mm5
 
1870
        pxor chs_hi, %mm6
 
1871
        pfmul KP707106781KP707106781, %mm7
 
1872
        movq %mm1, 1928(%esp)
 
1873
        movq %mm4, %mm1
 
1874
        pfmul KP923879532KP382683432, %mm4
 
1875
        pfmul KP382683432KP923879532, %mm1
 
1876
        pfadd %mm6, %mm0
 
1877
        pfsub %mm6, %mm5
 
1878
        movq %mm0, 1936(%esp)
 
1879
        movq 1672(%esp), %mm0
 
1880
        pfpnacc %mm4, %mm3
 
1881
        movq %mm5, %mm6
 
1882
        pfsub %mm7, %mm5
 
1883
        pfpnacc %mm2, %mm1
 
1884
        pfadd %mm7, %mm6
 
1885
        movq 1824(%esp), %mm7
 
1886
        movq %mm0, %mm4
 
1887
        movq %mm1, %mm2
 
1888
        pfacc %mm3, %mm1
 
1889
        pfadd %mm7, %mm0
 
1890
        movq %mm6, 1952(%esp)
 
1891
        pfsub %mm7, %mm4
 
1892
        movq 1304(%esp), %mm7
 
1893
        pfnacc %mm2, %mm3
 
1894
        movq %mm1, 1944(%esp)
 
1895
        movq 1144(%esp), %mm2
 
1896
        movq %mm7, %mm1
 
1897
        pswapd %mm4, %mm6
 
1898
        pfmul KP195090322KP980785280, %mm4
 
1899
        pfadd %mm2, %mm7
 
1900
        movq %mm3, 1960(%esp)
 
1901
        pswapd %mm0, %mm3
 
1902
        pfsub %mm2, %mm1
 
1903
        pfmul KP831469612KP555570233, %mm0
 
1904
        pfmul KP195090322KP980785280, %mm6
 
1905
        pfmul KP831469612KP555570233, %mm3
 
1906
        movq %mm7, %mm2
 
1907
        pfmul KP831469612KP555570233, %mm7
 
1908
        pfmul KP555570233KP831469612, %mm2
 
1909
        pfpnacc %mm3, %mm7
 
1910
        movq 1960(%esp), %mm3
 
1911
        pfpnacc %mm2, %mm0
 
1912
        movq %mm1, %mm2
 
1913
        pfmul KP195090322KP980785280, %mm1
 
1914
        pfmul KP980785280KP195090322, %mm2
 
1915
        pfpnacc %mm6, %mm1
 
1916
        movq %mm5, %mm6
 
1917
        pfadd %mm3, %mm5
 
1918
        pfpnacc %mm2, %mm4
 
1919
        pfsub %mm3, %mm6
 
1920
        movq %mm5, %mm3
 
1921
        movq %mm4, %mm2
 
1922
        pfacc %mm1, %mm4
 
1923
        pfnacc %mm2, %mm1
 
1924
        movq %mm6, %mm2
 
1925
        pfadd %mm4, %mm5
 
1926
        pfsub %mm4, %mm3
 
1927
        movq %mm0, %mm4
 
1928
        pfadd %mm1, %mm2
 
1929
        pfsub %mm1, %mm6
 
1930
        movq 1952(%esp), %mm1
 
1931
        movq %mm5, (%ebx,%ebp,4)
 
1932
        movq 1944(%esp), %mm5
 
1933
        pfacc %mm7, %mm0
 
1934
        movq %mm3, (%edi,%ebp,4)
 
1935
        pfnacc %mm4, %mm7
 
1936
        leal (%esi,%esi,2), %ebp
 
1937
        movq %mm1, %mm3
 
1938
        leal (%ebp,%ebp,4), %ebp
 
1939
        pfadd %mm5, %mm1
 
1940
        pfsub %mm5, %mm3
 
1941
        movq %mm2, (%ebx,%ebp,4)
 
1942
        movq 792(%esp), %mm2
 
1943
        movq %mm6, (%edi,%ebp,4)
 
1944
        leal (%esi,%esi,2), %ebp
 
1945
        movq %mm1, %mm4
 
1946
        pfsub %mm0, %mm1
 
1947
        movq %mm3, %mm5
 
1948
        pfsub %mm7, %mm3
 
1949
        movq %mm2, %mm6
 
1950
        pfadd %mm0, %mm4
 
1951
        movq 1936(%esp), %mm0
 
1952
        pfmul KP923879532KP382683432, %mm2
 
1953
        pfadd %mm7, %mm5
 
1954
        movq 1928(%esp), %mm7
 
1955
        pfmul KP382683432KP923879532, %mm6
 
1956
        movq %mm1, (%edi,%ebp,4)
 
1957
        movq %mm4, (%ebx,%ebp,4)
 
1958
        movq 784(%esp), %mm4
 
1959
        movq %mm0, %mm1
 
1960
        pfsub %mm7, %mm0
 
1961
        leal (%esi,%esi,2), %ebp
 
1962
        pfadd %mm7, %mm1
 
1963
        leal (%ebp,%esi,8), %ebp
 
1964
        movq %mm4, %mm7
 
1965
        pfmul KP382683432KP923879532, %mm4
 
1966
        movq %mm3, (%edi,%ebp,4)
 
1967
        movq 1296(%esp), %mm3
 
1968
        pfmul KP923879532KP382683432, %mm7
 
1969
        movq %mm5, (%ebx,%ebp,4)
 
1970
        leal (%esi,%esi,4), %ebp
 
1971
        movq %mm1, 1976(%esp)
 
1972
        movq 1136(%esp), %mm5
 
1973
        movq %mm3, %mm1
 
1974
        pfpnacc %mm4, %mm2
 
1975
        pfadd %mm5, %mm3
 
1976
        pfpnacc %mm6, %mm7
 
1977
        pfsub %mm5, %mm1
 
1978
        movq 1664(%esp), %mm5
 
1979
        movq %mm7, %mm4
 
1980
        pfacc %mm2, %mm7
 
1981
        pswapd %mm1, %mm6
 
1982
        pfmul KP555570233KP831469612, %mm1
 
1983
        pfnacc %mm4, %mm2
 
1984
        movq 1816(%esp), %mm4
 
1985
        pfmul KP555570233KP831469612, %mm6
 
1986
        movq %mm7, 1968(%esp)
 
1987
        movq %mm5, %mm7
 
1988
        pfadd %mm4, %mm5
 
1989
        movq %mm2, 1984(%esp)
 
1990
        pswapd %mm3, %mm2
 
1991
        pfsub %mm4, %mm7
 
1992
        pfmul KP980785280KP195090322, %mm3
 
1993
        pfmul KP980785280KP195090322, %mm2
 
1994
        movq %mm5, %mm4
 
1995
        pfmul KP980785280KP195090322, %mm5
 
1996
        pfmul KP195090322KP980785280, %mm4
 
1997
        pfpnacc %mm2, %mm5
 
1998
        movq 1984(%esp), %mm2
 
1999
        pfpnacc %mm4, %mm3
 
2000
        movq %mm7, %mm4
 
2001
        pfmul KP555570233KP831469612, %mm7
 
2002
        pfmul KP831469612KP555570233, %mm4
 
2003
        pfpnacc %mm6, %mm7
 
2004
        movq %mm0, %mm6
 
2005
        pfadd %mm2, %mm0
 
2006
        pfpnacc %mm4, %mm1
 
2007
        pfsub %mm2, %mm6
 
2008
        movq %mm1, %mm4
 
2009
        pfnacc %mm7, %mm1
 
2010
        movq %mm6, %mm2
 
2011
        pfacc %mm4, %mm7
 
2012
        movq %mm0, %mm4
 
2013
        pfsub %mm1, %mm6
 
2014
        pfadd %mm1, %mm2
 
2015
        movq %mm5, %mm1
 
2016
        pfacc %mm3, %mm5
 
2017
        pfadd %mm7, %mm0
 
2018
        pfsub %mm7, %mm4
 
2019
        movq 1968(%esp), %mm7
 
2020
        pfnacc %mm1, %mm3
 
2021
        movq 1976(%esp), %mm1
 
2022
        movq %mm0, (%ebx,%ebp,4)
 
2023
        movq %mm4, (%edi,%ebp,4)
 
2024
        leal (%esi,%esi,2), %ebp
 
2025
        movq %mm1, %mm0
 
2026
        pfsub %mm7, %mm1
 
2027
        leal (%esi,%ebp,4), %ebp
 
2028
        pfadd %mm7, %mm0
 
2029
        movq %mm6, (%edi,%ebp,4)
 
2030
        movq 648(%esp), %mm6
 
2031
        movq %mm1, %mm4
 
2032
        pfsub %mm3, %mm1
 
2033
        movq %mm2, (%ebx,%ebp,4)
 
2034
        movq 776(%esp), %mm2
 
2035
        leal (%esi,%esi,8), %ebp
 
2036
        movq %mm0, %mm7
 
2037
        pfadd %mm3, %mm4
 
2038
        movq %mm6, %mm3
 
2039
        pfsub %mm5, %mm0
 
2040
        pfadd %mm5, %mm7
 
2041
        movq %mm1, (%edi,%ebp,4)
 
2042
        movq 768(%esp), %mm1
 
2043
        pfadd %mm2, %mm6
 
2044
        pfsub %mm2, %mm3
 
2045
        movq 728(%esp), %mm2
 
2046
        movq %mm4, (%ebx,%ebp,4)
 
2047
        movq %mm0, (%edi,%esi,4)
 
2048
        leal (%esi,%esi,8), %ebp
 
2049
        movq %mm7, (%ebx,%esi,4)
 
2050
        movq %mm1, %mm7
 
2051
        movq %mm6, %mm5
 
2052
        pfmul KP555570233KP831469612, %mm6
 
2053
        leal (%esi,%ebp,2), %ebp
 
2054
        pfadd %mm2, %mm1
 
2055
        movq %mm3, %mm4
 
2056
        pfmul KP980785280KP195090322, %mm3
 
2057
        pfsub %mm2, %mm7
 
2058
        pfmul KP831469612KP555570233, %mm5
 
2059
        pfmul KP195090322KP980785280, %mm4
 
2060
        movq %mm1, %mm0
 
2061
        pfmul KP831469612KP555570233, %mm1
 
2062
        movq %mm7, %mm2
 
2063
        pfmul KP980785280KP195090322, %mm7
 
2064
        pfmul KP555570233KP831469612, %mm0
 
2065
        pfmul KP195090322KP980785280, %mm2
 
2066
        pfpnacc %mm6, %mm1
 
2067
        pfpnacc %mm7, %mm4
 
2068
        pfpnacc %mm0, %mm5
 
2069
        movq 392(%esp), %mm0
 
2070
        pfpnacc %mm3, %mm2
 
2071
        movq 384(%esp), %mm3
 
2072
        movq %mm5, %mm6
 
2073
        pfacc %mm1, %mm5
 
2074
        movq %mm2, %mm7
 
2075
        pfnacc %mm4, %mm2
 
2076
        pfnacc %mm6, %mm1
 
2077
        movq %mm0, %mm6
 
2078
        pfacc %mm7, %mm4
 
2079
        movq %mm5, 2040(%esp)
 
2080
        movq 88(%esp), %mm7
 
2081
        movq 184(%esp), %mm5
 
2082
        pfacc %mm3, %mm0
 
2083
        pfnacc %mm6, %mm3
 
2084
        movq %mm2, 2024(%esp)
 
2085
        movq %mm1, 2008(%esp)
 
2086
        movq %mm7, %mm6
 
2087
        movq %mm4, 1992(%esp)
 
2088
        movq 1384(%esp), %mm4
 
2089
        pfsub %mm5, %mm7
 
2090
        pfadd %mm5, %mm6
 
2091
        movq 1376(%esp), %mm5
 
2092
        movq %mm7, %mm2
 
2093
        pfsub %mm3, %mm7
 
2094
        movq %mm6, %mm1
 
2095
        pfsub %mm0, %mm6
 
2096
        pfadd %mm3, %mm2
 
2097
        movq %mm4, %mm3
 
2098
        pfadd %mm0, %mm1
 
2099
        movq 1192(%esp), %mm0
 
2100
        pfnacc %mm5, %mm4
 
2101
        movq %mm7, 2032(%esp)
 
2102
        pfacc %mm3, %mm5
 
2103
        movq %mm6, 2016(%esp)
 
2104
        movq %mm2, 2000(%esp)
 
2105
        movq 1904(%esp), %mm3
 
2106
        movq 1896(%esp), %mm6
 
2107
        movq %mm0, %mm7
 
2108
        movq %mm1, 2048(%esp)
 
2109
        pfsub %mm4, %mm0
 
2110
        pfadd %mm4, %mm7
 
2111
        movq %mm3, %mm2
 
2112
        movq 1792(%esp), %mm4
 
2113
        pfnacc %mm6, %mm3
 
2114
        pfacc %mm2, %mm6
 
2115
        movq %mm4, %mm2
 
2116
        pswapd %mm7, %mm1
 
2117
        pfmul KP773010453KP634393284, %mm7
 
2118
        pfadd %mm3, %mm4
 
2119
        pfsub %mm3, %mm2
 
2120
        pfmul KP773010453KP634393284, %mm1
 
2121
        movq %mm4, %mm3
 
2122
        pfmul KP634393284KP773010453, %mm4
 
2123
        pfmul KP773010453KP634393284, %mm3
 
2124
        pfpnacc %mm4, %mm7
 
2125
        movq %mm2, %mm4
 
2126
        pfmul KP995184726KP098017140, %mm2
 
2127
        pfpnacc %mm1, %mm3
 
2128
        pswapd %mm0, %mm1
 
2129
        pfmul KP098017140KP995184726, %mm0
 
2130
        movq %mm7, 2056(%esp)
 
2131
        movq 1752(%esp), %mm7
 
2132
        pfmul KP098017140KP995184726, %mm4
 
2133
        pfmul KP098017140KP995184726, %mm1
 
2134
        movq %mm3, 2064(%esp)
 
2135
        movq %mm7, %mm3
 
2136
        pfadd %mm6, %mm7
 
2137
        pfpnacc %mm2, %mm0
 
2138
        movq 1184(%esp), %mm2
 
2139
        pfsub %mm6, %mm3
 
2140
        pfpnacc %mm1, %mm4
 
2141
        pswapd %mm7, %mm1
 
2142
        movq %mm2, %mm6
 
2143
        pfadd %mm5, %mm2
 
2144
        pfmul KP956940335KP290284677, %mm7
 
2145
        pfmul KP956940335KP290284677, %mm1
 
2146
        pfsub %mm5, %mm6
 
2147
        movq %mm2, %mm5
 
2148
        pfmul KP290284677KP956940335, %mm2
 
2149
        pfmul KP956940335KP290284677, %mm5
 
2150
        pfpnacc %mm2, %mm7
 
2151
        movq %mm6, %mm2
 
2152
        pfmul KP881921264KP471396736, %mm6
 
2153
        pfpnacc %mm1, %mm5
 
2154
        pswapd %mm3, %mm1
 
2155
        pfmul KP471396736KP881921264, %mm2
 
2156
        pfmul KP471396736KP881921264, %mm1
 
2157
        pfmul KP471396736KP881921264, %mm3
 
2158
        pfpnacc %mm1, %mm2
 
2159
        movq 2048(%esp), %mm1
 
2160
        pfpnacc %mm6, %mm3
 
2161
        movq %mm2, 2072(%esp)
 
2162
        movq 2040(%esp), %mm6
 
2163
        movq %mm1, %mm2
 
2164
        pfadd %mm6, %mm1
 
2165
        pfsub %mm6, %mm2
 
2166
        movq %mm7, %mm6
 
2167
        pfacc %mm5, %mm7
 
2168
        pfnacc %mm6, %mm5
 
2169
        movq %mm2, %mm6
 
2170
        pfadd %mm5, %mm6
 
2171
        pfsub %mm5, %mm2
 
2172
        movq %mm1, %mm5
 
2173
        pfadd %mm7, %mm1
 
2174
        pfsub %mm7, %mm5
 
2175
        movq %mm4, %mm7
 
2176
        movq %mm6, (%ebx,%ebp,2)
 
2177
        movq 2032(%esp), %mm6
 
2178
        pfacc %mm0, %mm4
 
2179
        movq %mm2, (%edi,%ebp,2)
 
2180
        movq 2024(%esp), %mm2
 
2181
        pfnacc %mm7, %mm0
 
2182
        leal (%esi,%esi,2), %ebp
 
2183
        movq %mm6, %mm7
 
2184
        movq %mm1, (%ebx,%ebp,2)
 
2185
        pfadd %mm2, %mm6
 
2186
        movq %mm5, (%edi,%ebp,2)
 
2187
        leal (%esi,%esi,2), %ebp
 
2188
        pfsub %mm2, %mm7
 
2189
        movq 2016(%esp), %mm2
 
2190
        leal (%ebp,%ebp,4), %ebp
 
2191
        movq %mm6, %mm1
 
2192
        pfsub %mm4, %mm6
 
2193
        movq %mm7, %mm5
 
2194
        pfsub %mm0, %mm7
 
2195
        pfadd %mm4, %mm1
 
2196
        movq 2008(%esp), %mm4
 
2197
        pfadd %mm0, %mm5
 
2198
        movq %mm2, %mm0
 
2199
        movq %mm6, (%edi,%ebp,2)
 
2200
        movq 2072(%esp), %mm6
 
2201
        movq %mm1, (%ebx,%ebp,2)
 
2202
        movq %mm3, %mm1
 
2203
        leal (%esi,%esi,2), %ebp
 
2204
        pfsub %mm4, %mm2
 
2205
        pfacc %mm6, %mm3
 
2206
        leal (%ebp,%ebp,4), %ebp
 
2207
        pfnacc %mm1, %mm6
 
2208
        pfadd %mm4, %mm0
 
2209
        leal (%esi,%ebp,2), %ebp
 
2210
        movq %mm2, %mm1
 
2211
        movq %mm5, (%ebx,%ebp,2)
 
2212
        movq 2000(%esp), %mm5
 
2213
        movq %mm7, (%edi,%ebp,2)
 
2214
        pfadd %mm6, %mm2
 
2215
        leal (%esi,%esi,2), %ebp
 
2216
        pfsub %mm6, %mm1
 
2217
        movq 1992(%esp), %mm7
 
2218
        movq %mm0, %mm4
 
2219
        movq 2064(%esp), %mm6
 
2220
        leal (%ebp,%ebp,8), %ebp
 
2221
        pfsub %mm3, %mm0
 
2222
        pfadd %mm3, %mm4
 
2223
        movq %mm5, %mm3
 
2224
        movq %mm2, (%ebx,%ebp,2)
 
2225
        movq 2056(%esp), %mm2
 
2226
        pfsub %mm7, %mm5
 
2227
        movq %mm1, (%edi,%ebp,2)
 
2228
        leal (%esi,%esi,2), %ebp
 
2229
        pfadd %mm7, %mm3
 
2230
        movq %mm6, %mm7
 
2231
        leal (%ebp,%esi,8), %ebp
 
2232
        pfacc %mm2, %mm6
 
2233
        pfnacc %mm7, %mm2
 
2234
        movq %mm5, %mm7
 
2235
        movq %mm4, (%ebx,%ebp,2)
 
2236
        movq %mm3, %mm1
 
2237
        movq %mm0, (%edi,%ebp,2)
 
2238
        leal (%esi,%esi,2), %ebp
 
2239
        movq 720(%esp), %mm4
 
2240
        pfadd %mm6, %mm1
 
2241
        leal (%esi,%ebp,2), %ebp
 
2242
        pfsub %mm6, %mm3
 
2243
        movq 640(%esp), %mm6
 
2244
        pfadd %mm2, %mm7
 
2245
        pfsub %mm2, %mm5
 
2246
        movq 712(%esp), %mm2
 
2247
        pswapd %mm4, %mm0
 
2248
        pfmul KP980785280KP195090322, %mm4
 
2249
        movq %mm1, (%ebx,%ebp,2)
 
2250
        movq %mm3, (%edi,%ebp,2)
 
2251
        movq %mm6, %mm1
 
2252
        leal (%esi,%esi,2), %ebp
 
2253
        pfmul KP980785280KP195090322, %mm0
 
2254
        pfadd %mm2, %mm6
 
2255
        leal (%ebp,%ebp,4), %ebp
 
2256
        pfsub %mm2, %mm1
 
2257
        leal (%ebp,%esi,8), %ebp
 
2258
        movq %mm6, %mm3
 
2259
        pfmul KP195090322KP980785280, %mm6
 
2260
        movq %mm7, (%ebx,%ebp,2)
 
2261
        movq 704(%esp), %mm7
 
2262
        movq %mm5, (%edi,%ebp,2)
 
2263
        movq %mm1, %mm2
 
2264
        pfmul KP980785280KP195090322, %mm3
 
2265
        leal (%esi,%esi), %ebp
 
2266
        pfmul KP555570233KP831469612, %mm2
 
2267
        pfmul KP831469612KP555570233, %mm1
 
2268
        leal (%esi,%ebp,8), %ebp
 
2269
        pswapd %mm7, %mm5
 
2270
        pfmul KP555570233KP831469612, %mm7
 
2271
        pfpnacc %mm6, %mm4
 
2272
        pfmul KP555570233KP831469612, %mm5
 
2273
        pfpnacc %mm0, %mm3
 
2274
        movq 80(%esp), %mm0
 
2275
        movq %mm4, %mm6
 
2276
        pfpnacc %mm1, %mm7
 
2277
        movq 176(%esp), %mm1
 
2278
        pfnacc %mm3, %mm4
 
2279
        pfacc %mm6, %mm3
 
2280
        movq %mm0, %mm6
 
2281
        pfpnacc %mm5, %mm2
 
2282
        pfsub %mm1, %mm0
 
2283
        movq %mm4, 2096(%esp)
 
2284
        movq 376(%esp), %mm4
 
2285
        pfadd %mm1, %mm6
 
2286
        movq %mm3, 2128(%esp)
 
2287
        movq 368(%esp), %mm3
 
2288
        movq %mm2, %mm5
 
2289
        pfacc %mm7, %mm2
 
2290
        pfnacc %mm5, %mm7
 
2291
        movq %mm4, %mm5
 
2292
        movq %mm6, %mm1
 
2293
        pfacc %mm3, %mm4
 
2294
        pfnacc %mm5, %mm3
 
2295
        movq %mm2, 2080(%esp)
 
2296
        movq %mm0, %mm5
 
2297
        movq %mm7, 2112(%esp)
 
2298
        movq 1320(%esp), %mm2
 
2299
        movq 1312(%esp), %mm7
 
2300
        pfsub %mm4, %mm6
 
2301
        pfadd %mm3, %mm5
 
2302
        pfadd %mm4, %mm1
 
2303
        movq %mm2, %mm4
 
2304
        pfsub %mm3, %mm0
 
2305
        movq 1176(%esp), %mm3
 
2306
        pfnacc %mm7, %mm2
 
2307
        movq %mm6, 2104(%esp)
 
2308
        pfacc %mm4, %mm7
 
2309
        movq %mm5, 2088(%esp)
 
2310
        movq %mm1, 2136(%esp)
 
2311
        movq 1808(%esp), %mm4
 
2312
        movq 1800(%esp), %mm5
 
2313
        movq %mm3, %mm6
 
2314
        movq %mm0, 2120(%esp)
 
2315
        pfsub %mm2, %mm3
 
2316
        pfadd %mm2, %mm6
 
2317
        movq %mm4, %mm1
 
2318
        movq 1744(%esp), %mm2
 
2319
        pfnacc %mm5, %mm4
 
2320
        pfacc %mm1, %mm5
 
2321
        movq %mm2, %mm1
 
2322
        pswapd %mm6, %mm0
 
2323
        pfmul KP881921264KP471396736, %mm6
 
2324
        pfadd %mm4, %mm2
 
2325
        pfsub %mm4, %mm1
 
2326
        pfmul KP881921264KP471396736, %mm0
 
2327
        movq %mm2, %mm4
 
2328
        pfmul KP471396736KP881921264, %mm2
 
2329
        pfmul KP881921264KP471396736, %mm4
 
2330
        pfpnacc %mm2, %mm6
 
2331
        movq %mm1, %mm2
 
2332
        pfmul KP956940335KP290284677, %mm1
 
2333
        pfpnacc %mm0, %mm4
 
2334
        pswapd %mm3, %mm0
 
2335
        pfmul KP290284677KP956940335, %mm3
 
2336
        movq %mm6, 2144(%esp)
 
2337
        movq 1736(%esp), %mm6
 
2338
        pfmul KP290284677KP956940335, %mm2
 
2339
        pfmul KP290284677KP956940335, %mm0
 
2340
        movq %mm4, 2152(%esp)
 
2341
        movq %mm6, %mm4
 
2342
        pfadd %mm5, %mm6
 
2343
        pfpnacc %mm1, %mm3
 
2344
        movq 1168(%esp), %mm1
 
2345
        pfsub %mm5, %mm4
 
2346
        pfpnacc %mm0, %mm2
 
2347
        pswapd %mm6, %mm0
 
2348
        movq %mm1, %mm5
 
2349
        pfadd %mm7, %mm1
 
2350
        pfmul KP995184726KP098017140, %mm6
 
2351
        pfmul KP995184726KP098017140, %mm0
 
2352
        pfsub %mm7, %mm5
 
2353
        movq %mm1, %mm7
 
2354
        pfmul KP098017140KP995184726, %mm1
 
2355
        pfmul KP995184726KP098017140, %mm7
 
2356
        pfpnacc %mm1, %mm6
 
2357
        movq %mm5, %mm1
 
2358
        pfmul KP773010453KP634393284, %mm5
 
2359
        pfpnacc %mm0, %mm7
 
2360
        pswapd %mm4, %mm0
 
2361
        pfmul KP634393284KP773010453, %mm1
 
2362
        pfmul KP634393284KP773010453, %mm0
 
2363
        pfmul KP634393284KP773010453, %mm4
 
2364
        pfpnacc %mm0, %mm1
 
2365
        movq 2136(%esp), %mm0
 
2366
        pfpnacc %mm5, %mm4
 
2367
        movq %mm1, 2160(%esp)
 
2368
        movq 2128(%esp), %mm5
 
2369
        movq %mm0, %mm1
 
2370
        pfadd %mm5, %mm0
 
2371
        pfsub %mm5, %mm1
 
2372
        movq %mm6, %mm5
 
2373
        pfacc %mm7, %mm6
 
2374
        pfnacc %mm5, %mm7
 
2375
        movq %mm1, %mm5
 
2376
        pfadd %mm7, %mm5
 
2377
        pfsub %mm7, %mm1
 
2378
        movq %mm0, %mm7
 
2379
        pfsub %mm6, %mm0
 
2380
        pfadd %mm6, %mm7
 
2381
        movq %mm2, %mm6
 
2382
        movq %mm5, (%ebx,%ebp,2)
 
2383
        movq 2120(%esp), %mm5
 
2384
        pfacc %mm3, %mm2
 
2385
        movq %mm1, (%edi,%ebp,2)
 
2386
        movq 2112(%esp), %mm1
 
2387
        pfnacc %mm6, %mm3
 
2388
        movq %mm0, (%edi,%esi,2)
 
2389
        leal (%esi,%esi,2), %ebp
 
2390
        movq %mm7, (%ebx,%esi,2)
 
2391
        movq %mm5, %mm0
 
2392
        leal (%esi,%ebp,4), %ebp
 
2393
        pfadd %mm1, %mm5
 
2394
        pfsub %mm1, %mm0
 
2395
        movq 2104(%esp), %mm1
 
2396
        movq %mm5, %mm6
 
2397
        pfsub %mm2, %mm5
 
2398
        movq %mm0, %mm7
 
2399
        pfsub %mm3, %mm0
 
2400
        pfadd %mm2, %mm6
 
2401
        movq 2096(%esp), %mm2
 
2402
        pfadd %mm3, %mm7
 
2403
        movq %mm1, %mm3
 
2404
        movq %mm5, (%edi,%ebp,2)
 
2405
        movq 2160(%esp), %mm5
 
2406
        movq %mm6, (%ebx,%ebp,2)
 
2407
        movq %mm4, %mm6
 
2408
        leal (%esi,%esi,2), %ebp
 
2409
        pfsub %mm2, %mm1
 
2410
        pfacc %mm5, %mm4
 
2411
        leal (%ebp,%ebp,8), %ebp
 
2412
        pfnacc %mm6, %mm5
 
2413
        pfadd %mm2, %mm3
 
2414
        leal (%ebp,%esi,2), %ebp
 
2415
        movq %mm1, %mm6
 
2416
        movq %mm7, (%ebx,%ebp,2)
 
2417
        movq 2088(%esp), %mm7
 
2418
        movq %mm0, (%edi,%ebp,2)
 
2419
        pfadd %mm5, %mm1
 
2420
        leal (%esi,%esi,2), %ebp
 
2421
        movq %mm3, %mm2
 
2422
        movq 2080(%esp), %mm0
 
2423
        pfsub %mm4, %mm3
 
2424
        leal (%esi,%ebp,8), %ebp
 
2425
        pfsub %mm5, %mm6
 
2426
        pfadd %mm4, %mm2
 
2427
        movq 2152(%esp), %mm4
 
2428
        movq %mm7, %mm5
 
2429
        movq %mm1, (%ebx,%ebp,2)
 
2430
        movq 2144(%esp), %mm1
 
2431
        pfsub %mm0, %mm5
 
2432
        pfadd %mm0, %mm7
 
2433
        movq %mm6, (%edi,%ebp,2)
 
2434
        leal (%esi,%esi,8), %ebp
 
2435
        movq %mm4, %mm0
 
2436
        pfacc %mm1, %mm4
 
2437
        movq %mm2, (%ebx,%ebp,2)
 
2438
        pfnacc %mm0, %mm1
 
2439
        movq 760(%esp), %mm0
 
2440
        movq %mm3, (%edi,%ebp,2)
 
2441
        movq %mm7, %mm6
 
2442
        movq %mm5, %mm2
 
2443
        leal (%esi,%esi,4), %ebp
 
2444
        movq 856(%esp), %mm3
 
2445
        pfsub %mm4, %mm7
 
2446
        pfadd %mm4, %mm6
 
2447
        movq 696(%esp), %mm4
 
2448
        pfsub %mm1, %mm5
 
2449
        pfadd %mm1, %mm2
 
2450
        movq %mm0, %mm1
 
2451
        movq %mm7, (%edi,%ebp,2)
 
2452
        movq 872(%esp), %mm7
 
2453
        pfsub %mm3, %mm0
 
2454
        pfadd %mm3, %mm1
 
2455
        movq %mm4, %mm3
 
2456
        movq %mm6, (%ebx,%ebp,2)
 
2457
        leal (%esi,%esi,4), %ebp
 
2458
        pfadd %mm7, %mm3
 
2459
        pswapd %mm0, %mm6
 
2460
        leal (%esi,%ebp,4), %ebp
 
2461
        pfsub %mm7, %mm4
 
2462
        pswapd %mm1, %mm7
 
2463
        pfmul KP290284677KP956940335, %mm6
 
2464
        pfmul KP290284677KP956940335, %mm0
 
2465
        movq %mm5, (%edi,%ebp,2)
 
2466
        movq %mm2, (%ebx,%ebp,2)
 
2467
        leal (%esi,%esi,4), %ebp
 
2468
        movq %mm3, %mm5
 
2469
        pfmul KP881921264KP471396736, %mm1
 
2470
        movq %mm4, %mm2
 
2471
        pfmul KP290284677KP956940335, %mm4
 
2472
        leal (%ebp,%ebp,8), %ebp
 
2473
        pfmul KP881921264KP471396736, %mm7
 
2474
        pfmul KP471396736KP881921264, %mm3
 
2475
        pfmul KP881921264KP471396736, %mm5
 
2476
        pfmul KP956940335KP290284677, %mm2
 
2477
        pfpnacc %mm6, %mm4
 
2478
        pfpnacc %mm3, %mm1
 
2479
        movq 352(%esp), %mm3
 
2480
        pfpnacc %mm7, %mm5
 
2481
        movq 136(%esp), %mm7
 
2482
        pfpnacc %mm2, %mm0
 
2483
        movq %mm4, 2240(%esp)
 
2484
        movq %mm1, 2168(%esp)
 
2485
        movq 344(%esp), %mm2
 
2486
        movq 128(%esp), %mm4
 
2487
        movq %mm3, %mm6
 
2488
        pfmul KP831469612KP555570233, %mm3
 
2489
        movq %mm5, 2184(%esp)
 
2490
        movq %mm0, 2232(%esp)
 
2491
        movq 104(%esp), %mm5
 
2492
        movq %mm2, %mm1
 
2493
        movq %mm7, %mm0
 
2494
        pfmul KP555570233KP831469612, %mm6
 
2495
        pfnacc %mm4, %mm7
 
2496
        pfmul KP555570233KP831469612, %mm2
 
2497
        pfacc %mm0, %mm4
 
2498
        movq 168(%esp), %mm0
 
2499
        pfmul KP831469612KP555570233, %mm1
 
2500
        movq %mm4, 2176(%esp)
 
2501
        movq %mm5, %mm4
 
2502
        pfsub %mm0, %mm5
 
2503
        pfpnacc %mm3, %mm2
 
2504
        pfpnacc %mm1, %mm6
 
2505
        movq %mm5, %mm3
 
2506
        pfadd %mm0, %mm4
 
2507
        pfadd %mm7, %mm5
 
2508
        pfsub %mm7, %mm3
 
2509
        movq %mm2, %mm0
 
2510
        pfacc %mm6, %mm2
 
2511
        pfnacc %mm0, %mm6
 
2512
        movq %mm4, 2192(%esp)
 
2513
        movq 1728(%esp), %mm4
 
2514
        movq %mm5, %mm1
 
2515
        movq 1888(%esp), %mm0
 
2516
        movq %mm3, %mm7
 
2517
        pfsub %mm2, %mm5
 
2518
        pfadd %mm2, %mm1
 
2519
        movq %mm4, %mm2
 
2520
        pfsub %mm6, %mm3
 
2521
        pfadd %mm6, %mm7
 
2522
        movq %mm5, 2200(%esp)
 
2523
        movq 1784(%esp), %mm6
 
2524
        movq 1776(%esp), %mm5
 
2525
        pfsub %mm0, %mm4
 
2526
        movq %mm1, 2208(%esp)
 
2527
        pfadd %mm0, %mm2
 
2528
        movq %mm3, 2216(%esp)
 
2529
        movq %mm6, %mm1
 
2530
        movq %mm7, 2224(%esp)
 
2531
        pfnacc %mm5, %mm6
 
2532
        movq %mm4, %mm0
 
2533
        pfacc %mm1, %mm5
 
2534
        movq %mm2, %mm3
 
2535
        pfsub %mm6, %mm4
 
2536
        pfsub %mm5, %mm2
 
2537
        pfadd %mm6, %mm0
 
2538
        pfadd %mm5, %mm3
 
2539
        pswapd %mm4, %mm7
 
2540
        pfmul KP146730474KP989176509, %mm4
 
2541
        movq %mm2, %mm1
 
2542
        pfmul KP514102744KP857728610, %mm2
 
2543
        pfmul KP146730474KP989176509, %mm7
 
2544
        movq %mm0, %mm6
 
2545
        pfmul KP857728610KP514102744, %mm1
 
2546
        movq %mm3, %mm5
 
2547
        pfmul KP803207531KP595699304, %mm0
 
2548
        pswapd %mm6, %mm6
 
2549
        pfmul KP242980179KP970031253, %mm3
 
2550
        movq %mm4, 2248(%esp)
 
2551
        movq %mm2, 2264(%esp)
 
2552
        movq %mm7, 2256(%esp)
 
2553
        movq %mm1, 2272(%esp)
 
2554
        movq %mm0, 2280(%esp)
 
2555
        movq 1288(%esp), %mm4
 
2556
        movq 1368(%esp), %mm2
 
2557
        movq 1272(%esp), %mm7
 
2558
        movq 1280(%esp), %mm1
 
2559
        movq %mm4, %mm0
 
2560
        pfmul KP970031253KP242980179, %mm5
 
2561
        pfadd %mm2, %mm4
 
2562
        pfmul KP803207531KP595699304, %mm6
 
2563
        pfsub %mm2, %mm0
 
2564
        movq %mm1, %mm2
 
2565
        pfacc %mm7, %mm1
 
2566
        pfnacc %mm2, %mm7
 
2567
        movq %mm4, %mm2
 
2568
        pfadd %mm1, %mm4
 
2569
        pfsub %mm1, %mm2
 
2570
        movq %mm4, %mm1
 
2571
        pfmul KP970031253KP242980179, %mm4
 
2572
        pswapd %mm1, %mm1
 
2573
        pfmul KP970031253KP242980179, %mm1
 
2574
        pfpnacc %mm3, %mm4
 
2575
        movq %mm0, %mm3
 
2576
        pfsub %mm7, %mm0
 
2577
        pfadd %mm7, %mm3
 
2578
        movq %mm2, %mm7
 
2579
        pswapd %mm2, %mm2
 
2580
        pfmul KP514102744KP857728610, %mm7
 
2581
        movq %mm4, 2304(%esp)
 
2582
        pfpnacc %mm1, %mm5
 
2583
        pfmul KP514102744KP857728610, %mm2
 
2584
        movq 2264(%esp), %mm4
 
2585
        movq %mm3, %mm1
 
2586
        pfmul KP595699304KP803207531, %mm3
 
2587
        pfmul KP803207531KP595699304, %mm1
 
2588
        movq %mm5, 2312(%esp)
 
2589
        movq %mm0, %mm5
 
2590
        pfmul KP989176509KP146730474, %mm0
 
2591
        pfpnacc 2272(%esp), %mm7
 
2592
        pfmul KP146730474KP989176509, %mm5
 
2593
        pfpnacc %mm2, %mm4
 
2594
        movq 2280(%esp), %mm2
 
2595
        pfpnacc %mm6, %mm1
 
2596
        movq 2240(%esp), %mm6
 
2597
        pfpnacc %mm3, %mm2
 
2598
        movq %mm4, 2296(%esp)
 
2599
        movq %mm7, 2288(%esp)
 
2600
        movq 2248(%esp), %mm3
 
2601
        movq 2232(%esp), %mm7
 
2602
        pfpnacc 2256(%esp), %mm5
 
2603
        movq %mm6, %mm4
 
2604
        pfpnacc %mm0, %mm3
 
2605
        movq 2224(%esp), %mm0
 
2606
        pfacc %mm7, %mm6
 
2607
        pfnacc %mm4, %mm7
 
2608
        movq %mm0, %mm4
 
2609
        pfadd %mm6, %mm0
 
2610
        pfsub %mm6, %mm4
 
2611
        movq %mm2, %mm6
 
2612
        pfacc %mm1, %mm2
 
2613
        pfnacc %mm6, %mm1
 
2614
        movq %mm4, %mm6
 
2615
        pfadd %mm1, %mm4
 
2616
        pfsub %mm1, %mm6
 
2617
        movq %mm0, %mm1
 
2618
        pfsub %mm2, %mm0
 
2619
        pfadd %mm2, %mm1
 
2620
        movq %mm5, %mm2
 
2621
        movq %mm4, (%ebx,%ebp)
 
2622
        movq 2216(%esp), %mm4
 
2623
        pfnacc %mm3, %mm5
 
2624
        movq %mm6, (%edi,%ebp)
 
2625
        leal (%esi,%esi,2), %ebp
 
2626
        pfacc %mm2, %mm3
 
2627
        leal (%esi,%ebp,4), %ebp
 
2628
        movq %mm4, %mm6
 
2629
        pfsub %mm7, %mm4
 
2630
        movq %mm1, (%ebx,%ebp)
 
2631
        pfadd %mm7, %mm6
 
2632
        movq 2184(%esp), %mm7
 
2633
        movq %mm0, (%edi,%ebp)
 
2634
        movq 2168(%esp), %mm0
 
2635
        leal (%esi,%esi,2), %ebp
 
2636
        movq %mm4, %mm2
 
2637
        pfsub %mm5, %mm4
 
2638
        leal (%ebp,%ebp,4), %ebp
 
2639
        movq %mm6, %mm1
 
2640
        pfadd %mm5, %mm2
 
2641
        movq %mm7, %mm5
 
2642
        pfadd %mm3, %mm6
 
2643
        leal (%esi,%ebp,4), %ebp
 
2644
        pfsub %mm3, %mm1
 
2645
        movq 2208(%esp), %mm3
 
2646
        pfacc %mm0, %mm7
 
2647
        movq %mm4, (%edi,%ebp)
 
2648
        pfnacc %mm5, %mm0
 
2649
        movq 2304(%esp), %mm5
 
2650
        movq %mm2, (%ebx,%ebp)
 
2651
        movq 2312(%esp), %mm2
 
2652
        leal (%esi,%esi,2), %ebp
 
2653
        movq %mm3, %mm4
 
2654
        pfadd %mm7, %mm3
 
2655
        leal (%ebp,%ebp,8), %ebp
 
2656
        pfsub %mm7, %mm4
 
2657
        movq %mm5, %mm7
 
2658
        pfnacc %mm2, %mm5
 
2659
        leal (%ebp,%esi,2), %ebp
 
2660
        pfacc %mm7, %mm2
 
2661
        movq %mm6, (%ebx,%ebp)
 
2662
        movq %mm3, %mm6
 
2663
        movq %mm1, (%edi,%ebp)
 
2664
        movq %mm4, %mm7
 
2665
        movq 2200(%esp), %mm1
 
2666
        leal (%esi,%esi,4), %ebp
 
2667
        pfsub %mm5, %mm4
 
2668
        pfadd %mm2, %mm3
 
2669
        pfadd %mm5, %mm7
 
2670
        movq 2296(%esp), %mm5
 
2671
        pfsub %mm2, %mm6
 
2672
        movq %mm1, %mm2
 
2673
        pfadd %mm0, %mm1
 
2674
        movq %mm3, (%ebx,%ebp)
 
2675
        movq 2288(%esp), %mm3
 
2676
        pfsub %mm0, %mm2
 
2677
        movq %mm5, %mm0
 
2678
        movq %mm6, (%edi,%ebp)
 
2679
        leal (%esi,%esi,8), %ebp
 
2680
        movq 336(%esp), %mm6
 
2681
        pfacc %mm3, %mm5
 
2682
        leal (%esi,%ebp,4), %ebp
 
2683
        pfnacc %mm0, %mm3
 
2684
        movq %mm1, %mm0
 
2685
        movq %mm7, (%ebx,%ebp)
 
2686
        movq %mm6, %mm7
 
2687
        pfmul KP831469612KP555570233, %mm6
 
2688
        movq %mm4, (%edi,%ebp)
 
2689
        movq %mm2, %mm4
 
2690
        leal (%esi,%esi,4), %ebp
 
2691
        pfsub %mm5, %mm0
 
2692
        pfmul KP555570233KP831469612, %mm7
 
2693
        pfadd %mm5, %mm1
 
2694
        movq 312(%esp), %mm5
 
2695
        leal (%esi,%ebp,4), %ebp
 
2696
        pfadd %mm3, %mm4
 
2697
        pfsub %mm3, %mm2
 
2698
        movq %mm0, (%edi,%ebp)
 
2699
        movq 160(%esp), %mm0
 
2700
        movq %mm5, %mm3
 
2701
        movq %mm1, (%ebx,%ebp)
 
2702
        leal (%esi,%esi,2), %ebp
 
2703
        pfmul KP555570233KP831469612, %mm5
 
2704
        movq 152(%esp), %mm1
 
2705
        pfmul KP831469612KP555570233, %mm3
 
2706
        leal (%esi,%ebp,4), %ebp
 
2707
        leal (%esi,%ebp,4), %ebp
 
2708
        movq %mm2, (%edi,%ebp)
 
2709
        movq 144(%esp), %mm2
 
2710
        pfpnacc %mm5, %mm6
 
2711
        movq %mm4, (%ebx,%ebp)
 
2712
        movq %mm0, %mm4
 
2713
        pfpnacc %mm7, %mm3
 
2714
        movq 96(%esp), %mm7
 
2715
        leal (%esi,%esi), %ebp
 
2716
        pfacc %mm1, %mm0
 
2717
        pfnacc %mm4, %mm1
 
2718
        leal (%esi,%ebp,8), %ebp
 
2719
        movq %mm7, %mm5
 
2720
        pfadd %mm2, %mm7
 
2721
        movq %mm3, %mm4
 
2722
        pfacc %mm6, %mm3
 
2723
        leal (%esi,%ebp,2), %ebp
 
2724
        pfsub %mm2, %mm5
 
2725
        movq %mm1, 2320(%esp)
 
2726
        pfnacc %mm4, %mm6
 
2727
        movq %mm7, %mm2
 
2728
        pfadd %mm0, %mm7
 
2729
        pfsub %mm0, %mm2
 
2730
        movq %mm5, 2328(%esp)
 
2731
        movq 752(%esp), %mm0
 
2732
        movq 824(%esp), %mm5
 
2733
        movq %mm7, %mm1
 
2734
        pfsub %mm3, %mm7
 
2735
        movq %mm2, %mm4
 
2736
        pfadd %mm3, %mm1
 
2737
        movq %mm0, %mm3
 
2738
        pfsub %mm6, %mm2
 
2739
        pfadd %mm6, %mm4
 
2740
        movq %mm7, 2352(%esp)
 
2741
        movq 688(%esp), %mm7
 
2742
        pfadd %mm5, %mm0
 
2743
        pfsub %mm5, %mm3
 
2744
        movq %mm1, 2376(%esp)
 
2745
        movq %mm2, 2336(%esp)
 
2746
        movq %mm4, 2344(%esp)
 
2747
        movq 840(%esp), %mm4
 
2748
        movq %mm7, %mm5
 
2749
        movq %mm0, %mm6
 
2750
        pfmul KP290284677KP956940335, %mm0
 
2751
        movq %mm3, %mm1
 
2752
        pfmul KP471396736KP881921264, %mm3
 
2753
        pfmul KP956940335KP290284677, %mm6
 
2754
        pfadd %mm4, %mm7
 
2755
        pfmul KP881921264KP471396736, %mm1
 
2756
        pfsub %mm4, %mm5
 
2757
        movq %mm7, %mm2
 
2758
        pfmul KP956940335KP290284677, %mm7
 
2759
        movq %mm5, %mm4
 
2760
        pfmul KP881921264KP471396736, %mm5
 
2761
        pfmul KP290284677KP956940335, %mm2
 
2762
        pfmul KP471396736KP881921264, %mm4
 
2763
        pfpnacc %mm0, %mm7
 
2764
        movq 1264(%esp), %mm0
 
2765
        pfpnacc %mm5, %mm3
 
2766
        movq 1216(%esp), %mm5
 
2767
        pfpnacc %mm2, %mm6
 
2768
        movq 1352(%esp), %mm2
 
2769
        pfpnacc %mm1, %mm4
 
2770
        movq %mm7, 2392(%esp)
 
2771
        movq 1240(%esp), %mm7
 
2772
        movq %mm0, %mm1
 
2773
        movq %mm3, 2360(%esp)
 
2774
        movq %mm6, 2384(%esp)
 
2775
        pfsub %mm2, %mm0
 
2776
        movq %mm4, 2368(%esp)
 
2777
        pfadd %mm2, %mm1
 
2778
        movq %mm7, %mm6
 
2779
        pfnacc %mm5, %mm7
 
2780
        movq %mm0, %mm4
 
2781
        pfacc %mm6, %mm5
 
2782
        movq %mm1, %mm2
 
2783
        pfadd %mm7, %mm0
 
2784
        pfsub %mm7, %mm4
 
2785
        pfadd %mm5, %mm1
 
2786
        pfsub %mm5, %mm2
 
2787
        pswapd %mm0, %mm3
 
2788
        pfmul KP857728610KP514102744, %mm0
 
2789
        movq %mm4, %mm6
 
2790
        pfmul KP242980179KP970031253, %mm4
 
2791
        pfmul KP857728610KP514102744, %mm3
 
2792
        movq %mm1, %mm7
 
2793
        pswapd %mm6, %mm6
 
2794
        pfmul KP146730474KP989176509, %mm1
 
2795
        movq %mm2, %mm5
 
2796
        pfmul KP989176509KP146730474, %mm7
 
2797
        pfmul KP242980179KP970031253, %mm6
 
2798
        movq %mm0, 2400(%esp)
 
2799
        movq %mm4, 2416(%esp)
 
2800
        movq %mm3, 2408(%esp)
 
2801
        movq 1720(%esp), %mm0
 
2802
        movq 1880(%esp), %mm4
 
2803
        pfmul KP803207531KP595699304, %mm2
 
2804
        pfmul KP595699304KP803207531, %mm5
 
2805
        movq %mm0, %mm3
 
2806
        movq %mm6, 2424(%esp)
 
2807
        pfadd %mm4, %mm0
 
2808
        movq 1872(%esp), %mm6
 
2809
        pfsub %mm4, %mm3
 
2810
        movq %mm3, 2432(%esp)
 
2811
        movq 1856(%esp), %mm4
 
2812
        movq %mm6, %mm3
 
2813
        pfacc %mm4, %mm6
 
2814
        pfnacc %mm3, %mm4
 
2815
        movq %mm0, %mm3
 
2816
        pfadd %mm6, %mm0
 
2817
        pfsub %mm6, %mm3
 
2818
        pswapd %mm0, %mm6
 
2819
        pfmul KP989176509KP146730474, %mm0
 
2820
        pfmul KP989176509KP146730474, %mm6
 
2821
        pfpnacc %mm1, %mm0
 
2822
        movq %mm3, %mm1
 
2823
        pfmul KP595699304KP803207531, %mm3
 
2824
        pfpnacc %mm6, %mm7
 
2825
        movq 2432(%esp), %mm6
 
2826
        pswapd %mm1, %mm1
 
2827
        pfmul KP595699304KP803207531, %mm1
 
2828
        pfpnacc %mm2, %mm3
 
2829
        movq %mm6, %mm2
 
2830
        pfsub %mm4, %mm6
 
2831
        pfadd %mm4, %mm2
 
2832
        pfpnacc %mm1, %mm5
 
2833
        movq 2416(%esp), %mm1
 
2834
        movq %mm6, %mm4
 
2835
        pfmul KP970031253KP242980179, %mm6
 
2836
        pfmul KP242980179KP970031253, %mm4
 
2837
        pfpnacc %mm6, %mm1
 
2838
        movq %mm2, %mm6
 
2839
        pfmul KP857728610KP514102744, %mm2
 
2840
        pfmul KP514102744KP857728610, %mm6
 
2841
        pfpnacc 2424(%esp), %mm4
 
2842
        movq %mm1, 2440(%esp)
 
2843
        movq 2400(%esp), %mm1
 
2844
        pfpnacc 2408(%esp), %mm2
 
2845
        pfpnacc %mm6, %mm1
 
2846
        movq %mm4, 2448(%esp)
 
2847
        movq %mm1, 2456(%esp)
 
2848
        movq %mm2, 2464(%esp)
 
2849
        movq 2384(%esp), %mm6
 
2850
        movq 2392(%esp), %mm4
 
2851
        movq 2376(%esp), %mm1
 
2852
        movq %mm4, %mm2
 
2853
        pfacc %mm6, %mm4
 
2854
        pfnacc %mm2, %mm6
 
2855
        movq %mm1, %mm2
 
2856
        pfadd %mm4, %mm1
 
2857
        pfsub %mm4, %mm2
 
2858
        movq %mm0, %mm4
 
2859
        pfacc %mm7, %mm0
 
2860
        pfnacc %mm4, %mm7
 
2861
        movq %mm2, %mm4
 
2862
        pfsub %mm7, %mm2
 
2863
        pfadd %mm7, %mm4
 
2864
        movq %mm1, %mm7
 
2865
        pfsub %mm0, %mm1
 
2866
        pfadd %mm0, %mm7
 
2867
        movq %mm3, %mm0
 
2868
        movq %mm2, (%edi,%ebp)
 
2869
        movq 2352(%esp), %mm2
 
2870
        pfacc %mm5, %mm3
 
2871
        movq %mm4, (%ebx,%ebp)
 
2872
        pfnacc %mm0, %mm5
 
2873
        leal (%esi,%esi,2), %ebp
 
2874
        movq %mm7, (%ebx,%ebp)
 
2875
        movq %mm2, %mm4
 
2876
        pfsub %mm6, %mm2
 
2877
        movq %mm1, (%edi,%ebp)
 
2878
        leal (%esi,%esi), %ebp
 
2879
        movq 2368(%esp), %mm1
 
2880
        pfadd %mm6, %mm4
 
2881
        movq 2360(%esp), %mm6
 
2882
        leal (%esi,%ebp,8), %ebp
 
2883
        movq %mm2, %mm0
 
2884
        pfsub %mm5, %mm2
 
2885
        leal (%ebp,%ebp,2), %ebp
 
2886
        pfadd %mm5, %mm0
 
2887
        movq %mm4, %mm7
 
2888
        movq %mm1, %mm5
 
2889
        pfadd %mm3, %mm4
 
2890
        pfsub %mm3, %mm7
 
2891
        movq 2344(%esp), %mm3
 
2892
        movq %mm2, (%edi,%ebp)
 
2893
        pfacc %mm6, %mm1
 
2894
        pfnacc %mm5, %mm6
 
2895
        movq 2464(%esp), %mm5
 
2896
        movq %mm0, (%ebx,%ebp)
 
2897
        movq 2456(%esp), %mm0
 
2898
        leal (%esi,%esi,8), %ebp
 
2899
        movq %mm3, %mm2
 
2900
        pfadd %mm1, %mm3
 
2901
        leal (%esi,%ebp,2), %ebp
 
2902
        pfsub %mm1, %mm2
 
2903
        movq %mm5, %mm1
 
2904
        pfacc %mm0, %mm5
 
2905
        movq %mm7, (%edi,%ebp)
 
2906
        movq %mm4, (%ebx,%ebp)
 
2907
        pfnacc %mm1, %mm0
 
2908
        leal (%esi,%esi,2), %ebp
 
2909
        movq %mm3, %mm7
 
2910
        movq 2336(%esp), %mm1
 
2911
        movq %mm2, %mm4
 
2912
        leal (%ebp,%esi,8), %ebp
 
2913
        pfadd %mm5, %mm3
 
2914
        pfsub %mm5, %mm7
 
2915
        pfadd %mm0, %mm4
 
2916
        movq %mm1, %mm5
 
2917
        pfsub %mm0, %mm2
 
2918
        movq 2448(%esp), %mm0
 
2919
        movq %mm3, (%ebx,%ebp)
 
2920
        movq 2440(%esp), %mm3
 
2921
        pfadd %mm6, %mm1
 
2922
        movq %mm7, (%edi,%ebp)
 
2923
        leal (%esi,%esi,4), %ebp
 
2924
        pfsub %mm6, %mm5
 
2925
        movq %mm0, %mm7
 
2926
        leal (%esi,%ebp,4), %ebp
 
2927
        pfacc %mm3, %mm0
 
2928
        movq %mm1, %mm6
 
2929
        leal (%esi,%ebp,2), %ebp
 
2930
        pfnacc %mm7, %mm3
 
2931
        movq %mm5, %mm7
 
2932
        movq %mm4, (%ebx,%ebp)
 
2933
        movq 744(%esp), %mm4
 
2934
        movq %mm2, (%edi,%ebp)
 
2935
        pfadd %mm0, %mm6
 
2936
        leal (%esi,%esi,2), %ebp
 
2937
        pfsub %mm0, %mm1
 
2938
        movq 816(%esp), %mm2
 
2939
        leal (%ebp,%ebp,8), %ebp
 
2940
        pfsub %mm3, %mm5
 
2941
        pfadd %mm3, %mm7
 
2942
        movq 680(%esp), %mm3
 
2943
        movq %mm4, %mm0
 
2944
        movq %mm6, (%ebx,%ebp)
 
2945
        movq 832(%esp), %mm6
 
2946
        movq %mm1, (%edi,%ebp)
 
2947
        pfsub %mm2, %mm4
 
2948
        imull $59, %esi, %ebp
 
2949
        pfadd %mm2, %mm0
 
2950
        movq %mm3, %mm1
 
2951
        pfadd %mm6, %mm3
 
2952
        pfsub %mm6, %mm1
 
2953
        pswapd %mm4, %mm6
 
2954
        pswapd %mm0, %mm2
 
2955
        pfmul KP773010453KP634393284, %mm0
 
2956
        pfmul KP098017140KP995184726, %mm6
 
2957
        movq %mm5, (%edi,%ebp)
 
2958
        movq %mm3, %mm5
 
2959
        pfmul KP098017140KP995184726, %mm4
 
2960
        movq %mm7, (%ebx,%ebp)
 
2961
        movq %mm1, %mm7
 
2962
        pfmul KP098017140KP995184726, %mm1
 
2963
        leal (%esi,%esi,2), %ebp
 
2964
        pfmul KP634393284KP773010453, %mm5
 
2965
        pfmul KP773010453KP634393284, %mm2
 
2966
        leal (%esi,%ebp,4), %ebp
 
2967
        pfmul KP773010453KP634393284, %mm3
 
2968
        pfmul KP995184726KP098017140, %mm7
 
2969
        leal (%ebp,%ebp,2), %ebp
 
2970
        pfpnacc %mm6, %mm1
 
2971
        movq 328(%esp), %mm6
 
2972
        pfpnacc %mm5, %mm0
 
2973
        movq 304(%esp), %mm5
 
2974
        pfpnacc %mm2, %mm3
 
2975
        pfpnacc %mm7, %mm4
 
2976
        movq %mm6, %mm2
 
2977
        pfmul KP195090322KP980785280, %mm6
 
2978
        movq %mm5, %mm7
 
2979
        pfmul KP980785280KP195090322, %mm5
 
2980
        movq %mm1, 2496(%esp)
 
2981
        pfmul KP980785280KP195090322, %mm2
 
2982
        movq 2320(%esp), %mm1
 
2983
        pfmul KP195090322KP980785280, %mm7
 
2984
        movq %mm3, 2528(%esp)
 
2985
        movq %mm0, 2520(%esp)
 
2986
        movq %mm4, 2472(%esp)
 
2987
        movq 2328(%esp), %mm3
 
2988
        pfpnacc %mm5, %mm6
 
2989
        movq %mm3, %mm0
 
2990
        pfsub %mm1, %mm3
 
2991
        pfpnacc %mm2, %mm7
 
2992
        movq 1712(%esp), %mm2
 
2993
        pfadd %mm1, %mm0
 
2994
        movq %mm3, %mm5
 
2995
        movq %mm7, %mm4
 
2996
        pfacc %mm6, %mm7
 
2997
        movq %mm0, %mm1
 
2998
        pfnacc %mm4, %mm6
 
2999
        movq 1848(%esp), %mm4
 
3000
        pfadd %mm7, %mm1
 
3001
        pfsub %mm7, %mm0
 
3002
        movq %mm2, %mm7
 
3003
        pfadd %mm6, %mm5
 
3004
        pfsub %mm6, %mm3
 
3005
        movq %mm1, 2512(%esp)
 
3006
        movq 1840(%esp), %mm6
 
3007
        movq 1832(%esp), %mm1
 
3008
        pfadd %mm4, %mm2
 
3009
        movq %mm0, 2504(%esp)
 
3010
        pfsub %mm4, %mm7
 
3011
        movq %mm5, 2488(%esp)
 
3012
        movq %mm6, %mm0
 
3013
        movq %mm3, 2480(%esp)
 
3014
        pfacc %mm1, %mm6
 
3015
        movq %mm2, %mm4
 
3016
        pfnacc %mm0, %mm1
 
3017
        movq %mm7, %mm5
 
3018
        pfsub %mm6, %mm2
 
3019
        pfsub %mm1, %mm7
 
3020
        pfadd %mm6, %mm4
 
3021
        pfadd %mm1, %mm5
 
3022
        pswapd %mm2, %mm3
 
3023
        pfmul KP427555093KP903989293, %mm2
 
3024
        movq %mm7, %mm0
 
3025
        pfmul KP049067674KP998795456, %mm7
 
3026
        pfmul KP427555093KP903989293, %mm3
 
3027
        movq %mm4, %mm6
 
3028
        pfmul KP998795456KP049067674, %mm0
 
3029
        movq %mm5, %mm1
 
3030
        pfmul KP941544065KP336889853, %mm4
 
3031
        pswapd %mm6, %mm6
 
3032
        pfmul KP671558954KP740951125, %mm5
 
3033
        movq %mm2, 2536(%esp)
 
3034
        movq %mm7, 2552(%esp)
 
3035
        movq %mm3, 2544(%esp)
 
3036
        movq %mm0, 2560(%esp)
 
3037
        movq %mm4, 2568(%esp)
 
3038
        movq 1232(%esp), %mm2
 
3039
        movq 1344(%esp), %mm7
 
3040
        movq 1200(%esp), %mm3
 
3041
        movq 1208(%esp), %mm0
 
3042
        movq %mm2, %mm4
 
3043
        pfmul KP740951125KP671558954, %mm1
 
3044
        pfsub %mm7, %mm2
 
3045
        pfmul KP941544065KP336889853, %mm6
 
3046
        pfadd %mm7, %mm4
 
3047
        movq %mm0, %mm7
 
3048
        pfnacc %mm3, %mm0
 
3049
        pfacc %mm7, %mm3
 
3050
        movq %mm2, %mm7
 
3051
        pfadd %mm0, %mm2
 
3052
        pfsub %mm0, %mm7
 
3053
        movq %mm2, %mm0
 
3054
        pfmul KP740951125KP671558954, %mm2
 
3055
        pswapd %mm0, %mm0
 
3056
        pfmul KP740951125KP671558954, %mm0
 
3057
        pfpnacc %mm5, %mm2
 
3058
        movq %mm4, %mm5
 
3059
        pfsub %mm3, %mm4
 
3060
        pfadd %mm3, %mm5
 
3061
        movq %mm7, %mm3
 
3062
        pswapd %mm7, %mm7
 
3063
        pfmul KP049067674KP998795456, %mm3
 
3064
        movq %mm2, 2592(%esp)
 
3065
        pfpnacc %mm0, %mm1
 
3066
        pfmul KP049067674KP998795456, %mm7
 
3067
        movq 2552(%esp), %mm2
 
3068
        movq %mm5, %mm0
 
3069
        pfmul KP336889853KP941544065, %mm5
 
3070
        pfmul KP941544065KP336889853, %mm0
 
3071
        movq %mm1, 2600(%esp)
 
3072
        movq %mm4, %mm1
 
3073
        pfmul KP903989293KP427555093, %mm4
 
3074
        pfpnacc 2560(%esp), %mm3
 
3075
        pfmul KP427555093KP903989293, %mm1
 
3076
        pfpnacc %mm7, %mm2
 
3077
        movq 2568(%esp), %mm7
 
3078
        pfpnacc %mm6, %mm0
 
3079
        movq 2528(%esp), %mm6
 
3080
        pfpnacc %mm5, %mm7
 
3081
        movq %mm2, 2584(%esp)
 
3082
        movq %mm3, 2576(%esp)
 
3083
        movq 2536(%esp), %mm5
 
3084
        movq 2520(%esp), %mm3
 
3085
        pfpnacc 2544(%esp), %mm1
 
3086
        movq %mm6, %mm2
 
3087
        pfpnacc %mm4, %mm5
 
3088
        movq 2512(%esp), %mm4
 
3089
        pfacc %mm3, %mm6
 
3090
        pfnacc %mm2, %mm3
 
3091
        movq %mm4, %mm2
 
3092
        pfadd %mm6, %mm4
 
3093
        pfsub %mm6, %mm2
 
3094
        movq %mm7, %mm6
 
3095
        pfacc %mm0, %mm7
 
3096
        pfnacc %mm6, %mm0
 
3097
        movq %mm2, %mm6
 
3098
        pfadd %mm0, %mm2
 
3099
        pfsub %mm0, %mm6
 
3100
        movq %mm4, %mm0
 
3101
        pfsub %mm7, %mm4
 
3102
        pfadd %mm7, %mm0
 
3103
        movq %mm1, %mm7
 
3104
        movq %mm2, (%ebx,%ebp)
 
3105
        movq 2504(%esp), %mm2
 
3106
        pfnacc %mm5, %mm1
 
3107
        movq %mm6, (%edi,%ebp)
 
3108
        leal (%esi,%esi,2), %ebp
 
3109
        pfacc %mm7, %mm5
 
3110
        leal (%esi,%ebp,2), %ebp
 
3111
        movq %mm2, %mm6
 
3112
        pfsub %mm3, %mm2
 
3113
        movq %mm0, (%ebx,%ebp)
 
3114
        pfadd %mm3, %mm6
 
3115
        movq 2496(%esp), %mm3
 
3116
        movq %mm4, (%edi,%ebp)
 
3117
        movq 2472(%esp), %mm4
 
3118
        leal (%esi,%esi,2), %ebp
 
3119
        movq %mm2, %mm7
 
3120
        pfsub %mm1, %mm2
 
3121
        leal (%ebp,%ebp,8), %ebp
 
3122
        movq %mm6, %mm0
 
3123
        pfadd %mm1, %mm7
 
3124
        movq %mm3, %mm1
 
3125
        pfadd %mm5, %mm6
 
3126
        leal (%esi,%ebp,2), %ebp
 
3127
        pfsub %mm5, %mm0
 
3128
        movq 2488(%esp), %mm5
 
3129
        pfacc %mm4, %mm3
 
3130
        movq %mm2, (%edi,%ebp)
 
3131
        pfnacc %mm1, %mm4
 
3132
        movq 2592(%esp), %mm1
 
3133
        movq %mm7, (%ebx,%ebp)
 
3134
        movq 2600(%esp), %mm7
 
3135
        leal (%esi,%esi,2), %ebp
 
3136
        movq %mm5, %mm2
 
3137
        pfadd %mm3, %mm5
 
3138
        leal (%ebp,%ebp,4), %ebp
 
3139
        pfsub %mm3, %mm2
 
3140
        movq %mm1, %mm3
 
3141
        pfnacc %mm7, %mm1
 
3142
        leal (%ebp,%esi,8), %ebp
 
3143
        pfacc %mm3, %mm7
 
3144
        movq %mm0, (%edi,%ebp)
 
3145
        movq %mm5, %mm0
 
3146
        movq %mm6, (%ebx,%ebp)
 
3147
        leal (%esi,%esi,2), %ebp
 
3148
        movq %mm2, %mm3
 
3149
        movq 2480(%esp), %mm6
 
3150
        pfsub %mm1, %mm2
 
3151
        pfadd %mm7, %mm5
 
3152
        leal (%ebp,%ebp,4), %ebp
 
3153
        pfsub %mm7, %mm0
 
3154
        pfadd %mm1, %mm3
 
3155
        movq 2584(%esp), %mm1
 
3156
        movq %mm6, %mm7
 
3157
        pfadd %mm4, %mm6
 
3158
        movq %mm5, (%ebx,%ebp)
 
3159
        movq 2576(%esp), %mm5
 
3160
        movq %mm0, (%edi,%ebp)
 
3161
        leal (%esi,%esi,4), %ebp
 
3162
        pfsub %mm4, %mm7
 
3163
        movq %mm1, %mm4
 
3164
        leal (%ebp,%ebp,8), %ebp
 
3165
        movq %mm6, %mm0
 
3166
        pfacc %mm5, %mm1
 
3167
        leal (%ebp,%esi,2), %ebp
 
3168
        pfnacc %mm4, %mm5
 
3169
        movq %mm7, %mm4
 
3170
        movq %mm2, (%edi,%ebp)
 
3171
        movq 320(%esp), %mm2
 
3172
        pfadd %mm1, %mm0
 
3173
        movq %mm3, (%ebx,%ebp)
 
3174
        leal (%esi,%esi,2), %ebp
 
3175
        pfsub %mm1, %mm6
 
3176
        movq 296(%esp), %mm1
 
3177
        pfadd %mm5, %mm4
 
3178
        leal (%ebp,%ebp,4), %ebp
 
3179
        pfsub %mm5, %mm7
 
3180
        movq %mm2, %mm3
 
3181
        pfmul KP195090322KP980785280, %mm2
 
3182
        leal (%esi,%ebp,2), %ebp
 
3183
        movq %mm1, %mm5
 
3184
        pfmul KP980785280KP195090322, %mm3
 
3185
        pfmul KP980785280KP195090322, %mm1
 
3186
        pfmul KP195090322KP980785280, %mm5
 
3187
        movq %mm0, (%ebx,%ebp)
 
3188
        movq %mm6, (%edi,%ebp)
 
3189
        leal (%esi,%esi,2), %ebp
 
3190
        movq 2192(%esp), %mm0
 
3191
        movq 2176(%esp), %mm6
 
3192
        leal (%esi,%ebp,2), %ebp
 
3193
        leal (%ebp,%ebp,8), %ebp
 
3194
        pfpnacc %mm2, %mm1
 
3195
        movq %mm0, %mm2
 
3196
        pfpnacc %mm5, %mm3
 
3197
        movq %mm4, (%ebx,%ebp)
 
3198
        pfsub %mm6, %mm0
 
3199
        movq %mm7, (%edi,%ebp)
 
3200
        leal (%esi,%esi,4), %ebp
 
3201
        pfadd %mm6, %mm2
 
3202
        movq 736(%esp), %mm6
 
3203
        leal (%esi,%ebp,8), %ebp
 
3204
        movq %mm3, %mm5
 
3205
        pfnacc %mm1, %mm3
 
3206
        movq %mm0, %mm4
 
3207
        pfacc %mm5, %mm1
 
3208
        movq %mm2, %mm7
 
3209
        movq 848(%esp), %mm5
 
3210
        pfadd %mm3, %mm0
 
3211
        pfsub %mm3, %mm4
 
3212
        movq %mm6, %mm3
 
3213
        pfsub %mm1, %mm7
 
3214
        pfadd %mm1, %mm2
 
3215
        movq %mm0, 2648(%esp)
 
3216
        movq 672(%esp), %mm1
 
3217
        movq 864(%esp), %mm0
 
3218
        pfsub %mm5, %mm6
 
3219
        pfadd %mm5, %mm3
 
3220
        movq %mm4, 2624(%esp)
 
3221
        movq %mm7, 2608(%esp)
 
3222
        movq %mm1, %mm5
 
3223
        movq %mm2, 2616(%esp)
 
3224
        pfsub %mm0, %mm1
 
3225
        movq %mm6, %mm4
 
3226
        pfmul KP773010453KP634393284, %mm6
 
3227
        pfadd %mm0, %mm5
 
3228
        movq %mm3, %mm7
 
3229
        pfmul KP995184726KP098017140, %mm3
 
3230
        pfmul KP634393284KP773010453, %mm4
 
3231
        pfmul KP098017140KP995184726, %mm7
 
3232
        movq %mm1, %mm2
 
3233
        pfmul KP634393284KP773010453, %mm1
 
3234
        movq %mm5, %mm0
 
3235
        pfmul KP995184726KP098017140, %mm5
 
3236
        pfmul KP773010453KP634393284, %mm2
 
3237
        pfmul KP098017140KP995184726, %mm0
 
3238
        pfpnacc %mm6, %mm1
 
3239
        movq 1224(%esp), %mm6
 
3240
        pfpnacc %mm7, %mm5
 
3241
        movq 1360(%esp), %mm7
 
3242
        pfpnacc %mm2, %mm4
 
3243
        pfpnacc %mm0, %mm3
 
3244
        movq %mm1, 2664(%esp)
 
3245
        movq 1256(%esp), %mm0
 
3246
        movq 1248(%esp), %mm1
 
3247
        movq %mm6, %mm2
 
3248
        movq %mm5, 2640(%esp)
 
3249
        pfadd %mm7, %mm6
 
3250
        movq %mm4, 2656(%esp)
 
3251
        pfsub %mm7, %mm2
 
3252
        movq %mm0, %mm5
 
3253
        movq %mm3, 2632(%esp)
 
3254
        pfacc %mm1, %mm0
 
3255
        movq %mm6, %mm4
 
3256
        pfnacc %mm5, %mm1
 
3257
        movq %mm2, %mm7
 
3258
        pfadd %mm0, %mm6
 
3259
        pfsub %mm0, %mm4
 
3260
        pfadd %mm1, %mm2
 
3261
        pfsub %mm1, %mm7
 
3262
        pswapd %mm6, %mm3
 
3263
        pfmul KP998795456KP049067674, %mm6
 
3264
        movq %mm4, %mm5
 
3265
        pfmul KP671558954KP740951125, %mm4
 
3266
        pfmul KP998795456KP049067674, %mm3
 
3267
        movq %mm2, %mm0
 
3268
        pswapd %mm5, %mm5
 
3269
        pfmul KP427555093KP903989293, %mm2
 
3270
        movq %mm7, %mm1
 
3271
        pfmul KP903989293KP427555093, %mm0
 
3272
        pfmul KP671558954KP740951125, %mm5
 
3273
        movq %mm6, 2672(%esp)
 
3274
        movq %mm4, 2688(%esp)
 
3275
        movq %mm3, 2680(%esp)
 
3276
        movq 1704(%esp), %mm6
 
3277
        movq 1864(%esp), %mm4
 
3278
        pfmul KP941544065KP336889853, %mm7
 
3279
        pfmul KP336889853KP941544065, %mm1
 
3280
        movq %mm6, %mm3
 
3281
        movq %mm5, 2696(%esp)
 
3282
        pfsub %mm4, %mm6
 
3283
        movq 1768(%esp), %mm5
 
3284
        pfadd %mm4, %mm3
 
3285
        movq %mm3, 2704(%esp)
 
3286
        movq 1760(%esp), %mm4
 
3287
        movq %mm5, %mm3
 
3288
        pfnacc %mm4, %mm5
 
3289
        pfacc %mm3, %mm4
 
3290
        movq %mm6, %mm3
 
3291
        pfadd %mm5, %mm6
 
3292
        pfsub %mm5, %mm3
 
3293
        pswapd %mm6, %mm5
 
3294
        pfmul KP903989293KP427555093, %mm6
 
3295
        pfmul KP903989293KP427555093, %mm5
 
3296
        pfpnacc %mm2, %mm6
 
3297
        movq %mm3, %mm2
 
3298
        pfmul KP336889853KP941544065, %mm3
 
3299
        pfpnacc %mm5, %mm0
 
3300
        movq 2704(%esp), %mm5
 
3301
        pswapd %mm2, %mm2
 
3302
        pfmul KP336889853KP941544065, %mm2
 
3303
        pfpnacc %mm7, %mm3
 
3304
        movq %mm5, %mm7
 
3305
        pfsub %mm4, %mm5
 
3306
        pfadd %mm4, %mm7
 
3307
        pfpnacc %mm2, %mm1
 
3308
        movq 2688(%esp), %mm2
 
3309
        movq %mm5, %mm4
 
3310
        pfmul KP740951125KP671558954, %mm5
 
3311
        pfmul KP671558954KP740951125, %mm4
 
3312
        pfpnacc %mm5, %mm2
 
3313
        movq %mm7, %mm5
 
3314
        pfmul KP998795456KP049067674, %mm7
 
3315
        pfmul KP049067674KP998795456, %mm5
 
3316
        pfpnacc 2696(%esp), %mm4
 
3317
        movq %mm2, 2712(%esp)
 
3318
        movq 2672(%esp), %mm2
 
3319
        pfpnacc 2680(%esp), %mm7
 
3320
        pfpnacc %mm5, %mm2
 
3321
        movq %mm4, 2720(%esp)
 
3322
        movq %mm2, 2728(%esp)
 
3323
        movq %mm7, 2736(%esp)
 
3324
        movq 2656(%esp), %mm5
 
3325
        movq 2664(%esp), %mm4
 
3326
        movq 2648(%esp), %mm2
 
3327
        movq %mm4, %mm7
 
3328
        pfacc %mm5, %mm4
 
3329
        pfnacc %mm7, %mm5
 
3330
        movq %mm2, %mm7
 
3331
        pfadd %mm4, %mm2
 
3332
        pfsub %mm4, %mm7
 
3333
        movq %mm6, %mm4
 
3334
        pfacc %mm0, %mm6
 
3335
        pfnacc %mm4, %mm0
 
3336
        movq %mm7, %mm4
 
3337
        pfsub %mm0, %mm7
 
3338
        pfadd %mm0, %mm4
 
3339
        movq %mm2, %mm0
 
3340
        pfsub %mm6, %mm2
 
3341
        pfadd %mm6, %mm0
 
3342
        movq %mm3, %mm6
 
3343
        movq %mm7, (%edi,%ebp)
 
3344
        movq 2624(%esp), %mm7
 
3345
        pfacc %mm1, %mm3
 
3346
        movq %mm4, (%ebx,%ebp)
 
3347
        pfnacc %mm6, %mm1
 
3348
        leal (%esi,%esi,8), %ebp
 
3349
        movq %mm0, (%ebx,%ebp)
 
3350
        movq %mm7, %mm4
 
3351
        pfsub %mm5, %mm7
 
3352
        movq %mm2, (%edi,%ebp)
 
3353
        leal (%esi,%esi,2), %ebp
 
3354
        movq 2640(%esp), %mm2
 
3355
        pfadd %mm5, %mm4
 
3356
        movq 2632(%esp), %mm5
 
3357
        leal (%esi,%ebp,2), %ebp
 
3358
        movq %mm7, %mm6
 
3359
        pfsub %mm1, %mm7
 
3360
        leal (%esi,%ebp,8), %ebp
 
3361
        pfadd %mm1, %mm6
 
3362
        movq %mm4, %mm0
 
3363
        movq %mm2, %mm1
 
3364
        pfadd %mm3, %mm4
 
3365
        pfsub %mm3, %mm0
 
3366
        movq 2616(%esp), %mm3
 
3367
        movq %mm7, (%edi,%ebp)
 
3368
        pfacc %mm5, %mm2
 
3369
        pfnacc %mm1, %mm5
 
3370
        movq 2736(%esp), %mm1
 
3371
        movq %mm6, (%ebx,%ebp)
 
3372
        movq 2728(%esp), %mm6
 
3373
        leal (%esi,%esi,2), %ebp
 
3374
        movq %mm3, %mm7
 
3375
        pfadd %mm2, %mm3
 
3376
        leal (%esi,%ebp,8), %ebp
 
3377
        pfsub %mm2, %mm7
 
3378
        movq %mm1, %mm2
 
3379
        pfacc %mm6, %mm1
 
3380
        movq %mm0, (%edi,%ebp)
 
3381
        pfnacc %mm2, %mm6
 
3382
        movq 2608(%esp), %mm2
 
3383
        movq %mm4, (%ebx,%ebp)
 
3384
        movq %mm3, %mm0
 
3385
        leal (,%esi,4), %ebp
 
3386
        movq %mm7, %mm4
 
3387
        pfadd %mm1, %mm3
 
3388
        leal (%esi,%ebp,8), %ebp
 
3389
        pfsub %mm1, %mm0
 
3390
        movq %mm2, %mm1
 
3391
        pfadd %mm6, %mm4
 
3392
        pfsub %mm6, %mm7
 
3393
        movq 2720(%esp), %mm6
 
3394
        movq %mm3, (%ebx,%esi)
 
3395
        movq 2712(%esp), %mm3
 
3396
        pfadd %mm5, %mm2
 
3397
        movq %mm0, (%edi,%esi)
 
3398
        pfsub %mm5, %mm1
 
3399
        movq %mm4, (%ebx,%ebp)
 
3400
        movq %mm6, %mm0
 
3401
        movq %mm7, (%edi,%ebp)
 
3402
        leal (%esi,%esi), %ebp
 
3403
        pfacc %mm3, %mm6
 
3404
        movq %mm2, %mm5
 
3405
        pfnacc %mm0, %mm3
 
3406
        leal (%esi,%ebp,8), %ebp
 
3407
        movq %mm1, %mm4
 
3408
        pfadd %mm6, %mm5
 
3409
        pfsub %mm6, %mm2
 
3410
        pfadd %mm3, %mm4
 
3411
        pfsub %mm3, %mm1
 
3412
        movq %mm5, (%ebx,%ebp)
 
3413
        movq %mm2, (%edi,%ebp)
 
3414
        leal (%esi,%esi), %ebp
 
3415
        leal (%ebp,%ebp,2), %ebp
 
3416
        leal (%esi,%ebp,8), %ebp
 
3417
        movq %mm4, (%ebx,%ebp)
 
3418
        addl 2800(%esp), %ebx
 
3419
        movq %mm1, (%edi,%ebp)
 
3420
        addl 2800(%esp), %edi
 
3421
        decl 2792(%esp)
 
3422
        jnz .L0
 
3423
        femms 
 
3424
        movl 2760(%esp), %ebx
 
3425
        movl 2756(%esp), %esi
 
3426
        movl 2752(%esp), %edi
 
3427
        movl 2748(%esp), %ebp
 
3428
        addl $2764, %esp
 
3429
        ret 
 
3430
 
 
3431
.section .rodata
 
3432
nam:
 
3433
        .string "n1k7i_128"
 
3434
        .align 4
 
3435
desc:
 
3436
        .long 128
 
3437
        .long nam
 
3438
        .double 1082
 
3439
        .double 330
 
3440
        .double 0
 
3441
        .double 0
 
3442
        .long fftwf_kdft_k7_pgenus
 
3443
        .long 0
 
3444
        .long 0
 
3445
        .long 0
 
3446
        .long 0
 
3447
 
 
3448
.text
 
3449
        .align 4
 
3450
.globl fftwf_codelet_n1k7i_128
 
3451
fftwf_codelet_n1k7i_128:
 
3452
        subl $12,%esp
 
3453
        addl $-4,%esp
 
3454
        pushl $desc
 
3455
        pushl $n1k7i_128
 
3456
        pushl 28(%esp)
 
3457
        call fftwf_kdft_register
 
3458
        addl $16,%esp
 
3459
        addl $12,%esp
 
3460
        ret
 
3461