~ubuntu-branches/ubuntu/intrepid/gstreamer0.10-ffmpeg/intrepid

« back to all changes in this revision

Viewing changes to gst-libs/ext/ffmpeg/libavcodec/mpegaudiodec.c

  • Committer: Bazaar Package Importer
  • Author(s): Sebastian Dröge
  • Date: 2006-04-01 16:13:43 UTC
  • mto: (1.2.2 lenny)
  • mto: This revision was merged to the branch mainline in revision 5.
  • Revision ID: james.westby@ubuntu.com-20060401161343-n621cgjlujio0otg
Tags: upstream-0.10.1
Import upstream version 0.10.1

Show diffs side-by-side

added added

removed removed

Lines of Context:
14
14
 *
15
15
 * You should have received a copy of the GNU Lesser General Public
16
16
 * License along with this library; if not, write to the Free Software
17
 
 * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
 
17
 * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
18
18
 */
19
19
 
20
20
/**
21
21
 * @file mpegaudiodec.c
22
22
 * MPEG Audio decoder.
23
 
 */ 
 
23
 */
24
24
 
25
25
//#define DEBUG
26
26
#include "avcodec.h"
64
64
struct GranuleDef;
65
65
 
66
66
typedef struct MPADecodeContext {
67
 
    uint8_t inbuf1[2][MPA_MAX_CODED_FRAME_SIZE + BACKSTEP_SIZE];        /* input buffer */
 
67
    uint8_t inbuf1[2][MPA_MAX_CODED_FRAME_SIZE + BACKSTEP_SIZE];        /* input buffer */
68
68
    int inbuf_index;
69
69
    uint8_t *inbuf_ptr, *inbuf;
70
70
    int frame_size;
71
71
    int free_format_frame_size; /* frame size in case of free format
72
72
                                   (zero if currently unknown) */
73
73
    /* next header (used in free format parsing) */
74
 
    uint32_t free_format_next_header; 
 
74
    uint32_t free_format_next_header;
75
75
    int error_protection;
76
76
    int layer;
77
77
    int sample_rate;
140
140
static void compute_antialias_float(MPADecodeContext *s, GranuleDef *g);
141
141
 
142
142
/* vlc structure for decoding layer 3 huffman tables */
143
 
static VLC huff_vlc[16]; 
 
143
static VLC huff_vlc[16];
144
144
static uint8_t *huff_code_table[16];
145
145
static VLC huff_quad_vlc[2];
146
146
/* computed from band_size_long */
173
173
 
174
174
void ff_mpa_synth_init(MPA_INT *window);
175
175
static MPA_INT window[512] __attribute__((aligned(16)));
176
 
    
 
176
 
177
177
/* layer 1 unscaling */
178
178
/* n = number of bits of the mantissa minus 1 */
179
179
static inline int l1_unscale(int n, int mant, int scale_factor)
257
257
{
258
258
    int e, er, eq, j;
259
259
    int a, a1;
260
 
    
 
260
 
261
261
    /* renormalize */
262
262
    a = i;
263
263
    e = POW_FRAC_BITS;
308
308
    avctx->sample_fmt= SAMPLE_FMT_S32;
309
309
#else
310
310
    avctx->sample_fmt= SAMPLE_FMT_S16;
311
 
#endif    
312
 
    
 
311
#endif
 
312
 
313
313
    if(avctx->antialias_algo != FF_AA_FLOAT)
314
314
        s->compute_antialias= compute_antialias_integer;
315
315
    else
334
334
            scale_factor_mult[i][1] = MULL(FIXR(0.7937005259 * 2.0), norm);
335
335
            scale_factor_mult[i][2] = MULL(FIXR(0.6299605249 * 2.0), norm);
336
336
            dprintf("%d: norm=%x s=%x %x %x\n",
337
 
                    i, norm, 
 
337
                    i, norm,
338
338
                    scale_factor_mult[i][0],
339
339
                    scale_factor_mult[i][1],
340
340
                    scale_factor_mult[i][2]);
341
341
        }
342
 
        
343
 
        ff_mpa_synth_init(window);
344
 
        
 
342
 
 
343
        ff_mpa_synth_init(window);
 
344
 
345
345
        /* huffman decode tables */
346
346
        huff_code_table[0] = NULL;
347
347
        for(i=1;i<16;i++) {
348
348
            const HuffTable *h = &mpa_huff_tables[i];
349
 
            int xsize, x, y;
 
349
            int xsize, x, y;
350
350
            unsigned int n;
351
351
            uint8_t *code_table;
352
352
 
353
353
            xsize = h->xsize;
354
354
            n = xsize * xsize;
355
355
            /* XXX: fail test */
356
 
            init_vlc(&huff_vlc[i], 8, n, 
 
356
            init_vlc(&huff_vlc[i], 8, n,
357
357
                     h->bits, 1, 1, h->codes, 2, 2, 1);
358
 
            
 
358
 
359
359
            code_table = av_mallocz(n);
360
360
            j = 0;
361
361
            for(x=0;x<xsize;x++) {
365
365
            huff_code_table[i] = code_table;
366
366
        }
367
367
        for(i=0;i<2;i++) {
368
 
            init_vlc(&huff_quad_vlc[i], i == 0 ? 7 : 4, 16, 
 
368
            init_vlc(&huff_quad_vlc[i], i == 0 ? 7 : 4, 16,
369
369
                     mpa_quad_bits[i], 1, 1, mpa_quad_codes[i], 1, 1, 1);
370
370
        }
371
371
 
378
378
            band_index_long[i][22] = k;
379
379
        }
380
380
 
381
 
        /* compute n ^ (4/3) and store it in mantissa/exp format */
382
 
        table_4_3_exp= av_mallocz_static(TABLE_4_3_SIZE * sizeof(table_4_3_exp[0]));
 
381
        /* compute n ^ (4/3) and store it in mantissa/exp format */
 
382
        table_4_3_exp= av_mallocz_static(TABLE_4_3_SIZE * sizeof(table_4_3_exp[0]));
383
383
        if(!table_4_3_exp)
384
 
            return -1;
385
 
        table_4_3_value= av_mallocz_static(TABLE_4_3_SIZE * sizeof(table_4_3_value[0]));
 
384
            return -1;
 
385
        table_4_3_value= av_mallocz_static(TABLE_4_3_SIZE * sizeof(table_4_3_value[0]));
386
386
        if(!table_4_3_value)
387
387
            return -1;
388
 
        
 
388
 
389
389
        int_pow_init();
390
390
        for(i=1;i<TABLE_4_3_SIZE;i++) {
391
391
            double f, fm;
400
400
//            av_log(NULL, AV_LOG_DEBUG, "%d %d %f\n", i, m, pow((double)i, 4.0 / 3.0));
401
401
            table_4_3_exp[i] = -e;
402
402
        }
403
 
        
 
403
 
404
404
        for(i=0;i<7;i++) {
405
405
            float f;
406
406
            int v;
427
427
                k = i & 1;
428
428
                is_table_lsf[j][k ^ 1][i] = FIXR(f);
429
429
                is_table_lsf[j][k][i] = FIXR(1.0);
430
 
                dprintf("is_table_lsf %d %d: %x %x\n", 
 
430
                dprintf("is_table_lsf %d %d: %x %x\n",
431
431
                        i, j, is_table_lsf[j][0][i], is_table_lsf[j][1][i]);
432
432
            }
433
433
        }
440
440
            csa_table[i][0] = FIXHR(cs/4);
441
441
            csa_table[i][1] = FIXHR(ca/4);
442
442
            csa_table[i][2] = FIXHR(ca/4) + FIXHR(cs/4);
443
 
            csa_table[i][3] = FIXHR(ca/4) - FIXHR(cs/4); 
 
443
            csa_table[i][3] = FIXHR(ca/4) - FIXHR(cs/4);
444
444
            csa_table_float[i][0] = cs;
445
445
            csa_table_float[i][1] = ca;
446
446
            csa_table_float[i][2] = ca + cs;
447
 
            csa_table_float[i][3] = ca - cs; 
 
447
            csa_table_float[i][3] = ca - cs;
448
448
//            printf("%d %d %d %d\n", FIX(cs), FIX(cs-1), FIX(ca), FIX(cs)-FIX(ca));
449
449
//            av_log(NULL, AV_LOG_DEBUG,"%f %f %f %f\n", cs, ca, ca+cs, ca-cs);
450
450
        }
453
453
        for(i=0;i<36;i++) {
454
454
            for(j=0; j<4; j++){
455
455
                double d;
456
 
                
 
456
 
457
457
                if(j==2 && i%3 != 1)
458
458
                    continue;
459
 
                
 
459
 
460
460
                d= sin(M_PI * (i + 0.5) / 36.0);
461
461
                if(j==1){
462
462
                    if     (i>=30) d= 0;
609
609
    BF(5, 10, COS1_5);
610
610
    BF(6,  9, COS1_6);
611
611
    BF(7,  8, COS1_7);
612
 
    
 
612
 
613
613
    BF(16, 31, -COS1_0);
614
614
    BF(17, 30, -COS1_1);
615
615
    BF(18, 29, -COS1_2);
618
618
    BF(21, 26, -COS1_5);
619
619
    BF(22, 25, -COS1_6);
620
620
    BF(23, 24, -COS1_7);
621
 
    
 
621
 
622
622
    /* pass 3 */
623
623
    BF(0, 7, COS2_0);
624
624
    BF(1, 6, COS2_1);
625
625
    BF(2, 5, COS2_2);
626
626
    BF(3, 4, COS2_3);
627
 
    
 
627
 
628
628
    BF(8, 15, -COS2_0);
629
629
    BF(9, 14, -COS2_1);
630
630
    BF(10, 13, -COS2_2);
631
631
    BF(11, 12, -COS2_3);
632
 
    
 
632
 
633
633
    BF(16, 23, COS2_0);
634
634
    BF(17, 22, COS2_1);
635
635
    BF(18, 21, COS2_2);
636
636
    BF(19, 20, COS2_3);
637
 
    
 
637
 
638
638
    BF(24, 31, -COS2_0);
639
639
    BF(25, 30, -COS2_1);
640
640
    BF(26, 29, -COS2_2);
643
643
    /* pass 4 */
644
644
    BF(0, 3, COS3_0);
645
645
    BF(1, 2, COS3_1);
646
 
    
 
646
 
647
647
    BF(4, 7, -COS3_0);
648
648
    BF(5, 6, -COS3_1);
649
 
    
 
649
 
650
650
    BF(8, 11, COS3_0);
651
651
    BF(9, 10, COS3_1);
652
 
    
 
652
 
653
653
    BF(12, 15, -COS3_0);
654
654
    BF(13, 14, -COS3_1);
655
 
    
 
655
 
656
656
    BF(16, 19, COS3_0);
657
657
    BF(17, 18, COS3_1);
658
 
    
 
658
 
659
659
    BF(20, 23, -COS3_0);
660
660
    BF(21, 22, -COS3_1);
661
 
    
 
661
 
662
662
    BF(24, 27, COS3_0);
663
663
    BF(25, 26, COS3_1);
664
 
    
 
664
 
665
665
    BF(28, 31, -COS3_0);
666
666
    BF(29, 30, -COS3_1);
667
 
    
 
667
 
668
668
    /* pass 5 */
669
669
    BF1(0, 1, 2, 3);
670
670
    BF2(4, 5, 6, 7);
674
674
    BF2(20, 21, 22, 23);
675
675
    BF1(24, 25, 26, 27);
676
676
    BF2(28, 29, 30, 31);
677
 
    
 
677
 
678
678
    /* pass 6 */
679
 
    
 
679
 
680
680
    ADD( 8, 12);
681
681
    ADD(12, 10);
682
682
    ADD(10, 14);
701
701
    out[22] = tab[13];
702
702
    out[14] = tab[14];
703
703
    out[30] = tab[15];
704
 
    
 
704
 
705
705
    ADD(24, 28);
706
706
    ADD(28, 26);
707
707
    ADD(26, 30);
764
764
 
765
765
#else
766
766
 
767
 
static inline int round_sample(int64_t *sum) 
 
767
static inline int round_sample(int64_t *sum)
768
768
{
769
769
    int sum1;
770
770
    sum1 = (int)((*sum) >> OUT_SHIFT);
837
837
            v = -v;
838
838
        if (i != 0)
839
839
            window[512 - i] = v;
840
 
    }   
 
840
    }
841
841
}
842
842
 
843
843
/* 32 sub band synthesis filter. Input: 32 sub band samples, Output:
844
844
   32 samples. */
845
845
/* XXX: optimize by avoiding ring buffer usage */
846
846
void ff_mpa_synth_filter(MPA_INT *synth_buf_ptr, int *synth_buf_offset,
847
 
                         MPA_INT *window, int *dither_state,
848
 
                         OUT_INT *samples, int incr, 
 
847
                         MPA_INT *window, int *dither_state,
 
848
                         OUT_INT *samples, int incr,
849
849
                         int32_t sb_samples[SBLIMIT])
850
850
{
851
851
    int32_t tmp[32];
860
860
#endif
861
861
 
862
862
    dct32(tmp, sb_samples);
863
 
    
 
863
 
864
864
    offset = *synth_buf_offset;
865
865
    synth_buf = synth_buf_ptr + offset;
866
866
 
909
909
        w++;
910
910
        w2--;
911
911
    }
912
 
    
 
912
 
913
913
    p = synth_buf + 32;
914
914
    SUM8(sum, -=, w + 32, p);
915
915
    *samples = round_sample(&sum);
951
951
 
952
952
    in2= MULH(2*in2, C3);
953
953
    in3= MULH(2*in3, C3);
954
 
    
 
954
 
955
955
    t1 = in0 - in4;
956
956
    t2 = MULL(in1 - in5, icos36[4]);
957
957
 
958
 
    out[ 7]= 
 
958
    out[ 7]=
959
959
    out[10]= t1 + t2;
960
960
    out[ 1]=
961
961
    out[ 4]= t1 - t2;
963
963
    in0 += in4>>1;
964
964
    in4 = in0 + in2;
965
965
    in1 += in5>>1;
966
 
    in5 = MULL(in1 + in3, icos36[1]);    
967
 
    out[ 8]= 
 
966
    in5 = MULL(in1 + in3, icos36[1]);
 
967
    out[ 8]=
968
968
    out[ 9]= in4 + in5;
969
969
    out[ 2]=
970
970
    out[ 3]= in4 - in5;
971
 
    
 
971
 
972
972
    in0 -= in2;
973
973
    in1 = MULL(in1 - in3, icos36[7]);
974
974
    out[ 0]=
975
975
    out[ 5]= in0 - in1;
976
976
    out[ 6]=
977
 
    out[11]= in0 + in1;    
 
977
    out[11]= in0 + in1;
978
978
}
979
979
 
980
980
/* cos(pi*i/18) */
1006
1006
//more accurate but slower
1007
1007
        int64_t t0, t1, t2, t3;
1008
1008
        t2 = in1[2*4] + in1[2*8] - in1[2*2];
1009
 
        
 
1009
 
1010
1010
        t3 = (in1[2*0] + (int64_t)(in1[2*6]>>1))<<32;
1011
1011
        t1 = in1[2*0] - in1[2*6];
1012
1012
        tmp1[ 6] = t1 - (t2>>1);
1015
1015
        t0 = MUL64(2*(in1[2*2] + in1[2*4]),    C2);
1016
1016
        t1 = MUL64(   in1[2*4] - in1[2*8] , -2*C8);
1017
1017
        t2 = MUL64(2*(in1[2*2] + in1[2*8]),   -C4);
1018
 
        
 
1018
 
1019
1019
        tmp1[10] = (t3 - t0 - t2) >> 32;
1020
1020
        tmp1[ 2] = (t3 + t0 + t1) >> 32;
1021
1021
        tmp1[14] = (t3 + t2 - t1) >> 32;
1022
 
        
 
1022
 
1023
1023
        tmp1[ 4] = MULH(2*(in1[2*5] + in1[2*7] - in1[2*1]), -C3);
1024
1024
        t2 = MUL64(2*(in1[2*1] + in1[2*5]),    C1);
1025
1025
        t3 = MUL64(   in1[2*5] - in1[2*7] , -2*C7);
1032
1032
        tmp1[ 8] = (t3 - t1 - t0) >> 32;
1033
1033
#else
1034
1034
        t2 = in1[2*4] + in1[2*8] - in1[2*2];
1035
 
        
 
1035
 
1036
1036
        t3 = in1[2*0] + (in1[2*6]>>1);
1037
1037
        t1 = in1[2*0] - in1[2*6];
1038
1038
        tmp1[ 6] = t1 - (t2>>1);
1041
1041
        t0 = MULH(2*(in1[2*2] + in1[2*4]),    C2);
1042
1042
        t1 = MULH(   in1[2*4] - in1[2*8] , -2*C8);
1043
1043
        t2 = MULH(2*(in1[2*2] + in1[2*8]),   -C4);
1044
 
        
 
1044
 
1045
1045
        tmp1[10] = t3 - t0 - t2;
1046
1046
        tmp1[ 2] = t3 + t0 + t1;
1047
1047
        tmp1[14] = t3 + t2 - t1;
1048
 
        
 
1048
 
1049
1049
        tmp1[ 4] = MULH(2*(in1[2*5] + in1[2*7] - in1[2*1]), -C3);
1050
1050
        t2 = MULH(2*(in1[2*1] + in1[2*5]),    C1);
1051
1051
        t3 = MULH(   in1[2*5] - in1[2*7] , -2*C7);
1070
1070
        t3 = tmp[i + 3];
1071
1071
        s1 = MULL(t3 + t2, icos36[j]);
1072
1072
        s3 = MULL(t3 - t2, icos36[8 - j]);
1073
 
        
 
1073
 
1074
1074
        t0 = s0 + s1;
1075
1075
        t1 = s0 - s1;
1076
1076
        out[(9 + j)*SBLIMIT] =  MULH(t1, win[9 + j]) + buf[9 + j];
1077
1077
        out[(8 - j)*SBLIMIT] =  MULH(t1, win[8 - j]) + buf[8 - j];
1078
1078
        buf[9 + j] = MULH(t0, win[18 + 9 + j]);
1079
1079
        buf[8 - j] = MULH(t0, win[18 + 8 - j]);
1080
 
        
 
1080
 
1081
1081
        t0 = s2 + s3;
1082
1082
        t1 = s2 - s3;
1083
1083
        out[(9 + 8 - j)*SBLIMIT] =  MULH(t1, win[9 + 8 - j]) + buf[9 + 8 - j];
1111
1111
        s->lsf = 1;
1112
1112
        mpeg25 = 1;
1113
1113
    }
1114
 
    
 
1114
 
1115
1115
    s->layer = 4 - ((header >> 17) & 3);
1116
1116
    /* extract frequency */
1117
1117
    sample_rate_index = (header >> 10) & 3;
1134
1134
        s->nb_channels = 1;
1135
1135
    else
1136
1136
        s->nb_channels = 2;
1137
 
    
 
1137
 
1138
1138
    if (bitrate_index != 0) {
1139
1139
        frame_size = mpa_bitrate_tab[s->lsf][s->layer - 1][bitrate_index];
1140
1140
        s->bit_rate = frame_size * 1000;
1177
1177
            break;
1178
1178
        }
1179
1179
    }
1180
 
    
 
1180
 
1181
1181
#if defined(DEBUG)
1182
1182
    printf("layer%d, %d Hz, %d kbits/s, ",
1183
1183
           s->layer, s->sample_rate, s->bit_rate);
1241
1241
    uint8_t allocation[MPA_MAX_CHANNELS][SBLIMIT];
1242
1242
    uint8_t scale_factors[MPA_MAX_CHANNELS][SBLIMIT];
1243
1243
 
1244
 
    if (s->mode == MPA_JSTEREO) 
 
1244
    if (s->mode == MPA_JSTEREO)
1245
1245
        bound = (s->mode_ext + 1) * 4;
1246
1246
    else
1247
1247
        bound = SBLIMIT;
1269
1269
            scale_factors[1][i] = get_bits(&s->gb, 6);
1270
1270
        }
1271
1271
    }
1272
 
    
 
1272
 
1273
1273
    /* compute samples */
1274
1274
    for(j=0;j<12;j++) {
1275
1275
        for(i=0;i<bound;i++) {
1305
1305
int l2_select_table(int bitrate, int nb_channels, int freq, int lsf)
1306
1306
{
1307
1307
    int ch_bitrate, table;
1308
 
    
 
1308
 
1309
1309
    ch_bitrate = bitrate / nb_channels;
1310
1310
    if (!lsf) {
1311
1311
        if ((freq == 48000 && ch_bitrate >= 56) ||
1312
 
            (ch_bitrate >= 56 && ch_bitrate <= 80)) 
 
1312
            (ch_bitrate >= 56 && ch_bitrate <= 80))
1313
1313
            table = 0;
1314
 
        else if (freq != 48000 && ch_bitrate >= 96) 
 
1314
        else if (freq != 48000 && ch_bitrate >= 96)
1315
1315
            table = 1;
1316
 
        else if (freq != 32000 && ch_bitrate <= 48) 
 
1316
        else if (freq != 32000 && ch_bitrate <= 48)
1317
1317
            table = 2;
1318
 
        else 
 
1318
        else
1319
1319
            table = 3;
1320
1320
    } else {
1321
1321
        table = 4;
1334
1334
    int scale, qindex, bits, steps, k, l, m, b;
1335
1335
 
1336
1336
    /* select decoding table */
1337
 
    table = l2_select_table(s->bit_rate / 1000, s->nb_channels, 
 
1337
    table = l2_select_table(s->bit_rate / 1000, s->nb_channels,
1338
1338
                            s->sample_rate, s->lsf);
1339
1339
    sblimit = sblimit_table[table];
1340
1340
    alloc_table = alloc_tables[table];
1341
1341
 
1342
 
    if (s->mode == MPA_JSTEREO) 
 
1342
    if (s->mode == MPA_JSTEREO)
1343
1343
        bound = (s->mode_ext + 1) * 4;
1344
1344
    else
1345
1345
        bound = sblimit;
1379
1379
    /* scale codes */
1380
1380
    for(i=0;i<sblimit;i++) {
1381
1381
        for(ch=0;ch<s->nb_channels;ch++) {
1382
 
            if (bit_alloc[ch][i]) 
 
1382
            if (bit_alloc[ch][i])
1383
1383
                scale_code[ch][i] = get_bits(&s->gb, 2);
1384
1384
        }
1385
1385
    }
1386
 
    
 
1386
 
1387
1387
    /* scale factors */
1388
1388
    for(i=0;i<sblimit;i++) {
1389
1389
        for(ch=0;ch<s->nb_channels;ch++) {
1446
1446
                            /* 3 values at the same time */
1447
1447
                            v = get_bits(&s->gb, -bits);
1448
1448
                            steps = quant_steps[qindex];
1449
 
                            s->sb_samples[ch][k * 12 + l + 0][i] = 
1450
 
                                l2_unscale_group(steps, v % steps, scale);
1451
 
                            v = v / steps;
1452
 
                            s->sb_samples[ch][k * 12 + l + 1][i] = 
1453
 
                                l2_unscale_group(steps, v % steps, scale);
1454
 
                            v = v / steps;
1455
 
                            s->sb_samples[ch][k * 12 + l + 2][i] = 
 
1449
                            s->sb_samples[ch][k * 12 + l + 0][i] =
 
1450
                                l2_unscale_group(steps, v % steps, scale);
 
1451
                            v = v / steps;
 
1452
                            s->sb_samples[ch][k * 12 + l + 1][i] =
 
1453
                                l2_unscale_group(steps, v % steps, scale);
 
1454
                            v = v / steps;
 
1455
                            s->sb_samples[ch][k * 12 + l + 2][i] =
1456
1456
                                l2_unscale_group(steps, v, scale);
1457
1457
                        } else {
1458
1458
                            for(m=0;m<3;m++) {
1468
1468
                    }
1469
1469
                }
1470
1470
                /* next subband in alloc table */
1471
 
                j += 1 << bit_alloc_bits; 
 
1471
                j += 1 << bit_alloc_bits;
1472
1472
            }
1473
1473
            /* XXX: find a way to avoid this duplication of code */
1474
1474
            for(i=bound;i<sblimit;i++) {
1486
1486
                        steps = quant_steps[qindex];
1487
1487
                        mant = v % steps;
1488
1488
                        v = v / steps;
1489
 
                        s->sb_samples[0][k * 12 + l + 0][i] = 
 
1489
                        s->sb_samples[0][k * 12 + l + 0][i] =
1490
1490
                            l2_unscale_group(steps, mant, scale0);
1491
 
                        s->sb_samples[1][k * 12 + l + 0][i] = 
 
1491
                        s->sb_samples[1][k * 12 + l + 0][i] =
1492
1492
                            l2_unscale_group(steps, mant, scale1);
1493
1493
                        mant = v % steps;
1494
1494
                        v = v / steps;
1495
 
                        s->sb_samples[0][k * 12 + l + 1][i] = 
 
1495
                        s->sb_samples[0][k * 12 + l + 1][i] =
1496
1496
                            l2_unscale_group(steps, mant, scale0);
1497
 
                        s->sb_samples[1][k * 12 + l + 1][i] = 
 
1497
                        s->sb_samples[1][k * 12 + l + 1][i] =
1498
1498
                            l2_unscale_group(steps, mant, scale1);
1499
 
                        s->sb_samples[0][k * 12 + l + 2][i] = 
 
1499
                        s->sb_samples[0][k * 12 + l + 2][i] =
1500
1500
                            l2_unscale_group(steps, v, scale0);
1501
 
                        s->sb_samples[1][k * 12 + l + 2][i] = 
 
1501
                        s->sb_samples[1][k * 12 + l + 2][i] =
1502
1502
                            l2_unscale_group(steps, v, scale1);
1503
1503
                    } else {
1504
1504
                        for(m=0;m<3;m++) {
1505
1505
                            mant = get_bits(&s->gb, bits);
1506
 
                            s->sb_samples[0][k * 12 + l + m][i] = 
 
1506
                            s->sb_samples[0][k * 12 + l + m][i] =
1507
1507
                                l1_unscale(bits - 1, mant, scale0);
1508
 
                            s->sb_samples[1][k * 12 + l + m][i] = 
 
1508
                            s->sb_samples[1][k * 12 + l + m][i] =
1509
1509
                                l1_unscale(bits - 1, mant, scale1);
1510
1510
                        }
1511
1511
                    }
1518
1518
                    s->sb_samples[1][k * 12 + l + 2][i] = 0;
1519
1519
                }
1520
1520
                /* next subband in alloc table */
1521
 
                j += 1 << bit_alloc_bits; 
 
1521
                j += 1 << bit_alloc_bits;
1522
1522
            }
1523
1523
            /* fill remaining samples to zero */
1524
1524
            for(i=sblimit;i<SBLIMIT;i++) {
1545
1545
 
1546
1546
    /* copy old data before current one */
1547
1547
    ptr -= backstep;
1548
 
    memcpy(ptr, s->inbuf1[s->inbuf_index ^ 1] + 
 
1548
    memcpy(ptr, s->inbuf1[s->inbuf_index ^ 1] +
1549
1549
           BACKSTEP_SIZE + s->old_frame_size - backstep, backstep);
1550
1550
    /* init get bits again */
1551
1551
    init_get_bits(&s->gb, ptr, (s->frame_size + backstep)*8);
1576
1576
    slen[0] = sf;
1577
1577
}
1578
1578
 
1579
 
static void exponents_from_scale_factors(MPADecodeContext *s, 
 
1579
static void exponents_from_scale_factors(MPADecodeContext *s,
1580
1580
                                         GranuleDef *g,
1581
1581
                                         int16_t *exponents)
1582
1582
{
1650
1650
            if (get_bits_count(&s->gb) >= end_pos)
1651
1651
                break;
1652
1652
            if (code_table) {
1653
 
                code = get_vlc(&s->gb, vlc);
 
1653
                code = get_vlc2(&s->gb, vlc->table, 8, 2);
1654
1654
                if (code < 0)
1655
1655
                    return -1;
1656
1656
                y = code_table[code];
1660
1660
                x = 0;
1661
1661
                y = 0;
1662
1662
            }
1663
 
            dprintf("region=%d n=%d x=%d y=%d exp=%d\n", 
 
1663
            dprintf("region=%d n=%d x=%d y=%d exp=%d\n",
1664
1664
                    i, g->region_size[i] - j, x, y, exponents[s_index]);
1665
1665
            if (x) {
1666
1666
                if (x == 15)
1684
1684
            g->sb_hybrid[s_index++] = v;
1685
1685
        }
1686
1686
    }
1687
 
            
 
1687
 
1688
1688
    /* high frequencies */
1689
1689
    vlc = &huff_quad_vlc[g->count1table_select];
1690
1690
    last_gb.buffer = NULL;
1701
1701
        }
1702
1702
        last_gb= s->gb;
1703
1703
 
1704
 
        code = get_vlc(&s->gb, vlc);
 
1704
        code = get_vlc2(&s->gb, vlc->table, vlc->bits, 2);
1705
1705
        dprintf("t=%d code=%d\n", g->count1table_select, code);
1706
1706
        if (code < 0)
1707
1707
            return -1;
1744
1744
    } else {
1745
1745
        ptr = g->sb_hybrid;
1746
1746
    }
1747
 
    
 
1747
 
1748
1748
    for(i=g->short_start;i<13;i++) {
1749
1749
        len = band_size_short[s->sample_rate_index][i];
1750
1750
        ptr1 = ptr;
1780
1780
            is_tab = is_table_lsf[g1->scalefac_compress & 1];
1781
1781
            sf_max = 16;
1782
1782
        }
1783
 
            
 
1783
 
1784
1784
        tab0 = g0->sb_hybrid + 576;
1785
1785
        tab1 = g1->sb_hybrid + 576;
1786
1786
 
1831
1831
            }
1832
1832
        }
1833
1833
 
1834
 
        non_zero_found = non_zero_found_short[0] | 
1835
 
            non_zero_found_short[1] | 
 
1834
        non_zero_found = non_zero_found_short[0] |
 
1835
            non_zero_found_short[1] |
1836
1836
            non_zero_found_short[2];
1837
1837
 
1838
1838
        for(i = g1->long_end - 1;i >= 0;i--) {
1903
1903
    } else {
1904
1904
        n = SBLIMIT - 1;
1905
1905
    }
1906
 
    
 
1906
 
1907
1907
    ptr = g->sb_hybrid + 18;
1908
1908
    for(i = n;i > 0;i--) {
1909
1909
        int tmp0, tmp1, tmp2;
1923
1923
        INT_AA(5)
1924
1924
        INT_AA(6)
1925
1925
        INT_AA(7)
1926
 
            
1927
 
        ptr += 18;       
 
1926
 
 
1927
        ptr += 18;
1928
1928
    }
1929
1929
}
1930
1930
 
1943
1943
    } else {
1944
1944
        n = SBLIMIT - 1;
1945
1945
    }
1946
 
    
 
1946
 
1947
1947
    ptr = g->sb_hybrid + 18;
1948
1948
    for(i = n;i > 0;i--) {
1949
1949
        float tmp0, tmp1;
1950
 
        float *csa = &csa_table_float[0][0];       
 
1950
        float *csa = &csa_table_float[0][0];
1951
1951
#define FLOAT_AA(j)\
1952
1952
        tmp0= ptr[-1-j];\
1953
1953
        tmp1= ptr[   j];\
1954
1954
        ptr[-1-j] = lrintf(tmp0 * csa[0+4*j] - tmp1 * csa[1+4*j]);\
1955
1955
        ptr[   j] = lrintf(tmp0 * csa[1+4*j] + tmp1 * csa[0+4*j]);
1956
 
        
 
1956
 
1957
1957
        FLOAT_AA(0)
1958
1958
        FLOAT_AA(1)
1959
1959
        FLOAT_AA(2)
1963
1963
        FLOAT_AA(6)
1964
1964
        FLOAT_AA(7)
1965
1965
 
1966
 
        ptr += 18;       
 
1966
        ptr += 18;
1967
1967
    }
1968
1968
}
1969
1969
 
1970
1970
static void compute_imdct(MPADecodeContext *s,
1971
 
                          GranuleDef *g, 
 
1971
                          GranuleDef *g,
1972
1972
                          int32_t *sb_samples,
1973
1973
                          int32_t *mdct_buf)
1974
1974
{
2018
2018
        /* select frequency inversion */
2019
2019
        win = mdct_win[2] + ((4 * 36) & -(j & 1));
2020
2020
        out_ptr = sb_samples + j;
2021
 
        
 
2021
 
2022
2022
        for(i=0; i<6; i++){
2023
2023
            *out_ptr = buf[i];
2024
2024
            out_ptr += SBLIMIT;
2064
2064
    char buf[512];
2065
2065
    int i;
2066
2066
    int32_t v;
2067
 
    
 
2067
 
2068
2068
    f = files[fnum];
2069
2069
    if (!f) {
2070
 
        snprintf(buf, sizeof(buf), "/tmp/out%d.%s.pcm", 
2071
 
                fnum, 
 
2070
        snprintf(buf, sizeof(buf), "/tmp/out%d.%s.pcm",
 
2071
                fnum,
2072
2072
#ifdef USE_HIGHPRECISION
2073
2073
                "hp"
2074
2074
#else
2080
2080
            return;
2081
2081
        files[fnum] = f;
2082
2082
    }
2083
 
    
 
2083
 
2084
2084
    if (fnum == 0) {
2085
2085
        static int pos = 0;
2086
2086
        av_log(NULL, AV_LOG_DEBUG, "pos=%d\n", pos);
2128
2128
            granules[ch][1].scfsi = get_bits(&s->gb, 4);
2129
2129
        }
2130
2130
    }
2131
 
    
 
2131
 
2132
2132
    for(gr=0;gr<nb_granules;gr++) {
2133
2133
        for(ch=0;ch<s->nb_channels;ch++) {
2134
2134
            dprintf("gr=%d ch=%d: side_info\n", gr, ch);
2138
2138
            g->global_gain = get_bits(&s->gb, 8);
2139
2139
            /* if MS stereo only is selected, we precompute the
2140
2140
               1/sqrt(2) renormalization factor */
2141
 
            if ((s->mode_ext & (MODE_EXT_MS_STEREO | MODE_EXT_I_STEREO)) == 
 
2141
            if ((s->mode_ext & (MODE_EXT_MS_STEREO | MODE_EXT_I_STEREO)) ==
2142
2142
                MODE_EXT_MS_STEREO)
2143
2143
                g->global_gain -= 2;
2144
2144
            if (s->lsf)
2153
2153
                g->switch_point = get_bits(&s->gb, 1);
2154
2154
                for(i=0;i<2;i++)
2155
2155
                    g->table_select[i] = get_bits(&s->gb, 5);
2156
 
                for(i=0;i<3;i++) 
 
2156
                for(i=0;i<3;i++)
2157
2157
                    g->subblock_gain[i] = get_bits(&s->gb, 3);
2158
2158
                /* compute huffman coded region sizes */
2159
2159
                if (g->block_type == 2)
2160
2160
                    g->region_size[0] = (36 / 2);
2161
2161
                else {
2162
 
                    if (s->sample_rate_index <= 2) 
 
2162
                    if (s->sample_rate_index <= 2)
2163
2163
                        g->region_size[0] = (36 / 2);
2164
 
                    else if (s->sample_rate_index != 8) 
 
2164
                    else if (s->sample_rate_index != 8)
2165
2165
                        g->region_size[0] = (54 / 2);
2166
2166
                    else
2167
2167
                        g->region_size[0] = (108 / 2);
2176
2176
                /* compute huffman coded region sizes */
2177
2177
                region_address1 = get_bits(&s->gb, 4);
2178
2178
                region_address2 = get_bits(&s->gb, 3);
2179
 
                dprintf("region1=%d region2=%d\n", 
 
2179
                dprintf("region1=%d region2=%d\n",
2180
2180
                        region_address1, region_address2);
2181
 
                g->region_size[0] = 
 
2181
                g->region_size[0] =
2182
2182
                    band_index_long[s->sample_rate_index][region_address1 + 1] >> 1;
2183
2183
                l = region_address1 + region_address2 + 2;
2184
2184
                /* should not overflow */
2185
2185
                if (l > 22)
2186
2186
                    l = 22;
2187
 
                g->region_size[1] = 
 
2187
                g->region_size[1] =
2188
2188
                    band_index_long[s->sample_rate_index][l] >> 1;
2189
2189
            }
2190
2190
            /* convert region offsets to region sizes and truncate
2211
2211
                        g->long_end = 6;
2212
2212
                    else
2213
2213
                        g->long_end = 4; /* 8000 Hz */
2214
 
                    
 
2214
 
2215
2215
                    if (s->sample_rate_index != 8)
2216
2216
                        g->short_start = 3;
2217
2217
                    else
2218
 
                        g->short_start = 2; 
 
2218
                        g->short_start = 2;
2219
2219
                } else {
2220
2220
                    g->long_end = 0;
2221
2221
                    g->short_start = 0;
2224
2224
                g->short_start = 13;
2225
2225
                g->long_end = 22;
2226
2226
            }
2227
 
            
 
2227
 
2228
2228
            g->preflag = 0;
2229
2229
            if (!s->lsf)
2230
2230
                g->preflag = get_bits(&s->gb, 1);
2244
2244
    for(gr=0;gr<nb_granules;gr++) {
2245
2245
        for(ch=0;ch<s->nb_channels;ch++) {
2246
2246
            g = &granules[ch][gr];
2247
 
            
 
2247
 
2248
2248
            bits_pos = get_bits_count(&s->gb);
2249
 
            
 
2249
 
2250
2250
            if (!s->lsf) {
2251
2251
                uint8_t *sc;
2252
2252
                int slen, slen1, slen2;
2285
2285
                }
2286
2286
#if defined(DEBUG)
2287
2287
                {
2288
 
                    printf("scfsi=%x gr=%d ch=%d scale_factors:\n", 
 
2288
                    printf("scfsi=%x gr=%d ch=%d scale_factors:\n",
2289
2289
                           g->scfsi, gr, ch);
2290
2290
                    for(i=0;i<j;i++)
2291
2291
                        printf(" %d", g->scale_factors[i]);
2342
2342
                    g->scale_factors[j] = 0;
2343
2343
#if defined(DEBUG)
2344
2344
                {
2345
 
                    printf("gr=%d ch=%d scale_factors:\n", 
 
2345
                    printf("gr=%d ch=%d scale_factors:\n",
2346
2346
                           gr, ch);
2347
2347
                    for(i=0;i<40;i++)
2348
2348
                        printf(" %d", g->scale_factors[i]);
2389
2389
#if defined(DEBUG)
2390
2390
            sample_dump(1, g->sb_hybrid, 576);
2391
2391
#endif
2392
 
            compute_imdct(s, g, &s->sb_samples[ch][18 * gr][0], s->mdct_buf[ch]); 
 
2392
            compute_imdct(s, g, &s->sb_samples[ch][18 * gr][0], s->mdct_buf[ch]);
2393
2393
#if defined(DEBUG)
2394
2394
            sample_dump(2, &s->sb_samples[ch][18 * gr][0], 576);
2395
2395
#endif
2398
2398
    return nb_granules * 18;
2399
2399
}
2400
2400
 
2401
 
static int mp_decode_frame(MPADecodeContext *s, 
 
2401
static int mp_decode_frame(MPADecodeContext *s,
2402
2402
                           OUT_INT *samples)
2403
2403
{
2404
2404
    int i, nb_frames, ch;
2405
2405
    OUT_INT *samples_ptr;
2406
2406
 
2407
 
    init_get_bits(&s->gb, s->inbuf + HEADER_SIZE, 
 
2407
    init_get_bits(&s->gb, s->inbuf + HEADER_SIZE,
2408
2408
                  (s->inbuf_ptr - s->inbuf - HEADER_SIZE)*8);
2409
 
    
 
2409
 
2410
2410
    /* skip error protection field */
2411
2411
    if (s->error_protection)
2412
2412
        get_bits(&s->gb, 16);
2440
2440
        samples_ptr = samples + ch;
2441
2441
        for(i=0;i<nb_frames;i++) {
2442
2442
            ff_mpa_synth_filter(s->synth_buf[ch], &(s->synth_buf_offset[ch]),
2443
 
                         window, &s->dither_state,
2444
 
                         samples_ptr, s->nb_channels,
 
2443
                         window, &s->dither_state,
 
2444
                         samples_ptr, s->nb_channels,
2445
2445
                         s->sb_samples[ch][i]);
2446
2446
            samples_ptr += 32 * s->nb_channels;
2447
2447
        }
2448
2448
    }
2449
2449
#ifdef DEBUG
2450
 
    s->frame_count++;        
 
2450
    s->frame_count++;
2451
2451
#endif
2452
2452
    return nb_frames * 32 * sizeof(OUT_INT) * s->nb_channels;
2453
2453
}
2454
2454
 
2455
2455
static int decode_frame(AVCodecContext * avctx,
2456
 
                        void *data, int *data_size,
2457
 
                        uint8_t * buf, int buf_size)
 
2456
                        void *data, int *data_size,
 
2457
                        uint8_t * buf, int buf_size)
2458
2458
{
2459
2459
    MPADecodeContext *s = avctx->priv_data;
2460
2460
    uint32_t header;
2464
2464
 
2465
2465
    buf_ptr = buf;
2466
2466
    while (buf_size > 0) {
2467
 
        len = s->inbuf_ptr - s->inbuf;
2468
 
        if (s->frame_size == 0) {
 
2467
        len = s->inbuf_ptr - s->inbuf;
 
2468
        if (s->frame_size == 0) {
2469
2469
            /* special case for next header for first frame in free
2470
2470
               format case (XXX: find a simpler method) */
2471
2471
            if (s->free_format_next_header != 0) {
2477
2477
                s->free_format_next_header = 0;
2478
2478
                goto got_header;
2479
2479
            }
2480
 
            /* no header seen : find one. We need at least HEADER_SIZE
 
2480
            /* no header seen : find one. We need at least HEADER_SIZE
2481
2481
               bytes to parse it */
2482
 
            len = HEADER_SIZE - len;
2483
 
            if (len > buf_size)
2484
 
                len = buf_size;
2485
 
            if (len > 0) {
2486
 
                memcpy(s->inbuf_ptr, buf_ptr, len);
2487
 
                buf_ptr += len;
2488
 
                buf_size -= len;
2489
 
                s->inbuf_ptr += len;
2490
 
            }
2491
 
            if ((s->inbuf_ptr - s->inbuf) >= HEADER_SIZE) {
 
2482
            len = HEADER_SIZE - len;
 
2483
            if (len > buf_size)
 
2484
                len = buf_size;
 
2485
            if (len > 0) {
 
2486
                memcpy(s->inbuf_ptr, buf_ptr, len);
 
2487
                buf_ptr += len;
 
2488
                buf_size -= len;
 
2489
                s->inbuf_ptr += len;
 
2490
            }
 
2491
            if ((s->inbuf_ptr - s->inbuf) >= HEADER_SIZE) {
2492
2492
            got_header:
2493
 
                header = (s->inbuf[0] << 24) | (s->inbuf[1] << 16) |
2494
 
                    (s->inbuf[2] << 8) | s->inbuf[3];
 
2493
                header = (s->inbuf[0] << 24) | (s->inbuf[1] << 16) |
 
2494
                    (s->inbuf[2] << 8) | s->inbuf[3];
2495
2495
 
2496
 
                if (ff_mpa_check_header(header) < 0) {
2497
 
                    /* no sync found : move by one byte (inefficient, but simple!) */
2498
 
                    memmove(s->inbuf, s->inbuf + 1, s->inbuf_ptr - s->inbuf - 1);
2499
 
                    s->inbuf_ptr--;
 
2496
                if (ff_mpa_check_header(header) < 0) {
 
2497
                    /* no sync found : move by one byte (inefficient, but simple!) */
 
2498
                    memmove(s->inbuf, s->inbuf + 1, s->inbuf_ptr - s->inbuf - 1);
 
2499
                    s->inbuf_ptr--;
2500
2500
                    dprintf("skip %x\n", header);
2501
2501
                    /* reset free format frame size to give a chance
2502
2502
                       to get a new bitrate */
2503
2503
                    s->free_format_frame_size = 0;
2504
 
                } else {
2505
 
                    if (decode_header(s, header) == 1) {
 
2504
                } else {
 
2505
                    if (decode_header(s, header) == 1) {
2506
2506
                        /* free format: prepare to compute frame size */
2507
 
                        s->frame_size = -1;
 
2507
                        s->frame_size = -1;
2508
2508
                    }
2509
2509
                    /* update codec info */
2510
2510
                    avctx->sample_rate = s->sample_rate;
2525
2525
                            avctx->frame_size = 1152;
2526
2526
                        break;
2527
2527
                    }
2528
 
                }
2529
 
            }
 
2528
                }
 
2529
            }
2530
2530
        } else if (s->frame_size == -1) {
2531
2531
            /* free format : find next sync to compute frame size */
2532
 
            len = MPA_MAX_CODED_FRAME_SIZE - len;
2533
 
            if (len > buf_size)
2534
 
                len = buf_size;
 
2532
            len = MPA_MAX_CODED_FRAME_SIZE - len;
 
2533
            if (len > buf_size)
 
2534
                len = buf_size;
2535
2535
            if (len == 0) {
2536
 
                /* frame too long: resync */
 
2536
                /* frame too long: resync */
2537
2537
                s->frame_size = 0;
2538
 
                memmove(s->inbuf, s->inbuf + 1, s->inbuf_ptr - s->inbuf - 1);
2539
 
                s->inbuf_ptr--;
 
2538
                memmove(s->inbuf, s->inbuf + 1, s->inbuf_ptr - s->inbuf - 1);
 
2539
                s->inbuf_ptr--;
2540
2540
            } else {
2541
2541
                uint8_t *p, *pend;
2542
2542
                uint32_t header1;
2568
2568
                            s->free_format_frame_size -= padding * 4;
2569
2569
                        else
2570
2570
                            s->free_format_frame_size -= padding;
2571
 
                        dprintf("free frame size=%d padding=%d\n", 
 
2571
                        dprintf("free frame size=%d padding=%d\n",
2572
2572
                                s->free_format_frame_size, padding);
2573
2573
                        decode_header(s, header1);
2574
2574
                        goto next_data;
2580
2580
                s->inbuf_ptr += len;
2581
2581
                buf_size -= len;
2582
2582
            }
2583
 
        } else if (len < s->frame_size) {
 
2583
        } else if (len < s->frame_size) {
2584
2584
            if (s->frame_size > MPA_MAX_CODED_FRAME_SIZE)
2585
2585
                s->frame_size = MPA_MAX_CODED_FRAME_SIZE;
2586
 
            len = s->frame_size - len;
2587
 
            if (len > buf_size)
2588
 
                len = buf_size;
2589
 
            memcpy(s->inbuf_ptr, buf_ptr, len);
2590
 
            buf_ptr += len;
2591
 
            s->inbuf_ptr += len;
2592
 
            buf_size -= len;
2593
 
        }
 
2586
            len = s->frame_size - len;
 
2587
            if (len > buf_size)
 
2588
                len = buf_size;
 
2589
            memcpy(s->inbuf_ptr, buf_ptr, len);
 
2590
            buf_ptr += len;
 
2591
            s->inbuf_ptr += len;
 
2592
            buf_size -= len;
 
2593
        }
2594
2594
    next_data:
2595
 
        if (s->frame_size > 0 && 
 
2595
        if (s->frame_size > 0 &&
2596
2596
            (s->inbuf_ptr - s->inbuf) >= s->frame_size) {
2597
2597
            if (avctx->parse_only) {
2598
2598
                /* simply return the frame data */
2601
2601
            } else {
2602
2602
                out_size = mp_decode_frame(s, out_samples);
2603
2603
            }
2604
 
            s->inbuf_ptr = s->inbuf;
2605
 
            s->frame_size = 0;
 
2604
            s->inbuf_ptr = s->inbuf;
 
2605
            s->frame_size = 0;
2606
2606
            if(out_size>=0)
2607
 
                *data_size = out_size;
 
2607
                *data_size = out_size;
2608
2608
            else
2609
2609
                av_log(avctx, AV_LOG_DEBUG, "Error while decoding mpeg audio frame\n"); //FIXME return -1 / but also return the number of bytes consumed
2610
 
            break;
2611
 
        }
 
2610
            break;
 
2611
        }
2612
2612
    }
2613
2613
    return buf_ptr - buf;
2614
2614
}
2615
2615
 
2616
2616
 
2617
2617
static int decode_frame_adu(AVCodecContext * avctx,
2618
 
                        void *data, int *data_size,
2619
 
                        uint8_t * buf, int buf_size)
 
2618
                        void *data, int *data_size,
 
2619
                        uint8_t * buf, int buf_size)
2620
2620
{
2621
2621
    MPADecodeContext *s = avctx->priv_data;
2622
2622
    uint32_t header;
2747
2747
 
2748
2748
 
2749
2749
static int decode_frame_mp3on4(AVCodecContext * avctx,
2750
 
                        void *data, int *data_size,
2751
 
                        uint8_t * buf, int buf_size)
 
2750
                        void *data, int *data_size,
 
2751
                        uint8_t * buf, int buf_size)
2752
2752
{
2753
2753
    MP3On4DecodeContext *s = avctx->priv_data;
2754
2754
    MPADecodeContext *m;