← Back to branch summary

~ubuntu-branches/ubuntu/oneiric/libav/oneiric

« back to all changes in this revision

Viewing changes to libavfilter/vf_transpose.c

  • Committer: Bazaar Package Importer
  • Author(s): Reinhard Tartler
  • Date: 2011-04-19 15:04:55 UTC
  • mfrom: (1.2.1 upstream)
  • mto: (1.3.4 sid)
  • mto: This revision was merged to the branch mainline in revision 3.
  • Revision ID: james.westby@ubuntu.com-20110419150455-c1nac6gjm3t2aa4n
Tags: 4:0.7~b1-1
* New upstream version
* bump SONAME and SHLIBS
* configure flags --disable-stripping was removed upstream
* the MAINTAINERS file was removed upstream
* remove patch disable-configuration-warning.patch
* drop avfilter confflags, it is enable by default in 0.7
* libfaad wrapper has been removed upstream
* also update the *contents* of the lintian overrides

Show diffs side-by-side

added added

removed removed

Lines of Context:
libavfilter/vf_transpose.c
 
1
/*
 
2
 * Copyright (c) 2010 Stefano Sabatini
 
3
 * Copyright (c) 2008 Vitor Sessak
 
4
 *
 
5
 * This file is part of Libav.
 
6
 *
 
7
 * Libav is free software; you can redistribute it and/or
 
8
 * modify it under the terms of the GNU Lesser General Public
 
9
 * License as published by the Free Software Foundation; either
 
10
 * version 2.1 of the License, or (at your option) any later version.
 
11
 *
 
12
 * Libav is distributed in the hope that it will be useful,
 
13
 * but WITHOUT ANY WARRANTY; without even the implied warranty of
 
14
 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
 
15
 * Lesser General Public License for more details.
 
16
 *
 
17
 * You should have received a copy of the GNU Lesser General Public
 
18
 * License along with Libav; if not, write to the Free Software
 
19
 * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
 
20
 */
 
21
 
 
22
/**
 
23
 * @file
 
24
 * transposition filter
 
25
 * Based on MPlayer libmpcodecs/vf_rotate.c.
 
26
 */
 
27
 
 
28
#include "libavutil/intreadwrite.h"
 
29
#include "libavutil/pixdesc.h"
 
30
#include "libavutil/imgutils.h"
 
31
#include "avfilter.h"
 
32
 
 
33
typedef struct {
 
34
    int hsub, vsub;
 
35
    int pixsteps[4];
 
36
 
 
37
    /* 0    Rotate by 90 degrees counterclockwise and vflip. */
 
38
    /* 1    Rotate by 90 degrees clockwise.                  */
 
39
    /* 2    Rotate by 90 degrees counterclockwise.           */
 
40
    /* 3    Rotate by 90 degrees clockwise and vflip.        */
 
41
    int dir;
 
42
} TransContext;
 
43
 
 
44
static av_cold int init(AVFilterContext *ctx, const char *args, void *opaque)
 
45
{
 
46
    TransContext *trans = ctx->priv;
 
47
    trans->dir = 0;
 
48
 
 
49
    if (args)
 
50
        sscanf(args, "%d", &trans->dir);
 
51
 
 
52
    if (trans->dir < 0 || trans->dir > 3) {
 
53
        av_log(ctx, AV_LOG_ERROR, "Invalid value %d not between 0 and 3.\n",
 
54
               trans->dir);
 
55
        return AVERROR(EINVAL);
 
56
    }
 
57
    return 0;
 
58
}
 
59
 
 
60
static int query_formats(AVFilterContext *ctx)
 
61
{
 
62
    enum PixelFormat pix_fmts[] = {
 
63
        PIX_FMT_ARGB,         PIX_FMT_RGBA,
 
64
        PIX_FMT_ABGR,         PIX_FMT_BGRA,
 
65
        PIX_FMT_RGB24,        PIX_FMT_BGR24,
 
66
        PIX_FMT_RGB565BE,     PIX_FMT_RGB565LE,
 
67
        PIX_FMT_RGB555BE,     PIX_FMT_RGB555LE,
 
68
        PIX_FMT_BGR565BE,     PIX_FMT_BGR565LE,
 
69
        PIX_FMT_BGR555BE,     PIX_FMT_BGR555LE,
 
70
        PIX_FMT_GRAY16BE,     PIX_FMT_GRAY16LE,
 
71
        PIX_FMT_YUV420P16LE,  PIX_FMT_YUV420P16BE,
 
72
        PIX_FMT_YUV422P16LE,  PIX_FMT_YUV422P16BE,
 
73
        PIX_FMT_YUV444P16LE,  PIX_FMT_YUV444P16BE,
 
74
        PIX_FMT_NV12,         PIX_FMT_NV21,
 
75
        PIX_FMT_RGB8,         PIX_FMT_BGR8,
 
76
        PIX_FMT_RGB4_BYTE,    PIX_FMT_BGR4_BYTE,
 
77
        PIX_FMT_YUV444P,      PIX_FMT_YUV422P,
 
78
        PIX_FMT_YUV420P,      PIX_FMT_YUVJ420P,
 
79
        PIX_FMT_YUV411P,      PIX_FMT_YUV410P,
 
80
        PIX_FMT_YUVJ444P,     PIX_FMT_YUVJ422P,
 
81
        PIX_FMT_YUV440P,      PIX_FMT_YUVJ440P,
 
82
        PIX_FMT_YUVA420P,     PIX_FMT_GRAY8,
 
83
        PIX_FMT_NONE
 
84
    };
 
85
 
 
86
    avfilter_set_common_formats(ctx, avfilter_make_format_list(pix_fmts));
 
87
    return 0;
 
88
}
 
89
 
 
90
static int config_props_output(AVFilterLink *outlink)
 
91
{
 
92
    AVFilterContext *ctx = outlink->src;
 
93
    TransContext *trans = ctx->priv;
 
94
    AVFilterLink *inlink = ctx->inputs[0];
 
95
    const AVPixFmtDescriptor *pixdesc = &av_pix_fmt_descriptors[outlink->format];
 
96
 
 
97
    trans->hsub = av_pix_fmt_descriptors[inlink->format].log2_chroma_w;
 
98
    trans->vsub = av_pix_fmt_descriptors[inlink->format].log2_chroma_h;
 
99
 
 
100
    av_image_fill_max_pixsteps(trans->pixsteps, NULL, pixdesc);
 
101
 
 
102
    outlink->w = inlink->h;
 
103
    outlink->h = inlink->w;
 
104
 
 
105
    if (inlink->sample_aspect_ratio.num){
 
106
        outlink->sample_aspect_ratio = av_div_q((AVRational){1,1}, inlink->sample_aspect_ratio);
 
107
    } else
 
108
        outlink->sample_aspect_ratio = inlink->sample_aspect_ratio;
 
109
 
 
110
    av_log(ctx, AV_LOG_INFO, "w:%d h:%d dir:%d -> w:%d h:%d rotation:%s vflip:%d\n",
 
111
           inlink->w, inlink->h, trans->dir, outlink->w, outlink->h,
 
112
           trans->dir == 1 || trans->dir == 3 ? "clockwise" : "counterclockwise",
 
113
           trans->dir == 0 || trans->dir == 3);
 
114
    return 0;
 
115
}
 
116
 
 
117
static void start_frame(AVFilterLink *inlink, AVFilterBufferRef *picref)
 
118
{
 
119
    AVFilterLink *outlink = inlink->dst->outputs[0];
 
120
 
 
121
    outlink->out_buf = avfilter_get_video_buffer(outlink, AV_PERM_WRITE,
 
122
                                                 outlink->w, outlink->h);
 
123
    outlink->out_buf->pts = picref->pts;
 
124
 
 
125
    if (picref->video->pixel_aspect.num == 0) {
 
126
        outlink->out_buf->video->pixel_aspect = picref->video->pixel_aspect;
 
127
    } else {
 
128
        outlink->out_buf->video->pixel_aspect.num = picref->video->pixel_aspect.den;
 
129
        outlink->out_buf->video->pixel_aspect.den = picref->video->pixel_aspect.num;
 
130
    }
 
131
 
 
132
    avfilter_start_frame(outlink, avfilter_ref_buffer(outlink->out_buf, ~0));
 
133
}
 
134
 
 
135
static void end_frame(AVFilterLink *inlink)
 
136
{
 
137
    TransContext *trans = inlink->dst->priv;
 
138
    AVFilterBufferRef *inpic  = inlink->cur_buf;
 
139
    AVFilterBufferRef *outpic = inlink->dst->outputs[0]->out_buf;
 
140
    AVFilterLink *outlink = inlink->dst->outputs[0];
 
141
    int plane;
 
142
 
 
143
    for (plane = 0; outpic->data[plane]; plane++) {
 
144
        int hsub = plane == 1 || plane == 2 ? trans->hsub : 0;
 
145
        int vsub = plane == 1 || plane == 2 ? trans->vsub : 0;
 
146
        int pixstep = trans->pixsteps[plane];
 
147
        int inh  = inpic->video->h>>vsub;
 
148
        int outw = outpic->video->w>>hsub;
 
149
        int outh = outpic->video->h>>vsub;
 
150
        uint8_t *out, *in;
 
151
        int outlinesize, inlinesize;
 
152
        int x, y;
 
153
 
 
154
        out = outpic->data[plane]; outlinesize = outpic->linesize[plane];
 
155
        in  = inpic ->data[plane]; inlinesize  = inpic ->linesize[plane];
 
156
 
 
157
        if (trans->dir&1) {
 
158
            in +=  inpic->linesize[plane] * (inh-1);
 
159
            inlinesize *= -1;
 
160
        }
 
161
 
 
162
        if (trans->dir&2) {
 
163
            out += outpic->linesize[plane] * (outh-1);
 
164
            outlinesize *= -1;
 
165
        }
 
166
 
 
167
        for (y = 0; y < outh; y++) {
 
168
            switch (pixstep) {
 
169
            case 1:
 
170
                for (x = 0; x < outw; x++)
 
171
                    out[x] = in[x*inlinesize + y];
 
172
                break;
 
173
            case 2:
 
174
                for (x = 0; x < outw; x++)
 
175
                    *((uint16_t *)(out + 2*x)) = *((uint16_t *)(in + x*inlinesize + y*2));
 
176
                break;
 
177
            case 3:
 
178
                for (x = 0; x < outw; x++) {
 
179
                    int32_t v = AV_RB24(in + x*inlinesize + y*3);
 
180
                    AV_WB24(out + 3*x, v);
 
181
                }
 
182
                break;
 
183
            case 4:
 
184
                for (x = 0; x < outw; x++)
 
185
                    *((uint32_t *)(out + 4*x)) = *((uint32_t *)(in + x*inlinesize + y*4));
 
186
                break;
 
187
            }
 
188
            out += outlinesize;
 
189
        }
 
190
    }
 
191
 
 
192
    avfilter_unref_buffer(inpic);
 
193
    avfilter_draw_slice(outlink, 0, outpic->video->h, 1);
 
194
    avfilter_end_frame(outlink);
 
195
    avfilter_unref_buffer(outpic);
 
196
}
 
197
 
 
198
AVFilter avfilter_vf_transpose = {
 
199
    .name      = "transpose",
 
200
    .description = NULL_IF_CONFIG_SMALL("Transpose input video."),
 
201
 
 
202
    .init = init,
 
203
    .priv_size = sizeof(TransContext),
 
204
 
 
205
    .query_formats = query_formats,
 
206
 
 
207
    .inputs    = (AVFilterPad[]) {{ .name            = "default",
 
208
                                    .type            = AVMEDIA_TYPE_VIDEO,
 
209
                                    .start_frame     = start_frame,
 
210
                                    .end_frame       = end_frame,
 
211
                                    .min_perms       = AV_PERM_READ, },
 
212
                                  { .name = NULL}},
 
213
    .outputs   = (AVFilterPad[]) {{ .name            = "default",
 
214
                                    .config_props    = config_props_output,
 
215
                                    .type            = AVMEDIA_TYPE_VIDEO, },
 
216
                                  { .name = NULL}},
 
217
};