解码数据结构及函数总结
- 数据读取,主要关注在解码过程中所用到的FFmpeg中的结构体。
- 解码过程中所调用的函数
数据的读取
- 一个多媒体文件包含有多个流(视频流 video stream,音频流 audio stream,字幕等);
- 流是一种抽象的概念,表示一连串的数据元素;
- 流中的数据元素称为帧Frame。
也就是说多媒体文件中,主要有两种数据:流Stream 及其数据元素 帧Frame,在FFmpeg自然有与这两种数据相对应的抽象:AVStream和AVPacket。
使用FFmpeg的解码,数据的传递过程可归纳如下:
- 调用
avformat_open_input
打开流,将信息填充到AVFormatContext
中 - 调用
av_read_frame
从流中读取数据帧到AVPacket
,AVPacket
保存仍然是未解码的数据。 - 调用
avcodec_decode_video2
将AVPacket
的数据解码,并将解码后的数据填充到AVFrame
中,AVFrame
中保存的是解码后的原始数据。
结构体的存储空间的分配与释放
FFmpeg并没有垃圾回收机制,所分配的空间都需要自己维护。而由于视频处理过程中数据量是非常大,对于动态内存的使用更要谨慎。
-
AVFormatContext 在FFmpeg中有很重要的作用,描述一个多媒体文件的构成及其基本信息,存放了视频编解码过程中的大部分信息。通常该结构体由
avformat_open_input
分配存储空间,在最后调用avformat_input_close
关闭。 -
AVStream 描述一个媒体流,在解码的过程中,作为AVFormatContext的一个字段存在,不需要单独的处理。
-
AVpacket 用来存放解码之前的数据,它只是一个容器,其data成员指向实际的数据缓冲区,在解码的过程中可由
av_read_frame
创建和填充AVPacket中的数据缓冲区,
当数据缓冲区不再使用的时候可以调用av_free_apcket
释放这块缓冲区。 -
AVFrame 存放从AVPacket中解码出来的原始数据,其必须通过
av_frame_alloc
来创建,通过av_frame_free
来释放。和AVPacket类似,AVFrame中也有一块数据缓存空间,在调用av_frame_alloc
的时候并不会为这块缓存区域分配空间,需要使用其他的方法。在解码的过程使用了两个AVFrame,这两个AVFrame分配缓存空间的方法也不相同-
一个AVFrame用来存放从AVPacket中解码出来的原始数据,这个AVFrame的数据缓存空间通过调avcodec_decode_video分配和填充。
-
另一个AVFrame用来存放将解码出来的原始数据变换为需要的数据格式(例如RGB,RGBA)的数据,这个AVFrame需要手动的分配数据缓存空间。代码如下:
-
AVFrame* pFrameYUV;
pFrameYUV = av_frame_alloc();
// 手动为 pFrameYUV分配数据缓存空间
int numBytes = avpicture_get_size(AV_PIX_FMT_YUV420P,pCodecCtx->widht,pCodecCtx->width);
uint8_t* buffer = (uint8_t*)av_malloc(numBytes * sizeof(uint8_t));
// 将分配的数据缓存空间和AVFrame关联起来
avpicture_fill((AVPicture *)pFrameYUV, buffer, AV_PIX_FMT_YUV420P,pCodecCtx->width, pCodecCtx->height)
- 首先计算需要缓存空间大小,调用
av_malloc
分配缓存空间,最后调用avpicture_fill
将分配的缓存空间和AVFrame关联起来。调用av_frame_free
来释放AVFrame,该函数不止释放AVFrame本身的空间,还会释放掉包含在其内的其他对象动态申请的空间,例如上面的缓存空间。 - av_malloc和av_free,FFmpeg并没有提供垃圾回收机制,所有的内存管理都要手动进行。
av_malloc
只是在申请内存空间的时候会考虑到内存对齐(2字节,4字节对齐),其申请的空间要调用av_free
释放。
调用的函数
- av_register_all 注册库所支持的容器格式及其对应的CODEC。
- avformat_open_input 打开多媒体文件流,并读取文件的头,将读取到的信息填充到AVFormatContext结构体中。在使用结束后,要调用
avformat_close_input
关闭打开的流 - avformat_find_stream_info 上面提到,avformat_open_input只是读取文件的头来得到多媒体文件的信息,但是有些文件没有文件头或者文件头的格式不正确,这就造成只调用avformat_open_input可能得不到解码所需要的必要信息,需要调用
avformat_find_stream_info
进一步得到流的信息。 - 通过上面的三个函数已经获取了对多媒体文件进行解码的所需要信息,下面要做的就是根据这些信息得到相应的解码器。结构体
AVCodecContext
描述了编解码器的上下文信息,包含了流中所使用的关于编解码器的所有信息,可以通过AVFormatContext
->
AVStream
->
AVCodecContext
来得到,在有了AVCodecContext后,可以通过codec_id来找到相应的解码器,具体代码如下:
AVCodec* pCodec = nullptr;pCodecCtxOrg = pFormatCtx->streams[videoStream]->codec; // codec context// 找到video stream的 decoder
pCodec = avcodec_find_decoder(pCodecCtxOrg->codec_id);
- avcodec_find_decoder 可以通过codec_id或者名称来找到相应的解码器,返回值是一个AVCodec的指针。
- avcodec_open2 打开相应的编解码器
- av_read_frame 从流中读取数据帧暂存到AVPacket中
- avcodec_decode_video2 从AVPacket中解码数据到AVFrame中
经过以上的过程,AVFrame中的数据缓存中存放的就是解码后的原始数据了。整个流程梳理如下: