音视频实践学习

  • android全平台编译ffmpeg以及x264与fdk-aac实践
  • ubuntu下使用nginx和nginx-rtmp-module配置直播推流服务器
  • android全平台编译ffmpeg合并为单个库实践
  • android-studio使用cmake编译ffmpeg实践
  • android全平台编译ffmpeg视频解码器实践
  • android全平台编译ffmpeg支持命令行实践
  • android全平台编译ffmpeg视频推流实践
  • android平台下音频编码之编译LAME库转码PCM为MP3
  • 图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别
  • ubuntu平台下编译vlc-android视频播放器实践

概述

YUV模型是根据一个亮度(Y分量)和两个色度(UV分量)来定义颜色空间,常见的YUV格式有YUY2、YUYV、YVYU、UYVY、AYUV、Y41P、Y411、Y211、IF09、IYUV、YV12、YVU9、YUV411、YUV420等,其中比较常见的YUV420分为两种:YUV420P和YUV420SP

我们在android平台下使用相机默认图像格式是NV21属于YUV420SP格式

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第1张图片

YUV采样

YUV 4:4:4采样,每一个Y对应一组UV分量,一个YUV占8+8+8 = 24bits 3个字节。YUV 4:2:2采样,每两个Y共用一组UV分量,一个YUV占8+4+4 = 16bits 2个字节。YUV 4:2:0采样,每四个Y共用一组UV分量,一个YUV占8+2+2 = 12bits 1.5个字节。

我们最常见的YUV420P和YUV420SP都是基于4:2:0采样的,所以如果图片的宽为width,高为heigth,在内存中占的空间为width * height * 3 / 2,其中前width * height的空间存放Y分量,接着width * height / 4存放U分量,最后width * height / 4存放V分量

YUV420P(YU12和YV12)格式

YUV420P又叫plane平面模式Y , U , V分别在不同平面,也就是有三个平面,它是YUV标准格式4:2:0,主要分为:YU12和YV12

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第2张图片

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第3张图片

  • YU12格式

android平台下也叫作I420格式,首先是所有Y值,然后是所有U值,最后是所有V值

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第4张图片

YU12:亮度(行×列) + U(行×列/4) + V(行×列/4)

  • YV12格式

YV12格式YU12基本相同,首先是所有Y值,然后是所有V值,最后是所有U值。只要注意从适当的位置提取U和V值YU12和YV12都可以使用相同的算法进行处理。

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第5张图片

YV12:亮度Y(行×列) + V(行×列/4) + U(行×列/4)

YU12: YYYYYYYY UUVV    =>    YUV420PYV12: YYYYYYYY VVUU    =>    YUV420P

YUV模型是根据一个亮度(Y分量)和两个色度(UV分量)来定义颜色空间,常见的YUV格式有YUY2、YUYV、YVYU、UYVY、AYUV、Y41P、Y411、Y211、IF09、IYUV、YV12、YVU9、YUV411、YUV420等,其中比较常见的YUV420分为两种:YUV420P和YUV420SP。

我们在android平台下使用相机默认图像格式是NV21属于YUV420SP格式## YUV420SP(NV21和NV12)格式

YUV420SP格式的图像阵列,首先是所有Y值,然后是UV或者VU交替存储,NV12和NV21属于YUV420SP格式,是一种two-plane模式,即Y和UV分为两个plane,但是UV(CbCr)为交错存储,而不是分为三个平面。

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第6张图片

  • NV21格式

android手机从摄像头采集的预览数据一般都是NV21,存储顺序是先存Y,再VU交替存储,NV21存储顺序是先存Y值,再VU交替存储:YYYYVUVUVU,以 4 X 4 图片为例子,占用内存为 4 X 4 X 3 / 2 = 24 个字节

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第7张图片

  • NV12格式

NV12与NV21类似,也属于YUV420SP格式,NV12存储顺序是先存Y值,再UV交替存储:YYYYUVUVUV,以 4 X 4 图片为例子,占用内存为 4 X 4 X 3 / 2 = 24 个字节

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第8张图片

注意:在DVD中,色度信号被存储成Cb和Cr(C代表颜色,b代表蓝色,r代表红色)

NV12: YYYYYYYY UVUV    =>YUV420SPNV21: YYYYYYYY VUVU    =>YUV420SP

YUV和RGB转换

Y      =  (0.257 * R) + (0.504 * G) + (0.098 * B) + 16Cr = V =  (0.439 * R) - (0.368 * G) - (0.071 * B) + 128Cb = U = -(0.148 * R) - (0.291 * G) + (0.439 * B) + 128B = 1.164(Y - 16) + 2.018(U - 128)G = 1.164(Y - 16) - 0.813(V - 128) - 0.391(U - 128)R = 1.164(Y - 16) + 1.596(V - 128)

分离YUV420P

下面基于实例来理解Y,U,V分量的作用

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第9张图片

先使用ffmpeg将指定的图片转为yuv420p格式

ffmpeg -i input.jpg -s 510x510 -pix_fmt yuv420p input.yuv
  • 分离YUV分量

笔者使用的Clion直接运行下面这段代码,分离出所需的文件

void split_yuv420(char *inputPath, int width, int height) {    FILE *fp_yuv = fopen(inputPath, "rb+");    FILE *fp_y = fopen("output_420_y.y", "wb+");    FILE *fp_u = fopen("output_420_u.y", "wb+");    FILE *fp_v = fopen("output_420_v.y", "wb+");    unsigned char *data = (unsigned char *) malloc(width * height * 3 / 2);    fread(data, 1, width * height * 3 / 2, fp_yuv);    //Y    fwrite(data, 1, width * height, fp_y);    //U    fwrite(data + width * height, 1, width * height / 4, fp_u);    //V    fwrite(data + width * height * 5 / 4, 1, width * height / 4, fp_v);    //释放资源    free(data);    fclose(fp_yuv);    fclose(fp_y);    fclose(fp_u);    fclose(fp_v);}

笔者使用的是ubuntu系统,因此运行yuvplayer.exe文件,需要提前安装好winesudo apt install wine,运行yuvplayer之后,需要先设置像素格式为Y,否则你看到的图像可能会有问题

先看output_420_y.y文件:(分辨率设置为510x510)

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第10张图片

output_420_u.y显示如下:(分辨率设置为255x255)

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第11张图片

output_420_v.y显示如下:(分辨率设置为255x255)

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第12张图片

  • 生成灰度图

上面的例子实际上已经生成了一个灰度图了,但是只保留了Y分量,你如果直接用ffplay工具查看会有问题,下面的函数将会生成一个标准的YUV文件并且保留Y分量,你可能会有疑问,为什么U分量和V分量要写入0x80,其实你可以参考上面的YUV转RGB的公式,YUV数据是无法直接显示的,最终需要转成RGB显示,因此我这里是只需要保留Y分量,忽略UV分量的影响,因此根据上面的公式,我在Y和U分量中都写入128就是十六进制的0x80

  • 保留Y分量(生成灰度图)
void yuv420p_y(char *inputPath, char *outputPath, int width, int height) {    FILE *inFile = fopen(inputPath, "rb+");    FILE *outFile = fopen(outputPath, "wb+");    unsigned char *data = (unsigned char *) malloc(width * height * 3 / 2);    fread(data, 1, width * height * 3 / 2, inFile);    //Y分量    fwrite(data, 1, width * height, outFile);    unsigned char *buffer = (unsigned char *) malloc(width * height / 4);    memset(buffer, 0x80, width * height / 4);    //U分量    fwrite(buffer, 1, width * height / 4, outFile);    //V分量    fwrite(buffer, 1, width * height / 4, outFile);    free(buffer);    free(data);    fclose(inFile);    fclose(outFile);}
int main() {    yuv420p_y("/home/byhook/media/input.yuv", "/home/byhook/media/output.yuv", 510, 510);    return 0;}

使用ffplay来播放yuv格式的文件:

ffplay -f rawvideo -video_size 510x510 output.yuv

要注意这里的分辨率不能错

图解YU12、I420、YV12、NV12、NV21、YUV420P、YUV420SP、YUV422P、YUV444P的区别_第13张图片

分离YUV422P

YUV422P基于YUV 4:2:2采样,每两个Y共用一组UV分量,一个YUV占8+4+4 = 16bits 2个字节。分离代码如下:

void split_yuv422(char *inputPath, int width, int height) {    FILE *fp_yuv = fopen(inputPath, "rb+");    FILE *fp_y = fopen("output_422_y.y", "wb+");    FILE *fp_u = fopen("output_422_u.y", "wb+");    FILE *fp_v = fopen("output_422_v.y", "wb+");    unsigned char *data = (unsigned char *) malloc(width * height * 2);    fread(data, 1, width * height * 2, fp_yuv);    //Y    fwrite(data, 1, width * height, fp_y);    //U    fwrite(data + width * height, 1, width * height / 2, fp_u);    //V    fwrite(data + width * height * 3 / 2, 1, width * height / 2, fp_v);    //释放资源    free(data);    fclose(fp_yuv);    fclose(fp_y);    fclose(fp_u);    fclose(fp_v);}

分离YUV444P

YUV444P基于YUV 4:4:4采样,每一个Y对应一组UV分量,一个YUV占8+8+8 = 24bits 3个字节。分离代码如下:

void split_yuv444(char *inputPath, int width, int height) {    FILE *fp_yuv = fopen(inputPath, "rb+");    FILE *fp_y = fopen("output_444_y.y", "wb+");    FILE *fp_u = fopen("output_444_u.y", "wb+");    FILE *fp_v = fopen("output_444_v.y", "wb+");    unsigned char *data = (unsigned char *) malloc(width * height * 3);    fread(data, 1, width * height * 3, fp_yuv);    //Y    fwrite(data, 1, width * height, fp_y);    //U    fwrite(data + width * height, 1, width * height, fp_u);    //V    fwrite(data + width * height * 2, 1, width * height, fp_v);    //释放资源    free(data);    fclose(fp_yuv);    fclose(fp_y);    fclose(fp_u);    fclose(fp_v);}

参考:
https://blog.csdn.net/leixiaohua1020/article/details/50534150
https://en.wikipedia.org/wiki/YUV

更多相关文章

  1. Android与J2ME区别之我见(1)
  2. android 中 涉及到context的时候this和this.getApplictionContex
  3. 让 Android 可以识别BMP图片文件,且目前Android所支持的所有图片
  4. Android getMeasuredHeight()与getHeight()的区别
  5. android性能之一:内存泄露、内存溢出的区别及原理分析
  6. android:padding和android:margin的区别 详解

随机推荐

  1. android切换效果、Flutter信息类App、仿
  2. Google:Android正在走出碎片化泥沼
  3. Android(安卓)自定义View (三部曲)
  4. 我的Android相关文章目录
  5. Java事件模型与Android事件模型的比较
  6. Service与Android系统设计(3)
  7. Android(安卓)P解决Socket通信Tcp粘包问
  8. android代码实现背景切换
  9. Android 与 Unity 交互一
  10. Android的第一个入门简单例子