Google 的研究人员开发出一个视频分割工具,能够实时而精准地移除视频的背景。这项技术已经部署到 YouTube Stories 功能里了。
使用视频分割技术,视频制作人可能将视频里的前景和背景分离为两个图层。通过替换背景,能够实现使视频更有趣,或营造出某种意境等目的。
YouTube Stories 是 YouTube 的轻量级视频格式,专门为 YouTube 创作者设计,以帮助创作者更多样化地与自己的粉丝交流、互动。
传统的,视频分割需要耗费大量的时间,比如对视频的每一帧进行转描(Rotoscoping),或者在工作室环境下使用色键技术,在绿色背景下拍摄视频。
Google 的工程师使用了一个卷积神经网络,使用数千张标记好的照片来训练它。神经网络首先学会识别出头、肩等基本特征,一系列优化则降低了神经网络需要处理的数据量。不完美的处理结果,作为下一阶段的素材。
Google Research 博客具体介绍了此视频分割技术。
https://research.googleblog.com/2018/03/mobile-real-time-video-segmentation.html
此神经网络在移动设备上运行的非常之快,在 Pixel 2 和 iPhone 7 上分别实现超过 40、100 帧每秒(FPS)。同时,它具有相对高的准确性,在验证的数据集上实现 94.8% IOU。Jaccard 指数(IOU)是用于对比样本集的相似性和多样性的统计量。
这使得 YouTube Stories 服务具备顺畅运行而良好响应的效果。研究人员还计划把这项分割技术整合到 Google AR 服务中去。
1. https://research.googleblog.com/2018/03/mobile-real-time-video-segmentation.html
使用视频分割技术,视频制作人可能将视频里的前景和背景分离为两个图层。通过替换背景,能够实现使视频更有趣,或营造出某种意境等目的。
YouTube Stories 是 YouTube 的轻量级视频格式,专门为 YouTube 创作者设计,以帮助创作者更多样化地与自己的粉丝交流、互动。
传统的,视频分割需要耗费大量的时间,比如对视频的每一帧进行转描(Rotoscoping),或者在工作室环境下使用色键技术,在绿色背景下拍摄视频。
Google 的工程师使用了一个卷积神经网络,使用数千张标记好的照片来训练它。神经网络首先学会识别出头、肩等基本特征,一系列优化则降低了神经网络需要处理的数据量。不完美的处理结果,作为下一阶段的素材。
Google Research 博客具体介绍了此视频分割技术。
https://research.googleblog.com/2018/03/mobile-real-time-video-segmentation.html
此神经网络在移动设备上运行的非常之快,在 Pixel 2 和 iPhone 7 上分别实现超过 40、100 帧每秒(FPS)。同时,它具有相对高的准确性,在验证的数据集上实现 94.8% IOU。Jaccard 指数(IOU)是用于对比样本集的相似性和多样性的统计量。
这使得 YouTube Stories 服务具备顺畅运行而良好响应的效果。研究人员还计划把这项分割技术整合到 Google AR 服务中去。
1. https://research.googleblog.com/2018/03/mobile-real-time-video-segmentation.html
评论
发表评论