跳到主要内容

博客

作者 Larry

Video2Any 现在会自动收起讲者镜头

一场录播演讲很少从头到尾都是幻灯片:讲者回答提问时,画面会切到他的摄像头;直播会切到观众席;两段之间还可能夹着一帧黑屏。Video2Any 的做法是画面变了、又停住了就留一张,所以讲者对着镜头坐上十秒,也会被当成一页幻灯片留下来。我们在示例库里放了一场一小时的 FOSDEM 演讲,它的 141 张画面里有 73 张是讲者的摄像头。

从 10 月 5 日起,Video2Any 在抽帧结束后会把每一张画面看一遍,把看起来不像幻灯片的收起来。这一步在你自己的设备上完成,你不用做任何操作,它也不会删掉任何东西。

用八张真实演讲画面试试这项检查

其中四张是幻灯片,四张不是。点下面的按钮,它会在这个标签页里运行和编辑器完全相同的检查;第一次要先加载检查程序。

画面来自 FOSDEM 2021 的录像,CC BY 2.0 BE 授权。

看看那场一小时的 FOSDEM 示例,讲者镜头已经收起

本页内容

你会看到什么

抽帧结束后,幻灯片照常出现。过一会儿,如果有画面看起来像摄像头、观众或黑屏,它们会从网格里移走,网格上方多出一行字,告诉你收起了几张。你点「放回来」,它们会全部回来;撤销也一样管用。

被收起的画面不计入张数,不会被导出,也不会被分享,但它们会和这份结果一起保存,刷新页面后也还在。你手动截取的画面,Video2Any 一律不碰。如果一个视频里没有任何一张像幻灯片,比如一小时都对着镜头讲的录像、白板课,Video2Any 会原样保留,不会给你一份空的结果。

批量转换也是这样,一个视频接一个视频地处理,下一个视频不用等:某个视频转完之后过一会儿,那一行的张数会自己变少。

它多久会判断错一次

我们测它的时候,用的都是它训练时没见过的演讲:我们把演讲分成五组,每次拿四组训练、剩下一组测试,轮了五遍。在 3,052 张真幻灯片里,它误收了 6 张,大约五百张错一张;在 620 张摄像头、观众和黑屏画面里,它认出了 94%。

它容易误收的是内容很少的幻灯片:纯色背景上只有一个词、整页都是一张照片、讲者画面占了半屏。它容易漏掉的是:坐满人的会场全景、白底上的讲者头像卡片、从后排拍的舞台。从观众席拍下来的投影屏幕,它也偶尔会收起来,大约十一次里有一次。所以我们让它「收起」而不是「删除」:它判断错了,你点一下就能找回来。

我们是怎么做的

这项检查用的是一个开源的小型图像模型,它就在你的浏览器里运行。它只看已经显示在你屏幕上的画面,这些画面本身不会离开你的电脑。

我们亲手标注了大约 4,100 张画面来训练它:1,313 张来自四年间的 115 场 FOSDEM 演讲(这些录像的授权允许这样使用),2,092 张来自我们自己的示例库,另外 720 张来自 29 段会议、讲座和短视频录像。用户上传的视频,我们一张都没用过,因为我们根本看不到它们。上线的这个模型是用上面全部画面训练的,示例库也在里面,所以那场一小时的示例演讲它其实见过,下面试用区的画面来自它学过的 FOSDEM 2021 录像,它很可能也见过。上面那些出错的比例来自分组测试,不是拿这些画面算的。

我们也试过更小和更大的方案。一个只有现在六分之一大的模型,在同样严格的标准下只认出了 80% 的摄像头画面,现在上线的这个是 94%。另一种能读懂幻灯片、把上面的文字写出来的模型,中文和英文几乎一字不差,但它超过 2 GB,在普通电脑上每张要花十秒左右。这样的模型放在服务器上没问题,放进浏览器标签页就不合适了。

它会占用你电脑多少资源

第一次使用时,浏览器会在读取视频的同时把检查程序加载下来。读视频不需要联网,所以多数情况下,幻灯片出来之前它就已经准备好了,之后浏览器会把它留着。检查的时候,它会多占一些内存,持续一分钟左右,用完就还回去。

在手机、平板、内存不到 4 GB 的电脑上,或者网络开了省流量模式时,这项检查完全不运行,你拿到的结果和以前一模一样。

我们会收到的只有两个数字,没有画面:收起了几张、你放回了几张。第二个数字能告诉我们,对和你类似的录像来说,这条线划得对不对。

常见问题

这会上传我的视频或幻灯片吗?
不会。是你的浏览器把模型加载进来,你的视频和画面哪儿都不去。我们会收到的只有两个数字:收起了几张、放回了几张。
能关掉吗?
没有开关,因为什么都不会丢:你点「放回来」,所有被收起的画面会一次全部回来,撤销也一样管用。在手机和内存小的电脑上,它本来就不会运行。
为什么一张真幻灯片被收起来了?
通常是因为那张幻灯片看起来像照片或纯色画面,比如只有一个词的标题页、整页的图片。你把它放回来,它就会一直留着,刷新页面也一样。
批量转换也有这个功能吗?
有。每个视频保存之后,它会在后台检查,所以下一个视频马上就能开始,那一行的张数也会自己更新。

用你自己的录像试试

把一场录播演讲或会议录像拖进 Video2Any。幻灯片照常出来,讲者镜头会被收起来,上方有一行字告诉你收了几张。