你可以先知道:
(1)网传影片以利用深伪技术置换脸部嘴型,再配上 AI 语音后制处理;原始生成影片为一段约 1 分 44 秒的影片,透过重复播放剪辑而成。
(2)MyGoPen 无法独立确认影片所述之内容是否属实,部分论述亦属于个人观点,不在本次查核范围内。
网传深圳女孩评论台湾的影片?
原始谣传版本:
深圳女孩游台湾后恨不得定居台湾
主要在社群平台流传这段影片
查证解释:
网传讯息原始出处为何?
MyGoPen 无法独立确认网传讯息所述之内容是否属实,影片部分论述属于个人观点,不在本次查核范围内,以下将以影片是否经过后制变造进行查证。
以「深圳女孩」进行搜索,可以找到民视新闻网于 2024 年 12 月 25 日在官方 YouTube 上传的新闻《「有什么脸说台湾是中国的」 深圳女孩影片曝中国现况被封杀》,影片中有注明画面来自 YouTube 频道「中国秒删影片库」。
在 YouTube 搜寻「中国秒删影片库」,可以找到名称一模一样的频道,该频道创立日期为 2024 年 1 月 12 日,简介内容有提到「本频道欢迎墙内人士在保障自身安全的前提下,透过 AI 传递真实的声音」,不过目前只剩一支公开影片,无法确认该频道是否就是网传影片的原始发布者。
目前在「台湾公义」、「哈啰台湾人」、「东篱雅沁」等频道还可以看到备份影片,MyGoPen 将针对影片画面是否经过后制变造进行查证,影片中人物的叙述内容属于个人观点,不在查证范围内。
利用 AI 检测工具「HIVE Moderation」进行检测,可以看到在声音部分,检测结果为 99% 为 AI 生成语音,影片部分可能受限于画质,仅测得 6% 机率是由 AI 生成。
改以另一个 AI 侦测工具「Attestiv」进行检测,可以看到影片是由 AI 生成的机率达 71%;比对网传影片与一般正常影片的数据波型,也能轻易看出整段影片的 AI 生成机率都在60% 以上,且部分画面在脸部置换(橘点)及 AI 产制内容(绿点)的侦测特别高。
使用「TrueMedia.org」的 AI 检测,可以看到声音部分检测结果为 100% AI 生成,不过影像部分的检测结果仅有 46% 疑似 AI 生成,评估等级为「不确定」(Uncertain)。
若是将影片撷图,利用 AI 检测工具「sightengine」进行检测,可以看到生成式人工智慧(GenAI)的机率为 98%,且使用的扩散模型 (Diffusion model)很有可能是 Stable Diffusion。
补充:Stable Diffusion 是 2022 年发布的深度学习文字到图像生成模型,如果在 YouTube 上搜索「stable diffusion、换脸(Face Swap)」,便能找到许多影像换脸的教学影片。
其实除了线上 AI 检测工具,如果把影像放大并逐格检视,会发现 0:00 – 0:20 处,右边的桌子上有一个紫色不明物体不断变换型态,且有时会随著人物讲话而起伏;1:35 处开始,会发现影片人物坐的床会「整片」上下位移;大约 1:44 开始,紫色物体再次变换型态,并于 2:04 左右回复正常。由此可以推论,网传影片实际长度约 1 分 44 秒,透过重复播放的方式,将深伪技术置换脸部嘴型的影片,配上 AI 语音后制而成。
结论
总结来说,网传影片是 AI 生成影片,并非真人口述,传言提供的背景资讯不够明确,容易造成民众误解。
资料来源:
YouTube – 「有什么脸说台湾是中国的」 深圳女孩影片曝中国现况被封杀-民视新闻中国秒删影片库HIVE ModerationAttestivTrueMedia.orgsightengine
延伸阅读:
【错误】网传柯建铭批评民进党的影片?不实内容!深伪技术变造后制片段【错误】网传于北辰称赞中共演习影片?深伪变造!嘴型置换搭配AI语音