【查证】深圳女孩游台湾谈论两岸差异影片?深伪影像置换搭配AI语音!片段分析详解

你可以先知道:

(1)网传影片以利用深伪技术置换脸部嘴型,再配上 AI 语音后制处理;原始生成影片为一段约 1 分 44 秒的影片,透过重复播放剪辑而成。

(2)MyGoPen 无法独立确认影片所述之内容是否属实,部分论述亦属于个人观点,不在本次查核范围内。

网传「深圳女孩游台湾」的影片及讯息,内容是一名自称是深圳女孩的人讲述两岸差异。经查证,网传影片是利用深伪技术(deepfake)置换脸部嘴型,再配上 AI 语音后制而成,仔细观察就会发现影片部分细节有误,且原始影片应为一段约 1 分 44 秒的影片,利用重复播放的方式,搭配整段生成的 AI 语音,后制成 4 分多钟的影片。至于影片所述之内容,MyGoPen 无法独立核实是否正确,部分论述涉及个人观点,亦不在查核报告范围内,不过网传讯息提供的资讯不够明确,容易让民众误以为是真人谈话的影片。

网传深圳女孩评论台湾的影片?

原始谣传版本:

深圳女孩游台湾后恨不得定居台湾

主要在社群平台流传这段影片

查证解释:

网传讯息原始出处为何?

MyGoPen 无法独立确认网传讯息所述之内容是否属实,影片部分论述属于个人观点,不在本次查核范围内,以下将以影片是否经过后制变造进行查证。

以「深圳女孩」进行搜索,可以找到民视新闻网于 2024 年 12 月 25 日在官方 YouTube 上传的新闻《「有什么脸说台湾是中国的」 深圳女孩影片曝中国现况被封杀》,影片中有注明画面来自 YouTube 频道「中国秒删影片库」。

在 YouTube 搜寻「中国秒删影片库」,可以找到名称一模一样的频道,该频道创立日期为 2024 年 1 月 12 日,简介内容有提到「本频道欢迎墙内人士在保障自身安全的前提下,透过 AI 传递真实的声音」,不过目前只剩一支公开影片,无法确认该频道是否就是网传影片的原始发布者。

目前在「台湾公义」、「哈啰台湾人」、「东篱雅沁」等频道还可以看到备份影片,MyGoPen 将针对影片画面是否经过后制变造进行查证,影片中人物的叙述内容属于个人观点,不在查证范围内。

利用 AI 检测工具「HIVE Moderation」进行检测,可以看到在声音部分,检测结果为 99% 为 AI 生成语音,影片部分可能受限于画质,仅测得 6% 机率是由 AI 生成。

改以另一个 AI 侦测工具「Attestiv」进行检测,可以看到影片是由 AI 生成的机率达 71%;比对网传影片与一般正常影片的数据波型,也能轻易看出整段影片的 AI 生成机率都在60% 以上,且部分画面在脸部置换(橘点)及 AI 产制内容(绿点)的侦测特别高。

使用「TrueMedia.org」的 AI 检测,可以看到声音部分检测结果为 100% AI 生成,不过影像部分的检测结果仅有 46% 疑似 AI 生成,评估等级为「不确定」(Uncertain)。

若是将影片撷图,利用 AI 检测工具「sightengine」进行检测,可以看到生成式人工智慧(GenAI)的机率为 98%,且使用的扩散模型 (Diffusion model)很有可能是 Stable Diffusion。

补充:Stable Diffusion 是 2022 年发布的深度学习文字到图像生成模型,如果在 YouTube 上搜索「stable diffusion、换脸(Face Swap)」,便能找到许多影像换脸的教学影片。

其实除了线上 AI 检测工具,如果把影像放大并逐格检视,会发现 0:00 – 0:20 处,右边的桌子上有一个紫色不明物体不断变换型态,且有时会随著人物讲话而起伏;1:35 处开始,会发现影片人物坐的床会「整片」上下位移;大约 1:44 开始,紫色物体再次变换型态,并于 2:04 左右回复正常。由此可以推论,网传影片实际长度约 1 分 44 秒,透过重复播放的方式,将深伪技术置换脸部嘴型的影片,配上 AI 语音后制而成。

结论

总结来说,网传影片是 AI 生成影片,并非真人口述,传言提供的背景资讯不够明确,容易造成民众误解。

资料来源:

YouTube – 「有什么脸说台湾是中国的」 深圳女孩影片曝中国现况被封杀-民视新闻中国秒删影片库HIVE ModerationAttestivTrueMedia.orgsightengine

延伸阅读:

【错误】网传柯建铭批评民进党的影片?不实内容!深伪技术变造后制片段【错误】网传于北辰称赞中共演习影片?深伪变造!嘴型置换搭配AI语音