• 快科技
  • 中文科技资讯专业发布平台
AI大毒瘤:96%的Deepfakes视频涉及色情
2019-10-15 16:08:02  出处:雷锋网  作者:Adios 编辑:万南   点击可以复制本篇文章的标题和链接

Deepfakes 已经让“眼见为实”成为过去;至少在视频方面是如此。

近日,Deeptrace 公司发布了一份关于 Deepfakes 现状的报告,分享了迄今为止人们对 Deepfakes 最全面的了解以及其对现实世界的影响。

Deeptrace 是一家位于阿姆斯特丹的网络安全公司,自 2018 年成立以来就致力于研究 Deepfakes 不断发展的功能和造成的威胁。该公司创始人兼首席科学官 Giorgio Patrini 在这份报告的介绍中说道:

无论是视频音频,还是文本,我们社会依赖和信任的多个数字通信渠道都已遭到了颠覆。

以下是雷锋网对这份报告的整理:

AI大毒瘤:96%的Deepfakes视频涉及色情

自 2017 年晚些时候出现以来,Deepfakes 就开始凭借着惊人发展速度、逼真的换脸效果,以及对社会的消极影响而广为人知。

然而,Deepfakes 在今年的发展尤其迅猛。报告数据显示,今年网络上 Deepfakes 视频的数量迅速增长,截至目前为 14678 个,是去年 12 月份(7964 个)的一倍。

在所有的 Deepfakes 视频中,绝大多数视频都涉及色情内容,只有极少一部分视频属于非色情内容,两者的比例分别为 96% 和 4%;而且,在最受欢迎的四大色情网站上(2018 年至今),关于 Deepfakes 的视频观众已经超过 1.3 亿人。

不过,值得注意的是,非色情的 Deepfakes 视频也越来越受欢迎。

具体到受害人(被换脸的目标)的性别、国籍和职业等方面,这家公司也对 5 家色情网站和 14 个相关 YouTube 频道的 Deepfakes 视频进行了统计:

报告显示,在色情网站的 Deepfakes 视频中,女性是唯一的受害者;而在 YouTube 上的 Deepfakes 视频中,女性受害者的比例为 39%,男性受害者的比例为 61%。

国籍层面,YouTube 上以美国、英国、加拿大等西方国家人物为目标的 Deepfakes 视频高达 90%;在色情 Deepfakes 视频方面,美英加三国的女性受害者加起来占总数的一半;但韩国的受害女性(大多是 K-pop 歌手)高达四分之一。

在色情网站上的 Deepfakes 中,受害人的职业也受到关注。只有 1% 的受害人从事新闻与媒体行业,剩下 99% 均来自娱乐业。在 YouTube 上,受害者的职业则更加多元,但娱乐业的人物仍占据大多数,少部分受害人为媒体人、政客和企业家。

Deepfakes 的商业化

2017 年 11 月 2 日,一名 Reddit 用户创造了 Deepfakes,随后这项技术传遍全球。现在,随着相关论坛、工具和服务的出现,Deepfakes 也变得越来越商业化——关于 Deepfakes 视频创作社区和论坛的发展是这一变化的关键驱动力,它们为换脸视频创作者提供了探讨交流的平台,也为创作者之间的合作提供了便利。

Deeptrace 的报告发现,目前,包括 Reddit、4chan、8chan、Voat 在内,关于 Deepfakes 视频创作的社区和论坛有 20 个;其中,有 13 个论坛披露了自己的用户数量,总人数大概在 10 万左右;在这 10 万个用户当中,有 4000 多个用户拥有特权。

AI大毒瘤:96%的Deepfakes视频涉及色情

Deepfakes 的商业化不仅体现在社区和论坛上,还有新的电脑 App 和服务。不过,就电脑 App 而言,需要使用者具有编程知识以及强大的图形处理器;但由于“手把手教学”式的使用指南的问世,这一现象很快也会发生改变。还有就是定制 Deepfakes 视频的服务,费用则取决于视频的使用目的以及制作的难度。

Deepfakes 的危害和影响

波士顿大学法学教授 Danielle Citron 曾表示,“Deepfakes 已经成为了攻击女性的武器。"

这是 Deepfakes 最大的危害之一——Deefakes 色情视频里的受害者大多是英美两国的女演员,以及韩国的女歌星,出现频率最高的十位人物(雷锋网按:为了保护这些女性,该报告并没有透露她们的姓名)的总观看人数超过 3000 万;其中出现频率最高的为英国的一位女演员,她一共出现在 257 个 Deepfakes 色情视频中。

Deepfakes 技术在政治方面的影响也不容忽视。CNAS 技术与国家安全项目主任 Paul Scharre 曾警告:

Deepfakes 具有极大的破坏性,利用它来操控选举只是时间问题。

2018 年,加蓬(非洲中西部国家)总统 Ali Bongo 在公众视野中消失了数月,他的健康状况备受关注;为了打消外界图谋不轨的猜测,政府公布了一段 Ali Bongo 录制的新年致辞的视频。然而,Ali Bongo 不同寻常的“出场方式”让外界更加怀疑,军方甚至发动了兵变。实际上,这段视频为 Deepfakes 合成;Ali Bongo 早在几个月前就患了严重的中风。

2019 年,一段关于马来西亚经济部长 Azmin Ali 与男性发生性关系的视频在网络上疯传,甚至搅动了马来西亚的政局(同性性关系在马来西亚属违法行为)。虽然 Azmin Ali 声称这段视频是通过 Deepfakes 技术伪造的,是政治阴谋;但是,国际专家声称找不到伪造迹象。

上述两个例子都是 Deepfakes 破坏政治进程最有力的迹象;除此之外,还有许多因 Deepfakes 而受影响的政治问题。如果没有防御性对策,世界各地民主政体的完整性就会受到威胁。

然而,Deepfakes 对政治领域的影响不仅仅局限于恶意和欺骗,它甚至还催生了一种有关政治讽刺的艺术形式。包括 Mark  Zuckerberg,  Kim  Kardashian 和 Donald Trump 在内的公众人物可能被“操控”,说出自己“违心”的话;这也引发了人们对政治以及社会问题的谈论和深思。

除了政治,Deepfakes 在社交媒体上的恶意应用也开始出现,并且正在影响网络安全格局,比如制作虚假数字身份,以进行欺诈或者是间谍活动。

雷锋网小结

总的来说,Deepfakes 的危害和影响已经蔓延全球。而且,从目前的趋势来看,Deepfakes 背后庞大的受众群体以及灰色的利益链,也让消灭其带来的负面影响变得更加困难。

不过,技术本身无罪,怕就怕在“科技不能向善”。

AI大毒瘤:96%的Deepfakes视频涉及色情

微信公众号搜索" 驱动之家 "加关注,每日最新的手机、电脑、汽车、智能硬件信息可以让你一手全掌握。推荐关注!【微信扫描下图可直接关注

文章价值打分
当前文章打分0 分,共有0人打分
文章观点支持

+0
+0