首页 > 科技未来 > 内容

微软Facebook出手了！深度造假作为邪恶的工具会消亡吗？

发布于：2024-06-17 编辑：匿名来源：网络

雷锋网消息，9月5日，Facebook CTO Mike Schroepfer发表博文宣布，Facebook正在与微软和多所大学联合研究检测deepfakes的方法，甚至投资1万美元发起竞赛，鼓励开发deepfakes检测研究。

在Deepfakes引发的“恶”年，一位ID为Deepfakes的网友在Reddit网站上上传了一段换脸视频，随后又上传了一系列类似视频；由于该换脸视频涉及色情内容，侵犯了他人的权利、隐私，引起了恶劣的反响。

最终，Reddit 正式封禁 Deepfakes。

作为报复，Deepfakes 还向公众免费发布了换脸视频的 AI 代码。

自此，Deepfakes 视频像病毒一样在全球传播。

无论是明星还是政客，都有可能变脸。

Deepfakes 受到压制的部分原因是人们对这项技术的强烈担忧。

尽管Deepfakes经常被用在恶搞视频中，而且人们认为它们是无害的；然而，如果它们出现在政党竞选领域，那就可能是另一回事了——有专家表示，在2019年美国总统大选之前，可能会有更多关于政客的Deepfakes出现。

目前，还没有任何 Deepfakes 换脸视频在美国造成重大政治后果。

然而，一段美国众议院议长南希·佩洛西的低画质视频近日在网络上流传。

视频片段中，南希·佩洛西的讲话被人为放慢，这让她看起来含糊不清，产生了负面影响。

更重要的是，使用该技术的成本越来越便宜。

互联网上有一些团队正在开发制作简单 Deepfakes 视频的市场；他们甚至在 YouTube 上上传教程，教人们如何制作 Deepfakes 视频，并收取一定的费用；还有一些自助网站可以帮助生成 Deepfakes 视频。

这两天火爆朋友圈的换脸应用ZAO，大大降低了人们体验这项技术的门槛——不需要P图技术、编码知识、专业设备；只需要一部手机和一张照片，就可以快速生成变脸视频；效果逼真，动作流畅。

而且，一旦用户上传自己的照片并同意该软件的用户协议和隐私协议，其肖像权和隐私权可能会面临巨大的风险。

每个人都在火上浇油。

正如一开始提到的，许多组织已经开始针对 Deepfakes 的负面影响采取行动。

Facebook 已与学术界和工业界联手，研究如何以低成本检测视频中的深度造假。

雷锋网获悉，该项目的参与者包括康奈尔理工大学、麻省理工学院、牛津大学和加州大学伯克利分校；非盈利研究组织Partnership on AI也参与其中，其成员包括谷歌、苹果、亚马逊、IBM等大型科技公司。

Facebook的声明还引用了多所大学的教授的话；其中，纽约州立大学工程与应用科学学院的陆思伟教授表示：虽然 Deepfakes 视频可能看起来很真实，但它们毕竟是算法生成的，而不是摄像机捕捉到的真实事件；这意味着它们仍然可以被检测到。

一些有前途的新方法可以检测和减轻深度伪造的有害影响，包括在视频片段中添加“数字指纹”以帮助验证其真实性。

此外，解决这个问题需要技术人员、政府机构、媒体、企业以及每一个网络用户的共同努力。

作为该项目的一部分，Facebook 还投资了 10,000 美元参加将于今年年底开始、明年春季结束的竞赛；还会有一个排名列表来评估 Deepfakes 检测系统的能力。

从某种程度上来说，发起竞赛是激励研究人员和业余爱好者寻找解决方案的明智之举。