工业和信息化部：有序推进工业领域化石能源削减和高效利用
06-18
Deepfake这个AI领域的“大毒瘤”，正在引起越来越多的业界反击。
当地时间1月6日，Facebook全球政策经理莫妮卡·比克特在博客中表示，Facebook将删除符合其标准的Deepfake视频。
这是Facebook打击平台上“操纵媒体”的最新举措。
【图片来源：华盛顿邮报 作者：华盛顿邮报】Monika Bickert 表示：虽然Deepfake视频在互联网上仍然很少见，但其数量的增加将对行业和社会构成重大挑战。
为什么是Deepfake？Deepfake，你可能或多或少听说过这个名字。
年底，美国社交新闻网站Reddit用户Deepfake利用人工智能技术制作了一段“假”色情视频，将卡尔·加朵的脸移植到成人电影女演员的身上，引起轰动。
事实上，换脸在计算机视觉领域是相当常见的。
说到AI换脸方法，一个绕不开的话题就是Cycle GAN，这是换脸的早期重要尝试。
Cycle GAN源自深度学习模型GAN（Generative Adversarial Networks），可以轻松学习两个类别之间的转换关系，因此天然适合“图像到图像的转换”。
但是Cycle GAN保证了语义变化，但不能保证一些细节问题。
最重要的两点是表达式不能一一对应，并且会出现混合且无意义的像素。
与Cycle GAN不同的是，Deepfake是一种深度自动编解码模型（Autoencoder-Decoder）。
通过使用至少数百张源人物和目标人物的照片，训练模型分别识别和恢复两个人的脸部，最终使用源人物的照片与目标人物的解码器进行匹配人来完成转换。
（详见雷锋网此前报道）【图片来源：GitHub 所有者：GitHub】当然，Deepfake也有局限性——他无法进行小样本工作，这意味着他无法用一两张照片替换两张脸。
模型训练的过程也消耗了大量的资源。
雷锋网获悉，由于用户Deepfake制作并上传的换脸视频涉及色情内容，侵犯他人隐私，Reddit正式封禁其账号。
作为报复，Deepfake还将换脸视频的AI代码免费公开。
潘多拉魔盒一旦打开，Deepfake开始依靠自己惊人的发展速度和逼真的换脸效果，最终对社会造成了负面影响。
荷兰网络安全初创公司 Deeptrace 于 2018 年 10 月发布了关于Deepfake现状的报告（详见雷锋网此前的报告），并指出网络上 96% 的Deepfake视频涉及色情内容。
在流传的Deepfake视频中，受害者都是女性；与此同时，娱乐圈名人也成为Deepfake视频的主要对象。
此外，Deepfake对政局的影响力也不容小觑。
其中最典型的两个例子是：2008年，Deepfake创作的加蓬总统阿里·邦戈新年致辞视频引发叛变； 2008年，马来西亚经济部长阿兹敏·阿里与一名男子发生性关系。
这段关系的视频搅动了马来西亚的政治局势（雷锋网注：同性性关系在马来西亚是非法的，阿兹敏·阿里声称该视频是通过Deepfake的技术伪造的，是一个政治阴谋）；正如荷兰网络安全初创公司 Deeptrace 的创始人兼首席科学官 Giorgio 所言：无论是视频、音频还是文本，我们所依赖和信任的多种数字通信渠道都已被破坏。
政府、企业、学术界联手开发Deepfake视频，自然引起了人们的恐慌和深思。
因此，各大科技公司也开始与学术界联手采取行动，避免产生更深层次的负面影响。
正如纽约州立大学工程与应用科学学院卢思伟教授所说：解决这个问题需要技术人员、政府机构、媒体、企业以及每一个网络用户的共同努力。
2020年9月5日，Facebook CTO Mike Schroepfer 宣布，Facebook 正在与微软以及麻省理工学院、牛津大学、康奈尔理工学院和伯克利大学等多所大学合作，研究检测Deepfake的方法。
其成员包括谷歌、苹果、亚马逊、IBM等大型科技公司的研究组织Partnership on AI也参与其中。
此外，Facebook投资1万美元发起“Deepfake检测挑战赛（DFDC）”。
该竞赛于年底在温哥华 NeurIPS 正式启动，并于今年春季结束，从而激励了研究人员和业余爱好者寻找解决方案。
计划。
当月，谷歌 AI 开源了Deepfake视频检测数据集，其中包含真实演员在一年内现场拍摄的 28 个不同场景的多个视频。
今年10月初，美国参议院情报委员会马克·沃纳和马可·鲁比奥召集了Facebook、Twitter、YouTube、Reddit和LinkedIn等11家科技公司负责人，旨在加快制定行业标准并规范分享人工智能合成的内容。
，删除并存档。
月底，Twitter发布了平台实施方案草案，并公开征求用户意见。
正如本文开头提到的，Facebook 最近发布了一篇博客，宣布其针对Deepfake视频的新政策。
该博客提到，Facebook将删除符合以下标准的操纵媒体：过度编辑或合成的视频，误导观众认为视频中的角色说了他们实际上没有说过的话；并利用人工智能或机器学习技术来操纵原始视频素材。
集成、替换或覆盖生成的视频。
值得一提的是，不符合上述标准的视频还将接受第三方事实核查人员的审核（包括Facebook在全球的50多个合作伙伴，他们会用40多种语言进行核查）。
如果视频被评为虚假或部分虚假，Facebook 将大幅减少其在动态消息中的分发，并且用户在分享视频时将收到警报。
同时，Facebook指出，新政策不适用于涉及戏仿或讽刺内容的视频，以及简单进行剪辑或改变讲话顺序的视频。
Facebook的新政策充满争议。
美国智库新美国安全中心CNAS技术与国家安全项目主任保罗·沙尔曾警告称：Deepfake的破坏力极其巨大，他被利用来操纵美国的安全只是时间问题。
选举。
因此，随着2020年美国总统大选的临近，作为全球最大的社交媒体平台，Facebook的此举自然会考虑到政治因素。
雷锋网获悉，莫妮卡·比克特的博客是在她即将出席国会关于网络操纵和欺骗问题的听证会之前发表的。
这或许并非巧合——距离 2018 年大选只剩下 10 个月的时间，政治阶层很少有人对此问题感兴趣。
Facebook对其在民主进程中发挥的作用感到满意，而这项政策的公布似乎是Facebook向当局证明自己的能力。
说到政治，我还记得2016年，美国民主党众议员南希·佩洛西的演讲视频被恶搞（视频速度降低到0.75X，南希·佩洛西的音调也提高了），看起来像是喝醉了。
很快，该视频就传遍了各大社交网络，对当事人的形象产生了很大影响。
对此，Facebook表示，由于该视频是常规剪辑，没有违反任何平台规定，因此不会删除；不过，鉴于其负面影响，Facebook减少了该视频在平台上的传播。
这种做法招致了广泛批评，而Facebook此次推出的“新政”并没有针对类似去年南希·佩洛西视频的虚假内容提供令人信服的策略，因此充满争议。
争议的主要原因如下： 1. 1. 标准一号仅适用于“使观看者误认为视频中的人物说了一些他们实际上没有说过的话”的视频。
也就是说，它不包括那些让观看者错误地认为视频中的人物做了他们实际所做的事情的视频。
Deepfake做他以前从未做过的事情的视频。
其实这是一个很大的漏洞。
Facebook表示，即使Deepfake的视频显示政客焚烧美国国旗、参加白人民族主义集会或与恐怖分子握手，Facebook也不会删除该视频。
虽然上述情况是“极端情况”，但当涉及外交政策、国家安全和选举诚信时，这些情况往往是最紧迫的。
尴尬的是，Facebook发言人确实向美国付费媒体OneZero证实，该平台不会删除这些情况下的视频。
其次，第二个标准对于控制虚假信息的传播作用有限，因为现阶段绝大多数此类视频仍然是通过视频编辑软件进行编辑的。
通过手动删除背景信息或调整词序，视频剪辑师就达到了“断章取义”的目的。
正如纽约大学斯特恩商业与人权中心副主任、政治虚假信息专家保罗·巴雷特所说：根据Facebook的新政策，即使是虚假视频，也不会被删除，因为篡改方法不先进。
第三，Facebook博客中提到的“事实核查政策”存在严重局限性。
美国杂志作家Renée DiResta认为：事实核查政策的一个主要问题是速度太慢。
在真相查明之前，视频继续病毒式传播；如果涉及政治，大多数人都不会相信事实核查。
结果，这甚至可能升级为党派之争。
一个很好的例子是——2009年Facebook推出事实核查机制时，南希·佩洛西的视频已经广为流传，最终并没有被删除，负面影响也没有减少；面对网络暴力，南希·佩洛西还指责唐纳德·团队也负有不可推卸的责任（雷锋网注：南希·佩洛西在视频中谈论的是唐纳德·）。
第四，该政策仅适用于视频。
最近，美国亚利桑那州共和党众议员保罗·戈萨尔在推特上发布了一张前总统巴拉克·奥巴马与伊朗总统握手的假照片。
Facebook证实，这确实不在新政策的涵盖范围之内。
第五，该政策最大的漏洞是它不适用于涉及恶搞或讽刺的视频。
事实上，虚假信息制造者常常以“讽刺”为幌子，一次又一次成功通过Facebook的事实核查，并病毒式传播明显具有误导性的信息。
除非Facebook明确定义什么是“讽刺”，否则Deepfake的视频以“讽刺”为由也并非不可能。
第六，这一政策可能有向强权低头之嫌。
据《纽约时报》报道，Facebook发言人发邮件称：如果符合公共利益，Facebook不会审查政治言论。
如果某个政客违反了平台规则，我们将通过权衡“公共利益价值和损害风险”来进行评估。
对此，《纽约时报》认为，所谓“公共利益价值和损害风险”界定模糊，但可以肯定的是，政客是受保护阶层。
政客似乎比普通人更容易操纵社交媒体。
在批评声不断的同时，也有一些人表达了对这一政策的肯定。
例如，非营利组织WITNESS的项目总监Sam Gregory表示：我认为这个政策很好。
在Deepfake成为话题之前，社交平台首先要明确自己的立场，公布自己的具体政策。
此外，OneZero认为，做得不够也比什么都不做要好。
至少Facebook的新政策考虑到了可能出现的一些典型的Deepfake视频，这在政治上是积极的。
诚然，现在的Deepfake绝大多数都是关于色情的，而不是政治，但Facebook长期以来对裸体和色情的禁令实际上起到了很好的效果。
在雷锋网编辑看来，Facebook长期以来在联合企业、学术界和政府方面所做的努力，确实展现了其作为全球最大社交媒体的社会责任感；但不得不说的是，面对此事，很多女性和明星都深受影响。
对Deepfake不利的是，Facebook 的博客就像一张考虑不周、仓促提交的答卷。
为了有效避免更多的受害者，您可能需要三思而后行。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-17
06-17
06-06
06-18
最新文章
3月，腾讯《王者荣耀》在全球App Store和Google Play吸引了2.57亿美元，同比增长63%
生鲜传奇宣布完成数亿元B+轮融资
裁员20%？红杉中国回应：胡说，员工总数不降反升
第二次影视创新“闯”短剧世界：看、留、跳都是钱
ASML：从飞利浦弃儿到光刻之王
宁康瑞珠获数千万元A轮融资 横琴金投、翰颐资本投资
智能金融服务生态平台科客完成A+轮融资
拼多多九鼎：信息披露无懈可击，竞争对手才是“浇水”的