中关村集成电路设计园正式开园
06-06
AI产生的内容也需要有“身份证”。
近期，OpenAI、Meta等七家科技公司承诺将采取一些安全措施来增强AI技术的安全性。
值得注意的是，在承诺中，这七项技术的巨头都谈到了人工智能的监管问题，并承诺共同开发和应用一个水印系统，可用于人工智能生成的所有形式的内容，包括文本、图像、音频和视频。
通过关注内容中嵌入的水印，用户可以识别人工智能生成的深度造假图像或音频，从而降低用户端传播暴力、欺诈等负面信息内容的风险。
▲图片来自：Pexels，下同。
事实上，自去年ChatGPT爆火以来，巨头这位入局的科技选手势必在这场比赛中占据领先地位，AI技术发展迅猛。
随后，不成熟的人工智能技术也引发了一些值得关注的问题，首先是如何识别信息内容的真实性。
2017年，诈骗犯利用AI语音模仿软件冒充公司的大老板，成功让英国一家能源公司的首席执行官误认为他正在与德国母公司的老板交谈。
通话中，诈骗犯依靠AI技术模拟的声音，要求CEO立即将22万欧元（注：约1万元人民币）转入匈牙利一家供应商的银行账户，以避免支付“滞纳金”，并要求转移 被转移 信息通过电子邮件发送。
CEO被模拟声音骗了，毫不犹豫地这么做了。
那么，这22万欧元就被“浪费”了。
为这家能源公司承保的保险公司表示：“诈骗者使用了某种人工智能软件，不仅可以模仿别人的声音和语调，甚至可以模仿带有德国口音的英语。
”被欺骗的首席执行官在一封电子邮件中愤怒地写道：“（假）“约翰内斯”甚至在我与真正的约翰内斯交谈时要求与我交谈。
”这一离谱的事件也普遍引发了用户对AI无序发展的担忧。
。
当非常规人工智能技术用于诈骗时，它更像是“猜猜我是谁？”的进化版。
但面对降维攻击，普通人的警惕似乎毫无用处。
而这还只是发生在2008年的事件，短短三年时间，AI技术的飞速发展足以让人瞠目结舌，信息内容的真实性问题也再次回到了公众的视野。
如果我们以“人工智能诈骗”为关键词，在搜索引擎上筛选最新信息，就会发现关于人工智能诈骗的事件很多。
这种普遍现象反映出迫切需要采取有效措施。
今年6月，欧洲议会以赞成票、28票反对、93票弃权的高票通过了欧盟的《人工智能法案》，明确了人工智能监管中难以逾越的红线，根据人工智能的四个级别（从风险最小到最低）到不可接受），这明确表明ChaTGPT等工具必须公开人工智能生成的内容，以帮助区分所谓的深度伪造图像和真实图像，并确保防止生成非法内容。
MEP Tudorach 表示：“如果人工智能开发商不这样做，他们可能会被迫立即删除该应用程序或被处以最高收入 7% 的罚款。
” “这可能达到数亿欧元。
”对于巨头来说，罚款堪称“摔断骨头”。
因此，齐家科技的巨头选择在技术层面在信息内容中嵌入水印。
一方面，有利于用户识别信息内容的真伪，方便用户追溯信息内容的来源。
另一方面，也是对《人工智能法案》的无声回应。
毕竟，即便是苹果这样实力雄厚的公司，也不敢轻易放弃欧盟市场。
当然，虽然这只是治标不治本，但先言后行，还是好事。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-06
06-17
06-17
06-17
06-06
06-18
06-17
06-06
06-17
06-17
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态