半导体激光芯片柠檬光子获5000万元A+轮融资，由德联资本领投
06-18
近年来，机器学习作为人工智能行业的“最大事件”，取得了巨大的成就前所未有的发展。
其中，基于计算机视觉的人脸识别技术已经渗透到社会生活的各个方面。
然而，这些看似“聪明”的AI系统却往往表现出“脆弱”的一面。
例如，在一些训练数据无法覆盖的极端场景下，自动驾驶汽车的识别系统可能会做出令人难以置信的决定，引发导致死亡的严重事故。
此外，这种极端情况还可能被恶意制造并利用来发起“对抗性样本攻击”，即通过对输入数据进行肉眼难以察觉的细微修改，误导识别系统做出错误的判断。
例如，百度、腾讯等研究机构人为制造“障碍”，误导自动驾驶汽车，导致车辆驶入错误车道，甚至面临相撞风险。
事实上，这些安全风险都是由于现有人工智能的技术缺陷，即算法漏洞造成的。
随着人工智能的应用逐渐从语音识别、人脸识别等有限场景延伸到金融决策、医疗诊断、自动驾驶等关键核心场景中，算法漏洞的威胁将日益凸显。
为了解决上述问题，一些科技公司开始了相关的??研究和应用开发，包括百度开发的对抗样本工具包AdvBox，以及推出的检测模型和对抗攻击的开源工具箱ART（Adversarial Robustness Toolbox）由 IBM 提供。
近日，一家定位“安全可控的第三代人工智能”的创业公司——清华大学人工智能研究院孵化的RealAI（瑞来智能）正式发布了业界首个针对极端对抗环境下的人工智能安全算法。
检测加固工具平台——RealSafe人工智能安全平台。
与百度、微软推出的工具不同，RealSafe是算法安全领域首款平台级产品。
业界首个极端对抗环境下AI算法安全检测与加固工具平台。
业界首款AI模式“杀毒软件”，RealAI开辟新业务赛道。
RealAI CEO田甜表示，这与利用AI技术赋能人不同。
在网络安全、安全等传统安全领域，算法安全重点关注人工智能本身的安全。
这种安全风险本质上是人工智能的“技术短板”造成的，也将是制约人工智能发展最明显的“软肋”。
目前，学术界和工业界都开始认识到算法安全的重要性。
中国信息通信研究院编制的2016年安全研究报告中，“算法安全”被列为六大安全风险之一但在具体应对措施方面，仍存在诸多挑战。
首先，作为一个新兴领域，业界对于如何评估算法模型的安全性并没有明确的定义。
随着攻击和防御的发展，对抗样本等新的攻击方法层出不穷，且变得更加复杂。
尤其是在开源社区和工具包的支持下，先进而复杂的攻击手段正在迅速增长。
但相关防御手段难以及时升级。
赶上。
其次，检测对抗性样本等算法漏洞存在较高的技术壁垒。
目前，市场上缺乏自动化检测和评估工具，大多数公司和组织不具备该领域的专业技能来正确应对日益增长的恶意攻击。
因此，在潜在层面上，随着人工智能的大规模应用，算法漏洞带来的安全威胁将会不断升级。
因此，天天表示，就像网络安全时代一样，网络攻击的大规模渗透催生了杀毒软件。
RealAI团队希望通过RealSafe平台打造人工智能时代第一款“杀毒软件”，帮助企业有效应对人工智能时代的算法。
从漏洞中孕育出“新病毒”。
从安全评估到防御加固，RealSafe高效应对算法威胁。
据介绍，RealSafe平台提供从算法安全评估到防御加固的整体解决方案，主要支持模型安全评估和防御解决方案两大功能模块。
其中，模型安全评估主要为用户提供AI模型安全评估服务。
用户只需接入所需评估模型的SDK或API接口，选择平台内置或自行上传的数据集即可。
该平台将基于多种算法生成对抗样本模拟攻击，并将其与不同算法、迭代次数和扰动量相结合。
受到攻击时模型效果的变化，并提供模型安全评分和详细的评估报告。
目前支持黑盒查询攻击方式和黑盒迁移攻击方式。
防御解决方案是为用户提供模型安全升级服务。
目前，RealSafe平台支持五种通用的去除对抗性噪声的防御方法，可以自动对输入数据进行去噪，破坏攻击者恶意添加的对抗性噪声。
在外部防御效果方面，根据实测，部分第三方人脸比对API使用RealSafe平台的防御方案进行加固后，安全性可提升40%以上。
此外，为了帮助更广泛的企业有效应对算法威胁，RealSafe平台还具有以下两大优势： 组件化、零编码在线评估：与ART、FoolBox等开源工具相比，这些工具需要自行部署和编码，RealSafe平台采用组件化、零编码的功能设置，消除了重新发明轮子的精力和时间消耗。
用户只需提供相应数据即可在线完成评价。
学习成本低，无需具备专业算法技能即可上手。
评估结果可视化、可量化：为了帮助用户提高对模型安全的认知，RealSafe平台采用可量化的形式展示安全评估结果，并根据模型在对抗性样本攻击下的表现对模型进行评分。
分数越高，模型越好。
安全性越高。
此外，RealSafe平台提供安全变化展示，防御处理后的安全评分变化和模型效果变化一目了然。
随着模型攻击手段的复杂性不断扩大，RealSafe平台将持续提供广泛、深入的AI防御手段，帮助用户获得实时、自动化的漏洞检测和修复能力。
从数字世界到物理世界，RealAI推出更多安全周边产品。
随着机器学习模型的不断升级和进化，“对抗样本”已经演变成一种新的攻击方式，并逐渐从数字世界蔓延到物理世界。
因此，RealAI团队除了推出数字世界算法模型的安全评估平台外，还与清华大学人工智能研究院合作，基于多年积累的世界领先研究成果，推出了一系列AI攻防安全产品。
多年来，旨在保护更多场景。
。
例如，通过佩戴带有对抗性样本图案的“眼镜”，黑客可以轻松破解商用手机的面部解锁，通过在胸前张贴特殊图案实现AI监控下的“隐身”，通过在车辆上涂上特殊图案进行躲避。
车辆人工智能检测。
当发现类似的新漏洞时，RealAI也推出相应的防御技术，支持主流AI算法中安全漏洞的检测，并提供AI安全防火墙，有效拦截针对AI模型的攻击。
人工智能浪潮即将到来，随之而来的安全风险也将变得越来越多样化。
尤其是近年来，因人工智能技术不成熟而引发的侵权风险也频频发生。
可以说，算法漏洞已经逐渐成为网络安全的下一个重大问题。
，继数据安全之后的又一大安全问题。
RealSafe人工智能安全平台的出现，不仅降低了垂直行业应对安全风险的门槛和成本，其标准化的平台级产品也是人工智能安全新兴领域走向健康可控的重要标志。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-06
06-18
06-18
06-18
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态