商务部：商务部正在抓紧编制电子商务“十四五”规划
06-18
语音播放文章内容 Powered by Shensheng Technology 您的浏览器不支持音频元素。
在人工智能发展的今天，利用AI对照片库进行分类已经不再是什么新鲜事。
然而，这些图片并不全是一个人或一个物体的自画像，而是包含多种背景元素，例如合影、风景照片等。
那么，AI如何让图像分类器进行识别和决策对各种图像进行分类？针对这一问题，外媒相关报道通过相关论文解读进行了解释，雷锋网在不改变原意的情况下进行了整理。
【图片来源：Google 所有者：Google】人们普遍认为，随着人工智能系统复杂性的增加，其可解释性会越来越差。
但研究人员开始使用 Facebook 的 Captum、IBM 的 AI 可解释性工具包和微软的 InterpretML 等库来挑战这一想法，后者解释了深度学习的神经网络框架 PyTorch 如何做出决策。
为了让AI决策更加透明，来自谷歌和斯坦福的研究团队最近开发了一种机器学习模型——基于概念的自动解释（ACE）。
该模型可以自动提取“对人类有意义”的视觉概念，为模型的预测提供信息。
正如研究人员在论文中解释的那样，大多数机器学习解释方法会改变各个特征（例如像素、超像素、词向量）来近似每个目标模型然而，这是一种不完美的方法，因为它很容易受到某些输入的最小变化的影响。
与大多数机器学习解释方法相比，ACE 识别高级概念：它采用经过训练的分类器和一组图像作为输入。
具体来说，ACE 片段图像具有多种分辨率，可以捕获多层纹理、对象部分和对象，然后将相似的片段分组为相同的概念并返回最重要的概念。
为了测试 ACE 的鲁棒性，研究团队使用了 Google 的 Inception-V3 图像分类器模型，在 ImageNet 数据集上对其进行训练，并从数据集中选择了类的子集来应用 ACE。
研究小组指出，被标记为重要的概念通常遵循人类的直觉。
例如，在检测警车时，执法标志比地面上的沥青更重要。
然而，情况并非总是如此，这反映在某些情况下，区别并不明显。
例如，在预测篮球图像时，更重要的是球员的球衣，而不是篮球。
此外，研究人员表示，他们通过人体实验验证了其显着性和一致性，并进一步证实ACE确实携带着显着的预测信号。
同时，研究人员还指出，他们的方法……自动将输入特征分组为高级概念；一些有意义的概念作为连贯的例子出现，这对于正确预测它们呈现的图像非常重要。
值得一提的是，研究人员也承认 ACE 绝不是完美的，因为它也很难有效地提取异常复杂或困难的概念。
然而，他们相信 ACE 提供的关于模型学习相关性的见解将促进机器学习的安全使用。
雷锋网注：本文整理自KYLE WIGGERS在venturebeat发表的文章。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-18
06-21
06-06
06-21
最新文章
3月，腾讯《王者荣耀》在全球App Store和Google Play吸引了2.57亿美元，同比增长63%
生鲜传奇宣布完成数亿元B+轮融资
裁员20%？红杉中国回应：胡说，员工总数不降反升
第二次影视创新“闯”短剧世界：看、留、跳都是钱
ASML：从飞利浦弃儿到光刻之王
宁康瑞珠获数千万元A轮融资 横琴金投、翰颐资本投资
智能金融服务生态平台科客完成A+轮融资
拼多多九鼎：信息披露无懈可击，竞争对手才是“浇水”的