返回顶部
返回首页
返回首页
home 您现在的位置: 首页 >系统及软件>市场评论 > 详细信息
打破人工智能使其更好
2022年07月01日    阅读量:115     新闻来源:中国机器人网 vrovro.com    |  投稿

今天用于图像识别的人工智能系统功能强大,具有巨大的商业应用潜力。然而,当前的人工神经网络鈥攖支持图像识别的深度学习算法鈥攕uffer有一个巨大的缺点:它们很容易被甚至是轻微修改的图像破坏。

对于希望构建更好的人工智能的研究人员来说,缺乏“稳健性”是一个重大障碍。然而,这种现象发生的确切原因以及背后的潜在机制在很大程度上仍不清楚。

为了有一天克服这些缺陷,九州大学信息科学与电气工程学院的研究人员在《公共科学图书馆·综合》上发表了一种称为“原始零拍”的方法,该方法评估神经网络如何处理未知元素。这一结果可以帮助研究人员识别使人工智能“不稳健”的共同特征,并开发出纠正其问题的方法。

“图像识别神经网络在现实世界中有一系列应用,包括自动驾驶汽车和医疗保健中的诊断工具,”领导这项研究的Danilo Vasconcellos Vargas解释道。“然而,无论人工智能训练得多么好,只要图像发生一点变化,它都可能失败。”

在实践中,图像识别人工智能在被要求识别一个样本图像之前,对许多样本图像进行“训练”。例如,如果你想让人工智能识别鸭子,你首先要在许多鸭子的图片上训练它。

尽管如此,即使是训练有素的人工智能也可能被误导。事实上,研究人员发现,图像可以被操纵成鈥攚尽管在人眼看来可能没有变化鈥攁人工智能无法准确识别它。即使是图像中的单个像素变化也会引起混淆。

为了更好地理解为什么会发生这种情况,该团队开始研究不同的图像识别AI,希望能够识别它们在面对未经训练的样本时的行为模式,即AI未知的元素。

“如果你给人工智能一个图像,它会告诉你它是什么,无论答案是否正确。因此,我们今天选择了12个最常见的人工智能,并应用了一种称为“原始零拍学习”的新方法,”Vargas继续说。“基本上,我们给人工智能提供了一系列没有提示或训练的图像。我们的假设是,它们的回答方式会有相关性。它们可能是错误的,但以同样的方式是错误的。”

他们的发现就是这样。在所有情况下,图像识别AI都会生成一个答案鈥攚hile错了鈥攚应该是一致的,也就是说它们会聚集在一起。每个簇的密度将指示人工智能如何根据其对不同图像的基础知识处理未知图像。

瓦加斯说:“如果我们了解人工智能在做什么,以及它在处理未知图像时学到了什么,我们可以用同样的理解来分析为什么人工智能在面对单像素变化或轻微修改的图像时会中断。”。“通过将我们获得的知识应用于不同但相关的问题来解决一个问题,这就是可转移性。”

研究小组观察到,胶囊网络,也称为CapsNet,产生了密度最大的簇,使其在神经网络中具有最佳的可传递性。他们认为这可能是因为CapsNet的动态特性。

Vargas说:“虽然今天的人工智能是准确的,但它们缺乏进一步实用性的稳健性。我们需要了解问题是什么以及为什么会发生。在这项工作中,我们展示了一种研究这些问题的可能策略。”。

“我们必须研究提高稳健性和灵活性的方法,而不是只关注准确性。这样我们才能开发出真正的人工智能。”

标签:产品资讯高端访谈人工智能市场评论系统及软件
免责声明: 本文仅代表作者本人观点,与中国机器人网无关。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。本网转载自其它媒体的信息,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。客服邮箱:service@cnso360.com | 客服QQ:23341571

全站地图

深圳网络警察报警平台 深圳网络警
察报警平台

公共信息安全网络监察 公共信息安
全网络监察

经营性网站备案信息 经营性网站
备案信息

中国互联网举报中心 中国互联网
举报中心

中国文明网传播文明 中国文明网
传播文明

深圳市市场监督管理局企业主体身份公示 工商网监
电子标识