很多文章的报道都是由微观而宏观，今日小编讲给大家带来的关于研究人员解决了人工智能黑匣子问题的神秘的资讯也不例外，希翼可以在一定的程度上开阔你们的视野！y有对研究人员解决了人工智能黑匣子问题的神秘这篇文章感兴趣的小伙伴可以一起来看看

研究人员旨在阐明人工智能中最重要的问题之一。

人工智能计算系统正在进入我们生活的许多不同部分，并具有巨大的潜力，从自动驾驶车辆，协助医生诊断健康状况到自动搜索和救援机器人。

但是，一个未解决的主要问题，特殊是在AI的“神经网络”分支中，是当事情出错时，科学家常常无所适从地解释其原因。这是由于对AI系统中的决策缺乏了解。此问题称为“黑匣子”问题。

由兰开斯特大学领导，利物浦大学参与的一个为期15个月的新研究项目，将寻求消除黑匣子问题的神秘，并探究创建“深度学习” AI计算模型的新方法，从而做出决策是透明且可解释的。

该资金是通过爱丁堡机器人中心(赫里奥特·瓦特大学和爱丁堡大学)治理的``资产证明离岸机器人技术''(ORCA)中心获得的，该中心负责开辟机器人技术，人工智能和自主系统。用于离岸领域。合作伙伴资源资金(PRF)通过确定的空白，创新的补充研究或合作项目来奖励与现有ORCA战略主题相关的研究活动。资金奖励将通过明确定义的影响加速活动来促进中心的研究和技术。PRF使中心能够将其当前的工作扩展到具有明确确定的工业需求的新领域。

“迈向负责且可解释的学习型自主机器人系统”项目将为开辟AI算法开辟一系列安全验证和测试技术。这些将有助于保证系统做出的可靠且可解释的决策。

研究人员将使用一种称为“对抗训练”的技术。这涉及向系统呈现给定的情况，在该情况下，系统将学习如何执行操作-例如识别和拾取对象。然后，研究人员更改场景中的各种元素，例如颜色，形状，环境，并观察系统如何通过反复试验来学习。研究人员认为，这些观察结果可以使人们对系统的学习方式有更深入的了解，并提供有关其决策制定的见解。

通过开辟创建可以理解和预测决策的神经网络系统的方法，这项研究将成为释放对安全至关重要的领域(例如车辆和机器人)中的自治系统的关键。

兰开斯特大学计算机与通信学院讲师 兼项目首席研究员阮文杰博士说：“尽管深度学习作为最杰出的AI技术之一，已经在许多应用程序中取得了巨大成功，但是当存在深度学习时，它就有自己的问题。适用于对安全至关重要的系统，包括不透明的决策机制和对抗攻击的脆弱性。

“该项目为我们提供了一个很好的机会，可以弥合深度学习技术与安全关键系统之间的研究差距。

“我们将与利物浦大学的研究人员合作，通过借鉴安全验证和测试技术的最新发展，开辟一种负责任且可解释的深度学习模型。

“这项研究最终将使最终用户能够理解和信任深度学习模型在各种安全关键系统中做出的决策，这些系统包括无人驾驶汽车，救援机器人以及医疗领域的那些应用。”

利物浦大学讲师兼该项目的联合研究员黄晓伟博士说：“该项目具有巨大的潜力，对人工智能，机器人技术和自治系统都产生了重大影响，而人工智能技术已被广泛使用。除了理论上的进步外，该项目还将提供有用的方法，工具和演示，以为安全可靠的机器人系统的工业进展提供指导。”