人工智能，至少在理论上，给公共部门带来了巨大的希望。但事实上，AI组件集成到公共部门应用中受到这些组件的脆弱性以及它们之间的不匹配的限制。例如，如果机器学习模型是在不同于运行环境中的数据上训练的，那么组件的性能将会大大降低。

这个问题促使卡内基梅隆大学的研究人员研究AI系统集成中的配置类别，确定不同领域的从业者(包括数据科学家、软件工程师和操作员)所做的假设。他们的目标是找到新的方法来清楚地传达适当的信息，同时开发方法来减轻不匹配的影响。

合著者指出，在工作中部署人工智能模型仍然是一个令人生畏的挑战。合著者详细介绍该研究的论文已经在今年的政府和公共部门会议上被人工智能会议接受。这是因为模型的开发和运营通常涉及三个不同的角度：数据科学家、软件工程师和运营人员。第一种方法是建立一个模型并对其进行训练，然后根据一组通用指标对其进行测试。第二个将训练好的模型集成到一个更大的系统中，而第三个部署、操作和监控整个系统。

研究人员表示，这三种观点分别操作，使用不同的术语，导致假设之间的不匹配。因此，模型测试期间使用的计算资源与操作期间使用的计算资源没有什么不同，这导致了性能下降。更糟糕的是，监控工具通常不用于检测模型精度下降或系统故障。

该团队的解决方案是所谓的机器可读ML-Enabled系统元素描述符，这是一种在人工智能系统中实现不匹配检测和预防的机制。描述符对属性进行编码，以便从上述所有角度做出明确的假设。也就是说，它们可以手动使用，并出于信息和评估目的进行监督，或者它们可以通知在设计时和运行时运行的自动不匹配检测器的开发。