直到最近，人工智能还很难在华尔街立足。不再是了。

过去几年，高盛、摩根大通等大型投行从学术界以外聘请AI专家，由这些专家负责其内部的AI部门。科技初创公司已经开始使用机器学习算法来建立信用评级模型和检测欺诈。对冲基金和高频交易员正在使用人工智能进行投资决策。

政治家们开始注意到。10月中旬，众议院金融服务委员会新成立的人工智能特别工作组举行了一次听证会，讨论人工智能如何引起金融业对数据隐私的重视。6月，参议员伊丽莎白伊丽莎白沃伦呼吁联邦监管机构打击金融机构的“算法歧视”，并指出金融科技公司通常向少数群体收取更高的利率。

人工智能还可以从根本上改变我们金融体系的运作方式。在我们知道这些变化将如何发生之前，我们将无法应对它们。在过去的十年里，更广阔的人工智能领域取得了巨大的进步。我们已经看到AI击败了世界上最好的“Jeopardy”选手和古老的棋盘游戏围棋，发现了与楼格赫里希氏症有关的未知基因和凤凰城街头的无人驾驶汽车。这些成就归功于更好的算法、更强大的计算机和越来越大的数据集。

出于许多原因，人工金融智能在华尔街的兴起应该受到称赞。如果我们能找到一种更有效地分配资金、更准确地识别风险或简单地赚钱的方法，那将是一件好事。可以让商业运作顺畅，至少理论上可以提高所有船只的效率。

但每个新工具都有其怪癖和风险，人工智能也不例外。

金融中的AI问题源于AI算法的工作方式。今天，当人们谈论人工智能时，他们实际上是在谈论计算机科学的一个特定领域，即机器学习。机器学习算法将获得大量信息，并通过识别信息中的模式来预测未来事件。这个复杂的系统是基于驱动人工智能的数据。

然而，使人工智能在其他领域如此成功的独特功能，也使其在应用于金融领域时非常危险。这些威胁反映了导致上一次金融危机的问题，当时复杂的衍生品和人们对次级抵押贷款的缺乏了解使世界陷入了严重的萧条，这一点必须引起重视。

首先，人工智能可能会通过助长非理性繁荣的火焰，导致金融泡沫变得更大或持续更久。机器学习算法依靠大数据集来预测世界。

如果用于做出这些预测的数据已经过时，可能会造成财务混乱。

想象一下，如果你在一个包含1992年至2000年股市回报的数据集上训练AI，它可能会得出科技股总是跑赢非科技股的结论，因为它在这段时间确实如此。2002年互联网泡沫破灭后获得的信息并不能改变这个结论。由扭曲的数据训练的AI算法很可能将更多的钱投入科技股，进一步扩大泡沫。

人工智能的乐观主义者肯定会说，人工智能有局限性，但负责任的决策者会意识到并做出适当的回应。只是AI工具箱里的又一个工具。

然而，由于人工智能算法非常复杂，并且依赖于数据，因此很难理解它们是如何工作的。复杂而难以理解的金融工具的泛滥是2007年金融危机的根源，也很可能是下一次危机的根源。

我们从上一次崩盘中学到，当一些事情很难理解的时候(比如抵押债务义务为了安全起见，把各种风险很大的次级抵押贷款打包在一起)，人们也很难猜测。如果金融决策者有一个包含明确“答案”的AI提案，并声称是基于数百万条信息，那么他们将很难忽视。它可能不再是拐杖之类的工具。

或许最重要的是，我们不确定在华尔街的丛林中，AI算法是如何相互影响的。在资本市场中，股票价格很大程度上取决于市场中其他参与者的决策。如果大多数参与者都是人工智能驱动的，并且他们采用大致相似的机器学习策略，那么当他们回忆起所有人都涌入(或流出)股票时，他们可能会产生回声效应。因此，闪存崩溃可能会变得更加频繁。

鉴于出现了一种简单但具有破坏性的有效对抗策略，这种策略试图让AI算法以一种意想不到的方式运行，这特别令人不安。例如，一项研究发现，在停车标志上贴一些小的黑白贴纸会欺骗图像识别算法，使其永远无法识别。

尽管这给无人驾驶汽车带来了重大问题，但它可能会对金融领域造成严重损害。不良行为者可能会传播已知会导致投资算法失败的金融信息，或者故意操纵数据来掩盖欺诈行为。

沃伦让人们关注金融领域的人工智能问题是正确的，他建议联邦监管机构应该认真对待她的担忧。这不仅仅是一个“危险”或围棋游戏。这是为了确保技术为所有人带来更好、更公平、更高效的金融服务。