现在几乎所有高端智能手机的图像处理子系统都集成了神经网络。语音记录和语音处理专家会争辩说,我们现在所说的人工智能已经在边缘运行了许多年。
然而,在大多数情况下,这些应用使用的SoC和DSP并不是为现代人工智能工作负载而设计的。随着人工智能技术和部署的发展,出现了一些新的工程挑战:
需要一直运行的超低功耗系统,可以通过电池供电长时间运行,为推理提供快速响应时间。
集成的安全要求可以保护机器学习地图不被篡改或窃取。
需要能够适应人工智能模型和算法快速变化的灵活解决方案
这些趋势增加了寻求服务嵌入式人工智能市场的IP和处理器供应商的风险,目前预计到2024年该市场将达到46亿美元。这些公司现在正在提供高度集成和专用的计算解决方案,以抢占这一业务的份额。
切断电源
随着人工智能在助听器的约束下部署在设备中,功耗成为推理平台的首要考虑因素。Eta Compute已将获得专利的动态电压频率缩放(DVFS)技术集成到其多核SoC中,以服务于这些使用案例。
为了节省功率,许多传统处理器包括睡眠功能,当有负载时唤醒内核。然而,这些设备中的大多数以峰值速度运行内核,这当然需要额外的功率。