6 月 22 日,高通宣告推出一套全新 AI 软件栈(Qualcomm AI Stack),旨在帮助开拓者和企业实现“一次开拓,各端运行”的愿景。
该软件栈是面向 OEM 厂商和开拓者的一套完全的 AI 办理方案,这也是高通首次通过单一的 AI 软件组合,实现跨高通技能广泛产品组合和层级间的自由迁移。

覆盖硬件、软件和工具三大维度,高通 AI 软件栈发布!

如今数字化经济时期的到来,开拓者所利用的底层工具在潜移默化间发生了巨大的改变,传统的一些跨平台工具不敷以支撑全体领域的迭代。

之以是开拓这套软件栈,高通技能公司产品管理副总裁 Ziad Asghar 在接管 CSDN 采访时表示,缘故原由很大略。
“从外部来看,很多互助伙伴的产品不仅会在云端运行,也会在边缘侧运行。
对付一些投入了大量事情来进行开拓的模型,我们希望能确保将这些模型的浸染发挥到极致,让实在用于不同类型的产品,而这显然可以带来巨大上风。
对付高通内部而言,推出高通 AI 软件栈的出发点实在很大略,那便是让我们的开拓事情变得更加轻松、大略。

一次编写运行各端高通重磅宣告 AI 软件栈

详细来看,环绕 AI 技能,当市场不断地从移动领域向其他领域拓展时,诸多企业也正面临着诸多的寻衅。
譬如,过去火爆的智好手机运用开拓比较当下物联网、汽车业务领域存在诸多差异,在不同场景下,功耗需求剖析、模型类型、模型支配办法不同,不同业务对付准确性、功耗以及时延等方面的平衡哀求也各不相同。
此外,不同业务领域所利用的 AI 模型和神经网络模型也不同。

在软硬一体的趋势下,本日,高通用 AI 软件栈这款方案交上了一份答卷。
根据官方先容,高通 AI 软件栈紧张包括三大关键组成部分:硬件、软件和工具。

在硬件上,我们很惊喜地瞥见,这套方案险些能够在所有高通技能支持的终端产品上运行,覆盖了广泛的智能网联边缘产品,包括智好手机、汽车、XR、打算、物联网和云平台,以此实现在某一业务线的投入能够轻松扩展到其他不同领域中。

从下图中可以清晰地看出,由底层向前端开拓的过程中,高通 AI 软件栈还支持不同产品利用的不同操作系统,包括 Android、Windows、Linux 以及面向网联汽车的 QNX 等。
在系统软件层面,该方案能够完全支持系统接口、加速器驱动、仿真支持等。

在更上一层的开拓者库与做事层面,高通 AI 软件栈还支持数学库、编译器和虚拟平台,以及剖析器和调试器,它可以帮助开拓者知晓开拓过程中利用了哪部分神经网络处理,这部分神经网络处理利用的是哪种模型,以及在硬件端该当采取若何的权重进行剖析。

此外,该方案还能够支持编程措辞和核心库。
前面提到的编译器,它可以针对特定内容进行定制化处理,用 Python 只要几行代码就可以完成更多事情,为开拓者供应很多便利。

除了以上,这套 AI 软件栈方案还集成了高通在 AI 领域十余年来的研发成果,如支持高通 AI 模型增效工具包(AIMET),它供应模型量化和模型压缩技能,能够进行量化感知演习(Quantization Aware Training)和无数据演习,将浮点运算模型转化为整数运算模型,比如将 32 位浮点模型转换为 8 位整数模型,使模型能效提升达 4 倍之多;其也供应了开源的 AI 模型增效工具包模型库,方便业界开拓者可以自行评估模型的能效和准确性,找到最适宜的方案;同时,高通 AI 软件栈还供应神经网络架构搜索(NAS)能力,保障低时延和高精度AI打算,同时确保低内存和高能效。

在根本举动步伐上,我们常用的 Prometheus、Kubernetes 和 Docker 均在支持的范围内。

在利用上,OEM 厂商和开拓者将得到高通 AI 软件栈访问权限,通过单个 AI 软件包即可实现更高性能,解锁智好手机、物联网、汽车、XR、云和移动 PC 等智能网联边缘产品的 AI 能力。
基于此,无论是企业,还是个人开拓者,都可以将自身的事情重点放在探索创新的 AI 用例上,而无须关注模型的重复开拓。

如何实现一次开拓,各端运行?

与此同时,高通也供应了诸多统一的 SDK,如面向汽车 ADAS 办理方案的 Snapdragon Ride SDK、面向物联网的高通智能多媒体 SDK,以及 Snapdragon Spaces XR 开拓者平台。

真正想要实现一次开拓的愿景,高通将所有的干系技能整合在一起,由此供应的统一模型可以在无论是音频设备、可穿着设备还是云端,都能够实现跨平台和跨产品线的自由迁移。

现在,开拓者只须要开拓一次,开拓成果就可以在其他产品线上加以利用。
此外,基于高通 AI 软件栈,诸多企业也能够实现在不同产品、不同平台之间的扩展,比如正如上文所述的把最初在移动真个干系开拓履历利用到汽车等其他平台的软件开拓中,也能将如今汽车、XR 等平台的繁芜模型开拓履历带回移动端。

对此,高通技能公司产品管理副总裁 Ziad Asghar 表示:“完全的高通 AI 软件栈产品组合无疑是一项巨大打破,它将推动 OEM 厂商和开拓者的 AI 开拓,为高通技能公司的广泛产品组合带来高性能表现。
我们很高兴借助这一全新产品组合进一步扩展公司的统一技能路线图,并扩大在智能网联边缘的领先上风。

造诣一亿技能人