玩大的
近日，2022世界人工智能大会(WAIC)在沪举行。本次大会以“智联世界，宇宙无界”为主题，探讨了AI新技术——元宇宙，以及这些新赛道的融合场景和应用。
作为全球领先的科技公司，高通几乎已经成为智能时代“芯片”的代名词。随着AI的崛起，高通在AI领域积极布局，不仅包括AI芯片，还包括众多软件级应用和开发平台，全面赋能AI产业。
高通连续参加了五届WAIC会议。在本次大会上，高通总裁兼首席执行官Ammon发表了主题演讲。从元宇宙到无界XR，从边缘端技术到终端，“赋能产业”成为高通的关键词。
图|高通总裁兼CEO安萌(图片来源：高通)
超宇宙是互联网的未来，也就是太空互联网。作为高通的总裁兼首席执行官，凭借对行业的深刻洞察，安萌对元宇宙有着非常乐观的看法。
诚然，超宇宙可以给几乎每个行业带来改变，因为这是一种全新的体验。想象一下，在一个多维虚拟世界中，它提供了一种高度沉浸式和可定制的新体验，模糊了物理世界和数字世界。会发生什么？
以零售行业为例，基于元宇宙的全新空间和颠覆性体验，会带来更高的客户忠诚度；发展方面，数字孪生在元宇宙越来越受欢迎，在产品开发、药物治疗效果、商用飞机性能监控等领域都能看到它的影子。
不妨把脑洞开大一点，艺术领域能和元宇宙碰撞吗？在沉浸式虚拟空间中，设计师和音乐人也可以用一种新的方式与观众交流。如今，虽然我们可以想象出各种各样的超宇宙应用案例，但安萌在演讲中也提到“我们目前对超宇宙如何影响和改变行业和人们生活的认识还只是冰山一角”。
沿着这个逻辑，我们不禁要问，未来的超宇宙是星辰大海，那么入口在哪里？
这就是问题的症结所在。我们需要入口，入口是连接物理世界和数字世界的通道。XR增强现实设备，增强现实设备，虚拟现实设备，几乎单手就能搞定的智能手机，甚至个人电脑都可以成为“入口”。
智能手表、智能家居等终端将成为元宇宙的物理链接。随着联网终端数量的不断增长，万物互联逐渐实现。这些终端产生的数据会反馈并帮助构建元宇宙，进一步完善元宇宙，进而促进不同形态终端的出现，从而形成螺旋曲线。
终端或入口，他们有一个共同的名字——边。边缘技术对元宇宙的发展非常重要。比如元宇宙是个巨大的仓库，边缘技术不突破，只能望洋兴叹，仓库只能望洋兴叹，不能用。
为了进一步解释这个问题，我们需要引入两个概念进行对比：边缘和云。云技术包括云计算和云芯片，云芯片的特点是性能强大。边缘终端(边缘芯片、边缘计算、边缘AI)的特点是大量的使用场景，不同的场景也需要消耗能量。可以理解为边缘技术的部署更复杂。同样的功能在智能手表上是没有问题的。如果转移到手机上，很可能要重新设计。
(图片来源：pixabay)
那么，为什么不把边缘的计算全部搬到云端，借助云端强大的芯片彻底解放边缘呢？
对此，我们只能说，“想法是好的，但可能做不到。”
第一，云计算面临带宽不足的问题。虽然全世界都在说5G，但实际情况是网络传输的速度很难赶上数据增长的速度，网络传输是个大问题。以无人驾驶汽车为例。在高速条件下，其响应时间需要达到毫秒级，任何网络延迟都会造成严重后果。
再比如波音787飞机每秒产生5GB的数据，但是飞机和卫星之间的传输速度无法处理这么大的数据量，所以把所有数据交给云端处理再回传显然是不现实的。至此，就不难理解为什么边缘端技术如此重要了。——当数据可以在本地(在终端)进行处理，然后与云端进行交互，上述问题就迎刃而解了。
第二，边缘侧技术更加稳定可靠。一个常用的案例是，在没有网络，家里的门锁需要人脸识别才能打开，数据存储在云端的情况下，只能等待。但如果智能门锁使用edge AI，部署edge芯片，即使没有网，也不会延迟扫脸开门。这就是可靠性。
第三点是安全原因。对于一些数据，用户不愿意放在云端，放在本地更放心。
在这一点上，元宇宙、边缘技术和AI是相关的。未来，终端(边缘端)使用的AI芯片的计算能力几乎完全决定了用户体验。这就是我们不厌其烦地强调“边际创新”的原因。用高通总裁兼首席执行官的话说，“AI对塑造用户体验至关重要，因为元宇宙需要学习和适应不断变化的环境和用户偏好。”
或许是对这一点的深刻洞察。高通一直在终端智能领域发力，积极赋能各厂商和开发者。
经过在AI领域十余年的深耕，高通已经成为终端智能领域的全球领导者。这是一个几乎家喻户晓的“骁龙XR”平台，它是专门为满足空间互联网的需求而设计的。作为一个先进的边缘平台，基于骁龙XR的50多个商用设备已经发布。Ziad Asghar是高通产品管理副总裁。在他看来，AI是一种横向赋能技术，可以应用到骁龙支持的各个领域，比如用AI做语音和音频。
如前所述，edge side AI既需要良好的计算性能，也需要较高的功耗。毕竟不是云计算中心。就在去年年底，第七代高通AI引擎上市，在性能上实现了新的突破——功耗和能效。根据Ziad Asghar的说法，从第六代高通AI引擎到第七代，在相同功耗下，AI能力提高了一倍。Hexagon处理器作为第七代AI引擎的核心部件，由标量、张量和矢量加速器组成，三个加速器共享一个统一的共享内存。据介绍，第七代AI引擎的推理速度比上一代提高了3倍。
在边缘侧部署AI的另一个难点是终端类型复杂，有时需要协同工作。比如智能耳机，智能手机。不同的终端要求不同的性能和功耗，因此解决方案必须支持从500毫瓦到15瓦甚至200瓦的功耗区域。另一方面，不同终端产品所需的深度学习架构也有很大差异。例如，移动领域可能需要发电模型，计算领域可能需要变压器模型，汽车ADAS可能需要激光雷达模型。同时，功能需求也大相径庭。Cars和XR需要不同的并发环境，因为它们需要支持更多的并发场景。此外，所需的数据类型也大不相同。
在这种情况下，高通硬件如何解决问题？
通过调整Hexagon处理器中的加速器和内存组件，拼接多个Hexagon处理器，例如，在为计算、云、边缘和汽车领域进行扩展时，更多Hexagon处理器可以协同工作，以扩展和提高性能。这样做的好处是产品可以同时满足毫瓦和微瓦功耗要求。随着高通将其引入更多高性能终端，上述功耗优势可以大规模扩展，形成骁龙独有的优势。
以上列举的都是高通利用硬件优势赋能优势的创新举措。另一方面，与硬件相比，高通最近发布了重磅产品——AI软件堆栈。该产品的出现有望打破传统的AI开发模式。
多场景多终端开发始终是在边缘部署AI的瓶颈。同样的功能需要在不同的终端下重复开发，不仅消耗了开发者的精力，也限制了他们的创造力，因为更多的时间可以花在产品创新上。但是AI软件栈的出现颠覆了这种旧的开发模式。
作为AI开发的“全家桶”，一句话，AI软件栈可以做到“一次开发，多终端使用”。
该产品涵盖了当前所有的高通产品线，并支持所有的框架。包括TensorFlow Micro、TensorFlow、Pytorch和ONNX。支持所有人工智能运行时，包括高通神经网络处理SDK和高通人工智能引擎直接。
AI软件栈使用户能够根据实际需要开发和优化模型。例如，在智能手机领域开发的软件可以很容易地扩展到物联网或任何其他产品线。
除了在硬件和软件方面增强开发人员的能力，高通还投资了模型压缩技术，从神经网络中删除了冗余部分，并创建了更先进的编译技术。这些工作有助于提高模型的能效，帮助客户建立优势。
利用AI Model Synergy Toolkit (AIMET)的无数据量化功能，可以在精度损失不到1%的情况下，将模型从FP32模型转换为INT8模型，能效提升16倍。
通过与谷歌在Google Vertex AI解决方案的神经网络架构搜索上的合作，高通在不影响准确率的情况下，在移动端的自然语言处理上降低了13%的延迟。此外，还将汽车领域的物体检测功能提升了13%，准确率提升了1.3%，对于特定的汽车应用场景来说，这是一个巨大的优势。
在AI领域，大众对边缘端技术了解较少，但更关注云端。这主要是因为终端场景太多，离用户太近，反而有“只身在此山中”的效果。但从全球市场来看，只有edge AI芯片领域有超越云芯片市场的趋势。
据全球科技市场咨询公司ABI研究公司预计，到2025年，边缘AI芯片组市场收入将达到122亿美元，云端AI芯片组市场收入将达到119亿美元。edge AI芯片组市场将超越cloud AI芯片组市场。
随着AI技术的发展和在各行各业的广泛应用，企业需要在强大的设备上解决越来越多的关于数据隐私、电源效率、低延迟和计算性能的问题，这些“问题”成为推动边缘端创新的动力。
高通总裁兼CEO之所以敢说“高通和骁龙已经成为元宇宙的钥匙”，一定程度上是基于高通在边缘AI元宇宙入口的多年深耕和布局。骁龙平台和一系列赋能AI的软硬件工具，正在赋能其他厂商、合作伙伴和开发者，提升他们的开发效率和创新能力。
