7月6日，2023世界人工智能大会（WAIC）在上海正式开幕。本届大会的主题是“智联世界，生成未来”。来自本届WAIC首日公开消息：第二代骁龙8移动平台的高通AI引擎荣获2023世界人工智能大会顶级奖项：SAIL奖——卓越人工智能引领者奖。高通公司全球副总裁侯明娟上台领奖。第二代骁龙8凭借面向整个平台的开创性AI智能设计赋能...
近日，高通特别发布了《通过NPU和异构计算开启终端侧生成式AI》白皮书，对于终端侧生成式AI的发展趋势，以及高通骁龙处理器的多模块异构计算引擎，尤其是NPU的设计及优势，都进行了详细解读。生成式AI虽然这两年才火热起来，但是AI的发展历史悠久，高通也早在2007年就打造了Hexagon DSP，其控制和标量架构正是后续NPU的基...
它还支持终端侧运行超过130亿参数的生成式AI模型，AI处理速度是竞品4.5倍，面向Windows 11 PC的终端侧聊天助手可实现每秒处理30个token。同时骁龙X Elite整合NPU、CPU和GPU的能力，异构AI引擎使其算力达到了75TOPS。不仅是算力升级，骁龙X Elite还集成了高通传感器中枢(Sensing Hub)，集成Micro NPU、始...
更进一步来看，通过定制设计NPU并控制指令集架构，高通可以快速进行设计演进和扩展，以解决瓶颈问题并优化性能。二、异构计算成为AI新时代必需品 有了NPU还不够，做好异构计算同样重要。异构计算可以发挥每种处理器的优势，比如NPU擅长标量、向量和张量数学运算，更适用于核心AI工作负载。高通AI引擎就是高通的异构计算架构...
高通AI引擎中的关键处理器——Hexagon NPU是高通业界领先的异构计算架构，经过多年研发，高通Hexagon NPU持续演进以满足日益增长的AI需求。从2007年的首款Hexagon DSP到2015年集成AI引擎的骁龙820，再到后续版本中引入的张量加速器和架构更新，高通不断优化NPU以提升性能和能效。除Hexagon NPU，高通AI引擎还包括了高通...
据悉,高通AI引擎采取异构计算架构,包括CPU、GPU、Hexagon处理器和高通传感器中枢。在软件方面,高通的AI软件栈提供了一个集成所有AI框架(如TensorFlow、PyTorch、ONNX、Keras)、开发者库、系统软件和操作系统的整合平台,有不同层面的架构支持,能够助力开发人员一次开发,即可跨不同终端和操作系统进行扩展。而且,最新一代的...
同时高通还增加了面向 AI 处理中非线性功能的硬件加速能力。凭借微切片推理技术，可以把一个神经网络层分割成多个小切片，可以在最多十层的深度上做融合，而市面上的其他 AI 引擎则必须要逐层进行推理。此外，第三代骁龙 8 的 Hexagon NPU 还拥有大共享内存，提供加速器专用电源传输轨道，也为大共享内存带来更大...
第一就是我们的硬件高通AI引擎。可以看到，高通AI引擎既有通用的CPU、GPU硬件加速单元，还有一颗专门为大算力AI工作负载而设计的高性能AI硬件加速单元Hexagon处理器。在此之上我们还有另外一块单独的超低功耗处理器，高通传感器中枢，适用于一些始终开启功能，比如相机、屏幕和语音唤醒等等。这些模块共同构成了一整套异构...
比如首先在成本上。据估计，每一次基于生成式 AI 的网络搜索查询，其成本都是传统搜索的 10 倍 ，而这只是众多生成式 AI 的应用之一。如果把这些运算、处理都放在云端，无论对于规模大小的搜索引擎企业来说，都是一笔很不划算的成本负担。将一些处理从云端转移到边缘侧终端，就可以减轻云基础设施的压力并减少开支...
从摄影的数字化革命,到即时翻译的便捷,再到智能语音助手的无所不能,AI在智能手机上的应用正深刻改变着我们的生活方式。全新一代骁龙8移动平台集成的第7代高通AI引擎,正是这一变革的催化剂。🚀 性能与能效的双重提升 第7代高通AI引擎配备了超高性能的Hexagon处理器,其张量加速器性能和共享内存容量较前代提升了2...