7月6日,2023世界人工智能大会(WAIC)在上海正式开幕。本届大会的主题是“智联世界,生成未来”。来自本届WAIC首日公开消息:第二代骁龙8移动平台的高通AI引擎荣获2023世界人工智能大会顶级奖项:SAIL奖——卓越人工智能引领者奖。高通公司全球副总裁侯明娟上台领奖。第二代骁龙8凭借面向整个平台的开创性AI智能设计赋能...
它还支持终端侧运行超过130亿参数的生成式AI模型,AI处理速度是竞品4.5倍,面向Windows 11 PC的终端侧聊天助手可实现每秒处理30个token。同时骁龙X Elite整合NPU、CPU和GPU的能力,异构AI引擎使其算力达到了75TOPS。不仅是算力升级,骁龙X Elite还集成了高通传感器中枢(Sensing Hub),集成Micro NPU、始...
高通AI引擎中的关键处理器——Hexagon NPU是高通业界领先的异构计算架构,经过多年研发,高通Hexagon NPU持续演进以满足日益增长的AI需求。从2007年的首款Hexagon DSP到2015年集成AI引擎的骁龙820,再到后续版本中引入的张量加速器和架构更新,高通不断优化NPU以提升性能和能效。除Hexagon NPU,高通AI引擎还包括了高通Ad...
全球首个运行在Android手机上的Stable Diffusion终端侧演示 Stable Diffusion是一个基于输入的文本生成图片的AI模型,它的参数超过10亿,这样的参数规模过去只能在云端计算集群内运行,如今能够在手机终端运行,除了结合高通AI软件栈和AI Studio提供全栈AI能力和优化外,高通AI引擎强悍的AI性能同样不容忽视。全球最快的手机...
异构计算能够实现更好的应用性能、能效和电池续航,以最大化发挥生成式AI终端用户体验。针对异构计算架构,高通打造了高通AI引擎,高通Hexagon NPU、高通Adreno GPU、高通Kryo或高通Oryon CPU、高通传感器中枢和内存子系统。高通AI引擎可以跨所有的处理器组件进行选择,从而更好的发挥产品性能表现。高通AI引擎中,Adreno ...
目前,搭载高通AI引擎的产品出货量已超过20亿,包括智能手机、XR、平板电脑、PC、安防摄像头、机器人和汽车等领域。结语:高通软硬件生态齐头并进,瞄准端侧生成式AI规模扩展 基于高通的NPU和异构计算技术,利用高通AI软件栈(Qualcomm AI Stack),开发者现在可以在高通硬件上更快捷高效地创建、优化和部署AI应用。目前...
比如首先在成本上。据估计,每一次基于生成式 AI 的网络搜索查询,其成本都是传统搜索的 10 倍 ,而这只是众多生成式 AI 的应用之一。如果把这些运算、处理都放在云端,无论对于规模大小的搜索引擎企业来说,都是一笔很不划算的成本负担。将一些处理从云端转移到边缘侧终端,就可以减轻云基础设施的压力并减少开支...
目前搭载高通AI引擎的产品出货量已超20亿,其AI能力广泛渗透于数十亿边缘终端设备,不仅成功构建了一个以“骁龙芯片”为核心的终端AI生态系统,也催生了大量生成式AI应用场景的落地,最终让更多的消费者可以尽早体验和参与到这场由AI所驱动的未来变革之中。除了CPU和GPU性能和能效的双双提升,骁龙8 Gen3更大的升级...
同时高通还增加了面向 AI 处理中非线性功能的硬件加速能力。凭借微切片推理技术,可以把一个神经网络层分割成多个小切片,可以在最多十层的深度上做融合,而市面上的其他 AI 引擎则必须要逐层进行推理。此外,第三代骁龙 8 的 Hexagon NPU 还拥有大共享内存,提供加速器专用电源传输轨道,也为大共享内存带来更大...
首先,高通AI引擎一直都是采用异构计算设计的,它包括了CPU、GPU、NPU(神经网络处理器)以及高通传感器中枢等处理器组件,因此在进行AI处理时,可以灵活选择最佳处理器。此外,NPU作为一颗“AI专用”处理器,在CPU、GPU被占用过高时,依旧能够继续工作,保持AI体验的完整性和连续性。与此同时,高通NPU具备业界领先的每...