在指令集架构技术层面,利用 RISC-V 架构优异的开放性和灵活性,玄铁很早定制了面向 AI 应用的指令集扩展。其提出的矩阵运算(Matrix)扩展扩展指令集、优化大模型核心算子 GEMM,可以加速 AI 推理及训练,提升端侧 AI 能效。在处理器上,玄铁 C907 首次实现了 Matrix 扩展,较传统方案提速 15 倍。升级版 C920 ...
一旦RISC-V在指令集层面支持Matrix,意味着RISC-V能同时支持通用计算(串行计算)和专用加速(并行计算)的能力,目前同时具备串行计算和并行计算的代表是英伟达的GH200及GB200系列处理器。与GH200和GB200是借助封装将CPU和GPU融合在一起不同,RISC-V从指令集层面支持Matrix扩展,是从底层支持AI计算,就实现了对AI的...
从x86、Arm到RISC-V,都在制定面向矩阵(Matrix)指令集方向的扩展,因为GAI应用的大部分典型负载的核心运算都需要使用矩阵计算。2021年,Arm宣布在ARMv9-A架构中引入Scalable Matrix Extension(SME)指令集扩展;2023年初,英特尔正式推出了第4代英特尔至强可扩展处理器,集成了Advanced Matrix Extensions(AMX)指令集。
2.https://venturebeat.com/data-infrastructure/ubitium-tackles-edge-ai-and-more-with-new-universal-processor/ 3.https://riscv.org/blog/2024/11/stream-computing-risc-v-matrix-extension-open-source-project-upgrades-to-version-0-5-supporting-vectormatrix-implementation/ 4.https://www.bloomberg.com/...
RISC-V在过去15年里发展势头强劲,从嵌入式系统加速挺进高性能等复杂场景,并为AI算力提供新选择。在RISC-V国际基金会2024年批准的25项标准中,超过一半与高性能或AI相关。基金会理事会主席Lu Dai在大会现场表示,RISC-V指令集最激动人心的进展之一是Matrix扩展,将推动RISC-V成为AI领域令人敬畏的力量。在这轮RISC...
孟建熠强调,RISC-V是为AI计算引擎而生,在指令集架构层面,可以利用RISC-V指令集架构优异的开放性和灵活性,针对AI模型定制化指令集扩展。RISC-V标量、矢量、Matrix也可以支撑不同场景AI算力。“RISC-V在AI领域,具备很高的包容性,可以支持做CPU/DSA,也支持做GPU、多核产品或者近内存计算。随着开源RISG-V架构的...
另外,RISC-V的增长与AI(尤其是边缘AI)的兴起同步。众多企业和研究机构正积极探索其在AI领域的应用,未来有望在AI算力市场占据重要地位。基金会董事会主席Lu Dai指出,RISC-V指令集的Matrix扩展是激动人心的进展之一,将推动其成为AI领域的强大力量。阿里巴巴达摩院资深技术专家李春强介绍说,RISC-V从嵌入式系统加速...
在过去15年里,RISC-V发展势头强劲,已从嵌入式系统加速挺进高性能等复杂场景,并为AI算力提供新选择。在RISC-V国际基金会2024年批准的25项标准中,超过一半与高性能或AI相关。在基金会理事会主席Lu Dai看来,RISC-V指令集最激动人心的进展之一是Matrix扩展,将推动RISC-V成为AI领域令人敬畏的力量。目前,RISC-V...
它采用了9级部分双发顺序流水线架构,实现优秀的计算能效。为提升AI计算能力。C907首次搭载了RISC-V Vector扩展和玄铁Matrix扩展,玄铁Matrix扩展包含矩阵运算和访存指令,支持INT4/INT8/FP16/BF16,面向AI提供128GOPS/GHz~512GOPS/GHz的计算能力。今年8月,新品玄铁R908首次亮相,提供弹性矢量算力,其高实时、高...