部署成本低：昇腾910C推动企业AI部署成本降至传统方案的20%，这使得更多企业能够以较低的成本进行AI部署，加速AI技术在各行业的应用和推广。技术与架构 先进制程与封装：昇腾910C采用中芯国际第二代7nm（N+2）工艺，集成约530亿个晶体管，通过Chiplet双芯片封装技术将两颗昇腾910B Die整合
华为ASCEND 910B单卡服务器搭载了华为昇腾910 AI处理器，这是一款专为AI计算设计的高性能芯片 。昇腾910处理器采用7nm工艺制程，单芯片提供最大256 TFLOPS的FP16半精度计算能力，支持全场景AI应用，尤其在训练超大规模深度神经网络模型方面表现出色 。这种强大的计算能力使得ASCEND 910B能够高效处理复杂的AI任务，如深度...
近期,英伟达(NVIDIA)在其最新的财务报告中首次将华为昭示为其在AI芯片领域的主要竞争对手,这一个信号无疑向世界宣告了中国科技公司在全球高科技市场的崛起。华为自主研发的Ascend系列芯片,特别是主打的Ascend 910B芯片,已在全球AI芯片市场中展露头角,与英伟达展开了正面的竞争。 这一声明不仅标志着华为技术实力的提升,...
从 Playground 的实际测试来看，使用 llama-box 在昇腾 910B 上运行 Qwen 2.5 72B 的推理性能表现为 6 Tokens/s 左右，NPU 利用率在 10~30%左右：以下为 Qwen 2.5 全系列模型在昇腾 910B 上的推理性能表现汇总数据，包括 Qwen2.5 0.5B、1.5B、3B 的 Q8_0 和 Q4_0 量化的推理性能数据作为对比参考...
在昇腾Ascend 910B上运行Qwen2.5推理 目前在国产 AI 芯片,例如昇腾 NPU 上运行大模型是一项广泛且迫切的需求,然而当前的生态还远未成熟。从底层芯片的算力性能、计算架构的算子优化,到上层推理框架对各种模型的支持及推理加速,仍有很多需要完善的地方。 今天带来一篇在昇腾 910B 上运行 Qwen 2.5 执行推理的操作实践...
华为的光刻机过关后只要产能出来了,英伟达这些不死才怪。当初P70的芯片经美国拆机后得出的结论是完全自主达到了国际先进水平。现在华为面向中国市场推出的尖端Ascend 910B AI芯片,其在性能上已超越英伟达A100 AI…
当初P70的芯片经美国拆机后得出的结论是完全自主达到了国际先进水平。现在华为面向中国市场推出的尖端Ascend 910B AI芯片,其在性能上已超越英伟达A100 AI GPU20%。这表明,中国科技巨头现在正考虑干脆转向国内的人工智能产品,这对英伟达等高科技公司来说又是一个重拳打击。
近期，华为Ascend 910B AI芯片在多项测试中展现出了卓越的性能，成功超越了Nvidia的A100芯片。这一重大突破在南京世界半导体大会上得到了进一步确认，华为Ascend和鲲鹏生态的首席运营官王涛在会上发表主题演讲，详细介绍了Ascend 910B的出色表现。他透露，在大型语言模型训练方面，Ascend 910B实现了高达80%的效率，与...
以上为使用 GPUStack 在昇腾 910B 上运行 Qwen 2.5 的操作实践,项目的开源地址为:https://github.com/gpustack/gpustack。 期待后续国产 AI 芯片在算子优化上更加完善,同时也期待上层推理引擎对国产 AI 芯片的更多支持,充分发挥国产 AI 芯片的硬件性能,提供更佳的推理性能表现。
随着时间的推移，这家中国科技巨头投入了大量精力改进其AI芯片，使其更加完善。另一方面，Nvidia H20芯片由于效率低下，声誉开始下降。看到华为的努力，字节跳动等公司订购了10万片Ascend 910B芯片来替代Nvidia。这种支持给了华为开发Ascend 910C的力量。Ascend 910C——转折点！华为悄悄地开始测试 Ascend 910C，甚至向...