一、强大的计算能力 华为ASCEND 910B单卡服务器搭载了华为昇腾910 AI处理器,这是一款专为AI计算设计的高性能芯片 。昇腾910处理器采用7nm工艺制程,单芯片提供最大256 TFLOPS的FP16半精度计算能力,支持全场景AI应用,尤其在训练超大规模深度神经网络模型方面表现出色 。这种强大的计算能力使得ASCEND 910B能够高效处理...
从 Playground 的实际测试来看,使用 llama-box 在昇腾 910B 上运行 Qwen 2.5 72B 的推理性能表现为 6 Tokens/s 左右,NPU 利用率在 10~30%左右:以下为 Qwen 2.5 全系列模型在昇腾 910B 上的推理性能表现汇总数据,包括 Qwen2.5 0.5B、1.5B、3B 的 Q8_0 和 Q4_0 量化的推理性能数据作为对比参考...
从Playground 的实际测试来看,使用 llama-box 在昇腾 910B 上运行 Qwen 2.5 72B 的推理性能表现为 6 Tokens/s 左右,NPU 利用率在 10~30%左右: 以下为 Qwen 2.5 全系列模型在昇腾 910B 上的推理性能表现汇总数据,包括 Qwen2.5 0.5B、1.5B、3B 的 Q8_0 和 Q4_0 量化的推理性能数据作为对比参考: 对其中...
910A良率分析 芯片是设计有可以冗余的,如果HW的设计工程师考虑到这一点,那么如果我们按照AI core的面积来再次估算良率。 已知910B是24core@1.8Gzh,910A是32core@1.1Ghz。假设面积扩大了1.4倍(估算),可以看到良率接近97%,这意味着,只要你能接受26*3%~=1个的AI core一个die里面是坏的,那么良率就可以冲到...
近期,华为Ascend 910B AI芯片在多项测试中展现出了卓越的性能,成功超越了Nvidia的A100芯片。这一重大突破在南京世界半导体大会上得到了进一步确认,华为Ascend和鲲鹏生态的首席运营官王涛在会上发表主题演讲,详细介绍了Ascend 910B的出色表现。他透露,在大型语言模型训练方面,Ascend 910B实现了高达80%的效率,与...
内存:支持大容量内存,确保在处理大规模数据时不会遇到瓶颈。 请注意,由于Ascend 910B是专业级的AI处理器,其价格和应用环境通常针对企业级用户。如果您有购买或部署的打算,建议与华为或其合作伙伴进行详细咨询,以获取最新的价格信息和技术支持。同时,根据具体的应用场景和需求,选择合适的配置和方案。
910B芯片在性能上已达到NV A100水平,然而,近期菊厂报道良率问题,引起大厂需求紧迫,被H20抢单。国产化形势似乎因此逆转。我们深入分析了910B的良率问题。从公开资料了解到,整个die的面积为31.25 mm x 14.6 mm,等于456 mm2。每个AI core的面积约为1.9 mm x 3 mm,即5.7 mm2。参照kirin ...
然而,由于Ascend 910B芯片供应问题,以及其生产良率的传闻,NVIDIA H20 AI GPU重新获得了中国市场的关注。 根据摩根史坦利的报告,包括百度、阿里巴巴、腾讯和字节跳动在内的中国顶级科技公司,已经开始对NVIDIA的H20系列芯片表现出浓厚的采购兴趣。这一转变背后有着复杂的市场和政策因素。
华为AI芯片挑战英伟达:Ascend 910B的市场影响力 在科技行业引领潮流的今天,英伟达(NVIDIA)近期在财务报告中首次正式承认,曾因美国制裁而深受打击的华为,如今已成为其在中国市场的主要竞争对手。这不仅是华为在全球舞台上声望的见证,也反映了中国科技企业日益增强的全球竞争力。
华为的光刻机过关后只要产能出来了,英伟达这些不死才怪。当初P70的芯片经美国拆机后得出的结论是完全自主达到了国际先进水平。现在华为面向中国市场推出的尖端Ascend 910B AI芯片,其在性能上已超越英伟达A100 AI…