7月4日，在2024年世界人工智能大会AI基础设施论坛上，无问芯穹联合创始人兼CEO夏立雪发布了全球首个千卡规模异构芯片混训平台，千卡异构混合训练集群算力利用率最高达到了97.6%。同时，夏立雪宣布无问芯穹Infini-AI云平台已集成大模型异构千卡混训能力，是全球首个可进行单任务千卡规模异构芯片混合训练的平台，具备万卡...
7月4日，在2024年世界人工智能大会AI基础设施论坛上，无问芯穹联合创始人兼CEO夏立雪发布 千卡规模异构芯片混训平台，千卡异构混合训练集群算力利用率最高达97.6%。目前，无问芯穹Infini-AI云平台已集成大模型异构千卡混训能力，该平台具备万卡扩展性，支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA六种异构...
壁仞科技表示，这一异构GPU协同训练方案对于行业端有两个意义：1、该方案最终价值实现了国产GPU和英伟达GPU的异构共存，突破异构算力孤岛难题，加快国产GPU的落地迁移，助力国产大模型落地；2、该方案赋能整个算力产业发展，壁仞HGCT方案具备普适性、易用性、兼容性，助力最终客户实现多种异构算力聚合，最大化异构GPU集...
据壁仞科技副总裁兼AI软件首席架构师丁云帆介绍，HGCT方案首次将壁仞GPU、英伟达GPU以及其他国产芯片纳入同一训练体系，展现了强大的兼容性和扩展性。此外，壁仞科技还构建了一套软硬一体化、全栈优化、异构协同且开源开放的大模型解决方案，该方案在千卡集群规模下，能够轻松处理千亿级参数的模型训练，实现自动断点续训...
Crossfit:混训魅力与技巧 今天我们来聊聊什么是Crossfit,一种结合了田径、体操和举重等多种动作的混合体能训练体系。它接近于自然健身,旨在通过无间歇训练来提升心肺耐力、肌耐力、最大肌力、爆发力、速度、协调性和敏捷性。 Crossfit的九大训练动作包括三推、三拉和三蹲:三推分别是力量推、借力推和半挺;三拉包括...
9月5日消息,据国内媒体报道,国产AI芯片公司壁仞科技即将在2024全球AI芯片峰会上,首次公布自主原创的异构GPU协同训练方案HGCT。 据了解,这将是中国首个三种异构芯片混训技术,业界首次支持3种及以上异构GPU混合训练同一个大模型(壁仞GPU+英伟达GPU+其他国产芯片),用一套统一方案支持多种不同型号、不同厂商的GPU,而...
据介绍，Infini-AI云平台集成了大模型异构千卡混训能力，是业内首个可进行单任务千卡规模异构芯片混合训练的平台，并具备万卡扩展性，支持采用华为昇腾、AMD、英伟达等6种异构芯片的大模型混合训练。从本月起，通过试训申请的用户，可在这个云平台上一键发起700亿参数规模的大模型训练。夏立雪说，与国际上模型层与芯片...
7月 4 日,在 2024 年世界人工智能大会 AI 基础设施论坛上,无问芯穹联合创始人兼 CEO 夏立雪发布了全球首个千卡规模异构芯片混训平台,和同构训练相比,千卡异构混合训练利用率最高达到了 97.6%。这也是全球首个可进行单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性,支持包括 AMD、华为昇腾、天数智芯、沐曦、...
快科技7月5日消息,在2024年世界人工智能大会上,无问芯穹发布了全球首个千卡规模异构芯片混训平台。 这一平台的发布,标志着AI算力资源的整合与利用达到了前所未有的高度,为大模型训练提供了强大的支持。 该平台通过Infini-AI云平台集成,实现了大模型异构千卡混训能力,支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线...
5090混训,你知多少? 🤓 看看5090的参数,对比一下,自己思考!英伟达这两年大力推广fp8和fp4,但大厂们犹豫不决。DeepSeek作为后起之秀,默默投入3年,终于推出v3版本,将训练成本降低93%,一战成名! 💡 DeepSeek v3的成功证明了英伟达在技术布局和研发上的顶级实力。他们早预料到数据荒和算力局限,因此推广低精度训练...