通过解决性能瓶颈问题，它们有助于确保资源得到高效利用，最终实现快速的AI训练、推理和HPC模拟。5.更加广泛的FP8（数据处理方式）支持——通过使用ROCm 6.2增强AI推理能力 ROCm中的广泛FP8（数据处理方式）支持可以显著提升运行AI模型的进程，尤其是在推理方面，它有助于关键问题的解决，如内存瓶颈和与更高精度格式相...
开放生态：ROCm是一个开放式软件堆栈，包含了多种编程模型、工具、编译器、库和运行时，用于开发面向AMD GPU的AI和HPC解决方案。它支持广泛的AI软件生态系统，包括大型语言模型、图像/视频检测与识别、生命科学与药物研发、自动驾驶、机器人等领域的优化方案。一图以蔽之，作为介于算力硬件与AI生态的必要底层平台，ROCm...
在我们的测试中，RX 7900 XT在Linux系统下使用Stable Diffusion ROCm 6.0版时，其出图效率几乎是Windows系统的2倍。再加上55TFOPS的单精度浮点运算性能以及20GB GDDR6X超大容量显存，对于有较高专业AIGC应用需求的专业用户而言，在有限的预算下，RX 7900 XT可以说是非常适合的选择。当然，也希望AMD能够继续优化RO...
ROCm是一个开放软件平台，允许研究人员利用AMD Instinct加速器的强大功能，促进HPC和AI创新跨平台的可移植性。ROCm 5具有针对AI和HPC工作负载的全面优化套件。其中包括针对大型语言模型精细调整的内核、对新数据类型的支持以及对像OpenAI Triton类编程语言等新技术的支持。ROCm验证现在包括每晚进行数十万次框架测试，以及跨...
ROCm 6.3共有五大核心功能提升，包括：ROCm 6.3中的SGLang - 生成式AI（GenAI）模型的超快速推理，专为优化AMD Instinct GPU上的LLM和VLM等尖端生成模型的推理而构建。更高水平的Transformer优化 - 在AMD Instinct上重新设计FlashAttention-2，实现了更快、更高效的训练和推理。AMD Fortran编译器 - 将传统代码...
RX 7900 XT之所以被称为AI利器,一方面是它拥有强悍的算力,单精度峰值性能高达52 TFLOPS,半精度峰值性能高达103 TFLOPS,分别是RX 6950 XT的2.2倍和2.18,算力直接决定了AI计算的速度,而这方面RX 7900 XT无疑是一流水平;另一方面就是它拥有320 bit位宽、容量高达20 GB的GDDR6显存,这对于AI出图来讲就意味着高分辨...
AMD发布ROCm 6.2更新：让新一代AI和HPC的性能得以充分释放 AMD宣布，对ROCm软件栈进行了更新，推出了新的迭代版本ROCm 6.2，巩固了作为人工智能和高性能计算开发平台的领先地位。这一新版本里，AMD在性能、效率、可扩展性方面都做了提升，无论从事前沿AI模型的研究、新一代人工智能应用的开发，或是复杂的优化模拟...
GPU设计的软件平台，而核显与Radeon GPU在架构和设计上存在差异，因此直接使用ROCm来运行AI可能会面临...
在性能方面，ROCm同样表现出色。AMD的Radeon GPU系列在深度学习领域具有不俗的性能表现。特别是在AMD推出ROCm 6.0开发平台后，RX 7000系列显卡的AI性能得到了进一步优化。以Stable Diffusion为例，在ROCm 6.0的加持下，其出图效率获得了显著的提升，为专业用户提供了更加高效、便捷的AIGC生产力工具。然而，目前ROCm...
AMD近日在AI及高性能计算领域迈出重要一步,发布了ROCm 6.3版本更新。此次更新不仅集成了专为AI推理加速设计的SGLang运行时,还对FlashAttention-2进行了全面优化,旨在提升AI训练和推理的效率。 SGLang的加入,标志着AMD在优化大型语言模型(LLMs)和视觉语言模型(VLMs)推理方面取得了新进展。AMD承诺,通过集成SGLang,能够...