M3 Ultra M3 Ultra 是迄今最强大的 Apple 芯片,由两块芯片强强合体,带来双倍的中央处理器、图形处理器、神经网络引擎和内存带宽。性能表现突飞猛进,无论是处理庞大的数据集,还是同步进行动画制作和 3D 场景渲染,各种极限任务都所向披靡。还有最高达 512GB 的统一内存,运行大语言模型 (LLM),仅凭内存就足够。
新款 Mac Studio 提供了号称地表最强的全新 M3 Ultra 和 M4 Max 芯片两种选择。其中,M3 Ultra 芯片加持下的 Mac Studio,最高可配备 32 核 CPU 和 80 核 GPU,并支持高达 512GB 的统一内存。有专门在各种设备上尝试跑大模型的机构深入分析显示,这款设备能够运行超 6000 亿参数的 LLM(大语言模型)。换句...
过去,是否入手Mac Studio对程序员来说似乎没有必要。然而,随着昨天LLaMa.cpp开始支持apple silicon的gpu加速,Mac Studio对于玩大语言模型(LLM)的用户而言,成为了一款性价比极高的生产力工具。M2 Max(38核gpu版)在65b(650亿参数)的模型上可以实现5个token/s的运行速度。而新发布的M2 Ultra则有...
from https://itnext.io/step-by-step-guide-to-running-latest-llm-model-meta-llama-3-on-apple-silicon-macs-m1-m2-or-m3-b9424ada6840
Studio”,视频编辑, 图像处理, 可以选128GB (或 192GB).普通互联网开发者, M2 Ultra 64GB 就行了...
AI专业人士可使用搭载M3 Ultra芯片的Mac Studio直接在设备端运行包含超过6000亿参数的大语言模型(LLM),使之成为AI开发工作的理想桌面设备。M3 Ultra的统一内存架构集成了个人电脑中无可比拟的高带宽、低延迟的内存。起步内存为96GB,最高可配置512GB内存,超越目前最先进的工作站显卡,为3D渲染、视觉效果和AI等需要...
需要注意的是,顶配版Mac Studio(选配高配版M3 Ultra +512GB运存)可以直接在设备端运行包含超6000亿参数的大语言模型(LLM)。这意味着,满血版的DeepSeek R1大模型可以直接部署到Mac Studio上。根据官方的选配方案,这套方案最低只需要74249元就能够做到。这个价格,和当前动辄数十万起步的DeepSeek R1大模型部署...
从综合数据来看,M4 Max对比M2 Max的提升还是很显著的。除了渲染、编码方面的性能提升,M4 Max最大的提升还是在人工智能上面,它拥有号称Apple有史以来最快的神经引擎,配合增大的内存,开发人员可以轻松与具有近2000亿个参数的LLM交互。当然,更重量级的,还得是后面这颗全新问世的M3 Ultra。依然是熟悉的Ultra Fusion...
二、苹果的M2 Ultra和统一内存架构 在WWDC2023开发者大会上苹果推出M2 Ultra芯片,以及搭载该芯片的新款Mac Studio和Mac Pro。这款芯片采用了第二代5nm制程工艺技术,是苹果迄今为止最大且最强大的芯片。去年3月,苹果展示了一种将两块M1芯片“粘”在一起的设计,发布集成1140亿颗晶体管、20核CPU、最高64核GPU...
随着Apple Silicon的发展,苹果推出了更先进的M2 Ultra芯片,这种芯片提供了前所未有的800GB/s系统内存带宽,这远远超过了PC中的任何配置,并且可以配置高达192GB的统一内存,支持了PC无法实现的工作流程。统一内存架构的每一个升级都标志着苹果在硅基芯片技术上的进步,例如M3系列芯片,每颗芯片都具备这一架构,它提供了无...