Mac Studio 是发挥 AI 实力的绝佳设备,能够直接在内存中运行超过 6000 亿项参数的大语言模型 (LLM)。这得益于 M3 Ultra 芯片内部集成的先进图形处理器以及最高达 512GB 的统一内存,创造个人电脑性能新高度。新款 Mac Studio 自 3 月 7 日起接受预订,将于 3 月 12 日起正式发售。
新款 Mac Studio 提供了号称地表最强的全新 M3 Ultra 和 M4 Max 芯片两种选择。其中,M3 Ultra 芯片加持下的 Mac Studio,最高可配备 32 核 CPU 和 80 核 GPU,并支持高达 512GB 的统一内存。有专门在各种设备上尝试跑大模型的机构深入分析显示,这款设备能够运行超 6000 亿参数的 LLM(大语言模型)。换句...
总的来说,我们依然对 2025 款 Mac Studio 的出现感到高兴,这款产品的出现,意味着专业生产力工具又迈上了新的台阶——对于所有创作者而言,生产力工具的大幅迭代、成本的大幅降低,总归是件好事。Mac Studio 的强大性能,已经大幅降低了 AI 时代的创作门槛。 你现在就能在自己家里配置全球先进的 LLM 大模型,足不...
俗话说得好,这群众的话题永远与产品息息相关,苹果也很自然地搭上了AI的顺风车,iPhone 16e、新款iPad Air、MacBook Air和Mac Studio自不必说,加上去年已经更新的iPad mini、MacBook Pro、Mac mini和iMac产品,从消费者级别到专业级别,苹果已经基本完成了全面更新,显然已经为进入AI时代做好了准备。哦对了,新款...
Mac Studio 的强大性能,已经大幅降低了 AI 时代的创作门槛。 你现在就能在自己家里配置全球先进的 LLM 大模型,足不出户高效地帮助你完成创作;你可以外接最多 8 台 5K 显示器,用 Blender 这样的开源软件创作不逊于好莱坞影视工业的作品。 越来越多的独立团队,正在迅速成为估值上亿美金的独角兽——文生图模型 ...
在连接性方面,新款Mac Studio配备了雷雳5端口,为用户提供了丰富的连接选项。此外,这款设备还具备在内存中直接运行超过6000亿项参数的大语言模型(LLM)的能力,成为发挥AI实力的绝佳平台。据悉,新款Mac Studio将从3月7日起接受预订,并于3月12日正式发售。对于追求极致性能和存储容量的用户来说,新款Mac Studio无...
这种配置使得Mac Studio能够直接在设备内存中运行参数量高达600B的大语言模型(LLM)。 M3 Ultra通过UltraFusion技术封装两颗M3 Max芯片,实现32核CPU(24性能核+8能效核)和80核GPU的配置。这种设计使得设备在多线程任务(如训练分布式模型或并行处理多个AI任务)时表现突出。 例如,使用LM Studio生成大语言模型的token时,...
在 Apple 测试中,搭载 M3 Ultra 芯片的 Mac Studio 提供:得益于巨大的统一内存,与配备 M1 Ultra 的 Mac Studio 相比,在 LM Studio 中使用具有数千亿个参数的 LLM 生成令牌的速度提高了 16.9 倍。与配备 M1 Ultra 的 Mac Studio 相比,Maxon Redshift 的场景渲染性能提高了 2.6 倍,与配备 Radeon Pro...
需要注意的是,顶配版Mac Studio(选配高配版M3 Ultra +512GB运存)可以直接在设备端运行包含超6000亿参数的大语言模型(LLM)。这意味着,满血版的DeepSeek R1大模型可以直接部署到Mac Studio上。根据官方的选配方案,这套方案最低只需要74249元就能够做到。
如果一定要在单卡PC上运行超出独立显存容量的LLM大模型,建议使用以下策略: 测算独立显存与模型文件大小的比例(例如lama3.170b-instruct-q4_0大约是40G,独立显存是24G,比值为0.6)。 使用LM Studio的GPU offload功能,设置最大层数(max)的60%*50%。 开启flash attention功能。 增加内存至64G以上。