而在AI模型方面,高宇提到了Intel“正和12家模型厂商紧密合作”,进行酷睿Ultra平台的适配。百川智能联合创始人、联席总裁洪涛就和高宇一起,在现场演示了用酷睿Ultra跑130亿参数的百川大模型。包括问出“‘冬天能穿多少穿多少,夏天能穿多少穿多少’这两句话的区别”,将一段话改成散文,以及写一段酷睿Ultra与AI PC的文...
而对于没有配备独立显卡的普通家用台式机或笔记本,如果只使用CPU和内存本地部署时,通常无法得到一个令人满意的输出速度,无形间提高了AI平民化的门槛。所幸Intel通过IPEX-LLM项目开辟了新路径,其最新Ultra处理器内置的NPU+GPU异构架构以及Arc独立显卡,配合IPEX-LLM开源项目优化后的Ollama便携包,为开发者提供了开箱即用...
去年12月，Intel发布了全新的酷睿Ultra，拥有40多年来最重磅的架构革新，可以说是专为AI而生，正式开启了AI PC的新篇章。CPU+GPU+NPU三大AI引擎协作，可以在本地离线运行200亿参数的LLM大语言模型，生成高质量的图片和视频，让创意更好地成为现实。其中，CPU部分性能核、能效核结合可带来更高的数据吞吐量，全新的...
英特尔表示，内置NPU的Core Ultrae处理器，能够以更省电方式提供低功耗的AI推论能力，相较于前一代处理器，当执行AI工作负载时，可以获得高达8倍功耗效率的改进，特别适用于处理需要持续性的AI应用或AI卸载任务。尽管目前英特尔尚未公布这颗NPU的确切AI算力，但从英特尔公布的测试数据，能够一窥这个NPU在AI任务方面的表...
不难想象,拥有NPU的AI PC会有如下体验上的提升: 1、更快的语音识别和语音助手响应速度 2、更流畅的人脸识别和解锁 3、更高效的图像识别和处理 4、更智能的背景美化和视频效果 5、甚至可以流畅运行大参数AI模型 最近,我们收到一台搭载Meteor Lake架构酷睿Ultra 155H处理器的华硕灵耀14 2024轻薄本,趁热做了个AI...
酷睿Ultra首次引入了NPU AI引擎，可以执行一些轻负载的AI推理任务，并与CPU、GPU搭配处理各种AI工作。这次开源的NPU加速库，当然是面向开发人员的，但如果你有一定的编程经验，也可以拿来体验体验。Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库，在一台微星尊爵14 AI Evo笔记本上，基于11亿参数的TinyLl...
酷睿Ultra首次引入了NPU AI引擎,可以执行一些轻负载的AI推理任务,并与CPU、GPU搭配处理各种AI工作。 这次开源的NPU加速库,当然是面向开发人员的,但如果你有一定的编程经验,也可以拿来体验体验。 Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库,在一台微星尊爵14 AI Evo笔记本上,基于11亿参数的TinyLlma...
至于Intel寄予厚望的NPU,目前似乎还未得到广泛应用。据用户反馈,目前几乎没有应用程序支持NPU,主流的LLM部署软件如Ollama和LM Studio等也不支持。这意味着,尽管NPU在理论上具有潜力,但在实际应用中还未能发挥其作用。 综上所述,Intel的Ultra系列处理器虽然在理论上具有一定的创新性,但在实际性能和应用支持方面似乎并...
在酷睿Ultra处理器的产品报道文章里,我们大致提到了Intel对于AI PC表达的一些关键数据。其中包括CPU, GPU, NPU在内的酷睿Ultra的AI总算力“达到34TOPS”,这里的“AI总算力”是需要以XPU策略,及对应的生态实现为基础的。 此外Intel还提到,“酷睿Ultra处理器可以胜任高达200亿参数的大语言模型应用”,并且“实现了512...
•将于2024年推出的下一代英特尔酷睿Ultra客户端处理器家族（代号Lunar Lake），将具备超过100 TOPS平台算力，以及在神经网络处理单元（NPU）上带来超过45 TOPS的算力，从而为下一代AI PC提供强大支持。•英特尔发布了涵盖英特尔酷睿Ultra、英特尔®酷睿™、英特尔凌动®处理器和英特尔锐炫™显卡系列产品在内的...