这些技术由NVIDIA RTX AI Toolkit支持——这是一套全新工具和SDK,可帮助开发者在Windows PC上优化及部署大型生成式AI模型。它们加入了NVIDIA的全栈RTX AI创新,加速了超过500款应用和游戏,以及200款OEM合作伙伴的笔记本电脑设计。NVIDIA消费级AI业务副总裁Jason Paul表示:“NVIDIA在2018年发布搭载Tensor Core的RTX GPU...
NVIDIA消费级AI业务副总裁Jason Paul表示:“NVIDIA在2018年发布搭载Tensor Core的RTX GPU和DLSS技术,开启AI PC时代。如今,借助G-Assist项目和NVIDIA ACE,NVIDIA将赋能超过1亿RTX AI PC用户开启新一代AI体验。” PC游戏提供庞大的游戏世界可供探索,还提供复杂的机制供玩家掌控,即便对于最资深的玩家来说,这也是极具挑...
ChatRTX 借助检索增强生成(RAG)和 NVIDIA TensorRT-LLM 软件,将生成式 AI 功能引入 RTX AI PC。这一演示 Demo 可部署在本地 PC,利用 GeForce RTX GPU 的检索增强生成技术,创造个性化 AI 助手,让本地 AI 大语言模型真正落地并服务于用户。 ChatRTX 使用本地个人资料作为数据集,连接到 ChatGLM 这一类开源大语...
中国北京,2024年3 月20日— GTC— NVIDIA宣布领先AI 应用开发者正在用NVIDIA数字人技术为商业应用和动态游戏角色创建栩栩如生的化身。其他展示内容包括:Chatwith RTX全面更新,AIWorkbench现已就绪,NIM(NVIDIAMicroservices)发布。行业专家、开发者和研究员组成的梦之队齐聚GTC2024,共同推动AI 和加速计算的未来发展。...
NVIDIA AI 推理管理器(AIM):当前推出的 AIM 抢先体验版为 PC 开发者简化了 AI 集成的复杂性,并且可以在 PC 端和云端无缝协调 AI 推理。NVIDIA AIM 利用必要的 AI 模型、引擎和依赖关系对 PC 环境进行预配置,并支持 GPU、NPU、CPU 等各种不同加速器的所有主要推理后端(TensorRT、ONNX Runtime、GGUF、Pytorch...
COMPUTEX—2024 年 6 月 2 日—NVIDIA 宣布推出全新 NVIDIA RTX™技术,用于支持在全新 GeForce RTX™AI 笔记本电脑上运行的 AI 助手及数字人。 NVIDIA 推出 G-Assist 项目,一款由 RTX 支持的 AI 助手技术演示 Demo,可为 PC 游戏和应用提供上下文感知帮助。G-Assist 项目的技术 Demo 将首度亮相于 Studio Wi...
● AI PC 定义:AI PC 是搭载专用 AI 加速硬件的计算机。在 RTX GPU 上,这些专用的 AI 加速器被称为 Tensor Core。在运行要求极为严苛的工作和娱乐应用时,Tensor Core 能够显著加速 AI 性能,并为 PC 用户引入了以前在云端才能运行的新功能。 ● 如何衡量 AI PC 的性能: 衡量 AI 性能的一种方法是以 tera...
而 RTX for AI 的应用和场景正在变多,我很高兴 NVIDIA 能主动为用户提供这么多免费可用的 AI 应用,帮助用户充分激活本地算力,享受 AI 发展的红利,真正提高日常办公的生产力和娱乐场景的体验。 也许,在这场 AI PC 的变革中,RTX 已经率先掀开了新篇章。
为帮助开发者构建在PC上运行的特定应用的AI模型,NVIDIA推出RTX AI Toolkit,一套用于在RTX AI PC上自定义、优化及部署模型的工具和SDK。 RTX AI Toolkit将于6月发布,供更多开发者使用。 开发者可使用开源的QLoRa工具自定义预训练模型,并使用NVIDIA TensorRT Model Optimizer 来量化模型,以减少多达3倍的RAM消耗。NVI...
凭借深厚的技术积累、强大的硬件算力、丰富的开发生态,NVIDIA正在为AI尤其是AI PC的应用拓展全新疆界,从游戏娱乐到行业应用,都展现出无限可能。 尤其是创新的NVIDIA ACE微服务,无论是游戏还是行业应用,开发者都可以借助强大的RTX AI的能力,创造出表情、语言、行动等等都更接近真人的虚拟形象,有望彻底颠覆数字人创作。