可以在本地编译运行语言模型。近日 CMU 助理陈天其教授表示,独立的 MLC Chat App 目前已经上架苹果 App Store。感兴趣的小伙伴们可以下载进行尝试。 ▲图源陈天其 据MLC LLM 项目介绍称:“MLC LLM 是一种通用解决方案,它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上,此外还有一个高效的框架...