@misc{Awesome-LLM-Inference@2023, title={Awesome-LLM-Inference: A curated list of Awesome LLM Inference Papers with codes}, url={https://github.com/DefTruth/Awesome-LLM-Inference}, note={Open-source software available at https://github.com/DefTruth/Awesome-LLM-Inference}, author={Yanjun Qiu...
Awesome LLM Inference Serving This repository contains the literature referenced in Taming the Titans: A Survey of Efficient LLM Inference Serving, and will be updated regularly. Table of Contents Table of Contents LLM Inference Serving in Instance Model Placement Model Parallelism Offloading Request ...
3.合规性指南:涵盖GDPR合规数据处理、医疗AI认证等专业内容 项目演进路线图 开发者洞察:这个项目最惊艳的不是现成的代码,而是它揭示的LLM应用开发范式。通过拆解200+真实案例,你会掌握从Prompt Engineering到模型微调的完整知识体系。现在就开始你的LLM大师之路吧! 项目地址: https://github.com/Shubhamsaboo/awesome...
Awesome LLMs on Device: A Comprehensive Survey Contents Foundations and Preliminaries Evolution of On-Device LLMs LLM Architecture Foundations On-Device LLMs Training Limitations of Cloud-Based LLM Inference and Advantages of On-Device Inference ...
Awesome-Chinese-LLM 整理了开源的中文大模型相关资源,包括开源底座模型、垂直领域微调模型应用、数据集及教程等。目前,收录的资源已超过100个,涵盖了从小型到大型的多种模型,如ChatGLM、LLaMA、Baichuan、Qwe…
项目里有各种底座模型，如ChatGLM系列底座、蓝蓝门系列底座、百款系列，还有在医疗、法律、金融、教育等垂直领域进行微调应用的模型。贴心的是开发者还把宝贵的项目训练数据集都放在了上面。除此之外项目里还包括大模型基础知识以及提示工程等实战板块的教程，如：HuggingLLM。围绕吴恩达老师的大模型系列课程，LLMs九层妖...
整理开源的中文大语言模型,以规模较小、可私有化部署、训练成本较低的模型为主,包括底座模型,垂直领域微调及应用,数据集与教程等。 - HqWu-HITCS/Awesome-Chinese-LLM
Awesome Chinese LLM 地址:github.com/HqWu-HITCS/Awesome-Chinese-LLM “自ChatGPT为代表的大语言模型(Large Language Model, LLM)出现以后,由于其惊人的类通用人工智能(AGI)的能力,掀起了新一轮自然语言...
近日,一个名为Awesome-LLM-Strawberry的GitHub仓库在上线三天内便获得了1.5k个星,迅速跻身GitHub趋势榜,其背后是英伟达工程师团队的倾力之作,着眼于人工智能推理技术的前沿研究。这个新兴的资源库专注于整理与O1模型相关的推理技术论文、博客和项目,极大地方便了研究人员和开发者的学习与讨论,成为了业内人士的“必备”...
最近,一个名为Awesome-LLM-Strawberry的GitHub仓库上线,仅用三天时间便收获了1500个星标,迅速跻身GitHub趋势榜,成为关注o1模型研究的重要平台。该库由英伟达工程师hijkzzz开发,专注于整合与o1相关的推理技术论文、博客和项目资源,为广大的AI社区提供了一个便捷、丰富的研究资料库,这不仅引发了技术爱好者的广泛讨论,也...