LLMBox是一个全面的代码工具库,专门用于开发和实现大语言模型,其基于统一化的训练流程和全面的模型评估框架。LLMBox旨在成为训练和利用大语言模型的一站式解决方案,其内部集成了大量实用的功能,实现了训练和利用阶段高度的灵活性和效率。 YuLan大模型:代码库 YuLan系列模型是中国人民大学高瓴人工智能学院师生共同开发的...
LLMBook-zh.github.io Public 《大语言模型》作者:赵鑫,李军毅,周昆,唐天一,文继荣 2.1k 143 43 contributions in the last year Contribution Graph Day of Week September Sep October Oct November Nov December Dec January Jan February Feb March Mar April Apr May May June Jun July Jul August Aug ...
https://llmbook-zh.github.io/ 中文书下载链接1: https://github.com/LLMBook-zh/LLMBook-zh.github.io/blob/main/LLMBook.pdf 中文书下载链接2: http://aibox.ruc.edu.cn/zws/index.htm 全书章节组织: 一、背景与基础知识 第一章引言(大模型发展历程、重要技术概览) 第二章基础介绍(Scaling Law、GPT...
0. 一些有用的Notebook 1. LLM 基础 1.1 机器学习 ML 的数学基础 1.2 ML 中的 Python 1.3 神经网络 1.4 自然语言处理(NLP) 2. LLM Scientist 2.1 LLM 架构 2.2 构建指令数据集 2.3 预训练模型 2.4 监督式微调 2.5 RLHF(基于人类反馈的强化学习) 2.6 评估 2.7 量化 2.8 新趋势 3. LLM 工程师 ...
本篇大型语言模型(LLM)课程分为三个部分: LLM基础:涵盖了数学、Python和神经网络的基本知识。 LLM科学家:专注于使用最新技术构建尽可能优秀的LLM。 LLM工程师:专注于创建基于LLM的应用并部署它们。 0. 一些有用的Notebook 与大型语言模型相关的笔记本和文章列表 工具: 1.LLM AutoEval:使用RunPod自动评估大...
GitHub is where over 100 million developers shape the future of software, together. Contribute to the open source community, manage your Git repositories, review code like a pro, track bugs and features, power your CI/CD and DevOps workflows, and secure
https://github.com/facebookresearch/llama 论文地址:https://arxiv.org/abs/2302.13971 中文LLaMA&Alpaca大语言模型+本地CPU/GPU训练部署 (Chinese LLaMA & Alpaca LLMs): https://github.com/ymcui/Chinese-LLaMA-Alpaca LLaMa模型怎么样? LLaMA(Large Language Model Meta AI),由 Meta AI 发布的一个开放且...
NLP之LLMs:《Zeno Chatbot Report》的翻译与解读—CMU副教授详测七款个类ChatGPT大模型(GPT-2、LLaMa、Alpaca、Vicuna、MPT-Chat、Coher-CSDN博客 LLMs之Vicuna:在Linux服务器系统上实Vicuna-7B本地化部署(基于facebookresearch的GitHub)进行模型权重合并(llama-7b模型与delta模型权重)、模型部署且实现模型推理全流程...
🏠⬇️Calibre Import1.1.0Imports a Calibre Db into (Sub-) Notebook. Also includes a content plugin supporting attributes (see documentation)Jürgen Habelt 🏠⬇️Code Section1.0.6Inserts a piece of code from code sourceJürgen Habelt ...
Mamba是一种新的大模型架构,在语言任务上的表现可以与两倍规模的Transformer一决雌雄。 但官方给出的只有模型文件,需要一定专业知识才能部署使用,而且要Linux+N卡才能运行。 有了这份笔记,Mamba的运行步骤大大简化,而且也不再要求N卡,M系列的MacBook也能跑了。