Linly-Chinese-LLaMA-2-7B 更新时间:2024-11-15 Linly-Chinese-LLaMA-2-7B是由深圳大学CV研究所Linly项目进行中文增强训练的Llama-2 7b参数版本。本文介绍了相关API。 功能介绍 调用本接口,发起一次对话请求。 平台提供了 API在线调试平台-示例代码 ,用于帮助开发者调试接口,平台集成快速检索、查看开发文档、查看在线...
Linly-Chinese-LLaMA:中文基础模型,基于LLaMA在高质量中文语料上增量训练强化中文语言能力,现已开放 7B、13B 和 33B 量级,65B正在训练中。 Linly-ChatFlow:中文对话模型,在400万指令数据集合上对中文基础模型指令精调,现已开放7B、13B对话模型。 Linly-ChatFlow-int4:ChatFlow 4-bit量化版本,用于在CPU上部署模型推理。
Linly-Chinese-LLaMA:中文基础模型,基于 LLaMA 在高质量中文语料上增量训练强化中文语言能力,现已开放 7B、13B 和 33B 量级,65B 正在训练中。 Linly-ChatFlow:中文对话模型,在 400 万指令数据集合上对中文基础模型指令精调,现已开放 7B、13B 对话模型。 Linly-ChatFlow-int4 :ChatFlow 4-bit 量化版本,用于在 CP...
在此之前,“伶荔”项目团队已经发布了基于LLaMA-1、Falcon等模型的中文迁移版本。最近,团队在LLaMA-2上进行了中文化训练和质量评估,目前已发布Chinese-LLaMA2 7B 和13B版本。 模型下载地址:https://github.com/CVI-SZU/Linly Huggingface 在线体验:https://huggingface.co/spaces/Linly-AI/Linly-ChatFlow 2 训练方...
use "0.0.0.0"ip ='127.0.0.1'api_port = 7871#Linly Model Pathmode ='api'#For 'api', Linly-api-fast.py must be run firstmode ='offline'model_path ='Linly-AI/Chinese-LLaMA-2-7B-hf'#SSL Certificate (required for microphone interaction)#Preferably an absolute pathssl_certfile ="./https...
# 可以注释掉选择模型# llm = LLM(mode='offline').init_model('Linly', 'Linly-AI/Chinese-LLaMA-2-7B-hf')# llm = LLM(mode='offline').init_model('Gemini', 'gemini-pro', api_key = "your api key")# llm = LLM(mode='offline').init_model('Qwen', 'Qwen/Qwen-1_8B-Chat')# 可以...
elif model_name == 'Llama2Chinese': llm = Llama2Chinese(model_path, self.mode) elif model_name == 'GPT4Free': llm = GPT4FREE() return llm def test_Linly(self, question="如何应对压力?", model_path="Linly-AI/Chinese-LLaMA-2-7B-hf"):141...
git lfs installgit clone https://huggingface.co/Linly-AI/Chinese-LLaMA-2-7B-hf 或使用API: # 命令行curl -X POST -H "Content-Type: application/json" -d '{"question": "北京有什么好玩的地方?"}' http://url:port# Pythonimport requestsurl = "http://url:port"headers = {"Content-Type"...
init_model('Linly', 'Linly-AI/Chinese-LLaMA-2-7B-hf', prefix_prompt=prefix_prompt) gr.Info("Linly模型导入成功") except Exception as e: gr.Warning(f"Linly模型下载失败 {e}") elif model_name == 'Qwen': try: llm = llm_class.init_model('Qwen', 'Qwen/Qwen-1_8B-Chat', ...
Llama-2-7B Llama-2-13B Llama-2-13b-chat Linly-Chinese-LLaMA-2-13B Qianfan-Chinese-Llama-2-13B-v1 Qianfan-Chinese-Llama-2-13B-v2 Llama-2-70B Qianfan-Chinese-Llama-2-1.3B Meta-Llama-3-8B-Instruct Meta-Llama-3-70B-Instruct ChatGLM3-6B ChatGLM2-6B Baichuan2-7B-Chat Baichuan2-13B-Cha...