1、部署 Yi-34B-Chat-AWQ (1)下载模型 (2)启动 tg-webui (3)对话测试 N、后记 0、背景 搞个新环境研究 GPT、GPTS、ChatGPT 等相关技术。 (1)本系列文章 格瑞图:GPTs-0001-准备基础环境 格瑞图:GPTs-0002-准备派森环境 格瑞图:GPTs-0003-运行 ChatGLM3 歪脖示例-01 格瑞图:GPTs-0004-运行 Chat...
Using a POST request to http://<ip>/v1/chat/completions, with body: { "messages": [ { "content": "You are a helpful assistant.", "role": "system" }, { "content": "Hello", "role": "user" } ], "model": "/home/ai/models/Yi-34B-Chat-AWQ", "m...