支持ChatGLM API 等 LLM API 的接入 支持Langchain 框架支持的LLM API 接入 Embedding 模型接入 支持调用 HuggingFace 中各开源 Emebdding 模型 支持OpenAI Embedding API 等 Embedding API 的接入 支持 智谱AI、百度千帆、千问、MiniMax 等在线 Embedding API 的接入 基于FastAPI 的 API 方式调用 Web UI 基于Strea...
本项目全流程使用开源模型来实现本地知识库问答应用,最新版本中通过使用 FastChat 接入 Vicuna, Alpaca, LLaMA, Koala, RWKV 等模型,依托于 langchain 框架支持通过基于 FastAPI 提供的 API 调用服务,或使用基于 Streamlit 的 WebUI 进行操作。 可以通过下面的图来直观看到的整个流程的执行过程,非常值得参考学习。
使用@app可以指定接口路由、返回的消息体格式,接口方法内部的注释可以被渲染生成playground。 # 创建一个FastAPI实例app=FastAPI()# 创建一个处理POST请求的端点@app.post("/trans/",response_model=response_model)asyncdeftranslate_api(query:query_model):""" 翻译文本。 参数: - Query: 翻译请求内容。 返回: ...
FastAPI是一个现代、快速(高性能)的Web框架,用于构建API,用Python编写。它基于标准的Python类型提示,提供自动的交互式文档和数据验证。 代码示例: # 导入FastAPI模块from fastapi import FastAPI# 创建一个FastAPI实例app = FastAPI()# 定义一个路径操作函数@app.get("/")async def root():# 返回一个JSON响应retu...
支持调用 HuggingFace 中各开源 Emebdding 模型 支持OpenAI Embedding API 等 Embedding API 的接入 基于FastAPI 的 API 方式调用 Web UI 基于Streamlit 的 Web UI 项目交流群 🎉 langchain-ChatGLM 项目微信交流群,如果你也对本项目感兴趣,欢迎加入群聊参与讨论交流。
通过使用FastChat接入 Vicuna, Alpaca, LLaMA, Koala, RWKV 等模型,依托于langchain框架支持通过基于FastAPI提供的 API 调用服务,或使用基于Streamlit的 WebUI 进行操作。 2.3quivr quivr构建了一个完全可控的知识库问答平台,支持docker部署,需要额外部署或者申请Supabase。
⚡️HivisionIDPhotos: a lightweight and efficient AI ID photos tools. 一个轻量级的AI证件照制作算法。 - 增加基于fastapi的api部署 · awesome-aigc/HivisionIDPhotos@c137b69
调用REST API 一般返回 JSON,这是典型用法,尽管我们可以选择任何适合的数据格式。REST API 有时可以通过 HTTP 标头的设定来支持多种数据表示。关于 REST 的更多细节就不深入讨论了,但阅读有关 REST 的论文能帮助我们更好地理解概念,感兴趣可以打开http://mng.bz/1jAg获取更多信息 ...
2.1.4 服务器端点(API 路由) 我们开启了服务端渲染模式,API端点请求时将在Node或Deno层构建,因此不需要设置proxy代理,也不会产生跨域问题。自定义API端点需要遵守Astro的约定,在page目录下添加.js或.ts文件(与Next类似) 定义upload接口:page/api/upload.ts ...