GGUF 由 llama.cpp 的创始人 Georgi Gerganov 推出。GGUF 格式的模型可以通过 Llama.cpp 以及 LlamaEdge 项目运行。 本模型是 Yi-34B-Chat 的 GGUF 格式。模型的使用遵循 Yi-34B-Chat 的 licence。 相关链接: Yi Models LlamaEdge llama.cpp 如何把 Pytorch 模型转化成 GGUF 格式...