因为ollama运行的是llama.cpp的gguf模型,llama.cpp现在还不支持chatglm,看样子以后也不会支持了 ...
首先,ChatGPT3-6B 是一个比 OLLAMA 设计处理的模型更大、更复杂的模型。OLLAMA 是一种轻量级语言模...
看评论,目前暂时还不支持。 到llama.cpp 仓库的 conver-hf-to-gguf.py 及相关的转换脚本中检索,并没有 chatglm 模型的转换类。需要 llama.cpp 先支持 chatglm,才能在 ollama 中使用 chatglm3-6b。 编辑于 2024-05-23 10:27・IP 属地浙江 1 听完国家主席习近平发表的二〇二五年新年贺词,你有怎样的感触?