one-api 在使用Docker进行离线部署时,总是访问下载cl100k_base.tiktoken,因为要统计进出请求的token,...
one-api 一直报x509,加了TIKTOKEN_CACHE_DIR也没起作用关于证书问题,您可以尝试挂载宿主机的证书目录。
同上可解决: 下载文件:https://openaipublic.blob.core.windows.net/encodings/cl100k_base.tiktoken 将上一步的文件名改为9b5ad71b2ce5302211f9c61530b329a4922fc6a4 挂载目录: - ./oneapi/cache:/data/cache 将第二步的文件放到宿主机./oneapi/cache位置 设置容器环境变量:TIKTOKEN_CACHE_DIR=/data/cache...
"github.com/pkoukk/tiktoken-go" "io" "net/http" "one-api/common" @@ -44,6 +45,13 @@ type StreamResponse struct { } `json:"choices"` } var tokenEncoder, _ = tiktoken.GetEncoding("cl100k_base") func countToken(text string) int { token := tokenEncoder.Encode(text, nil, nil)...