这里的真正问题是Azure OpenAI的命名不一致,例如gpt-35-turbo是gpt-35-turbo-*家族的所有模型(除了16k,它们被命名为gpt-35-turbo-16k),因此回调无法正常工作。
For example: from langchain.callbacks import get_openai_callback with get_openai_callback() as cb: result = llm.invoke(prompt, generate_config= {"max_tokens": max_tokens}) print(cb.total_tokens)
这里的真正问题是Azure OpenAI的命名不一致,例如gpt-35-turbo是gpt-35-turbo-*家族的所有模型(除了16k...