我正在Llama-3.1-8B-Instruct模型上面临类似的问题。我们是否可以增加响应令牌限制，使其超过100?@npn-...
我理解并愿意跟进此 issue,协助测试和提供反馈 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭 问题描述 如果设置 max_tokens 参数,则 playgroud 无法使用 复现步骤 将max_tokens 设置为非零 预期结果 相关截图 带上max_tokens,提问报错 出错渠道测试是正常的:QA...
我正在Llama-3.1-8B-Instruct模型上面临类似的问题。我们是否可以增加响应令牌限制，使其超过100?@npn-...