最后是价格。如你我所见，GPT-4 Turbo 性能更强了，但价格却被打下来了。对比 GPT-4，GPT-4 Turbo 的输入 token 价格是其 1/3，为 0.01 美元 / 1000token；输出 token 价格是其 1/2，为 0.03 美元 / 1000token。同样地，GPT-3.5 Turbo 16K 以及 GPT-3.5 Turbo 4K、16K 微调的价格也都有一定...
其实，不仅是32k，现在100k都实现了，百万token也不远了。「绝对太野了！几年后，支持100万的token上下文长度会不会成为可能？」前段时间，来自DeepPavlov、AIRI、伦敦数学科学研究所的研究人员发布了一篇技术报告，使用循环记忆Transformer（RMT）将BERT的有效上下文长度提升到「前所未有的200万tokens」，同时保持了很高的...
目前，已公开的GPT-4的API价格则大概是纯文本输入每1k个prompt token定价0.03美元，每1k个completion token定价0.06美元。默认速率限制为每分钟40k个token和每分钟200个请求。对此，赵豪杰表示：“GPT-4已经突破了落地的问题，采用云的方式，用的人越多，成本越低。”除了成本，利润也是非常关键的，陈润泽认为，Ope...
在GPT-4 8K版本中，输入端的价格为每1000个Token （约750个单词）0.03美元，输出端的价格为每1000个Token 0.06美元；在GPT-4 32K版本中，输入端为每1000个Token 0.06美元，输出端为每1000个Token 0.12美元。相比之下，3月1日发布的GPT-3.5 Turbo 的API价格仅为每1000个Token 0.002美元。此前个人创业...
新模型的输入价格下降了50%，现为0.0005美元/1k token；输出价格下降了 25%，现为0.0015美元/1k token。此外，模型还进行了多项改进，比如提高了按要求格式响应的准确性，并修复了一个导致非英文语言函数调用出现文本编码问题的漏洞。在API中使用固定gpt-3.5-turbo模型名称的用户，将在这款新模型推出两周后，...
01Deepseek发布了最新的开源大模型Deepseek V2,具有高性能和低价格优势,每百万token输入价格仅0.14美元,输出价格仅0.28美元。 02Deepseek V2采用混合专家(MoE)语言模型,共236B参数,支持128K上下文窗口,性能表现亮眼。 03除此之外,Deepseek V2通过多头隐式注意力机制(MLA)实现计算稀疏化,提高模型生成吞吐量5.76倍。
GPT-4 32K版本可提供32768个token上下文(约50页文本),定价为每1Kprompt token0.06美元和每1kcompletion token0.12美元。按此计算,GPT-4 32K版本的输出端价格达到了每1000个汉字大约1.8元,是GPT-3.5 Turbo的60倍。 此外,ChatGPT账户花20美金/月,升级为Plus,也可体验到GPT-4,但Plus用户每4个小时只能对话100次。
ChatGPT 能处理的最大序列是 4K 个 token,而 OpenAI 开放了 8k 和 32k 的两个模型,其中每个汉字大概占用 2 到 2.5 个 token。GPT-4 的 token 根据指示和回应分别计价(表 2),其中 32k 的价格是 8k 的两倍,对比 ChatGPT 的每 1000token 的 0.02 美元,GPT-4 要贵了 15 倍左右。
$0.03美元 / 1K prompt token $0.06美元 / 1K 生成响应 token 这个价格相比gpt-3.5-turbo的 $0.002 / 1K tokens来说贵了至少15倍起。 由于GPT-4接口价格太贵,且prompt和生成响应分开收费,因此在大规模使用GPT-4 API之前,我们有必要对其价格进行细致的分析。