共计 768 个字符,预计需要花费 2 分钟才能阅读完成。
用户向 GPT- 4 模型发出纯文本请求,根据请求的数量,应用产品端调用接口需支付一定的费用。具体来说,每 1k 个 prompt token 的费用是 0.03 美元,每 1k 个 completion token 的费用是 0.06 美元。
默认速率限制是每分钟 40k 个 token 和每分钟 200 个请求。当前一次对话的花费 openAI 多少钱,这取决于用户使用的 token 数量和完成的请求次数。
要确定一次对话的花费,需要知道以下两个信息:
每个请求中包含的 prompt token 数量
每个请求中生成的 completion token 数量
根据这两个信息,可以计算出每个请求的费用,然后将所有请求的费用相加得到一次对话的总费用。以默认速率限制为例,每分钟可以完成 40k 个 token 和 200 个请求,因此如果每个请求包含 40 个 token,那么每分钟可以完成 1k 个请求,每分钟的费用为 0.03 美元 * 40 = 1.2 美元(因为每个请求包含 40 个 token,所以 1k 个请求对应 40k 个 token)。
Token 可以被视为单词的组成部分。在 API 处理 prompt 之前,输入会被分解成 tokens。这些 tokens 不会准确地分割单词的开头或结尾 – tokens 可以包括尾随空格,甚至是子单词。
有关 token 长度的有用规则示例: 1 个 token大约等于 4 个英文字符,1 个 token 大约等于 3 / 4 个单词,100 个 tokens 大约等于75 个单词,或 1 - 2 个句子大约等于 30 个 tokens,1 段落大约等于 100 个 tokens 1500 个单词大约等于 2048 个 tokens。
为了更好地理解 tokens 的数量,可以参考以下内容:韦恩·格雷茨基 (Wayne Gretzky) 的名言“你不尝试,就不可能成功”包含了 11 个 tokens。OpenAI 的宪章包含 476 个 tokens。美国独立宣言的文本包含 1695 个 tokens。