现在你可以在 API 中选择 12 小时提示缓存。
持久化智能体(persistent agents)就像点(dots)一样,会在一天中反复复用上下文。
你可以将共享的指令、工具和上下文缓存更长时间,并按更低的缓存输入费率付费,即使两次请求相隔数小时也是如此。
OpenAI Developers 宣布,用户现在可在 API 中选择 12 小时提示缓存。持久化智能体(persistent agents)会在一天中反复复用上下文,用户可将共享的指令、工具和上下文缓存更长时间,即使两次请求相隔数小时,也能按更低的缓存输入费率付费。
现在你可以在 API 中选择 12 小时提示缓存。
持久化智能体(persistent agents)就像点(dots)一样,会在一天中反复复用上下文。
你可以将共享的指令、工具和上下文缓存更长时间,并按更低的缓存输入费率付费,即使两次请求相隔数小时也是如此。