Kouri Ai
缓存价格
模型缓存的计费方式说明
可以通过模型价格列表中模型是否有缓存价格来判断该模型是否支持缓存。
仅读取价格
如果只有读取价格:仅隐式缓存,无需操作。命中了就按命中量的读取缓存价格计费。
读取价格 + 写入价格
如果有读取价格和写入价格:需要先按照对应端点的官方文档发起写入,按写入价格计费;若下次请求时命中缓存,则按命中量的读取缓存价格计费。
注意事项
以上两种方式均不保证缓存率,因此需要写入缓存的模型请谨慎使用。
模型缓存的计费方式说明
可以通过模型价格列表中模型是否有缓存价格来判断该模型是否支持缓存。
如果只有读取价格:仅隐式缓存,无需操作。命中了就按命中量的读取缓存价格计费。
如果有读取价格和写入价格:需要先按照对应端点的官方文档发起写入,按写入价格计费;若下次请求时命中缓存,则按命中量的读取缓存价格计费。
以上两种方式均不保证缓存率,因此需要写入缓存的模型请谨慎使用。