日前,AI初创公司月之暗面方面宣布,旗下Kimi开放平台上下文缓存(Context Caching)功能中的Cache存储费用下调50%。在此次调整后,其Cache存储单价由10元/1M tokens/min降至5元/1M tokens/min,但Cache创建与调用的价格则保持不变。
此前在7月1日,Kimi开放平台的上下文缓存功能开放公测,收费方式主要分为Cache创建费用、Cache存储费用、Cache调用费用3种。其中,Cache创建费用是在用户调用Cache创建接口并成功创建后,按照Cache中Tokens的实际量计费;Cache存储费用是在Cache存活时间内按分钟收取费用;Cache调用费用则是以增量token与成功调用次数为标准收费。
据了解,上下文缓存功能适用于请求频繁、且需重复引用大量初始上下文的情况,其能够缓存重复的Tokens内容、有效降低用户在请求相同内容时的成本。具体而言,该功能的典型应用场景包括提供大量预设内容的QA Bot、针对固定文档集合的频繁查询、对静态代码库或知识库的周期性分析、交互规则复杂的Agent类应用,以及瞬时流量巨大的爆款AI应用等。
对此月之暗面方面透露,在业务合适场景中使用该功能,根据客户的业务特性最高可节省90%的调用成本,“简单来说,越是规模化、重复度高的prompt场景,Context Caching功能带来的收益就越大”。
不久前,月之暗面旗下智能助手Kimi还上线了“给Kimi加油”这一付费选项,用户购买后即可获得高峰期优先使用等权益。而在价格方面,共提供了6种付费选项,例如5.2元/4天、9.99元/8天、28.8元/23天等。但需要注意的是,该服务的时长自用户支付完毕服务费用之后,按照实际经过的自然时间(1天为24小时)计算,无论用户在相应时间是否实际使用了Kimi。
【以上内容转自“三易生活网”,不代表本网站观点。如需转载请取得三易生活网许可,如有侵权请联系删除。】
延伸阅读:
- 月之暗面日前发布Kimi企业级API,拓展B端业务
- 月之暗面推出专业AI助手Kimi+,可解决特定问题
未经允许不得转载:头条今日_全国热点资讯网(头条才是今日你关心的) » Kimi开放平台下调上下文缓存功能Cache存储费用