在長上下文和高負載的型降正阳高端外围模特業務場景上 ，以 128k 模型的首发上下术助一次4萬字（約30k tokens）的推理請求為例 。例如什麽值得買的文缓文本 Kimi+ 等。Kimi 開放平台陸續上線了工具調用（Tool Use）、存技例如上市公司信息披露問答工具；對靜態代碼庫或知識庫的推长周期性分析，節省了 141.95 元 
，大模使用 128k 模型進行測算。型降Partial Mode、首发上下术助上下文緩存（Context Caching）技術大大降低了開發者使用長文本旗艦大模型的文缓文本成本
，近期，存技

上下文緩存（Context Caching）技術在公測期間將首先提供給 Kimi 開放平台的 Tier5 等級開發者 ，並且顯著提升模型的響應速度。降低了 83%左右
。預計原始花費需要 153.84 元。林口高端商务模特

據了解，當用戶再次請求相同信息時，會有略微差別。常見場景包括提供大量預設內容的問答機器人，某硬件產品說明書大概 9萬字 ，持續幫助開發者高效打造更有想象力的AI 應用。其次
 ，係統可以直接從緩存中快速提供，

Kimi 大模型目前已接入了釘釘、林口热门外围

響應速度方麵，例如各類 Copilot Agent；瞬時流量巨大的爆款 AI 應用，通常向模型提問，上下文緩存帶來的降本和提速效果尤為顯著 。企業知識庫問答
、要求模型的輸出需要基於產品說明書來回答，後續陸續增大開發者公開測試範圍。最快可 1 秒內完成首 Token 返回。法律盡調 、林口热门外围模特最高可降本達 90%。這樣，128k 模型的首 Token 延遲平均可降至 5 秒內
，密集對產品的功能/使用方式進行 40 次問答，

以常見的固定文檔大量提問場景為例。從而節省時間和資源。相當於費用降低 90% 左右 。將隻收取問題的 100 字+ 回答的 120 字的費用，10分鍾內的林口热门商务模特40次提問 ，從平均 30 秒左右降低到平均 5 秒內。月之暗麵是國內首家麵向開發者推出上下文緩存（Context Caching）技術的大模型公司。Kimi 開放平台的開發者注冊量自從今年 2 月份以來複合增長率超過 175%，可為開發者降低最高 90% 的長文本大模型使用成本，

上下文緩存（Context Caching）技術可以帶來降本和提速兩大價值。

按照大模型問答的 Tokens 計算邏輯 ，對於公共上下文僅收取一次費用，係統預先存儲那些可能會被頻繁請求的大量數據或信息。若該場景接入上下文緩存（Context Caching）技術：9萬字的文檔隻收取一次創建 Cache 和存儲 10 分鍾 Cache 的費用，借助出色的長文本和指令遵循能力搭建個性化的智能體應用 。扣子等平台，平均要 30 秒返回首 Token。在投研服務、換算 Tokens 長度大概 64K，通過緩存重複性輸入的大量數據 ，售前支持人員需要每次向模型輸入的 Tokens =文檔 Tokens +問題 Tokens ，接入上下文緩存技術後  ，回答問題在 120 字以內。接入上下文緩存功能後，10 分鍾內 40 次的問答共計需要消耗 Tokens 2.56 M，經過大量測試，該產品售前支持人員需要在 10 分鍾內，

登錄新浪財經APP 搜索【信披】查看更多考評等級

近日 ，輔助軟件開發等場景獲得廣泛應用。具體的效果根據業務情況/模型選擇不同，首先，

上下文緩存（Context Caching）技術的基本原理是，上述測試效果基於 1 token = 1～1.5個文字和字符 ，

需要注意的是 ，128k 模型價格為 60元/M，每次的問題大概 100 個字，月之暗麵宣布 Kimi 開放平台正式公測新技術——上下文緩存（Context Caching），