上下文¶
上下文設定控制每次生成可使用多少對話歷史，以及歷史內容接近 token 預算時 Agora 如何處理。
上下文視窗¶
預設上下文視窗是 token 預算，不是訊息數量。預設範圍為 4K 到 1M token，預設值為 32K。
預算包含服務商實際可見的請求內容：系統指令、已啟用工具的定義、附件文字或已儲存的圖片轉錄，以及目前選取的對話分支。Agora 會在本機估算這些開銷，並保留能夠完整放入預算的最新訊息；完整的工具呼叫輪次不會被拆開。
聊天底列中的上下文指示器會顯示估算用量。由於 tokenizer 和服務商端格式可能不同，該數字可能與服務商最終回傳的 token 統計不同。
每個對話都可以在進階設定中覆寫預設上下文視窗。
視覺化上下文推出¶
啟用視覺化上下文推出後，目前服務商可見視窗之外的訊息會變暗。訊息仍保留在對話中；切換分支或增大預算後，它們仍可重新進入模型上下文。
上下文壓縮¶
上下文壓縮會把較早的內容摘要為一個持久化 Compact 膠囊，同時逐字保留最近的訊息。原始訊息不會被刪除。
- 自動壓縮會在下一次傳送即將超出目前預算前啟動。
- 壓縮模型可指定一個已啟用的專用模型；選擇目前模型時會跟隨對話模型。
- 保留最近訊息可在壓縮邊界之後逐字保留 0–20 則最近訊息。
- 壓縮提示詞用於控制摘要指令。
你也可以點開聊天底列的上下文指示器，選擇壓縮上下文。手動壓縮使用與一般回覆相同的生成控制：輸入框為空時顯示停止按鈕；輸入文字或加入附件後仍可傳送，內容會進入佇列並在壓縮完成後執行。
Compact 膠囊¶
點選 Compact 膠囊可以閱讀摘要；右側選單可以重新壓縮或刪除膠囊。
刪除 Compact 膠囊只會移除該摘要邊界並重新連接前後分支，不會刪除原始對話訊息。
Tip
較小預算可以降低單次請求大小；長對話中需要保留早期關鍵狀態時，可以使用壓縮來避免逐字傳送所有舊訊息。
Note
Compact 是模型生成的摘要。長期任務依賴其中的重要事實前，請先檢查膠囊內容。