Nén ngữ cảnh Hermes hết thời gian: ý nghĩa và cách khôi phục đã hiệu quả

“Context compression timed out before it could commit” có nghĩa là mô hình tóm tắt của Hermes — mô hình nằm dưới auxiliary.compression, không phải mô hình chính của bạn — không tiến triển trước khi ngân sách nén của Hermes cạn, và lượt đã bị dừng mà không gửi lệnh gọi chính. Điều này phụ thuộc phiên bản: chúng tôi đã tái hiện cả hai thông báo trên Hermes Agent v0.21.3 và khôi phục bằng cách để summariser trả lời rồi thử lại trong cùng session, trong khi trên v0.21.5, cùng sự cố treo tạo ra thời gian chờ dài thay vì lỗi. Đã kiểm thử ngày 1 tháng 10, 2026 với một stand-in ghi nhận thay cho cả hai mô hình, không phải provider thật.

Nếu bạn đang thiết lập Hermes để dùng endpoint riêng thay vì gỡ lỗi, hãy bắt đầu với Hermes Agent với API tùy chỉnh.

Hai thông báo và ý nghĩa của từng thông báo

Con số token trong thông báo đầu tiên là ước tính riêng của Hermes về yêu cầu mà nó định gửi. Cả hai lượt đều kết thúc trong log dưới dạng reason=context_compression_timeout với api_calls=0, sau cảnh báo dạng “Context compression made no progress for 5.0s” — năm giây vì bộ kiểm thử đặt compression.context_timeout_seconds: 5 để rút ngắn các lần chạy; mặc định là 120.

Phiên bản bạn đang dùng quyết định điều gì xảy ra

Ranh giới nằm trong mã nguồn. Trong v0.21.4 (tag v2026.9.21), hàm dừng lượt sau khi nén bị timeout đã được thu hẹp chỉ còn các yêu cầu vượt quá cửa sổ của mô hình, dẫn chiếu các issue #113646 và #114594; v0.21.3 dừng mọi yêu cầu. Tài liệu cấu hình của v0.21.5 sau đó bổ sung rằng thời gian chờ nén “is floored at the auxiliary compression request's own timeout (auxiliary.compression.timeout, minimum 300s)” — đó là lý do thiết lập năm giây của chúng tôi không có tác dụng ở đó. Vì vậy trên bản build hiện tại, summariser chậm khiến bạn phải chờ vài phút thay vì gặp lỗi, còn summariser đã chết thì bị bỏ qua.

Chẩn đoán ngắn nhất

1. Kiểm tra phiên bản bằng hermes --version. Trên v0.21.3 trở về trước, cả hai thông báo ở trên đều là hành vi dự kiến khi summariser bị treo.
2. Tìm summariser trong ~/.hermes/logs/agent.log: một dòng “Auxiliary compression: using <provider> (<model>) at <url>” cho biết mô hình và endpoint đã bị timeout. Nếu không có block auxiliary.compression, nó kế thừa mô hình chính của bạn.
3. Đọc dòng kích hoạt, “Pre-API compression: ~N request tokens >= T threshold (context=W)”. Nếu N lớn hơn W, không phiên bản nào có thể gửi lượt đó ở trạng thái chưa nén.
4. Kiểm tra cửa sổ của summariser. Tài liệu Hermes yêu cầu cửa sổ này ít nhất phải lớn bằng cửa sổ của mô hình chính, vì summariser được gửi toàn bộ phần giữa của cuộc hội thoại.

Cách khôi phục đã được xác minh

Trong mọi trường hợp v0.21.3 ở trên, khởi động lại stand-in với một summariser có phản hồi và gửi thêm một lượt trong cùng session (--resume) đều tạo ra câu trả lời bình thường, với cuộc hội thoại còn nguyên. Trên thực tế, điều đó có nghĩa là một trong các cách sau: trỏ auxiliary.compression đến một mô hình nhanh mà bạn có thể truy cập, sửa endpoint mà nó trỏ đến, hoặc tăng compression.context_timeout_seconds nếu summariser của bạn chậm nhưng vẫn hoạt động bình thường — chẳng hạn một mô hình cục bộ. Sau đó thử lại trong cùng session.

# ~/.hermes/config.yaml — the summariser is its own model, with its own budget
auxiliary:
  compression:
    base_url: https://api.kunavo.com/v1   # overrides provider; any OpenAI-compatible endpoint
    api_key: sk-kn-...
    model: claude-haiku-4-5             # fast, and a context window >= your main model's
    timeout: 300

compression:
  context_timeout_seconds: 120   # inactivity budget for the summary (default)
  context_total_ceiling_seconds: 600

Hai điều chưa được kiểm thử: các bề mặt Hermes Desktop và messaging-gateway, vốn có tính năng nén hygiene riêng với các ngân sách khác, và provider thật từ chối một yêu cầu vượt cửa sổ. Các lần chạy là các lượt hermes chat -Q one-shot.

Chi phí

Một lượt bị dừng không gửi yêu cầu đến mô hình chính, nên mô hình chính không tính phí gì cho lượt đó. Yêu cầu tóm tắt đã được gửi — khoảng 19.000 ký tự prompt trong các lần chạy này — và provider sẽ tính phí nếu cuối cùng hoàn tất. Lần thử lại sau đó trả phí cho một lần tóm tắt và một lần gọi chính. Summariser nhỏ, nhanh giúp giảm cả thời gian chờ lẫn chi phí phụ; trên Kunavo, Claude Haiku 4.5 có giá $0,70 cho mỗi triệu token đầu vào và $3,50 cho mỗi triệu token đầu ra, tính theo từng token từ số dư trả trước. Không ai tại Kunavo đã chạy Hermes với endpoint của họ; các lần chạy ở đây dùng stand-in cục bộ.

Câu hỏi thường gặp

Đã tái hiện ngày 1 tháng 10, 2026 với Hermes Agent v0.21.3 (tag v2026.9.14) và v0.21.5 (tag v2026.9.24), cài đặt từ các nguồn release của chúng, đối chiếu với một stand-in ghi nhận cục bộ phục vụ cả mô hình chính và mô hình tóm tắt (giữ phản hồi cho summariser bị treo, trả 404 cho summariser lỗi), với cửa sổ 64.000 token và bốn lượt tiếp tục chứa filler trước lượt kiểm thử. Ranh giới phiên bản được đọc từ agent/turn_context.py tại các tag v2026.9.14, v2026.9.21 và v2026.9.24, còn các ngân sách được lấy từ tài liệu cấu hình của từng tag. Stand-in không phải mô hình hay provider: nó chấp nhận mọi kích thước yêu cầu, vì vậy không tái hiện lỗi context từ phía provider.