Trả lời nhanh cho case: Cách xử lý lỗi “Token overflow” trên Make.com tiết kiệm chi phí nhất
Trong các hệ thống Agentic Workflow (luồng làm việc có tác vụ suy luận), lỗi “Token overflow” (tràn giới hạn Token) xảy ra khi tổng lượng dữ liệu đầu vào (Prompt, Context, Lịch sử) vượt quá giới hạn của mô hình (Context Window). Trên Make.com, lỗi này không chỉ làm gián đoạn kịch bản mà còn khiến bạn tốn rất nhiều tiền vì các node phía trước đã chạy và tiêu tốn Operations nhưng kết quả cuối cùng lại thất bại. Để xử lý bài toán này một cách kinh tế nhất, bạn cần thay đổi tư duy từ “nhồi nhét dữ liệu” sang “lọc và nén dữ liệu” trước khi đưa vào AI.
I. Tại sao Agentic Workflow trên Make.com lại dễ bị tràn Token?
Khác với các chatbot đơn giản, Agentic Workflow thường chạy theo vòng lặp hoặc nhiều bước nối tiếp:
1.1. Tích tụ dữ liệu qua từng Module
Mỗi khi dữ liệu đi qua một Module (ví dụ: lấy nội dung từ Web -> tóm tắt -> đăng bài), Make.com sẽ lưu trữ toàn bộ phản hồi của các bước trước. Nếu bạn Map (ánh xạ) toàn bộ kết quả của bước 1, 2 vào bước 3, lượng Token sẽ tăng vọt theo cấp số nhân, dẫn đến vượt ngưỡng cho phép của mô hình như GPT-4o mini hay Claude 3.5.
1.2. Lặp lại System Prompt quá nhiều lần
Trong một Scenario phức tạp có 3-4 node AI, nếu mỗi node bạn đều viết một System Prompt dài dằng dặc để hướng dẫn Agent, bạn đang trả tiền cho cùng một lượng thông tin lặp đi lặp lại ở mỗi node.
II. 3 Chiến thuật “Cắt giảm Token” để tiết kiệm chi phí
Hãy áp dụng các kỹ thuật sau để giữ cho luồng chạy luôn nằm trong giới hạn an toàn và rẻ nhất:
2.1. Sử dụng kỹ thuật “Map” chọn lọc (Data Pruning)
Thay vì kéo toàn bộ biến Text hoặc Body từ node trước vào Prompt, hãy sử dụng các hàm của Make.com để lọc bớt dữ liệu thừa:
Hàm
substring: Chỉ lấy 2000 ký tự đầu tiên nếu bạn chỉ cần ý chính.Hàm
stripHtml: Luôn dùng hàm này khi lấy dữ liệu từ website để loại bỏ các thẻ HTML rác (thứ chiếm rất nhiều Token nhưng AI không cần đến).
2.2. Chiến thuật “Tóm tắt giữa kỳ” (Recursive Summarization)
Nếu bạn xử lý một bài viết dài 10.000 từ qua nhiều bước Agent:
Node AI 1: Tóm tắt 10.000 từ thành 500 từ.
Node AI 2: Sử dụng bản tóm tắt 500 từ này để làm các nhiệm vụ tiếp theo (phân tích, trích xuất ý…).
Lợi ích: Bạn chỉ trả tiền cho 10.000 từ ở đúng một lần chạy đầu tiên. Các bước sau chi phí sẽ giảm tới 90%.
2.3. Tận dụng mô hình AI giá rẻ để tiền xử lý
Đừng dùng GPT-4o cho tất cả các bước.
Bước lọc/phân loại/tóm tắt: Hãy dùng các model cực rẻ như GPT-4o mini hoặc Gemini 1.5 Flash.
Bước ra quyết định quan trọng: Chỉ dùng model cao cấp ở node cuối cùng với đầu vào đã được nén gọn từ các bước trước.
III. Mẹo thiết lập “Chốt chặn” trên Make.com
Sử dụng Filter (Bộ lọc): Đặt một bộ lọc giữa các node. Nếu độ dài của văn bản (dùng hàm
length) vượt quá mức cho phép, hãy cho kịch bản dừng lại hoặc chuyển hướng qua một node “Nén dữ liệu” thay vì cố đấm ăn xôi gửi đi và nhận lỗi.Cấu hình
Max Tokenstrong Module: Luôn set giới hạnMax Tokenscho phần phản hồi (Output) của AI. Điều này giúp bạn kiểm soát được ngân sách, tránh trường hợp AI “nói dài nói dai” gây tốn kém không cần thiết.
Cần tối ưu hóa chi phí vận hành AI Agent trên các nền tảng tự động hóa? Liên hệ ngay:
WhatsApp: 84 353 798 867
Email: minx@huminx.id.vn
Địa chỉ: 206/14 Phạm Văn Bạch, Phường 15, Quận Tân Bình, TP. Hồ Chí Minh, Việt Nam
