Microsoft công bố công nghệ giúp AI lập trình giảm gần 31% chi phí vận hành


Ngày 16/11/2026, Microsoft Research công bố TokenEconomizer, một công nghệ mới nhằm giải quyết vấn đề chi phí ngày càng tăng khi sử dụng trí tuệ nhân tạo (AI) trong phát triển phần mềm. Kết quả nghiên cứu cho thấy công cụ có thể giúp giảm từ 18,4% đến 30,9% chi phí sử dụng AI lập trình, trong khi khả năng hoàn thành nhiệm vụ nhìn chung vẫn được duy trì.

TokenEconomizer là sản phẩm nghiên cứu hợp tác giữa Microsoft Research, Microsoft Security và Đại học California, Berkeley (UC Berkeley). Công cụ được phát hành dưới dạng mã nguồn mở, có thể hoạt động cùng các AI coding agent hiện có mà không cần thay đổi mô hình AI bên dưới.

Vì sao AI lập trình lại tiêu tốn nhiều chi phí?

Các công cụ AI hỗ trợ lập trình như Claude Code, OpenAI Codex hay GitHub Copilot ngày càng có khả năng thực hiện những công việc phức tạp, từ phân tích mã nguồn, sửa lỗi cho đến xây dựng các tính năng phần mềm.

Tuy nhiên, một hạn chế lớn là AI thường phải tìm hiểu lại cấu trúc dự án khi bắt đầu phiên làm việc mới, ngay cả khi trước đó đã thực hiện nhiều nhiệm vụ trên cùng một mã nguồn.

Chẳng hạn, AI có thể mất thời gian tìm lại cách chạy kiểm thử, xác định vị trí những tệp quan trọng hoặc thử lại phương án sửa lỗi từng thất bại. Những thao tác này làm tăng số lượng token cần xử lý, kéo theo chi phí sử dụng mô hình.

Trong quá trình phân tích 60 nhiệm vụ sửa lỗi thuộc bộ kiểm thử SWE-Bench, nhóm nghiên cứu phát hiện một số vấn đề đáng chú ý:

  • Sau ít nhất 5 nhiệm vụ trong cùng một dự án, khoảng 30% lượt gọi công cụ lặp lại những thao tác đã xuất hiện ở nhiệm vụ trước.

  • Trong 23 công cụ được cung cấp cho AI ở mỗi lượt xử lý, có tới 16 công cụ không được sử dụng.

  • Khoảng 17% nhiệm vụ thất bại lại chiếm tới 32% tổng chi phí xử lý.

Những kết quả này cho thấy một phần đáng kể tài nguyên AI bị tiêu tốn vào các hoạt động không trực tiếp tạo ra giá trị cho quá trình phát triển phần mềm.

TokenEconomizer hoạt động như thế nào?

Khác với những phương pháp tối ưu bằng cách sử dụng mô hình AI nhỏ hơn hoặc giảm mức độ suy luận, TokenEconomizer tập trung cải thiện cách AI thực hiện công việc.

Hệ thống sử dụng ba cơ chế chính.

Thứ nhất, ghi nhớ kinh nghiệm từ những phiên làm việc trước. Sau mỗi phiên, TokenEconomizer phân tích lịch sử hoạt động để xác định những thông tin hữu ích về dự án, chẳng hạn cấu trúc mã nguồn, cách chạy kiểm thử hoặc các quy trình thường xuyên sử dụng. Những kiến thức được xác nhận qua nhiều phiên sẽ được bổ sung vào ngữ cảnh cho các nhiệm vụ tiếp theo.

Thứ hai, loại bỏ những công cụ không cần thiết. Thay vì liên tục cung cấp toàn bộ danh sách công cụ cho AI, hệ thống có thể tạm thời loại bỏ các công cụ ít có khả năng được sử dụng, giúp giảm lượng dữ liệu phải gửi đến mô hình. Những công cụ này vẫn có thể được khôi phục khi cần thiết.

Thứ ba, phát hiện vòng lặp sửa lỗi không hiệu quả. Khi AI liên tục gặp cùng một lỗi mà không đạt được tiến triển, TokenEconomizer có thể nhận diện tình trạng này và đưa ra gợi ý thay đổi cách tiếp cận. Nếu vấn đề vẫn tiếp diễn, công cụ có thể thông báo cho lập trình viên.

Nhờ kết hợp ba cơ chế trên, AI có thể tận dụng kinh nghiệm tích lũy để thực hiện các nhiệm vụ tiếp theo hiệu quả hơn.

Kết quả thử nghiệm: Tiết kiệm tới 30,9% chi phí

Nhóm nghiên cứu đánh giá TokenEconomizer trên 277 nhiệm vụ sửa lỗi thực tế từ 6 kho mã nguồn thuộc SWE-Bench, sử dụng 5 tổ hợp AI agent và mô hình khác nhau.

Kết quả cho thấy chi phí trung bình trên mỗi nhiệm vụ giảm từ 18,4% đến 30,9%. Đáng chú ý, tỷ lệ hoàn thành thành công ngay lần đầu (Pass@1) được cải thiện ở 4 trong số 5 tổ hợp thử nghiệm.

Đối với các nhiệm vụ phát triển website liên tiếp trong bộ kiểm thử Web-Bench, mức tiết kiệm đạt từ 16% đến 21,2%. Trong lĩnh vực kiểm tra bảo mật phần mềm, chi phí giảm từ 6,4% đến 19,6%.

Nghiên cứu cũng ghi nhận hiệu quả tiết kiệm tăng dần khi hệ thống tích lũy thêm kinh nghiệm. Trong giai đoạn đầu, TokenEconomizer có thể phát sinh thêm chi phí để học hỏi, nhưng chi phí cộng dồn đã thấp hơn phương pháp thông thường ở tất cả các kho mã nguồn được kiểm thử kể từ nhiệm vụ thứ sáu.

Các số liệu trên được ghi nhận trong môi trường đánh giá của nhóm nghiên cứu, không đồng nghĩa mọi dự án thực tế đều sẽ đạt mức tiết kiệm tương tự.

Token Economics: The New FinOps for Agentic AI | Microsoft Community Hub

Bước tiến mới trong phát triển phần mềm bằng AI

Sự xuất hiện của TokenEconomizer cho thấy một hướng phát triển đáng chú ý của công nghệ AI lập trình: nâng cao hiệu quả sử dụng tài nguyên thay vì chỉ tập trung cải thiện năng lực của mô hình.

Đối với các nhóm phát triển phần mềm thường xuyên sử dụng AI để sửa lỗi, bổ sung tính năng và bảo trì hệ thống, việc tận dụng lịch sử làm việc có thể giúp giảm đáng kể những thao tác lặp lại.

Một điểm đáng quan tâm khác là TokenEconomizer không yêu cầu thay đổi mô hình AI gốc. Công cụ hoạt động như một thành phần điều phối bên ngoài, đồng thời lưu trữ những kinh nghiệm học được trên máy của lập trình viên.

Trong bối cảnh AI coding agent ngày càng được sử dụng phổ biến, các giải pháp tối ưu token, quản lý ngữ cảnh và kiểm soát quy trình làm việc được kỳ vọng sẽ đóng vai trò quan trọng trong việc giảm chi phí phát triển phần mềm.

TokenEconomizer hiện đã được công bố dưới dạng mã nguồn mở, cho phép cộng đồng lập trình viên và các nhà nghiên cứu tiếp tục thử nghiệm, đánh giá và phát triển công nghệ này