Trợ lý lập trình AI — xây dựng công cụ giống Cursor với Claude và GPT

Toàn cảnh AI lập trình, tóm lược

Cursor, Aider, Cline, Continue.dev, bản thân Claude Code — tất cả đều xây trên cùng ba hoặc bốn LLM tiên tiến. Điểm khác biệt không nằm ở mô hình mà ở vòng lặp agent, lập chỉ mục tệp, áp dụng diff và trải nghiệm người dùng. Nếu bạn đang xây dựng một sản phẩm như vậy (hoặc một trợ lý lập trình trong sản phẩm dành cho nhà phát triển của riêng mình), trang này trình bày danh mục mô hình, thực tế chi phí và ngân sách độ trễ.

Danh mục mô hình cho quy trình lập trình

• Claude Haiku 4.5 (claude-haiku-4-5) — tự động hoàn thành (~$0,0001-0.0005 mỗi lần hoàn thành). Dẫn đầu về độ trễ; thời gian từ token đầu tiên khi streaming tương đương gọi trực tiếp nhà cung cấp
• Claude Sonnet 5 (claude-sonnet-5) — trò chuyện với codebase, chỉnh sửa nhiều tệp, vòng lặp agent. Mô hình chủ lực ở cấp Cursor với giá $1,40 / $7,00 cho mỗi 1M
• Claude Opus 5 (claude-opus-5) — đánh giá chuyên sâu, phản biện kiến trúc, kiểm tra bảo mật. Chậm hơn (P50 ~3s) nhưng có khả năng suy luận mạnh nhất, với giá $3,50 / $17,50 cho mỗi 1M
• GPT-5.6 Sol (gpt-5-6-sol) — mô hình được tinh chỉnh cho lập trình của OpenAI: chất lượng tương đương, sở thích phong cách khác nhau

Hai quy trình cốt lõi

import json
from openai import OpenAI
client = OpenAI(api_key="sk-kn-...", base_url="https://api.kunavo.com/v1")

# Code completion (autocomplete-as-you-type)
def complete(file_content: str, cursor_offset: int, file_path: str) -> str:
    before = file_content[:cursor_offset]
    after = file_content[cursor_offset:]
    resp = client.chat.completions.create(
        model="claude-haiku-4-5",   # FAST for IDE latency
        messages=[
            {"role": "system", "content": (
                "Complete the code at the cursor. Output ONLY the inserted "
                "text — no markdown, no explanation."
            )},
            {"role": "user", "content": (
                f"<file path=\"{file_path}\">\n{before}<CURSOR>{after}\n</file>"
            )},
        ],
        max_tokens=200,
        stop=["<CURSOR>", "</file>"],
    )
    return resp.choices[0].message.content

# Code review (heavier model). Claude enforces a json_schema
# response_format; json_object it does not.
REVIEW = {
    "type": "object",
    "properties": {
        "comments": {"type": "array", "items": {
            "type": "object",
            "properties": {"file": {"type": "string"},
                           "line": {"type": "integer"},
                           "comment": {"type": "string"}},
            "required": ["file", "line", "comment"],
            "additionalProperties": False,
        }},
        "verdict": {"type": "string", "enum": ["approve", "request_changes"]},
    },
    "required": ["comments", "verdict"],
    "additionalProperties": False,
}

def review(diff: str, conventions: str) -> dict:
    resp = client.chat.completions.create(
        model="claude-opus-5",
        messages=[
            {"role": "system", "content": [{
                "type": "text",
                "text": conventions,  # team style guide, security policy
                "cache_control": {"type": "ephemeral"},
            }]},
            {"role": "user", "content": f"Review this diff.\n\n{diff}"},
        ],
        response_format={"type": "json_schema",
                         "json_schema": {"name": "review", "schema": REVIEW}},
        max_tokens=2000,
    )
    return json.loads(resp.choices[0].message.content)

Ngân sách độ trễ theo tính năng

• Tự động hoàn thành nội tuyến: TTFT phải <200ms. Claude Haiku 4.5. Streaming đầu ra, hủy khi con trỏ di chuyển
• Trò chuyện với codebase: TTFT <500ms là chấp nhận được. Sonnet + streaming. Hiển thị phản hồi trong khi tạo
• Chỉnh sửa / tái cấu trúc nhiều tệp: 5-30 giây là bình thường. Hiển thị tiến trình, chạy nền, hiển thị diff để xem xét
• Đánh giá PR: 10-60 giây là chấp nhận được. Opus thực hiện phân tích chuyên sâu; trình bày kết quả dưới dạng các nhận xét có thể áp dụng vào thực tế

Kinh tế chi phí cho sản phẩm lập trình

Mức tiêu thụ thực tế mỗi nhà phát triển mỗi tháng (người dùng nhiều):

• ~500 lần hoàn thành/ngày × Haiku ~$0,0003 = $0,15/ngày = $4-5/tháng
• ~30 phiên trò chuyện/ngày × Sonnet ~$0,05 = $1,50/ngày = $30-45/tháng
• ~3 lượt đánh giá PR/tuần × Opus ~$0,30 = $1/tuần = $4/tháng
• Người dùng chuyên sâu: ~$40-55/tháng chi phí API
• Người dùng trung bình: ~$10-15/tháng

Hầu hết sản phẩm AI lập trình có giá $20/người dùng/tháng — vẫn có biên lợi nhuận nhưng rất sát đối với người dùng chuyên sâu. Bộ nhớ đệm prompt là thiết yếu: ngữ cảnh workspace (cấu trúc tệp, quy ước, tệp gần đây) được đưa vào bộ nhớ đệm; mỗi lần gọi chỉ làm mới ngữ cảnh chỉnh sửa tức thời. Tiết kiệm 50-70% chi phí đầu vào. Cách thiết lập bộ nhớ đệm.

Các mẫu kiến trúc nên sao chép

• Prompting FIM (Fill-in-Middle): thay vì “hoàn thành từ đây”, truyền before<CURSOR>after để mô hình sử dụng cả hai phía
• Chuỗi dừng: stop=["<CURSOR>", "</file>", "```\n"] ngăn mô hình tự tạo nội dung vượt quá phần hoàn thành được yêu cầu
• Sử dụng công cụ cho chỉnh sửa nhiều tệp: đừng yêu cầu mô hình xuất 5 tệp trong một phản hồi. Dùng tools=[{name: 'edit_file', ...}] để mô hình tạo các chỉnh sửa có cấu trúc mà bạn áp dụng nguyên tử
• Giải mã suy đoán qua streaming: hiển thị khoảng 50 token đầu tiên ngay khi có thể; người dùng sẽ chọn phương án đúng ngay cả trước khi toàn bộ phản hồi hoàn tất

Chuyển đổi nhà cung cấp trong vài giây

Kunavo tương thích với giao thức OpenAI. Nếu bạn xây trợ lý bằng SDK OpenAI, chỉ cần thay base_url là có quyền truy cập Claude và GPT trong cùng một mã. Xem Gọi Claude bằng SDK OpenAI để chuyển đổi.

Bắt đầu: /app/signup — tính phí theo mức sử dụng từ lần nạp $10 (khoảng 30.000 lệnh gọi tự động hoàn thành), số dư không hết hạn. Tham chiếu endpoint tại /docs/chat và Messages API gốc của Anthropic tại /docs/messages.

Câu hỏi thường gặp