Đếm token và ước tính chi phí khi gọi LLM trong Java
Cách đếm token cục bộ bằng JTokkit, tính chi phí bằng BigDecimal, chặn request vượt ngân sách và đối chiếu với usage thực tế từ Spring AI.
Cách đếm token cục bộ bằng JTokkit, tính chi phí bằng BigDecimal, chặn request vượt ngân sách và đối chiếu với usage thực tế từ Spring AI.
Nhận từng token từ LLM API qua Server-Sent Events bằng HttpClient và WebClient, rồi đẩy tiếp về trình duyệt, kèm xử lý lỗi, timeout và test.
Hiểu cách LLM gọi hàm của ứng dụng, từ JSON thô tới @Tool trong Spring AI. Bài có ví dụ tra cứu, huỷ đơn hàng và test không cần gọi model thật.
Cách ép LLM trả về JSON khớp schema trong Spring Boot: map vào record bằng Spring AI, bật JSON Schema native, validate, retry và viết test.
Các kỹ thuật prompt engineering thực dụng như system prompt, delimiter, few-shot, structured output và temperature, minh họa bằng Spring AI.
Hiểu bản chất AI Agent qua vòng lặp quan sát – suy luận – hành động, tự cài đặt một agent tối giản bằng Java 21 và kiểm thử nó bằng JUnit 5.
Tạo vector embedding bằng sentence-transformers, tính độ tương đồng, làm semantic search và gọi model từ ứng dụng Spring Boot.
Hiểu cách temperature, top_p và max tokens điều khiển đầu ra của LLM, và cấu hình chúng đúng cách với Spring AI trong ứng dụng Spring Boot 3.
Hiểu ba khái niệm nền tảng của LLM là token, context window và sampling, kèm code Java 21 để đếm token, cắt lịch sử chat và tự cài temperature, top-k, top-p.
Phân biệt ba primitive của MCP là tool, resource và prompt theo người điều khiển, có ví dụ Spring AI và test cho từng loại.
Xây pipeline RAG hoàn chỉnh với Spring AI: chia nhỏ tài liệu, tạo embedding, tìm kiếm vector, ghép prompt có trích nguồn và viết test cho từng bước.
Định nghĩa AI Agent, phân biệt với chatbot thường, giải thích vòng lặp ReAct và xây một agent tối giản bằng Java, Spring AI.
Phân tích một kiến trúc AI production-grade có thể chạy với chi phí 0 đồng, từ frontend, RAG, LLM local đến deployment, kèm ví dụ code thực hành.
Phân tích các pattern kiến trúc đứng sau những AI agent repo hot nhất GitHub 2026, kèm ví dụ tự xây Tool-Calling Agent bằng Java/Spring Boot.
Tìm hiểu 5 pattern phổ biến khi xây AI Agent - Reflection, Tool Use, Planning, Multi-Agent, ReAct - kèm ví dụ Java/Spring AI chạy được.
Hướng dẫn dùng thư viện Datasets của Hugging Face để tải, khám phá, biến đổi và lưu dataset phục vụ huấn luyện model NLP.
Hướng dẫn fine-tune một model nhỏ (DistilBERT) cho bài toán phân loại review sản phẩm bằng Trainer API của Hugging Face, từ chuẩn bị dữ liệu đến inference.
Giải thích kiến trúc nghe-nói đồng thời (full-duplex) của các mô hình LLM thời gian thực, kèm ví dụ tích hợp WebSocket bằng Spring Boot.
LLM không tự biết dữ liệu riêng của công ty bạn. Bài viết giải thích cơ chế RAG, vì sao retrieval quyết định chất lượng câu trả lời, kèm ví dụ Java chạy được.
Tìm hiểu MCP – chuẩn giao tiếp giữa LLM và dữ liệu/tool bên ngoài, kèm ví dụ viết MCP server bằng Spring AI.