AI 与机器学习

LLM、Agent、RAG、MCP — 在真实产品中使用 AI。

LLM · 2026/10/05 · 10 分钟阅读 · 166 · 有视频

AI 推理工程:详细解释与示例

了解 LLM 在推理过程中如何逐个生成 token,以及 KV cache、batching、quantization 等优化技术,以及如何使用 Java/Spring Boot 测量性能。

RAG · 2026/10/05 · 8 分钟阅读 · 112 · 有视频

从找到段落到有证据的答案在 RAG 中

找到相关段落并不意味着有答案。本文介绍了 rerank、混合搜索和 grounding 管道,使 LLM 能够提供有证据的答案,并在数据不足时拒绝回答。