Java에서 LLM 호출 시 토큰 개수 세기 및 비용 추정
JTokkit으로 로컬에서 토큰 개수 세기, BigDecimal로 비용 계산, 예산 초과 요청 차단 및 Spring AI에서 반환한 실제 사용량과 대조
Java 21과 Spring Boot로 LLM API의 스트리밍 응답 처리하기
HttpClient와 WebClient를 사용하여 LLM API에서 Server-Sent Events로 각 토큰을 받고, 브라우저로 전달하며, 에러 처리, 타임아웃, 테스트를 포함합니다.
Function calling / tool use 예제로 배우기 (Spring AI)
LLM이 애플리케이션 함수를 호출하는 방식을 이해하자. 원본 JSON부터 Spring AI의 @Tool까지, 주문 조회와 취소, 그리고 실제 모델 호출 없이 테스트하는 방법까지.
Structured output: Spring AI로 LLM이 올바른 JSON 스키마 반환하기
Spring Boot에서 LLM이 JSON 스키마를 준수하도록 하는 방법: Spring AI로 record에 매핑하기, JSON Schema native 활성화, 검증, 재시도 및 테스트 작성
프롬프트 엔지니어링: 바로 적용할 수 있는 기법들
system prompt, delimiter, few-shot, structured output, temperature 등 효과적인 프롬프트 엔지니어링 기법을 Spring AI 예제와 함께 소개합니다.
AI Agent란 무엇인가: 관찰 – 추론 – 행동 루프
AI Agent의 본질을 관찰 – 추론 – 행동 루프로 이해하고, Java 21으로 최소 agent를 직접 구현한 후 JUnit 5로 테스트하세요.
LLM API 호출: temperature, top_p, max tokens
LLM의 temperature, top_p, max tokens이 출력을 어떻게 제어하는지 이해하고, Spring Boot 3 애플리케이션에서 Spring AI로 올바르게 구성하세요.
LLM은 어떻게 작동하는가: token, context window, sampling
LLM의 세 가지 핵심 개념인 token, context window, sampling을 이해하고, 토큰을 세는 Java 21 코드, 채팅 이력을 자르기, temperature, top-k, top-p를 직접 구현할 수 있습니다.
MCP tool, resource, prompt의 차이점은 무엇인가
MCP의 세 가지 primitive인 tool, resource, prompt를 제어자 중심으로 구분하고, Spring AI로 구현하고 각각을 테스트합니다
RAG A부터 Z까지: 먼저 문서를 찾고 답변하기
Spring AI로 완전한 RAG 파이프라인 구축하기: 문서 분할, 임베딩 생성, 벡터 검색, 출처가 있는 프롬프트 생성 및 각 단계의 테스트
sentence-transformers를 사용한 임베딩 모델 실행
sentence-transformers를 사용한 임베딩 벡터 생성, 유사도 계산, 의미 검색, Spring Boot 애플리케이션 호출
2026년 AI Repo GitHub 톱: Agent 예제와 함께 상세 설명
2026년 GitHub에서 가장 인기 있는 AI agent 저장소의 아키텍처 패턴을 분석하고, Java/Spring Boot로 Tool-Calling Agent를 직접 구축하는 예제를 포함했습니다.
AI Agent는 무엇인가? Java 예제와 함께한 상세 설명
AI Agent 정의, 일반 챗봇과의 구분, ReAct 루프 설명, 그리고 Java와 Spring AI로 최소한의 agent 구축.
Stack AI 0원: 상세 설명과 예제 포함
프로덕션급 AI 아키텍처를 0원으로 구축하고 운영하는 방법을 분석합니다. 프론트엔드, RAG, 로컬 LLM부터 배포까지 실습 코드 예제와 함께.
AI Agent의 5가지 패턴 - 자세한 설명과 Java 예제
AI Agent 구축 시 5가지 인기 있는 패턴을 배우세요 - Reflection, Tool Use, Planning, Multi-Agent, ReAct - 실행 가능한 Java/Spring AI 예제 포함
GPT-Live 동시 음성 인식 및 생성 — 작동 원리와 Java 통합 예제
실시간 LLM 모델의 동시 음성 인식-생성(full-duplex) 아키텍처 설명 및 Spring Boot WebSocket 통합 예제
Hugging Face Datasets 라이브러리: 데이터 로드 및 처리
Hugging Face의 Datasets 라이브러리를 사용하여 NLP 모델 학습용 데이터셋을 로드, 탐색, 변환 및 저장하는 방법 가이드
Hugging Face Trainer로 작은 모델 Fine-tune하기
DistilBERT 같은 작은 모델을 Trainer API로 fine-tune하여 상품 리뷰 감정 분류 문제를 풀기. 데이터 준비부터 추론까지 완벽 가이드.
LLM이 정확한 답변을 위해 증거가 필요: RAG 상세 설명과 실제 예제
LLM은 당신 회사의 개인 데이터를 자동으로 알지 못합니다. 이 글은 RAG 메커니즘, retrieval이 답변 품질을 결정하는 이유, 실행 가능한 Java 예제를 설명합니다.
MCP(Model Context Protocol)란 무엇인가? Java 개발자를 위한 해설
MCP - LLM과 외부 데이터/도구 간의 통신 표준을 배우고, Spring AI로 MCP 서버를 작성하는 예제를 포함합니다.