LLMJava에서 LLM 호출 시 토큰 개수 세기 및 비용 추정
JTokkit으로 로컬에서 토큰 개수 세기, BigDecimal로 비용 계산, 예산 초과 요청 차단 및 Spring AI에서 반환한 실제 사용량과 대조
Java 21과 Spring Boot로 LLM API의 스트리밍 응답 처리하기
HttpClient와 WebClient를 사용하여 LLM API에서 Server-Sent Events로 각 토큰을 받고, 브라우저로 전달하며, 에러 처리, 타임아웃, 테스트를 포함합니다.
Function calling / tool use 예제로 배우기 (Spring AI)
LLM이 애플리케이션 함수를 호출하는 방식을 이해하자. 원본 JSON부터 Spring AI의 @Tool까지, 주문 조회와 취소, 그리고 실제 모델 호출 없이 테스트하는 방법까지.
Structured output: Spring AI로 LLM이 올바른 JSON 스키마 반환하기
Spring Boot에서 LLM이 JSON 스키마를 준수하도록 하는 방법: Spring AI로 record에 매핑하기, JSON Schema native 활성화, 검증, 재시도 및 테스트 작성
프롬프트 엔지니어링: 바로 적용할 수 있는 기법들
system prompt, delimiter, few-shot, structured output, temperature 등 효과적인 프롬프트 엔지니어링 기법을 Spring AI 예제와 함께 소개합니다.
LLM API 호출: temperature, top_p, max tokens
LLM의 temperature, top_p, max tokens이 출력을 어떻게 제어하는지 이해하고, Spring Boot 3 애플리케이션에서 Spring AI로 올바르게 구성하세요.
LLM은 어떻게 작동하는가: token, context window, sampling
LLM의 세 가지 핵심 개념인 token, context window, sampling을 이해하고, 토큰을 세는 Java 21 코드, 채팅 이력을 자르기, temperature, top-k, top-p를 직접 구현할 수 있습니다.
Stack AI 0원: 상세 설명과 예제 포함
프로덕션급 AI 아키텍처를 0원으로 구축하고 운영하는 방법을 분석합니다. 프론트엔드, RAG, 로컬 LLM부터 배포까지 실습 코드 예제와 함께.
GPT-Live 동시 음성 인식 및 생성 — 작동 원리와 Java 통합 예제
실시간 LLM 모델의 동시 음성 인식-생성(full-duplex) 아키텍처 설명 및 Spring Boot WebSocket 통합 예제
RAG 문서 수정은 덮어쓰기가 아니다: LLM을 위한 올바른 업데이트 방법
소스 문서가 변경될 때, 벡터 스토어에서 직접 덮어쓰면 데이터 불일치가 발생하기 쉽습니다. 이 글은 RAG을 위한 안전한 버전 관리 프로세스를 설명합니다.
AI Inference Engineering: 자세한 설명과 예제
LLM이 inference 중에 각 토큰을 어떻게 생성하는지, KV cache, batching, quantization 같은 최적화 기법, 그리고 Java/Spring Boot로 성능을 측정하는 방법을 배워보세요.
AI를 완전히 바꾼 12가지 논문: 상세 설명과 예제
AlexNet부터 RAG까지 현대 AI의 기초가 되는 12가지 논문 모음 — 각 핵심 아이디어를 설명하는 Java 코드 포함
LLM의 상위 20가지 AI 개념: 상세 설명과 예제
LLM으로 작업할 때 필요한 20가지 기본 개념 — token, embedding, RAG, fine-tuning, agent... Java/Spring AI 코드 예제 포함
개발자를 위한 AI로 시간 절약하기: 상세한 설명과 예제
Spring Boot 프로젝트에서 LLM을 사용하여 코드, 테스트, 문서 작성 시간을 단축하는 실용적인 가이드 및 실행 가능한 예제