Java에서 LLM 호출 시 토큰 개수 세기 및 비용 추정
JTokkit으로 로컬에서 토큰 개수 세기, BigDecimal로 비용 계산, 예산 초과 요청 차단 및 Spring AI에서 반환한 실제 사용량과 대조
글 하나에 주제 하나, 실행되는 코드로 단계별 설명 — Java, Spring Boot부터 AI, 시스템 설계, DevOps까지.
JTokkit으로 로컬에서 토큰 개수 세기, BigDecimal로 비용 계산, 예산 초과 요청 차단 및 Spring AI에서 반환한 실제 사용량과 대조
Kotlin에서 object declaration, object expression, companion object의 차이점을 구분하고, 싱글톤을 생성하는 방식, Java에서 호출하기, 흔한 실수들을 배웁니다.
thiserror로 라이브러리용 명확한 에러 타입을 정의하고, anyhow로 애플리케이션의 에러를 통합하고 문맥을 추가하며, 둘을 함께 사용하는 방법을 배웁니다.
Template literal types로 키 생성, 라우트 파싱, 타입 안전 이벤트 이미터 작성, Vitest로 테스트하기와 함정들을 다룹니다.
HttpClient와 WebClient를 사용하여 LLM API에서 Server-Sent Events로 각 토큰을 받고, 브라우저로 전달하며, 에러 처리, 타임아웃, 테스트를 포함합니다.
Maven을 설정하여 Kotlin과 Java가 서로 호출하고, nullability와 @JvmStatic, @JvmOverloads를 처리하며, Spring Boot 통합 및 일반적인 오류를 해결합니다.
Arc<Mutex<T>>로 스레드 간 데이터 공유, mpsc channel로 메시지 전송, 그리고 데드락, poisoning 및 흔한 오류 피하기
tsconfig의 strict 플래그가 어떤 검사를 활성화하는지, 각 검사가 어떤 오류를 잡는지, strict 외에 어떤 추가 플래그를 활성화해야 하는지, 기존 프로젝트를 strict로 마이그레이션하는 방법
LLM이 애플리케이션 함수를 호출하는 방식을 이해하자. 원본 JSON부터 Spring AI의 @Tool까지, 주문 조회와 취소, 그리고 실제 모델 호출 없이 테스트하는 방법까지.
by lazy로 스레드 안전한 지연 초기화를 수행하고, Delegates.observable과 vetoable로 속성 변경을 감시하거나 차단하세요.
Axum 0.8을 이용한 REST API CRUD 구축, routing, extractor, shared state, IntoResponse를 이용한 에러 처리, 포트 없이 handler 테스트하기
keyof, typeof, indexed access types를 사용하여 기존 데이터에서 타입을 추론하고, 반복 코드를 줄이며, 컴파일러가 잘못된 key를 대신 잡도록 합니다.
Kotlin에서 함수 타입 선언, 람다 전달 및 반환, 함수 참조, 클로저, 람다 with receiver 및 inline 사용법
Spring Boot에서 LLM이 JSON 스키마를 준수하도록 하는 방법: Spring AI로 record에 매핑하기, JSON Schema native 활성화, 검증, 재시도 및 테스트 작성
TypeScript 라이브러리가 올바른 표준으로 .d.ts 파일을 생성하도록 tsconfig와 package.json을 구성하고, 사용자를 위한 완전한 타입 지원과 Vitest를 통한 테스트 방법을 소개합니다.
러스트에서 Box, Rc, Arc를 언제 사용할 것인가: 힙 할당, 단일 스레드에서의 소유권 공유, 다중 스레드 간 공유, Weak, RefCell, Mutex
Spring Boot 3를 Kotlin으로 설정하고, REST API와 JPA entity, 설정 그리고 테스트를 작성하며, Java에서 전환할 때 흔한 오류를 다룹니다.
Tokio를 사용한 Rust 비동기 프로그래밍 가이드. async/await, task spawn, join!, select!, timeout, channel, spawn_blocking 및 async 코드 테스트 방법을 다룹니다.
async 함수의 타입 선언, Promise<T>, Awaited, Promise.all 사용법, 안전한 에러 처리, async 콜백의 흔한 실수 피하기
system prompt, delimiter, few-shot, structured output, temperature 등 효과적인 프롬프트 엔지니어링 기법을 Spring AI 예제와 함께 소개합니다.