JavaでLLMを呼び出す際のトークンカウント・費用推定
JTokkit でローカルトークンをカウント、BigDecimal で費用を計算し、予算超過のリクエストをブロック、Spring AI から実際の使用状況と照合する
JTokkit でローカルトークンをカウント、BigDecimal で費用を計算し、予算超過のリクエストをブロック、Spring AI から実際の使用状況と照合する
HttpClientとWebClientを使ってLLM APIからServer-Sent Events経由でトークンを受け取り、ブラウザに転送する方法。エラーハンドリング、タイムアウト、テストも含む。
LLMがアプリケーションの関数を呼び出す仕組みを、JSONレベルから@Toolまで学びます。注文照会、キャンセル、実際のモデル呼び出しなしのテストの例を含みます。
Spring BootでLLMから正しいJSONスキーマを返させる方法:Spring AIでRecordにマップする、OpenAIのネイティブJSON Schema機能を有効にする、バリデーション、リトライとテストを書く
System prompt、delimiter、few-shot、structured output、temperatureなどの実用的なプロンプトエンジニアリング技法をSpring AIで解説します。
temperature、top_p、max tokensがLLMの出力をどのように制御するか理解し、Spring Boot 3のSpring AIで正しく設定する方法を学びます。
LLMの3つの基本概念(トークン、コンテキストウィンドウ、サンプリング)を理解し、Java 21でトークンをカウント、チャット履歴をカット、temperature、top-k、top-pを実装するコードを含む。
フロントエンド、RAG、ローカルLLM、デプロイメントまで、本番環境レベルのAIアーキテクチャを0円で構築・運用する方法を、コード例を交えて解説。
リアルタイム LLM の双方向音声アーキテクチャの仕組みを解説し、Spring Boot を使った WebSocket 統合例を実装します。
ソース文書が変わる時、vector storeで直接上書きするとデータの矛盾が生じやすい。本記事はRAGの安全なバージョニング手順を説明します。
LLMがinferenceで1つずつトークンを生成する方法、KV cache、batching、quantizationなどの最適化技術、およびJava/Spring Bootでパフォーマンスを測定する方法を学びます。
AlexNetからRAGまで、現代AIの基礎となる12論文の総まとめ — 各主要アイデアをJavaコードで説明します。
Spring Bootプロジェクトでコード、テスト、ドキュメント作成時間を短縮するLLM活用実践ガイド(実行可能な例付き)
LLMを使う時に出てくる20の基本概念の完全解説 — token、embedding、RAG、fine-tuning、agent...Java/Spring AIコード例付き