Token zählen und Kosten schätzen beim Aufrufen von LLMs in Java
Lokal Token mit JTokkit zählen, Kosten mit BigDecimal berechnen, Anfragen mit Budgetüberschreitung blockieren und mit dem tatsächlichen Verbrauch von Spring AI abgleichen.
Lokal Token mit JTokkit zählen, Kosten mit BigDecimal berechnen, Anfragen mit Budgetüberschreitung blockieren und mit dem tatsächlichen Verbrauch von Spring AI abgleichen.
Tokens von LLM APIs über Server-Sent Events mit HttpClient und WebClient empfangen, an den Browser streamen und dabei Fehler, Timeouts und Tests handhaben.
Verstehe, wie LLMs Funktionen deiner Anwendung aufrufen – von rohes JSON bis zur @Tool-Annotation in Spring AI. Der Artikel enthält praktische Beispiele zum Abfragen von Bestellungen, zum Stornieren und zum Testen ohne echte Model-Aufrufe.
LLMs zwingen, JSON mit passendem Schema in Spring Boot zurückzugeben: Mapping in Records mit Spring AI, natives JSON Schema aktivieren, validieren, Retry implementieren und Tests schreiben.
Praktische Prompt-Engineering-Techniken wie System Prompt, Delimiter, Few-Shot, strukturierte Ausgabe und Temperatur, mit Beispielen in Spring AI.
Erstelle Vector-Embeddings mit sentence-transformers, berechne Ähnlichkeiten, führe semantische Suche durch und rufe Modelle aus Spring-Boot-Anwendungen auf.
Verstehen Sie, wie temperature, top_p und max_tokens die LLM-Ausgabe steuern, und konfigurieren Sie diese richtig mit Spring AI in Spring-Boot-3-Anwendungen.
Unterscheide die MCP-Primitives tool, resource und prompt nach ihrer Kontrolle, mit Spring-AI-Beispielen und Tests für jeden Typ.
Erstelle eine komplette RAG-Pipeline mit Spring AI: Dokumente aufteilen, Embeddings erstellen, Vektorsuche durchführen, Prompts mit Quellenangaben zusammenstellen und Tests für jeden Schritt schreiben.
Verstehen Sie die Natur von AI Agents durch die Beobachten – Reasoning – Handeln Schleife, implementieren Sie einen minimalen Agent in Java 21 und testen Sie ihn mit JUnit 5.
Verstehen Sie die drei grundlegenden Konzepte von LLMs – Token, Context Window und Sampling – mit Java-21-Code zum Zählen von Tokens, Trimmen des Chat-Verlaufs und Implementieren von Temperature, Top-k und Top-p.
Analyse einer produktionsreifen AI-Architektur, die mit 0€ Kosten läuft, von Frontend über RAG und lokalem LLM bis Deployment, mit praktischen Code-Beispielen.
Analyse der Architekturmuster hinter den heißesten AI-Agent-Repos auf GitHub 2026, mit Beispiel für den Bau eines Tool-Calling Agents in Java/Spring Boot.
Definition von AI Agent, Unterschied zu gewöhnlichen Chatbots, Erklärung der ReAct-Schleife und Bau eines minimalen Agent mit Java und Spring AI.
Lernen Sie 5 gängige Muster beim Aufbau von KI-Agenten - Reflection, Tool Use, Planning, Multi-Agent, ReAct - mit ausführbaren Java/Spring-AI-Beispielen.
Anleitung zum Fine-Tuning eines kleinen Modells (DistilBERT) für die Klassifizierung von Produktbewertungen mit der Trainer API von Hugging Face, von der Datenvorbereitung bis zur Inferenz.
Erklärung der Full-Duplex-Architektur (simultanes Hören und Sprechen) von Echtzeit-LLM-Modellen mit WebSocket-Integrations-Beispiel in Spring Boot.
Anleitung zum Verwenden der Datasets-Bibliothek von Hugging Face zum Laden, Erkunden, Transformieren und Speichern von Datensätzen für das NLP-Modelltraining.
LLMs kennen die internen Daten deines Unternehmens nicht. Dieser Artikel erklärt den RAG-Mechanismus, warum Retrieval die Qualität bestimmt, mit funktionierendem Java-Beispiel.
Entdecke MCP – den Standard zur Kommunikation zwischen LLM und externen Daten/Tools, mit Beispiel zum Schreiben eines MCP-Servers mit Spring AI.