LLMToken zählen und Kosten schätzen beim Aufrufen von LLMs in Java
Lokal Token mit JTokkit zählen, Kosten mit BigDecimal berechnen, Anfragen mit Budgetüberschreitung blockieren und mit dem tatsächlichen Verbrauch von Spring AI abgleichen.
Streaming-Antworten von LLM APIs mit Java 21 und Spring Boot
Tokens von LLM APIs über Server-Sent Events mit HttpClient und WebClient empfangen, an den Browser streamen und dabei Fehler, Timeouts und Tests handhaben.
Function calling / tool use anhand praktischer Beispiele mit Spring AI
Verstehe, wie LLMs Funktionen deiner Anwendung aufrufen – von rohes JSON bis zur @Tool-Annotation in Spring AI. Der Artikel enthält praktische Beispiele zum Abfragen von Bestellungen, zum Stornieren und zum Testen ohne echte Model-Aufrufe.
Structured Output: LLM-JSON mit korrektem Schema in Spring AI
LLMs zwingen, JSON mit passendem Schema in Spring Boot zurückzugeben: Mapping in Records mit Spring AI, natives JSON Schema aktivieren, validieren, Retry implementieren und Tests schreiben.
Prompt Engineering: Techniken zum sofort Anwenden
Praktische Prompt-Engineering-Techniken wie System Prompt, Delimiter, Few-Shot, strukturierte Ausgabe und Temperatur, mit Beispielen in Spring AI.
LLM-API aufrufen: temperature, top_p und max_tokens
Verstehen Sie, wie temperature, top_p und max_tokens die LLM-Ausgabe steuern, und konfigurieren Sie diese richtig mit Spring AI in Spring-Boot-3-Anwendungen.
Wie LLMs funktionieren: Token, Context Window und Sampling
Verstehen Sie die drei grundlegenden Konzepte von LLMs – Token, Context Window und Sampling – mit Java-21-Code zum Zählen von Tokens, Trimmen des Chat-Verlaufs und Implementieren von Temperature, Top-k und Top-p.
AI-Stack kostenlos: Detaillierte Erklärung mit Beispielen
Analyse einer produktionsreifen AI-Architektur, die mit 0€ Kosten läuft, von Frontend über RAG und lokalem LLM bis Deployment, mit praktischen Code-Beispielen.
GPT-Live: Echtzeit-Sprachdialog — Architektur und Java-Integration
Erklärung der Full-Duplex-Architektur (simultanes Hören und Sprechen) von Echtzeit-LLM-Modellen mit WebSocket-Integrations-Beispiel in Spring Boot.
RAG-Dokumente aktualisieren ohne zu überschreiben: sichere Versionierung für LLM
Wenn sich Quelldokumente ändern, ist direktes Überschreiben im Vector Store fehleranfällig. Der Artikel zeigt einen sicheren Versionierungsprozess für RAG.
12 bahnbrechende AI-Paper: detaillierte Erklärung mit Beispielen
Übersicht der 12 grundlegenden AI-Paper der modernen KI — von AlexNet bis RAG — mit Java-Code zur Veranschaulichung jeder Kernidee.
AI Inference Engineering: detaillierte Erklärung mit Beispielen
Verstehen Sie, wie LLMs während der Inference Token für Token generieren, sowie Optimierungstechniken wie KV Cache, Batching, Quantization und Leistungsmessung mit Java/Spring Boot.
Mit AI Zeit sparen in der Entwicklung: Detailliert mit Beispielen
Praktischer Leitfaden zur Verwendung von LLM um Zeit beim Schreiben von Code, Tests und Dokumentation in Spring Boot zu sparen, mit funktionsfähigen Beispielen.
Top 20 AI-Konzepte in LLMs: detaillierte Erklärung mit Beispielen
Zusammenfassung von 20 Grundkonzepten für die Arbeit mit LLMs — Token, Embedding, RAG, Fine-Tuning, Agent... mit verständlichen Java/Spring-AI-Codebeispielen.