Contar tokens e estimar custos ao chamar LLM em Java
Como contar tokens localmente com JTokkit, calcular custos com BigDecimal, bloquear requisições que excedem orçamento e comparar com uso real do Spring AI.
Como contar tokens localmente com JTokkit, calcular custos com BigDecimal, bloquear requisições que excedem orçamento e comparar com uso real do Spring AI.
Receba cada token da LLM API via Server-Sent Events usando HttpClient e WebClient, depois envie para o navegador, com tratamento de erros, timeout e testes.
Entenda como LLMs chamam funções da sua aplicação, de JSON puro a @Tool no Spring AI. O artigo tem exemplos de consulta, cancelamento de pedido e testes sem chamar o modelo de verdade.
Como forçar LLM a retornar JSON que combine com schema no Spring Boot: mapear para record usando Spring AI, ativar JSON Schema nativo, validar, retry e escrever testes.
Técnicas de prompt engineering práticas como system prompt, delimiter, few-shot, structured output e temperature, ilustradas com Spring AI.
Entenda como temperature, top_p e max_tokens controlam a saída da LLM, e configure-os corretamente com Spring AI em aplicações Spring Boot 3.
Entenda três conceitos fundamentais de LLM: tokens, context window e sampling, com código Java 21 para contar tokens, encaixar histórico de chat e configurar temperature, top-k, top-p.
Análise de uma arquitetura AI de nível produção que pode rodar com custo $0, desde frontend, RAG, LLM local até deployment, com exemplos práticos de código.
Explica a arquitetura full-duplex de escuta-fala simultânea de modelos LLM em tempo real, com exemplo de integração WebSocket usando Spring Boot.
Quando documentos de origem mudam, sobrescrever diretamente no vector store causa inconsistência de dados. Este artigo orienta o processo de versionamento seguro para RAG.
Compilação de 12 papers fundamentais de IA moderna — de AlexNet até RAG — com código Java ilustrando cada ideia central.
Resumo dos 20 conceitos fundamentais ao trabalhar com LLM — token, embedding, RAG, fine-tuning, agent... com exemplos de código Java/Spring AI.
Aprenda como LLM gera cada token durante inference, técnicas de otimização como KV cache, batching, quantization e como medir performance com Java/Spring Boot.
Guia prático de como usar LLM para economizar tempo escrevendo código, testes e docs em projetos Spring Boot, com exemplos funcionais.