Teil 5 · Zuverlässiges JSON aus einem lokalen LLM bekommen
format="json" bringt dich 90% ans Ziel. Die anderen 10% sind nachgestellte Kommas, unerwartete Strukturen und Einträge, die fast, aber nicht ganz dem Schema entsprechen. Hier ist …
Teil 3 · Zwei-Phasen-Streaming: Zeigen, wie das Modell denkt, bevor es handelt
Die meisten Agenten-UIs verbergen die Gedankengänge des Modells, bis alles fertig ist. CogniVault streamt zuerst die Chain-of-Thought von Gemma 4 und führt dann die Strands …
Teil 1 · Warum ich ein Local-First RAG gebaut habe
Cloud-KI-Assistenten sind mächtig — aber für Trainer, Researcher und alle, die mit sensiblem Material hantieren, sind sie auch eine undichte Abstraktion. Hier erfährst du, warum …