Teil 8 · Eine lokale KI-App testen: 351 Tests, Null Infrastruktur
Tests, die ein laufendes Ollama, Postgres oder ein echtes PDF auf der Festplatte benötigen, werden in der CI übersprungen und verrotten in einer Woche. Hier zeige ich dir, wie ich …
Gemma CogniVault
Ein komplett lokaler, privater KI-Lernbegleiter — Gemma 4 + FAISS + BM25 + Strands Agents, läuft vollständig auf deiner Maschine.
Teil 5 · Zuverlässiges JSON aus einem lokalen LLM bekommen
format="json" bringt dich 90% ans Ziel. Die anderen 10% sind nachgestellte Kommas, unerwartete Strukturen und Einträge, die fast, aber nicht ganz dem Schema entsprechen. Hier ist …
Teil 3 · Zwei-Phasen-Streaming: Zeigen, wie das Modell denkt, bevor es handelt
Die meisten Agenten-UIs verbergen die Gedankengänge des Modells, bis alles fertig ist. CogniVault streamt zuerst die Chain-of-Thought von Gemma 4 und führt dann die Strands …
Teil 2 · Hybrid Retrieval in der Praxis: FAISS + BM25, verschmolzen mit RRF
Dichte Vektoren sind schlau, aber vergesslich. Die Stichwortsuche ist dumm, aber loyal. Hier erfährst du, wie ich FAISS, BM25 und Reciprocal Rank Fusion in CogniVault kombiniert …
Teil 1 · Warum ich ein Local-First RAG gebaut habe
Cloud-KI-Assistenten sind mächtig — aber für Trainer, Researcher und alle, die mit sensiblem Material hantieren, sind sie auch eine undichte Abstraktion. Hier erfährst du, warum …