Phase 8: Lokale KI

Wiki mit semantischer Suche ueber pgvector, Diktat ueber faster-whisper,
Berichtsassistent und Belegerfassung — alles gegen selbst betriebene
Modelle. Dazu zwei Protokollansichten: was die Maschine getan hat und was
Menschen getan haben.

Nichts, was ein Modell erzeugt, gelangt ungeprueft in einen Nachweis. Jede
Ausgabe ist zuerst ein eigener Datensatz, gekennzeichnet, mit zwei gleich
grossen Knoepfen davor. Die Datenbank haelt gegen: Eingabe, Ausgabe und
Modell sind unveraenderlich, geloescht wird nicht, entschieden wird einmal.

Kein Rueckfall auf einen Anbieter: fehlen die Container, fehlt die Funktion.
Dafuer bleibt alles andere ohne Modell vollstaendig benutzbar — geprueft von
vierzehn E2E-Tests, die ohne laufendes Modell durchlaufen.

Postgres bringt jetzt PostGIS und pgvector mit (eigenes Image), Ollama und
faster-whisper stehen im Compose-Profil "ki".

73 neue Unit-Tests, 14 neue E2E-Tests, Version 0.9.0.

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
This commit is contained in:
Florian Wilde
2026-09-04 11:06:03 +02:00
co-authored by Claude Opus 5
parent 12243f177d
commit f7ccd9a908
134 changed files with 8624 additions and 72 deletions
+38
View File
@@ -328,11 +328,49 @@ BENACHRICHTIGUNG_AUFBEWAHRUNG_TAGE=90
# -----------------------------------------------------------------------------
# LLM-Anbindung (optional; nur selbstgehostete Endpunkte, kein Cloud-Zwang)
# -----------------------------------------------------------------------------
# ES GIBT KEINEN RUECKFALL AUF EINEN ANBIETER. Laeuft der eigene Endpunkt
# nicht, fehlen die KI-Funktionen — sie werden nicht durch einen fremden
# Dienst ersetzt. Ein Einsatzbericht spricht ueber Menschen in ihrer
# schlechtesten Stunde; solche Texte gehoeren nirgendwo anders hin.
#
# Container starten: docker compose --profile ki up -d
# Modelle holen: docker compose exec ollama ollama pull <modell>
LLM_ENABLED=false
# OpenAI-kompatibler Endpunkt, z. B. eine lokale Ollama- oder vLLM-Instanz.
LLM_BASE_URL=http://ollama:11434/v1
LLM_API_KEY=
LLM_MODELL=qwen2.5:14b
# Zeitlimit fuer eine Antwort. Ein Bericht darf dauern, aber nicht ewig.
LLM_TIMEOUT=120
# Modell fuer Einbettungen (semantische Suche im Wiki).
#
# ACHTUNG: Die Spalte wikiabschnitt.einbettung ist auf 768 Dimensionen
# festgelegt — das liefert nomic-embed-text. Ein Modell mit anderer Laenge
# braucht eine Migration; wie, steht im README unter Phase 8.
LLM_EINBETTUNG_MODELL=nomic-embed-text
LLM_EINBETTUNG_DIMENSIONEN=768
# Modell, das Bilder lesen kann — fuer die Belegerfassung. Ohne dieses Modell
# werden Belege trotzdem abgelegt, die Angaben nur von Hand eingetragen.
# LLM_VISION_MODELL=llama3.2-vision
# -----------------------------------------------------------------------------
# Spracherkennung fuers Diktat (Phase 8, optional)
#
# Selbst betriebener faster-whisper im Compose-Profil "ki". Groesse ueber
# WHISPER_MODELL: "tiny" laeuft auf jedem Buerorechner, "base" ist der
# brauchbare Kompromiss, "small" erkennt Fachbegriffe merklich besser und
# will dafuer Zeit oder eine Grafikkarte.
# -----------------------------------------------------------------------------
WHISPER_ENABLED=false
WHISPER_URL=http://whisper:8000
WHISPER_MODELL=base
WHISPER_SPRACHE=de
# Zeitlimit fuer eine Aufnahme. Zehn Minuten Sprache brauchen Zeit.
WHISPER_TIMEOUT=300
# Hoechstlaenge einer Aufnahme in Sekunden.
DIKTAT_MAX_SEKUNDEN=600
# -----------------------------------------------------------------------------
# Einsätze und Übungen (Phase 3)