01Kategorie · KI-Infrastruktur

KI-Infrastruktur

KI-Infrastruktur: RAG, Vektor-DBs, Modell-Routing, Self-Hosting, Kosten und Observability - günstig und unter Kontrolle bauen.

54 Beiträge

18.06.2026

Context Engineering: Was (nicht) ins Kontextfenster eines LLM gehört

Context Engineering im Jahr 2026: Wie man den Kontext eines LLM auswählt und ordnet, um den Lost-in-the-Middle-Effekt, Token-Budget-Überschreitungen und Halluzinationen zu vermeiden.

18.06.2026

MLOps für LLM-Anwendungen: Vom Prototyp zur Produktion

Wie man 2026 den Lebenszyklus von LLM-Anwendungen managt: Versionsverwaltung von Prompts und Modellen als Einheit, Evaluierungs-Gate vor jedem Deployment und Rollback in unter einer Minute.

18.06.2026

Prompt Injection in Agenten mit Tools: tiefergehendes Risiko

2026 rufen KI-Agenten Tools auf, statt nur zu antworten. Wie Injection einen Agenten dazu bringt, eine Datenbank abzufragen oder eine E-Mail zu senden – und wie man das verhindert.

18.06.2026

RAG mit Tabellen und strukturierten Daten: Wie man Zahlen nicht verliert

RAG über Tabellen und Finanzberichten im Jahr 2026: Wann text-to-SQL, wann semantischer Retrieval und wie man eine genaue Zahl mit Provenienz für Entscheidungen zitiert.

17.06.2026

Deduplikation und Datenbereinigung für AI im Jahr 2026

Deduplikation und Bereinigung von Daten vor AI im Jahr 2026: drei Methoden zur Duplikaterkennung, Textnormalisierung, PII-Maskierung und Entscheidungen, die menschliches Eingreifen erfordern.

17.06.2026

Fine-Tuning LoRA und QLoRA in der Praxis — wann, wie und wie viel

Fine-Tuning LoRA und QLoRA im Jahr 2026: Hardware-Anforderungen, Datenumfang, Workflow von Daten bis zur Adapter-Bereitstellung und realistische Kostenspannen. Prüfen Sie, ob dies die richtige Entscheidung ist.

17.06.2026

GraphRAG: wenn Wissen als Graph Vektoren schlägt

GraphRAG im Jahr 2026: wenn ein Graph aus Entitäten und Relationen bessere Antworten liefert als Vektoren, wie die Graph-Extraktion funktioniert, was es kostet und wann es Overengineering ist.

17.06.2026

Wie man ein RAG-System evaluiert: Metriken für Retrieval, Faithfulness und Golden Set

Wie man ein RAG-System End-to-End im Jahr 2026 evaluiert: recall@k und Präzision für Retrieval, Faithfulness und Quellenattribution, Aufbau eines Golden Sets sowie Offline- vs. Online-Evaluation.

17.06.2026

Wie man die Qualität von Embeddings misst: recall@k, MRR und domänenspezifische Benchmarks

Wie man die Qualität eines Embedding-Modells auf eigenen Daten im Jahr 2026 bewertet: recall@k, MRR, nDCG, Aufbau eines Golden Sets sowie Fallstricke bei der Offline- und Online-Evaluierung.

17.06.2026

LLM als Richter: wie (nicht) die Qualitätsbewertung automatisieren

LLM-as-a-judge im Jahr 2026: wann die automatische Qualitätsbewertung funktioniert, welche systematischen Fehler sie einbaut und wie man den Richter kalibriert, bevor man ihm Produktionsentscheidungen anvertraut.

17.06.2026

LLM-Kostenmonitoring: Wie man das AI-Budget nicht verbrennt

FinOps für LLM im Jahr 2026: Verfolge Kosten pro Token, Funktion und Nutzer, finde versteckte Ausgaben und wähle Cache, Routing sowie Budgets, die die Rechnung wirklich senken.

17.06.2026

RAG für Code und technische Dokumentation: Leitfaden 2026

Wie man 2026 einen RAG über Code und technische Dokumentation aufbaut: Chunking nach Symbolen, Hybrid Search, Index-Frische und Zitieren von Datei mit Zeile.

17.06.2026

LLM Red Teaming: Teste den Assistenten vor der Produktion mit Angriffen

LLM Red Teaming 2026: Wie man einen Angriffskatalog aufbaut, Schwachstellen bewertet und in eine kontinuierliche Regressionstest-Schleife integriert, bevor es jemand anderes tut.

17.06.2026

LLM-Streaming von Antworten: UX und SSE-Architektur im Jahr 2026

Warum Token-für-Token-Streaming die wahrgenommene Latenz verkürzt und wie man eine SSE-Pipeline mit Backpressure, Guardrails und Observability im Jahr 2026 korrekt aufbaut.

17.06.2026

Validierung von LLM-Ausgaben: structured output, Schemata und Guardrails

Wie man 2026 zuverlässig LLM-Ausgaben validiert: JSON Schema, structured output, Reparaturschleife und Guardrails. Praktisches Muster für sichere Produktion.

17.06.2026

Versionsverwaltung von Prompts und Modellen: Regressionstests und Änderungskontrolle in KI

Wie man 2026 die Kontrolle über Änderungen in KI-Systemen behält: Versionsverwaltung von Prompts und Modellen, Regressionstests auf dem Golden Set, sichere Aktualisierung, Protokoll und Rollback.

17.06.2026

Wie man das richtige LLM für die Aufgabe auswählt: Matrix Größe-Kosten-Latenz

Wie man 2026 das richtige LLM für die Aufgabe auswählt: Aufgaben-Modell-Matrix, Kompromisse zwischen Größe, Kosten und Latenz sowie ein Router, der die Arbeit an das günstigste Modell weiterleitet.

01.06.2026

AI Act und DSGVO im Jahr 2026: Was muss ein Unternehmen bei der Implementierung von AI tun

Der AI Act wird in Stufen durchgesetzt – ab August 2026 kommen Transparenz und Pflichten für hohes Risiko hinzu. Was das in der Praxis bedeutet: menschliche Aufsicht, DPIA und wie man Compliance von der ersten Codezeile an gestaltet, nicht erst nach einem Vorfall.

01.06.2026

AI Act: Hochrisikosysteme in der Praxis (HR, Finanzen, Scoring)

AI Act Hochrisiko 2026: Welche Systeme unterliegen strenger Regulierung, welche Pflichten bringen HR-Tools, Kreditscoring und Kundenbewertung mit sich und wie gestaltet man Compliance.

01.06.2026

AI-Governance im Unternehmen: Richtlinien, Rollen, Kontrolle

AI-Governance im Unternehmen ist ein Satz von Richtlinien, Rollen und Kontrollmechanismen, die eine verantwortungsvolle Implementierung von AI gemäß AI Act und DSGVO ermöglichen. Praktischer Leitfaden.

01.06.2026

Aktualisierung und Versionierung von Wissen in RAG

Wie man die Wissensbasis in RAG aktuell hält: Strategien für inkrementelle Reindizierung, Dokumentenversionierung und Erkennung von Wissensdrift in Produktionsumgebungen.

01.06.2026

Anonymisierung und Maskierung von PII vor dem Senden an KI

Wie Sie personenbezogene Daten schützen, bevor sie an KI-Modelle gesendet werden. Muster zur PII-Maskierung, Pseudonymisierung, DSGVO und praktische Architektur für Unternehmen.

01.06.2026

Sicherheitsaudit des KI-Assistenten: Checkliste vor der Implementierung

Sicherheitsaudit des KI-Assistenten 2026: Checkliste umfasst Prompt Injection, PII-Leaks, Tool-Berechtigungen, Rate-Limiting und RAG-Datenbank-Schwachstellen.

01.06.2026

LLM-Sicherheit: OWASP Top 10 in der Praxis

OWASP LLM Top 10 beschreibt die zehn wichtigsten Schwachstellenklassen großer Sprachmodelle. Wie sieht jede davon in einem Produktionssystem aus und wie baut man einen mehrschichtigen Schutz auf.

01.06.2026

Semantischer LLM-Cache: Wie man Kosten und Latenzen bei wiederholten Anfragen reduziert

Semantischer LLM-Cache im Jahr 2026: Wie funktioniert der Ähnlichkeitsschwellenwert von Embeddings, wann senkt er die Kosten um 40-60%, welche Risiken birgt er und wie verwaltet man die Invalidierung.

01.06.2026

Chunking von Dokumenten für RAG: Wie teilen, damit Retrieval funktioniert

Wie wählt man 2026 die richtige Chunking-Strategie für RAG: feste Größe, recursive, semantisch, Tabellen und Code. Konkrete Größen und Overlap.

01.06.2026

DeepSeek vs Mistral vs Qwen: welcher KI-Modell wofür

Drei führende Modellfamilien, drei unterschiedliche Profile. Head-to-Head nach gemessenen Parametern — und wann welches wählen.

01.06.2026

Embeddings für die polnische Sprache: Wie wählt man ein Modell für RAG aus

Wie wählt man ein Embedding-Modell für RAG mit polnischen Dokumenten im Jahr 2026 aus: Kriterien, Vergleich multilingualer und monolingualer Modelle, Evaluation auf eigenen Daten.

01.06.2026

Evaluierung eines KI-Agenten: Tests, Golden Set und Benchmarks vor der Produktion

Wie man einen KI-Agenten vor der Einführung 2026 testet: Golden Set, Faithfulness, Tool-Accuracy, Regressionstests und die Grenzen von LLM-as-Judge.

01.06.2026

Unternehmens-GPT: KI-Assistent auf Ihrer Wissensbasis

Ein Unternehmens-GPT auf Wissensbasis ist ein RAG-Assistent, der aus Ihren Dokumenten antwortet. Wie man ihn aufbaut, was in der Sicherheitsschicht zu gewährleisten ist und wann er sich rechnet.

01.06.2026

Hybride Suche: Wann BM25 mit Vektoren kombinieren

Hybride Suche BM25 + Vektoren 2026: Wann Semantik bei SKU versagt, wie RRF-Fusion funktioniert und wie man Hybrid Search in einem RAG-System konfiguriert.

01.06.2026

Integration von KI mit ERP und Unternehmenssystemen

Wie man KI an ERP, CRM und andere Betriebssysteme des Unternehmens anschließt. Integrationsmuster, Datensicherheit und reale Implementierungskosten im Jahr 2026.

01.06.2026

n8n und AI: End-to-End-Automatisierungen ohne Code

Wie man n8n mit einem AI-Modell verbindet und eine echte End-to-End-Automatisierung aufbaut. Muster, Fallstricke und Prinzipien sicherer Integration.

01.06.2026

Wie man das richtige KI-Modell für die Aufgabe wählt (und nicht für den Hype)

Es gibt nicht das eine beste Modell. Es gibt das passende Modell für die jeweilige Aufgabe – ausgewählt durch Messung, nicht durch den Namen. Ein praktischer Leitfaden zur Auswahl.

01.06.2026

Wie man eine Vektordatenbank wählt: Qdrant, pgvector und Entscheidungskriterien

Wie man 2026 eine Vektordatenbank wählt: pgvector vs Qdrant, Kriterien für Skalierung, Filterung, Self-Hosting und DSGVO-Konformität. Praktische Entscheidungstabelle.

01.06.2026

Wann Fine-Tuning sinnvoll ist (und wann RAG ausreicht)

Fine-Tuning wann sinnvoll: Auswahlkriterien, Kosten und Fallstricke. Wann RAG das Problem günstiger löst und wann Modell-Training der einzige Weg ist.

01.06.2026

Kosten von LLM-Tokens: Wie man sie misst und optimiert

Die Kosten für LLM-Tokens steigen schneller als das geplante KI-Budget. Wie misst man den Verbrauch, wo verstecken sich die Kosten und welche Optimierungsmuster funktionieren wirklich im Produktivbetrieb.

01.06.2026

Kosten für den Betrieb eines KI-Agenten: TCO und Operationen

Kosten für den Betrieb eines KI-Agenten im TCO-Kontext: Infrastruktur, Token, Monitoring, Wissensaktualisierungen und menschliche Aufsicht. Wie viel kostet ein Agent nach der Implementierung wirklich?

01.06.2026

Lokale LLM: Welche Hardware und GPU brauchst du wirklich

Welche GPU und Hardware für lokale LLM im Unternehmen wählen? Vergleich von VRAM, Bandbreite, Modellen und Kosten für Self-Hosted-Implementierungen im Jahr 2026.

01.06.2026

Kleines spezialisiertes KI-Modell vs. großer LLM

Kleines KI-Modell vs. großer LLM: Wann ein spezialisierter 7B einen allgemeinen GPT-4-Class schlägt, was der Unterschied kostet und wie man die richtige Wahl für das Unternehmen trifft.

01.06.2026

MCP: Wie KI sicher mit Tools verbunden wird

MCP (Model Context Protocol) ist ein offener Standard zur Verbindung von KI-Modellen mit externen Tools und Daten. Wie es funktioniert, was es Unternehmen bringt und welche Sicherheitsrisiken es birgt.

01.06.2026

Migration von API zu eigenem KI-Modell: wann und wie

Migration von OpenAI API zu eigenem KI-Modell: wann sich Self-Hosting von LLM rechnet, wie der Prozess abläuft und was aus der bisherigen Architektur übernommen werden sollte.

01.06.2026

Denkmodus vs. Instruct: Wann KI logisch vorgehen soll

„Denkende“ Modelle sind stark bei schwierigen Entscheidungen — und langsam, teuer sowie leer, wenn man sie erzwingt. Wann sich logisches Vorgehen lohnt.

01.06.2026

Monitoring und KPIs eines KI-Agenten: Wie misst man die Effektivität

Wie man einen KI-Agenten überwacht, welche KPIs einen geschäftlichen Sinn ergeben und wie man ein Qualitäts-Dashboard aufbaut, bevor die Implementierung außer Kontrolle gerät.

01.06.2026

No-Code (Make, Zapier) vs. eigener AI-Agent

Wann Make und Zapier ausreichen und wann Sie einen eigenen AI-Agenten benötigen. Vergleich der Möglichkeiten, Kosten und Grenzen von No-Code vs. dedizierter Architektur.

01.06.2026

Prompt Caching in LLMs: Wie ein günstiger statischer Präfix die Rechnungen reduziert

Prompt Caching in LLMs 2026: Was ist ein Cache für statische Präfixe, wie unterscheidet er sich vom semantischen Cache und wie strukturiert man den Prompt, um den Cache zu treffen.

01.06.2026

Prompt Engineering für Unternehmen: Was funktioniert und was nicht

Prompt Engineering für Unternehmen 2026: Techniken, die die Qualität von LLMs verbessern, Fehler, die Token und Zeit kosten, Guardrails, DSGVO und AI Act bei der Prompt-Gestaltung.

01.06.2026

RAG: Wie man die Qualität von Antworten evaluiert (Golden Set)

RAG-Evaluierung Schritt für Schritt: Golden Set, Metriken für Faithfulness und Relevance, LLM-as-Judge, Regressionstests und Audit-Trail nach AI Act für RAG-Systeme.

01.06.2026

Reranking: Wie man die Suchqualität in RAG verbessert

Was ist Reranking in RAG, wann schlägt ein Cross-Encoder ANN und wie baut man eine Suchpipeline, die relevante Fragmente statt nur ähnliche liefert.

01.06.2026

Firmendaten und KI: Auftragsverarbeitungsvertrag und Rechtsgrundlage

Wann der Einsatz von KI einen Auftragsverarbeitungsvertrag (DPA) erfordert, was er enthalten muss und wie rechtliche Lücken bei der Implementierung eines Assistenten oder einer Automatisierung vermieden werden.

28.05.2026

Souveräne AI-Infrastruktur: eigene Modelle statt Überraschungsrechnung

Warum self-hosted LLM und RAG auf eigenem Wissen Kontrolle über Kosten, Datenschutz und Anbieter bieten.

22.05.2026

Kosten von LLM: lokal vs. Cloud-API – wann lohnt sich was?

Der Schnittpunkt der Kosten zwischen eigenem Modell und Cloud-API. Wie man berechnet, wann Self-Hosting günstiger wird.

20.05.2026

Ollama Cloud im Unternehmen: Leistung großer Modelle ohne eigenes Rechenzentrum

Wie man Ollama Cloud in einer Organisation vernünftig nutzt: über einen Router, mit PII-Maskierung und Kostenkontrolle – statt direkter Aufrufe.

18.05.2026

Self-hosted LLM und DSGVO: Wie man KI nutzt, ohne Daten nach außen zu senden

Warum ein eigenes Sprachmodell die DSGVO-Compliance vereinfacht und was sich konkret im Fluss personenbezogener Daten ändert.

zum Blog