Kurz gesagt
Ein RAG-Assistent oder KI-Agent zeigt, was ihm die Suchschicht liefert, und erbt damit jede zu weit freigegebene Ablage. Bevor Sie Firmendaten indexieren, prüfen Sie Berechtigungen in der Indexabfrage selbst, klassifizieren Dokumente vor der Indexierung und speichern, woher jeder Textabschnitt stammt.
Das Wichtigste in Kürze
- Die OWASP Top 10 for LLM Applications 2026 (veröffentlicht am 3. August 2026) verlangen Autorisierung vor dem Retrieval, auf Dokument- und Chunk-Ebene, in der Indexabfrage.
- Ähnlichkeitssuche kennt keine Zugriffsrechte: Ein Filter nach der Antwort holt einen Chunk nicht zurück, den das Modell schon gelesen hat.
- Die Datenklassifizierung vor der Indexierung entscheidet: gemeinsamer Index mit Filter, eigener Index oder gar nicht.
- Lineage bei RAG heißt Herkunft pro Chunk (Quelle, Zeitpunkt, Pipeline-Version) und ein Protokoll darüber, was jede Abfrage geliefert hat.
- Art. 10 der KI-Verordnung gilt für Hochrisiko-Systeme nach Anhang III ab 2. Dezember 2027 (Stand: 17. November 2026); Art. 5, 25 und 32 DSGVO gelten schon heute für jedes RAG mit personenbezogenen Daten.
Data Governance für KI beginnt in der Suchschicht: Ein Assistent mit Retrieval-Augmented Generation (RAG) oder ein KI-Agent sieht, was ihm die Suchschicht liefert, nicht das, was der Nutzer sehen darf. Ist ein SharePoint-Bereich seit 2019 für das ganze Unternehmen offen, zitiert der Assistent daraus. Die OWASP Top 10 for LLM Applications 2026 beschreiben genau diesen Weg. Data Governance für RAG umfasst die Kontrollen für Zugriff, Klassifizierung, Datenherkunft und Qualität, bevor Firmendaten in den Suchindex gelangen. Hier die vier Bereiche, die Sie prüfen sollten, bevor Sie Software mit RAG entwickeln.
Warum zeigt ein RAG-Assistent Daten, die der Nutzer nicht sehen darf?
Weil die Vektorsuche Text nach Bedeutung sortiert, nicht nach Rechten. Der OWASP-Eintrag zur Offenlegung sensibler Informationen (LLM02:2026) fasst es in einem Satz: Kosinus-Ähnlichkeit respektiert keine ACLs. Liegt die Gehaltsliste der Personalabteilung im selben Index wie die Reisekostenrichtlinie, kann eine Frage zu Spesen beide Dokumente liefern.
OWASP nennt auch die üblichen Quellen: Laufwerke ohne eingeschränkten Zugriff, Altberechtigungen und Wissensdatenbanken, die RAG mit sensiblen Daten füttern. Der Assistent schafft also keine neuen Lecks. Er macht die alten per einfacher Frage auffindbar, auch für Mitarbeitende, die nie in diesen Ordner geklickt hätten.
Fertige Assistenten folgen derselben Logik. Microsoft schreibt, dass Microsoft 365 Copilot nur Daten anzeigt, für die ein Nutzer mindestens Leserechte hat, und empfiehlt saubere Berechtigungsmodelle in SharePoint und anderen Diensten. Sind diese Rechte zu weit gefasst, sieht auch Copilot zu viel. Welche KI-Werkzeuge Mitarbeitende auf eigene Faust nutzen, beschreiben wir im Beitrag über Schatten-KI und Datensicherheit.
Wie setzen Sie Berechtigungen bei RAG durch?
Prüfen Sie den Zugriff vor dem Retrieval, nicht nach der Generierung. LLM02:2026 verlangt Autorisierung auf Dokument- und Chunk-Ebene in der Indexabfrage selbst und warnt, dass ein Filter nach der Generierung einen Chunk nicht zurückholt, den das Modell schon erhalten hat. Vier Regeln für die Praxis:
- Die Zugriffsliste hängt an jedem Chunk. Jeder Abschnitt im Index speichert die Gruppen oder Personen, die das Quelldokument lesen dürfen, und jede Abfrage filtert serverseitig nach der Identität des Fragenden.
- Trennen, was sich nicht mischen darf. LLM09:2026 empfiehlt für hochsensible Daten physisch getrennte Indizes pro Mandant oder Vertrauenszone, weil ein eigener Index Fehler bei der Vergabe von Tags in einem gemeinsamen Index von vornherein ausschließt.
- Agenten handeln mit den Rechten des Nutzers. LLM03:2026 (Excessive Agency) verlangt, dass Aktionen im Namen eines Nutzers in dessen Kontext ausgeführt werden, nicht über ein privilegiertes Dienstkonto.
- Autorisierung gehört nicht in den Prompt. Nach LLM08:2026 dürfen Kontrollen wie Rechtetrennung nicht an das Modell delegiert werden. „Antworte nur zur Abteilung des Nutzers“ im Systemprompt ist keine Zugriffskontrolle.
Plattformen helfen, aber nur begrenzt.
In Azure AI Search sind Sicherheitsfilter auf Nutzer- und Gruppen-IDs allgemein verfügbar; die Übernahme von Rechten aus ADLS Gen2, SharePoint-ACLs und Purview-Labels befand sich im November 2026 noch in der Public Preview. Geänderte Rechte wirken erst nach der nächsten Synchronisierung, wer aus einer Gruppe entfernt wurde, findet also bis dahin noch Dokumente.
Andere Plattformen überlassen Ihnen mehr. Die Databricks-Dokumentation zur Vektorsuche sagt klar, dass Zeilen- und Spaltenberechtigungen auf Indizes nicht unterstützt werden, und verweist auf eigene ACLs in der Anwendung über die Filter-API. Fragen Sie vor der Wahl einer Vektordatenbank, wo genau die Identität geprüft wird. Die Gruppen selbst kommen aus dem Identitätsmanagement: siehe IAM als Grundlage der Sicherheit.
Was gehört vor der Indexierung in die Datenklassifizierung?
Jede Quelle, bevor das erste Embedding berechnet wird. Ein Embedding ist keine anonymisierte Kopie: LLM09:2026 warnt, dass sich aus gespeicherten Embeddings der Quelltext rekonstruieren lässt. Der Vektorindex erhält deshalb die Einstufung des sensibelsten Dokuments darin. Eine einfache Entscheidungstabelle pro Quelle bewirkt mehr als eine Richtlinie, die niemand anwendet:
| Stufe | Beispiel | Entscheidung für RAG |
|---|---|---|
| Öffentlich | Produktblätter, veröffentlichte Richtlinien | gemeinsamer Index, kein Zugriffsfilter nötig |
| Intern | Prozessbeschreibungen, Projekt-Wikis | gemeinsamer Index mit Gruppenfilter |
| Vertraulich | Verträge, Personalakten, Vorstandsprotokolle | eigener Index pro Vertrauenszone, Nutzerfilter, Abfrageprotokoll |
| Streng vertraulich oder personenbezogen ohne festgelegten Zweck | Gesundheitsdaten, Ausweiskopien, alte Bewerbungsordner | nicht indexieren; personenbezogene Daten beim Laden entfernen, wenn die Quelle bleiben muss |
LLM02:2026 empfiehlt, personenbezogene Daten schon beim Laden zu entfernen und den Korpus zu pflegen: Herkunft, Klassifizierung, Entfernen von Beinahe-Dubletten. Wird ein Dokument in Chunks zerlegt, muss sein Label an jeden Chunk weitergegeben werden. Die Dokumentation von Azure AI Search sagt es deutlich: Ohne diese Projektion werden Verweise auf Chunk-Ebene nicht gefiltert.
Wie verfolgen Sie eine KI-Antwort bis zur Quelle zurück?
Mit Datenherkunft (Lineage) auf zwei Ebenen: der Pipeline, die den Index gebaut hat, und dem Retrieval hinter jeder Antwort. LLM09:2026 verlangt, die Herkunft jedes Embeddings festzuhalten (Quelle, Ladezeitpunkt, Vertrauensstufe, Pipeline-Version) und unveränderliche Protokolle der Abfragen mit Anfrage, gelieferten IDs und Ähnlichkeitswerten zu führen.
- Lineage der Pipeline: aus welchem System, welcher Tabelle oder welchem Ordner ein Dokument kam und welcher Job es verarbeitet hat. Unity Catalog erfasst Lineage automatisch für Abfragen in Databricks, bis auf Spaltenebene; OpenLineage ist ein offener Standard, um Lineage aus anderen Werkzeugen zu sammeln.
- Herkunft des Chunks: Quell-ID, Version, Ladezeitpunkt und Einstufung als Metadaten an jedem Chunk, damit die Antwort sie zitieren kann.
- Abfrageprotokoll: wer gefragt hat, welche Chunks zurückkamen, welche Modellversion geantwortet hat. Ohne dieses Protokoll können Sie nicht belegen, ob Daten abgeflossen sind.
Lineage begrenzt auch Data Poisoning. LLM05:2026 hält fest, dass ein einziger präparierter Text korrekte Inhalte im Korpus verdrängen kann, und empfiehlt strenge Prüfung eingehender Daten sowie Lineage der Datensätze. Wissen Sie, welche Pipeline einen Chunk geschrieben hat, entfernen Sie alles, was sie geschrieben hat. Wie ein Datenkatalog die Herkunft festhält, beschreiben wir im Beitrag zu Asset-Management und Datenkatalog unter NIS2.
Wie stellen Sie die Datenqualität für KI sicher?
Mit den Prüfungen, die Antworten verändern. Ein Dashboard verkraftet eine veraltete Zeile, ein Assistent liest die veraltete Arbeitsanweisung mit voller Überzeugung vor. Bei RAG lohnen sich pro Quelle vier Prüfungen:
- Nur die gültige Version. Alte Fassungen von Richtlinien und Preislisten werden entfernt oder als ungültig markiert, sonst mischt das Modell sie.
- Beinahe-Dubletten. Zehn Kopien eines Dokuments belegen zehn Plätze in den Treffern und verdrängen das Dokument, das die Frage beantwortet.
- Eine benannte verantwortliche Person. Jemand entscheidet, wann eine Quelle falsch ist und neu indexiert werden muss.
- Regeln für Aktualität. Ein Plan für die Neuindexierung pro Quelle, abgestimmt darauf, wie oft sie sich ändert.
Bei personenbezogenen Daten ist das Pflicht: Art. 5 Abs. 1 lit. d DSGVO verlangt, dass Daten sachlich richtig und erforderlichenfalls auf dem neuesten Stand sind. Mit diesen Verantwortlichen und Plänen beginnt unsere Arbeit im Bereich Data Governance. Wer einen Rahmen sucht: Die Normenreihe ISO/IEC 5259 behandelt Datenqualität für Analytik und maschinelles Lernen in fünf Teilen aus den Jahren 2024 und 2025.
Was verlangen DSGVO und KI-Verordnung von RAG-Daten?
Die DSGVO gilt schon heute für jedes RAG, das personenbezogene Daten indexiert. Zweckbindung und Datenminimierung (Art. 5 Abs. 1 lit. b und c) entscheiden, was überhaupt in den Index darf. Art. 25 Abs. 2 verlangt, dass Daten durch Voreinstellung nicht einer unbestimmten Zahl von Personen zugänglich werden.
Art. 32 fordert risikoangemessene Sicherheit, Art. 35 eine Datenschutz-Folgenabschätzung bei voraussichtlich hohem Risiko.
Die KI-Verordnung greift enger. Art. 10 (Daten-Governance, Herkunft der Daten, Prüfung auf Verzerrungen) gilt für Hochrisiko-KI-Systeme, nach dem Digital Omnibus (Verordnung (EU) 2026/1744) für Systeme nach Anhang III ab 2. Dezember 2027 (Stand: 17. November 2026). Ein interner Wissensassistent ist meist kein Hochrisiko-System. Art. 4 zur KI-Kompetenz gilt seit 2. Februar 2025; die übrigen Pflichten fasst unser Überblick zur KI-Verordnung zusammen.
Technische Risiken beschreibt das BSI in der laufend erweiterten Publikation Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden. Sie ersetzt weder die Datenschutz-Folgenabschätzung noch die Abstimmung mit Ihrem Datenschutzbeauftragten.
Data Governance für KI: Checkliste vor dem Anschluss an ein LLM
- Quellen für den Index auflisten und für jede eine verantwortliche Person benennen.
- Freigaben prüfen: Links für alle, Altgruppen, Konten ausgeschiedener Mitarbeitender.
- Jede Quelle nach der Tabelle oben einstufen: gemeinsamer Index, eigener Index oder gar nicht.
- Sicherstellen, dass die Zugriffsliste an jedem Chunk hängt und die Abfrage nach der Identität filtert.
- Herkunft pro Chunk speichern und jedes Retrieval protokollieren.
- Alte Versionen und Dubletten entfernen, Plan für die Neuindexierung festlegen.
- DSGVO prüfen: Zweck, Datenminimierung, Folgenabschätzung, wo nötig.
- Mit echten Konten testen: als Praktikant nach dem fragen, was nur die Finanzleitung lesen darf.
Schritt 8 deckt die Probleme auf. Bekommt der Praktikant das Vorstandsprotokoll, liegt die Lösung in den Berechtigungen, nicht im Prompt.
RAG auf Ihrer eigenen Infrastruktur mit Zugriffskontrolle auf Dokumentebene bauen wir im Rahmen der Softwareentwicklung, die Ordnung in den Daten im Bereich Data Governance und Metadaten. Wenn Sie Ihre Quellen gemeinsam mit uns durchgehen möchten, sprechen Sie uns an.
Häufig gestellte Fragen
- Was umfasst Data Governance für KI in einem RAG-Projekt?
In einem RAG-Projekt sind das die Regeln und Kontrollen, die festlegen, welche Daten ein KI-System nutzen darf, wer die Ergebnisse sieht, woher die Daten stammen und wie gut sie sind. Bei RAG läuft das auf Zugriffskontrolle in der Suchschicht, Klassifizierung vor der Indexierung, Lineage und Datenqualität hinaus.
- Beachtet ein RAG-Assistent die Berechtigungen aus SharePoint oder dem Netzlaufwerk?
Nur wenn die Suchschicht sie durchsetzt. Die Ähnlichkeitssuche ignoriert Rechte, daher muss die Zugriffsliste an jedem Chunk gespeichert und in der Indexabfrage geprüft werden. Geänderte Rechte wirken erst nach der nächsten Synchronisierung.
- Kann man sensible Inhalte nach der Antwort des Modells herausfiltern?
Nicht zuverlässig. Laut OWASP LLM02:2026 holt ein Filter nach der Generierung einen Chunk nicht zurück, den das Modell schon erhalten hat. Filtern Sie vor dem Retrieval und nutzen Sie Ausgabefilter als zweite Ebene.
- Braucht ein RAG-System eine Datenschutz-Folgenabschätzung?
Enthält der Index personenbezogene Daten und ist ein hohes Risiko wahrscheinlich, verlangt Art. 35 DSGVO eine Folgenabschätzung. Große Bestände an Personal-, Kunden- oder Gesundheitsdokumenten erreichen diese Schwelle in der Regel.
- Gilt Art. 10 der KI-Verordnung für unseren internen Assistenten?
Art. 10 gilt für Hochrisiko-KI-Systeme, für Systeme nach Anhang III ab 2. Dezember 2027 (Stand: 17. November 2026). Die meisten internen Wissensassistenten sind kein Hochrisiko-System, die DSGVO gilt für sie aber vollständig.

