Citeloby heureka business solutions Demo anfragen

KI mit Quellenangabe im Unternehmen: Was sie leistet und was nicht

Von der Redaktion Citelo (Heureka Business Solutions GmbH) · · Lesezeit etwa 6 Minuten

Eine KI-Antwort ohne Fundstelle ist schwer zu prüfen. In Verwaltung, Sachbearbeitung und Betrieb ist das ein Problem, weil Auskünfte belegt werden müssen. Dieser Beitrag erklärt, was Quellenangabe bei KI-Antworten bedeutet, wie sie funktioniert und wo ihre Grenzen liegen.

Das Problem: Antworten, die niemand prüfen kann

Sprachmodelle formulieren Antworten flüssig, auch wenn sie sich irren. Ein Modell, das aus seinem Trainingswissen antwortet, kann Regelungen nennen, die es in Ihrer Organisation nicht gibt, oder veraltete Fassungen wiedergeben. Für eine Auskunft, die eine Sachbearbeiterin weitergibt oder auf die sich ein Bescheid stützt, reicht „klingt plausibel“ nicht.

Was Quellenangabe bei KI-Antworten heißt

Eine Antwort mit Quellenangabe nennt, aus welchem Dokument sie stammt: Titel, Art des Dokuments und Stand, möglichst mit dem passenden Auszug. Wer die Antwort verwenden will, kann so die Stelle selbst nachlesen. Die Quelle macht die Antwort prüfbar. Sie macht sie nicht automatisch richtig.

Wie Quellenbindung funktioniert

Die gängige Technik heißt Retrieval-Augmented Generation (RAG), auf Deutsch etwa „Suche, dann Formulierung“. Sie läuft in drei Schritten ab:

  1. Das System sucht zur Frage passende Abschnitte in den freigegebenen Dokumenten der Organisation.
  2. Das Sprachmodell erhält nur diese Abschnitte als Grundlage und soll ausschließlich daraus antworten und die Quellen nennen.
  3. Das System prüft die Antwort. Nennt sie keine Quelle oder eine, die nicht zu den bereitgestellten Abschnitten gehört, wird sie nicht ausgegeben. Stattdessen erscheint eine Fehlanzeige.

Wie das bei Citelo im Einzelnen aussieht, beschreibt die Seite So funktioniert die Quellenangabe.

Was Quellenbindung leistet und was nicht

Sie leistet

  • Antworten werden nachprüfbar.
  • Das Risiko erfundener Aussagen sinkt, weil das Modell nur aus bereitgestellten Abschnitten antworten soll.
  • Fehlt die Information, ist eine ehrliche Fehlanzeige möglich.
  • Freigaben und Fassungen steuern, was überhaupt zitiert wird.

Sie leistet nicht

  • Sie schließt Fehler nicht aus. Eine Antwort kann eine Quelle nennen und sie trotzdem falsch deuten.
  • Falsche oder veraltete Dokumente führen zu falschen Antworten.
  • Findet die Suche die passende Stelle nicht, fehlt sie in der Antwort.
  • Sie ersetzt nicht die Prüfung durch Menschen.

Acht Fragen, die Sie jeder Lösung stellen sollten

  1. Aus welchen Quellen antwortet das System, und kann es auf Allgemeinwissen zurückgreifen?
  2. Wird zu jeder Antwort die Fundstelle mit Stand genannt, und lässt sie sich öffnen?
  3. Was passiert, wenn keine Quelle passt?
  4. Wer gibt Dokumente frei, und wie werden alte Fassungen behandelt?
  5. Wo und bei welchem Anbieter werden Daten verarbeitet, in welchem Land, mit welchem Vertrag?
  6. Wird protokolliert, wie lange, und wie ist das Protokoll gegen nachträgliche Änderung geschützt?
  7. Welche personenbezogenen Daten gehen an das Sprachmodell, und was wird vorher maskiert?
  8. Wie wird die Qualität vor dem Einsatz gemessen, und mit welchen Fragen?

Einen sachlichen Vergleich der Lösungsarten finden Sie unter Lösungsarten im Vergleich.

Einführung in fünf Schritten

  1. Dokumente auswählen: Nur Dokumente aufnehmen, die gelten und die Nutzer sehen dürfen. Veraltetes aussortieren.
  2. Zuständigkeiten klären: Wer pflegt Dokumente, wer gibt sie frei, wer verwaltet Nutzer?
  3. Regeln für Fassungen festlegen: Dateinamen mit Fassung, Freigabe neuer Fassungen vor Wirkung.
  4. Mit einer Pilotgruppe testen: Mit echten Fragen aus dem Alltag, und mit Fragen, auf die es keine Antwort geben darf.
  5. Nutzungsregeln und Schulung: Antworten sind zu prüfen. Beschäftigte, die KI nutzen, sollten über ausreichende KI-Kompetenz verfügen (Art. 4 KI-Verordnung).

Recht und Aufsicht

Neben der DSGVO sind bei KI-Systemen Transparenzpflichten der KI-Verordnung zu beachten (Art. 50), unter anderem die Information, dass Nutzer mit einem KI-System interagieren. Die Datenschutzaufsichtsbehörden haben Orientierungshilfen und Checklisten zum Einsatz KI-basierter Chatbots veröffentlicht, zum Beispiel der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit. Lassen Sie die Einordnung Ihres Falls rechtlich prüfen. Dieser Beitrag ist keine Rechtsberatung.

Wie Citelo das umsetzt

Citelo antwortet nur aus freigegebenen Dokumenten, nennt zu jeder Antwort Titel, Typ und Stand der Quelle und gibt ohne verlässliche Quelle eine Fehlanzeige aus. Die automatische Prüfung stellt sicher, dass eine Quelle genannt wird und aus dem bereitgestellten Kontext stammt; ob jeder Satz inhaltlich gedeckt ist, prüft sie nicht. Citelo kann sich irren. Mehr dazu auf den Seiten So funktioniert die Quellenangabe und Datenschutz und Hosting in Deutschland.

Dieser Beitrag beschreibt den Stand von Citelo im Oktober 2026.

Citelo ansehen

Schreiben Sie uns. Wir zeigen Citelo in einer Demo und beantworten Ihre Fragen zu Quellenangabe, Betrieb und Datenschutz.

Demo anfragen