Ein Modell, das frei antwortet, ist ein Haftungsrisiko

Ein Sprachmodell ohne Anbindung an geprüfte Quellen formuliert überzeugend, auch wenn es falsch liegt. In einem regulierten Prozess ist das keine Komfortfrage, sondern ein Risiko, denn eine falsche Auskunft zu einer Frist, einer Kondition oder einer regulatorischen Pflicht hat Folgen. Retrieval Augmented Generation, kurz RAG, bindet die Antwort an einen kuratierten Wissensbestand und macht KI im Finanzinstitut überhaupt erst belastbar: Das Modell antwortet nicht aus dem Gedächtnis, sondern auf Basis der Dokumente, die Sie freigegeben haben, und nennt die Quelle dazu.

Was Retrieval Augmented Generation tatsächlich macht

Der Ablauf ist in zwei Schritten gedacht. Zuerst durchsucht das System einen definierten Wissensbestand, etwa Arbeitsanweisungen, Produktinformationen oder regulatorische Vorgaben, und holt die passenden Stellen zur konkreten Frage. Erst danach formuliert das Sprachmodell eine Antwort, und zwar ausschließlich auf Grundlage dieser gefundenen Stellen. Der Unterschied zu einem frei antwortenden Chatbot ist fundamental: Die Antwort ist nachvollziehbar an eine Quelle gebunden, statt aus dem allgemeinen Training zu stammen, das niemand kontrolliert und das veraltet sein kann.

Warum das im Finanzinstitut der entscheidende Unterschied ist

Drei Gründe machen die Quellenanbindung zur Bedingung. Erstens die Auditierbarkeit: Wer eine KI-gestützte Auskunft prüfen muss, braucht die Quelle, auf der sie beruht, und genau das verlangt auch der EU AI Act für nachvollziehbare Systeme. Zweitens die Aktualität: Ein kuratierter Wissensbestand lässt sich gezielt pflegen, während ein freies Modell auf dem Stand seines Trainings verharrt. Drittens die Kontrolle über den Inhalt: Sie bestimmen, welche Dokumente das System nutzt, und schließen aus, dass es regulatorischen Rat erfindet. Das ist dieselbe Logik wie bei erklärbarer KI und ein Kernbaustein jeder GenAI-Governance.

Wo RAG scheitert

RAG ist kein Selbstläufer. Wenn der zugrunde liegende Wissensbestand unvollständig, widersprüchlich oder veraltet ist, gibt das System diese Mängel zuverlässig weiter, nur eloquenter. Hier zeigt sich dasselbe Muster wie bei jedem KI-Vorhaben: Laut einer Studie von Dun & Bradstreet scheitern 61 Prozent der KI-Projekte bei Banken an einer mangelhaften Datenbasis. Für RAG heißt das konkret, dass die Pflege der Quellen kein Nebenschauplatz ist, sondern die eigentliche Arbeit. Hinzu kommt die Qualität der Suche selbst, denn wenn das System die falschen Stellen findet, hilft auch das beste Modell nicht.

Der Pfad vom Chatbot zur belastbaren Wissensarbeit

Wer RAG ernsthaft einsetzt, kuratiert die Quellen bewusst, regelt deren Aktualisierung verbindlich und misst die Antwortqualität an echten Fragen aus dem Alltag. Bei Auskünften mit hoher Tragweite bleibt eine menschliche Prüfung Teil des Prozesses, statt durch sie ersetzt zu werden. So wird aus einem netten, aber unzuverlässigen Chatbot eine Wissensquelle, der die Sachbearbeitung vertrauen kann, eingebettet in eine kontrollierte interne KI-Plattform.

Wenn Sie eine KI-gestützte Wissensanwendung aufbauen wollen, die im regulierten Alltag standhält, ordnen wir mit Ihnen Quellen, Governance und Messung. Buchen Sie eine Sprechstunde, dann sprechen wir über Ihren konkreten Anwendungsfall.