Die Angst vor dem AI Act ist größer als der AI Act

Seit Monaten kursiert in Compliance-Abteilungen und Vorstandsetagen derselbe Reflex: Erst wenn alles geprüft, dokumentiert und abgesichert ist, darf KI produktiv gehen. Das Ergebnis: Nichts geht produktiv. Und die Institute, die nüchtern analysiert haben, was der AI Act wirklich fordert, bauen derweil Vorsprung auf.

Der Reflex ist verständlich, aber teuer. Er behandelt jede KI-Anwendung, als wäre sie hochriskant, obwohl die Verordnung nur eine klar umrissene Minderheit von Anwendungsfällen so einstuft. Wer diese Minderheit kennt, kann den großen Rest mit überschaubarem Aufwand produktiv setzen, statt das ganze Haus stillzustellen.

Was der AI Act tatsächlich als Hochrisiko klassifiziert

Anhang III der KI-Verordnung listet die Hochrisiko-Kategorien abschließend auf. Für Banken und Versicherer sind im Kern zwei davon relevant. Erstens KI-Systeme, die dazu bestimmt sind, die Kreditwürdigkeit natürlicher Personen zu bewerten oder ihr Scoring zu ermitteln, ausdrücklich mit Ausnahme von Systemen zur Aufdeckung von Finanzbetrug. Zweitens KI-Systeme, die für die Risikobewertung und Preisgestaltung bei natürlichen Personen in der Lebens- und Krankenversicherung eingesetzt werden.

Das ist die Kernzone, und sie ist enger, als der allgemeine Alarm vermuten lässt. Ein KI-System, das Schäden vorsortiert, Dokumente erkennt, interne Texte zusammenfasst oder die Marktfolge entlastet, fällt nicht automatisch unter Hochrisiko. Wer den Unterschied sauber zieht, gewinnt Handlungsspielraum genau dort, wo der größte operative Hebel liegt.

Ein verbreiteter Irrtum verdient besondere Beachtung: Die Annahme, eine KI-Vorprüfung in der Kreditvergabe sei harmlos, weil am Ende ein Mensch entscheide, trägt nicht. Sobald das System die Auswahlentscheidung beeinflusst, greift die Hochrisiko-Logik. Die menschliche Letztentscheidung allein holt ein System nicht aus dem Anwendungsbereich heraus.

Was Betreiber konkret leisten müssen

Die meisten Institute sind Betreiber, nicht Anbieter. Die Hauptlast der Konformität liegt beim Hersteller des Systems. Aber die Betreiberpflichten verschwinden dadurch nicht, sie entstehen automatisch, sobald ein Hochrisiko-System produktiv läuft. Dazu gehören die Sicherstellung menschlicher Aufsicht, das Aufbewahren von Protokollen, die Meldung von Vorfällen, die Prüfung einer Datenschutz-Folgenabschätzung und die Überwachung, dass das System gemäß den Vorgaben des Anbieters betrieben wird.

Das ist anspruchsvoll, aber handhabbar, vorausgesetzt, das Institut weiß überhaupt, welche seiner Systeme in die Hochrisiko-Kategorie fallen. Genau diese Inventarisierung ist der erste Schritt und zugleich der, den die meisten noch nicht gemacht haben. Ohne sie lässt sich weder der Aufwand abschätzen noch die Frist halten.

Die Frist und die Unsicherheit darüber

Als Stichtag für die vollständige Anwendung der Hochrisiko-Pflichten nach Anhang III gilt grundsätzlich der 2. August 2026. Allerdings ist dieser Termin in Bewegung: Im Zuge einer Reform der Verordnung wird eine Verschiebung der Anhang-III-Pflichten auf einen späteren Zeitpunkt, im Gespräch ist der 2. Dezember 2027, diskutiert und teilweise auf den Weg gebracht. Wer hier auf einen bestimmten Tag plant, sollte den aktuellen Stand des Gesetzgebungsverfahrens im Blick behalten.

Für die Praxis ändert die Datumsfrage wenig am Vorgehen. Die Inventarisierung der eigenen KI-Systeme, die Einordnung nach Hochrisiko und Nicht-Hochrisiko und der Aufbau der Betreiberpflichten lohnen sich unabhängig vom genauen Stichtag, weil sie ohnehin die Voraussetzung dafür sind, KI rechtssicher produktiv zu setzen. Ein späterer Termin ist ein Geschenk an die Sorgfältigen, kein Freibrief zum Abwarten.

Die teure Folge der pauschalen Vorsicht

Der reflexhafte Aufschub hat einen Preis, der selten beziffert wird. Während ein Institut wartet, bis jede KI-Anwendung pauschal als hochriskant behandelt und vollständig abgesichert ist, laufen in den Nachbarinstituten längst die unkritischen Anwendungen produktiv. Dokumentenprüfung, Textzusammenfassung, Entwürfe für die Sachbearbeitung, interne Recherche, all das fällt nicht unter Hochrisiko und könnte heute Nutzen stiften. Wer es blockiert, verschenkt diesen Nutzen Monat für Monat.

Die pauschale Vorsicht ist also nicht die sichere Variante, sie ist nur die bequeme. Sie vermeidet die Mühe der Einordnung, indem sie alles gleich behandelt, und zahlt dafür mit verschenktem Potenzial. Die wirklich sichere Variante ist die saubere Trennung, weil sie das tatsächliche Risiko adressiert und alles andere freigibt.

So sieht eine saubere Einordnung aus

Eine belastbare Einordnung folgt wenigen Schritten. Zuerst wird jede KI-Anwendung im Haus erfasst, einschließlich der in zugekaufter Software eingebetteten Funktionen, die oft übersehen werden. Dann wird für jede gefragt, ob sie einem der Anhang-III-Zwecke dient, für Banken und Versicherer also vor allem der Kreditwürdigkeitsbewertung natürlicher Personen oder der Risikobewertung und Preisgestaltung in der Lebens- und Krankenversicherung. Trifft das zu, greift die Hochrisiko-Logik. Trifft es nicht zu, ist die Anwendung mit den allgemeinen Sorgfaltspflichten handhabbar.

Diese Übung trennt nicht nur Hochrisiko von Nicht-Hochrisiko, sie schafft auch die Grundlage für jede weitere Pflicht. Die Inventarliste, die dabei entsteht, ist dieselbe, die die kommende MaRisk-Novelle für ihr Modellinventar verlangt und die der Kompetenzaufbau nach Artikel 4 voraussetzt. Eine sorgfältige Einordnung erledigt damit mehrere regulatorische Anforderungen in einem Aufwasch.

Die Grauzone ernst nehmen, ohne sie zu überdehnen

Es gibt Fälle, die nicht eindeutig sind. Ein System, das Betrug aufdeckt, ist ausdrücklich ausgenommen, ein System aber, das im selben Atemzug die Kreditwürdigkeit mitbewertet, fällt hinein. Solche Mischfälle verlangen eine genaue Betrachtung des tatsächlichen Zwecks, nicht der Bezeichnung im Produktdatenblatt. Entscheidend ist, was das System bewirkt, nicht wie es vermarktet wird.

Diese Grauzonen sind aber die Minderheit, und sie rechtfertigen nicht, den eindeutigen Rest in Sippenhaft zu nehmen. Der professionelle Umgang besteht darin, die unklaren Fälle einzeln zu prüfen und konservativ einzuordnen, während die klar unkritischen Anwendungen zügig produktiv gehen. Wer die Grauzone zum Anlass nimmt, alles zu blockieren, verwechselt Vorsicht mit Lähmung.

Hochrisiko bedeutet nicht Verbot

Ein weiteres Missverständnis lähmt Institute unnötig: die Annahme, ein Hochrisiko-System dürfe man besser gar nicht einsetzen. Das Gegenteil ist richtig. Der AI Act verbietet diese Systeme nicht, er knüpft ihren Einsatz an Bedingungen. Ein KI-gestütztes Kreditscoring ist zulässig, solange die Pflichten erfüllt sind, also menschliche Aufsicht, Protokollierung, Risikomanagement und die übrigen Anforderungen greifen.

Das verschiebt die Frage von ob zu wie. Statt einen wertvollen Anwendungsfall zu meiden, klärt das Institut die Bedingungen seines Einsatzes. Das ist anspruchsvoller als ein pauschales Nein, aber es erschließt genau die Anwendungen, die im Kerngeschäft den größten Nutzen versprechen, statt sie aus übertriebener Vorsicht liegen zu lassen.

Die Verbindung zur deutschen Aufsicht

Der AI Act steht nicht allein, er trifft in Deutschland auf einen dicht regulierten Finanzsektor. Vieles, was die Verordnung für Hochrisiko-Systeme verlangt, etwa Risikomanagement, Dokumentation, menschliche Aufsicht und Überwachung, deckt sich mit dem, was die kommende MaRisk-Novelle für Modelle fordert und was die BaFin ohnehin im Rahmen ihrer Governance-Erwartungen prüft. Für Banken und Versicherer sind die zusätzlichen Anforderungen des AI Act deshalb überschaubarer als für Branchen, die solche Strukturen erst aufbauen müssen.

Daraus ergibt sich ein pragmatischer Ansatz. Wer die AI-Act-Pflichten nicht als isoliertes Sonderprojekt behandelt, sondern in die vorhandene Modell- und Risikogovernance einbettet, spart Aufwand und vermeidet Doppelstrukturen. Die Einordnung der KI-Systeme dient dann gleichzeitig dem AI Act, der MaRisk und der allgemeinen Aufsichtslogik. Ein gut geführtes Haus erledigt diese Anforderungen in einem zusammenhängenden Vorgehen statt in drei getrennten Projekten.

Der eigentliche Wettbewerbsvorteil

Die Höhe der möglichen Bußgelder, bei Verstößen gegen die Hochrisiko-Pflichten bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes, erklärt die Vorsicht. Aber der eigentliche Punkt ist ein anderer: Die Institute, die nüchtern trennen, was hochriskant ist und was nicht, setzen den großen, unkritischen Teil der KI produktiv, während die pauschal Zögernden weiter alles blockieren. Compliance wird so vom Bremsklotz zum Beschleuniger, weil sie Klarheit darüber schafft, was sofort möglich ist.

Mehr zum Thema: Der 2. August 2026 kommt. Die meisten Konformitätsbewertungen nicht. und BaFin-Risikobericht 2026: KI ist nicht das Risiko – fehlende Governance ist es.

Wir inventarisieren mit Ihnen Ihre KI-Anwendungen, ordnen sie sauber nach dem AI Act ein und trennen die wenigen Hochrisiko-Fälle vom großen Rest, der ohne übertriebene Hürden laufen kann. Beginnen Sie mit einem Workshop.