Lokales KI-Modell oder Cloud-KI im Maklerhaus?

Viele Maklerhäuser stellen die Frage falsch herum. Sie fragen zuerst nach dem besten Modell und erst danach, was mit den Kundendaten passiert. Die Antwort hängt nicht am Modell, sondern am Datenschutzniveau und am Volumen: Ein Maklerhaus fährt mit Cloud-KI günstiger und schneller in die Umsetzung, braucht aber ab einem hohen, dauerhaften Nutzungsvolumen oder bei besonders sensiblen Bestandsdaten ein lokales Modell, um Kosten und Kontrolle zu halten. Beide Wege sind DSGVO-konform machbar. Der Unterschied liegt im Aufwand, den Sie dafür tragen.

Was unterscheidet lokale KI-Modelle von Cloud-KI?

Cloud-KI bedeutet: Sie schicken Ihre Daten über eine Schnittstelle an einen Anbieter wie OpenAI, Anthropic oder Google, das Modell rechnet auf dessen Servern, die Antwort kommt zurück. Sie zahlen pro verarbeitetem Token und brauchen keine eigene Hardware. Lokale oder On-Premise-Modelle laufen auf Ihrer eigenen Infrastruktur. Dafür nutzen Unternehmen offene Modelle wie Metas Llama, Mistral aus Frankreich oder Googles Gemma. Mistral veröffentlicht ausgewählte Modelle als Open-Weight unter der permissiven Apache-2.0-Lizenz ohne Nutzerbeschränkung, Metas Llama läuft unter einer Community-Lizenz mit einer für Maklerhäuser irrelevanten Klausel ab 700 Millionen aktiven Nutzern pro Monat (Quelle: Skill Sprinters, Open-Source-LLM-Stack im Mittelstand 2026). Der Kern des Unterschieds: Bei der Cloud verlassen die Daten Ihr Haus, beim lokalen Modell nicht.

Warum Datenschutz die Frage im Maklerhaus zuspitzt

Maklerhäuser verarbeiten Gesundheitsdaten, Finanzverhältnisse und Vertragshistorien. Das sind besonders schützenswerte Daten nach der DSGVO. Genau hier zeigt sich der praktische Unterschied. Für Cloud-KI brauchen Sie einen Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO mit dem Anbieter. Microsoft, Google und AWS liefern solche Verträge, sie sind aber generisch und decken nicht jeden Fall ab (Quelle: kiba solutions, Lokale KI vs. Cloud-KI DSGVO-Vergleich). Dazu kommt der US CLOUD Act, der US-Behörden Zugriff auf gespeicherte Daten ermöglicht, selbst wenn diese in EU-Rechenzentren liegen. Wie Sie diese Anforderungen sauber aufsetzen, zeigen wir im Beitrag zum Datenschutz bei der KI-Einführung. Beim lokalen Modell entfällt die Frage nach dem Datentransfer, weil kein Transfer stattfindet.

Stärken und Grenzen lokaler KI-Modelle

Der stärkste Punkt lokaler Modelle ist die Datenhoheit. Die Daten verlassen das Unternehmen nicht, Cross-Border-Transfers und CLOUD-Act-Risiken fallen weg, was das Mittelstand-Digital Zentrum Berlin als kritisch für regulierte Branchen einordnet (Quelle: Mittelstand-Digital Zentrum Berlin, Beitrag vom 23. Juli 2025). Sie behalten die Kontrolle über Modellversionen und dokumentieren die Verarbeitung nachvollziehbar. Die Grenzen sind ebenso klar. Sie brauchen Hardware, Betrieb und Fachwissen. Realistisch bindet ein produktiver On-Premise-Betrieb mindestens eine halbe Personalstelle für Sicherheitsupdates, Modellpflege und Monitoring (Quelle: Skill Sprinters). Ein Maklerhaus ohne eigene IT-Kompetenz unterschätzt diesen Posten regelmäßig.

Stärken und Grenzen der Cloud-KI

Cloud-KI startet schnell. Sie brauchen keine Investition in Hardware, buchen einen Zugang und arbeiten am selben Tag. Die Modelle der großen Anbieter liefern die höchste Leistung am Markt und werden laufend aktualisiert, ohne dass Sie etwas tun. Für kleine und schwankende Nutzungsmengen ist das der günstigste Weg. Die Grenzen liegen im Kontrollverlust und in der Abhängigkeit. Laut Bitkom sehen 78 Prozent der deutschen Unternehmen eine übermäßige Abhängigkeit von US-Cloud-Anbietern (Quelle: Bitkom-Studie 2025, zitiert vom Mittelstand-Digital Zentrum Berlin). Preise, Konditionen und Verfügbarkeit bestimmt der Anbieter. Bei jedem Prompt verlassen Daten Ihr Haus, was den vertraglichen und technischen Aufwand für den Datenschutz erhöht.

Was kostet der Betrieb wirklich?

Die Kostenfrage entscheidet sich am Volumen. Eine Einstiegs-Hardware mit einer NVIDIA RTX 4090 und 24 GB Grafikspeicher kostet zwischen 5.000 und 8.000 Euro und trägt Modelle bis rund 13 Milliarden Parameter. Für ein 70-Milliarden-Modell brauchen Sie zwei solcher Karten oder eine A6000 mit 48 GB, hier liegen die Kosten bei 10.000 bis 18.000 Euro (Quelle: kiba solutions). Der Break-even ist nachrechenbar. Bei monatlichen Cloud-Kosten von 500 Euro amortisiert sich eine lokale Installation im Wert von 12.000 Euro nach etwa 24 Monaten (Quelle: kiba solutions). Auf Jahressicht wird Selbst-Hosting laut Skill Sprinters ab etwa 50.000 Euro API-Ausgaben pro Jahr wirtschaftlich. Darunter zahlt die Cloud sich aus, darüber kippt die Rechnung zugunsten des eigenen Servers.

Wie leistungsstark sind lokale Modelle im Vergleich?

Die Leistungslücke ist kleiner geworden, aber sie existiert. In der Einordnung von kiba solutions erreichen Llama 3.1 mit 70 Milliarden Parametern und Mistral Large für die meisten Geschäftsaufgaben die Bewertung sehr gut, während GPT-4o als exzellent eingestuft wird. Für die Standardaufgaben im Maklerhaus reicht sehr gut in aller Regel aus: Textentwürfe, Zusammenfassungen von Verträgen, Vorbereitung von Beratungsdokumentationen, interne Wissensabfragen. Für komplexe Analysen mit hoher Genauigkeitsanforderung liegt die Cloud vorn. Die entscheidende Frage ist nicht, welches Modell am besten in Benchmarks abschneidet, sondern welches Modell Ihre konkreten Aufgaben zuverlässig erledigt.

Was sagen die Zahlen zur Verbreitung im Markt?

Der Druck ist real und messbar. 36 Prozent der deutschen Unternehmen ab 20 Beschäftigten setzen bereits KI ein, ein Anteil, der sich gegenüber 2024 nahezu verdoppelt hat (Quelle: Bitkom, Presseinformation vom 15. September 2025). Gleichzeitig nennen 48 Prozent hohe Datenschutzanforderungen als Hürde und 39 Prozent fürchten, Daten könnten in falsche Hände geraten. 93 Prozent bevorzugen KI-Lösungen aus Deutschland. Wer keine offiziellen Wege bereitstellt, bekommt Schatten-KI: In 8 Prozent der Unternehmen nutzen Beschäftigte private KI-Tools flächendeckend, doppelt so viele wie im Vorjahr, während nur 23 Prozent überhaupt Nutzungsregeln haben (Quelle: Bitkom, Presseinformation vom 21. Oktober 2025). Ohne Entscheidung entscheiden Ihre Mitarbeiter selbst, meist über unkontrollierte Cloud-Dienste.

Lokal oder Cloud: die klare Einordnung für Maklerhäuser

Starten Sie mit Cloud-KI, wenn Sie schnell Ergebnisse brauchen, das Volumen überschaubar ist und Sie einen sauberen Auftragsverarbeitungsvertrag samt EU-Verarbeitung durchsetzen. Wechseln Sie auf ein lokales Modell, wenn Ihr Nutzungsvolumen die Marke von rund 50.000 Euro API-Kosten pro Jahr überschreitet, wenn Sie besonders sensible Bestandsdaten ohne jeden externen Transfer verarbeiten oder wenn Sie Abhängigkeit strategisch reduzieren. Ein pragmatischer Mittelweg kombiniert beides: unkritische Aufgaben in der Cloud, sensible Verarbeitung lokal. Die Wahl der Infrastruktur ist dabei nur die halbe Antwort. Genauso wichtig ist den regulatorischen Rahmen aus DORA und AI Act mitzudenken, bevor Sie sich festlegen. Entscheiden Sie bewusst, sonst entscheidet die Schatten-KI in Ihrem Haus.