KI datenschutzkonform einsetzen: Was der Mittelstand über Vertraulichkeit wissen muss

Die meisten Diskussionen über KI drehen sich um eine Frage: Was kann die Technik? Für viele Unternehmen ist das aber die zweitwichtigste Frage. Die erste lautet: Was dürfen wir mit unseren Daten überhaupt tun? Wer Mandantenakten, Patientendaten, Personalunterlagen oder vertrauliche Angebote verarbeitet, trägt eine Verantwortung, die kein noch so gutes Sprachmodell aufhebt.

Dieser Beitrag gibt Orientierung, keine Rechtsberatung. Aber er nennt die Punkte, an denen Sie genau hinsehen sollten, bevor Sie KI an Ihre Daten lassen.

Der bequeme Weg ist oft der riskante

Eine Datei in ein bekanntes US-Werkzeug hochladen und in Sekunden eine Zusammenfassung erhalten: Das ist verführerisch einfach. Genau hier passieren die teuren Fehler. Sobald personenbezogene oder vertrauliche Daten ein Werkzeug erreichen, dessen Server außerhalb der EU stehen oder dessen Anbieter die Inhalte zum Training weiterverwendet, verlassen Ihre Daten Ihren Kontrollbereich. Was einmal draußen ist, holen Sie nicht zurück.

Der Schaden ist selten sofort sichtbar. Er zeigt sich, wenn eine Aufsichtsbehörde fragt, wenn ein Mandant es erfährt, oder wenn ein Wettbewerber denselben Anbieter nutzt und Sie sich plötzlich erklären müssen.

Drei Ebenen, die zusammengehören

Vertraulichkeit beim KI-Einsatz hat im deutschen Mittelstand drei Ebenen, die sich nicht gegeneinander ausspielen lassen.

DSGVO. Personenbezogene Daten dürfen nur auf einer Rechtsgrundlage und zweckgebunden verarbeitet werden. Setzen Sie einen externen Dienst ein, brauchen Sie einen Auftragsverarbeitungsvertrag, und Sie müssen wissen, wo verarbeitet wird. Ein Transfer in Drittländer ist nicht per se verboten, aber er ist begründungspflichtig und in der Praxis oft der Schwachpunkt.

§203 StGB. Berufsgeheimnisträger wie Steuerberater, Anwälte, Ärzte oder ihre Kanzlei- und Praxisteams unterliegen der Schweigepflicht. Wer hier vertrauliche Informationen an einen technischen Dienstleister gibt, muss die Vorgaben einhalten, die für mitwirkende Personen gelten. Ein x-beliebiger Cloud-Dienst erfüllt diese Anforderungen in der Regel nicht ohne Weiteres.

EU AI Act. Der regulatorische Rahmen für KI verlangt je nach Anwendungsfall Transparenz und Sorgfalt. Für die meisten Mittelstandsanwendungen ist das kein Hindernis, aber es lohnt sich zu wissen, in welche Risikoklasse ein geplanter Einsatz fällt, bevor man ihn produktiv schaltet.

Diese drei Ebenen klingen nach viel. In der Praxis lassen sie sich auf eine einzige Arbeitsfrage herunterbrechen: Welche Daten dürfen das Haus verlassen, und welche nicht?

Datenklassen statt Bauchgefühl

Der pragmatischste Schritt, den ich Unternehmen empfehle, kostet nichts und schafft sofort Klarheit. Teilen Sie Ihre Daten in wenige Sensibilitätsstufen ein.

Unkritische Daten, etwa öffentlich ohnehin verfügbare Informationen, können auch externe Werkzeuge sehen. Interne, aber wenig sensible Daten dürfen einen EU-gehosteten Dienst mit sauberem Auftragsverarbeitungsvertrag erreichen. Streng vertrauliche Daten, also Mandanten-, Patienten- oder Personaldaten, verarbeiten Sie ausschließlich auf eigener oder vollständig EU-kontrollierter Infrastruktur, idealerweise mit lokal betriebenen Modellen, die nichts nach außen geben.

Sobald diese Linien gezogen sind, wird die Werkzeugauswahl einfach. Sie fragen nicht mehr „ist dieses Tool gut?", sondern „welche Datenklasse darf es sehen?".

Ein Beispiel aus der Praxis: In einer Steuerkanzlei wollte ein Mitarbeiter Mandantenunterlagen rasch von einem bekannten US-Werkzeug zusammenfassen lassen, im guten Glauben, Zeit zu sparen. Erst die schlichte Frage „Welche Datenklasse ist das eigentlich?" machte klar, dass hier die Schweigepflicht nach §203 berührt war. Sobald die Kanzlei ihre Daten einmal in Stufen eingeteilt hatte, war die Entscheidung kein Bauchgefühl mehr, sondern eine Regel, an die sich alle halten konnten: Mandantendaten bleiben im Haus, Unkritisches darf nach draußen.

Warum self-hosted und EU-gehostet den Unterschied machen

Es gibt einen Grund, warum wir Systeme bevorzugt auf eigener Infrastruktur in Deutschland betreiben. Wenn das Modell, die Datenbank und die Vektorsuche auf einem Server in der EU laufen und sensible Inhalte gar nicht erst an einen externen Anbieter gehen, lösen Sie das Vertraulichkeitsproblem an der Wurzel, statt es vertraglich abzufedern. Lokale Modelle übernehmen die sensiblen Aufgaben, ein externer Dienst kommt nur dort zum Einsatz, wo nachweislich keine geschützten Daten im Spiel sind.

Dieser Ansatz ist aufwändiger als ein schneller Cloud-Zugang. Dafür ist er belastbar. Datenhoheit ist dann keine Marketingzeile, sondern eine Eigenschaft der Architektur.

Der Mensch bleibt die letzte Instanz

So leistungsfähig KI auch ist, bei vertraulichen und folgenreichen Vorgängen gehört die Entscheidung zu einem Menschen. Ein gutes System schlägt vor, ein Mensch gibt frei. Das schützt nicht nur vor Fehlern, sondern erfüllt auch eine Erwartung, die Ihre Mandanten und Kunden zu Recht haben: dass am Ende jemand verantwortlich ist, der einen Namen hat.

Fazit: Vertraulichkeit ist eine Entscheidung, kein Zufall

KI und Datenschutz schließen sich nicht aus. Sie verlangen nur, dass Sie die Reihenfolge einhalten. Erst klären, welche Daten wie sensibel sind, dann die passende Verarbeitung wählen, und vertrauliche Inhalte gar nicht erst aus der Hand geben. Wer das von Anfang an mitdenkt, kann KI nutzen, ohne nachts wach zu liegen.

---

Sie verarbeiten sensible Daten und wollen KI trotzdem sicher nutzen? In einem unverbindlichen Erstgespräch (30 Minuten) klären wir, welcher Weg für Ihre Datenlage tragfähig ist, DSGVO-konform und §203-tauglich. → Erstgespräch vereinbaren