KI und Datenschutz — was Unternehmen technisch beachten müssen.
„Dürfen wir das überhaupt?“ ist oft die erste Frage, wenn es um KI im Unternehmen geht. Die Antwort ist meistens ja — wenn Daten, Verträge und Abläufe von Anfang an richtig geplant sind. Hier steht, worauf es aus technischer Sicht ankommt, von der Auftragsverarbeitung bis zur Kennzeichnungspflicht für Chatbots.
Für den datenschutzkonformen Einsatz braucht es: einen Anbieter mit Auftragsverarbeitungsvertrag, wenn personenbezogene Daten verarbeitet werden, möglichst Verarbeitung in der EU, den Ausschluss der Nutzung für Training, Datenminimierung, klare Zwecke und Informationen in der Datenschutzerklärung. Seit dem 2. August 2026 gilt zudem die Transparenzpflicht der europäischen KI-Verordnung für Chatbots und KI-generierte Inhalte.
Dieser Ratgeber beschreibt die technische Umsetzung aus Entwicklersicht. Er ist keine Rechtsberatung. Die rechtliche Bewertung im Einzelfall gehört zu Datenschutzbeauftragten oder einer Anwaltskanzlei.
Die Grundfrage: welche Daten, wohin?
Jede KI-Integration schickt Daten an ein Sprachmodell. Die entscheidenden Fragen sind deshalb immer dieselben: Welche Daten sind es? Sind personenbezogene Daten dabei — Namen, E-Mail-Adressen, Kundennummern, Inhalte von Anfragen? Wohin gehen sie, wer verarbeitet sie, wie lange werden sie gespeichert und wofür dürfen sie genutzt werden? Wer diese Fragen für ein Projekt sauber beantwortet und dokumentiert, hat den größten Teil der Arbeit erledigt.
| Datenart | Beispiel | Umgang |
|---|---|---|
| Keine Personendaten | Produkttexte, allgemeine Anleitungen | Unkritisch |
| Personendaten, gewöhnlich | Kundenanfragen, Namen, Adressen | Auftragsverarbeitung, Minimierung, Information |
| Besondere Kategorien | Gesundheitsdaten, Religion, biometrische Daten | Besonders strenge Anforderungen, oft eigene Server |
| Geschäftsgeheimnisse | Kalkulationen, Konstruktionsdaten | Vertragliche Zusicherungen, ggf. eigene Server |
Anbieter und Verträge.
Die großen Anbieter von Sprachmodellen bieten für Geschäftskunden Auftragsverarbeitungsverträge an, teils mit Verarbeitung oder Datenspeicherung in Europa. Für Anbieter außerhalb der EU spielen zusätzlich die Regeln für Datenübermittlungen in Drittländer eine Rolle, etwa das EU-US Data Privacy Framework oder Standardvertragsklauseln. Wichtig ist der Unterschied zwischen Verbraucherangeboten wie der kostenlosen Chat-App und den Geschäfts- und API-Angeboten: Nur bei Letzteren gibt es in der Regel die nötigen Verträge und Zusagen. Europäische Anbieter und Cloud-Plattformen mit Rechenzentren in der EU sind eine Alternative, wenn das gefordert ist.
Training mit deinen Daten.
Eine häufige Sorge: Lernt das Modell aus unseren Daten, und tauchen sie später bei anderen auf? Bei den Geschäfts- und API-Angeboten der großen Anbieter werden eingesandte Daten nach deren Angaben standardmäßig nicht zum Training verwendet. Das sollte vertraglich festgehalten und in den Einstellungen geprüft werden. Bei kostenlosen Verbraucher-Apps ist das oft anders — ein Grund mehr, warum Mitarbeitende dort keine Firmendaten eingeben sollten.
Personenbezogene Daten minimieren.
- Nur Nötiges senden: Für das Einordnen einer Anfrage braucht die KI den Inhalt, nicht die Telefonnummer.
- Vorher ersetzen: Namen, E-Mail-Adressen und Nummern lassen sich vor dem Versand durch Platzhalter ersetzen und danach wieder einsetzen.
- Kurze Speicherdauer: Protokolle nur so lange aufbewahren, wie sie für Qualität und Nachvollziehbarkeit nötig sind.
- Zugriff begrenzen: Nur berechtigte Personen sehen Protokolle und Ergebnisse.
import re
def pseudonymisieren(text):
ersatz = {}
def tausch(m, art):
key = f"[{art}_{len(ersatz) + 1}]"
ersatz[key] = m.group(0)
return key
text = re.sub(r"[\w.+-]+@[\w-]+\.[\w.]+", lambda m: tausch(m, "EMAIL"), text)
text = re.sub(r"\+?\d[\d /-]{7,}\d", lambda m: tausch(m, "TEL"), text)
return text, ersatz # ersatz bleibt im eigenen System
def zurueck(text, ersatz):
for k, v in ersatz.items():
text = text.replace(k, v)
return textReguläre Ausdrücke finden nur einfache Muster. Für Namen und Adressen braucht es bessere Erkennung, und es bleibt immer ein Restrisiko — deshalb zusätzlich Vertrag und Minimierung.
Modelle auf eigenen Servern.
Offene Modelle lassen sich auf eigenen Servern oder bei einem deutschen Hoster betreiben. Dann verlassen die Daten die eigene Infrastruktur nicht. Der Preis: Hardware mit Grafikkarten oder entsprechende Mietserver, eigener Betrieb, und die Qualität der Antworten liegt je nach Aufgabe unter der der großen Modelle. Das lohnt sich bei sehr sensiblen Daten, strengen Vorgaben oder großen Mengen. Für die meisten Projekte kleiner und mittlerer Unternehmen ist ein Geschäftsvertrag mit einem großen Anbieter die pragmatischere Lösung. Mehr zur Abwägung: Eigenes Modell oder API.
Was die KI-Verordnung verlangt.
Die europäische KI-Verordnung (AI Act) regelt KI nach Risiko. Für die typischen Unternehmensanwendungen — Assistenten, Chatbots, Textvorschläge, Dokumentenverarbeitung — sind vor allem zwei Punkte relevant:
- Transparenz (Art. 50): Seit dem 2. August 2026 müssen Menschen erkennen können, dass sie mit einem KI-System interagieren, etwa mit einem Chatbot. Auch bestimmte KI-generierte Inhalte müssen gekennzeichnet werden.
- KI-Kompetenz (Art. 4): Unternehmen, die KI einsetzen, sollen Maßnahmen ergreifen, damit ihre Mitarbeitenden über ausreichende Kenntnisse im Umgang mit KI verfügen.
Strengere Pflichten gelten für Hochrisiko-Anwendungen, etwa bei Personalentscheidungen oder Kreditwürdigkeit. Nach der Anpassung durch das EU-Omnibus-Paket greifen diese Pflichten gestaffelt ab Dezember 2027 beziehungsweise August 2028. Solche Anwendungen gehören nicht in einen schnellen Prototyp, sondern in eine sorgfältige rechtliche Prüfung.
Regeln für Mitarbeitende.
Viele Datenschutzprobleme entstehen nicht in geplanten Projekten, sondern weil Mitarbeitende Kundendaten in eine kostenlose Chat-App kopieren. Eine kurze interne Richtlinie hilft: Welche Werkzeuge sind erlaubt? Welche Daten dürfen hinein, welche nie? Wer ist Ansprechpartner? Kombiniert mit einer freigegebenen, datenschutzkonformen Lösung — etwa einem eigenen KI-Assistenten — sinkt der Anreiz, auf private Werkzeuge auszuweichen.
Checkliste für ein KI-Projekt.
- Zweck und Datenarten dokumentieren.
- Anbieter mit passendem Vertrag wählen, Serverstandort und Training klären.
- Datenminimierung und Pseudonymisierung einbauen, wo möglich.
- Speicherdauer von Protokollen festlegen.
- Datenschutzerklärung und gegebenenfalls Verzeichnis der Verarbeitungstätigkeiten ergänzen.
- KI-Hinweis in Chat und Oberfläche einbauen.
- Mitarbeitende einweisen.
- Datenschutzbeauftragte früh einbinden.
Speziell für Websites: DSGVO-Checkliste für WordPress.
Wie ich helfen kann.
Ich baue KI-Lösungen mit Datenschutz von Anfang an — und stimme mich dafür gern mit deinen Datenschutzbeauftragten ab. Den Überblick über alle Themen gibt die Seite KI-Integration für Unternehmen, Preisrahmen stehen unter Kosten einer KI-Integration. Für Unternehmen im Raum Osnabrück: KI-Beratung Osnabrück.
Wer dahinter steht.
Ich bin Manuel Killert, Web- und KI-Entwickler aus Quakenbrück. Ich verbinde Sprachmodelle wie die von OpenAI und Anthropic mit Websites, WordPress, Shops und bestehender Software — über Schnittstellen, eigene Plugins und Automatisierungen mit Werkzeugen wie n8n. Für Unternehmen im Raum Osnabrück bin ich auch vor Ort erreichbar, alle anderen Projekte laufen remote. Ich sage dir ehrlich, wenn eine Aufgabe ohne KI besser gelöst ist.
KI in echten Projekten.
Ein eigener KI-Rezeptgenerator im Live-Betrieb und der Webauftritt eines KI-Unternehmens.
FAQ — KI und Datenschutz im Unternehmen.
Ist der Einsatz von KI mit der DSGVO vereinbar?
In den meisten Fällen ja, wenn er geplant wird: Anbieter mit Auftragsverarbeitungsvertrag, möglichst EU-Verarbeitung, kein Training mit den eigenen Daten, Datenminimierung, klare Zwecke und Information in der Datenschutzerklärung. Die rechtliche Bewertung im Einzelfall übernehmen Fachleute.
Werden unsere Daten zum Training der KI genutzt?
Bei den Geschäfts- und API-Angeboten der großen Anbieter nach deren Angaben standardmäßig nicht. Das sollte vertraglich festgehalten und geprüft werden. Kostenlose Verbraucher-Apps handhaben das oft anders.
Was verlangt die KI-Verordnung von Unternehmen?
Für typische Anwendungen vor allem Transparenz: Seit dem 2. August 2026 müssen Menschen erkennen, dass sie mit einer KI interagieren. Außerdem sollen Unternehmen die KI-Kompetenz ihrer Mitarbeitenden fördern. Hochrisiko-Anwendungen unterliegen strengeren, gestaffelt geltenden Pflichten.
Muss ein Chatbot als KI gekennzeichnet werden?
Ja. Nach Art. 50 der KI-Verordnung gilt seit dem 2. August 2026, dass Nutzer erkennen müssen, dass sie mit einem KI-System sprechen, sofern es nicht offensichtlich ist.
Kann man KI auch ohne Datenübermittlung an US-Anbieter nutzen?
Ja, mit europäischen Anbietern, Cloud-Plattformen mit EU-Rechenzentren oder offenen Modellen auf eigenen Servern. Letzteres kostet mehr Aufwand und liefert je nach Aufgabe etwas schwächere Ergebnisse.
Wie verhindere ich, dass Mitarbeitende Kundendaten in ChatGPT kopieren?
Mit einer kurzen internen Richtlinie zu erlaubten Werkzeugen und Daten, einer Einweisung und einer freigegebenen, datenschutzkonformen Alternative wie einem eigenen KI-Assistenten.
Das bin ich – rechts im BildErzähl mir, was die KI erledigen soll.
Beschreib kurz die Aufgabe oder den Ablauf, der dich Zeit kostet — du bekommst eine ehrliche Einschätzung, ob und wie KI hilft und was es kostet.
Antwort meist innerhalb von 24 Stunden · hallo@manuelkillert.de