Welche Daten gehören nicht in KI-Tools?

Die meisten Ratgeber diskutieren Anbieter. Im Alltag sieht die Frage anders aus: Du hast eine Kundenmail offen, einen Vertragsentwurf oder eine Bewerbung, willst sie zusammenfassen lassen — und zögerst kurz.

Dieser Artikel ist eine allgemeine Einordnung und keine Rechtsberatung. Er ersetzt kein Gespräch mit eurem Datenschutzbeauftragten.

Warum es weniger am Tool liegt, als du denkst

Die Diskussion „ChatGPT oder Claude oder Gemini“ führt an der Sache vorbei. Alle großen Anbieter verarbeiten Eingaben auf Servern, auf die du keinen Zugriff hast.

Entscheidend ist zuerst: Was gibst du überhaupt hinein. Ein Tool mit perfekten Verträgen schützt dich nicht, wenn du dort eine komplette Kundenliste einfügst.

Was praktisch nie in ein KI-Tool gehört

Die entscheidende Frage ist nicht, wessen Daten es sind — sondern ob eine Person erkennbar ist.

1. Personenbezogene Daten, egal von wem

Personenbezogen ist alles, worüber sich eine Person identifizieren lässt. Es macht keinen Unterschied, ob es um einen Kunden, einen Kollegen, einen Bewerber, einen Lieferanten oder dich selbst geht.

Auch die Kombination zählt. Kein Name, aber Postleitzahl, Alter und Berufsbezeichnung zusammen? Das kann eine Person eindeutig identifizierbar machen.

2. Besondere Kategorien — noch strenger geschützt

Nach Art. 9 DSGVO gelten für bestimmte Daten deutlich engere Grenzen. Dazu gehören unter anderem Gesundheitsdaten, ethnische Herkunft, politische Meinungen, religiöse Überzeugungen, Gewerkschaftszugehörigkeit, biometrische Daten und Angaben zum Sexualleben.

Praktisch relevant sind im Büroalltag vor allem Gesundheitsdaten — Krankmeldungen, Atteste, Angaben zu Einschränkungen. Diese Zeilen tauchen häufiger in E-Mails auf, als man denkt.

3. Kein Datenschutzthema, trotzdem heikel

Die Grauzone

Hier wird es unbequem, weil es keine klare Antwort gibt:

• Namen von Kollegen in einer Terminabsprache
• Interne Präsentationen ohne Personenbezug, aber mit Betriebsinterna
• Chatverläufe mit Kunden, aus denen du eine Zusammenfassung willst
• Screenshots, auf denen im Hintergrund mehr zu sehen ist als beabsichtigt

Diese Fälle hängen davon ab, was euer Unternehmen mit dem Anbieter vereinbart hat und wie riskant die Verarbeitung im Einzelfall ist. Genau das ist die Frage, die ein Datenschutzbeauftragter beantworten kann und ein Blogartikel nicht.

Was unkritisch ist

Damit niemand aus Vorsicht gar nichts mehr nutzt — das Meiste ist unproblematisch:

• Allgemeine Fragen und Erklärungen
• Eigene Texte ohne Personenbezug
• Aggregierte Zahlen und Statistiken ohne Personenbezug — Auswertungen aus der Search Console, Umsatzreihen, Website-Kennzahlen, Traffic-Verläufe. Wo keine Person erkennbar ist, greift der Datenschutz nicht
• Öffentlich verfügbare Informationen
• Anonymisierte Beispiele mit erfundenen Namen
• Formulierungshilfen, Gliederungen, Ideensammlungen
• Rechtschreibung und Stil

Was mit deiner Eingabe passiert

In einem Satz: Sie verlässt dein Gerät, wird auf fremden Servern verarbeitet und gespeichert, kann zur Missbrauchskontrolle von Menschen gesichtet werden — und je nach Tarif ins Training einfließen.

Der letzte Teil ist der einzige, der sich nicht rückgängig machen lässt. Denn drei Dinge werden ständig verwechselt:

Wer ein Gespräch löscht, entfernt den Verlauf — nicht das, was ein Modell daraus gelernt hat.

Das Muster bei Gratis- und Geschäftstarifen

Bei allen großen Anbietern gilt dieselbe Grundlogik, auch wenn die Details sich unterscheiden:

In kostenlosen und privaten Tarifen können Eingaben zur Verbesserung der Modelle verwendet werden. Meist gibt es dafür einen Schalter in den Einstellungen — aber du musst ihn kennen und selbst umlegen.

In Geschäftstarifen ist Training in der Regel ausgeschlossen, ein Auftragsverarbeitungsvertrag ist verfügbar, und teilweise lässt sich der Speicherort auf Europa festlegen.

EU-Datenhaltung gibt es fast ausschließlich in den größeren Geschäftstarifen — nicht in Gratis- oder einfachen Privatversionen.

Wie du es in zehn Minuten selbst prüfst

Das ist nachhaltiger als jede Tabelle. Such auf der Seite deines Anbieters nach vier Begriffen:

Fündig wirst du meist unter Stichworten wie „Enterprise Privacy“, „Trust Center“ oder „Datenschutz für Unternehmen“ — nicht in der allgemeinen Datenschutzerklärung, die für Privatnutzer geschrieben ist.

Wie du das Training abschaltest

Bei den privaten Tarifen lässt sich das in allen großen Tools umstellen. Die Einstellung heißt überall anders, sitzt aber immer an einer ähnlichen Stelle:

Die Einstellung gilt in der Regel für dein gesamtes Konto, nicht pro Gespräch — und der Gesprächsverlauf bleibt dir erhalten. Du verlierst also keine Funktion.

Alternativen — von „nichts ändern“ bis „eigenes Setup“

Vorweg das Wichtigste: Keine dieser Optionen ist ein Freibrief. Sie verringern Risiken unterschiedlich stark. Ob eine davon für euren konkreten Fall ausreicht, entscheidet euer Datenschutzbeauftragter — nicht dieser Artikel und nicht die Werbeseite eines Anbieters.

1. Platzhalter statt echter Daten

Ersetze Namen, Zahlen und Firmen durch „Kunde A“, „Firma X“, „Betrag Y“. Das Ergebnis ist fast immer gleichwertig, und die Frage nach dem Datenschutz stellt sich gar nicht erst.

Für den Büroalltag ist das die wirksamste Maßnahme überhaupt — kein Toolwechsel, keine Kosten, keine Freigabe nötig. Und die einzige Option, die das Problem beseitigt statt es zu verwalten.

2. Geschäftstarif des Tools, das ihr schon nutzt

Meistens der kürzeste Weg — ihr müsst nichts Neues lernen, nur den Tarif wechseln. Alle großen Anbieter führen Geschäftsvarianten, für die nach eigenen Angaben ein Auftragsverarbeitungsvertrag abgeschlossen werden kann:

Was in eurem Tarif konkret vereinbart ist, steht beim Anbieter — und ob es für euren Fall reicht, entscheidet der Datenschutzbeauftragte. Ein Geschäftstarif ist die Voraussetzung, nicht die Freigabe.

3. Anbieter mit Servern in Europa

Ein europäischer Sitz allein sagt noch nichts darüber, was im jeweiligen Tarif vereinbart ist. Auch hier gilt: prüfen und mit dem Datenschutzbeauftragten abstimmen.

4. Lokale Modelle — die Daten verlassen den Rechner nicht

Die konsequenteste Lösung, und die am seltensten genannte: KI-Modelle, die auf dem eigenen Gerät laufen. Werkzeuge wie Ollama oder LM Studio sind kostenlos, und es geht buchstäblich nichts ins Internet.

Ehrlich zu den Grenzen: Die Modelle sind spürbar schwächer als ChatGPT oder Claude, du brauchst einen halbwegs aktuellen Rechner mit genug Arbeitsspeicher, und die Einrichtung dauert eine Stunde. Für Zusammenfassungen und Textarbeit reicht es — für anspruchsvolle Analysen nicht.

Was tun, wenn schon etwas drin ist

Der Abschnitt, den fast niemand schreibt — dabei ist es die häufigste Situation. Vier Schritte, in dieser Reihenfolge:

1. Nicht überstürzt löschen, erst dokumentieren. Was wurde eingegeben, wann, in welchem Tool, mit welchem Konto. Das braucht ihr für die Bewertung.

2. Gespräch löschen. Gelöschte Unterhaltungen werden bei den großen Anbietern nach einer Frist aus den Systemen entfernt, sofern keine gesetzliche Aufbewahrungspflicht besteht.

3. Ehrlich zur Grenze: Was bereits in ein Modelltraining eingeflossen ist, lässt sich nicht zurückholen. Löschen entfernt die Konversation, nicht das, was ein Modell daraus gelernt hat. Wer etwas anderes verspricht, kennt die Technik nicht.

4. Intern melden. Je nachdem, was eingegeben wurde, kann es sich um eine meldepflichtige Verletzung des Schutzes personenbezogener Daten handeln. Diese Bewertung trifft nicht die IT und nicht du, sondern der Datenschutzbeauftragte.

Der wichtigste Satz dazu: Melden ist unangenehm, Verschweigen ist schlimmer. Eine intern gemeldete Panne ist ein Vorgang. Eine verschwiegene, die später auffliegt, ist ein Problem.

Wer das bei euch eigentlich entscheidet

Nicht die IT. Nicht der Chef aus dem Bauch heraus. Und auch nicht ein Blogartikel.

Viele Unternehmen haben längst einen Datenschutzbeauftragten und fragen ihn nicht. Nach § 38 Abs. 1 BDSG ist einer zu benennen, wenn in der Regel mindestens 20 Personen ständig mit der automatisierten Verarbeitung personenbezogener Daten beschäftigt sind (Stand: August 2026).

Es zählt nicht die Gesamtzahl der Beschäftigten, sondern nur die, die ständig mit Datenverarbeitung befasst sind. In einem Büro sind das schnell fast alle. Unabhängig von der Personenzahl greift die Pflicht unter anderem, wenn Verarbeitungen einer Datenschutz-Folgenabschätzung unterliegen.

⚠️ Das kann sich bald ändern. Die Bundesregierung hat am 4. Dezember 2025 angekündigt, § 38 Abs. 1 BDSG bis Ende 2026 zu streichen und die Benennungspflicht auf die Vorgaben der DSGVO zu beschränken. Ein Gesetzentwurf lag im Sommer 2026 nicht vor, es handelt sich bislang um eine politische Absichtserklärung (Stand: August 2026).

Falls es bei euch keinen gibt: Externe Datenschutzbeauftragte gibt es für kleinere Betriebe zu überschaubaren Kosten, und ein einmaliges Erstgespräch ist meist deutlich günstiger als die Nachbereitung eines Vorfalls.

Welche Kennzeichnungs- und Transparenzpflichten beim KI-Einsatz sonst noch gelten, steht in unserem Artikel zum EU AI Act.

Häufige Fragen

Dieser Artikel gibt einen allgemeinen Überblick und ersetzt keine Rechtsberatung. Er bewertet keine konkreten Einzelfälle und trifft keine Aussage darüber, ob ein bestimmtes Produkt für euren Anwendungsfall zulässig ist. Wendet euch dafür an euren Datenschutzbeauftragten oder an fachlichen Rat.