Was sollte man nicht in ChatGPT eingeben? Kurz gesagt: nichts, was dir oder anderen schadet, wenn es in fremde Hände gerät. Dazu gehören Passwörter, Kunden- und Kontonummern, Daten anderer Menschen, Gesundheitsinformationen, Firmeninterna, Fotos von Dritten, Schülerdaten und vollständige Adressen. Diese acht Regeln gelten für ChatGPT genauso wie für Claude, Gemini und Copilot.
Ich unterrichte IT-Sicherheit und Datenschutz, und in meinen Kursen sehe ich oft denselben Reflex: Die KI ist so hilfsbereit, dass Menschen ihr Dinge anvertrauen, die sie keinem Kollegen per Mail schicken würden. Der Chat fühlt sich privat an. Technisch ist er das nicht. Deine Eingabe landet auf dem Server eines Unternehmens, wird dort gespeichert und bei Privatkonten je nach Einstellung für das Training künftiger Modelle verwendet.
Die Kurzversion zum Merken:
- Keine Passwörter, PINs oder Zugangsdaten
- Keine Konto-, Kunden- oder Vertragsnummern
- Keine personenbezogenen Daten anderer Menschen
- Keine Gesundheitsdaten, weder eigene noch fremde
- Keine Firmeninterna, Verträge oder Geschäftsgeheimnisse
- Keine Fotos anderer Menschen
- Keine Schüler- oder Teilnehmerdaten
- Keine vollständigen Adressen und Geburtsdaten
Warum das so ist, erklärt die Datenschutz-Grundverordnung mit zwei Grundsätzen. Datenminimierung: Verarbeite nur, was für den Zweck nötig ist. Verantwortlichkeit: Wer Daten anderer weitergibt, braucht dafür eine Rechtsgrundlage. Beides fehlt, wenn du Kundendaten in ein Privatkonto tippst. Die Aufsichtsbehörden der Länder haben das in ihrer Orientierungshilfe „KI und Datenschutz“ für Unternehmen und Behörden ausgeführt. Für dich privat gilt dasselbe Prinzip, nur ohne Formular.
1. Keine Passwörter und Zugangsdaten
Ein Passwort im Chat ist ein Passwort in einer Datenbank, auf die du keinen Zugriff hast. Du weißt nicht, wer es dort lesen kann, wie lange es gespeichert bleibt und ob es in einem Trainingslauf landet. Dasselbe gilt für PINs, Wiederherstellungscodes, API-Schlüssel und Zugangslinks mit eingebautem Token.
Beispiel: Du bittest die KI, dir eine Anleitung für den Router zu schreiben, und fügst zur Sicherheit gleich Benutzername und Passwort ein, „damit sie es konkret erklären kann“. Die Anleitung wäre ohne Passwort exakt gleich gut.
So geht es stattdessen
Ersetze jeden echten Wert durch einen Platzhalter: „Benutzername: ADMIN, Passwort: PLATZHALTER“. Die KI versteht das problemlos. Wenn du in einem Code-Beispiel Zugangsdaten brauchst, nimm erfundene. Und falls du ein Passwort doch einmal eingetippt hast: ändern, sofort. Für die wichtigsten Konten lohnt sich ein Hardware-Sicherheitsschlüssel*, weil damit selbst ein geleaktes Passwort allein keinen Zugang mehr verschafft.
2. Keine Konto-, Kunden- und Vertragsnummern
Nummern wirken harmlos, weil sie keinen Namen enthalten. Für den Datenschutz sind sie trotzdem personenbezogen, sobald sich eine Person damit identifizieren lässt. Eine IBAN, eine Kundennummer oder eine Versicherungsnummer reicht dafür aus. In Kombination mit einem Namen aus einem späteren Chat wird daraus ein vollständiges Profil.
Beispiel: Du lässt dir eine Beschwerde an deinen Stromanbieter formulieren und übernimmst dafür den kompletten Briefkopf mit Vertrags- und Zählernummer. Die KI hätte den Brief mit „[Vertragsnummer]“ genauso geschrieben.
So geht es stattdessen
Lass die KI Lückentexte erzeugen. Du füllst die Nummern erst nach dem Kopieren in dein Textprogramm ein.
3. Keine personenbezogenen Daten anderer Menschen
Über deine eigenen Daten entscheidest du. Über die Daten deiner Kunden, Kollegen, Nachbarn oder Verwandten entscheidest du nicht. Sobald du fremde Namen mit Informationen verknüpfst, verarbeitest du personenbezogene Daten Dritter, und dafür brauchst du eine Rechtsgrundlage, die bei einem privaten KI-Konto in der Regel fehlt. Ein KI-Anbieter ist kein Auftragsverarbeiter deines Privatkontos.
Beispiel: „Mein Kollege Thomas Berger ist seit drei Wochen krank, wie formuliere ich eine Mail an die Abteilung?“ Die Mail braucht weder den Nachnamen noch den Grund der Abwesenheit, um gut zu werden.
So geht es stattdessen
Anonymisiere konsequent: „ein Kollege“, „eine Kundin“, „Person A“. Beschreibe Rollen statt Personen. Was du im Berufsalltag mit KI trotzdem alles erledigen kannst, zeige ich im Beitrag zu KI im Berufsalltag: fast alles davon funktioniert ohne einen einzigen echten Namen.
4. Keine Gesundheitsdaten
Gesundheitsdaten gehören nach der DSGVO zu den besonders geschützten Kategorien, zusammen mit Daten über Religion, Sexualität, politische Meinung oder Gewerkschaftszugehörigkeit. Der Schutz ist höher, weil der Schaden bei Missbrauch höher ist. Das gilt für fremde Daten strikt und ist für deine eigenen eine Frage der Vorsicht: Ein Chatverlauf mit Diagnosen und Medikamenten ist ein Dossier über dich, das du nicht kontrollierst.
Beispiel: Du fotografierst den Arztbrief deiner Mutter und lässt ihn dir in einfache Sprache übersetzen. Name, Geburtsdatum, Diagnose und Arztpraxis liegen damit auf einem fremden Server.
So geht es stattdessen
Tippe nur den medizinischen Fachbegriff ab, den du nicht verstehst, ohne Namen und Dokument. „Was bedeutet Hypertonie Grad 2?“ liefert dieselbe Erklärung. Bei eigenen Daten gilt: Schalte das Training ab (siehe unten) und lösche den Verlauf, wenn du ihn nicht mehr brauchst.
5. Keine Firmeninterna, Verträge und Geschäftsgeheimnisse
Hier geht es weniger um Datenschutz als um Vertraulichkeit. Arbeitsverträge enthalten Klauseln dazu, viele Unternehmen haben inzwischen eine KI-Richtlinie. Wer den Entwurf eines Angebots, eine Kalkulation oder einen Vertragsentwurf in ein privates KI-Konto lädt, verletzt häufig interne Vorgaben, auch wenn der Anbieter die Daten nie missbraucht. Es reicht, dass sie außerhalb der Firma liegen.
Beispiel: Ein Vertriebsmitarbeiter lässt sich ein Angebot kürzen und fügt dafür das komplette Dokument mit Preisen, Rabattstaffel und Kundennamen ein.
So geht es stattdessen
Frag zuerst, ob dein Unternehmen eine Unternehmensversion wie ChatGPT Business oder Enterprise, Microsoft 365 Copilot oder eine vergleichbare Lösung bereitstellt. Dort werden Eingaben laut Anbietern nicht zum Training genutzt, und es gibt einen Vertrag zur Auftragsverarbeitung. Gibt es keine, arbeite mit Textbausteinen ohne Zahlen und Namen oder lass die Finger davon.
6. Keine Fotos anderer Menschen
Ein Gesicht ist ein personenbezogenes Datum. Dazu kommt das Recht am eigenen Bild: Du darfst Fotos anderer Menschen nicht ohne deren Einverständnis weitergeben, und ein Upload in ein KI-Tool ist eine Weitergabe. Fotos tragen außerdem oft Metadaten wie Aufnahmeort und Zeit. Besonders heikel sind Bilder von Kindern.
Beispiel: Du lädst das Gruppenfoto der Familienfeier hoch, um daraus ein Bild im Comic-Stil zu machen. Zwölf Gesichter, darunter drei Kinder, liegen jetzt beim Anbieter.
So geht es stattdessen
Nutze nur Fotos von dir selbst oder Bilder ohne erkennbare Personen. Wenn ein Bild mit anderen Menschen unbedingt verarbeitet werden soll, frag jeden Einzelnen. Bei Kindern: lass es.
7. Keine Schüler- und Teilnehmerdaten
Als Dozent weiß ich, wie verführerisch das ist: Feedback für 25 Teilnehmer in einer Stunde statt in einem Abend. Nur gehören dir diese Daten nicht. Lehrkräfte verarbeiten Daten von Minderjährigen, Dozenten Daten von Teilnehmern, die dem Bildungsträger anvertraut wurden. Welche Tools erlaubt sind, regeln Länder, Schulleitungen und Träger, nicht der einzelne Lehrende.
Beispiel: „Schreib ein Zeugnis-Feedback für Lena, 8b, Note 4 in Mathe, Probleme mit Brüchen, oft unkonzentriert.“ Vorname, Klasse, Note, Leistungsbild: ein vollständiges Schülerprofil in einem Satz.
So geht es stattdessen
Beschreibe den Fall, nicht die Person: „Feedback für einen Lernenden mit Schwierigkeiten bei Brüchen und schwankender Konzentration, ermutigender Ton, 80 Wörter.“ Das Ergebnis ist identisch brauchbar. Wie KI in der Unterrichtsvorbereitung ohne Schülerdaten funktioniert, beschreibe ich im Leitfaden KI in der Unterrichtsvorbereitung.
8. Keine vollständigen Adressen und Geburtsdaten
Name, Adresse und Geburtsdatum sind die drei Angaben, mit denen sich Identitätsbetrug am einfachsten durchführen lässt. Einzeln wirken sie unspektakulär. Zusammen in einem Chatverlauf, womöglich neben Kontonummer und Arbeitgeber, ergeben sie genau das Paket, das Betrüger suchen. Das gilt für deine Daten und noch mehr für die anderer.
Beispiel: Du lässt dir einen Mietvertrag prüfen und lädst das PDF hoch, in dem beide Parteien mit Adresse und Geburtsdatum stehen.
So geht es stattdessen
Schwärze personenbezogene Felder vor dem Upload oder tippe nur die Klausel ab, um die es geht. Für die Frage „Ist diese Kündigungsfrist zulässig?“ braucht die KI keinen einzigen Namen.
Einstellungen, Unternehmensversion und Betrugsfallen
Die acht Regeln sind die wichtigste Schutzmaßnahme. Drei weitere Schritte machen den Unterschied zwischen sorglos und bewusst.
Training abschalten und Verlauf löschen
Alle vier großen Anbieter lassen dich einstellen, ob deine Chats zum Training der Modelle genutzt werden dürfen. Stand November 2026 findest du die Schalter hier:
- ChatGPT: Einstellungen, Datenkontrollen, Schalter „Das Modell für alle verbessern“ ausschalten. OpenAI beschreibt den Weg in der Hilfe zu den Datenkontrollen. Der Verlauf bleibt erhalten, wird aber nicht mehr für das Training verwendet
- Claude: Einstellungen, Datenschutz, Option zur Verbesserung von Claude deaktivieren. Seit einer Änderung der Nutzungsbedingungen 2025 musst du hier aktiv entscheiden
- Gemini: Die „Gemini-Apps-Aktivität“ über die Google-Kontoverwaltung ausschalten oder die Aufbewahrungsdauer verkürzen
- Copilot (Privatversion): Profil, Datenschutz, „Training mit Unterhaltungsaktivität“ ausschalten
Zwei Einschränkungen: Das Abschalten wirkt nur für die Zukunft, und es löscht nichts. Alte Chats löschst du getrennt. Außerdem bedeutet „nicht fürs Training“ nicht „nicht gespeichert“. Mit einer Aufbewahrungsfrist zur Missbrauchskontrolle solltest du rechnen. Welche Anbieter beim Datenschutz wie aufgestellt sind, vergleiche ich im Vergleich der KI-Assistenten.
Wann du eine Business- oder Bildungsversion brauchst
Sobald du beruflich regelmäßig mit Daten anderer arbeitest, reicht ein Privatkonto nicht. ChatGPT Business und Enterprise, Microsoft 365 Copilot und vergleichbare Angebote nutzen Eingaben nach Angaben der Anbieter nicht zum Training und bieten einen Vertrag zur Auftragsverarbeitung, den dein Unternehmen abschließt. Für Schulen gibt es in mehreren Bundesländern eigene, freigegebene Lösungen. Erst mit einer solchen Version kommt die Eingabe personenbezogener Daten überhaupt in Frage, und auch dann nur mit Freigabe deiner Organisation.
Warnzeichen für Betrug erkennen
Die echten Apps von OpenAI, Anthropic, Google und Microsoft kosten im Grundumfang nichts. Jede App, die vor dem ersten Chat ein Abo verlangt, ist verdächtig. Ebenso jede Download-Seite, die statt eines Store-Links eine ZIP-Datei anbietet. Im Oktober 2026 berichtete Notebookcheck über gefälschte Desktop-Apps, die echte Installer als Tarnung für Schadsoftware nutzen. Wie du ChatGPT sauber einrichtest, zeigt die ChatGPT-Anleitung für Anfänger.
Häufige Fragen
Ist ChatGPT datenschutzkonform?
Die Frage lässt sich nicht pauschal beantworten, weil es auf die Nutzung ankommt. Für private Fragen ohne Daten Dritter ist die Nutzung unproblematisch. Für die Verarbeitung von Kunden- oder Schülerdaten brauchst du eine Unternehmens- oder Bildungsversion mit Auftragsverarbeitungsvertrag und die Freigabe deiner Organisation.
Speichert ChatGPT meine Daten?
Ja. Chats werden auf Servern von OpenAI gespeichert, bei Privatkonten standardmäßig auch zum Training genutzt, sofern du das nicht abschaltest. Löschen kannst du einzelne Chats oder den gesamten Verlauf, mit einer Restfrist zur Missbrauchskontrolle solltest du rechnen.
Kann ich das Training mit meinen Daten abschalten?
Ja, bei allen vier großen Anbietern. Bei ChatGPT unter Datenkontrollen, bei Claude unter Datenschutz, bei Gemini über die Google-Kontoverwaltung, bei Copilot im Profil. Die Einstellung wirkt für künftige Chats und löscht keine alten.
Ist es gefährlich, Bilder in ChatGPT hochzuladen?
Bei eigenen Fotos ohne andere Personen ist das Risiko überschaubar, du gibst aber Gesicht und Metadaten aus der Hand. Fotos anderer Menschen, vor allem von Kindern, gehören nicht in KI-Tools. Dokumentenfotos mit Namen und Adressen auch nicht.
Darf ich Kundendaten in ChatGPT eingeben?
In ein Privatkonto nein. Dafür fehlt die Rechtsgrundlage, und du verstößt wahrscheinlich gegen interne Vorgaben. Mit einer Unternehmensversion und Auftragsverarbeitungsvertrag kann es zulässig sein, wenn dein Unternehmen das freigegeben hat. Im Zweifel anonymisieren.
Welche KI ist am datenschutzfreundlichsten?
Keine der großen Gratis-Versionen ist dafür gebaut. Datenschutzfreundlich wird es durch dein Verhalten: Training aus, keine Daten Dritter, Verlauf regelmäßig löschen. Lokal laufende Modelle auf dem eigenen Rechner sind die konsequenteste Lösung, verlangen aber Einrichtung und Rechenleistung.
Mein Rat: Geh die acht Regeln einmal mit deinem eigenen Chatverlauf durch. Die meisten finden dabei mindestens eine Eingabe, die sie heute anders machen würden. Lösche sie, stelle das Training ab und gewöhne dir Platzhalter an. Danach nutzt du KI wie bisher, nur ohne das ungute Gefühl. Wie du mit anonymisierten Daten trotzdem echte Aufgaben erledigst, zeigen die Beispiele zu KI im Berufsalltag.
