ChatGPT im Unternehmen: Diese Pflichten gelten nach der KI-Verordnung.
"Wir nutzen doch nur ChatGPT." Für die KI-Verordnung heißt das in der Regel: Sie sind Betreiber. Daraus folgen weniger Pflichten, als viele befürchten, aber nicht gar keine.
- Art. 4 KI-Kompetenz
- Art. 50 Abs. 4 Deepfakes, Texte
- Art. 50 Abs. 3 Emotionserkennung
- Hochrisiko (Anhang III)
- Art. 50 Abs. 1 Chatbot-Hinweis
Ihre Rolle: Wer ChatGPT beruflich nutzt, ist Betreiber.
Anbieter ist, wer ein KI-System entwickelt und unter eigenem Namen anbietet, bei ChatGPT etwa OpenAI. Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich einsetzt. Das sind Sie, sobald Ihre Beschäftigten ChatGPT oder Copilot für die Arbeit nutzen, unabhängig von der Unternehmensgröße.
Die Pflichten für das zugrunde liegende KI-Modell (Art. 53 und 55) liegen beim Anbieter, nicht bei Ihnen. Wann ein Betreiber zum Anbieter wird, erklärt der Ratgeber Anbieter oder Betreiber: so bestimmen Sie Ihre Rolle.
Art. 4: Maßnahmen zur KI-Kompetenz.
Art. 4 gilt seit dem 02.02.2025 für alle Anbieter und Betreiber, egal wie riskant das Werkzeug ist. Seit dem 27.07.2026 gilt er in einer abgemilderten Fassung: Sie ergreifen Maßnahmen, die die KI-Kompetenz Ihrer Beschäftigten und anderer Personen unterstützen, die in Ihrem Auftrag mit KI arbeiten, passend zu deren Vorwissen und zum Einsatzzweck.
Ein bestimmtes Kompetenzniveau müssen Sie nicht sicherstellen, und ein Zertifikat verlangt die Verordnung nicht. Art. 4 ist auch nicht bußgeldbewehrt. Die Bundesnetzagentur sieht fehlende KI-Kompetenz aber als mögliche Verletzung der Sorgfaltspflicht und empfiehlt, die Maßnahmen zu dokumentieren.
Praktisch heißt das zum Beispiel:
- Sie legen fest, wer welches KI-Werkzeug wofür nutzt.
- Sie weisen die Teams kurz ein.
- Sie halten fest, wer wann eingewiesen wurde.
Art. 50: Wann Sie KI-Inhalte kennzeichnen müssen.
Die Transparenzpflichten gelten seit dem 02.08.2026, aber nicht alle treffen Sie.
| Situation | Verpflichtet | Was gilt |
|---|---|---|
| Sie erzeugen oder verändern mit KI einen Deepfake: ein Bild, Video oder Tondokument, das echten Personen, Orten, Gegenständen oder Ereignissen ähnelt und fälschlich echt wirkt | Sie als Betreiber (Abs. 4) | Offenlegen, dass er künstlich erzeugt oder verändert ist. Bei offensichtlich künstlerischen oder satirischen Werken genügt eine eingeschränkte Offenlegung |
| Sie veröffentlichen einen KI-Text, der über Angelegenheiten von öffentlichem Interesse informiert | Sie als Betreiber (Abs. 4) | Offenlegen, außer ein Mensch hat den Text geprüft und jemand trägt die redaktionelle Verantwortung |
| Sie setzen Emotionserkennung oder biometrische Kategorisierung ein | Sie als Betreiber (Abs. 3) | Die betroffenen Personen informieren. Am Arbeitsplatz ist Emotionserkennung nach Art. 5 Abs. 1 Buchst. f grundsätzlich verboten |
| Hinweis "Sie sprechen mit einer KI" | Anbieter (Abs. 1) | Keine Betreiberpflicht |
| Maschinenlesbare Markierung KI-erzeugter Inhalte | Anbieter (Abs. 2) | Keine Betreiberpflicht |
Protokolle zusammenfassen oder E-Mails vorformulieren löst diese Pflichten in der Regel nicht aus.
Ein Chatbot unter eigenem Namen auf der Website ist ein Sonderfall: Ob Sie dann Anbieter sind, ist nicht abschließend geklärt. Weitere Beispiele zeigt der Ratgeber Transparenzpflichten nach Art. 50 in der Praxis.
Hochrisiko nach Anhang III: nur in bestimmten Einsatzbereichen, meist bei Entscheidungen über Menschen.
ChatGPT ist nicht von sich aus ein Hochrisiko-System. Setzen Sie ChatGPT gezielt für einen Zweck aus Anhang III ein, etwa um Bewerbungen vorzusortieren, kann daraus ein Hochrisiko-System werden. Weil dann Sie den Zweck bestimmt haben, können Sie nach Art. 25 Abs. 1 Buchst. c sogar als Anbieter gelten, mit deutlich mehr Pflichten als ein Betreiber nach Art. 26. Das gehört in eine Einzelfallprüfung.
Die Hochrisiko-Pflichten gelten für Anhang-III-Systeme ab dem 02.12.2027, und zwar mit Bestandsschutz (Art. 111 Abs. 2): Ein System, das vor diesem Tag in Verkehr gebracht oder in Betrieb genommen wurde, fällt nur dann darunter, wenn es danach in seiner Konzeption erheblich verändert wird. Ob er greift, kann davon abhängen, dass Sie belegen können, seit wann ein System wofür im Einsatz ist.
Datenschutz bei der Eingabe von Daten in ChatGPT.
Geben Beschäftigte personenbezogene Daten in ein KI-Werkzeug ein, ist neben der KI-Verordnung die DSGVO zu beachten. Welche Daten in welches Werkzeug dürfen und ob ein Vertrag zur Auftragsverarbeitung nötig ist, klären Sie am besten mit Ihrem Datenschutzbeauftragten.
Beispiel: Vertrieb und Marketing nutzen ChatGPT.
Ein erfundenes Beispiel: Ein Hersteller von Verpackungsmaschinen mit 140 Beschäftigten. Der Vertrieb lässt sich Angebote von ChatGPT vorformulieren, das Marketing schreibt damit LinkedIn-Posts und erstellt gelegentlich Bilder. So sortiert sich das:
- Rolle: Betreiber.
- Art. 4: gilt. Die Unternehmensleitung regelt, wer ChatGPT wofür nutzt, und dokumentiert die Einweisung beider Teams.
- Angebote: keine Offenlegung nach Art. 50, denn ein Angebot informiert nicht die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse.
- Posts zu Produkten: in der Regel ebenfalls nicht. Bei einem gesellschaftlichen Thema kann Abs. 4 greifen, außer eine Person prüft den Text und trägt die redaktionelle Verantwortung.
- Bilder: Zeigt ein KI-Bild täuschend echt die eigene Werkshalle mit einer Szene, die nie stattgefunden hat, kann das ein Deepfake sein. Dann ist das offenzulegen.
- Hochrisiko: nein, keiner der Einsatzbereiche aus Anhang III ist berührt. Das ändert sich, wenn die Personalabteilung damit Bewerbungen bewertet; dann kann das Unternehmen sogar Anbieter werden.
Unterm Strich: Art. 4 umsetzen und dokumentieren, bei Bildern an die Offenlegung denken.
Häufige Fragen zu ChatGPT im Unternehmen.
Müssen wir jeden Text kennzeichnen, an dem ChatGPT mitgeschrieben hat?
Brauchen unsere Beschäftigten ein KI-Zertifikat?
Kümmert sich nicht OpenAI oder Microsoft um die Pflichten?
Muster für eine KI-Richtlinie zum Download.
Am einfachsten halten Sie die Regeln in einer kurzen internen KI-Richtlinie fest, etwa welche Werkzeuge erlaubt und welche Daten tabu sind.
Wie Sie das Muster anpassen und einführen, erklärt der Ratgeber KI-Richtlinie fürs Unternehmen mit acht Bausteinen. Ob weitere Werkzeuge betroffen sind, zeigt der kostenlose Schnell-Check in fünf Fragen. Den Gesamtüberblick bietet die Seite KI-Verordnung (EU AI Act) für Unternehmen.
In CompliKI erfassen Sie ChatGPT und Ihre übrigen KI-Werkzeuge im Inventar, stufen jeden Einsatz begründet ein und arbeiten die Checkliste zu Ihrer Rolle ab. Darin stehen auch die Punkte zu Art. 4, etwa wer wann eingewiesen wurde.
Allgemeine Information, keine Rechtsberatung. Sie ersetzt keine Prüfung Ihres Einzelfalls. Rechtsstand 13.11.2026.