Eigener Name, eigene Marke
Sie versehen ein bereits in Verkehr gebrachtes Hochrisiko-System mit Ihrem Namen oder Ihrer Marke. Der klassische Fall des Weiterverkaufs unter eigenem Label - vorbehaltlich abweichender vertraglicher Regelungen.
// Ratgeber · Art. 25, Art. 26 VO (EU) 2024/1689
Provider oder Betreiber: welche Rolle Ihr Unternehmen hat.
Der EU AI Act knüpft die Pflichten nicht an die Branche und nicht an die Unternehmensgröße, sondern an die Rolle. Wer sie falsch bestimmt, arbeitet an den falschen Pflichten. Dieser Beitrag zeigt die Abgrenzung an vier Fällen aus dem Mittelstand.
- Anbieter (Provider)
- Betreiber (Deployer)
- Einführer (Importeur)
- Händler (Distributor)
- Produkthersteller
- Bevollmächtigter
Sechs Akteursrollen der Verordnung (EU) 2024/1689. Eine Organisation kann mehrere gleichzeitig einnehmen.
Grundregel
Wer einkauft und einsetzt, ist Betreiber.
Die Verordnung (EU) 2024/1689 unterscheidet in Art. 3 sechs Akteursrollen. Für den Mittelstand reduziert sich die Frage fast immer auf zwei davon:
- Anbieter (Provider) ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt.
- Betreiber (Deployer) ist, wer ein KI-System in eigener Verantwortung im Rahmen seiner beruflichen Tätigkeit einsetzt.
Damit ist die Ausgangslage für die allermeisten deutschen Unternehmen klar: Wer ChatGPT, Microsoft Copilot, ein Übersetzungswerkzeug oder ein eingekauftes Bewerber-Tool nutzt, ohne daran etwas zu verändern, ist Betreiber. Das gilt auch dann, wenn im Haus niemand programmiert und niemand ein Modell trainiert.
Die private Nutzung außerhalb einer beruflichen Tätigkeit ist von der Betreiberrolle nicht erfasst. Sobald ein Werkzeug aber im Unternehmenskontext eingesetzt wird - auch informell, auch ohne Freigabe der IT -, ist der Anwendungsbereich eröffnet.
Warum die Unterscheidung so viel ausmacht
Die Pflichtendichte unterscheidet sich erheblich. Ein Anbieter eines Hochrisiko-Systems trägt unter anderem Risiko- und Qualitätsmanagement, technische Dokumentation, Konformitätsbewertung und Registrierung. Ein Betreiber desselben Systems trägt einen deutlich kürzeren, aber ebenfalls verbindlichen Katalog nach Art. 26.
Der Kipppunkt
a
b
c
!
Drei Fälle machen aus einem Betreiber einen Anbieter.
Art. 25 Abs. 1 regelt, wann ein Händler, Einführer, Betreiber oder sonstiger Dritter als Anbieter eines Hochrisiko-KI-Systems gilt und damit die Anbieterpflichten nach Art. 16 übernimmt. Es sind genau drei Konstellationen.
Wesentliche Veränderung
Sie nehmen an einem bereits in Verkehr gebrachten Hochrisiko-System eine wesentliche Änderung vor, sodass es weiterhin ein Hochrisiko-System bleibt.
Geänderte Zweckbestimmung
Sie ändern die Zweckbestimmung eines Systems - auch eines Modells mit allgemeinem Verwendungszweck - so, dass es dadurch nach Art. 6 zu einem Hochrisiko-System wird.
Die Folge
Wer unter einen dieser Fälle fällt, gilt für dieses System als Anbieter und übernimmt die Anbieterpflichten nach Art. 16. Der ursprüngliche Anbieter gilt für dieses konkrete System nicht mehr als Anbieter, muss aber mitwirken.
Wichtig für die Praxis: Art. 25 Abs. 1 betrifft Hochrisiko-Systeme. Wer ein Standardwerkzeug mit minimalem Risiko unter eigenem Namen weitergibt, wird dadurch nicht automatisch zum Anbieter eines Hochrisiko-Systems. Die Reihenfolge lautet deshalb immer: erst die Risikoeinstufung, dann die Rollenfrage. Wie diese Einstufung methodisch abläuft, beschreibt die Seite Methodik der Risikoeinordnung.
Beispiele
Vier Fälle, wie sie tatsächlich vorkommen.
Der Maschinenbauer mit Copilot
Ein Sondermaschinenbauer mit 180 Beschäftigten nutzt Microsoft Copilot für Angebotstexte und Protokolle. Nichts wird verändert, nichts wird weitergegeben. Rolle: Betreiber. Da kein Hochrisiko-Anwendungsfall vorliegt, greift Art. 26 nicht. Bleiben Art. 4 (Maßnahmen zur Förderung der KI-Kompetenz) und die Prüfung, ob durch Veröffentlichung erzeugter Inhalte Art. 50 berührt wird.
Der Personaldienstleister mit Bewerber-Screening
Ein Personaldienstleister kauft ein Werkzeug ein, das Lebensläufe vorsortiert, und setzt es unverändert ein. Rolle: Betreiber - aber voraussichtlich Betreiber eines Hochrisiko-Systems, weil die Personalauswahl in Anhang III geführt wird. Damit greift ab dem 2. Dezember 2027 der volle Katalog des Art. 26. Die Vorbereitung beginnt nicht 2027, sondern mit der Einstufung heute.
Das Softwarehaus mit eigenem Produktnamen
Ein Softwarehaus bindet ein fremdes Sprachmodell per Schnittstelle ein und vertreibt das Ergebnis als eigenes Produkt unter eigener Marke. Fällt das Produkt in einen Hochrisiko-Anwendungsbereich, greift Art. 25 Abs. 1 Buchstabe a: Rolle: Anbieter. Damit gilt der Pflichtenkatalog des Art. 16 - inklusive technischer Dokumentation und Konformitätsbewertung.
Das Beratungshaus mit umgewidmetem System
Ein Beratungsunternehmen nutzt ein allgemeines Analysewerkzeug und richtet es so ein, dass damit die Kreditwürdigkeit von Kunden bewertet wird. Die Zweckbestimmung ändert sich, und die Bonitätsbewertung natürlicher Personen steht in Anhang III. Damit greift Art. 25 Abs. 1 Buchstabe c: Rolle: Anbieter - obwohl das Unternehmen keine Zeile Code geschrieben hat.
Die häufigste Fehleinschätzung
"Wir entwickeln keine KI, also betrifft uns das nicht." Das ist der Satz, der in der Praxis am meisten Zeit kostet. Die Betreiberrolle setzt keine Entwicklung voraus, und Art. 25 macht aus einem Einkauf schneller ein Angebot, als den Beteiligten bewusst ist.
Pflichten
Was Betreiber eines Hochrisiko-Systems tun müssen.
Art. 26 richtet sich ausdrücklich an Betreiber von Hochrisiko-KI-Systemen. Wer ausschließlich Systeme mit minimalem Risiko einsetzt, unterliegt diesem Katalog nicht. Das ist die Präzisierung, die in vielen Zusammenfassungen fehlt.
- Anweisungen einhalten (Abs. 1): Das System wird gemäß der beigefügten Betriebsanleitung eingesetzt, abgesichert durch geeignete technische und organisatorische Maßnahmen.
- Menschliche Aufsicht zuweisen (Abs. 2): Die Aufsicht übernehmen natürliche Personen mit der nötigen Kompetenz, Schulung, Befugnis und Unterstützung. Ein Name auf einer Liste genügt nicht.
- Eingabedaten prüfen (Abs. 4): Soweit der Betreiber die Kontrolle über die Eingabedaten hat, müssen diese der Zweckbestimmung entsprechend relevant und hinreichend repräsentativ sein.
- Betrieb überwachen und melden (Abs. 5): Bei Anhaltspunkten für ein Risiko oder bei einem schwerwiegenden Vorfall sind Anbieter und Marktüberwachungsbehörde zu informieren, gegebenenfalls ist die Nutzung auszusetzen.
- Protokolle aufbewahren (Abs. 6): Automatisch erzeugte Protokolle sind für mindestens sechs Monate aufzubewahren, soweit sie der Kontrolle des Betreibers unterliegen und keine längere Frist aus dem Datenschutzrecht folgt.
- Beschäftigte informieren (Abs. 7): Vor der Inbetriebnahme am Arbeitsplatz sind die betroffenen Beschäftigten und ihre Vertretungen zu informieren.
- Betroffene Personen informieren (Abs. 11): Personen, über die mithilfe des Systems Entscheidungen getroffen werden, sind über dessen Einsatz zu informieren.
- Zuarbeit zur Datenschutz-Folgenabschätzung (Abs. 9): Die vom Anbieter bereitgestellten Informationen sind für eine Datenschutz-Folgenabschätzung nach der DSGVO zu nutzen.
- Mit Behörden zusammenarbeiten (Abs. 12): Betreiber wirken bei Maßnahmen der zuständigen Behörden mit.
Hinzu kommt für bestimmte Betreiber die Grundrechte-Folgenabschätzung nach Art. 27. Was davon in ein vorzeigbares Dossier gehört, beschreibt der Beitrag Was ein prüffestes KI-Dossier enthalten muss. Welcher Sanktionsrahmen an diesen Pflichten hängt, steht im Beitrag Bußgelder nach Art. 99.
Einordnung
Die Rolle gilt je System, nicht je Unternehmen.
Ein häufiger Denkfehler ist die Suche nach der einen Rolle für das gesamte Unternehmen. Die Verordnung knüpft die Rolle an das einzelne KI-System. Dasselbe Haus kann für das Übersetzungswerkzeug Betreiber, für das selbst gebaute Kundenportal Anbieter und für ein aus den USA eingeführtes System Einführer nach Art. 23 sein.
Praktisch bedeutet das: Die Rollenbestimmung gehört ins Inventar, eine Zeile je System, mit Datum und Begründung. Genau so ist sie im Klassifizierungs-Wizard von CompliKI abgebildet - und genau so lässt sie sich später gegenüber einem Kunden oder einer Behörde belegen.
Grenzen dieses Beitrags
Keine Rechtsberatung. Dieser Beitrag erläutert die Rollenabgrenzung nach der Verordnung (EU) 2024/1689 allgemein und ersetzt keine individuelle juristische Würdigung des Einzelfalls. Ob im konkreten Fall eine "wesentliche Änderung" im Sinne des Art. 25 vorliegt, ist eine Bewertungsfrage, die von der Ausgestaltung des Systems und den vertraglichen Regelungen abhängt. Für verbindliche Aussagen sind die offiziellen Quellen und qualifizierte Beraterinnen oder Berater zuständig.
Quellen
Belege zu diesem Beitrag.
- Verordnung (EU) 2024/1689 im EUR-Lex (Art. 3, Art. 16, Art. 25, Art. 26)
- AI Act Service Desk der Europäischen Kommission
- Bundesnetzagentur - KI-Aufsicht und KI-Service-Desk
Weiterlesen.
Nächster Schritt
Ihre Rolle in fünf Fragen.
Der kostenlose Schnell-Check bestimmt Akteursrolle und Risikoniveau - ohne Login und ohne E-Mail-Adresse.