Jedes Unternehmen, das mit KI arbeitet, ist vom EU AI Act betroffen. Anbieter und Produkthersteller haben die weitreichendsten Verpflichtungen, während Betreibende und Nutzende sicherstellen müssen, dass die KI verantwortungsvoll eingesetzt wird. Unternehmen, die Hochrisiko-KI nutzen, unterliegen strengeren Anforderungen und müssen besondere Vorkehrungen treffen.
Anbieter:innen
Unternehmen, die eigenständige KI-Systeme entwickeln und in den Markt bringen, sei es als Software oder als integrierte KI-Lösung in anderen Produkten.
Wichtigste Pflichten:
- Sicherstellen, dass das KI-System den gesetzlichen Anforderungen entspricht
- Durchführung einer Konformitätsbewertung und Erstellung technischer Dokumentation
- Einrichtung eines Risikomanagementsystems
- Transparenz und Erklärbarkeit der KI gewährleisten
- Überwachung nach Inverkehrbringen und Meldung von Vorfällen
Produkthersteller:innen
Unternehmen, die physische oder digitale Produkte herstellen und diese mit KI-Funktionen ausstatten.
Wichtigste Pflichten:
- Nachweis der Sicherheit und Regelkonformität der KI im Produkt
- Durchführung von Konformitätsbewertungen und Dokumentation der KI-Funktionen
- Transparenzpflichten für Nutzer hinsichtlich Funktionsweise und Grenzen der KI
- Überwachung nach Markteinführung und Meldung von Sicherheitsrisiken
Falls das Produkt eine Hochrisiko-KI enthält, gelten noch strengere Anforderungen, insbesondere regelmäßige Tests und Audits.
Importeur:innen & Händler:innen
Unternehmen, die KI-Systeme aus Drittländern in den EU-Markt bringen oder weiterverkaufen.
Wichtigste Pflichten:
- Sicherstellen, dass die KI-Systeme den Anforderungen des AI Acts entsprechen
- Überprüfung der technischen Dokumentation und Konformitätszertifikate
- Meldung von Nichtkonformitäten an Behörden
- Keine Veränderungen an KI-Systemen, die die Compliance beeinträchtigen könnten
Nutzer:innen
Unternehmen, die KI verwenden, ohne sie selbst zu entwickeln oder weiterzuverkaufen.
Wichtigste Pflichten:
- Nutzung der KI gemäß den Anweisungen der Anbietenden
- Transparenzanforderungen beachten, insbesondere bei Interaktion mit Kund:innen
- Sensibilisierung und Schulung von Mitarbeitenden für den sicheren Einsatz
- Kritische Überprüfung der KI-Ergebnisse

Unternehmen, die ChatGPT oder ähnliche KI-Tools einsetzen, gelten als Betreiber. Ihre Pflichten sind weniger umfangreich als die von Entwicklern, aber sie müssen Transparenz- und Sicherheitsvorgaben beachten.