Der EU AI Act ist das erste umfassende KI-Gesetz weltweit. Es regelt die Entwicklung, Nutzung und Vermarktung von Künstlicher Intelligenz (KI) in der EU und teilt KI-Systeme in Risikoklassen ein. Der AI Act soll Innovationen ermöglichen, indem er klare Regeln setzt, ohne technologische Fortschritte zu behindern

Der EU AI Act teilt KI-Systeme in vier Risikoklassen ein:

1. Unannehmbares Risiko: Diese KI-Anwendungen sind vollständig verboten - Beispiel: KI-Systeme zur sozialen Bewertung durch Behörden
2. Hohes Risiko: Diese KI-Systeme unterliegen strengen Anforderungen und Kontrollen - Beispiel: KI als Sicherheitskomponenten in kritischen Infrastrukturen
3. Begrenztes Risiko: Diese KI-Systeme müssen bestimmte Transparenzpflichten erfüllen - Beispiele: Chatbots, Deepfakes 
4. Minimales oder kein Risiko: Für diese KI-Systeme gelten keine besonderen Auflagen - Beispiele: KI-basierte Videospiele, Spamfilter

Zusätzlich gibt es spezifische Regelungen für KI-Modelle mit allgemeinem Verwendungszweck.

Der risikobasierte Ansatz soll sicherstellen, dass KI-Systeme entsprechend ihres Gefährdungspotenzials reguliert werden. Hochrisiko-KI-Systeme unterliegen den strengsten Anforderungen, während KI mit minimalem Risiko kaum reguliert wird. Dies soll Innovation ermöglichen und gleichzeitig den Schutz von Grundrechten und Sicherheit gewährleisten.

Jedes Unternehmen, das mit KI arbeitet, ist vom EU AI Act betroffen. Anbieter und Produkthersteller haben die weitreichendsten Verpflichtungen, während Betreibende und Nutzende sicherstellen müssen, dass die KI verantwortungsvoll eingesetzt wird. Unternehmen, die Hochrisiko-KI nutzen, unterliegen strengeren Anforderungen und müssen besondere Vorkehrungen treffen.

Anbieter:innen

Unternehmen, die eigenständige KI-Systeme entwickeln und in den Markt bringen, sei es als Software oder als integrierte KI-Lösung in anderen Produkten.

Wichtigste Pflichten:

• Sicherstellen, dass das KI-System den gesetzlichen Anforderungen entspricht
• Durchführung einer Konformitätsbewertung und Erstellung technischer Dokumentation
• Einrichtung eines Risikomanagementsystems
• Transparenz und Erklärbarkeit der KI gewährleisten
• Überwachung nach Inverkehrbringen und Meldung von Vorfällen

Produkthersteller:innen

Unternehmen, die physische oder digitale Produkte herstellen und diese mit KI-Funktionen ausstatten.

Wichtigste Pflichten:

• Nachweis der Sicherheit und Regelkonformität der KI im Produkt
• Durchführung von Konformitätsbewertungen und Dokumentation der KI-Funktionen
• Transparenzpflichten für Nutzer hinsichtlich Funktionsweise und Grenzen der KI
• Überwachung nach Markteinführung und Meldung von Sicherheitsrisiken

Falls das Produkt eine Hochrisiko-KI enthält, gelten noch strengere Anforderungen, insbesondere regelmäßige Tests und Audits.

Importeur:innen & Händler:innen

Unternehmen, die KI-Systeme aus Drittländern in den EU-Markt bringen oder weiterverkaufen.

Wichtigste Pflichten:

• Sicherstellen, dass die KI-Systeme den Anforderungen des AI Acts entsprechen
• Überprüfung der technischen Dokumentation und Konformitätszertifikate
• Meldung von Nichtkonformitäten an Behörden
• Keine Veränderungen an KI-Systemen, die die Compliance beeinträchtigen könnten

Nutzer:innen

Unternehmen, die KI verwenden, ohne sie selbst zu entwickeln oder weiterzuverkaufen.

Wichtigste Pflichten:

• Nutzung der KI gemäß den Anweisungen der Anbietenden
• Transparenzanforderungen beachten, insbesondere bei Interaktion mit Kund:innen
• Sensibilisierung und Schulung von Mitarbeitenden für den sicheren Einsatz
• Kritische Überprüfung der KI-Ergebnisse

Grundsätzlich betrifft der Act alle Unternehmen, die mit KI arbeiten – unabhängig davon, ob sie KI entwickeln, verkaufen oder nutzen. Betroffen sind aber insbesondere:

• Softwareentwickler & Tech-Unternehmen, die KI-Lösungen entwickeln oder vertreiben
• Industrieunternehmen, die KI in der Fertigung oder Automatisierung nutzen
• Banken & Versicherungen, wenn KI Kreditwürdigkeit bewertet oder Kundenanalysen erstellt
• Gesundheitswesen & Medizintechnik, wenn KI für Diagnosen oder Behandlungsentscheidungen eingesetzt wird
• HR & Personalwesen, wenn KI für Bewerber-Screening oder automatisierte Entscheidungen genutzt wird
• Öffentliche Einrichtungen, wenn sie KI für Identitätsprüfung oder andere Verwaltungsaufgaben nutzen

Besonders strenge Anforderungen gelten dabei für Unternehmen, die hochrisikoreiche KI einsetzen, z. B. in der Personalrekrutierung, Justiz, Verkehr oder im Gesundheitssektor.

Der AI Act wird schrittweise eingeführt:

• Frühjahr 2024: Finale Verabschiedung des EU AI Acts verabschiedet.
• Ende 2024: Verbot bestimmter KI-Systeme (z. B. Social Scoring)
• Februar 2025:
  

  Pflicht für Unternehmen, Mitarbeitende in KI-Themen zu schulen

• 2025/2026:  Hochrisiko-KI-Systeme müssen registriert und geprüft werden
• 2026/2027:
  

  Vollständige Umsetzung aller Regelungen

Unternehmen sollten jetzt handeln, um sich auf die neuen Anforderungen vorzubereiten.

Die konkreten Pflichten hängen davon ab, wie Euer Unternehmen KI nutzt.

Aber generell gilt:

• Mitarbeiterschulungen sind Pflicht - Wer KI nutzt, muss verstehen, wie sie funktioniert und welche Risiken sie birgt.
• Dokumentationspflichten - Unternehmen müssen nachweisen, dass ihre KI-Systeme den gesetzlichen Anforderungen entsprechen.
• Transparenz- & Erklärbarkeitsanforderungen -  Kund:innen oder Nutzende müssen verstehen können, wie und warum eine KI Entscheidungen trifft.
• Risikomanagement & Qualitätskontrolle - Hochrisiko-KI muss geprüft, bewertet und registriert werden.
• Meldung von Zwischenfällen  - Unternehmen müssen schwerwiegende Probleme mit KI-Systemen an die Behörden melden.

Falls Ihr KI bereits nutzt oder plant, sie einzusetzen, solltet Ihr jetzt Maßnahmen zur Compliance ergreifen

Ja, das ist Pflicht! Der AI Act schreibt vor, dass Unternehmen sicherstellen müssen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenz verfügen – insbesondere, wenn sie mit hochrisikoreichen Systemen arbeiten.

Das bedeutet konkret:

• Technisches Verständnis: Mitarbeitende müssen verstehen, wie KI-Modelle funktionieren.
• Ethik & Bias-Erkennung: Sie müssen erkennen können, wann und wie eine KI fehlerhaft oder unfair sein könnte.
• Rechtliche Grundlagen: Sie müssen wissen, welche rechtlichen Rahmenbedingungen gelten (z. B. Datenschutz, Transparenzpflichten).
• Aktualisierung der Informationen: Regelmäßige Schulungen sind erforderlich, um auf dem neuesten Stand zu bleiben.

Wir helfen Euch diese Anforderungen zu erfüllen!

Derzeit gibt es keine offizielle Zertifizierungspflicht für Schulungsanbieter. Unternehmen haben also die Wahl:

• Interne Schulungen – Falls Ihr ein eigenes KI-Expertenteam habt, kann es sinnvoll sein, interne Weiterbildungen anzubieten.
• Externe Schulungsanbieter:innen – Praxisnahe, an den AI Act angepasste Schulungen helfen, die gesetzlichen Anforderungen effizient umzusetzen.

Wir bieten strukturierte KI-Schulungsprogramme, unsere AI Readiness Programme, die rechtssicher, praxisnah und individuell anpassbar sind – inklusive Zertifikat für Teilnehmende!

Der AI Act kommt – du hast zwei Möglichkeiten:

1. Abwarten und riskieren, dass dein Unternehmen nicht compliant ist und Strafen drohen.
2. Jetzt handeln und sicherstellen, dass dein Unternehmen alle Anforderungen erfüllt.

Unsere Lösung für Euch:

• Mitarbeiterschulungen, damit Euer Team KI sicher und rechtskonform einsetzen kann
• Beratung, um Compliance sicherzustellen und Risiken zu vermeiden
• Prüfung bestehender KI-Systeme, um mögliche Fallstricke frühzeitig zu erkennen
• Checklisten & Dokumentationshilfen, damit Ihr alle Nachweise habt

Ab Februar 2025 sind Schulungen Pflicht – seid vorbereitet!

1. Auf Website der EU-Kommission zum AI Act: The AI Act Explorer | EU Artificial Intelligence Act
2. Oder direkt zum EU AI Act Compliance Checker: EU AI Act Compliance Checker | EU Artificial Intelligence Act