AI Act – Die EU-Verordnung über künstliche Intelligenz

Mit dem AI Act hat die Europäische Union im Jahr 2024 einen Meilenstein gesetzt: Es handelt sich um das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Ziel ist es, Innovation zu ermöglichen und gleichzeitig Risiken für Grundrechte, Demokratie und Sicherheit zu minimieren. Doch was genau steht im AI Act? Welche Systeme sind betroffen? Und was bedeutet das für Unternehmen und Verbraucher?

Was ist der AI Act?

Der AI Act (Verordnung über künstliche Intelligenz) ist eine EU-weite Regelung, die den Einsatz von künstlicher Intelligenz nach einem risikobasierten Ansatz klassifiziert und reguliert. Er wurde am 21. Mai 2024 vom Europäischen Parlament beschlossen und wird ab 2025 schrittweise wirksam.

Ziele des AI Acts

  • Schutz der Grundrechte und Freiheiten
  • Förderung von Vertrauen und Sicherheit im Umgang mit KI
  • Transparenzpflichten für bestimmte KI-Systeme
  • Stärkung von Innovation und Wettbewerbsfähigkeit in Europa
  • Sicherstellung der menschlichen Kontrolle über KI-Anwendungen

Risikoklassen im AI Act

Ein zentrales Element des AI Acts ist die Einteilung von KI-Systemen in vier Risikoklassen:

1. Verbotene KI (Unvertretbares Risiko)

Diese KI-Anwendungen sind in der EU grundsätzlich verboten, z. B.:

  • Soziale Bewertung durch den Staat (Social Scoring)
  • Emotionserkennung am Arbeitsplatz oder in Schulen
  • Versteckte Manipulation oder Ausnutzung von Schwächen (z. B. Kinder, Behinderte)

2. Hochrisiko-KI

Zulässig, aber strikt reguliert – Beispiele:

  • KI in der medizinischen Diagnostik
  • Kreditwürdigkeitsprüfung
  • Bewerbungsscreenings
  • biometrische Identifizierung im öffentlichen Raum (mit Ausnahmen)

Pflichten für Anbieter:

  • Risikobewertung & Dokumentation
  • Transparenz & Nachvollziehbarkeit
  • menschliche Aufsicht
  • Datenqualität & -sicherheit

3. Begrenztes Risiko

Diese KI-Systeme müssen Transparenzanforderungen erfüllen. Nutzer müssen z. B. erkennen können, dass sie mit KI interagieren (z. B. Chatbots, Deepfakes).

4. Minimales Risiko

KI-Anwendungen wie Spamfilter oder Videospiel-KI gelten als risikoarm und bleiben weitgehend unreguliert.

Wer ist vom AI Act betroffen?

Der AI Act gilt für:

  • Anbieter von KI-Systemen innerhalb der EU
  • Unternehmen außerhalb der EU, deren Systeme in der EU verwendet werden
  • Nutzer von Hochrisiko-KI-Systemen (z. B. Behörden)

Auch Open-Source-Modelle und Forschungsprojekte können je nach Anwendung unter die Regeln fallen.

Was bedeutet der AI Act für Verbraucher?

Für Verbraucher bedeutet der AI Act:

  • mehr Sicherheit und Transparenz im Umgang mit KI
  • Rechte auf Auskunft, wenn KI-basierte Entscheidungen getroffen werden
  • Schutz vor Manipulation, Diskriminierung oder Überwachung
  • Kennzeichnungspflichten für KI-generierte Inhalte (z. B. Deepfakes)

Umsetzung und Zeitplan

Die Verordnung tritt 2025 in Kraft, mit gestaffelten Übergangsfristen:

  • Verbotene KI: 6 Monate nach Inkrafttreten
  • Hochrisiko-KI: 24 Monate
  • Transparenzpflichten: 12 Monate
  • Einrichtung nationaler Aufsichtsbehörden: ab 2025

Bedeutung für Europa und darüber hinaus

Mit dem AI Act nimmt die EU weltweit eine Vorreiterrolle ein. Während andere Länder wie die USA oder China eher auf Marktmechanismen oder sektorale Regeln setzen, schafft die EU einheitliche und verbindliche Standards für einen verantwortungsvollen Umgang mit KI.