AI Act – Die EU-Verordnung über künstliche Intelligenz einfach erklärt

Mit dem AI Act hat die Europäische Union im Jahr 2024 einen Meilenstein gesetzt: Es handelt sich um das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Ziel ist es, Innovation zu ermöglichen und gleichzeitig Risiken für Grundrechte, Demokratie und Sicherheit zu minimieren. Doch was genau steht im AI Act? Welche Systeme sind betroffen? Und was bedeutet das für Unternehmen und Verbraucher?

Was ist der AI Act?

Der AI Act (Verordnung über künstliche Intelligenz) ist eine EU-weite Regelung, die den Einsatz von künstlicher Intelligenz nach einem risikobasierten Ansatz klassifiziert und reguliert. Er wurde am 21. Mai 2024 vom Europäischen Parlament beschlossen und wird ab 2025 schrittweise wirksam.

Ziele des AI Acts

  • Schutz der Grundrechte und Freiheiten
  • Förderung von Vertrauen und Sicherheit im Umgang mit KI
  • Transparenzpflichten für bestimmte KI-Systeme
  • Stärkung von Innovation und Wettbewerbsfähigkeit in Europa
  • Sicherstellung der menschlichen Kontrolle über KI-Anwendungen

Risikoklassen im AI Act

Ein zentrales Element des AI Acts ist die Einteilung von KI-Systemen in vier Risikoklassen:

1. Verbotene KI (Unvertretbares Risiko)

Diese KI-Anwendungen sind in der EU grundsätzlich verboten, z. B.:

  • Soziale Bewertung durch den Staat (Social Scoring)
  • Emotionserkennung am Arbeitsplatz oder in Schulen
  • Versteckte Manipulation oder Ausnutzung von Schwächen (z. B. Kinder, Behinderte)

2. Hochrisiko-KI

Zulässig, aber strikt reguliert – Beispiele:

  • KI in der medizinischen Diagnostik
  • Kreditwürdigkeitsprüfung
  • Bewerbungsscreenings
  • biometrische Identifizierung im öffentlichen Raum (mit Ausnahmen)

Pflichten für Anbieter:

Risikobewertung & Dokumentation

  • Transparenz & Nachvollziehbarkeit
  • menschliche Aufsicht
  • Datenqualität & -sicherheit

3. Begrenztes Risiko

Diese KI-Systeme müssen Transparenzanforderungen erfüllen. Nutzer müssen z. B. erkennen können, dass sie mit KI interagieren (z. B. Chatbots, Deepfakes).

4. Minimales Risiko

  • KI-Anwendungen wie Spamfilter oder Videospiel-KI gelten als risikoarm und bleiben weitgehend unreguliert.

Wer ist vom AI Act betroffen?

Der AI Act gilt für:

  • Anbieter von KI-Systemen innerhalb der EU
  • Unternehmen außerhalb der EU, deren Systeme in der EU verwendet werden
  • Nutzer von Hochrisiko-KI-Systemen (z. B. Behörden)

Auch Open-Source-Modelle und Forschungsprojekte können je nach Anwendung unter die Regeln fallen.

Was bedeutet der AI Act für Verbraucher?

Für Verbraucher bedeutet der AI Act:

  • mehr Sicherheit und Transparenz im Umgang mit KI
  • Rechte auf Auskunft, wenn KI-basierte Entscheidungen getroffen werden
  • Schutz vor Manipulation, Diskriminierung oder Überwachung
  • Kennzeichnungspflichten für KI-generierte Inhalte (z. B. Deepfakes)

Umsetzung und Zeitplan

  • 1. August 2024: Der AI Act tritt offiziell in Kraft. Zu diesem Zeitpunkt gelten jedoch noch keine spezifischen Verpflichtungen für Unternehmen oder Behörden.

2. Februar 2025: Bestimmte KI-Systeme mit "unvertretbarem Risiko" werden verboten. Dazu zählen unter anderem:

  • Einsatz von subliminalen Techniken
  • Systeme, die gezielt Schwächen vulnerabler Gruppen ausnutzen
  • Biometrische Kategorisierung
  • Soziales Scoring
  • Individuelle vorausschauende Polizeiarbeit
  • Gesichtserkennungssysteme, die auf ungezieltem Daten-Scraping basieren
  • Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen
  • Echtzeit-Überwachung durch biometrische Identifikation im öffentlichen Raum (mit bestimmten Ausnahmen)
  • 2. August 2026: Die meisten weiteren Verpflichtungen des AI Acts treten in Kraft. Dazu gehören Anforderungen an Hochrisiko-KI-Systeme, wie z. B. Risikobewertungen, Transparenzpflichten und menschliche Aufsicht.
  • 2. August 2027: Spezifische Vorschriften für Hochrisiko-KI-Systeme, die unter das Produktsicherheitsregime fallen, werden wirksam. Dies betrifft beispielsweise KI-Komponenten in sicherheitskritischen Produkten.

Bedeutung für Europa und darüber hinaus

Mit dem AI Act nimmt die EU weltweit eine Vorreiterrolle ein. Während andere Länder wie die USA oder China eher auf Marktmechanismen oder sektorale Regeln setzen, schafft die EU einheitliche und verbindliche Standards für einen verantwortungsvollen Umgang mit KI.

Fazit

Der AI Act ist ein bedeutender Schritt in Richtung vertrauenswürdiger KI in Europa. Er setzt klare Leitplanken, ohne Innovation abzuwürgen – zumindest ist das der Anspruch. Wie gut das in der Praxis funktioniert, wird sich in den nächsten Jahren zeigen. Für Bürgerinnen und Bürger bedeutet der AI Act in erster Linie: mehr Schutz, mehr Transparenz und ein klarer Rahmen für KI in ihrem Alltag.