Der EU AI Act ist offiziell verabschiedet – Was bedeutet das?

Künstliche Intelligenz ist heutzutage überall und kann von jedem, egal ob privat oder beruflich, ohne große Hürden genutzt werden. Von generierten Texten via ChatGPT und Co. oder der präzisen Bilderstellung mithilfe von Tools wie Nano Banana. Doch die KI-generierten Inhalte werden immer schwerer von der Realität zu unterscheiden und unterstützen in manchen Fällen aktiv die Verbreitung von Hass, Fake-News oder anderen Risiken. Um einheitliche Regeln für die Regulierung von KI aufzustellen wurde im Mai 2024 der AI Act in der EU verabschiedet. Einige Punkte davon sind bereits seit diesem Jahr verbindlich einzuhalten.

Doch was genau ist der EU AI Act und welche Konsequenzen folgen daraus? Das erklären wir in diesem Blogpost mit einer übersichtlichen Zusammenfassung der wichtigsten Punkte.

Was genau ist der EU AI Act?

Der European AI Act (auch: AI Act oder EU AI Act) ist das aller erste Regelwerk, welches Vorgaben für den Einsatz von KI in der EU festhält. Dabei schreibt er z. B. vor, dass es keinen Missbrauch von KI-Tools oder -Inhalten geben darf. Zudem wird die Transparenzpflicht von KI-Inhalten vorgeschrieben – bedeutet, mit KI bearbeitete Inhalte wie Bilder oder Videos müssen klar als solche gekennzeichnet werden. Auf der anderen Seite kann KI als Innovation angesehen werden, welche Chancen birgt. Daher gilt ein sogenannter „risikobasierten Ansatz“, welcher die Strenge der rechtlichen Vorgaben gegen das Risiko der KI-Anwendung abwiegt.

Es wird in vier Stufen unterschieden:

1. Minimales Risiko (z. B. KI-gestützte Videospiele): Erlaubt

2. Begrenztes bzw. geringes Risiko (z. B. Chatbots): Erlaubt (aber Transparenzpflicht beachten!)

3. Hohes Risiko (z. B. Hochrisiko KI-Systeme): Erlaubt unter der Einhaltung der Vorgaben des AI Acts

4. Unannehmbares Risiko (z. B. Social Scoring): Verboten

Für wen gilt der AI Act?

Für wen genau der AI Act gilt ist bisher noch sehr breit aufgestellt und betrifft praktisch alle, die KI in der EU entwickeln, bereitstellen oder selbst einsetzen.

Dazu zählen:

• Hersteller von KI-Systemen

• Anbieter (z. B. Firmen, die KI-Software auf den Markt bringen oder bereitstellen)

• Nutzer/ Anwender (wie Unternehmen und öffentliche Stellen, die KI einsetzen)

• Importeure und Händler von KI-Systemen

• Nicht-EU-Unternehmen, wenn sie KI in der EU anbieten oder einsetzen

Entscheidend ist dabei nicht, wo das Unternehmen sitzt, sondern ob das KI-System in der EU genutzt wird. Der AI Act gilt jedoch nicht für private und persönliche Nutzung von KI (z. B. privat ChatGPT verwenden). Ebenfalls gilt er nicht für Systeme für militärische Zwecke oder reine Open-Source-Modelle ohne kommerziellen Zweck, solange sie keine verbotenen Anwendungen ermöglichen.

Was sind die Konsequenzen bei Regelbrüchen?

Bußgelder:

• Bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (abhängig davon, welcher Wert höher ist)
  Bei verbotenen KI-Praktiken (z. B. Social Scoring, manipulative KI)

• Bis zu 15 Mio. € oder 3 % des Umsatzes
  Bei Verstößen gegen Pflichten für Hochrisiko-KI

• Bis zu 7,5 Mio. € oder 1 % des Umsatzes
  Bei fehlerhaften oder irreführenden Angaben an Behörden

Weitere mögliche Konsequenzen:

• Das KI-System kann in der EU verboten werden

• Bereits bereitgestellte KI-Systeme können zurückgerufen werden

• Verpflichtende technische Nachbesserungen

• Haftungsfolgen nach anderen EU-Gesetzen (z. B. Produkthaftungsrecht)

Die Strafen sind bewusst sehr hoch angesetzt, damit Unternehmen die Regeln des AI Acts ernst nehmen.

Was zählt unter Social Scoring und manipulativer KI?

„Social Scoring“ Definition im AI Act:
Der Begriff Social Scoring beschreibt KI-Systeme, welche Menschen aktiv bewerten oder einstufen, basierend auf ihrem Verhalten oder persönlichen Merkmalen. Folge davon ist, dass die Bewertung negative Konsequenzen für die Personen hat.

Typische Merkmale:

• Sammlung von persönlichen Daten, wie Verhalten, Vorlieben oder soziale Interaktionen, welche von der KI gesammelt werden.

• Es wird basierend darauf ein „Score“ berechnet. Damit findet eine Bewertung der Person statt.

• Der Score beeinflusst, wie die Person behandelt wird: Zugang zu Dienstleistungen, Kreditwürdigkeit, Jobchancen, Sozialleistungen usw.

Warum verboten?
Social Scoring kann zu Diskriminierung, Machtmissbrauch und unverhältnismäßiger Überwachung führen oder diese bestärken.

„Manipulative KI“ Definition im AI Act:

Unter manipulativer KI versteht man bestimmte Formen der KI, die Menschen absichtlich beeinflussen, sodass diese Entscheidungen treffen, die sie sonst nicht getroffen hätten oder die ihnen schaden können.

Dabei zählen drei zentrale Aspekte:

1. Die klare, absichtliche Beeinflussung
   Die KI ist darauf ausgelegt, Verhalten gezielt zu manipulieren.

2. Die Ausnutzung von eindeutigen Schwächen
   z. B. von Kindern, älteren Menschen oder psychisch beeinträchtigten Personen.

3. Die Förderung von schädlichen Folgen
   Die manipulierte Entscheidung wirkt sich bedeutend nachteilig auf die Person aus.

Ein Beispiel für verbotene manipulative KI wäre eine Kinder-App, die über emotionale „KI-Kinder“ zu In-App-Käufen drängt.

Fazit

Der EU AI Act wird in der Zukunft vollständig implementiert werden und eine große Rolle für den Umgang mit KI in der EU aber auch global spielen. Bis dahin sollten besonders Unternehmen bereits auf einen bewusst transparenten Umgang mit KI-Tools und der Verbreitung von KI-Inhalten achten. Die aktuell bestehenden Regeln können bereits schwere Konsequenzen mit sich ziehen, sollten Verstöße fahrlässig getätigt werden.