KI mit Sicherheitsgurt: Was der EU AI Act kann und was noch fehlt

Künstliche Intelligenz ist überall in unserem Leben, unsichtbar oder auch klar zu erkennen: Sie filtert Mails, schlägt uns Nachrichten vor, scannt Bewerbungen, steuert Infrastruktur, bewertet Risiken und sortiert Datenberge, die kein Mensch mehr überblickt. Wenn KI beispielsweise Fehler macht oder Menschen manipuliert, kann das schnell gefährlich werden, für Demokratie, Grundrechte und auch für unsere psychische Gesundheit. Genau hier setzt der EU AI Act an, die KI-Verordnung der EU.

Der AI Act – offiziell Verordnung (EU) 2024/1689 – ist das weltweit erste umfassende KI-Gesetz. Er ist 2021 von der EU-Kommission vorgeschlagen worden, Ende 2023 von Parlament und Rat politisch beschlossen und am 1. August 2024 in Kraft getreten. Sein Ziel ist Risiken für Gesundheit, Sicherheit und Grundrechte zu begrenzen, aber gleichzeitig Innovation in Europa zu ermöglichen – mit einheitlichen Regeln für alle 27 Mitgliedstaaten:

• Minimales Risiko – der Großteil der Systeme (etwa Spamfilter oder KI in Videospielen) hat keine besonderen Pflichten.
• Begrenztes Risiko – hier geht es vor allem um Transparenz, z. B. die Kennzeichnung, wenn man mit einem Chatbot statt mit einem Menschen spricht.
• Hohes Risiko – etwa KI in Gesundheitsanwendungen, kritischer Infrastruktur, Verwaltung oder biometrischer Identifikation. Diese Systeme müssen strenge Vorgaben erfüllen: hochwertige, möglichst nicht diskriminierende Daten, Risikomanagement, klare Dokumentation, Nutzerinformation, menschliche Aufsicht und Konformitätsbewertung vor Markteintritt.
• Inakzeptables Risiko – hier zieht der Gesetzgeber die Notbremse. Verboten werden u. a. Social-Scoring-Systeme, die Menschen nach Verhalten „benoten“, biometrische Kategorisierung nach sensiblen Merkmalen wie politischer Meinung oder sexueller Orientierung, das massenhafte Durchsuchen des Internets zur Erstellung von Gesichtsdatenbanken, Emotionserkennung am Arbeitsplatz oder in der Schule sowie KI, die gezielt Schwächen bestimmter Gruppen ausnutzt.

Mental Health mitdenken

Das Gesetz denkt Risiken ausdrücklich breiter als nur technisch: Es ist schon in den Erwägungsgründen festgehalten, dass KI nicht nur körperliche oder wirtschaftliche Schäden anrichten kann, sondern auch psychologische und gesellschaftliche. Besonders heikel sind manipulative Systeme, die Menschen in Entscheidungen hineinstoßen, die sie so eigentlich nicht treffen würden, gerade wenn dadurch die körperliche oder psychische Gesundheit oder finanzielle Interessen ernsthaft gefährdet werden. Das ist zum Beispiel Emotionstracking von Beschäftigten über Webcam oder Stimme, aber auch manipulative „Dark Patterns“, die dich mit psychologischen Tricks zu Käufen oder Entscheidungen drängen sollen (z.B. „alle Cookies akzeptieren“ sehr groß dargestellt, Alternativen nur klein, oder künstliche Verknappung von Produkten wie „Nur noch wenige Stück verfügbar“, damit ein Kaufanreiz geschaffen wird). Das heißt: Bestimmte Formen von KI, die uns permanent durchleuchten oder austricksen könnten, sind in Europa jetzt klar ausgebremst.

Wo der Stress bleibt – und was noch nötig ist

Der AI Act macht unseren Alltag leider nicht automatisch entspannter. Hochrisiko-KI bleibt und Algorithmen entscheiden mit über Jobs oder Kredite, die wir erhalten oder eben nicht erhalten. Dazu kommt, dass Gesetze langsam sind, während sich KI rasend schnell weiterentwickelt. Neue, subtilere Formen von Manipulation können entstehen, obwohl formal alles „im Rahmen“ ist. Damit der AI Act wirklich gut für uns ist, braucht es deshalb mehr als schöne Paragrafen:

• Aufsichtsbehörden, die verbotene Praktiken auch wirklich stoppen
• verständliche Transparenz darüber, wann und wie KI über uns urteilt
• regelmäßige Updates des Gesetzes, die neue Risiken mitdenken
• Bildung, die uns fit macht im Umgang mit KI

Wenn diese Faktoren gegeben sind, dann ist der AI Act etwas worauf wir uns verlassen können.