Das Europäische Parlament hat ein deutliches Zeichen für den Schutz der Privatsphäre und der Menschenwürde gesetzt. Künftig sollen KI-Anwendungen verboten werden, mit denen ohne Zustimmung der Betroffenen sexualisierte Bilder oder Darstellungen von Personen erstellt werden können.

Die Abgeordneten stimmten in Straßburg einer entsprechenden Gesetzesänderung zu. Die neuen Regelungen sollen ab dem 2. Dezember 2026 gelten und sind Teil einer umfassenden Reform der europäischen KI-Gesetzgebung.

Schutz vor digitalem Missbrauch

Mit dem Verbot reagiert die Europäische Union auf eine Entwicklung, die in den vergangenen Jahren zunehmend Besorgnis ausgelöst hat. Moderne KI-Systeme ermöglichen es inzwischen, täuschend echte Bilder und Videos zu erzeugen, in denen Menschen in sexuelle oder kompromittierende Situationen versetzt werden – häufig ohne ihr Wissen und ohne ihre Zustimmung.

Besonders betroffen sind dabei Frauen, Jugendliche und öffentliche Personen, deren Bilder im Internet verfügbar sind. Die Folgen reichen von Rufschädigung und Mobbing bis hin zu erheblichen psychischen Belastungen für die Betroffenen.

Reaktion auf internationale Vorfälle

Auslöser für die verschärften Regelungen waren unter anderem Vorfälle zu Beginn des Jahres. Damals wurden mit Hilfe des KI-Chatbots Grok massenhaft sexualisierte KI-Bilder von Frauen und Kindern erstellt und online verbreitet.

Die Vorgänge lösten europaweit Empörung aus. Mehrere Staaten sowie die EU-Kommission leiteten Untersuchungen ein, einzelne Länder schränkten die Nutzung des Systems vorübergehend ein.

KI-Regeln sollen zugleich praxistauglicher werden

Das Verbot ist Teil des sogenannten KI-Omnibus-Pakets, mit dem die Europäische Union die Umsetzung der bestehenden KI-Verordnung vereinfachen möchte.

Neben dem verbesserten Schutz vor Missbrauch wurden auch Anpassungen für Unternehmen beschlossen. So werden bestimmte Regelungen für sogenannte Hochrisiko-Anwendungen – etwa im Gesundheitswesen oder bei Sicherheitsbehörden – zeitlich gestreckt. Auch für den Maschinenbau sind teilweise Ausnahmen vorgesehen.

Signal für verantwortungsvolle KI-Nutzung

Mit der Entscheidung macht die Europäische Union deutlich, dass technischer Fortschritt nicht auf Kosten der Persönlichkeitsrechte erfolgen darf.

Künstliche Intelligenz bietet enorme Chancen für Wirtschaft, Wissenschaft und Gesellschaft. Gleichzeitig soll jedoch sichergestellt werden, dass Menschen wirksam vor Missbrauch, Manipulation und digitaler Ausbeutung geschützt werden.

Die endgültige Zustimmung der EU-Mitgliedstaaten gilt als wahrscheinlich und wird derzeit als reine Formsache angesehen. Damit dürfte das Verbot sexualisierter KI-Deepfakes in Europa schon bald Realität werden.