KommAustria ruft Opfer von KI-Deepfakes zu Meldung auf

veröffentlicht am 09.02.2026

Unterstützung des EU-Verfahrens gegen X wegen sexualisierter, KI-generierter Inhalte

Die Medienbehörde KommAustria sammelt Beschwerden zu sexualisierten Deepfakes auf X, um das EU-Verfahren gegen die KI-Anwendung Grok zu unterstützen. Betroffene sollen Fälle aktiv melden.

EU-Verfahren gegen X wegen KI-Anwendung Grok

Die Europäische Kommission hat ein förmliches Verfahren gegen die Plattform X eröffnet, das sich auf die KI-Anwendung Grok und deren Rolle bei der Erstellung und Verbreitung sexualisierter Deepfakes konzentriert. Ein „Deepfake“ ist ein unter Verwendung von künstlicher Intelligenz (KI) erstelltes Bild oder Video, das authentisch bzw. echt wirkt, es aber nicht ist. Im Zentrum steht der Verdacht, dass X seine Sorgfaltspflichten nach dem Digital Services Act (DSA) verletzt hat, indem rechtswidrig generierte KI-Inhalte nicht ausreichend verhindert oder entfernt wurden. Die unabhängige Kommunikationsbehörde Austria (KommAustria) unterstützt dieses Verfahren als österreichische Koordinatorin für digitale Dienste und legt den Fokus auf den Schutz der Betroffenen. Ziel ist es, systematisch zu dokumentieren, wo Plattformmechanismen versagen und KI-Tools missbraucht werden, um Menschen ohne deren Zustimmung zu sexualisieren. Damit soll auch ein Signal gesetzt werden, dass der Einsatz unkontrollierter KI-Anwendungen klare rechtliche Grenzen hat.

Hintergrund: Sexualisierte Deepfakes als wachsendes Problem

In den vergangenen Wochen haben sich die Meldungen über sexualisierte Deepfakes deutlich gehäuft, die mithilfe des Chatbots und der App Grok erstellt und über X verbreitet wurden. Besonders problematisch ist, dass diese Bilder und Videos ohne Zustimmung der abgebildeten Personen entstehen und damit tief in deren Intimsphäre eingreifen. Studien wie jene der Organisation „AI Forensics“ zeigen, dass rund 80 Prozent der Betroffenen solcher Deepfakes Frauen sind, was die geschlechtsspezifische Dimension dieser Form digitaler Gewalt unterstreicht. Die generierten Inhalte können gegen mehrere Bestimmungen des österreichischen Rechts verstoßen, wie beispielweise Persönlichkeits- oder auch Datenschutzrechte.

So sollen Betroffene vorgehen – Meldung direkt bei X

KommAustria empfiehlt betroffenen Verbraucher:innen, im ersten Schritt die Plattform selbst in die Pflicht zu nehmen und Fälle unmittelbar bei X zu melden. Dafür steht auf der Plattform die Option „illegale Inhalte“ zur Verfügung, über die Nutzer:innen rechtswidrige Postings, Bilder oder Videos anzeigen können. Wichtig ist, Beweise wie Screenshots, Links oder Zeitpunkte zu sichern, bevor Inhalte gelöscht oder verändert werden. Begleitende Informationen, wie man rechtswidrige Inhalte generell auf Online-Plattformen meldet, stellen die zuständigen Stellen in Österreich online bereit, um Betroffene durch den Meldeprozess zu führen. So soll gewährleistet werden, dass Beschwerden strukturiert und vollständig eingehen und für X klar erkennbar ist, welchen rechtlichen Anforderungen das Unternehmen nicht nachkommt.

Beschwerdeportal der Rundfunk und Telekom Regulierungs-GmbH (RTR) als Teil des EU-Verfahrens

Neben der direkten Meldung an X ruft die KommAustria Betroffene ausdrücklich dazu auf, Fälle sexualisierter Deepfakes auch über das Online-Beschwerdeportal der RTR einzureichen. Diese Beschwerden werden an die Europäische Kommission weitergeleitet und fließen in die Prüfung ein, ob X seine Verpflichtungen nach dem DSA verletzt. Jede einzelne Beschwerde trägt dazu bei, das Ausmaß der Rechtsverletzungen sichtbar zu machen und strukturelle Probleme bei Moderation und KI-Einsatz zu belegen. Zugleich sind die eingehenden Meldungen eine wichtige Informationsquelle, um zu bewerten, ob und wie Online-Plattformen ihre gesetzlichen Pflichten ernst nehmen. Auf diese Weise wird die Perspektive der Betroffenen direkt in das laufende EU-Verfahren eingebunden.

Unterstützung durch Trusted Flagger und Stopline

Ergänzend zur Beschwerde über die RTR können Betroffene Unterstützung durch sogenannte Trusted Flagger in Anspruch nehmen, also zertifizierte Meldestellen mit bevorzugten Kommunikationswegen zu den Plattformen. Diese Organisationen helfen dabei, rechtswidrige Inhalte schneller identifizieren zu lassen und deren Entfernung effizienter durchzusetzen, was ein entscheidender Vorteil sein kann, wenn Bilder oder Videos sich rasch verbreiten. Bei Verdacht auf Darstellungen von Kindesmissbrauch oder Wiederbetätigung stehen zudem spezialisierte Meldestellen wie die Stopline zur Verfügung, die auf besonders schwere Inhalte vorbereitet sind. Die Kombination aus individueller Meldung, behördlichem Beschwerdeweg und Unterstützung durch spezialisierte Stellen soll Betroffenen zeigen: Sie sind nicht allein, und es gibt konkrete Anlaufstellen, um gegen sexualisierte KI-Inhalte vorzugehen.

Alles zum Nachlesen finden Sie hier im Artikel der Rundfunk und Telekom Regulierungs-GmbH (RTR).