Künstliche Intelligenz; Werkzeug zur Verschärfung der Islamfeindlichkeit in Indien
IQNA: Muslimische Frauen erleben in ganz Indien die Realität, dass Deepfake-Technologie zur neuesten Waffe in der langen Geschichte der Online-Belästigung und Verschärfung der Islamfeindlichkeit wurde – mit dem Unterschied, dass die Beweise dieses Mal erschreckend real wirken. (Quelle: Al Jazeera)
Als Samreen Ayub das Video zum ersten Mal sah war sie schockiert. Die Frau aus dem von Indien kontrollierten Kaschmir scrollte im vergangenen Jahr gerade durch ihr Mobiltelefon, als ihr eine Freundin einen Clip schickte, der auf Instagram verbreitet wurde.
Es schien als erzähle das Video die Geschichte ihres Lebens in Neu-Delhi, begleitet von einer Sprecherstimme, Untertiteln und Schlagzeilen wie in einem Fernseh-Nachrichtenbeitrag. Doch es war vollständig erfunden.
Die 24 jährige Samreen sagte: Das war eine echte Verfolgung. Sie hatten mein Leben vom ersten bis zum letzten Semester an der Universität verfolgt.
Das Video verknüpft Fotos aus Ayubs Studienzeit an der Jamia-Millia-Islamia-Universität in Neu Delhi; Bilder aus alltäglichen Momenten des Universitätslebens, darunter Gruppenprojekte, Abschiedsfeiern und Selfies mit Kommilitonen.
Die mit künstlicher Intelligenz erzeugte Stimme über den Bildern behauptete fälschlicherweise sie sei eine muslimische Frau, die sich an hinduistische Männer verkaufe. Diese Stimme identifizierte auch die Personen auf den Fotos falsch.
Samreen sagte: „Es sah so real aus, dass jeder, sogar meine Eltern, wenn sie das Video gesehen hätten, gedacht hätten es sei echt!“
Sie ist eine von mehreren muslimischen Frauen die etwas erlebten was Forscher als zunehmend sichtbares Muster beschreiben: Nutzung von künstlicher Intelligenz zur Erstellung sexueller Bilder und Propaganda.
Al Jazeera kontaktierte mehrere muslimische Frauen die ins Visier genommen wurden. Sie weigerten sich jedoch aus Scham und Angst vor erneuter Schädigung persönlich darüber zu sprechen.
Der Trend zur Fälschung von Bildern und Videos muslimischer Frauen breitet sich aus – parallel zur zunehmenden Beteiligung Indiens an globalen Diskussionen über Regulierung künstlicher Intelligenz, darunter der hochrangige Gipfel über die Auswirkungen von KI Anfang dieses Jahres in Neu-Delhi stattfand und sich auf Innovation und regulatorische Rahmenbedingungen konzentrierte.
Eine Studie des in Washington D.C. ansässigen Center for the Study of Organized Hate (CSOH) analysierte 1326 durch künstliche Intelligenz erzeugte Bilder und Videos, die von 297 öffentlichen Konten auf X, Facebook und Instagram zwischen Mai 2023 und Mai 2025 gesammelt wurden. Die Forscher stellten fest, dass sexualisierte Bilder muslimischer Frauen die meisten Aufrufe erhielten: mehr als 6,7 Millionen Aufrufe über alle Plattformen hinweg.
Die Mit-Autorin der Studie und Digital-Research-Analystin beim CSOH Zeenat Khan sagte: Generative künstliche Intelligenz ermöglichte es Vorstellungen schnell und ohne Kosten in Bilder umzuwandeln. Bildgeneratoren und Deepfakes erlauben es Menschen feindselige Narrative mit minimalem technischen Fachwissen in sehr realistische visuelle Materialien zu verwandeln.
Das Video von Samreen Ayub verbreitete sich innerhalb weniger Stunden über mehrere Social-Media-Konten. Beleidigende Kommentare, bedrohliche Telefonanrufe und Anschuldigungen gegen ihren Charakter verbreiteten sich rasch.
Sie sagte: Es war wie eine digitale außergerichtliche Hinrichtung. Nicht nur ein, sondern mehr als ein Dutzend Konten verbreiteten dieses Video überall und Hunderte andere Konten teilten es erneut.
Der vom CSOH gesammelte Datensatz enthält auch durch künstliche Intelligenz erzeugte Memes, die muslimische Frauen in religiöser Kleidung in gefälschten obszönen Bildern darstellen und dabei Journalistinnen und Aktivistinnen ins Visier nehmen.
Die Medienanthropologin an der Ludwig Maximilians Universität München Sahana Udupa beschrieb dieses Phänomen als Teil einer breiteren „Sexualisierung der Politik“, die Frauen und Minderheitengemeinschaften ins Visier nimmt. Sie sagte dass rechtsgerichtete digitale Aktivisten Humor, Memes und sexuelle Bilder kombinieren um Missbrauch zu normalisieren.
Als Reaktion auf diese Bedenken sagte der Politiker der Bharatiya-Janata-Partei Atif Rasheed, dass künstliche Intelligenz sowohl positiv als auch negativ genutzt werden kann und forderte strengere Vorschriften, um Missbrauch zu verhindern. Er bezeichnete Deepfakes und offen unmoralische Inhalte als sehr enttäuschend und sagte, dass strenge Maßnahmen gegen die Täter ergriffen werden müssten.
Forscher sind der Ansicht, dass das Aufkommen generativer künstlicher Intelligenz das Ausmaß und Geschwindigkeit der Online-Belästigung muslimischer Frauen erheblich steigerte. Neue Programme erlauben es Nutzern Fotos hochzuladen und automatisch obszöne Bilder zu erzeugen. Solche Werkzeuge sind online weit verbreitet und oft kostenlos verfügbar und erfordern kein technisches Fachwissen.
4358611
