Beleidigung muslimischer Frauen in Indien durch Einsatz Künstlicher Intelligenz
IQNA: Ein von Al Jazeera veröffentlichter Bericht warnt vor zunehmender Nutzung von Künstlicher Intelligenz in Kampagnen die muslimische Frauen in Indien ins Visier nehmen. (Quelle: Website Wasl)
Diese Kampagnen produzieren gefälschte Bilder und Videos mit sexuellem oder verleumderischem Charakter; ein Phänomen von dem Experten sagen, dass es einen gefährlichen Ansatz bei digitalen Gewaltmethoden darstellt, die auf Geschlecht und religiöser Zugehörigkeit basieren.
Der Bericht betont, dass diese Praktiken nicht auf Verleumdung beschränkt sind, sondern darauf abzielen die Stimmen muslimischer Frauen zum Schweigen zu bringen und sie aus der Öffentlichkeit zu verdrängen.
Der Bericht erzählt die Geschichte einer muslimischen Frau aus Kaschmir die von einem gefälschten Video schockiert war, das in den sozialen Medien verbreitet wurde. In diesem Video schien ihr Gesicht mithilfe von Künstlicher Intelligenz auf fingierte Inhalte gesetzt worden zu sein. Sie sagt sie war zutiefst verletzt, da das Video so echt wirkte, dass es schwer war Realität von Manipulation zu unterscheiden. Dies verursachte bei ihr psychische Belastungen und Angst um ihren Ruf und Privatleben.
Laut Experten machte die schnelle Entwicklung von KI-Tools die Erstellung von gefälschten Bildern und Videos einfacher und billiger, was zu einer zunehmenden Nutzung in Online-Kampagnen gegen Frauen insbesondere muslimische Frauen führte.
Der Bericht zeigt, dass sich diese Inhalte schnell auf Social-Media-Plattformen und Messenger-Apps verbreiten und es schwierig ist ihre Auswirkungen selbst nach dem Löschen einzudämmen.
Experten betonen, dass Künstliche Intelligenz an sich kein Problem ist! Die Gefahr liegt vielmehr in ihrem Missbrauch zur Verbreitung von Hassrede, Desinformation und Verletzung der Privatsphäre. Sie unterstreichen außerdem die Notwendigkeit effektivere technische und rechtliche Instrumente zur Identifizierung gefälschter Inhalte zu entwickeln, die Verantwortlichen für deren Produktion und Verbreitung zur Rechenschaft zu ziehen und den Schutz der Opfer zu erhöhen, während gleichzeitig die Entfernung beleidigender Inhalte von Online-Plattformen erleichtert werden soll.
Der Bericht kommt zu dem Schluss, dass Missbrauch von KI-Technologien zur gezielten Attacke auf muslimische Frauen eine wachsende Herausforderung für Regierungen, Technologieunternehmen und Menschenrechtsorganisationen darstellt. Dies liegt an der Fähigkeit dieser Tools Inhalte zu produzieren deren Fälschung schwer zu erkennen ist und langfristige soziale und psychologische Auswirkungen hinterlassen. Insbesondere dann, wenn die Opfer Gruppen angehören die aufgrund ihrer religiösen oder sozialen Identität ins Visier genommen werden.
4365190
