据伊可纳通讯社援引半岛电视台报道:在印度各地,穆斯林女性正在经历这样一个现实:深度伪造技术已成为长期网络骚扰和加剧伊斯兰恐惧症历史中最新的武器,而这一次,证据看起来可怕地逼真。
当萨姆琳·阿尤布第一次看到那个视频时,她惊呆了。这位来自印控克什米尔的女性去年在浏览手机时,一位朋友给她发了一个在Instagram上传播的片段。
该视频看似讲述她在新德里的生活故事,配有旁白、字幕和标题,如同电视新闻片段。但这一切完全是伪造的。
由人工智能生成的旁白声音谎称她是一名向印度教男子出售自己的穆斯林女性。该声音错误地识别了照片中在场的人。
萨姆琳说:“它看起来太真实了,如果任何人,甚至我的父母,看到这个视频,都会认为它是真的。”
她是多位经历研究人员所描述的一种日益显现模式的穆斯林女性之一:利用人工智能生成色情图片和广告。
半岛电视台联系了几位成为目标的穆斯林女性。由于羞耻和再次受害的风险,她们拒绝亲自发言。
在印度日益参与关于人工智能治理的全球对话(包括今年早些时候在新德里举行的聚焦创新和监管框架的人工智能影响力高级别峰会)的同时,伪造穆斯林女性图片和视频的趋势正在蔓延。
华盛顿特区“有组织仇恨研究中心”的一项研究分析了从2023年5月到2025年5月从X、Facebook和Instagram上的297个公开账户收集的1326张由人工智能生成的图片和视频。研究人员发现,穆斯林女性的色情图片浏览量最高:在所有平台上超过670万次。
CSOH收集的数据集包括由人工智能生成的表情包,其中穆斯林女性身着宗教服饰出现在伪造的色情图片中,目标是记者和活动人士。
研究人员认为,生成式人工智能的出现显著增加了针对穆斯林女性的网络骚扰的规模和速度。
4358611