Desinformação Potencializada por IA: Uma Arma contra Mulheres Muçulmanas na Índia
Por toda a Índia, mulheres muçulmanas estão descobrindo que a tecnologia de deepfake tornou-se a mais recente arma em uma longa história de assédio online — mas desta vez, as evidências parecem aterrorizantemente reais.
Quando Samreen Ayoub viu o vídeo pela primeira vez, ficou atônita. A modelo freelancer da Caxemira administrada pela Índia estava navegando em seu celular quando uma amiga lhe enviou um clipe que circulava no Instagram. O vídeo parecia contar a história de sua vida em Nova Délhi, completo com narração em voz, legendas e manchetes como um telejornal. Mas era completamente fabricado.
"Foi stalking de verdade", disse Ayoub, de 24 anos. "Eles acompanharam minha vida desde o primeiro semestre até o último na universidade."
O vídeo reunia fotografias da época em que ela era estudante na Universidade Jamia Millia Islamia, em Nova Délhi. A narração, gerada por inteligência artificial, afirmava falsamente que ela era uma mulher muçulmana "vendendo seu corpo" para homens hindus, e identificava erroneamente seu próprio irmão como seu "cafetão".
"Parecia tão real que se alguém, até mesmo meus pais, visse o vídeo, pensaria que era verdade", disse Ayoub.
'Fantasia sexual transformada em imagem'
Um estudo do Centro para o Estudo do Ódio Organizado (CSOH), sediado em Washington, D.C., analisou 1.326 imagens e vídeos gerados por IA coletados de 297 contas públicas no X, Facebook e Instagram entre maio de 2023 e maio de 2025. Os pesquisadores constataram que representações sexualizadas de mulheres muçulmanas geraram o maior engajamento — mais de 6,7 milhões de interações nas plataformas.
"A IA generativa tornou possível a transformação de fantasias sexuais em imagens de forma rápida e gratuita", disse Zenith Khan, coautora do estudo. "Geradores de imagens e deepfakes permitem que indivíduos convertam narrativas hostis em material visual altamente realista com expertise técnica mínima."
A linha de apoio online Meri Trustline, gerida pela Fundação RATI, com sede em Mumbai, também registrou um volume crescente desses casos. Desde sua criação em 2022, a linha atendeu mais de 482 casos, dos quais cerca de 10% envolveram material digitalmente manipulado — uma proporção que vem crescendo à medida que as ferramentas de IA se tornam mais acessíveis.
"Essas violações são silenciadas pela vergonha, pelo medo e pelo trauma", disse o conselheiro Salman Mujawar. "Os incidentes raramente são revelados nem mesmo a familiares próximos."
'Pornificação da política'
O conjunto de dados compilado pelo CSOH inclui memes gerados por IA retratando mulheres muçulmanas com trajes religiosos em cenários sexualmente sugestivos, além de imagens pornográficas fabricadas visando jornalistas e ativistas. Os pesquisadores observaram um padrão visual recorrente: uma "mulher de codificação muçulmana" associada a um "homem de codificação hindu".
Sahana Udupa, antropóloga de mídia da Universidade Ludwig Maximilian de Munique, descreveu o fenômeno como parte de uma "pornificação da política" mais ampla, que visa mulheres e comunidades minoritárias. "Essas práticas formam um ecossistema", disse Udupa. "Prosperam na celebração coletiva e na agressão grupal."
Pesquisadores argumentam que os corpos das mulheres muçulmanas tornaram-se campos de batalha para a dominação comunitária — dinâmica que encontrou sua expressão mais visível na controvérsia do "Sulli Deals" e do "Bulli Bai", plataformas de leilão simulado que visavam mulheres muçulmanas na Índia.
Padrão familiar amplificado pela IA
Os episódios de Sulli Deals e Bulli Bai, ocorridos em 2021 e 2022, usaram imagens adulteradas. Ambos provocaram indignação generalizada e investigações policiais. Os acusados foram presos, mas libertados sob fiança dois meses depois.
Pesquisadores acreditam que o surgimento da IA generativa expandiu dramaticamente a escala e a velocidade do assédio a mulheres muçulmanas online. Novas aplicações permitem que usuários façam upload de fotografias e gerem automaticamente imagens sexualizadas, disponíveis amplamente na internet, muitas vezes de forma gratuita e sem necessidade de expertise técnica.
Afreen Fatima, 27 anos, pesquisadora e ativista que enfrenta abuso online desde 2019, foi uma das dezenas de mulheres muçulmanas cujas fotos foram "leiloadas" no Sulli Deals. Quatro anos depois, o abuso mal diminuiu. "A cada poucos dias, chega uma mensagem de alguma conta aleatória com ameaças de estupro ou de morte", relatou.
A perspectiva de imagens sexuais geradas por IA intensificou esse medo. "Quando leio sobre essas imagens, sinto algo muito pessoal. Elas criam uma psicose de medo."
'Não me sinto segura'
Após o vídeo se tornar viral, as oportunidades profissionais de Ayoub começaram a desaparecer. "Como modelo, sua reputação é tudo", disse ela. O assédio também transformou sua relação com as redes sociais. "O Instagram costumava ser um espaço seguro para mim. Agora não me sinto segura lá."
Especialistas jurídicos afirmam que as leis existentes na Índia têm dificuldade em acompanhar o ritmo do conteúdo gerado por IA. "O dano é real mesmo quando a imagem em si é fabricada", disse Apar Gupta, advogado e diretor fundador da Internet Freedom Foundation. "Mesmo que a imagem seja falsa, ela cria uma marca permanente para as mulheres."
Sem mudanças estruturais no design das plataformas, nas prioridades algorítmicas e nos marcos legais, o abuso gerado por IA continuará se espalhando mais rapidamente do que qualquer sistema jurídico poderá responder.
"O que eu mais queria era encontrar as pessoas por trás daquelas contas", disse Ayoub. "Elas destruíram minha reputação sem nem me conhecer."
https://iqna.ir/en/news/3497857
