Hindistan’da yapay zeka kullanılarak Müslüman kadınlara hakaret ediliyor
Vasl web sitesinin haberine göre, rapor Hindistan’da Müslüman kadınları hedef olan gerçek ve ahlak dışı içerikler üretmek amacıyla yapay zekanın kötüye kullanıldığını ortaya koydu.
Bu kampanyalar cinsel içerikli veya karalayıcı nitelikte sahte görsel ve videolar üretiyor. Uzmanlar ise bu durumu cinsiyet ve din temelli dijital şiddet yöntemlerinde tehlikeli bir eğilimin işareti olarak değerlendiriyor.
Raporda, söz konusu taktiklerin karalamayla sınırlı olmadığı aksine bunların amacının Müslüman kadınları susturmak ve onları kamusal alandan dışlamak olduğunu vurgulamaktadır.
Rapor sosyal medyada dolaşıma giren sahte bir video karşısında şoka uğrayan Keşmirli Müslüman bir kadının hikayesini anlatıyor. Videoda kadının yüzü yapay zeka kullanılarak uydurma bir içeriğe yerleştirildiği görülüyor. Kadın videonun son derece gerçekçi görünmesi nedeniyle gerçeklik ile manipülasyonu bir birinden ayırt etmenin zor olduğunu bu durumun kendisinde sıkıntıya, özel hayatı adına büyük bir korku ve psikolojik ıstıraba yol açtığını belirtiyor.
Bu rapor söz konusu içeriğin sosyal medya platformları ve mesajlaşma uygulamaları üzerinden hızla yayıldığını ve kaldırıldıktan sonra bile etkilerini kontrol altına almanın zor olduğunu göstermektedir.
Uzmanlar yapay zekanın başlı başına bir sorun olmadığını esıl tehlikenin nefret söylemi ve yanlış bilgi yaymak yada mahremiyeti ihlal etmek amacıyla kötüye kullanılmasında yattığını vurguluyor. Ayrıca sahte içerik üretenleri tespit ederek hesap vermelerin sağlamak , mağdurlara desteği artırmak için daha etkili ve teknik araçların geliştirilmesi bunun yanısıra saldırgan içeriklerin çevirimiçi platformlardan kaldırılmasının kolaylaştırılması gerekliliğini vurguluyorlar.
Rapor, Müslüman kadınları hedef almak amacıyla yapay zeka teknolojilerinin kötüye kullanılmasının hükümetler, teknoloji şirketleri ve insan hakları örgütleri için giderek büyüyen bir sorun teşkil ettiği sonucuna varıyor.
Bunun nedeni, bu araçların gerçek olandan ayırt edilmesi zor içerikler üretebilmesi ve kalıcı sosyal ve psikolojik etkiler yaratabilmesidir.
4365190
