توهین به زنان مسلمان در هند با استفاده از هوش مصنوعی

به گزارش ایکنا به نقل از وبگاه وصل، گزارشی که توسط الجزیره منتشر شده است، نسبت به افزایش استفاده از هوش مصنوعی در کمپین‌هایی که زنان مسلمان در هند را هدف قرار می‌دهند، هشدار می‌دهد.

این کمپین‌ها تصاویر و ویدئوهای جعلی با ماهیت جنسی یا افتراآمیز تولید می‌کنند؛ پدیده‌ای که کارشناسان می‌گویند نشان‌دهنده‌ رویکرد خطرناکی در روش‌های خشونت دیجیتال مبتنی بر جنسیت و وابستگی مذهبی است.

این گزارش تأکید می‌کند که این شیوه‌ها محدود به افترا نیستند، بلکه هدفشان خاموش کردن صدای زنان مسلمان و حذف آن‌ها از عرصه‌ عمومی است.

این گزارش داستان یک زن مسلمان اهل کشمیر را روایت می‌کند که از یک ویدئوی جعلی که در رسانه‌های اجتماعی در حال پخش است، شوکه شده است. در این ویدئو، به نظر می‌رسید که چهره‌ او با استفاده از هوش مصنوعی روی محتوای ساختگی قرار گرفته است. او می‌گوید که به شدت آسیب دیده است زیرا ویدئو آنقدر واقعی به نظر می‌رسید که تشخیص واقعیت و دستکاری آن دشوار بود. این امر باعث پریشانی روانی و ترس او از آبرو و زندگی شخصی‌اش شد.

به گفته کارشناسان توسعه سریع ابزارهای هوش مصنوعی، تولید تصاویر و ویدیوهای ساختگی را آسان‌تر و ارزان‌تر کرده و منجر به افزایش استفاده از آن‌ها در کمپین‌های آنلاین علیه زنان، به ویژه زنان مسلمان شده است. 

این گزارش نشان می‌دهد که این مطالب به سرعت در پلتفرم‌های رسانه‌های اجتماعی و برنامه‌های پیام‌رسان پخش می‌شوند و مهار اثرات آن حتی پس از حذف، دشوار است.

کارشناسان تأکید می‌کنند که هوش مصنوعی به خودی خود مشکل نیست؛ بلکه خطر در سوءاستفاده از آن برای گسترش نفرت‌پراکنی، اطلاعات نادرست و نقض حریم خصوصی نهفته است. آن‌ها همچنین بر لزوم توسعه ابزارهای فنی و حقوقی مؤثرتر برای شناسایی محتوای جعلی، پاسخگو کردن مسئولان تولید و انتشار آن و افزایش حمایت از قربانیان ضمن تسهیل حذف محتوای توهین‌آمیز از پلتفرم‌های فضای مجازی تأکید می‌کنند.

این گزارش نتیجه‌گیری می‌کند که سوءاستفاده از فناوری‌های هوش مصنوعی برای هدف قرار دادن زنان مسلمان، چالشی رو به رشد برای دولت‌ها، شرکت‌های فناوری و سازمان‌های حقوق بشری ایجاد می‌کند. این امر به دلیل توانایی این ابزارها در تولید محتوایی است که تشخیص جعلی بودن آن دشوار است و اثرات اجتماعی و روانی طولانی‌مدتی بر جای می‌گذارد. به‌ویژه هنگامی که قربانیان متعلق به گروه‌هایی هستند که به دلیل هویت مذهبی یا اجتماعی خود هدف قرار می‌گیرند.