آسیب‌های هوش مصنوعی در پژوهش‌های اسلامی

مجتبی انصاری مقدم، پژوهشگر و دانش آموخته دکتری الهیات و معارف اسلامی یادداشتی درباره هوش مصنوعی و شرایط به کارگیری آن نوشته و در اختیار ایکنا قرار داده است که می‌خوانیم؛ 

در یک سال اخیر، هوش مصنوعی به یکی از ارکان اصلی تحولات علمی، صنعتی و اجتماعی تبدیل شده است و این فناوری در حوزه‌هایی، چون بهداشت، صنعت، آموزش و پژوهش‌های علمی تحولی شگرف به وجود آورده است. اما در کنار تمامی مزایای آن، استفاده نادرست از این ابزار در عرصه‌های حساس و پیچیده‌ای مانند علوم انسانی و اسلامی، می‌تواند آسیب‌های جدی به همراه داشته باشد. این حوزه‌ها به تحلیل‌های عمیق، دقیق و انسانی نیاز دارند و هرگونه ساده‌سازی یا تحلیل سطحی می‌تواند به نتایج نادرست و گمراه‌کننده منتهی شود. غفلت از این محدودیت‌ها می‌تواند دقت، صحت و عمق پژوهش‌های علمی را کاهش دهد.

در این مدت، شاهد آن بوده‌ام که برخی دانشجویان و پژوهشگران، به ویژه در حوزه‌های علوم اسلامی، بدون توجه به این محدودیت‌ها، پایان‌نامه‌ها و تحقیقاتی را با اتکا به هوش مصنوعی تنظیم کرده‌اند. این امر مرا بر آن داشت تا در این یادداشت اشاره کنم که پژوهشگران و دانشجویان باید از هوش مصنوعی به عنوان ابزاری کمکی و نه جایگزین تفکر عمیق و اجتهادی استفاده کنند.

در ادامه به بررسی برخی از آسیب‌های این ابزار در پژوهش‌های اسلامی می‌پردازیم تا شاید این هشدار باعث توجه بیشتر و استفاده آگاهانه‌تر از این فناوری در مسیر پژوهش‌های علمی شود:

۱. آسیب‌های مرتبط با صحت علمی

به عنوان نمونه به سه مورد اشاره می‌کنم:

الف) تحلیل و استنتاج نادرست

هوش مصنوعی به دلیل پردازش داده‌ها به شیوه‌ای صرفاً سطحی و ماشینی، توانایی درک دقیق تفاوت‌های مفهومی، معنایی و تفسیری آیات و روایات را ندارد. برای مثال، در تفسیر واژه‌ای مانند «ید» در قرآن کریم که می‌تواند به معنای دست فیزیکی یا نمادی از قدرت باشد، هوش مصنوعی ممکن است بدون توجه به زمینه تاریخی و عرف زبانی، تفسیری ساده‌انگارانه ارائه دهد. چنین برداشت سطحی می‌تواند پژوهشگران نوپا را به تحلیل‌ها و استنتاج‌های نادرست و ناقص سوق دهد.

ب) استناد به منابع نامعتبر

بسیاری از الگوریتم‌های هوش مصنوعی برای پاسخگویی به پرسش‌های دینی به منابع دیجیتال موجود در فضای مجازی متکی هستند. اگر این منابع معتبر نبوده یا تحریف شده باشند، ممکن است نتایج گمراه‌کننده‌ای به پژوهشگران ارائه شود. برای مثال استناد به روایات ضعیف یا منابع مغرضانه می‌تواند به تحلیل‌های تفسیری، فقهی و کلامی نادرست منجر شود. در برخی موارد حتی مشاهده شده که هوش مصنوعی آیات یا احادیثی غیرواقعی را به همراه آدرس‌های جعلی ارائه داده است، که این مسئله خطر جدی برای پژوهش‌های علمی و اسلامی محسوب می‌شود.

ج) پردازش ناقص اطلاعات

هوش مصنوعی در تشخیص زمینه تاریخی و فرهنگی متون اسلامی ضعف دارد. برای مثال درک صحیح فتاوای فقهی صادر شده در قرون اولیه اسلام نیازمند شناخت دقیق شرایط اجتماعی، اقتصادی و سیاسی آن دوره است که هوش مصنوعی فاقد چنین درک زمینه‌ای می‌باشد. حتی در برخی موارد، هوش مصنوعی ممکن است فتوای اشتباهی از یک مرجع نقل کرده و به استفتائات آن مرجع با شماره صفحه، تاریخ و شماره چاپ جعلی ارجاع دهد، که این خود می‌تواند موجب گمراهی و نادرستی در تحلیل‌های فقهی شود.

۲. آسیب‌های معرفتی- معنوی

به عنوان نمونه به دو مورد اشاره می‌کنم:

الف) تضعیف تفکر و اجتهاد

با گسترش استفاده از هوش مصنوعی، پژوهشگران ممکن است به جای تفکر و تحلیل مستقل، صرفاً به نتایج تولید شده توسط این ابزار‌ها اتکا کنند. این روند می‌تواند منجر به کاهش خلاقیت و توانایی اجتهادی در میان علما شود. به عنوان مثال، یک پژوهشگر ممکن است به جای بررسی دقیق اختلافات فقهی در نماز مسافر، صرفاً پاسخ سطحی تولید شده توسط هوش مصنوعی را بپذیرد.

ب) تحریف مفاهیم دینی

به دلیل ناتوانی هوش مصنوعی در درک ظرایف معنوی، ممکن است برداشت‌های نادرستی از مفاهیم کلیدی دینی ارائه شود. برای مثال، مفهوم «تقوا» که دارای ابعاد عمیق اخلاقی و معنوی است، ممکن است صرفاً به عنوان «پرهیزگاری» ترجمه و تحلیل شود، بدون درک جامع از لایه‌های معنایی آن.

۳. آسیب‌های اخلاقی

الف) عدم رعایت اصول اخلاقی

هوش مصنوعی می‌تواند به تولید محتوا‌های جعلی و مغرضانه منجر شود. به عنوان مثال، تولید فتاوا‌ی بی‌پایه و غیرمعتبر با استفاده از داده‌های ناقص می‌تواند زمینه‌ساز بحران‌های دینی و جعل نوشته‌های بدون ریشه شود. در بسیاری از موارد، هوش مصنوعی ممکن است اطلاعات نادرست را ارائه داده و برای پنهان کردن ضعف خود، به کتاب‌های نویسندگان مشهور ارجاع می‌دهد تا مطالب بدون منبع نکرده باشد. این اقدام می‌تواند تلاش برای معتبر جلوه دادن محتوای غلط باشد، که در نهایت به گمراهی و گسترش اطلاعات نادرست منجر می‌شود.

ب) تضعیف استاندارد‌های پژوهشی

با گسترش استفاده از هوش مصنوعی در پژوهش‌ها، برخی پژوهشگران ممکن است به جای انجام جمع‌آوری و تحلیل دقیق داده‌ها، صرفاً به داده‌های پردازش شده توسط الگوریتم‌های هوش مصنوعی اتکا کنند. این نگرش می‌تواند منجر به کاهش دقت و اعتبار نتایج تحقیقاتی شود، چرا که هوش مصنوعی ممکن است نتایج را بر اساس الگوریتم‌های از پیش تعیین‌شده و با تکیه بر داده‌های محدود و احتمالی ارائه دهد. این رویکرد می‌تواند به کاهش استاندارد‌های پژوهشی، ضعف در تحلیل‌های عمیق و عدم توانایی در درک پیچیدگی‌های مفهومی و زمینه‌ای موضوعات منجر شود.

۴. آسیب‌های اجتماعی و فرهنگی

الف) تهدید جایگاه علوم انسانی و اسلامی

با رشد ابزار‌های هوش مصنوعی، این خطر وجود دارد که جایگاه علوم انسانی و اسلامی که بر تعقل و تحلیل انسانی استوارند، تضعیف شود. پژوهش‌هایی که نیازمند استدلال عمیق و تجربه انسانی هستند، نمی‌توانند به‌طور کامل توسط هوش مصنوعی جایگزین شوند.

ب) تشدید انحرافات فکری

استفاده از هوش مصنوعی برای تأیید پیش‌فرض‌های مغرضانه می‌تواند به تشدید انحرافات فکری منجر شود. برای مثال، گروه‌های افراطی ممکن است از هوش مصنوعی برای تولید محتوا‌هایی استفاده کنند که به ظاهر علمی و منطقی به نظر می‌رسند، اما در واقع انحرافی هستند.

۵. آسیب‌های فناورانه و تکنیکی

الف) ضعف در طراحی الگوریتم‌ها

الگوریتم‌های هوش مصنوعی ممکن است بر اساس داده‌های جهت‌دار یا مغرضانه طراحی شوند، که این موضوع می‌تواند به تولید محتوا‌های نادرست و جهت‌دار منجر شود. چنین محتوای مغرضانه‌ای می‌تواند پژوهش‌های اسلامی را با بحران مواجه کند. نمونه‌های مختلفی از این جهت‌گیری در ابزار‌های هوش مصنوعی، به‌ویژه چت جی‌بی‌تی، مشاهده شده است که در موضوعات مختلف، گرایش‌های غربی را به طور غیرمستقیم در علوم انسانی دخیل می‌کند. این مسئله می‌تواند تأثیرات منفی بر نتایج تحقیقات دینی و فرهنگی داشته باشد.

ب) پردازش مکانیکی متون

هوش مصنوعی در پردازش متون دینی به‌طور مکانیکی عمل می‌کند و فاقد توانایی درک عمیق معنوی و شناخت زمینه‌های تاریخی است. این محدودیت می‌تواند به تحلیل‌های سطحی و نادرست منجر شود. برخی از تحلیل‌ها آن‌قدر سطحی و بی‌معنا هستند که نه تنها به فهم بهتر پژوهش کمک نمی‌کنند، بلکه باعث ایجاد اختلال در درک صحیح و عمیق آن می‌شوند.

سخن آخر

با وجود قابلیت‌های هوش مصنوعی در تسریع فرآیند‌های تحقیقاتی، استفاده نادرست از آن در پژوهش‌های علوم اسلامی می‌تواند آسیب‌های جدی به دقت، صحت و عمق پژوهش‌ها وارد کند. پژوهشگران باید مراقب باشند که هوش مصنوعی جایگزین فرآیند‌های پژوهشی دقیق و عمیق انسانی نشود. نظارت مستمر و دقیق انسان، توسعه الگوریتم‌های هوشمندتر بر اساس معیار‌های دینی، و افزایش آگاهی پژوهشگران درباره محدودیت‌ها و نقاط ضعف هوش مصنوعی از جمله راهکار‌هایی هستند که می‌توانند از بروز این آسیب‌ها جلوگیری کنند. توجه به این نکات برای حفظ اصالت و اعتبار پژوهش‌های اسلامی ضروری است.