کد خبر: ۴۳۵۰۷۴۸

تاریخ: ۱۶ ارديبهشت ۱۴۰۵ - ۱۵:۰۵

ملاحظات اخلاقی در توسعه مسئولانه نظام‌های هوش مصنوعی بررسی شد

ملاحظات اخلاقی در توسعه مسئولانه نظام‌های هوش مصنوعی، امروز 16 اردیبهشت‌ماه در قالب یک نشست بررسی شد.

به گزارش خبرنگار ایکنا، نشست علمی «پیامد‌های اخلاقی هوش مصنوعی؛ ملاحظات اخلاقی در توسعه مسئولانه نظام‌های هوش مصنوعی» امروز، ۱۶ اردیبهشت‌ماه در تالار ملل دانشکده مطالعات جهان دانشگاه تهران برگزار شد.

در ابتدای این نشست، حسن فرطوسی، دبیرکل کمیسیون ملی یونسکو در ایران طی سخنانی بیان کرد: امروزه جوامع بشری در جهانی زندگی می‌کنند که فناوری‌های نوظهور به‌ویژه هوش مصنوعی و پیامد‌های ناشی از آن تحولاتی بنیادین در ابعاد گوناگون زندگی ایجاد کرده است. سرعت شتابان تحولات شناختی در حوزه هوش مصنوعی و گسترش کاربست‌های آن در عرصه‌های اجتماعی، فرهنگی، رسانه‌ای و حکمرانی توجه نهاد‌های ملی و بین‌المللی را به پیامد‌های اخلاقی این فناوری معطوف ساخته است.

وی ادامه داد: هوش مصنوعی در سال‌های اخیر از جایگاه یک ابزار صرفا فناورانه فراتر رفته و به عاملی مؤثر در فرایند‌های تصمیم‌گیری، تولید دانش و سیاست‌گذاری عمومی تبدیل شده است؛ موضوعی که ضرورت توجه نظام‌مند به ملاحظات اخلاقی مرتبط با آن را برجسته می‌سازد.

وی افزود: سازمان آموزشی، علمی و فرهنگی ملل متحد(یونسکو) به‌عنوان نهاد پیشرو در تدوین اسناد بین‌المللی اخلاقی از جمله در زمینه اخلاق هوش مصنوعی نقشی مهم در هدایت گفت‌و‌گو‌های جهانی پیرامون توسعه مسئولانه این فناوری ایفا کرده است. این سازمان بر اصولی، چون عدالت، شفافیت، مسئولیت‌پذیری، احترام به کرامت انسانی و اصول اجتماعی تأکید دارد. تحقق عملی این اصول مستلزم انطباق آنها با شرایط و اولویت‌های ملی است.

فرطوسی اظهار کرد: جمع‌بندی کلی این رویکرد در یونسکو در سال ۲۰۲۱ و در قالب «توصیه‌نامه اخلاق در هوش مصنوعی» منتشر شد. یونسکو ذیل این سند کوشیده است چارچوبی اخلاقی برای توسعه تدوین کند که بر حفظ کرامت و حقوق بشر و نیز دفاع از آزادی‌های اساسی استوار باشد.

فرطوسی تصریح کرد: هوش مصنوعی فرصت‌های بی‌نظیری برای جوامع و افراد فراهم آورده است؛ اما در عین حال چالش‌های جدی در این حوزه وجود دارد که از آن جمله می‌توان به حفظ حریم خصوصی، تأمین امنیت داده‌ها، ملاحظات اخلاقی در بهره‌گیری از هوش مصنوعی، و تضمین دسترسی برابر همگانی به این فناوری اشاره کرد.

هشدار یونسکو

وی افزود: یونسکو هشدار می‌دهد که در صورت عدم مدیریت این چالش‌ها، هوش مصنوعی نه تنها به کاهش مسائل و معضلات کمک نخواهد کرد، بلکه به تشدید آنها دامن خواهد زد. سند مذکور بستری برای گفت‌و‌گو‌های میان‌رشته‌ای میان متخصصان فراهم می‌آورد و از یک سو امکان شناسایی ظرفیت‌ها و چالش‌های این حوزه را میسر می‌سازد و از سوی دیگر باید‌ها و هنجار‌های لازم را در سطح ملی و بین‌المللی تبیین می‌کند.

وی بیان کرد: این برنامه و نشست در امتداد مأموریت‌های کمیسیون ملی یونسکو در ایران طراحی شده است و هدف از آن ارتقای ظرفیت نهادی در سطح ملی به منظور بررسی این سند توسط صاحب‌نظران و کارشناسان برجسته ایرانی در حوزه هوش مصنوعی و در نهایت ایجاد خروجی‌های مؤثر برای به‌کارگیری در فرایند‌های سیاست‌گذاری ملی در این عرصه کلیدی است که امروزه تمامی وجوه حیات بشری را دربرگرفته است.

فرطوسی گفت: کمیسیون ملی یونسکو ضمن تشکر از دانشکده مطالعات جهان دانشگاه تهران و کرسی فضای مجازی پرداختن به این تحولات و کمک به فهم روند‌های کلیدی مرتبط با این حوزه در جهان امروز را مسئولیت خویش می‌داند.

هوش مصنوعی و مسئولیت اجتماعی در عصر اقتصاد دیجیتال

در ادامه، علی کرمانشاه، استاد دانشکده مدیریت دانشگاه صنعتی شریف نیز طی سخنانی با اشاره به مقوله هوش مصنوعی و مسئولیت اجتماعی در عصر اقتصاد دیجیتال گفت: هوش مصنوعی به عنوان یکی از فناوری‌های کلیدی در چارچوب پارادایم نوین دیجیتال همواره در معرض عملکرد‌های غیر مسئولانه نیز قرار داشته است. گسترش کاربرد این فناوری مستلزم تدوین چارچوب‌هایی نظری و عملیاتی است که به زمینه‌های تاریخی بحث مسئولیت بپردازد و تحولات دو دهه اخیر را پوشش دهد. هرچند در فرصت محدود نمی‌توان طرحی کامل ارائه کرد، اما می‌توان چهارچوبی مبتنی بر مسئولیت اجتماعی بنگاه‌ها و سازمان‌ها پیشنهاد داد.

وی افزود: این مفهوم که از دهه‌های ۱۹۵۰ و ۱۹۶۰ میلادی وارد ادبیات مدیریت و اقتصاد شده، بر توجه همزمان سازمان‌ها به ملاحظات اقتصادی (سودآوری و منافع سهامداران) و همچنین عوامل اجتماعی (انسان، مشتری، محیط زیست، کرامت، عدالت) تأکید دارد. در عرصه آکادمیک و اجرایی، رشته‌های مختلفی از اقتصاد، مدیریت، جامعه‌شناسی و سیاست به این حوزه ورود کرده‌اند. هرچند بیشتر سرفصل‌های اجتماعی به عملکرد محصولات پرداخته‌اند، اما نکته قابل تأمل آن است که به همان میزانی که بحث «مسئولیت‌پذیری» نهادینه شده، ساختار‌های نظارت، رتبه‌بندی و ارزیابی شرکت‌های مسئول، همزمان ظرفیت شرکت‌های غیرمسئول نیز مورد توجه قرار گرفته است. این مقوله پویا و وابسته به تعامل با ذی‌نفعان، در قرن بیست‌ویکم با پدیده اقتصاد دیجیتال و ظهور بنگاه‌های بزرگ مبتنی بر پلتفرم مواجه شده است.

کرمانشاه بیان کرد: بسیاری از شرکت‌های برتر جهان از نظر ارزش بازار هم در عرصه اقتصادی موفق بوده‌اند و هم به نظر می‌رسد از جنبه‌های اجتماعی تا حدودی متفاوت از بنگاه‌های سنتی عمل می‌کنند. اقتصاد پلتفرمی دارای ویژگی‌هایی از جمله تأکید بر عدالت، همکاری، ارزش‌آفرینی مشترک، کاهش اهمیت مالکیت منابع (نظیر استفاده از اتاق خالی، ماشین بیکار) توجه به اقتصاد چرخشی و مسائل زیست‌محیطی، و همچنین شفافیت و پاسخگویی است. این ویژگی‌ها در مقایسه با بنگاه‌های عصر توسعه صنعتی، تا حدودی خوشایندتر به نظر می‌رسد.

وی افزود: با این حال میان مسئولیت اجتماعی شرکتی (CSR) و اقتصاد دیجیتال دو نوع رابطه قابل طرح است. نخست اینکه این مفاهیم چگونه در جعبه ابزار مسئولیت اجتماعی دیده می‌شوند، و دوم اینکه تا چه اندازه این فناوری‌ها مسئولانه یا غیرمسئولانه ارزیابی می‌شوند. درست مانند هر پدیده قدرتمند دیگری، اقتصاد دیجیتال نیز روی تاریکی دارد. بنگاه‌های پلتفرمی ضمن دسترسی به میلیارد‌ها مشتری، اغلب ساختار‌های انحصاری ایجاد می‌کنند. برخلاف بنگاه‌های سنتی که منافع میان تعداد بیشتری توزیع می‌شد، در مدل پلتفرمی، استفاده سیاسی و سود کلان عمدتاً نصیب چند شرکت بزرگ (مانند گوگل) می‌شود که به عنوان شاخصی از عملکرد غیرمسئولانه مطرح است.

کرمانشاه گفت: در مقابل، رویکرد انسانی و عدالت‌محور ایجاب می‌کند که کاربران در بخش تولید و مصرف، خود مالک پلتفرم‌ها باشند. پرسش اساسی این است: چگونه می‌توان از ظرفیت‌های دیجیتال برای راه‌حل‌های مسئولانه بهره گرفت و از عملکرد غیرمسئولانه پرهیز کرد؟ مفاهیمی نظیر بازار مسئول و بهره‌گیری از تجربیات پلتفرم‌ها در رتبه‌بندی، کاهش ریسک‌ها، افزایش حریم خصوصی و کاهش عملکرد غیرمسئولانه، از جمله ظرفیت‌ها هستند.

وی ادامه داد: همچنین، به دلیل وجود الگوریتم‌های سودمحور و سوگیری در تحلیل داده‌ها امروزه حق برداشت معقول از داده‌های افراد به عنوان یک حق نوظهور مطرح شده است. الگوریتم‌ها حق ندارند با استفاده از داده‌ها، برداشت‌های ناعادلانه (مثلاً مبتنی بر تبعیض شهری، جنسیتی یا قومی) انجام دهند؛ چراکه این سوگیری‌ها به حقوق افراد لطمه می‌زند. در ساختار‌های بین‌المللی نیز موارد متعددی از عملکرد غیرمسئولانه در این زمینه گزارش شده که ضرورت پرداختن به این حقوق را دوچندان می‌کند.

وی با اشاره به کارکرد‌ها و محدودیت‌های مسئولیت اجتماعی شرکتی در عصر اقتصاد دیجیتال گفت: فناوری‌های دیجیتال و مدل‌های کسب‌وکار دیجیتال، در برخی موارد بهبود‌های تدریجی در شفاف‌سازی، گزارش‌دهی و تنظیم رابطه بین بنگاه و جامعه ایجاد می‌کنند. تا جایی که این بهبود‌ها می‌توانند مفروضات سنتی مسئولیت اجتماعی شرکتی (CSR) را حفظ و تأمین کنند. اما در نقطه‌ای دیگر، ناکارآمدی‌های ساختاری ناشی از نوع نگاه سنتی به بنگاه و جامعه مانع از کارآمدی این رویکرد می‌شود.

وی افزود: بسیاری از ادبیات موجود مسئولیت اجتماعی توسط فعالان اقتصادی شکل گرفته است و گاه برای پوشاندن عملکرد غیرمسئولانه بنگاه‌ها به کار می‌رود. شماری از بنگاه‌هایی که امتیاز‌های بالایی در رتبه‌بندی‌های مسئولیت اجتماعی کسب می‌کنند، در عمل عملکرد غیرمسئولانه داشته و صرفاً به تقویت روابط عمومی خود علاقه‌مند هستند.

کرمانشاه افزود: مدل‌های کسب‌وکار دیجیتال، ساختار‌های سنتی را در هم می‌شکنند و چالش‌های جدیدی برای نهاد‌هایی مانند مسئولیت اجتماعی شرکتی ایجاد می‌کنند. فناوری دیجیتال ساختار موجود را برنمی‌تابد و مسئولیت اجتماعی سنتی نیز از این قاعده مستثنی نیست. در برخی حوزه‌ها مسئولیت اجتماعی شرکتی می‌تواند به ظهور دیجیتال مسئولانه به عنوان یک پدیده نوآورانه کمک کند، اما در مفروضات پایه‌ای خود ناکارآمد است. همان‌طور که اشاره شد، نهاد‌های بین‌المللی در زمینه‌هایی مانند جنگ هوش مصنوعی کارآمدی لازم را ندارند و پرسش این است که آیا این نهاد‌ها با نصیحت و سانسور‌های مرسوم قابل هدایت هستند یا نیاز به اصلاح اساسی دارند. در حال حاضر، تحولات در اکوسیستم سازمان ملل به نتیجه مشخصی نرسیده است.

تفاوت منطق اقتصاد دیجیتال با اقتصاد سنتی

وی با اشاره به تفاوت منطق اقتصاد دیجیتال با اقتصاد سنتی گفت: در سوی مثبت، فناوری‌های دیجیتال صرفاً فناوری نیستند، بلکه مدل‌های نهادی بهتری بر مبنای سیستم‌های مطمئن ارائه می‌دهند. اما گفتمان سنتی مسئولیت اجتماعی شرکتی قادر به پاسخگویی به عملکرد غیرمسئولانه در فضای دیجیتال و نیز توسعه و ترویج عملکرد مسئولانه در اقتصاد جدید نیست، زیرا اقتصاد جدید منطق متفاوتی دارد.

وی ادامه داد: بنگاه‌های سنتی دارای زنجیره ارزش خطی، ساختار سلسله‌مراتبی و مرز‌های بسته هستند. آنها محصولی تولید و به مشتری نهایی عرضه می‌کنند. اما اقتصاد دیجیتال، بنگاه را می‌شکند و در قالب پلتفرم‌ها، ده‌ها و صد‌ها بنگاه را در کنار سایر بازیگران در یک اکوسیستم گرد هم می‌آورد. ارزش‌آفرینی در این اکوسیستم‌ها با محوریت ذی‌نفعان انجام می‌شود. ناکارآمدی‌هایی که در بحران کرونا نمایان شد ناشی از همین مدل کهنه نگاه به جامعه بود.

کرمانشاه اظهار کرد: در منطق جدید مرز جدایی میان بنگاه و جامعه از میان برداشته می‌شود. اساساً جامعه و بنگاه یکپارچه شده‌اند. آنچه در دانشگاه‌ها و محافل علمی مطرح می‌شود، حاکی از آن است که فضای مجازی و جامعه یکپارچه هستند. در چنین فضایی، مفهوم سنتی امور اجتماعی (Social) دیگر قادر به تبیین و هدایت امور نیست. در اینجا واژه دیجیتالیتی (Digitality) مطرح می‌شود که اگرچه وجوه اشتراکی با مفاهیم پیشین دارد، اما مسیر مستقلی را دنبال می‌کند.

وی با اشاره به چالش‌ها و فرصت‌ها در ایران گفت: متأسفانه در ایران، برخلاف بسیاری از کشور‌های جهان، از ظرفیت‌های بین‌المللی و سیاست‌های موجود کمتر استفاده شده است. با وجود ظرفیت‌های فراوان در جهان بهره‌گیری از این ظرفیت‌ها اندک بوده است. امید می‌رود که در گفتمان دیجیتالیتی بتوان با جهان تعامل داشت و از این ظرفیت‌ها استفاده کرد. در سال‌های اخیر، فناوری اطلاعات در ایران رشد کرده و با مؤلفه‌ها، ساختارها، فرایندها، استراتژی‌ها و نهاد‌های کشور درهم‌تنیده شده است. اما نکته مهم آن است که فضای حاکم بر فناوری دیجیتال بسیار پیچیده‌تر از فضای سنتی فناوری اطلاعات است. فناوری اطلاعات در قالب سازمان‌های عصر توسعه صنعتی تعریف می‌شد، در حالی که فناوری دیجیتال در بستری از پلتفرم‌ها، اکوسیستم‌ها و درهم‌تنیدگی انبوهی از فناوری‌ها با ساختار‌های سازمانی عمل می‌کند.

کرمانشاه اظهار کرد: آسیب‌شناسی جدی در کشور این است که به دلیل پیچیدگی بالای این مقوله، معمولاً جنبه‌های ساده‌تر آن سریعاً پذیرفته شده و به همان بسنده می‌شود، زیرا نتایج کوتاه‌مدت دارد. در سال‌های گذشته، فناوری اطلاعات تا حد زیادی در خدمت تحکیم ناکارآمدی‌های نهادی به کار گرفته شده است، نه در جهت تحول و نوآوری. کار‌های ساده مشتری بیشتری داشتند، در حالی که کار‌های پیچیده‌تر مغفول مانده است.

وی تصریح کرد: این نگرانی وجود دارد که فناوری‌های دیجیتال نیز در ایران به جای ایجاد تحول ساختاری، در جهت محکم‌تر کردن ناکارآمدی‌های نهادی و ادامه روند موجود به کار گرفته شوند. بومی‌سازی به گونه‌ای که به ساختار‌های موجود دست نزند، نمونه‌ای از این رویکرد است. عملکرد مسئولانه دیجیتال مستل آن است که هوشیار باشیم و مأموریت اصلی خود به درستی انجام شود.

در ادامه، حسین حسنی، استاد پژوهشگاه هنر، فرهنگ و ارتباطات نیز طی سخنانی تصریح کرد: سند ملی هوش مصنوعی از جمله اسناد مهمی است که برای نخستین‌بار در یک چارچوب رسمی و عملیاتی تعریفی نسبتا جامع از «اخلاق هوش مصنوعی» ارائه می‌دهد. در این سند، اخلاق به‌عنوان مجموعه‌ای از اصول هنجاری برای هدایت توسعه و استفاده مسئولانه از فناوری‌های هوشمند تعریف شده که بر پایه ارزش‌های اسلامی استوار است.

وی افزود: این اصول طیفی از موضوعات کلیدی از جمله حریم خصوصی، حقوق فردی و اجتماعی، امنیت، عدالت، شفافیت، عدم تبعیض، پاسخگویی، مسئولیت‌پذیری، اعتمادسازی و جلوگیری از سوءاستفاده از ابزار‌های هوش مصنوعی را دربرمی‌گیرد. هدف غایی این چارچوب اخلاقی بهینه‌سازی اثرات مثبت هوش مصنوعی بر جامعه و در عین حال کاهش مخاطرات و پیامد‌های ناخواسته آن عنوان شده است.

حسنی گفت: در بخش مبانی و اصول، این سند به‌صورت گسترده به مؤلفه‌های اخلاقی با رویکرد اسلامی پرداخته است. مفاهیمی، چون انسان‌محوری مبتنی بر فلسفه اسلامی، عدالت‌گرایی، توجه به کرامت انسانی، پرهیز از فساد و منکرات، و نیز صیانت از سلامت جسمی و روانی افراد از جمله محور‌های برجسته به‌شمار می‌روند.

حریم خصوصی و امنیت داده‌ها

وی افزود: همچنین، موضوع حریم خصوصی و امنیت داده‌ها مجدداً مورد تأکید قرار گرفته و در کنار آن، به مسئله جلوگیری از سلطه، اعم از سلطه انسان بر انسان یا اشکال نوین سلطه از طریق فناوری‌های هوش مصنوعی، توجه شده است. در حوزه سیاست‌گذاری نیز تلاش شده است تا رویکرد‌هایی همچون مردم‌محوری و تقویت الگو‌های تعاونی در بستر پلتفرم‌ها مطرح شود؛ به‌گونه‌ای که کاربران به‌جای ایفای نقش صرف در پلتفرم‌های متمرکز، در قالب ساختار‌های مشارکتی از منافع آن بهره‌مند شوند.

حسنی اظهار کرد: این سند همچنین به مفهوم «هوش مصنوعی مسئولیت‌پذیر» و صیانت از سرمایه‌های انسانی از جمله حافظه، خلاقیت و اعتماد به نفس در مواجهه با فناوری اشاره دارد. در حوزه آموزش و پژوهش نیز بر ضرورت رعایت اصول اخلاقی تأکید شده است. برای نمونه، در آیین‌نامه‌های مرتبط با پژوهش، استفاده از ابزار‌های هوش مصنوعی مجاز دانسته شده، اما بر لزوم شفافیت و اعلام صریح استفاده از این ابزار‌ها در فرآیند تحقیق تأکید شده است؛ هرچند در عمل، این توصیه‌ها با چالش‌هایی در اجرا مواجه هستند.

وی گفت: در جمع‌بندی ابعاد اخلاقی این سند می‌توان به مؤلفه‌هایی همچون توحیدمحوری، عدالت، کرامت انسانی، اخلاق اجتماعی، حفظ حریم خصوصی و امنیت داده‌ها، شفافیت، انصاف، عدم تبعیض، مسئولیت‌پذیری، پاسخگویی، حفظ استقلال و منافع ملی در برابر سلطه فراملی و نیز توسعه اخلاق هوش مصنوعی به‌عنوان حوزه‌ای میان‌رشته‌ای اشاره کرد. این مجموعه نشان‌دهنده تلاش برای تلفیق ارزش‌های دینی با ملاحظات جهانی در حوزه اخلاق فناوری است.

حسنی تصریح کرد: در مقایسه با رویکرد‌های بین‌المللی از جمله توصیه‌نامه اخلاق هوش مصنوعی یونسکو، تفاوت‌های مبنایی قابل توجهی مشاهده می‌شود. اسناد بین‌المللی عموماً بر مبنای نوعی قراردادگرایی و چارچوب‌های حقوق بشری شکل گرفته‌اند و منشأ ارزش‌ها را توافق جمعی انسان‌ها می‌دانند، در حالی‌که سند ملی ایران مبتنی بر جهان‌بینی توحیدی و معارف اسلامی است و اصول خود را از مفاهیمی، چون حیات طیبه، کمال انسانی و قرب الهی اخذ می‌کند. در سطح رویکرد نیز، اسناد بین‌المللی بیشتر بر جنبه‌های اجرایی و تنظیم‌گری متمرکز هستند، در حالی‌که در سند داخلی، توجه به فضایل اخلاقی درونی و همسویی با ارزش‌های جامعه اسلامی برجسته‌تر است.

وی بیان کرد: با وجود برخی اشتراکات ظاهری مانند تأکید بر شفافیت یا عدم تبعیض، این دو رویکرد از حیث منبع ارزش‌ها، نوع نگاه به انسان و اولویت‌های اخلاقی تفاوت‌های بنیادینی دارند. همین امر، چالش‌هایی را در زمینه انطباق و پیاده‌سازی توصیه‌های بین‌المللی در بستر بومی ایجاد می‌کند. از جمله این چالش‌ها می‌توان به عدم شکل‌گیری یک چارچوب منسجم در حوزه حقوق فردی، به‌ویژه در زمینه حریم خصوصی و حفاظت از داده‌ها اشاره کرد؛ موضوعی که با وجود تلاش‌های تقنینی از دهه‌های گذشته، هنوز به قانون جامع و کارآمدی منجر نشده است.

حسنی گفت: در نهایت، به نظر می‌رسد برای ایجاد پیوندی مؤثر میان تحولات جهانی در حوزه اخلاق هوش مصنوعی و اقتضائات فرهنگی و اجتماعی کشور، نیاز به رویکردی عمیق‌تر و فراتر از نگاه صرفاً فناورانه وجود دارد. این رویکرد باید بتواند ضمن حفظ مبانی ارزشی، به مطالبات نوین در حوزه حقوق فردی و اجتماعی نیز پاسخ دهد و زمینه‌ساز توسعه‌ای متوازن و مسئولانه در عرصه هوش مصنوعی باشد.