کد خبر: ۴۲۱۸۱۹۴

تاریخ: ۰۵ خرداد ۱۴۰۳ - ۱۳:۳۳

نجاتی حسینی بیان کرد:

شیفته هوش مصنوعی هستیم و به مخاطرات آن بی‌توجهیم

پژوهشگر مطالعات اجتماعی ضمن اشاره به مخاطرات جهانی و ملی هوش مصنوعی تصریح کرد: حکمرانی هوش مصنوعی با چالش‌هایی مواجه است که اگر رفع نشوند مزاحم حکمرانی هوش مصنوعی خواهند بود و اجازه نمی‌دهند حکمرانی بر هوش مصنوعی به نحو احسن انجام شود و از آنجا که شیفته خدمات هوش مصنوعی شده‌ایم کمتر متوجه مخاطرات آن هستیم.

به گزارش ایکنا، نشست «جامعه‌شناسی حکمرانی هوش مصنوعی و حکمرانی هوشمند مصنوعی» با سخنرانی سیدمحمود نجاتی حسینی، پژوهشگر مطالعات علم و دین امروز 5 خرداد در فضای مجازی برگزار شد که گزیده آن را در ادامه می‌خوانید؛

حکمرانی موضوعی است که در دو دهه اخیر مورد توجه قرار گرفته است و سازمان ملل متحد یک پروژه به حکمرانی خوب اختصاص داده که نشان می‌دهد مسئله‌ای جهانی است. حتی ارتباط حکمرانی با هوش مصنوعی موضوعی جهانی و عام است هرچند جامعه‌شناسان آن را در سطح محلی هم مورد توجه قرار دادند. سخنم را در چند بخش ارائه می‌کنم؛ در بخش اول به مسئله حکمرانی می‌پردازم و می‌گویم حکمرانی چیست و چرا مهم است. در بخش دوم درباره حکمرانی هوش مصنوعی و حکمرانی بر هوش مصنوعی یعنی کنترل هوش مصنوعی صحبت می‌کنم. در بخش سوم به چالش‌های حکمرانی هوش مصنوعی توجه می‌کنم. در بخش چهارم به مسائل حکمرانی هوش مصنوعی و حکمرانی هوشمند مصنوعی می‌پردازم و بررسی می‌کنم در ایران این دو نوع حکمرانی با چه چالش‌هایی مواجه است.

ماهیت حکمرانی مجموعه اقدامات و سیاست‌های نرمالی است که جامعه اتخاذ می‌کند تا امور فرهنگی، اقتصادی، سیاسی، اجتماعی و ... خودش را در حصر مقتضیات فرهنگی و تاریخی از طریق مشارکت دولت با بخش‌های خصوصی و جامعه مدنی تامین کند؛ یعنی مشارکت بین دولت و مردم و افکار عمومی از طریق نهادهای رسمیت‌یافته و منتظم. اصل بحث حکمرانی این است، یعنی دولت یا حکومت وجود داشته باشد ولی حکومت نکند یا به اصطلاح دولت حداقل و کوچک باشد که آزادی‌های مدنی را تامین کند، حاکمیت داخلی و خارجی را اعمال کند، وظیفه دفاعی‌اش را اعمال کند ولی مابقی کارها را به به بخش خصوصی و بخش عمومی و جامعه مدنی بسپارد. منظور از بخش خصوصی شرکت‌های خصوصی هستند و منظور از جامعه مدنی نهادهای واسطی هستند که بین مردم و دولت واسطه هستند و می‌توانند منویات دولت را به مردم انتقال بدهند و مطالبات مردم را از طریق رسانه‌های آزاد و جنبش‌های اجتماعی به دولت انتقال دهند.

بر این اساس حکمرانی خوب حکمرانی است که دولتی داشته باشد که حکمرانی شیشه‌ای و شفاف داشته باشد و چیزی را از مردم پنهان نکند. بنابراین یکی از ویژگی‌هایش وجود دولت شیشه‌ای است. ویژگی دیگر پاسخگویی، حس مسئولیت‌پذیری دولت و از همه مهمتر اینکه مشارکت‌پذیری و مشارکت‌گرایی و مشارکت‌جویی در دولت بالا باشد تا دولت حداقلی وجود داشته باشد.

فرصت‌ها و مخاطرات هوش مصنوعی

حال با وجود حکمرانی خوب چطور می‌توان با هوش مصنوعی کنار آمد. اینکه هوش مصنوعی چیست نیاز به بحث ندارد. پیشرفته‌ترین سیستمی است که جانشین هوش بیولوژیک و طبیعی شده و کارها را از طریق هوشی که دست‌ساز انسان است انجام می‌دهد. هوش مصنوعی را در تمام حوزه‌های فرهنگی، اقتصادی، اجتماعی می‌بینیم و اسکای روم و سیستم اینترنتی جلوه‌هایی از آن هستند. هوش مصنوعی در حقیقت دو جلوه مهم دارد؛ یکی اینکه خدماتی می‌شود از هوش مصنوعی برای پیشبرد امور گرفت که این خدمت قابل انکار نیست، در عین حال ریسک‌هایی هم دارد. غیر از خطراتی که عینی است و می‌تواند زندگی ما را ناامن کند، یکسری احساس خطر هم نسبت به آن داریم. لذا سازمان ملل متحد در همین سال مجمعی برگزار کرد تا ببیند چطور می‌تواند مقرراتی را برای کنترل هوش مصنوعی تنظیم کند.

بنابراین حکمرانی هوش مصنوعی در پی این است اطمینان پیدا کند که هوش مصنوعی امن است و زندگی انسان را به خطر نمی‌اندازد، ثانیاً اخلاقی است و علیه انسان و موجودات طبیعی مورد استفاده قرار نمی‌گیرد. ثالثاً حرمت و کرامت انسان را مورد توجه قرار می‌دهد. خصوصا از لحاظ اسلامی هیچ جلوه‌ای از هوش مصنوعی نباید کرامت انسان را به خطر بیندازد، چراکه انسان بر اساس الهیات قرآنی خلیفه خدا در زمین است. لذا هوش مصنوعی نباید این ویژگی را به مخاطره بیندازد.

حکمرانی هوش مصنوعی با چالش‌هایی مواجه است که اگر رفع نشوند اینها مزاحم حکمرانی هوش مصنوعی می‌شوند یعنی اجازه نمی‌دهند این حکمرانی بر هوش مصنوعی به نحو احسن انجام شود. اینها چالش‌های هوش مصنوعی است که مخصوص ایران نیست. یکی فراانسانی بودن است؛ هرچند هوش مصنوعی ادامه هوشمندی انسان است اما جنبه‌های انسان در آن کمتر و فراتر از انسان است. فراانسانی بودن مخاطراتی را ایجاد می‌کند که یکی از آنها فراشناختی بودن هوش مصنوعی است و فقط یک بخش از هوش مصنوعی تن به شناخت‌پذیری ما داده و توانستیم آن را تحلیل کنیم. وقتی چیزی فراتر از شناخت ما باشد، قابل مدیریت و پیش‌بینی نخواهد بود. فراتحلیل بودن یکی دیگر از چالش‌های هوش مصنوعی است. در دنیای جدید باید یکسری اطلاعات داشته باشیم تا بتوانیم بر اساس آنها تحلیل کنیم و به دانش و تبیین برسیم و در نهایت پیش‌بینی کنیم. لذا فراتحلیل بودن هوش مصنوعی یکی از چالش‌هایی است که حکمرانی هوش مصنوعی را درگیر خود می‌کند. وقتی هوش مصنوعی فراشناختی و فراتحلیلی است، فراپیش‌بینی هم هست و نمی‌توان آن را پیش‌بینی کرد. اگر نتوانیم پیش‌بینی کنیم، نمی‌توانیم کنترل کنیم.

علاوه بر چالش‌های حکمرانی هوش مصنوعی، در ایران با چه چالش‌هایی مواجه هستیم که برایش راهگشایی کنیم؟ از آنجا که ما شیفته خدمات هوش مصنوعی هستیم کمتر متوجه مخاطرات آن هستیم، خصوصا چون رقابت میان کشورها وجود دارد بیشتر سرگرم استفاده از خدمات هوش مصنوعی هستیم. وقتی تکنولوژی جدید در کشورمان وارد می‌شود تا چند دهه شیفته آنهستیم  و بعد متوجه می‌شویم می‌تواند مخاطراتی داشته باشد.

به جای سیاست‌گرایی درگیر سازمان‌گرایی هستیم

یکی از چالش‌ها حال‌گرایی به جای آینده‌گرایی است. کمتر به آینده نگاه می‌کنیم و بیشتر امروزمان را می‌بینیم. این یکی از ویژگی‌های جامعه ماست که درگیر زمان حال است. چالش دوم این است که درگیر سازمان‌گرایی باشیم تا سیاست‌گرایی.  برای هر چیزی سازمان درست می‌کنیم و این سازمان‌گرایی ما را درخودش محاصره کرده و اجازه نمی‌دهد بهره‌وری داشته باشیم. سازمان‌گرایی موجب شده به سیاست‌گذاری نرسیم. چالش دیگر داخلی‌گرایی به جای خارجی‌گرایی است. فکر می‌کنیم چطور از هوش مصنوعی برای رفع مشکلات داخلی استفاده کنیم. تا حدی خوب است ولی افراط در آن موجب می‌شود از پیشرفت‌های هوش مصنوعی در خارج غافل شویم و نتوانیم وارد عرصه رقابت شویم. چالش دیگر این است که درگیر امنیت‌گرایی هستیم تا علمی‌گرایی. همه کشورها از هوش مصنوعی در راستای امنیت ملی‌شان استفاده می‌کنند اما امنیت‌گرایی بر پایه علم‌گرایی است.

چالش دیگر این است دچار سمینارگرایی هستیم تا سیاست‌پژوهی. این خصیصه موجب شده برای هر چیز سمینار برگزار کنیم، ولی سمینار حدی دارد. سمینار و نشست و هم‌اندیشی خوب است ولی تبدیل به سندرم شده است و موجب می‌شود که نتوانیم سیاست‌پژوهی داشته باشیم. چالش دیگر شعارگرایی است. شعارگرایی بسیار قوی است ولی ریل‌گذاری نداریم. شعارگرایی را هم در امور سیاسی، فرهنگی و حقوقی می‌بینید. اگر شعارگرایی موجب شود که افکارمان را معرفی کنیم، برای شروع خوب است ولی اکتفا کردن به شعار لطمه می‌زند.

چه توصیه‌هایی کمک می‌کند تا بر این چالش‌ها غلبه کنیم و حکمرانی هوش مصنوعی داشته باشیم؟ نمی‌توان اطمینان داشت این توصیه‌ها اجرا شود، بلکه فقط حدس‌هایی است که مطرح می‌شود. به عنوان برآیند این بحث اولین توصیه این است که بر چالش‌ها غلبه کنیم و دانشمان را راجع‌به هوش مصنوعی گسترش دهیم، ثانیاً مدیران تصمیم بگیرند حکمرانی هوش مصنوعی را اجرا کنند. اکنون همه چیز دولتی است و حکمرانی حضور ندارد. حکمرانی یعنی جامعه در سیاست‌گذاری و سیاست‌پژوهی حضور داشته باشد. اگر اینها در آینده وجود داشته باشند، می‌توانیم اطمینان پیدا کنیم که هم هوش مصنوعی را کنترل کنیم و هم بر اساس آن حکمرانی مناسبی داشته باشیم.