کد خبر: ۴۳۱۶۳۱۰

تاریخ: ۲۱ آبان ۱۴۰۴ - ۱۰:۵۲

رضا داوری اردکانی بیان کرد

هوش مصنوعی ابزار قدرت است، نه خرد و دانایی

عضو پیوسته فرهنگستان علوم، هوش مصنوعی را مرحله‌ای تازه و خطرناک از تاریخ تکنولوژی دانست و گفت: مهم این است از هوش مصنوعی رو نگردانیم اما شیفته آن نباشیم که این با خرد و دانایی نمی‌سازد. هوش مصنوعی مانند هر تکنولوژی دیگر فایده‌ها دارد و از عهده کارهای بزرگ برمی‌آید اما در وضع کنونی بیشتر به کار ویرانگری می‌آید، زیرا قدرت در مسیر ویرانگری است. هوش مصنوعی نیز میلش به سوی قدرت است‌ و کاری به صلح و صلاح و بهبود زندگی انسان ندارد.

به گزارش ایکنا، همایش «مبانی علمی و فلسفی هوش مصنوعی» صبح امروز، چهارشنبه 21 آبان‌ماه در فرهنگستان علوم برگزار شد.

متن سخنرانی رضا داوری اردکانی استاد ممتاز دانشگاه تهران و عضو پیوسته فرهنگستان علوم به این همایش به شرح ذیل می‌باشد.

به نام خدایی که هرچه هست از اوست و علم را هم او به ما آموخته و ‌بخشیده است.

از استادان عزیز آقایان علی‌اکبر صالحی و جواد صالحی سپاسگزارم که سالخورده گوشه گرفته‌ای را به ایراد سخن در این مجلس شریف دعوت کردند. من افتاده و ناتوانم و سخنی که لایق چنین مجلسی باشد ندارم، اما چون خود را موظف به اجابت دعوت و اطاعت امر می‌دانم چیزی که به نظرم رسیده است نوشته‌ام و تقدیم می‌کنم.

نظرم این‌ است که هوش مصنوعی، چیزی بیش از یک ماشین عظیم پر از اطلاعات و اطلاعات پرداز است. هوش مصنوعی می‌تواند منشاء آثار مفید و مضر باشد. اما به احتمال قوی در جهانی که نشان مهر و دوستی در آن کمتر ‌‌پیدا‌ و میل به قهر و دشمنی غالب است، قدرت ویرانگری بیشتری دارد.

هوش مصنوعی، مرحله اخیر رشد تکنولوژی است و خدا کند که مرحله آخر آن نباشد. این تکنولوژی که حضور علم را در آن آشکارا می‌توان دید تعلق به عصری دارد که بشر در آن کوشید و تا حدودی توانست طبیعت و هر چه در جهان است را به تصرف خود درآورد و مهار کند. قوام این عصر با تکنیک بود. فهم و درک و تصور غالب این است که تکنیک وسیله‌ای در اختیار آدمی است و برای رفع نیازهای آدمی پدید آمده است. یعنی تکنیک را با حرفه و صنعت قدیم اشتباه می‌کنند اما تکنیک صورت کامل صنعت قدیم نیست و ‌از حیث ماهیت با آن تفاوت دارد.

کسانی که می‌پندارند تکنیک از جنس صنعت قدیم است ملتفت نیستند که تکنیک با خواست و بر اثر اظهار نیاز آنان پدید نیامده، بلکه از لوازم اصلی جهان مدرن برای تسخیر و تصرف طبیعت بوده و مردمان پس از پدید آمدن خود را به آن محتاج دیده و وابسته‌اش شده‌اند. کسانی هم تا آنجا پیش رفته ‌و گفته‌اند که ممکن است روزی بیاید که بشر برده تکنیک شود. آنچه محرز است اینکه تکنیک راه خود را می‌رود و به نیازهای مردمان کاری ندارد، بلکه می‌آید و مردمان را به آنچه آورده است نیازمند می‌سازد. هوش مصنوعی مرحله اخیر رشد تکنیک است و بیم آن می‌رود که آخرین مرحله آن باشد. زیرا دارای قدرتی است که می تواند جهان را به هر صورتی که می‌خواهد تصویر کند و با دگرگون جلوه دادن وضع جهان و احوال مردمان و حوادث و کارها و چیزها، نظم جهان را بر هم زند و هر آشوبی که بتواند در هر جا پدید آورد.

اکنون وقتی از هوش مصنوعی می‌گوییم، بیشتر نظر به فایده‌اش داریم و بر لزوم برخورداری از آن تأکید می‌کنیم و کمتر می‌اندیشیم که این ماشین هوشمند بر سر جهان و مردم جهان چه می‌تواند بیاورد. اگر اثر وجودی‌اش چیزی باشد که تاکنون از آن دیده‌‎ایم، بیشتر می‌توانیم آن را خطرناک بدانیم. هوش مصنوعی با لطیفه‌های عجیبی که زیر دام و دانه خود دارد، می‌تواند در یک لحظه جهان را پرآشوب و حتی نابود کند. این گمان که اختیار هوش مصنوعی به دست صاحبان آن است، توهم بدی است. هوش مصنوعی در جایی وجود دارد که آنجا کانون قدرت باشد و همواره با قدرت است نه در اختیار دانشمندان.

هوش مصنوعی انسان خردمند نیست. طراحان آن نیز در ابتدا نمی‌خواستند که انسان مصنوعی بسازند، شاید از جهاتی به انسان مصنوعی شبیه باشد. بعضی از رمانتیک‌های اروپا صورتی از بشر مصنوعی را در خیال خود پرورده بودند که یکی از آنها هیولای فرانکنشتاین بود. موجودی خطرناک که ویرانگر بود و آدم می‌کشت. اما بالاخره کشته شد. نمی‌دانیم اگر هوش مصنوعی هم به کارهای خطرناک دست بزند و حامل طرحی برای کشتار آدمیان باشد، مردمانی باقی می‌مانند که بتوانند او را از میان بردارند. شاید اگر بخواهد همه چیز را نابود کند وقتی کارش را انجام داد وجودش دیگر وجهی نداشته باشد و خود به خود از میان برود.

آنچه اکنون اهمیت دارد این است که از هوش مصنوعی رو نگردانیم اما شیفته آن نباشیم که این شیفتگی با خرد و دانایی نمی‌سازد. هوش مصنوعی مانند هر تکنولوژی دیگر فایده‌ها دارد و از عهده کارهای بزرگ برمی‌آید اما در وضع کنونی بیشتر به کار ویرانگری می‌آید، زیرا قدرت در مسیر ویرانگری است. هوش مصنوعی نیز میلش به سوی قدرت است‌ و کاری به صلح و صلاح و بهبود زندگی انسان ندارد. شاید بتواند با محاسبه صلاح را تشخیص دهد اما آن را ترجیح نمی‌دهد، زیرا در بند خوب و بد و زشت و زیبا نیست. سرمایه‌اش اطلاعات است بی‌آنکه از خرد عملی بهره داشته باشد. ما اکنون نسبتی با تکنیک داریم که نمی‌توانیم از آن رو بگردانیم. امیدواریم هوش مصنوعی هرچه هست پایان تکنولوژی نباشد.

از دانشمندان مجلس استدعا دارم به پرسش‌ها و ابهام‌هایی که در باب کارکرد هوش مصنوعی وجود دارد پاسخ بدهند. هوش مصنوعی تنها تکنیکی است که مردم نیز به آن اظهار علاقه می‌کنند و در انتظار آنند و چه خوب است به آنها گفته شود که چه انتظارهایی با آن برآورده می‌شود و چه کارهایی از عهده اش برنمی‌آید. مشکل اساسی این است که از این ساخته دست آدمی، می‌توان سؤال و درخواست داشت اما نمی‌توان برایش تکلیف معین کرد. جهان کنونی را تکنیک راه می‌برد و متاسفانه نمی‌دانیم این راه به کجا می‌رود. سخن را با درود و احترام به حاضران گرامی پایان می‌دهم.

رضا داوری اردکانی

آبان 1404