کد خبر: ۴۳۰۶۰۵۲

تاریخ: ۲۴ آبان ۱۴۰۴ - ۰۸:۱۴

در گفت‌وگو با ایکنا مطرح شد

هوش مصنوعی و تهدید ادبیات ایران

پژوهشگر حوزه هوش مصنوعی و علوم شناختی با بیان اینکه باید مراقب بود تا به اشتباه فناوری‌ها جایگزین خلاقیت انسانی نشوند، گفت: متخصصان هومَص و تولیدکنندگان آن تأکید دارند که هوش مصنوعی صرفاً یک ابزار کمکی است و امکان بروز خطا در آن وجود دارد و تنها استفاده درست و معقول از آن است که می‌تواند توانمندی نویسندگان را افزایش دهد و در این صورت است که دیگر تهدیدی برای ادبیات نیست.

در عصری که هوش مصنوعی قادر است متونی ظاهراً بی‌نقص و روان تولید کند، سؤال اساسی این است که آیا این متون می‌توانند جایگزین نوشته‌هایی شوند که از عمق تجربه، فرهنگ و روح انسان سرچشمه گرفته‌اند؟

هوش مصنوعی ممکن است ساختار زبانی را یاد بگیرد، اما «تجربه زیسته»، «حس فلسفی» و «هویت فرهنگی» نویسنده را شبیه‌سازی نمی‌کند. نوشتار انسانی نفس دارد؛ نفسی که از خاطرات شخصی، گویش محلی، تناقض‌های درونی و لحظات آشفته یا شاد سرچشمه می‌گیرد، در مقابل، ماشین تنها براساس الگو‌های آماری، واژه‌ها را کنار هم می‌چیند، بدون آنکه بتواند بار معنایی یا اخلاقی یک داستان را درک کند.

به‌مناسبت آغاز هفته کتاب و کتابخوانی برآن شدیم تا درخصوص آینده ادبیات و نگارش کتاب در عصر هوش مصنوعی را در گفت‌و‌گو با محمدرضا قاسمی، پژوهشگر حوزه هوش مصنوعی و علوم شناختی مورد بررسی قرار دهیم.

ایکنا- وقتی یک متن نوشته‌شده توسط هوش مصنوعی را می‌خوانید، چه نشانه‌هایی به شما می‌گویند که این نوشته «بی‌روح» یا «غیرانسانی» است؟ به نظر شما، چه چیزی در متون انسانی وجود دارد که هنوز برای ماشین‌ها غیرقابل جایگزینی است؟

امروزه، شاید از نظر فنی به نقطه‌ای رسیده باشیم که مدل‌های زبانی بتوانند متن تولید کنند، متن‌هایی که از نظر ظاهری بی‌نقص و چه بسا احساسی و درگیرکننده به نظر برسند، اما نباید فراموش کنیم که ماشین «تجربه زیست» ندارد و هوش مصنوعی از درک و فهم انسانی تهی است، هوش مصنوعی‌های امروزی از مدل ترنسفورمر (Transformer) استفاده می‌کنند که در حقیقت صرفاً ترکیبی آماری از میلیون‌ها متن موجود است.

مدل ترنسفورمر یک معماری شبکه عصبی است که برای پردازش زبان طبیعی (NLP) طراحی شده است، این مدل از مکانیزم توجه (Attention Mechanism) استفاده می‌کند تا ارتباط بین واحد‌های مختلف ورودی را به‌طور مستقیم مدل‌سازی کند و این امر به ترانسفورمر‌ها امکان می‌دهد تا بدون نیاز به یک حافظه طولانی مدت، ترتیب واحد‌های ورودی را درک کنند.

در این روش واژه‌ها و کلمات فقط به‌دلیل وزن و عددی که به آن‌ها نسبت داده شده، پشت سر هم ردیف می‌شوند و سامانه هوش مصنوعی در هر گام حتی از واژه‌های بعدی که قرار است نگارش یابند مطلع نیست، چه اینکه بتواند بار معنایی آن را بر دوش گرفته و تحلیل کند. بنابراین، هومَص (AI) ممکن است کتابی قابل‌قبول و روان بنویسد، اما این کتاب روح ندارد، هیچ نگاه فلسفی و تجربه انسانی در آن نهفته نیست و از ساختار کلان، یکپارچه و هوشمند بی‌بهره است.

باید مراقب بود تا به اشتباه این فناوری‌ها جایگزین خلاقیت انسانی نشوند و این توهم پدید نیاید که هومص واقعاً در حال نگارش یک کتاب است، متخصصان هومَص و تولیدکنندگان آن تأکید دارند که هوش مصنوعی صرفاً یک ابزار کمکی است و امکان بروز خطا در آن وجود دارد، این را باید به خاطر داشت که تنها استفاده درست و معقول از آن است که می‌تواند توانمندی نویسندگان را افزایش دهد و در این صورت است که دیگر تهدیدی برای ادبیات نیست.

ایکنا- هوش مصنوعی می‌تواند در قالب‌های مختلف نوشتار تولید کند. آیا فکر می‌کنید این فناوری بیشتر یک رقیب یا یک همکار برای نویسندگان است؟ لحظه‌ای را تصور کنید که هوش مصنوعی بتواند داستانی بنویسد که از نظر فنی بی‌عیب و نقص باشد؛ آیا همچنان به «نویسنده انسان» نیاز داریم؟

درباره کاربرد‌های هوش مصنوعی در فرآیند نوشتن کتاب باید گفت، هوش مصنوعی می‌تواند طرح داستان را پیشنهاد دهد، فصل‌بندی‌ها را بسازد، فهرست کتاب را منظم کند، لحن متن را متناسب با خواست نویسنده بازنویسی کند و حتی سبک نویسنده را تقلید کند، به این ترتیب زمان نوشتن را به‌شدت کاهش می‌دهد، درواقع مانند یک دستیار برای نویسنده عمل می‌کند، اما استفاده بی‌رویه از هومَص ممکن است به وابستگی ذهنی منجر شود.

اگر نسل جدید نویسندگان فقط به ماشین تکیه کنند، به تدریج مهارت ایده‌پردازی و خلاقیت را از دست می‌دهند و این خطر تا زمانی که نویسندگان به اپراتوری بی‌اراده و مطیع برای الگوریتم‌های هوش مصنوعی تبدیل شوند، ادامه خواهد داشت، در این راستا باید برنامه‌هایی آموزشی، ترویجی و استاندارد‌های اخلاقی تدوین شود تا نویسندگان فرابگیرند چگونه از این فناوری به شکل مسئولانه و صحیح استفاده کنند، هوش مصنوعی نباید توان خلاقیت را کاهش دهد.

ایکنا- هوش مصنوعی عرصه نویسندگی کتاب را با چه تهدید‌هایی مواجه کرده است؟

جعل هویت نویسنده و سوء‌استفاده از محتوای کتاب‌ها توسط هوش مصنوعی به یکی از مهم‌ترین چالش‌های این دوران تبدیل شده است. امروز نیز متونی در فضای مجازی با نام نویسندگان مشهور منتشر می‌شود، در صورتی که جعلی نوشته شده‌اند و تشخیص این موارد تقریباً غیرممکن است، البته ابزار‌هایی طراحی شده‌اند که به‌صورت برخط و آنلاین متن‌ها را بررسی کرده و تشخیص می‌دهند متن موردنظر ماشینی است یا انسانی، اما این ابزار‌ها نیز خطا دارند و با پیشرفت هر نسل جدید از مدل‌های هومَص کارشان سخت‌تر می‌شود.

به همین دلیل، جامعه علمی و دولت‌ها باید روی فناوری‌های جدیدی کار کنند که امضای هومَص مانند یک برچسب یا واترمارک دیجیتال ضمیمه محصولات تولیدی آن شود، تا توسط سیستم‌های اعتبارسنجی قادر به شناسایی متن انسانی از ماشینی باشند، درواقع باید به‌دنبال روش‌هایی که بتواند اصالت متن را تضمین کند، باشیم، اگر این ضمانت و شفافیت در محصولات علمی پدید نیاید، وارد عصری می‌شویم که اعتماد عمومی فرو می‌ریزد و دیگر نمی‌توان مطمئن بود چه چیز واقعی و چه چیز ساخته ماشین است.

از سوی دیگر، تجربه بشری نشان داده که این موضوع نیز قابل کنترل است، جوامع انسانی در مقابل چنین تهدیداتی همواره با تولید و تدوین چارچوب‌های حقوقی و تأسیس نهاد‌های نظارتی اوضاع را تحت کنترل قرار داده‌اند و درباره هومَص نیز این اتفاق در حال روی دادن و تحقق است. توجه داشته باشیم توانمندی هوش مصنوعی در تولید متن فقط یک مسئله فنی نیست بلکه مسئله‌ای فرهنگی، اخلاقی و حتی چه بسا سیاسی ا‌ست که از یک‌سو بسیار شگفت‌آور و جذاب است و باید از فرصت‌های آن استفاده کرد، از سوی دیگر باید مراقب سوءاستفاده‌ها هم بود و با توسعه ابزار‌های نظارتی و آموزشی، اعتماد عمومی را حفظ کرد.