سردبیر ارشد نشریه ساینس در سرمقالهای با نقد وعدههای «سریعتر، بهتر و ارزانتر» هوش مصنوعی، هشدار داده که این فناوری در نشر علمی نهتنها بار کاری را کم نکرده، بلکه با تولید انبوه مقالات پرخطا، هزینه و زمان بررسی آثار را به شدت افزایش داده و اعتماد عمومی به علم را تهدید میکند.
به گزارش فرهنگیان پرس، «هولدن ثورپ»، سردبیر ارشد کل نشریات ساینس، در آخرین شماره این نشریه معتبر علمی، به بررسی پیامدهای استفاده روزافزون از هوش مصنوعی در فرآیند انتشار مقالات پرداخته است. او در سرمقاله خود، شعار معروف طرفداران هوش مصنوعی که وعده انجام کارها را «سریعتر، بهتر و ارزانتر» میدهند، با واقعیت موجود در صنعت نشر علمی مقایسه کرده و به این پرسش اساسی پاسخ داده که آیا این وعدهها محقق شدهاند یا خیر.
ثورپ با اشاره به شعاری که در دهه ۱۹۹۰ از سوی مدیر وقت ناسا برای پیشرفت فناوری مطرح شده بود، معتقد است که امروز طرفداران هوش مصنوعی نیز همین رویه را دنبال میکنند. آنها معتقدند که با کاهش نیاز به نیروی انسانی، جامعه وارد دورهای از فراوانی خواهد شد و انسانها زمان بیشتری برای فعالیتهای خلاقانه خواهند داشت. با این حال، سردبیر ساینس با استناد به تاریخ انقلاب صنعتی دوم و نظریه مدیریت علمی «فردریک وینسلو تیلور»، نشان میدهد که افزایش بهرهوری ماشینها در آن دوران نه به کاهش فشار کاری، بلکه به استانداردسازی وظایف و افزایش نظارت بر کارکنان انجامیده است.
به اعتقاد ثورپ، صنعت نشر علمی امروز نیز نشانههایی از تکرار همین الگو را با ورود هوش مصنوعی تجربه میکند. بررسی دقیق خروجیهای تولیدشده توسط هوش مصنوعی به نیروی انسانی بیشتری نیاز دارد و این مسئله فرآیند انتشار را کندتر و پرهزینهتر کرده است. سردبیر ساینس در عین حال تأکید کرده که هوش مصنوعی در سالهای اخیر دستاوردهای زیادی داشته است؛ مدلهای زبانی بزرگ و دیگر سامانههای هوشمند توانستهاند در پیشبینی ساختار پروتئینها، تسریع کشف مواد جدید و حتی انجام بخشهایی از طراحی و تحلیل پژوهشها تحول ایجاد کنند.
با این حال، ثورپ به جنبه تاریک این موضوع نیز اشاره کرده و هشدار داده است که برخی ابزارهای هوش مصنوعی بیشتر از انسانها به رفتارهایی شبیه تخلفات پژوهشی از جمله انتخاب گزینشی دادهها، تغییر مکرر تحلیلهای آماری تا رسیدن به نتیجه مطلوب و در نهایت تولید مقاله بر اساس این خروجیها، گرایش دارند. پیامد این روند، افزایش خطاهایی مانند ارجاع به منابع ساختگی یا نادرست است که برخی از این خطاها پیش از این نیز وارد ادبیات علمی شدهاند.
سردبیر نشریه ساینس با اشاره به ماهیت مدلهای زبانی بزرگ، تأکید کرده که این سامانهها حقیقت را از طریق استدلال منطقی کشف نمیکنند، بلکه بر اساس پیشبینی محتملترین ارتباط میان واژهها و اطلاعات پاسخ را تولید میکنند. تلاشها برای بهبود آنها و جلوگیری از رفتارهای ناخواسته ممکن است بیفایده باشد، چون مدلهای زبانی بزرگ به سمت رفتارهای چاپلوسانه گرایش دارند و به دنبال آن هستند که پاسخهایی ارائه کنند که رضایت کاربر را جلب کنند.
این یادداشت به پیامدهای این وضعیت برای نشریات علمی پرداخته است. استفاده از هوش مصنوعی موجب افزایش سرعت تولید و پژوهش و در نتیجه افزایش تعداد مقالات ارسالی به نشریات علمی شده، اما همزمان میزان خطاهای موجود در این مقالات نیز افزایش یافته است. بار کاری ویراستاران و داوران نشریات علمی را نیز بیشتر کرده و ناشران ناچارند برای حفظ اعتبار پرونده علمی کنترلهای دقیقتری انجام دهند.
پیشینه موضوع نشان میدهد که نگرانیها درباره کیفیت مقالات علمی در عصر هوش مصنوعی، موضوع جدیدی نیست. بر اساس مطالعات علمسنجی انجامشده در ایران، تولیدات علمی حوزه هوش مصنوعی از سال ۱۳۸۱ تا ۱۴۰۲ با رشد چشمگیری همراه بوده و حوزه علوم انسانی با ۲۸۵ مقاله، فنی و مهندسی با ۱۸۲ مقاله و علوم پزشکی با ۱۰۲ مقاله بیشترین سهم را داشتهاند . با این حال، نگرانی اصلی در این میان، افزایش کمی با کاهش کیفی همزمان است؛ بهگونهای که برخی نشریات معتبر بینالمللی از جمله ساینس، نسبت به ورود مقالات ساختگی و دارای خطاهای فاحش ناشی از استفاده بیرویه از ابزارهای هوش مصنوعی هشدار دادهاند .
زیر ذرهبین فرهنگیان پرس
آنچه سردبیر ساینس به آن اشاره کرده، فراتر از یک هشدار صنفی برای ناشران علمی است و به یک چالش بنیادین برای نظام آموزشی و پژوهشی کشور تبدیل شده است. در ایران که تولید علم و انتشار مقالات معتبر، یکی از شاخصهای اصلی ارزیابی دانشگاهها و مراکز علمی محسوب میشود، ورود بیرویه ابزارهای هوش مصنوعی به فرآیند پژوهش، میتواند ضربهای جبرانناپذیر به اعتبار علمی کشور وارد کند. اساتید و پژوهشگران، بهویژه در حوزه علوم انسانی و اجتماعی که بیشترین تولیدات علمی مرتبط با هوش مصنوعی را داشتهاند ، باید بیش از پیش به موضوع ارجاعدهی دقیق و صحیح، راستیآزمایی دادهها و پرهیز از تولید مقالات کمکیفیت مبتنی بر خروجیهای هوش مصنوعی توجه کنند. همچنین ضروری است دانشگاهها و مراکز آموزش عالی، ضمن آشناسازی دانشجویان با فرصتهای هوش مصنوعی، آنها را با خطرات و محدودیتهای این فناوری نیز آشنا سازند تا نسل آینده پژوهشگران، از دام تولید محتوای کمکیفیت و مخدوشکننده ادبیات علمی در امان بمانند.
