شرکت اوپنایآی با راهاندازی قابلیت «سلامتی در چتجیپیتی»، دسترسی این دستیار هوش مصنوعی را به پروندههای پزشکی، نتایج آزمایشها و دادههای سلامت کاربران در آمریکا ممکن کرده است. این اقدام در حالی صورت میگیرد که هفتهای بیش از ۳۰۰ میلیون نفر پرسشهای مرتبط با سلامت را در این پلتفرم مطرح میکنند. با وجود تأکید اوپنایآی بر حفظ حریم خصوصی و عدم استفاده از دادههای سلامت برای آموزش مدلها، کارشناسان نسبت به خطرات دریافت توصیههای پزشکی از هوش مصنوعی، از جمله ارائه پاسخهای نادرست و گمراهکننده، هشدار دادهاند. این هشدارها پس از آن مطرح میشود که به تازگی یک شهروند آمریکایی به دلیل توصیههای پزشکی چتجیپیتی که او را در آستانه مرگ قرار داد، از این شرکت شکایت کرده است.
به گزارش فرهنگیان پرس، شرکت اوپنایآی روز پنجشنبه (اول مرداد) بهطور رسمی قابلیت «سلامتی در چتجیپیتی» (Health in ChatGPT) را برای کاربران بزرگسال در ایالات متحده راهاندازی کرد. این قابلیت به کاربران اجازه میدهد تا حساب «سلامت اپل» (Apple Health) و پروندههای پزشکی خود را به این پلتفرم متصل کرده و دادههایی نظیر نتایج آزمایشها، فهرست داروها، اطلاعات خواب و فعالیت بدنی را در اختیار این دستیار هوش مصنوعی قرار دهند. به گفته اوپنایآی، با کسب اجازه از کاربر، چتجیپیتی میتواند نتایج جدید را با سوابق قبلی مقایسه، تغییرات وضعیت سلامت را از آخرین مراجعه به پزشک خلاصهسازی و ارتباط میان خواب، فعالیت بدنی و ورزش را با روند سلامت فرد بررسی کند .
بر اساس گزارش رسمی اوپنایآی، هفتهای بیش از ۳۰۰ میلیون نفر در سراسر جهان از چتجیپیتی برای پرسشهای مرتبط با سلامت استفاده میکنند که این موضوع نشاندهنده شکاف عمیق در نظامهای سلامت و تمایل مردم به یافتن پاسخهای سریع و در دسترس است . در همین راستا، تانزیم چودری، مدیر نوآوری سلامت در دانشگاه کرنل تک، در گفتگو با شبکه خبری سیبیاس اعلام کرد: «نظام سلامت ما دچار مشکل است و به همین دلیل شاهد هستیم که افراد زیادی به دنبال مشاوره از هوش مصنوعی هستند» . با این حال، او تأکید کرد که کاربران باید خطرات به اشتراکگذاری اطلاعات پزشکی و احتمال دریافت پاسخهای نادرست یا گمراهکننده از سوی هوش مصنوعی را در نظر بگیرند .
اوپنایآی در بیانیه خود تصریح کرده است که اطلاعات پزشکی و سوابق سلامت کاربران برای آموزش مدلهای هوش مصنوعی یا نمایش تبلیغات هدفمند استفاده نخواهد شد و این قابلیت با لایههای امنیتی و رمزنگاری بیشتر عرضه شده است. همچنین کاربران میتوانند در هر زمان دسترسی به اطلاعات خود را قطع کنند و دادهها تا ۳۰ روز پس از قطع ارتباط از سیستمهای اوپنایآی حذف خواهد شد . با این حال، ویشال میسرا، استاد علوم رایانه دانشگاه کلمبیا و معاون رئیسدانشکده در حوزه محاسبات و هوش مصنوعی، نسبت به حریم خصوصی و به اشتراکگذاری اطلاعات شخصی هشدار داده و میگوید: «همان خطراتی که در به اشتراکگذاری دادههای سلامت با هر نهاد دیگری وجود دارد، در اینجا نیز صدق میکند. شما در حال به اشتراکگذاری چیزی بسیار شخصی هستید» .
هشدار جدی درباره آسیبهای واقعی
راهاندازی این قابلیت در حالی صورت میگیرد که نگرانیها درباره آسیبهای واقعی هوش مصنوعی در حوزه سلامت به اوج خود رسیده است. به گزارش رویترز، یک کشیش ۵۵ ساله اهل فلوریدا به نام اسکات وینترز، روز چهارشنبه (۳۰ تیر) از شرکت اوپنایآی و سام آلتمن، مدیرعامل آن، به دلیل توصیههای پزشکی «بسیار خطرناک» چتجیپیتی شکایت کرد که به گفته او، او را تا «آستانه مرگ» پیش برد . بر اساس این شکایت، وینترز که از سرگیجههای مکرر رنج میبرد، در اوایل سال جاری از چتجیپیتی نسخه GPT-4o (که دیگر در دسترس نیست) مشاوره پزشکی گرفته بود. این ربات به او توصیه کرد که در خانه بماند و حرکت نکند و حتی در پاسخ به سوالی درباره درد کشاله ران، آن را بیخطر دانست. روز بعد، وینترز به دلیل آمبولی ریه (لخته شدن خون در هر دو ریه) در بیمارستان بستری شد که پزشکان علت آن را بیتحرکی ناشی از توصیههای چتجیپیتی تشخیص دادند .
شکایت وینترز همچنین ادعا میکند که این ربات با استفاده از باورهای مذهبی او، او را تشویق به ادامه اعتماد به توصیههای خود کرده است. چتجیپیتی در یکی از پاسخها به وینترز گفته بود: «حتی این نیز تحت نظر خداست» و «خدا بدن تو را برای شکست بیپایان طراحی نکرده است» . وینترز مدعی است که این پاسخها «حس اعتماد خطرناکی را در او پرورش داد و او را از خانوادهای که او را به مراجعه به پزشک تشویق میکردند، جدا کرد» . این شکایت در حالی مطرح میشود که اوپنایآی اخیراً ادعا کرده بود که مدلهای جدید آن «در سطحی بهتر از پزشکان» استدلال میکنند، هرچند که کران سینگال، مسئول بخش سلامت این شرکت، بلافاصله این ادعا را تعدیل کرد .
زیر ذرهبین فرهنگیان پرس
ورود هوش مصنوعی به حوزه سلامت، با وجود تمام مزایای بالقوه مانند دسترسی آسان به اطلاعات و تحلیل روندهای سلامت، یک هشدار جدی برای نظامهای آموزشی و سلامت در سراسر جهان از جمله ایران است. تجربه تلخ کاربران آمریکایی نشان میدهد که اعتماد کورکورانه به فناوریهای نوین بدون نظارت و شفافیت، میتواند عواقب جبرانناپذیری داشته باشد. در ایران که نظام سلامت با چالشهای جدی از جمله کمبود پزشک متخصص در مناطق محروم و هزینههای بالای درمان مواجه است، ممکن است افراد آسیبپذیر و کمبضاعت به سمت ابزارهای هوش مصنوعی ناقص برای تشخیص و درمان سوق داده شوند. این مسئله ضرورت بازنگری در سیاستگذاریهای حوزه سلامت دیجیتال و ایجاد چارچوبهای نظارتی قوی برای جلوگیری از بروز فجایع مشابه را بیش از پیش آشکار میسازد. همچنین این رویدادها نشان میدهد که نظام آموزشی کشورها باید سواد سلامت دیجیتال را به عنوان یک اولویت در برنامههای درسی بگنجاند تا دانشآموزان و دانشجویان با درک درست از فرصتها و تهدیدهای این فناوریها، از سلامت خود در برابر توصیههای مخرب هوش مصنوعی محافظت کنند.
