شرکت اوپن‌ای‌آی با راه‌اندازی قابلیت «سلامتی در چت‌جی‌پی‌تی»، دسترسی این دستیار هوش مصنوعی را به پرونده‌های پزشکی، نتایج آزمایش‌ها و داده‌های سلامت کاربران در آمریکا ممکن کرده است. این اقدام در حالی صورت می‌گیرد که هفته‌ای بیش از ۳۰۰ میلیون نفر پرسش‌های مرتبط با سلامت را در این پلتفرم مطرح می‌کنند. با وجود تأکید اوپن‌ای‌آی بر حفظ حریم خصوصی و عدم استفاده از داده‌های سلامت برای آموزش مدل‌ها، کارشناسان نسبت به خطرات دریافت توصیه‌های پزشکی از هوش مصنوعی، از جمله ارائه پاسخ‌های نادرست و گمراه‌کننده، هشدار داده‌اند. این هشدارها پس از آن مطرح می‌شود که به تازگی یک شهروند آمریکایی به دلیل توصیه‌های پزشکی چت‌جی‌پی‌تی که او را در آستانه مرگ قرار داد، از این شرکت شکایت کرده است.