هوش مصنوعی در سلامت: امروز چه می‌تواند بکند، کجا شکست می‌خورد و چگونه مقررات‌گذاری می‌شود

هوش مصنوعی امروز در حوزهٔ سلامت چه می‌تواند بکند؟

هوش مصنوعی در حوزهٔ سلامت فناوری‌های بسیاری را در بر می‌گیرد، از نرم‌افزار تحلیل تصویر درون یک دستگاه اسکن تا چت‌بات‌های همه‌منظوره‌ای که به پرسش‌های سلامت پاسخ می‌دهند. بر پایهٔ شواهدی که در ادامه خلاصه شده است، تا ۳ نوامبر ۲۰۲۶ قوی‌ترین نتایج از ابزارهای محدود به دست آمده است که یک کار مشخص را انجام می‌دهند و برای همان کار آزموده و مجوز گرفته‌اند، و ضعیف‌ترین نتایج از چت‌بات‌های همه‌منظوره‌ای که مستقیماً به بیماران توصیه می‌دهند.

سازمان غذا و داروی ایالات متحده (FDA) فهرستی عمومی از دستگاه‌های پزشکی مجهز به هوش مصنوعی که مجوز عرضه در ایالات متحده را گرفته‌اند نگه می‌دارد ^[1]. شمارش این فهرست، که FDA آن را تا ۴ سپتامبر ۲۰۲۶ به‌روز اعلام کرده است، ۱٬۶۱۴ مورد را نشان می‌دهد که ۱٬۲۳۰ مورد در رادیولوژی، ۱۵۴ مورد در حوزهٔ قلب و عروق و ۷۳ مورد در عصب‌شناسی است ^[1]. FDA می‌گوید این دستگاه‌ها الزامات پیش از عرضهٔ مربوط، از جمله بازبینی متمرکز ایمنی و اثربخشی، را برآورده کرده‌اند ^[1].

سازمان جهانی بهداشت (WHO) کاربردهای مدل‌های مولد جدیدتر را در پنج حوزه دسته‌بندی می‌کند: تشخیص و مراقبت بالینی، استفادهٔ بیمارمحور مانند جست‌وجوی علائم، کارهای دفتری و اداری مانند مستندسازی ویزیت‌ها، آموزش پزشکی و پرستاری، و پژوهش علمی و توسعهٔ دارو ^[2].

این مطلب اطلاعات عمومی است و توصیهٔ پزشکی به شمار نمی‌رود. تصمیم‌گیری دربارهٔ سلامت خودتان باید با یک پزشک یا کادر درمانی صلاحیت‌دار انجام شود.

هوش مصنوعی در تصویربرداری پزشکی چگونه به کار می‌رود؟

اگر معیار را شمار محصولات مجوزدار بدانیم، تصویربرداری حوزه‌ای است که هوش مصنوعی در آن بیش از همه جا افتاده است: رادیولوژی حدود سه‌چهارم موارد فهرست FDA را تشکیل می‌دهد ^[1].

غربالگری سرطان پستان

شناخته‌شده‌ترین شواهد تصادفی‌سازی‌شده از کارآزمایی MASAI در برنامهٔ ملی غربالگری سوئد به دست آمده است که در چهار مرکز در جنوب‌غربی سوئد اجرا شد ^[3]. در این کارآزمایی ۱۰۵٬۹۳۴ زن به‌طور تصادفی به غربالگری با پشتیبانی هوش مصنوعی یا خوانش دوگانهٔ استاندارد توسط دو رادیولوژیست اختصاص یافتند ^[3]. سامانهٔ هوش مصنوعی، به نام Transpara، معاینه‌ها را برای خوانش یک‌نفره یا دونفره دسته‌بندی می‌کرد و یافته‌های مشکوک را برجسته می‌ساخت ^[3].

در گروه با پشتیبانی هوش مصنوعی ۳۳۸ سرطان (۶٫۴ در هر ۱٬۰۰۰ نفر) تشخیص داده شد، در برابر ۲۶۲ سرطان (۵٫۰ در هر ۱٬۰۰۰ نفر) با خوانش استاندارد، یعنی نسبتی برابر ۱٫۲۹ ^[3]. نرخ مثبت کاذب عملاً یکسان بود و نسبت ۱٫۰۱ داشت، و رادیولوژیست‌ها به‌جای ۱۰۹٬۶۹۲ خوانش، ۶۱٬۲۴۸ خوانش انجام دادند که ۴۴٫۲ درصد کاهش را نشان می‌دهد ^[3]. نویسندگان نتیجه گرفتند که هوش مصنوعی به تشخیص زودهنگام سرطان پستان با اهمیت بالینی کمک می‌کند ^[3]. این گزارش پیامدهای ثانویه را پوشش می‌داد؛ چکیدهٔ منتشرشده آن را تحلیلی از پیش تعریف‌شده در پروتکل دربارهٔ فراخوان مجدد، تشخیص، مثبت‌های کاذب و حجم کار توصیف می‌کند ^[3].

پیامد اصلی کارآزمایی، یعنی نرخ سرطان‌های فاصله‌ای (سرطان‌هایی که میان دو نوبت غربالگری تشخیص داده می‌شوند و غربالگری آن‌ها را نیافته بود)، در سال ۲۰۲۶ در نشریهٔ The Lancet منتشر شد ^[9]. نرخ سرطان‌های فاصله‌ای با پشتیبانی هوش مصنوعی ۱٫۵۵ در هر ۱٬۰۰۰ شرکت‌کننده و با خوانش استاندارد ۱٫۷۶ در هر ۱٬۰۰۰ شرکت‌کننده بود؛ نسبتی برابر ۰٫۸۸ که آزمون عدم برتری (non-inferiority) کارآزمایی را برآورده کرد. حساسیت ۸۰٫۵ درصد در برابر ۷۳٫۸ درصد بود و ویژگی در هر دو گروه ۹۸٫۵ درصد بود ^[9]. نویسندگان نوشتند که غربالگری با پشتیبانی هوش مصنوعی را می‌توان برای اجرا در عمل بالینی در نظر گرفت ^[9].

غربالگری چشم

هوش مصنوعی از بخش رادیولوژی فراتر هم رفته است. فهرست FDA شامل IDx-DR، دستگاهی چشم‌پزشکی با تاریخ مجوز ۱۱ آوریل ۲۰۱۸، و نسخه‌های بعدی و رقبایی مانند EyeArt است ^[1]. پایگاه دادهٔ De Novo در FDA، دستگاه IDx-DR را دستگاه تشخیص رتینوپاتی دیابتی طبقه‌بندی می‌کند که در همان تاریخ مجوز گرفته است ^[10].

هوش مصنوعی در حوزهٔ سلامت کجا شکست خورده است؟

هر ابزاری که به‌طور گسترده به کار گرفته شده، آن‌گونه که وعده داده شده بود عمل نمی‌کند. روشن‌ترین هشدار از مدل‌های پیش‌بینی بیمارستانی می‌آید که خطرهایی مانند سپسیس، یعنی واکنش تهدیدکنندهٔ زندگی به عفونت، را برآورد می‌کنند.

در سال ۲۰۲۱، پژوهشگران Michigan Medicine مدل سپسیس Epic، ابزاری اختصاصی که به‌طور گسترده به کار رفته است، را روی ۲۷٬۶۹۷ بیمار و ۳۸٬۴۵۵ مورد بستری به‌طور بیرونی اعتبارسنجی کردند ^[4]. این مدل به سطح زیر منحنی (AUC؛ معیاری از توانایی مدل در جدا کردن موارد بیماری از موارد غیربیماری، که در آن ۰٫۵ برابر با شانس و ۱٫۰ کامل است) برابر ۰٫۶۳ رسید ^[4]. این مدل در آستانهٔ هشدار خود ۱٬۷۰۹ بیمار مبتلا به سپسیس، یعنی ۶۷ درصد کل موارد، را شناسایی نکرد، در حالی که برای ۱۸ درصد همهٔ موارد بستری هشدار صادر کرد ^[4]. نویسندگان نتیجه گرفتند که این مدل قدرت تمایز و کالیبراسیون ضعیفی دارد و استفادهٔ گسترده از آن نگرانی‌هایی را دربارهٔ مدیریت سپسیس در سطح ملی برمی‌انگیزد ^[4].

نویسندگان همچنین گزارش دادند که این عملکرد به‌طور چشمگیری بدتر از ارقامی بود که توسعه‌دهندهٔ مدل گزارش کرده بود ^[4]؛ این نشان می‌دهد که نتایج گزارش‌شده از سوی توسعه‌دهنده، عملکرد در جای دیگر را تضمین نمی‌کند. سازمان جهانی بهداشت نیز برای به‌کارگیری‌های گسترده، حسابرسی‌های مستقل پس از عرضه و ارزیابی اثرات را توصیه می‌کند که نتایجشان بر اساس ویژگی‌های کاربران، مانند سن، نژاد یا معلولیت، تفکیک شده باشد ^[2].

آیا چت‌بات‌های هوش مصنوعی می‌توانند توصیهٔ پزشکی قابل اعتماد بدهند؟

مدل‌های زبانی بزرگ اکنون در بنچمارک‌های دانش پزشکی امتیازی در حد قبولی در آزمون صدور مجوز پزشکی آمریکا (USMLE) کسب می‌کنند، اما این بدان معنا نیست که به افراد در تصمیم‌گیری درست دربارهٔ علائم خودشان کمک می‌کنند ^[5]. یک پژوهش تصادفی‌سازی‌شده و از پیش ثبت‌شده که در ۹ فوریهٔ ۲۰۲۶ در نشریهٔ Nature Medicine منتشر شد، این موضوع را مستقیماً آزمود ^[5].

پژوهشگران دانشگاه آکسفورد و همکارانشان به ۱٬۲۹۸ بزرگسال بریتانیایی یکی از ده سناریوی پزشکی را دادند که بر پایهٔ خلاصه‌های دانش بالینی NICE و با همکاری پزشکان عمومی و پزشکان مراقبت‌های ویژه تهیه شده بود ^[5]. شرکت‌کنندگان از GPT-4o، Llama 3 یا Command R+ استفاده کردند، یا در گروه کنترل از هر منبعی که معمولاً به کار می‌بردند، که بیشتر جست‌وجوی اینترنتی بود ^[5].

• مدل‌ها به‌تنهایی به‌طور میانگین در ۹۴٫۹ درصد موارد بیماری‌های مرتبط و در ۵۶٫۳ درصد موارد اقدام درست بعدی (disposition) را تشخیص دادند ^[5].
• افرادی که از مدل‌ها استفاده کردند در کمتر از ۳۴٫۵ درصد موارد بیماری‌های مرتبط و در کمتر از ۴۴٫۲ درصد موارد اقدام درست را تشخیص دادند ^[5].
• گروه کنترل در تشخیص بیماری‌های مرتبط به‌طور معناداری بهتر از گروه‌های چت‌بات عمل کرد ^[5].

نویسندگان ریشهٔ شکست‌ها را در تعامل یافتند: کاربران اغلب جزئیات کلیدی مانند محل یا شدت علائم را از قلم می‌انداختند، پیشنهادهای درست را در پاسخ نهایی خود به کار نمی‌بردند و توصیه‌های ناسازگار دریافت می‌کردند؛ در سناریویی که خونریزی مغزی (خونریزی زیر عنکبوتیه) را توصیف می‌کرد، به یک کاربر گفته شد در اتاقی تاریک دراز بکشد، در حالی که به کاربر دیگری با علائم تقریباً یکسان گفته شد به اورژانس مراجعه کند ^[5]. آن‌ها نتیجه گرفتند که هیچ‌یک از مدل‌های آزموده‌شده برای به‌کارگیری در مراقبت مستقیم از بیمار آماده نیست و خواستار آزمون نظام‌مند با کاربران واقعی پیش از عرضهٔ عمومی شدند ^[5].

NIST، نهاد استانداردهای آمریکا، همین هشدار را به زبانی کلی می‌دهد: خلاصهٔ ساختگی (confabulated) از اطلاعات بیمار ممکن است پزشکان را به تشخیص یا درمان نادرست بکشاند ^[6].

هوش مصنوعی چگونه به پژوهش پزشکی و کشف دارو کمک می‌کند؟

هوش مصنوعی نه فقط در درمانگاه، بلکه در آزمایشگاه نیز به کار می‌رود. جایزهٔ نوبل شیمی ۲۰۲۴ میان دیوید بیکر، برای طراحی محاسباتی پروتئین، و دمیس هسابیس و جان جامپر از Google DeepMind، برای پیش‌بینی ساختار پروتئین، تقسیم شد ^[7]. آکادمی سلطنتی علوم سوئد اعلام کرد که مدل هوش مصنوعی آن‌ها، AlphaFold2، که در سال ۲۰۲۰ معرفی شد، برای پیش‌بینی ساختار تقریباً همهٔ ۲۰۰ میلیون پروتئینی که پژوهشگران شناسایی کرده‌اند به کار رفته است و بیش از دو میلیون نفر از ۱۹۰ کشور از آن استفاده کرده‌اند ^[7].

آکادمی یادآوری کرد که ساختار یک پروتئین در کارکرد آن تعیین‌کننده است و به کاربردهایی مانند فهم مقاومت آنتی‌بیوتیکی و تهیهٔ تصاویری از آنزیم‌هایی که می‌توانند پلاستیک را تجزیه کنند اشاره کرد ^[7]. سازمان جهانی بهداشت پژوهش علمی و توسعهٔ دارو، از جمله شناسایی ترکیبات تازه، را در شمار کاربردهای اصلی مدل‌های مولد در حوزهٔ سلامت می‌آورد ^[2].

خطرهای اصلی هوش مصنوعی در حوزهٔ سلامت چیست؟

مزایایی که تاکنون نشان داده شده است

• تشخیص بیشتر سرطان در غربالگری بدون افزایش مثبت‌های کاذب، همراه با حجم کمتر خوانش، در یک کارآزمایی بزرگ تصادفی‌سازی‌شده ^[3].
• بیش از ۱٬۶۰۰ دستگاه مجهز به هوش مصنوعی مجوزدار در فهرست FDA که به گفتهٔ این نهاد الزامات پیش از عرضه را برآورده کرده‌اند ^[1].
• پیش‌بینی ساختار پروتئین که بیش از دو میلیون نفر از ۱۹۰ کشور از آن استفاده کرده‌اند و با نوبل شیمی ۲۰۲۴ به رسمیت شناخته شد ^[7].
• نرخ سرطان فاصله‌ای غیرفروتر (non-inferior) و حساسیت بالاتر در تحلیل اصلی همان کارآزمایی غربالگری ^[9].

خطرهایی که سازمان جهانی بهداشت و دیگران شناسایی کرده‌اند

• خروجی‌های نادرست. سازمان جهانی بهداشت هشدار می‌دهد که مدل‌های بزرگ چندوجهی ممکن است گزاره‌هایی نادرست، غیردقیق، سوگیرانه یا ناقص تولید کنند که به افرادی که دربارهٔ سلامت خود تصمیم می‌گیرند آسیب برساند ^[2].
• سوگیری. مدل‌ها ممکن است با داده‌های بی‌کیفیت یا سوگیرانه آموزش دیده باشند، از جمله سوگیری بر پایهٔ نژاد، قومیت، جنس، هویت جنسیتی یا سن ^[2].
• سوگیری خودکارسازی. پزشکان و بیماران ممکن است خطاها را نادیده بگیرند یا تصمیم‌های دشوار را به سامانه بسپارند ^[2].
• عملکرد ضعیف در دنیای واقعی. همان‌طور که مدل سپسیس نشان داد، ابزارها ممکن است بیرون از محیطی که در آن توسعه یافته‌اند عملکرد ضعیف‌تری داشته باشند ^[4].
• حریم خصوصی. پژوهشگران استنفورد دریافتند که شش توسعه‌دهندهٔ پیشروی چت‌بات به‌طور پیش‌فرض از داده‌های گفت‌وگوی کاربران برای آموزش مدل‌هایشان استفاده می‌کنند و دربارهٔ هم‌رسانی داده‌های زیست‌سنجی و سلامت از سوی کاربران هشدار دادند ^[8].
• امنیت و دسترسی. سازمان جهانی بهداشت همچنین خطرهای امنیت سایبری برای اطلاعات بیماران و نابرابری در دسترسی به سامانه‌های برتر را برجسته می‌کند ^[2].

هوش مصنوعی در حوزهٔ سلامت چگونه مقررات‌گذاری می‌شود؟

مقررات به کارکرد نرم‌افزار بستگی دارد. در ایالات متحده، هوش مصنوعی‌ای که با تعریف دستگاه پزشکی منطبق باشد، از بازبینی پیش از عرضهٔ FDA می‌گذرد و این نهاد دستگاه‌های مجوزداری را که شناسایی می‌کند منتشر می‌کند ^[1]. FDA یادآوری می‌کند که فهرستش جامع نیست، زیرا دستگاه‌ها عمدتاً از طریق اصطلاحات مرتبط با هوش مصنوعی در خلاصه‌های مجوزشان شناسایی می‌شوند ^[1]. این نهاد همچنین می‌گوید راه‌هایی را برای شناسایی و برچسب‌گذاری دستگاه‌هایی که از مدل‌های پایه (foundation models)، از جمله مدل‌های زبانی بزرگ (LLM)، استفاده می‌کنند بررسی خواهد کرد ^[1].

چت‌بات‌های همه‌منظوره‌ای که مردم برای پرسش‌های سلامت از آن‌ها استفاده می‌کنند در این فهرست، که دستگاه‌های دارای مجوز عرضه را در بر می‌گیرد، نیستند ^[1]. سازمان جهانی بهداشت به دولت‌ها توصیه می‌کند که در حد امکانات، یک نهاد نظارتی موجود یا تازه را مأمور ارزیابی و تأیید مدل‌های بزرگ چندوجهی ویژهٔ کاربرد در سلامت کنند و با قانون‌گذاری اطمینان یابند که چنین سامانه‌هایی معیارهای اخلاقی و حقوق بشری را رعایت می‌کنند ^[2].

سازمان جهانی بهداشت همچنین از توسعه‌دهندگان می‌خواهد بیماران و متخصصان سلامت را از مراحل نخست طراحی مشارکت دهند و مدل‌ها را برای کارهای به‌خوبی تعریف‌شده و با دقت و قابلیت اطمینان لازم بسازند ^[2]. قواعد از کشوری به کشور دیگر متفاوت است و پیوسته تغییر می‌کند؛ برای آگاهی از الزامات کنونی، به نهاد ملی ناظر بر دارو یا تجهیزات پزشکی در کشور خود مراجعه کنید.

بیماران چگونه باید با ایمنی از ابزارهای سلامت مبتنی بر هوش مصنوعی استفاده کنند؟

1. پاسخ چت‌بات را نقطهٔ شروع بدانید، نه تشخیص. در پژوهش آکسفورد، افرادی که از چت‌بات‌ها استفاده کردند در تشخیص بیماری‌های مرتبط بهتر از گروه کنترل عمل نکردند ^[5].
2. اگر از آن استفاده می‌کنید، اطلاعات کامل بدهید، از جمله محل، شدت و دفعات بروز علائم؛ از قلم افتادن جزئیات یکی از علت‌های اصلی شکست بود ^[5].
3. برای علائم اورژانسی به‌جای پرسیدن از چت‌بات، فوراً به مراکز درمانی مراجعه کنید؛ این پژوهش برای سناریوهای تقریباً یکسان خونریزی مغزی توصیه‌های متضادی یافت ^[5].
4. از داده‌های سلامت خود محافظت کنید. از وارد کردن پرونده‌های پزشکی قابل شناسایی در چت‌بات‌های عمومی بپرهیزید، زیرا توسعه‌دهندگان آن‌ها معمولاً به‌طور پیش‌فرض از داده‌های گفت‌وگو برای آموزش استفاده می‌کنند ^[8].
5. از پزشک خود بپرسید که آیا در مراقبت از شما از ابزار هوش مصنوعی استفاده شده و نتایج آن چگونه بررسی شده است، با توجه به هشدار سازمان جهانی بهداشت دربارهٔ سوگیری خودکارسازی ^[2].

آیندهٔ هوش مصنوعی در حوزهٔ سلامت چه خواهد بود؟

شمار سالانهٔ مجوزها رو به افزایش بوده است: شمارش فهرست FDA نشان می‌دهد ۲۲۶ مورد با تاریخ تصمیم در ۲۰۲۳، ۲۳۵ مورد در ۲۰۲۴ و ۳۳۵ مورد در ۲۰۲۵ ثبت شده است ^[1]. FDA همچنین می‌گوید راه‌هایی را برای شناسایی و برچسب‌گذاری دستگاه‌هایی که مدل‌های پایه، از جمله مدل‌های زبانی بزرگ، را در خود دارند بررسی خواهد کرد ^[1].

آنچه همچنان نامعلوم است

• پیامدهای بلندمدت غربالگری با هوش مصنوعی. تحلیل‌های منتشرشدهٔ MASAI تشخیص، مثبت‌های کاذب، حجم کار ^[3]، سرطان‌های فاصله‌ای، حساسیت و ویژگی ^[9] را پوشش می‌دهند؛ مرگ‌های ناشی از سرطان پستان در شمار پیامدهای گزارش‌شده نبود.
• اینکه آیا می‌توان چت‌بات‌ها را برای توصیهٔ مستقیم به بیمار ایمن کرد. نویسندگان پژوهش آکسفورد دریافتند که هیچ‌یک از مدل‌های آزموده‌شده آماده نبود و آزمون با کاربران ضروری است ^[5].
• عملکرد ابزارها در بیمارستان‌ها و جمعیت‌های مختلف؛ چیزی که سازمان جهانی بهداشت می‌خواهد با حسابرسی‌های مستقل سنجیده شود ^[2] و پژوهش سپسیس نشان می‌دهد که نمی‌توان آن را مفروض گرفت ^[4].

تصویر کلی تا ۳ نوامبر ۲۰۲۶: هوش مصنوعی در کارهای مشخص و آزموده‌شده و زیر نظارت متخصصان، کمکی اثبات‌شده است و به‌عنوان جایگزین پزشک، اثبات‌نشده.