آشنایی با ۶ چالش هوش مصنوعی در ورود به حوزه‌ی سلامت و پزشکی
هوش مصنوعی به سرعت در حال تغییر دنیا است و به‌نظر می‌رسد با یک انقلاب در رشته‌های گوناگون مواجه هستیم. در بخش سلامت و پزشکی هم صدای پای هوش مصنوعی از گوشه و کنار به گوش می‌رسد. اما اگر کمی دقیق‌تر نگاه کنیم، متوجه می‌شویم داستان هوش مصنوعی و پزشکی با چالش‌های خاصی مواجه است که برخی از آنها در دیگر رشته‌ها وجود ندارد.
۱- ناقص‌بودن ابزارهای هوش مصنوعی فعلی
ابزارهای هوش مصنوعی طی چند سال گذشته پیشرفت قابل توجهی داشته‌اند، اما آنها برای عملکرد صحیح و دقیق به حجم زیادی از «اطلاعات کامل» و «صحیح» نیاز دارند. چیزی که در سیستم بهداشت و سلامت آنقدرها در دسترس نیست. اطلاعات پزشکی معمولا بسیار پراکنده هستند و ضمنا در مورد صحت بسیاری آنها نمی‌توان اطمینان داشت.
از طرف دیگر برخی اطلاعات پزشکی، محرمانه به حساب می‌آیند و نمی‌توان آنها را به‌راحتی و بدون کسب اجازه از بیمار، در اختیار هوش مصنوعی قرار داد و این خودش یک محدودیت مهم به حساب می‌آید.
در نتیجه ممکن است ابزارهای هوش مصنوعی، نتایج اشتباهی ارائه دهند و این جزو مهم‌ترین چالش‌هایی است که باید در نظر گرفته شود.
۲- اِکراه در استفاده از هوش مصنوعی
بسیاری از پزشکان در استفاده از ابزارهای هوش مصنوعی اکراه دارند. ما آموزش دیده‌ایم تا بر اساس شواهد و معاینات به جمع‌بندی بالینی برسیم و در نتیجه به راحتی نمی‌توان به حرف‌های یک الگوریتم هوش مصنوعی اطمینان کرد.
در این رابطه نیاز است ابزارهای هوش مصنوعی پزشکی به‌گونه‌ای طراحی شوند تا فرایند تصمیم‌گیری آنها به صورت شفاف در اختیار کادر پزشکی قرار بگیرد و امکان نظارت بر آن وجود داشته باشد. چیزی که هنوز در دسترس‌مان نیست و تا آن زمان احتمالا میزان اعتماد به ابزارهای هوش مصنوعی بالا نخواهد بود.
۳- پیچیدگی روال‌ها و اهمیت قوانین در پزشکی
قوانین و مقررات حوزه سلامت بسیار پیچیده‌تر و سخت‌گیرانه‌تر از دیگر رشته‌ها است. برای مثال در حوزه تولید نرم‌افزار، شما به راحتی سراغ استفاده از هوش مصنوعی می‌روید و ابزارهای گوناگون را امتحان می‌کنید. در بدترین شرایط، محصول شما حاوی باگ‌هایی خواهد بود که قابل رفع هستند. اما در حوزه‌ی سلامت شما با جان انسان‌ها سروکار دارید و جای زیادی برای آزمایش و خطا وجود ندارد.
در نتیجه تست‌ها و اعتبار سنجی‌های بسیار بیشتر باید انجام شود تا بتوانید به پیشنهادهای پزشکیِ هوش مصنوعی اعتماد کنید، وگرنه در جایگاه پزشک ممکن است گیر قانون بیفتید.
همین الان هم برخی پزشکان از ChatGPT مشورت می‌گیرند، اما در حال حاضر نمی‌توانید به پاسخ‌های ارائه شده اعتماد ۱۰۰ درصد داشته باشید. ابزارهای فعلی دچار انواع و اقسام اشتباهات هستند و حتی گاهی اوقات دچار توهم می‌شوند (واقعا به آن توهم هوش مصنوعی یا AI hallucination می‌گویند) و مثلا پاسخی بر اساس منبعی به شما می‌دهد که اگر آن را دنبال کنید متوجه می‌شوید اصلا چنین منبعی وجود ندارد! در نتیجه اگر بیمار دچار مشکل شود، مسئولیت کامل آن برعهده‌ی شما است.
۴- نیاز به سرمایه‌گذاری‌های بزرگ
ابزارهای هوش مصنوعی فعلی، علاوه بر حجم زیاد اطلاعات، به توان سخت‌افزاری قابل توجهی هم نیاز دارند که نیازمند سرمایه‌گذاری‌های بسیار بزرگ است و در دسترسی به آن محدودیت‌های زیادی وجود دارد.
چت‌جی‌پی‌تی مهم‌ترین محصولی بود که هوش مصنوعی را طی یک سال گذشته بسیار مشهور کرد. اما اگر نگاهی به زیرساخت‌های آن بیندازیم، متوجه می‌شویم روزانه حدود نیم میلیون کیلووات برق مصرف می‌کند که معادل مصرف حدود ۲۰۰ هزار خانه است و برای خنک‌نگه داشتن هزاران پردازشگرش، آب بسیار زیادی مصرف می‌شود. جالب است بدانید که یک بررسی غیررسمی تخمین زده هزینه نگهداری چت‌جی‌پی‌تی، روزانه نزدیک به یک میلیون دلار است!
۵- نبود یک فریم‌ورک استاندارد
در حال حاضر برای ساخت ابزارهای هوش مصنوعیِ پزشکی هیچ استاندارد تعریف‌شده‌ای وجود ندارد. ضروری است که یک چارچوب کلی تدوین شود تا تمام ابزارهای تولیدی از دستورالعمل‌هایش پیروی کنند و موارد مهمی مشخص گردد. از جمله:
- جمع‌آوری اطلاعات چگونه انجام شود؟
- فرایند صحت‌سنجی اطلاعات چطور باشد؟
- ملاحظات اخلاقی به چه شکل در نظر گرفته شوند؟
- و بسیاری موارد دیگر…
۶- نیاز به ارتباط بیشتر میان جامعه فناوری و پزشکی
اگر بخواهیم سرعت ورود هوش مصنوعی به حوزه‌ی پزشکی را افزایش دهیم، باید میان تکنولوژیست‌ها و پزشکان ارتباط دوستانه‌ی بیشتری برقرار کنیم.
تجربیات قبلی من (به عنوان فردی که در هر دو حوزه فعالیت می‌کند)، نشان داده هر کدام از این گروه‌ها از یک زاویه‌ی خاص و متفاوت به ماجرا نگاه می‌کنند و تنها با آموزش دو طرفه و به‌اشتراک‌گذاری اطلاعات است که گره‌ها باز می‌شود و حاصل آن پیشرفت متقابل خواهد بود.
https://medium.com/insights-of-nature/what-does-it-actually-takes-to-run-chatgpt-6fe9b891c691
)
