ابزار هوش مصنوعی جدید الگوریتم‌های درمانی را عادلانه‌تر می‌کند

شفقنا – تیمی از پژوهشگران آمریکایی، یک ابزار جدید هوش مصنوعی به نام «اِکوئیتی» توسعه داده‌اند که می‌تواند سوگیری‌ها و تعصبات پنهان در مجموعه‌داده‌های سلامت را شناسایی و کاهش دهد. این اقدام گامی حیاتی در مقابله با یک مشکل اساسی در حوزه هوش مصنوعی پزشکی است که می‌تواند بر دقت تشخیص و تصمیم‌گیری‌های درمانی تأثیر منفی بگذارد.

ابزارهای هوش مصنوعی که برای پشتیبانی از تصمیمات پزشکی (از تشخیص تا پیش‌بینی هزینه‌ها) استفاده می‌شوند، تنها به اندازه داده‌هایی که با آن‌ها آموزش می‌بینند دقیق عمل می‌کنند. پژوهشگران می‌گویند که برخی از گروه‌های جمعیتی ممکن است به اندازه کافی در مجموعه‌داده‌ها نماینده نداشته باشند و این امر باعث می‌شود که سیستم‌های آموزش‌دیده، مشکلات را به درستی تشخیص ندهند یا حتی سوگیری‌های موجود را تقویت کنند. این چرخه می‌تواند به مراقبت غیربهینه و نتایج ناخواسته، به‌ویژه برای گروه‌های کم‌نماینده، منجر شود.

ابزار اِکوئیتی به توسعه‌دهندگان و سیستم‌های درمانی کمک می‌کند تا پیش از استفاده از داده‌ها برای آموزش مدل‌های هوش مصنوعی، سوگیری‌ها را شناسایی و رفع کنند. این ابزار روی انواع داده‌های سلامت از جمله تصاویر پزشکی، سوابق بیماران و حتی نظرسنجی‌های بهداشت عمومی آزمایش شده است.

اکوئیتی قادر بود هم سوگیری‌های شناخته‌شده و هم سوگیری‌های جدید و نادیده‌گرفته‌شده را تشخیص دهد. پژوهشگران گزارش داده‌اند که این ابزار با طیف وسیعی از مدل‌های یادگیری ماشینی، از مدل‌های ساده تا سیستم‌های پیشرفته مانند مدل‌های زبان بزرگ، سازگار است و می‌تواند داده‌های ورودی و خروجی‌های پیش‌بینی‌شده را ارزیابی کند.

به گفته محققان، ابزارهایی مانند اکوئیتی گامی مهم در جهت ساخت سیستم‌های هوش مصنوعی عادلانه‌تر هستند، اما تنها بخشی از راه‌حل محسوب می‌شوند. اگر هدف خدمت‌رسانی به همه بیماران است، پیشرفت‌های فنی باید با تغییرات گسترده‌تری در نحوه جمع‌آوری و تفسیر داده‌ها در حوزه سلامت همراه شوند. این اقدام ریشه‌ای، اعتماد جامعه را به هوش مصنوعی افزایش می‌دهد و تضمین می‌کند که نوآوری‌ها برای همه بیماران مفید باشند.

این خبر را اینجا ببینید.