الاندفاع نحو استخدام الذكاء الاصطناعي في المستشفيات يثير قلق الباحثين

يستعين الأطباء في مستشفيات الولايات المتحدة بالذكاء الاصطناعي لأغراض التشخيص، وتصنيف المرضى حسب خطورة الحالة وأولوية استحقاقها للعلاج، وصياغة التقارير الطبية الإكلينيكية. غير أن الضوابط التي وُضعت لتنظيم استخدام أنظمة الذكاء الاصطناعي الطبية لم تواكب الإيقاع المتسارع للإقبال على تلك الأنظمة، حسبما ذكر باحثون في تقرير علمي نُشر بتاريخ الخامس من يونيو الجاري في دورية «بلوس ديجيتال هيلث» PLOS Digital Health1.

يوجه الباحثون أصابعهم إلى عدد من أوجه القصور التي تعتري آلية الموافقة على تلك الأنظمة من قِبل إدارة الغذاء والدواء الأمريكية، ويطرحون استراتيجيات أوسع، تتجاوز في مداها نطاق عمل إدارة الغذاء والدواء، لضمان مأمونية الأنظمة الطبية التي تعمل بالذكاء الاصطناعي وفعاليتها.

يُذكر أن إدارة الغذاء والدواء أعطت الضوء الأخضر لأكثر من ألف نظام من تلك الأنظمة الطبية القائمة على الذكاء الاصطناعي، والآن تتهافت المستشفيات على اقتنائها والعمل بها. ما يجعل أدوات الذكاء الاصطناعي مختلفة عن أغلب المنتجات التي تولت إدارة الغذاء والدواء تقنينها أن تلك الأدوات تستمر في التطور بعد الحصول على الموافقة؛ وذلك بالنظر إلى ما يطرأ عليها من تحديثات، أو لأنها تُدرَّب على بيانات جديدة. وهنا تنشأ الحاجة إلى مراقبة مستمرة، لا يتسع لها الإطار القانوني الحالي إلا في أضيق الحدود.

فتحُ هذا النقاش الآن يأتي في وقته تمامًا، في ظل ظهور مؤشرات على احتمال اتجاه الحكومة الفيدرالية الأمريكية إلى تخفيف القيود القانونية على الذكاء الاصطناعي. ففي يناير الماضي، ألغى الرئيس الأمريكي دونالد ترامب أمرًا تنفيذيًّا يتمحور حول أمان الذكاء الاصطناعي، متعللًا بالحاجة إلى إزالة معوقات الابتكار. وفي فبراير، طالت موجة التسريح من العمل موظفين بإدارة الغذاء والدواء كانوا يعملون في إدارة فرعية مختصة بالذكاء الاصطناعي والصحة الرقمية.

في غياب الرقابة الملائمة، لن نكون في مأمن من احتمال أن تعطي الخوارزميات الطبية إرشادات مضللة، بما يؤثر سلبًا في مستوى الرعاية المقدَّمة للمرضى. يقول ليو أنتوني سيلي، الباحث المتخصص في الطب الإكلينيكي بمعهد ماساتشوستس للتكنولوجيا بمدينة كامبريدج الأمريكية، وأحد المشاركين في كتابة التقرير: "لا بد من وجود تدابير للحماية، وأعتقد أنه ليس من الواقعي - بل وربما ليس من الممكن - التعويل على إدارة الغذاء والدواء وحدها في وضع كل تلك التدابير".

الحصول على الموافقة أسهل مما ينبغي

المعايير التي تستند إليها إدارة الغذاء والدواء في مراجعة أدوات الذكاء الاصطناعي الطبية واعتمادها عادة ما تكون أخف وأقل صرامة من المعايير المرعية في اعتماد الأدوية. ولأن هناك دولًا أخرى تسترشد بإدارة الغذاء والدواء فيما تتخذ من قرارات، فإن النهج الذي تتبعه هذه الهيئة الأمريكية ربما تكون له تداعيات عالمية. من القواعد المعمول بها في إدارة الغذاء والدواء، مثلًا، أنه لا يَلزم إخضاع الأدوات لتجربة إكلينيكية إلا في حالة الأدوات التي ربما تشكِّل خطورة عالية نسبيًا على حياة المريض. ومما يثير القلق أيضًا أن الخوارزميات الطبية كثيرًا ما تؤدي أداء متواضعا عند التعامل مع مجموعات سكانية مغايرة لتلك التي سبق أن دُرِّبت عليها. وبالنظر إلى هذه المآخذ وأوجُه النقص، يرى سيلي أن الموافقة القانونية على نظام ذكاء اصطناعي طبي ليست في حد ذاتها ضامنًا لأن يكون ذلك النظام نافعًا للفئة التي يُفترض أن تستفيد منه.

في التصور المثالي، يُنتظر من المستشفيات، قبل أن تستقر على تبنِّي هذه التقنيات، أن تقيِّم جودة الخوارزميات باختبارها على مرضاها، وأن تدرِّب الأطباء على قراءة مخرجاتها قراءة صائبة، والاستجابة لها استجابة سليمة. يقول سيلي إن "من أكبر التحديات التي تعيق تطبيق هذا التصور أن غالبية المستشفيات والعيادات لا تملك الموارد اللازمة لتعيين أطقُم من المتخصصين في الذكاء الاصطناعي" ليتولوا تنفيذ تلك الاختبارات. وأضاف أن دراسة منشورة في وقت سابق من العام الجاري2 انتهت إلى أن مستشفيات كثيرة تشتري أدوات ذكاء اصطناعي "جاهزة"، دون أن تتحقق بنفسها من جودة تلك الأدوات. يقول: "هذا سيُفضي بنا حتمًا إلى كارثة".

في التقرير العلمي المُشار إليه، يقترح سيلي وزملاؤه أن تتعاون الجامعات مع مؤسسات الرعاية الصحية على تقييم جودة الأجهزة الطبية التي تعمل بالذكاء الاصطناعي. يقول إن الفكرة تقوم على الاستعانة بالجامعات في "مساعدة قسم تقنية المعلومات بالمستشفى، وإعداد مجموعات البيانات، وتقييم الخوارزميات ومراقبة تأثيرها". وأضاف أن هذه الفكرة "لم تطبَّق من قبل، لكننا نعتقد أن الحلول التقليدية لن تحقق النجاح المنشود"، بالنظر إلى السرعة الكبيرة التي تتطور بها هذه التقنيات.

مساعدة خارجية

لا تملك إدارة الغذاء والدواء سلطة إلزام المستشفيات بإجراء مثل تلك الاختبارات بعد صدور الموافقة. "هذا ليس مما يقع في حدود صلاحياتها القانونية مطلقًا"، حسبما أفادت ميشيل ميلو، الباحثة المتخصصة في القوانين الصحية بجامعة ستانفورد في كاليفورنيا، التي أضافت: "السؤال المطروح دائمًا هو عن الجهة التي ستشارك في هذا الأمر إلى جانب إدارة الغذاء والدواء، وعن طبيعة الدور الذي ستقوم به".

من بين المؤسسات المطروحة للاضطلاع بهذا الدور، وفقًا لميلو، مراكز الرعاية الصحية والخدمات الطبية (CMS)؛ وهي وكالة أمريكية فيدرالية مسؤولة عن إدارة شؤون التأمين الصحي الحكومي لكبار السن ومحدودي الدخل وفئات أخرى. وذكرت ميلو أن هذه المؤسسة سوف يُعهد إليها بسلطة إلزام المنشآت الصحية باتخاذ نهج أشد صرامة في تقييم الأدوات القائمة على الذكاء الاصطناعي، واعتبار هذا شرطًا لتلقّيها دعمًا ماليًا عبر برامج التأمين الصحي الحكومية. ولفتت الباحثة إلى أن هذه المؤسسة لم تتأثر كثيرًا بموجة الاقتطاعات الفيدرالية الأخيرة.

من جانبه، شدد ديفيد أويانج، طبيب القلب بمركز «سيدارز سيناي» الطبي في لوس أنجلوس بولاية كاليفورنيا، على أهمية الدور الذي يمكن أن تلعبه شركات التأمين الصحي في الحث على إجراء اختبارات أكثر دقة وإحكامًا لأدوات الذكاء الاصطناعي. وأرجع السبب في عدم انتشار العديد من الأدوات التي حصلت على موافقة إدارة الغذاء والدواء إلى أنها غير مغطاة تأمينيًا.

وأضاف أن بإمكان شركات التأمين أن تطلب إجراء تقييم أكثر صرامة لأدوات الذكاء الاصطناعي كشرط للتغطية التأمينية. يقول: "الحقيقة أن متطلبات التحقق أعلى في شركات التأمين منها في إدارة الغذاء والدواء؛ ما يعني أننا نملك وسائل أخرى لتوفير الحماية عند استخدام الذكاء الاصطناعي".

^{هذه ترجمة المقال الإنجليزي المنشور في دورية Nature بتاريخ 9 يونيو 2025.}

اشترك للحصول على النشرة الإلكترونية المحدّثة كل أسبوعين لكي تبقى على اطلاع بكافة المستجدات على الموقع.