الموضوع 80 من 91· تسريع الذكاء الاصطناعي
التقييم التنظيمي للذكاء الاصطناعي
الأطر التنظيمية التي تحكم الذكاء الاصطناعي في الرعاية الصحية - نظام FDA للبرمجيات كأجهزة طبية (Software as a Medical Device - SaMD) بما يشمل خطط التحكم المُسبَق في التغيير (PCCPs)، وبرامج التقييم في العالم الواقعي مثل جائزة NHS للذكاء الاصطناعي في الصحة والرعاية - وما تكلفه هذه الأطر وما تتيحه اقتصاديًا.
لماذا يهم هذا
التنظيم يحدد كلًا من تكلفة الأدلة اللازمة لدخول السوق وتكلفة كل تحديث لاحق للنموذج - وبالنسبة لمنتجات الذكاء الاصطناعي، غالبًا ما يكون الثاني أكثر أهمية. النمط التقليدي لدى FDA (تجميد النموذج؛ إعادة الاعتماد عند أي تغيير) جعل التحسين المستمر مكلفًا اقتصاديًا بشكل قاسٍ. أما إرشادات PCCP (التي اعتُمدت نهائيًا في ديسمبر 2024) فقد غيّرت هذه الاقتصاديات: يمكن للجهة المصنِّعة أن تحصل على تفويض مسبق لتحديثات محددة مستقبلية للنموذج - وصف للتعديلات المخطط لها، وبروتوكول تعديل (كيفية التحقق من صحة كل تعديل)، وتقييم للأثر - بحيث تُطلَق التحسينات المصرَّح بها دون تقديم جديد. وقد حصل أكثر من 1,000 جهاز يعمل بالذكاء الاصطناعي على اعتماد FDA؛ كما تفحص FDA الآن مراقبة الأداء في العالم الواقعي (مقاييس محددة مسبقًا: معدلات الإيجابية/السلبية الكاذبة الأساسية، وانحراف المعايرة، ومؤشرات تحوّل النطاق).
الحساب
خطة PCCP هي تطبيق اقتصاديات زمن الاستجابة في DORA على النماذج الخاضعة للتنظيم:
تكلفة تحديث النموذج (النمط التقليدي) = تكلفة إعادة التقديم + تأخير المراجعة × تكلفة التأخير
تكلفة تحديث النموذج (نمط PCCP) = تكلفة تنفيذ البروتوكول فقط
اقتصاديات التحديث على مدى عمر المنتج:
N تحديث × (تكلفة التقديم + أشهر المراجعة × تكلفة التأخير شهريًا)
مقابل تكلفة إعداد PCCP لمرة واحدة + N × تنفيذ البروتوكول
وبالنسبة لنمط جائزة NHS للذكاء الاصطناعي، فإن مجموعة المقاييس أوسع من الدقة وحدها: التقييمات المستقلة في العالم الواقعي تقيّم الأداء السريري، وآثار سير العمل/التنفيذ، والأثر الاقتصادي - أي كامل مسار الفعالية النظرية ← الفعالية الفعلية ← فعالية التكلفة وقد أصبح مؤسسيًا.
مثال محلول
مورِّد لذكاء اصطناعي في الأشعة يخطط لتحسينات ربع سنوية للنموذج على مدى 3 سنوات (12 تحديثًا):
النمط التقليدي: 12 × (80 ألف£ تقديم + 4 أشهر × 50 ألف£/شهر تكلفة تأخير الفائدة)
= 12 × 280 ألف£ = 3.36 مليون£
مسار PCCP: 250 ألف£ إعداد PCCP + 12 × 30 ألف£ تنفيذ بروتوكول = 610 ألف£
التوفير ≈ 2.75 مليون£ - ويحصل المرضى على كل تحسين أبكر بنحو 4 أشهر:
12 × 4 أشهر × الفائدة السريرية لكل تحديث، وهو بند QALY قائم بذاته.
خطة PCCP هي اعتراف تنظيمي بأن تواتر النشر له قيمة سريرية - سلسلة السببية الرئيسية في هذا المرجع، معتمَدة من جهة تنظيمية.
الصلة بهندسة البرمجيات
هندسة PCCP بشكل جيد هي مشكلة برمجية: مجموعات تقييم محددة مسبقًا، ومجموعات بيانات ذات إصدارات، وخطوط أنابيب تحقق آلية، ومراقبة انحراف - النسخة الخاضعة للتنظيم من النشر المستمر، حيث "بوابة النشر" هي بروتوكول تم التحقق من صحته بدلًا من مراجعة الشفرة. الفرق ذات البنية التحتية الناضجة للتقييم (مقاييس جودة الذكاء الاصطناعي) تحصل على خطط PCCP بتكلفة زهيدة؛ أما الفرق التي تفتقر إليها فتكتشف أن القيد التنظيمي هو في الحقيقة قيد نضج هندسي. وبالنسبة للمنتجات التي تدخل NHS، فالمسار الموازي هو DTAC (السلامة السريرية، حماية البيانات، قابلية التشغيل البيني) إضافةً إلى مستويات أدلة إطار معايير الأدلة لـ NICE - ضع ميزانية لكل ذلك ضمن التكلفة الإجمالية للملكية لدخول السوق.
المزالق
- أحلام توسّع نطاق PCCP: فقط أنواع التعديلات المحددة تحصل على تفويض مسبق؛ التغييرات المعمارية أو الاستخدامات المقصودة الجديدة ما زالت تحتاج مراجعة كاملة.
- انحراف العالم الواقعي دون مراقبة: الاعتماد عند أداء الإطلاق + انحراف سكاني صامت = منتج يعمل خارج نطاقه المعتمَد؛ والمراقبة توقُّع تنظيمي ودفاع ذاتي في آنٍ واحد.
- الخلط بين الاعتماد والقيمة: اعتماد FDA/UKCA لا يعني أن أحدًا سيدفع - فتلك عقبة تقييم التقنيات الصحية، وتُدار بشكل منفصل.
المصادر
- FDA، برمجيات الأجهزة المزوّدة بالذكاء الاصطناعي / SaMD. https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-software-medical-device
- تحليل إرشادات تنفيذ PCCP. https://intuitionlabs.ai/articles/fda-pccp-implementation-guide-ai-ml-samd
- NHS England، دروس من التقييمات الواقعية لجائزة الذكاء الاصطناعي في الصحة والرعاية. https://www.england.nhs.uk/long-read/planning-and-implementing-real-world-ai-evaluations-lessons-from-the-ai-in-health-and-care-award/