منظمة الصحة العالمية تدرس مخاطر الذكاء الاصطناعي وفوائده بالنسبة للرعاية الصحية

يمكن للذكاء الاصطناعي التوليدي أن يحدث تحولا في الرعاية الصحية من خلال أشياء مثل تطوير الأدوية والتشخيص السريع، لكن منظمة الصحة العالمية حذرت يوم الخميس من المخاطر المحتملة في الاندفاع لتبني الذكاء الاصطناعي.

وكانت منظمة الصحة العالمية تدرس المخاطر والفوائد المحتملة التي تفرضها نماذج الذكاء الاصطناعي الكبيرة المتعددة الوسائط (LMMs)، والتي تعتبر جديدة نسبيا ويتم اعتمادها بسرعة في مجال الصحة.

في الذكاء الاصطناعي التوليدي، يمكن استخدام الخوارزميات المدربة على مجموعات البيانات لإنتاج محتوى جديد.

LMMs هي نوع من الذكاء الاصطناعي التوليدي الذي يمكنه استخدام أنواع متعددة من إدخال البيانات، بما في ذلك النصوص والصور والفيديو، وإنشاء مخرجات لا تقتصر على نوع البيانات التي يتم إدخالها في الخوارزمية.

وقال آلان لابريك، مدير الصحة الرقمية والابتكار في منظمة الصحة العالمية، في مؤتمر صحفي: "يقول البعض إن هذا يحاكي التفكير والسلوك البشري، والطريقة التي ينخرط بها في حل المشكلات بشكل تفاعلي".

وقالت منظمة الصحة العالمية إنه من المتوقع أن يكون للـ LMMs استخدام وتطبيق واسع النطاق في الرعاية الصحية والبحث العلمي والصحة العامة وتطوير الأدوية.

وحددت وكالة الصحة التابعة للأمم المتحدة خمسة مجالات واسعة يمكن تطبيق التكنولوجيا فيها.

وهي: التشخيص، مثل الرد على استفسارات المرضى المكتوبة؛ البحث العلمي وتطوير الأدوية؛ التعليم الطبي والتمريضي؛ المهام الكتابية؛ والاستخدام الموجه من قبل المريض، مثل فحص الأعراض.

إساءة الاستخدام، ضرر "حتمي"

وفي حين أن هذا أمر محتمل، فقد حذرت منظمة الصحة العالمية من وجود مخاطر موثقة من أن نتائج LMMs قد تؤدي إلى نتائج خاطئة أو غير دقيقة أو متحيزة أو غير كاملة.

وقد يتم تدريبهم أيضًا على البيانات ذات الجودة الرديئة، أو البيانات التي تحتوي على تحيزات تتعلق بالعرق أو الأصل العرقي أو النسب أو الجنس أو الهوية الجنسية أو العمر.

وحذرت منظمة الصحة العالمية من أنه "مع اكتساب LMMs استخدامًا أوسع في الرعاية الصحية والطب، فإن الأخطاء وسوء الاستخدام والضرر في نهاية المطاف للأفراد أمر لا مفر منه".

يمكن أن تؤدي إلى "تحيز الأتمتة"، حيث يعتمد المستخدمون بشكل أعمى على الخوارزمية - حتى لو كانت لديهم أسباب وجيهة للاختلاف.

وأصدرت منظمة الصحة العالمية يوم الخميس توصيات بشأن أخلاقيات وإدارة LMMs، لمساعدة الحكومات وشركات التكنولوجيا ومقدمي الرعاية الصحية على الاستفادة من التكنولوجيا بأمان.

وقالت منظمة الصحة العالمية إنها لا تريد انتظار بدء التطبيق في أماكن الرعاية الصحية لاكتشاف العيوب ثم محاولة إصلاحها بعد ذلك.

وقال كبير العلماء في منظمة الصحة العالمية، جيريمي فارار، إن "تقنيات الذكاء الاصطناعي التوليدي لديها القدرة على تحسين الرعاية الصحية، ولكن فقط إذا قام أولئك الذين يطورون وينظمون ويستخدمون هذه التقنيات بتحديد المخاطر المرتبطة بها ويأخذونها في الاعتبار بشكل كامل".

"نحن بحاجة إلى معلومات وسياسات شفافة لإدارة تصميم وتطوير واستخدام LMMs."

وقالت منظمة الصحة العالمية إن قواعد المسؤولية ضرورية "لضمان تعويض المستخدمين المتضررين من LMM بشكل مناسب أو حصولهم على أشكال أخرى من التعويض".

دور عمالقة التكنولوجيا

لقد تم استخدام الذكاء الاصطناعي في الصحة العامة والطب السريري لأكثر من عقد من الزمن، على سبيل المثال للمساعدة في الأشعة والتصوير الطبي.

ومع ذلك، شددت منظمة الصحة العالمية على أن أشكال LMM تمثل "مخاطر قد لا تكون المجتمعات والأنظمة الصحية والمستخدمون النهائيون على استعداد لمعالجتها بشكل كامل".

وتضمن ذلك مخاوف بشأن ما إذا كانت LMMs تمتثل للوائح الحالية، بما في ذلك حماية البيانات - وحقيقة أنها غالبًا ما يتم تطويرها بواسطة عمالقة التكنولوجيا، نظرًا للموارد الكبيرة المطلوبة، وبالتالي يمكن أن ترسخ هيمنة هذه الشركات.

وأوصى التوجيه بضرورة تطوير LMMs ليس فقط من قبل العلماء والمهندسين وحدهم ولكن مع تضمين المتخصصين الطبيين والمرضى.

وقال روهيت مالباني، من قسم أبحاث منظمة الصحة العالمية في قسم الصحة، إنه سيتعين على الحكومات ضمان الخصوصية عندما يتم تغذية المعلومات الصحية الحساسة للمرضى كبيانات - وإعطاء الناس فرصة لاختيار عدم المشاركة.

وحذرت منظمة الصحة العالمية من أن LMMs معرضة لمخاطر الأمن السيبراني التي يمكن أن تعرض معلومات المرضى للخطر، أو حتى موثوقية توفير الرعاية الصحية.

وقالت منظمة الصحة العالمية إنه يتعين على الحكومات تعيين جهة تنظيمية للموافقة على استخدام LMM في الرعاية الصحية، ويجب أن تكون هناك عمليات تدقيق وتقييمات للتأثير.

وقال لابريك إن التوجيهات "تمهد الطريق لمستقبل يساهم فيه الذكاء الاصطناعي في رفاهية البشرية، مع الالتزام بأعلى المعايير الأخلاقية".