جوجل تسحب ملخصات صحية من ‘نظرات الذكاء الاصطناعي’ بعد تحذيرات من معلومات مضللة

أزالت جوجل الأحد عدداً من ملخصاتها الصحية ضمن ميزة “نظرات الذكاء الاصطناعي” (AI Overviews)، وذلك في أعقاب تحقيق أجرته صحيفة الغارديان كشف عن تعريض المستخدمين للخطر بسبب معلومات خاطئة ومضللة. جاءت هذه الإزالة بعد أن وجدت الصحيفة أن ميزة الذكاء الاصطناعي التوليدي من جوجل قدمت معلومات صحية غير دقيقة في أعلى نتائج البحث، مما قد يدفع مرضى يعانون من حالات خطيرة إلى استنتاج خاطئ بأنهم بصحة جيدة.

عطلت جوجل استعلامات محددة، مثل “ما هو النطاق الطبيعي لاختبارات دم الكبد؟”، بعد أن أشار خبراء اتصلت بهم الغارديان إلى أن النتائج خطيرة. كما سلط التقرير الضوء على خطأ فادح يتعلق بسرطان البنكرياس؛ فقد اقترح الذكاء الاصطناعي على المرضى تجنب الأطعمة الغنية بالدهون، وهي توصية تتعارض مع الإرشادات الطبية القياسية للحفاظ على الوزن ويمكن أن تعرض صحة المريض للخطر. ورغم هذه النتائج، لم تقم جوجل إلا بتعطيل الملخصات الخاصة باستعلامات اختبارات الكبد، تاركة إجابات أخرى قد تكون ضارة متاحة.

كشف التحقيق أن البحث عن معايير اختبارات الكبد أنتج جداول بيانات خام (تسرد إنزيمات محددة مثل ALT و AST والفوسفاتاز القلوي) افتقرت إلى السياق الأساسي. كما فشلت ميزة الذكاء الاصطناعي في تعديل هذه الأرقام لتناسب التركيبة السكانية للمرضى، مثل العمر والجنس والعرق. وحذر الخبراء من أن تعريف نموذج الذكاء الاصطناعي لـ “الطبيعي” غالباً ما يختلف عن المعايير الطبية الفعلية، مما قد يدفع المرضى الذين يعانون من أمراض كبد خطيرة إلى الاعتقاد خطأً بأنهم أصحاء وتخطي الرعاية اللازمة للمتابعة. إن هذا التباين بين ما يقدمه الذكاء الاصطناعي والواقع الطبي يمثل تحدياً حقيقياً لسلامة المعلومات.

فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة الكبد البريطانية، صرحت للغارديان بأن اختبار وظائف الكبد هو مجموعة من اختبارات الدم المختلفة، وأن فهم النتائج “معقد ويتطلب أكثر بكثير من مجرد مقارنة مجموعة من الأرقام”. وأضافت أن “نظرات الذكاء الاصطناعي” تفشل في التحذير من أن الشخص قد يحصل على نتائج طبيعية لهذه الاختبارات بينما يعاني من مرض كبد خطير ويحتاج إلى مزيد من الرعاية الطبية. ووصفت هيبديتش هذا الاطمئنان الكاذب بأنه “قد يكون ضاراً للغاية”.

رفضت جوجل التعليق على عمليات الإزالة المحددة لصحيفة الغارديان. لكن متحدثاً باسم الشركة صرح لموقع ذا فيرج بأن جوجل تستثمر في جودة “نظرات الذكاء الاصطناعي”، لا سيما فيما يتعلق بالمواضيع الصحية، وأن “الغالبية العظمى تقدم معلومات دقيقة”. وأضاف المتحدث أن فريق الشركة الداخلي من الأطباء راجع ما تم مشاركته و”وجد أن المعلومات في العديد من الحالات لم تكن غير دقيقة وكانت مدعومة أيضاً بمواقع ويب عالية الجودة”.