ينبغي أن تكون التقنيات الصحية القائمة على الذكاء الاصطناعي شفافة. ومعظمها ليس كذلك.

أبرز النقاط

• لا يكون ادعاء الدقة مفيدًا إلا عندما يمكن فحص طريقة التقييم والأخطاء التي يستند إليها.
• أبلغ هذا التقييم القديم عن ثلاثة أخطاء عبر ١٠٦ اختبارات؛ وهو لقطة لذلك التشغيل.
• يحتاج الذكاء الاصطناعي السريري إلى إبلاغ صادق عن الإخفاقات وعن التحسينات على حد سواء، ولا يزال على الممارسين الصحيين مراجعة مخرجاته.

ينبغي أن تكون التقنيات الصحية القائمة على الذكاء الاصطناعي شفافة. ومعظمها ليس كذلك.

لذا إليكم أمرًا لا تكاد أي شركة في موقعنا تدوّنه كتابةً: لا تجتاز Hanah اختباراتنا المعيارية الداخلية بدقة مثالية. ففي أحدث جولة تقييم لدينا، عبر ١٠٦ اختبارات، ارتكبت ٣ أخطاء. يؤلمني أن أنشر ذلك، ولهذا السبب تحديدًا أنشره.

كل غريزة يغرسها دليل البرمجيات التقليدي في المؤسس تقول له أن يدفن هذا الرقم. وإن بدا الدفن غير نزيه أكثر من اللازم، فهناك دائمًا الخيار الألطف: تجميله. تُرخون طريقة التقييم. تختارون مجموعة حالات اختبار أكثر ودًّا. تختارون مقياس الدقة الذي يجمّل صورتكم، وتُزيلون بالتوحيد الأخطاء التي تُحتسب ضدكم، وتنقّحون التفريغات النصية المرجعية بهدوء حتى تختفي الفجوة. هناك عشرات الطرق التي تبدو محترمة لتحويل ٩٧% حقيقية إلى ١٠٠% تسويقية. نعرفها كلها، ولهذا تحديدًا نرفض استخدام أي منها.

الرقم الذي لا يمكن إعادة إنتاجه ليس اختبارًا معياريًا

إنه تسويق يرتدي معطف مختبر. فاللحظة التي نسمح فيها لأنفسنا بتعديل التقييم بهدوء حتى تبدو النتيجة جيدة، يتوقف الاختبار المعياري عن قياس المنتج ويبدأ بقياس استعدادنا لمجاملة أنفسنا. وهذا عديم القيمة للممارس الصحي الذي يقرر ما إذا كان سيثق بالأداة أمام المريض.

لذا نتمسك بالاتجاه المعاكس. يُقيَّم معدل خطأ الكلمات لدينا بصرامة وشفافية، على مجموعة تسجيلات مرجعية ذات إصدارات، مع عرض المنهجية كاملة على صفحة الاختبار المعياري الأسترالية: اقرؤوها وتحققوا من عملنا. لا نعدّل التفريغات النصية يدويًا لخفضه، ولا نلجأ إلى توحيد متساهل لنجعل أسبوعًا سيئًا يبدو جيدًا. وعندما يتغيّر الرقم، فإنه يتغيّر لأن المنتج تغيّر فعلًا، إلى الأفضل أو إلى الأسوأ، ويمكننا أن نبيّن السبب.

التقنيات الصحية ليست برمجيات إنتاجية

لهذا التمييز أهمية هنا تفوق أهميته في أي مجال آخر تقريبًا، لأن ثمن الخطأ ليس متماثلًا.

ليست Hanah تطبيقًا لإدارة المشاريع، حيث يكلّف الإكمال التلقائي السيئ أحدهم بضع ثوانٍ. ولا هي حتى منصة للحوكمة أو الامتثال، أي فئة GRC على غرار Delve التي تتمثل مهمتها كلها في أن تكون جديرة بالثقة، حيث أسوأ الاحتمالات تدقيق فاشل وربع سنة محرج. هذا سجل سريري. يقع بين الممارس الصحي والمريض، في النقطة نفسها التي يمكن أن ينتقل فيها خطأ صامت إلى قرار بشأن رعاية شخص ما.

«تظاهر بالنجاح حتى تنجح» شعار مقبول تمامًا لتطبيق مشاركة صور. أما في التقنيات الصحية فهو إهمال متنكّر في زي الطموح. فالمخاطر لا تغفر التهوّر.

كيف تبدو المساءلة فعلًا

ليست شعارًا على صفحة الأسعار. فهي تعني لنا بضعة التزامات ملموسة وغير مريحة:

• نقيس أنفسنا مقابل اختبار معياري ثابت وصارم وننشر المنهجية كاملة، كي يمكن التحقق من الرقم بدلًا من قبوله على سبيل الثقة.
• يراجع ممارس صحي كل مُخرَج ويعتمده قبل أن يصل إلى السجل، فالإنسان هو خط الدفاع الأخير، بحكم التصميم، لا كفكرة لاحقة.
• عندما نخطئ في شيء، نفضّل أن نخبركم أين أخطأنا على أن تكتشفوا ذلك بأنفسكم. تلك الأخطاء الثلاثة ليست حاشية نأمل أن تتجاوزوها. إنها جوهر المسألة.

نفضّل أن نعرض عليكم ٩٧% صادقة على أن نبيعكم ١٠٠% مختلقة.

الحقيقة غير المريحة أن الشفافية الجذرية عيب تنافسي حتى اللحظة التي تصبح فيها الشيء الوحيد الذي يثق به أي أحد. وفي مجال يدّعي فيه الجميع الدقة ولا يُظهر فيه أحد طريقة عمله، فإن كون الشركة هي التي تُظهر طريقة عملها ليس زاوية تسويقية. إنه المنتج نفسه.

نرى أن بقية القطاع ينبغي أن تُقاس بالطريقة نفسها: بشكل علني، وقابل لإعادة الإنتاج، بما في ذلك المرات التي تقصر فيها. ويسعدنا أن نكون أول من يبدأ.

الأسئلة الشائعة

هل يعرض هذا المقال أحدث اختبار معياري؟

يصف التقييم المنشور مع هذا المقال. وللاطلاع على التشغيلات الأحدث ومنهجياتها، راجعوا تقارير الدقة الحالية.

لماذا تُنشر الأخطاء إلى جانب رقم الدقة؟

تخفي النسبة المئوية الرئيسية ما حدث من أخطاء. ونشر المنهجية والإخفاقات يتيح للقرّاء تقييم معنى النتيجة وحدودها.

هل يُغني الاختبار المعياري القوي عن مراجعة الملاحظات؟

لا. فالاختبار المعياري عيّنة من الأداء، ولا يزال الذكاء الاصطناعي قادرًا على إغفال المعلومات أو اختلاقها. وينبغي للممارس الصحي التحقق من كل مسودة.