روت إحدى قريباتي قصصاً طريفة ومثيرة للاستغراب من واقع عملها في خط المساعدة الصحية خلال جائحة «كوفيد»، حيث كانت مهمتها مساعدة المتصلين على إجراء اختبارات التدفق الجانبي السريعة، التي استخدمت بالملايين خلال فترات الإغلاق العام.
وكان بعض المتصلين في حالة ارتباك شديد حيال إجراءات الاختبار، كما ظهر بوضوح حين سأل أحدهم: «لقد شربت السائل الموجود في الأنبوب.. ماذا علي أن أفعل الآن؟».
تعكس هذه الواقعة نموذجاً صارخاً لإشكالية تكنولوجية متجذرة في عالمنا المعاصر، حيث كثيراً ما تختلف الطريقة التي يتعامل بها الأفراد العاديون مع المنتجات والخدمات عن الرؤية المثالية التي يتخيلها المصممون في مختبراتهم. وفي بعض الأحيان، لا يكون هذا الاستخدام الخاطئ عفوياً، بل قد يتخذ طابعاً متعمداً، سواء بدافع الإبداع أم الإضرار.
فعلى سبيل المثال، عمدت منظمة «مراسلون بلا حدود» إلى توظيف خوادم لعبة «ماينكرافت» لإخفاء محتوى محظور بهدف حماية حرية التعبير في عدد من الدول ذات الأنظمة الاستبدادية.
بينما اتجه المجرمون نحو استغلال الطابعات ثلاثية الأبعاد المنزلية لتصنيع أسلحة يستحيل تتبعها، غير أن معظم حالات سوء الاستخدام تأتي بشكل غير مقصود كما شهدنا في حالة اختبارات «كوفيد».
وهو ما يمكننا تسميته «مشكلة سوء الاستخدام غير المقصود»، ولعل الأعطال التقنية التي نواجهها اليوم في أنظمتنا الذكية ما هي إلا نتيجة مباشرة لهذا الاستخدام الخاطئ، ولعل هذا الخطأ غير المتعمد يحدث خلال التفاعل مع روبوتات الدردشة.
وتبرز روبوتات الدردشة متعددة الأغراض مثل «تشات جي بي تي» نموذجاً لافتاً لهذه الإشكالية، إذ يستخدمها 17% من الأمريكيين - على الأقل مرة شهرياً - للتشخيص الذاتي لمخاوفهم الصحية، نظراً لامتلاكها قدرات تكنولوجية مبهرة كانت ستبدو قبل سنوات قليلة وكأنها ضرب من الخيال.
وبحسب اختبارات متعددة، استطاعت أفضل النماذج الحالية مجاراة الأطباء البشريين في مجالات المعرفة السريرية وفرز الحالات وتلخيص النصوص والاستجابة لاستفسارات المرضى،.
ويكفي أن نشير إلى تلك الأم البريطانية التي نجحت قبل عامين في استخدام «تشات جي بي تي» لتشخيص متلازمة «الحبل المربوط» لدى ابنها، وهو التشخيص الذي عجز عن اكتشافه 17 طبيباً.
تفتح هذه التطورات الباب أمام احتمالية أن تتحول روبوتات الدردشة يوماً ما إلى «البوابة الرئيسية» لمنظومة الرعاية الصحية، ما يعزز إمكانية الوصول إلى الخدمات الطبية بتكاليف أقل.
وقد تجلى ذلك في تصريح ويس ستريتنج - وزير الصحة البريطاني - هذا الأسبوع، حين وعد بتطوير تطبيق هيئة الخدمات الصحية الوطنية البريطانية باستخدام تقنيات الذكاء الاصطناعي لتوفير ما وصفه بـ «طبيب في جيبك يوجهك خلال رحلة علاجك».
إلا أن الواقع يكشف تبايناً جوهرياً بين الاستخدامات المثلى المحتملة لهذه التقنيات والطرق الشائعة التي يستخدمها الناس بالفعل، فقد أماطت دراسة حديثة أجراها معهد «أكسفورد» للإنترنت اللثام عن عيوب مقلقة في هذا المجال، حيث يواجه المستخدمون العاديون صعوبات بالغة في توظيف هذه التقنيات بكفاءة.
وللتحقق من ذلك، أجرى الباحثون تجربة عشوائية مضبوطة شملت 1298 مشاركاً لاختبار قدرتهم على استخدام روبوتات الدردشة للتعامل مع 10 سيناريوهات طبية مختلفة - تضمنت حالات الصداع الحاد وكسور العظام والالتهاب الرئوي.
حيث طلب من المشاركين تحديد الحالة الصحية واقتراح المسار العلاجي الموصى به، واستخدمت الدراسة ثلاثة من روبوتات الدردشة المتقدمة: «جي بي تي-4» أو من شركة «أوبن إيه آي»، و«لاما 3» من «ميتا»، و«كوماند آر+» من «كوهير»، وجميعها تتمتع بخصائص متباينة نسبياً.
والمفارقة أن روبوتات الدردشة تمكنت من تحديد الحالات الطبية بدقة في 94.9% من الحالات عندما تم إدخال السيناريوهات مباشرة إلى نماذج الذكاء الاصطناعي، بينما انخفض معدل النجاح إلى 34.5% فقط عندما تفاعل المشاركون مع هذه النماذج.
حيث قدموا معلومات منقوصة وغالباً ما أساءت الروبوتات تفسير استفساراتهم. القدرات التقنية للنماذج نفسها ولم تتغير، إنما اختلفت المدخلات البشرية، ما أفضى إلى نتائج متباينة تماماً.
واللافت أن المشاركين في التجربة حققوا نتائج أسوأ حتى من المجموعة الضابطة التي لم تستخدم روبوتات الدردشة واكتفت بمحركات البحث التقليدية.
ولا تعني نتائج هذه الدراسات أنه يجب علينا التوقف عن استخدام روبوتات الدردشة للحصول على المشورة الطبية، لكنها تشير بوضوح إلى ضرورة أن يولي المصممون اهتماماً أكبر بكثير للطريقة التي قد يستخدم بها الأشخاص العاديون هذه الخدمات، ويقول لي أحد مؤسسي شركات الذكاء الاصطناعي:
يميل المهندسون عادة إلى الاعتقاد أن الناس هم من يستخدمون التكنولوجيا بشكل خاطئ، وبالتالي يتم تحميل أي خلل في الاستخدام إلى المستخدم نفسه، بينما يعد الأخذ بعين الاعتبار المهارات التكنولوجية للمستخدم أمراً جوهرياً في عملية التصميم.
وتزداد أهمية هذا الاعتبار بشكل خاص مع المستخدمين الباحثين عن المشورة الطبية، إذ غالباً ما يكونون أشخاصاً يائسين أو مرضى أو مسنين تظهر عليهم علامات التدهور الإدراكي.
وقد تمثل روبوتات الدردشة الصحية المتخصصة حلاً جزئياً لهذه المعضلة، غير أن دراسة حديثة أجرتها جامعة «ستانفورد» كشفت أن بعض روبوتات الدردشة للعلاج النفسي المشهورة يمكن أن تتحيز أو تفشل ما يؤدي إلى نتائج خطيرة.
ويقترح الباحثون ضرورة أنه يجب على شركات التقنية ومقدمي الرعاية الصحية القيام بتجارب استخدام في الظروف الواقعية لضمان استخدام هذه النماذج بطريقة مناسبة. فتطوير تقنيات قوية شيء، وتعلم كيفية نشرها بفعالية شيء آخر تماماً.
