المحادثة حول مسؤولية الذكاء الاصطناعي في الصحة النفسية يشهد الوضع منعطفاً جديداً مع إعلان جوجل. فقد أكدت الشركة أن برنامج الدردشة الآلي "جيميني" سيتضمن ميزات محددة لرصد المواقف الخطرة وتقديم الدعم الفوري عندما تشير المحادثة إلى مشاكل خطيرة كالانتحار أو إيذاء النفس.
تأتي هذه التطورات الجديدة في سياق تزايد الضغوط القانونية والتنظيمية يأتي هذا بعد عدة دعاوى قضائية تزعم أن برامج الدردشة الآلية قد ساهمت في أضرار نفسية، بل وحتى وفيات، لا سيما فيما يتعلق بجوجل وغيرها من عمالقة الذكاء الاصطناعي. وتُعد هذه الخطوة محاولة لتعزيز إجراءات الحماية لهذه الأداة، وإبعادها عن الاستخدامات الخطيرة أو غير المنضبطة.
ميزات طوارئ جديدة في المحادثات عالية الخطورة
أوضحت جوجل في منشور على مدونتها أن نظام جيميني سيتضمن... واجهة آلية لإعادة توجيه المستخدم إلى خطوط المساعدة في حالات الأزمات عندما يكتشف النظام أزمة محتملة تتعلق بالانتحار أو إيذاء النفس، فإنه ليس مجرد تنبيه عام: سيعرض برنامج الدردشة الآلي خيارات للدردشة أو الاتصال أو إرسال الرسائل النصية أو زيارة موقع خدمات الدعم.
وبالتوازي مع ذلك، تقوم الشركة بتقديم وحدة الرسائل من النوع "المساعدة متاحة" والتي ستظهر في المحادثات المتعلقة بالصحة النفسية. الفكرة هي تذكير المستخدم بوجودهم. الموارد المهنية وخيارات دعم بديلة تتجاوز التفاعل مع برنامج الدردشة الآلي، مما يمنع Gemini من أن يصبح نقطة المرجع الوحيدة في اللحظات الحساسة.
وتُستكمل هذه الإجراءات بتغييرات في التصميم تهدف إلى لردع أي شكل من أشكال إيذاء النفسعلى الرغم من أن جوجل لم تقدم قائمة مفصلة بجميع التعديلات، إلا أنها تقر بأنها راجعت كيفية عرض الردود الحساسة، ونبرة اللغة، وهيكل التوصيات عند اكتشاف خطر محتمل.
وتزعم الشركة أيضاً أنها دربت جيميني على لا تعزز أو تغذي المعتقدات الخاطئة قد يُعرّض ذلك المستخدم للخطر. والهدف هو أن يتمكن برنامج الدردشة الآلي من التمييز بين التجربة الذاتية للشخص والحقائق الموضوعية، وأن يستجيب بحذر في المواضيع الحساسة بدلاً من اتباع خيالات أو أوهام المُحاور.
الدعاوى القضائية والقضايا التي ساهمت في تسريع التغييرات
لا تظهر الميزات الجديدة من فراغ. ففي الأشهر الأخيرة، رفعت عائلات من عدة ولايات أمريكية دعاوى قضائية رفعت دعاوى قضائية ضد مطوري الذكاء الاصطناعي التوليدي مثل جوجل، وأوبن إيه آي، وكاركتر.إيه آي. وتتهم هذه الدعاوى المنصات بالمساهمة في تفاقم مشاكل الصحة النفسية لدى المراهقين والبالغين.
إحدى أكثر القضايا حساسية تتعلق مباشرةً بشركة جوجل: رفعت عائلة رجل يبلغ من العمر 36 عامًا من فلوريدا دعوى قضائية ضد الشركة بعد انتحاره، مدعيةً أن التفاعل المطوّل مع برنامج الدردشة الآلي "جيميني" أثّر بشكل حاسم على قراره. ووفقًا للدعوى، فقد غذّى البرنامج أفكارًا عنيفة وانتحارية لعدة أيام، ما أدى في النهاية إلى هذه المأساة.
تؤكد جوجل أنه في تلك الحلقة، أحال نظام Gemini المستخدم إلى خطوط المساعدة في حالات الأزمات بشكل متكررلكنها أقرت مع ذلك بضرورة تعزيز إجراءات الحماية. وقد واجهت الشركة سابقاً انتقادات بشأن كيفية تعامل خدماتها مع المحتوى الحساس، الأمر الذي أدى في الماضي، على سبيل المثال، إلى إدراج معلومات موثقة من متخصصين في الرعاية الصحية في نتائج بحث جوجل ويوتيوب.
وبعيدًا عن هذه الحالة المحددة، تم توثيق حالات ادعى فيها مستخدمو برامج الدردشة الآلية أن الذكاء الاصطناعي... أو أنها غذّت علاقات قهرية ووهمية مع النظام نفسه. بل إن بعض الخبراء ربطوا هذه الديناميكيات بأحداث متطرفة، مثل جرائم القتل والانتحار.
استجابةً لهذه المخاوف، بدأ الكونغرس الأمريكي في لتحليل تأثير برامج الدردشة الآلية على الأطفال والشبابدراسة ما إذا كان من الضروري وضع حدود محددة في مجال الصحة العقلية وحماية الطفل.
الاستثمار الاقتصادي والتحالف مع منظمات الدعم
إلى جانب ميزات Gemini الجديدة، أعلنت جوجل عن التزام مالي بقيمة 30 مليون دولار على مدى السنوات الثلاث المقبلة، سيتم تعزيز خدمات دعم الأزمات في جميع أنحاء العالم. والهدف هو توسيع نطاق استجابة خطوط المساعدة، التي غالباً ما تكون مثقلة بالأعباء أو تعاني من نقص الموارد.
ستقوم الشركة أيضاً بتوسيع تعاونها مع ReflexAI، وهي منظمة متخصصة في أدوات تدريب لفرق الرعاية الصحية النفسيةستخصص جوجل مبلغًا إضافيًا قدره 4 ملايين دولار أمريكي، وستدمج منصة Gemini في بيئات التدريب الخاصة بشركة ReflexAI، مما يُمكّن المؤسسات من تدريب موظفيها من خلال محاكاة أكثر واقعية وتوسيع نطاق خدماتها. ويكمل هذا النهج رؤية تطبيق الذكاء الاصطناعي في مجال الصحة كدعم للمهنيين.
يجمع هذا النهج بين نشر الذكاء الاصطناعي للمستخدم النهائي واستخدامه بشكل أكثر سرية خلف الكواليس، مثل الدعم للمهنيين والمتطوعين الذين يجيبون على المكالمات أو الرسائل النصية خلال اللحظات الحرجة. وبهذه الطريقة، لا يُقدَّم برنامج Gemini كبديل عن الأخصائيين النفسيين أو الأطباء النفسيين، بل كعنصر داعم في منظومة الدعم القائمة.
بالنسبة لأوروبا وإسبانيا، على الرغم من أن الإعلان ركز بشكل أساسي على السوق الأمريكية، فمن المتوقع أن يكون هذا النوع من أدوات الإحالة إلى موارد الطوارئ سيتم تكييفها تدريجياً مع أنظمة الصحة المحلية وخطوط المساعدة، بناءً على الاتفاقيات التي تم التوصل إليها مع الكيانات العامة ومنظمات القطاع الثالث.
قطاعٌ تحت المجهر: تنظيم وحدود الذكاء الاصطناعي في مجال الصحة النفسية
تُعدّ خطوة جوجل جزءًا من سيناريو يتمثل في يتطور تنظيم الذكاء الاصطناعي بسرعات متفاوتة. يختلف الأمر باختلاف المنطقة. ففي الولايات المتحدة، سنّت عدة ولايات مثل إلينوي ونيفادا وكاليفورنيا ونيويورك قوانين للحد من دور الذكاء الاصطناعي في القرارات السريرية، والمطالبة بمزيد من الشفافية في التفاعلات مع هذه الأنظمة، وتعزيز حماية القاصرين.
وقد اختارت مناطق أخرى، مثل يوتا وتكساس، إنشاء هيئات تنظيمية محددة للإشراف على استخدام الذكاء الاصطناعي في مجال الرعاية الصحية، قاموا بتأسيس الالتزام بإبلاغ المرضى عندما يتم استخدام مثل هذه الأداة في رعايتهم، مع الحفاظ دائمًا على الإشراف البشري.
في أوروبا، يتقاطع النقاش مع تطور لائحة الاتحاد الأوروبي للذكاء الاصطناعييسعى القانون إلى تصنيف الاستخدامات عالية الخطورة وفرض التزامات صارمة على الأنظمة التي قد تؤثر على الحقوق الأساسية، بما في ذلك الصحة. وتعمل وظائف دعم الصحة النفسية في مشروع جيميني تحديداً في هذا المجال الحساس، لذا من المتوقع أن تخضع لتدقيق مكثف عند نشرها بالكامل في المنطقة.
بالنسبة لدول مثل إسبانيا، حيث نظام الصحة العامة وخدمات الوقاية من الانتحار لهم دور بارز؛ وسيكون المفتاح هو كيفية دمج هذه الموارد الرقمية مع الأجهزة الحالية: من خطوط الهاتف المتخصصة إلى وحدات الصحة العقلية العامة.
على الرغم من استمرار التساؤلات حول نطاقه الحقيقي والطريقة الدقيقة التي سيتم بها تنفيذه في أوروبا، فإن الميزات الجديدة لـ Gemini تمثل تحولاً هاماً: بدأ الذكاء الاصطناعي التفاعلي في دمج ضمانات صريحة للصحة العقليةيجمع هذا النهج بين الإحالات إلى خطوط المساعدة، وتغييرات التصميم، والتدريب المتخصص لمنع الضرر. في ظل بيئة تتسم بالدعاوى القضائية والضغوط السياسية والقلق العام، ستتم مراقبة كيفية تطبيق جوجل لهذه الإجراءات وتعديلها عن كثب من قبل الجهات التنظيمية والمستخدمين على حد سواء، بما في ذلك في إسبانيا وبقية أنحاء أوروبا.
