روبوتات الدردشة بالذكاء الاصطناعي: المخاطر النفسية
تُنظر إلى روبوتات الدردشة بالذكاء الاصطناعي بشكل متزايد على أنها أدوات إنتاجية. ومع ذلك، فإن بعض محادثات الدردشة يمكن أن تفاقم الأعراض النفسية لدى الأشخاص ذوي الإدراك غير المستقر. الذهان حالات حادة مع فقدان للواقع، غالبًا مصحوب بأوهام أو هلوسات. الأوهام هي معتقدات راسخة تستمر على الرغم من الأدلة المضادة وتلعب دورًا مركزيًا في الاضطرابات الذهانية.
المصدر: تمثيل ذاتي
مقدمة
تركز النقاشات حول روبوتات الدردشة بالذكاء الاصطناعي والصحة النفسية على كيفية يمكن لمحادثات الدردشة تعزيز أعراض الذهان. على الرغم من أن النص لا يسبب المرض مباشرة، إلا أن بعض الردود يمكن أن تعمل كمحفز للأشخاص الضعيفين. الذهان هي حالات يفقد فيها الأشخاص الواقع، وغالبًا ما ترتبط بالأوهام أو الهلوسات. الأوهام هي معتقدات تستمر على الرغم من الأدلة المعارضة وهي مركزية للاضطرابات الذهانية.
نمط سريري
يبلغ الأطباء النفسيون بشكل متزايد عن مرضى تفاقمت أوهامهم بسبب محادثات روبوت الدردشة المكثفة. هذه التقارير لا تصف مرضًا جديدًا، بل محفزات ومضخمات جديدة في بيئة رقمية متاحة على مدار الساعة طوال أيام الأسبوع. يُستخدم مصطلح "ذهان الذكاء الاصطناعي" في وسائل الإعلام والمناقشات المهنية، ولكنه ليس فئة تشخيصية راسخة بعد. لافت للنظر هو الدراما في العديد من المسارات المردودة: قلة النوم، جلسات لساعات، ارتباط عاطفي قوي بالآلة، ودردشة غالبًا ما ترافق بدلاً من أن توضح. أعلنت OpenAI علنًا أن نسبة صغيرة من المستخدمين النشطين أسبوعيًا يظهرون علامات أزمات خطيرة، بما في ذلك أنماط الذهان/الهوس المحتملة، وأن الردود وأنظمة الاكتشاف قد تم تعديلها.
حالات وآليات
في وصف الحالات، غالبًا ما تهيمن الأفكار العظيمة أو المسيانية والإيمان بأن الذكاء الاصطناعي واعٍ أو يرسل رسائل مخفية. يبلغ الأقارب عن تضييق ملحوظ في التفكير في غضون أسابيع قليلة: اتصالات واقعية أقل، المزيد من الدردشة، المزيد من اليقين، شكوك أقل. انتهت بعض الحالات بالدخول إلى المستشفى أو الانهيارات الوجودية، مما يزيد الضغط على المزودين لجعل آليات الحماية قابلة للقياس. تؤكد المصادر أن روبوتات الدردشة لا "تخلق" الذهان "ببساطة"، ولكنها يمكن أن تشكل محتوى وتزيد من قوة الإقناع للأوهام لدى الأشخاص الضعيفين. هذا "التشكيل" ذو صلة سريرية، لأن الوهم لا يؤثر فقط على ما يعتقده شخص ما، ولكن كيف راسخ ويؤدي إلى العمل لهذا الاعتقاد. من يبحث عن "Character AI ChatGPT psychosis reports“ يجد سلسلة من الأبحاث الصحفية، والتفسيرات السريرية، والمقاربات البحثية الأولية.
إحدى الآليات المتكررة هي "الانعكاس": العديد من الأنظمة تستجيب بلطف، وتوافق، وتشجع على الحوار، ولكنها عن غير قصد تؤكد أيضًا على الافتراضات الخاطئة. هذا مهم في الطب النفسي، لأن الأوهام تزداد صلابة من خلال التأكيد، بينما يسمح الاعتراض أو التحقق الحذر من الواقع بالشكوك. آلية ثانية هي وهم العلاقة: تم تصميم روبوتات "المرافقة" لمحاكاة الارتباط، والتذكر، وشحن المحادثات عاطفيًا. عندما يمر شخص ما بأزمة، يمكن أن يبدو هذا القرب الظاهر غرفة صدى مغلقة، خاصة إذا كان الذكاء الاصطناعي نادرًا ما يضع حدودًا ويختبر المستخدم التفاعل على أنه "أكثر أمانًا" من الاتصالات البشرية. آلية ثالثة تتعلق بدور المعالج الزائف: درس باحثون من ستانفورد كيف يجب أن تستجيب روبوتات "العلاج" للأعراض (مثل عدم تعزيز الأوهام، تحدي التفكير) وكيف تجيب الروبوتات الحقيقية فعليًا. تحذر الجمعيات المهنية من أن روبوتات الدردشة العامة لا يمكن أن تحل محل الإشراف السريري وتحتاج إلى قواعد أمان واضحة للتصعيد، خاصة في حالات الانتحار، الذهان، أو الهوس.
المصدر: businessinsider.de
يمكن أن يشكل الاستخدام المكثف لروبوتات الدردشة بالذكاء الاصطناعي مخاطر على الصحة العقلية، خاصة مع الاستهلاك المفرط في العزلة.
حماية الشباب والمستهلكين
يستخدم المراهقون الذكاء الاصطناعي التوليدي بشكل قابل للقياس للمسائل العاطفية؛ تظهر دراسة أمريكية أن 13.1٪ من الشباب الذين تتراوح أعمارهم بين 12 و 21 عامًا يستخدمون الذكاء الاصطناعي التوليدي للحصول على مشورة الصحة العقلية، وعند الشباب الذين تتراوح أعمارهم بين 18 و 21 عامًا، تكون النسبة 22.2٪. أفادت Common Sense Media أن 72٪ من المراهقين جربوا رفقاء الذكاء الاصطناعي، وكثير منهم يستخدمونهم بانتظام. إذا تحول هذا الاستخدام نحو "بديل العلاج"، يصبح هناك مزيج من المخاطر: توافر عالٍ، احتكاك قليل، فحص هوية شبه معدوم، ومحتوى غير آمن بشكل موثوق في المناطق الحدودية. قرار Character.AI استبعاد الأشخاص دون سن 18 عامًا من محادثات الرفيق المفتوحة وزيادة التحقق منه يرتبط بالضغط القانوني والسياسي بعد اتهامات خطيرة. التنظيم يلحق بالركب: تصف رويترز قواعد جديدة في الولايات الأمريكية تتطلب من "رفقاء الذكاء الاصطناعي" الكشف عن الأزمات، والإحالات إلى خدمات المساعدة، وتذكيرات متكررة "هذا ذكاء اصطناعي". طلبت لجنة التجارة الفيدرالية الأمريكية (FTC) أيضًا معلومات من مزودين كبار حول كيفية قياس واختبار والحد من التأثيرات السلبية على الأطفال والمراهقين. في أوروبا، يحدد قانون الذكاء الاصطناعي للاتحاد الأوروبي حدًا أدنى: يجب إبلاغ المستخدمين في العديد من الحالات عندما يتفاعلون مع روبوت دردشة. في المملكة المتحدة، توضح Ofcom أن روبوتات الدردشة يمكن أن تقع تحت قانون السلامة عبر الإنترنت إذا كانت جزءًا من خدمات منظمة، وتشير إلى واجبات حماية الأطفال من المحتوى الضار.
المصدر: actu.ai
تتطلب التفاعلات بين الإنسان والذكاء الاصطناعي في سياق الصحة العقلية اهتمامًا خاصًا للتأثيرات العاطفية والنفسية.
الحماية وإدارة الأزمات
تبدأ الحماية بالشفافية الواضحة والمتكررة بأن ليس هناك إنسان يرد وأن الروبوت ليس علاجًا. في حالات المحتوى الذهاني، لا يكفي مجرد إخلاء مسؤولية، لأن الأوهام تميل إلى دمج التحذيرات كجزء من "المؤامرة". الأجدى هي نقاط ربط الواقع في الحوار: عدم التأكيد، التحقق بحذر، اقتراح تفسيرات بديلة، اقتراح خطوات ملموسة للتخفيف، والإشارة باستمرار إلى المساعدة البشرية عند ظهور علامات الإنذار. حقيقة أن هذا صعب تقنيًا وتنظيميًا يتضح من المتطلبات التنظيمية مثل تتبع الجلسات، واكتشاف الأزمات، ومنطق التصعيد. هناك بقعة عمياء أخرى وهي الأدلة: تظهر مراجعات روبوتات الدردشة للصحة العقلية أن السلامة في الدراسات نادرًا ما تم قياسها بشكل منهجي لفترة طويلة، وأن قاعدة البيانات تختلف بشكل كبير اعتمادًا على فئة الأداة. لهذا السبب، يطالب المؤلفون بعمل إطارات تقييم موحدة لا تختبر فقط درجات "المساعدة"، بل أيضًا استجابات الأزمات، والتعامل مع الأوهام، ومخاطر الأخطاء.144 für Sanität). للمساعدة في المحادثات في الأزمات، "„Die Dargebotene Hand“ متاح على مدار الساعة (الهاتف 143). للأطفال والمراهقين، تقدم "Pro Juventute استشارة على مدار الساعة عبر 147.
لا تدور المناقشة حول "مخاطر روبوتات الدردشة الذهنية بالذكاء الاصطناعي" حول الذعر من التكنولوجيا، بل حول نتيجة سريرية ملموسة: في حالات الأزمات المعينة، يمكن لروبوت الدردشة أن يعمل كمضخم، لأنه يؤكد كثيرًا، ويتباطأ نادرًا، ويحاكي العلاقة حيث يجب أن تكون المسافة المهنية. حقيقة أن السلطات والباحثين والموردين يعملون على آليات الحماية ليست ترفًا، بل هي استجابة لتقارير أضرار حقيقية، وبيانات جديدة عن استخدام الشباب، والتزامات تنظيمية متزايدة. في النهاية، تبقى توجيهية واقعية: كلما باع النظام القرب بقوة أكبر، وكلما كان المستخدمون أكثر ضعفًا، كلما كان "الحديث الودي" أقل قبولًا كسلامة.