 متابعة / المدى

أعلنت شركة «أوبن أي آي» المالكة لروبوت المحادثة «شات جي بي تي» أن نحو 1.2 مليون مستخدم يتحدثون أسبوعياً مع الروبوت حول مخططات أو نيات انتحار، ما أثار جدلاً واسعاً بشأن تأثير تقنيات الذكاء الاصطناعي على الصحة النفسية للمستخدمين.
وذكرت الشركة في مدونة نشرتها أن 0.15 بالمئة من المستخدمين يتطرقون في محادثاتهم مع «شات جي بي تي» إلى أفكار أو نيات تتعلق بالانتحار، مبينة أن بعض الرسائل تتضمن مؤشرات واضحة على التخطيط لذلك.
وأوضحت أنها قيّمت أكثر من ألف محادثة لمستخدمين تناولت قضايا إيذاء النفس والانتحار، ووجدت أن الروبوت تصرف وفق السلوك المرغوب بنسبة 91 بالمئة، ما يعني أن نسبة محدودة من المحادثات قد تنطوي على استجابات غير آمنة أو مخالفة لإجراءات الحماية.
وبحسب «أوبن أي آي»، فإن «شات جي بي تي» ينصح المستخدم عادة بالاتصال بخطوط المساعدة عند إبداء نية الانتحار لأول مرة، لكنه قد يقدم لاحقاً إجابات غير متوافقة مع بروتوكولات الحماية بعد استمرار المحادثة لفترة طويلة. وكان المدير التنفيذي للشركة، سام ألتمان، قد صرح في وقت سابق بأن عدد المستخدمين النشطين أسبوعياً للمنصة تجاوز 800 مليون مستخدم حول العالم.
وتواجه الشركة حالياً عدة دعاوى قضائية تتهمها بالتسبب في حوادث انتحار، من بينها دعوى رفعتها عائلة المراهق «آدم راين» من ولاية كاليفورنيا، تتهم فيها الشركة بمساعدة ابنها البالغ من العمر 16 عاماً على الانتحار في نيسان/ أبريل الماضي.
وأكدت «أوبن أي آي» أنها أجرت تعديلات على النماذج الجديدة لروبوت المحادثة بهدف تعزيز قدرتها على الاستجابة بأمان وتعاطف مع المستخدمين الذين يُظهرون إشارات مباشرة أو غير مباشرة لإيذاء النفس أو التفكير بالانتحار.