أعلنت شركة أوبن إيه آي عن إجراءات جديدة لتقييد كيفية تفاعل روبوت الدردشة "تشات جي بي تي" مع المستخدمين الذين يُشتبه في أنهم دون سن 18 عاماً.
وجاء هذا القرار بعد دعوى قضائية مرفوعة من عائلة مراهق يبلغ من العمر 16 عاماً انتحر في أبريل الماضي، بعد محادثات مكثفة مع الروبوت.
وأوضح الرئيس التنفيذي للشركة، سام ألتمان، في تدوينة له، أن سلامة المراهقين هي الأولوية القصوى. وتسعى أوبن إيه آي إلى تطوير نظام لتوقع عمر المستخدمين بناءً على طريقة استخدامهم للتطبيق.
وفي حالة الشك، سيتم التعامل مع المستخدم على أنه قاصر، كما قد يُطلب من بعض المستخدمين تقديم إثبات هوية للتحقق من أعمارهم.
ووفقاً للسياسات الجديدة، ستتغير استجابات "تشات جي بي تي" للحسابات المصنفة على أنها دون 18 عاماً، وسيتم حظر المحتوى الجنسي الصريح، وسيُمنع الروبوت من الانخراط في محادثات حول الانتحار أو إيذاء النفس، حتى في سياقات الكتابة الإبداعية، كما سيتم تدريبه على عدم المغازلة.
وفي حال أبدى مستخدم قاصر ميولاً انتحارية، قال ألتمان إن الشركة ستسعى للتواصل مع والديه، أو السلطات المختصة في حالة وجود خطر وشيك.
وتزعم عائلة المراهق المنتحر أن "تشات جي بي تي" قدم له نصائح حول كيفية إنهاء حياته وساعده في كتابة رسالة انتحار.
ووفقاً لوثائق القضية، كان المراهق يتراسل مع الروبوت بمعدل يصل إلى 650 رسالة يومياً.
المحرر: عمار الكاتب