أعرب خبراء سلامة الأطفال عن مخاوفهم من أن إجراءات الحماية في نسخة ChatGPT المخصصة للمراهقين، والتي أطلقتها OpenAI مؤخراً، قد لا تكون كافية لضمان سلامتهم.
وتأتي هذه النسخة الجديدة بعد عام من الإعلان عن تطويرها، بالتزامن مع دعوى قضائية رفعها والدا مراهق يبلغ 16 عاماً اتهموا فيها ChatGPT بالتحريض على انتحاره. وتشمل النسخة الجديدة ميزات تعليمية مثل "وضع الدراسة" والتصورات الرسومية، مع تنبيهات للآباء عبر الحسابات المرتبطة عند رصد محادثات غير آمنة حول اضطرابات الأكل.
كما يتضمن الدليل المحدث للنموذج تأكيدات بأن ChatGPT "لا ينبغي أن يستخدم لغة رومانسية أو يشجع على الاعتماد العاطفي أو يوحي بأنه يمتلك مشاعر أو وعياً".
وقال روبي تورني، رئيس قسم الذكاء الاصطناعي في Common Sense Media: "يحتوي الإعلان على التزامات مهمة، لكننا بحاجة إلى أدلة تثبت أن هذه الالتزامات تعمل فعلياً". وأشار إلى أن نظام تحديد العمر الآلي لا يكتشف جميع المراهقين، مذكراً بأن OpenAI كانت قد أرجأت سابقاً ميزات تتعلق بالمحتوى الإباحي بسبب عدم دقة تقنية تقدير العمر.
أما جوش غولين، المدير التنفيذي لمنظمة Fairplay غير الربحية، فكان أكثر انتقاداً، محذراً من أن "غياب آلية المساءلة" يثير القلق، وأن "الثقة بالشركات لا تنجح في حماية الأطفال"، مستشهداً بتجارب سابقة مع وسائل التواصل الاجتماعي.
وتعهدت OpenAI بمراجعة المحتوى المبلغ عنه من قبل موظفين بدوام كامل، مع إشعار الآباء خلال ساعة من المحادثة المقلقة. لكن الخبراء شككوا في قدرة الشركة على الالتزام بذلك، مشيرين إلى أن اختبارات سابقة أظهرت تأخراً يصل إلى 48 ساعة في الإشعارات.
كما اتفق الخبراء على أن اشتراط ربط حسابات الآباء والمراهقين يمثل نقطة ضعف، إذ نادراً ما يستخدم الآباء أدوات الرقابة الأبوية، إما لصعوبة العثور عليها أو لتعقيد استخدامها، مشيرين إلى تقارير أظهرت فشل أكثر من نصف ميزات الأمان في منصات مثل إنستغرام وسناب شات وتيك توك ويوتيوب.
وقالت OpenAI في بيان: "نهدف إلى دعم المستخدمين ومساعدتهم في التواصل مع مصادر دعم حقيقية، وسنواصل اختبار هذه الحماية وتعزيزها مع الخبراء والعائلات والمراهقين". لكن الشركة لم توضح الإجراءات التي ستتخذها إذا اكتشفت محادثات ضارة من حسابات غير مرتبطة.
المحرر: عمار الكاتب