تتجه شركة أوبن إيه آي إلى تعزيز إجراءات السلامة في روبوت المحادثة شات جي بي تي من خلال تقييد وصول المستخدمين المراهقين إلى المعلومات التطبيقية المتعلقة بالأسلحة وتطوير آليات لرصد المحادثات التي قد تكشف عن مؤشرات على التفكير في ممارسة العنف أو إيذاء الآخرين، وذلك ضمن مساعي الشركة للحد من مخاطر إساءة استخدام أدوات الذكاء الاصطناعي وحماية القاصرين.
وأعلنت الشركة مجموعة من التحديثات التي تشمل الحد من تقديم المعلومات العملية المتعلقة بالأسلحة وأنظمة الحماية الأمنية، إلى جانب توسيع نطاق التدخل عند ظهور مؤشرات تستدعي القلق بشأن سلامة المستخدم أو المحيطين به، وتستهدف السياسة الجديدة منع تحول إجابات شات جي بي تي إلى إرشادات عملية يمكن استغلالها في تنفيذ أعمال عنف، بينما قررت في إجراء منفصل تشديد القيود على التفاصيل المرتبطة بحوادث إطلاق النار الجماعي مع إبقاء المعلومات التاريخية والأكاديمية متاحة.
وفي السياق ذاته، يمثل توسيع نطاق رصد المحادثات أبرز التحديثات الجديدة عبر الاستفادة من سياق التفاعل لتحديد الأنماط التي قد تشير إلى اهتمام المستخدم بإيذاء الآخرين، حيث قد ينتهي روبوت المحادثة إلى إنهاء المحادثة تلقائياً أو تعليق الحساب مؤقتاً عند تكرار تلك المؤشرات، وبالتوازي مع ذلك تعتمد الشركة على نظام تقدير أعمار المستخدمين لتطبيق إعدادات أكثر تشدداً على المراهقين وتطوير أدوات الرقابة الأبوية.
