أعلنت شركة «OpenAI» عن توجهها نحو تشديد القيود المفروضة على استخدام منصة ChatGPT، ولا سيما فيما يتعلق بوصول المراهقين إلى المعلومات المرتبطة بالأسلحة، في إطار إجراءات تهدف إلى الحد من إساءة استخدام الذكاء الاصطناعي في المجالات المرتبطة بالعنف.

وبموجب السياسة الجديدة، سيمتنع ChatGPT عن تقديم معلومات عملية تتعلق بتصنيع الأسلحة أو كيفية استخدامها، حتى في الحالات التي تبدو فيها استفسارات المراهقين غير ضارة، كما ستشمل القيود المعلومات المتعلقة بالأنظمة الأمنية التي يمكن استغلالها لأغراض ضارة.

وفي سياق متصل، أوضحت الشركة أن المنصة قد تلجأ إلى إيقاف المحادثات تلقائياً مع المستخدمين، في حال رصد تركيز متواصل على موضوعات العنف، مشيرة إلى أن تكرار مثل هذه المحادثات قد يؤدي إلى تعليق الحساب مؤقتاً.

وتعكس هذه الإجراءات توجهاً نحو تعزيز ضوابط السلامة في منصات الذكاء الاصطناعي، مع التركيز على الحد من الوصول إلى المعلومات التي قد تسهم في تسهيل أعمال العنف أو إساءة استخدام التقنيات المتاحة.