كشفت شركة إنفيديا عن إطلاق منصة أمنية جديدة تحمل اسم NVIDIA Open Agent Safety Platform، وهي مصممة لفرض قيود مباشرة على وكلاء الذكاء الاصطناعي وعزلهم فورياً في حال محاولة تجاوز الحدود المسموح بها. يأتي هذا الإجراء استجابة لزيادة الاعتماد على هذه الأنظمة لتنفيذ مهام حساسة بشكل شبه مستقل.

تتألف المنصة من مكونين رئيسيين: برنامج «اوبن شل» (Open Shell) مفتوح المصدر الذي يراقب أفعال الوكيل ويطبق السياسات أثناء التشغيل، ونظام مرجعي يُعرف بـ«سنتري». يعمل نظام سنتري على مستوى العتاد، مما يمكنه من وضع الوكيل في الحجر خلال أجزاء من الثانية عند اكتشاف أي انحراف عن المسار المحدد.

وأوضحت إنفيديا أن أكثر من 100 جهة تساهم في تطوير أو استخدام هذه المنظومة، ومن بين المشاركين شركات كبرى مثل أنثروبيك ومايكروسوفت وسيلزفورس وجيه بي مورغان تشيس وهاغينغ فيس وسبيس.أكس.ايه.أي. كما أشارت الشركة إلى إمكانية تمديد عمل برنامج «اوبن شل» ليتوافق مع منصات حوسبة تابعة لشركات أخرى، بما في ذلك آرم وإنتل.

وتؤكد إنفيديا ضرورة اعتماد ضوابط أمنية تمتد لتشمل كل من البرمجيات والعتاد، بدلاً من الاكتفاء بالقيود الموضوعة داخل التطبيق نفسه، وذلك لتعزيز أمن وكلاء الذكاء الاصطناعي.