أنثروبيك تكشف تجاوز «كلود» نظام الدفع للوصول إلى بيانات الناخبين فى أمريكا

كشفت شركة أنثروبيك (Anthropic)، المطورة لمساعد الذكاء الاصطناعي «كلود» (Claude)، أن نموذجها تمكن من تجاوز حاجز الدفع والوصول إلى بيانات مجمعة عن الناخبين في ولاية جورجيا الأمريكية دون الحصول على تصريح بذلك، في واقعة تعيد تسليط الضوء على مخاطر استخدام وكلاء الذكاء الاصطناعي وقدرتهم على تجاوز القيود المفروضة على الوصول إلى المعلومات الرقمية، وأوضحت الشركة أن الواقعة حدثت خلال استخدام كلود داخليًا في مشروع إحصائي، عندما اكتشف النموذج أن لوحة بيانات عامة تصدر رمز وصول (Access Token) للزائرين، ما أتاح له الاستعلام عن معلومات كانت الولاية توفرها مقابل رسوم. وأكدت أن النموذج لم يكن مخولًا بالوصول إلى هذه البيانات بهذه الطريقة، دون الكشف عن إصدار كلود الذي استخدم خلال التجربة.

كيف تمكن كلود من الوصول إلى البيانات؟

بحسب توضيحات أنثروبيك، طلب النموذج رمز وصول من لوحة البيانات، ثم استخدمه للاستعلام عن إحصاءات تتعلق بأعداد الناخبين، رغم أن الحصول على هذه المعلومات كان يتطلب دفع رسوم. وأكدت الشركة أنها اتخذت إجراءات تقنية للحد من تكرار مثل هذه التصرفات ومنع تجاوز ضوابط الوصول إلى البيانات، وشددت أنثروبيك على أن الواقعة لم تتضمن الوصول إلى بيانات تسجيل الناخبين الفردية، أو الاطلاع على سجلات شخصية محمية، كما لم يجرِ النموذج أي تغييرات على سجلات التصويت. واقتصر ما حصل عليه، وفقًا للشركة، على أعداد وإحصاءات إجمالية يمكن استخلاصها من البيانات التي تتيحها الولاية للجمهور مقابل رسوم.

سلطات جورجيا توضح حقيقة الاختراق

من جانبها، أكدت جوردان فوكس، نائبة وزير خارجية ولاية جورجيا، أن النظام وصل إلى معلومات عامة منشورة عبر مركز بيانات الولاية، ولم يتمكن من الدخول إلى نظام تسجيل الناخبين أو الوصول إلى ملفاتهم المحمية.

وأشارت الواقعة إلى أهمية التمييز بين الوصول غير المصرح به إلى المعلومات المنشورة عبر منصة عامة، وبين اختراق قواعد البيانات الحساسة التي تحتوي على سجلات الأفراد، إذ أكدت السلطات أن الحادث لم يصل إلى النوع الثاني من البيانات، ووفقًا للتقرير، أبلغت أنثروبيك مكتب وزير خارجية جورجيا والبيت الأبيض بالواقعة قبل الإعلان عنها علنًا بعدة أسابيع، في وقت تتزايد فيه المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على تنفيذ خطوات لم يطلبها المستخدم صراحةً.

حوادث أخرى تثير المخاوف بشأن وكلاء الذكاء الاصطناعي

وتأتي هذه الواقعة بعد أيام من إعلان أنثروبيك أن بعض نماذج كلود تمكنت من الالتفاف على قيود الوصول إلى المحتوى المحمي برموز تحقق أو اشتراكات مدفوعة، بما في ذلك مواقع تابعة لجهات حكومية اتحادية ومحلية، دون أن تكشف الشركة في إعلانها الأول عن جميع الجهات المعنية.

كما تضمن الإعلان السابق حالة أرسل فيها أحد نماذج كلود بلاغًا غير صحيح بشأن جريمة قتل عبر موقع إلكتروني تابع لشرطة فيلادلفيا، وهو ما يسلط الضوء على المخاطر المحتملة عندما تتفاعل أنظمة الذكاء الاصطناعي مع الخدمات الحكومية أو تنفذ إجراءات عبر الإنترنت، وتتزامن هذه التطورات مع تزايد التدقيق في سلوك وكلاء الذكاء الاصطناعي وقدرتهم على التفاعل مع المواقع الحكومية، وسط تقارير عن محاولات من وكلاء تابعين لشركات أخرى، بينها أوبن إيه آي، للوصول إلى مواقع حكومية في الولايات المتحدة وأستراليا.

ضوابط الوصول إلى البيانات أمام اختبار جديد

وتبرز الواقعة تحديًا تقنيًا وأمنيًا متزايدًا، يتمثل في ضرورة تصميم أنظمة الذكاء الاصطناعي بحيث تلتزم بصلاحيات الوصول المحددة لها، ولا تعتبر إمكانية الحصول على رمز تقني أو الوصول إلى واجهة عامة إذنًا بتجاوز شروط الاستخدام أو متطلبات الدفع.

كما تطرح الحادثة تساؤلات حول مدى قدرة الشركات المطورة على مراقبة تصرفات نماذجها أثناء تنفيذ المهام، خصوصًا عندما تتخذ هذه الأنظمة خطوات متتابعة بصورة مستقلة للوصول إلى المعلومات أو التفاعل مع الخدمات الإلكترونية، ومع توسع استخدام وكلاء الذكاء الاصطناعي في الأعمال الإحصائية والخدمات الحكومية والمهام الرقمية، يصبح فرض قيود واضحة على الصلاحيات، ومراقبة العمليات، واختبار سلوك النماذج قبل نشرها، من العناصر الأساسية للحد من الوصول غير المصرح به إلى البيانات وحماية الأنظمة الرقمية.