هجوم سيبراني على «هاغينغ فيس» يكشف خطورة وكلاء الذكاء الاصطناعي

تعرضت منصة «هاغينغ فيس» (Hugging Face)، إحدى أبرز المنصات العالمية لاستضافة نماذج الذكاء الاصطناعي مفتوحة المصدر، لهجوم سيبراني نفذه وكيل آلي مدعوم بالذكاء الاصطناعي، وتمكن خلاله من الوصول إلى مجموعات بيانات داخلية وبيانات اعتماد سحابية تابعة للمنصة، وفقا لتقرير نشره موقع «بي سي ماغازين» التقني الأميركي.

وأعلنت المنصة عن الحادث بعد اكتشافه، قبل أن تكشف التحقيقات الأمنية اللاحقة أن المهاجم استخدم وكيلا يعتمد على الذكاء الاصطناعي لتنفيذ عشرات آلاف العمليات الآلية داخل أنظمة الشركة.

هجوم بدأ من مجموعة بيانات خبيثة

استغل المهاجم آلية رفع مجموعات البيانات والنماذج المتاحة على منصة «هاغينغ فيس»، إذ تمكن من تحميل مجموعة بيانات خبيثة إلى خوادم الشركة.

واحتوت المجموعة على شيفرة استغلت ثغرة مرتبطة بعملية تحميل مجموعات البيانات داخل المنصة، لتبدأ الشيفرة لاحقا في التحرك داخل الأنظمة والوصول إلى مستويات مختلفة من البيانات، إضافة إلى رموز الوصول وبيانات الاعتماد، ثم جمع المعلومات التي تمكنت من الوصول إليها.

وبحسب التقرير، فإن طبيعة العمليات التي نفذها الوكيل الآلي تشير إلى استخدامه بصورة مباشرة في مراحل مختلفة من عملية الاختراق، بدلا من اقتصار دوره على تنفيذ أمر منفرد أو مهمة محدودة.

أكثر من مليوني نموذج ذكاء اصطناعي

تعد «هاغينغ فيس» من أكبر المنصات المتخصصة في نماذج الذكاء الاصطناعي مفتوحة المصدر، وتتخذ من نيويورك مقرا لها، وتضم نحو مليوني نموذج من نماذج الذكاء الاصطناعي التي طورتها جهات وشركات مختلفة حول العالم.

وتشمل المنصة نماذج من شركات ومؤسسات متعددة، من بينها نماذج أميركية وصينية، الأمر الذي جعلها جزءا مهما من البنية التحتية المفتوحة التي يعتمد عليها المطورون والباحثون في مجال الذكاء الاصطناعي.

وتمنح طبيعة المنصة وأدواتها المستخدمين إمكانية رفع النماذج ومجموعات البيانات ومشاركتها، وهو ما يجعل تأمين آليات التحميل والتشغيل عاملا بالغ الأهمية في حماية البنية الداخلية للمنصة.

إيقاف الهجوم وتغيير رموز الوصول

تمكنت «هاغينغ فيس» من احتواء الهجوم بعد اكتشافه، من خلال إزالة الشيفرة الخبيثة وإجراء تعديلات على الصلاحيات المختلفة، إلى جانب تغيير رموز الوصول التي يُعتقد أنها تعرضت للتسريب.

وأوضحت المنصة أن بيانات المستخدمين والنماذج المفتوحة المتاحة للعامة لم تتأثر بالهجوم، لكنها أكدت أنها ستتواصل بصورة مباشرة مع أي شخص أو جهة يشتبه في تأثرها بالحادث.

كما دعت المستخدمين إلى اتخاذ إجراءات احترازية، وفي مقدمتها تحديث بيانات الدخول وتغيير رموز الوصول الخاصة بالنماذج، خصوصا بالنسبة إلى المستخدمين الذين يعتمدون على المنصة في التعامل مع بيانات حساسة.

هجوم يجسد سيناريو «الوكيل المهاجم»

يرى تقرير «بي سي ماغازين» أن أسلوب الاختراق يتوافق مع أحد السيناريوهات التي حذر منها خبراء الأمن السيبراني مع التطور المتسارع لوكلاء الذكاء الاصطناعي.

فبدلا من استخدام الذكاء الاصطناعي كأداة مساعدة للهاكر، يمكن للوكيل الآلي أن يتولى تنفيذ سلسلة طويلة من العمليات بصورة مستقلة، بدءا من الوصول إلى الأنظمة، مرورا باستكشاف البيئة الرقمية، ووصولا إلى جمع البيانات وتنفيذ إجراءات متعددة دون تدخل بشري مستمر.

ولا تزال هوية الجهة التي تقف خلف الهجوم مجهولة، كما لم تكشف المنصة عن نموذج الذكاء الاصطناعي الذي استُخدم لتشغيل الوكيل المهاجم.

وأشارت «هاغينغ فيس» إلى احتمال أن يكون المهاجم قد استعان بنموذج جرى كسر قيوده الأمنية أو بنموذج لا يمتلك ضوابط فعالة تمنع استخدامه في تنفيذ عمليات هجومية، مؤكدة استمرار التحقيق في ملابسات الحادث.

الذكاء الاصطناعي في مواجهة الهجوم

المفارقة اللافتة في الحادث أن «هاغينغ فيس» استخدمت هي الأخرى نماذج للذكاء الاصطناعي للمساعدة في اكتشاف الهجوم وتحليله والتعامل معه.

لكن الفارق أن النماذج المستخدمة في الدفاع كانت تعمل ضمن ضوابط أمنية تحد من قدراتها، في حين يُعتقد أن الوكيل الذي نفذ الهجوم استخدم نموذجا أقل تقييدا أو جرى تجاوز القيود الأمنية المفروضة عليه.

ومن بين النماذج التي استعانت بها المنصة نموذج «جي إل إم 5.2» الصيني مفتوح المصدر، والذي تمكن، وفقا للتقرير، من رصد 17 ألف نشاط مشبوه خلال عملية التحليل والمواجهة.

كما استعانت المنصة بنموذج «ميثوس» التابع لشركة «أنثروبيك» الأميركية ضمن جهود التصدي للهجوم وتحليل الأنشطة غير الطبيعية داخل أنظمتها.

ليس الهجوم الأول على المنصة

لم يكن هذا الحادث أول هجوم سيبراني يستهدف «هاغينغ فيس»، لكنه يمثل حالة مختلفة بسبب الدور الرئيسي الذي لعبه وكيل يعتمد على الذكاء الاصطناعي في تنفيذ العمليات الهجومية.

وتسلط الواقعة الضوء على تحول محتمل في طبيعة التهديدات الرقمية، مع انتقال الذكاء الاصطناعي من مجرد أداة يستخدمها المهاجم البشري إلى عنصر قادر على تنفيذ عدد كبير من العمليات بصورة آلية وسريعة.

وفي المقابل، تكشف قدرة المنصة على استخدام نماذج الذكاء الاصطناعي في اكتشاف النشاط المشبوه وإيقاف الهجوم عن اتجاه آخر يتزايد في مجال الأمن السيبراني، يتمثل في استخدام الذكاء الاصطناعي للدفاع ضد هجمات يقودها الذكاء الاصطناعي نفسه.

ما الذي ينبغي على مستخدمي «هاغينغ فيس» فعله؟

رغم إعلان المنصة أن البيانات العامة للمستخدمين والنماذج المفتوحة لم تتأثر، فإن المستخدمين الذين يعتمدون على حساباتهم في التعامل مع نماذج خاصة أو بيانات حساسة يمكنهم اتخاذ خطوات احترازية.

ومن أبرز الإجراءات تغيير رموز الوصول البرمجية وكلمات المرور المرتبطة بالحسابات والنماذج، والتأكد من عدم استمرار استخدام أي رموز وصول قديمة، خاصة إذا كانت مرتبطة بتطبيقات أو خدمات تتعامل مع بيانات حساسة.

ويبرز الهجوم في النهاية كإشارة جديدة إلى أن تطور وكلاء الذكاء الاصطناعي لا يفتح فقط مجالات أوسع للأتمتة والإنتاجية، بل يفرض أيضا تحديات أمنية جديدة، خصوصا عندما تصبح هذه الأنظمة قادرة على تنفيذ آلاف العمليات والتفاعل مع البنى الرقمية بصورة شبه مستقلة.