ثغرة جديدة تستغل تلخيص الصفحات في “شات جي بي تي” لشن هجمات تصيد إلكتروني

كشف باحثون في الأمن السيبراني عن ثغرة جديدة قد تستغل ميزة تلخيص صفحات الإنترنت في “شات جي بي تي” لتنفيذ هجمات تصيد إلكتروني، عبر استخدام أسلوب يعرف بـ”حقن الأوامر” داخل صفحات الويب، وهو ما قد يؤدي إلى عرض محتوى وروابط خبيثة للمستخدمين أثناء تلخيص الصفحات.

وأوضح تقرير نشره موقع “ذا هاكر نيوز” أن الهجوم يعتمد على استغلال ملفات Markdown، وهي صيغة تستخدم لعرض النصوص والروابط والصور بطريقة يسهل على نماذج الذكاء الاصطناعي قراءتها والتعامل معها.

كيف تُستغل الثغرة؟

بحسب الباحثين، إذا احتوت صفحة ويب على تعليمات أو أوامر خبيثة مخفية داخل عناصر بصيغة Markdown، ثم طلب المستخدم من “شات جي بي تي” تلخيص تلك الصفحة، فقد يقوم النموذج بعرض هذه الروابط أو المحتوى دون التمييز بين النص الأصلي والتعليمات المضافة لأغراض خبيثة.

وأطلق فريق شركة Pryzm Security على هذا الأسلوب اسم “تصيد شات جي بي تي”، في إشارة إلى إمكانية استغلاله لخداع المستخدمين ودفعهم إلى التفاعل مع روابط أو عناصر ضارة.

سبب المشكلة

وأشار تقرير آخر نشره موقع “ذا ريجستر” إلى أن الثغرة لا ترتبط بخطأ برمجي تقليدي، وإنما تنبع من صعوبة تمييز النموذج بين المحتوى الحقيقي الموجود في الصفحة والتعليمات التي أُدرجت بهدف التأثير على استجابته.

وبسبب ذلك، قد يعرض النموذج جميع العناصر الموجودة في الصفحة أثناء عملية التلخيص، بما في ذلك التعليمات أو الروابط التي أضيفت بشكل خفي.

ولم تصدر شركة OpenAI، حتى الآن، تعليقًا رسميًا بشأن هذه النتائج أو ما إذا كانت تعمل على معالجة هذا النوع من الهجمات.

ليست مشكلة تخص “شات جي بي تي” وحده

ويرى الباحث الأمني أندي أحمدي أن هذا النوع من الهجمات قد لا يقتصر على “شات جي بي تي”، بل يمكن أن يؤثر في العديد من تطبيقات الذكاء الاصطناعي التوليدي، نظرًا لاعتمادها على آليات متشابهة في قراءة المحتوى وتنفيذه.

وأوضح أن نماذج الذكاء الاصطناعي أصبحت تؤدي أدوارًا تشبه المتصفحات وأنظمة التشغيل، وهو ما يجعلها هدفًا متزايدًا لاكتشاف ثغرات وأساليب هجوم جديدة.

ما الذي يمكن أن يفعله المهاجم؟

تعتمد هجمات حقن الأوامر على إخفاء تعليمات داخل صفحات الويب بهدف دفع نموذج الذكاء الاصطناعي إلى تنفيذها أو الكشف عن معلومات لا ينبغي مشاركتها.

وفي السيناريو الذي عرضه الباحثون، يمكن أن تتضمن التعليمات أوامر تدفع النموذج إلى عرض بيانات تقنية مرتبطة بالمستخدم، مثل عنوان بروتوكول الإنترنت (IP)، أو معلومات عن النطاق أو البيئة التي يعمل فيها النموذج، بالإضافة إلى تضمين آليات لإرسال تلك البيانات إلى جهة خارجية.

كما قد تتضمن الصفحة روابط احتيالية أو رموز استجابة سريعة (QR Code) تبدو طبيعية، لكنها تقود المستخدم إلى مواقع ضارة أو تحاول خداعه لتنفيذ خطوات قد تعرض أجهزته للخطر.

مخاطر مضاعفة

يحذر الباحثون من أن هذا النوع من الهجمات لا يقتصر على تسريب البيانات، بل قد يستخدم أيضًا كمرحلة أولى في هجمات أكثر تعقيدًا، عبر إقناع المستخدم بفتح رابط خبيث أو مسح رمز QR مزيف، وهو ما قد يمهد لمحاولات سرقة الحسابات أو تثبيت برمجيات ضارة على الأجهزة.

كيف يحمي المستخدم نفسه؟

للحد من هذه المخاطر، ينصح خبراء الأمن السيبراني بما يلي:

• عدم الوثوق تلقائيًا بأي رابط أو رمز QR يظهر داخل ملخصات الصفحات.
• التحقق من مصدر الصفحة قبل التفاعل مع أي محتوى تقترحه أدوات الذكاء الاصطناعي.
• تجنب إدخال بيانات حساسة أو سرية عند استخدام أدوات الذكاء الاصطناعي مع صفحات أو مستندات غير موثوقة.
• الاعتماد على أحدث إصدارات التطبيقات والمتصفحات، مع متابعة التحديثات الأمنية الصادرة من الشركات المطورة.

ويؤكد الباحثون أن تطور قدرات نماذج الذكاء الاصطناعي يجعلها أكثر فائدة، لكنه في الوقت نفسه يفرض تحديات أمنية جديدة تتطلب تطوير آليات أكثر فعالية لمنع استغلالها في الهجمات الإلكترونية.