تحقيق أمريكي يستهدف شركات الذكاء الاصطناعي بسبب مخاطر الوكلاء الذكيين
فتحت لجنة التجارة الفدرالية الأمريكية تحقيقا يشمل عددا من شركات الذكاء الاصطناعي، من بينها «أوبن إيه آي» و«أنثروبيك»، بهدف تقييم المخاطر المحتملة التي قد تشكلها تقنياتها على المستهلكين، وفق ما أفاد به مسؤول كبير في اللجنة لوكالة رويترز.
ويُعد التحقيق أول تحرك رسمي من نوعه في الولايات المتحدة يركز على المخاطر المرتبطة بوكلاء الذكاء الاصطناعي، الذين يمكنهم تنفيذ إجراءات بصورة غير متوقعة أو تجاوز المهام المحددة لهم، وذلك عقب سلسلة من الحوادث التي أثارت تساؤلات بشأن قدرة الشركات المطورة على التحكم في هذه الأنظمة.
وتعتزم اللجنة توجيه طلبات رسمية للحصول على معلومات، وإلزام مسؤولين تنفيذيين لدى أبرز مطوري الذكاء الاصطناعي بالإدلاء بشهاداتهم، ومن بينهم مسؤولون في «أوبن إيه آي» و«أنثروبيك»، إضافة إلى مجموعة الأبحاث «ميتر» (METR).
مخاوف متزايدة من قدرات الوكلاء الذكيين
استعانت شركتا «أوبن إيه آي» و«أنثروبيك» بمجموعة «ميتر» لإجراء تحقيقات مستقلة في حوادث أمنية مرتبطة بوكلاء الذكاء الاصطناعي التابعين لهما.
وقال المسؤول إن أندرو فيرغسون، رئيس لجنة التجارة الفدرالية، كان يشعر بالقلق إزاء أنشطة شركات الذكاء الاصطناعي قبل وقوع حادثة تورط فيها وكلاء تابعون لـ«أوبن إيه آي» في اختراق منصة «هاغينغ فيس» (Hugging Face) مفتوحة المصدر.
وأضاف أن الحادثة زادت من إلحاح القضية لدى الجهات التنظيمية، خصوصا بعد عمليات بحث عن ثغرات في منصة لتطوير الذكاء الاصطناعي سبقت تنفيذ هجوم واسع النطاق.
ولم ترد «أوبن إيه آي» و«أنثروبيك» و«ميتر» على طلبات رويترز للتعليق على التحقيق، فيما كانت صحيفة «نيويورك بوست» أول من نشر تقريرا بشأنه.
مسؤولية قانونية عن الأضرار الناجمة عن الاختبارات
أكد فيرغسون أن مطوري الذكاء الاصطناعي الذين يوجهون وكلاءهم لإجراء اختبارات للأمن السيبراني، ثم تنتهي هذه الاختبارات بعمليات اختراق، ينبغي أن يتحملوا المسؤولية عن الأضرار الناتجة عنها.
وأشار إلى أن الولايات المتحدة تستطيع الاستناد إلى القوانين المعمول بها حاليا لمعالجة المخاطر المرتبطة بالذكاء الاصطناعي، دون الحاجة بالضرورة إلى سن تشريعات جديدة.
وتتمتع لجنة التجارة الفدرالية بصلاحيات واسعة لمقاضاة الشركات بسبب الممارسات غير العادلة أو المضللة، وقد استخدمت هذه الصلاحيات سابقا في مواجهة شركات أخفقت في اتخاذ تدابير معقولة لحماية بيانات المستهلكين.
ويأتي التحقيق في وقت تتزايد فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام معقدة بصورة مستقلة، وما قد يترتب على ذلك من مخاطر أمنية وقانونية، الأمر الذي يضع الشركات المطورة أمام تدقيق متزايد بشأن مسؤوليتها عن سلوك أنظمتها والنتائج المترتبة على استخدامها.
