جدل واسع حول دور الذكاء الاصطناعي في إلغاء عقود بوزارة شؤون المحاربين القدامى بإدارة ترامب

تستعد إدارة الرئيس الأميركي السابق دونالد ترامب، في خطوة مثيرة للجدل، لإلغاء مجموعة كبيرة من العقود المبرمة مع وزارة شؤون المحاربين القدامى، وذلك ضمن أعمال إدارة الكفاءة الحكومية التي يقودها رجل الأعمال إيلون ماسك ويشرف عليها فريق من المهندسين العاملين تحت إدارته.

ووفقًا لتقرير استقصائي نشره موقع ProPublica، فإن هذه القرارات تستند إلى نتائج نظام ذكاء اصطناعي “قديم وغير متطور”، ما أدى إلى سوء تقدير واسع النطاق لقيم العقود والحالات الصحية للمستفيدين من خدمات الوزارة، ومن بينهم محاربون قدامى يعانون أمراضًا مزمنة أو حالات حرجة.

أخطاء كارثية في التقديرات

أشار التقرير إلى أن النموذج الخوارزمي أخطأ بشكل فادح في تحليل بيانات العقود، مثلما حدث في حالات تم فيها تضخيم قيمة عقد رعاية صحية من 34 ألف دولار إلى 34 مليون دولار، في واقعة تعكس خللًا عميقًا في دقة التقديرات المعتمدة.

وقد شمل تقرير إدارة الكفاءة أكثر من 2000 عقد، بينما أكدت وزارة شؤون المحاربين القدامى أنها أنهت بالفعل 600 عقد، بينها 20 عقدًا وردت في تقرير الذكاء الاصطناعي. إلا أن الوزارة رفضت تقديم توضيحات للكونغرس، مما أثار مخاوف بين أعضاء مجلس الشيوخ الديمقراطيين الذين طالبوا بمزيد من الشفافية حول الأسس التي بُنيت عليها قرارات الإلغاء.

عقود حيوية تم إلغاؤها

كشف “بروبوبليكا” أن من بين العقود التي تم إنهاؤها عقدًا لصيانة جهاز تسلسل الجينات يُستخدم في أبحاث علاج السرطان، بالإضافة إلى عقد لتحليل عينات دم ضمن مشروع بحثي تابع للوزارة، إلى جانب عقد لتقييم كفاءة فرق التمريض في تقديم الرعاية للمحاربين القدامى.

انتقادات حادة للنموذج البرمجي

وفي خطوة لافتة، تمكن الموقع من الوصول إلى كود البرمجة المستخدم في نموذج الذكاء الاصطناعي المسؤول عن تصنيف العقود، وشارك محتواه مع خبراء في مجالي الذكاء الاصطناعي والعقود الحكومية، الذين انتقدوا بشدة مستوى الكود، واعتبروا أن استخدام خوارزمية غير موثوقة في هذا السياق الحساس يمثل “خللًا مؤسسيًا خطيرًا”.

شهادة من الداخل: “لا تثقوا بالكود”

وفي مقابلة مع ساهيل لافينجيا، أحد المبرمجين الذين عملوا مؤقتًا في إدارة الكفاءة الحكومية، كشف عن فوضى داخلية وقرارات مرتجلة، وقال:

“لن أنصح أحدًا بتشغيل الكود الذي كتبته أو اتباع التعليمات البرمجية. لقد أنجزت أداة فحص العقود خلال 24 ساعة فقط من خلال الذكاء الاصطناعي، لفحص أكثر من 90 ألف عقد… الوضع كان أشبه بحلقة من مسلسل The Office“.

وأضاف لافينجيا أن النموذج استند إلى تعليمات غير مدققة وبيانات غير محدثة، ما تسبب في نتائج مضللة، مشبهًا الموقف بسائق يقود سيارته إلى بحيرة لمجرد أن خرائط غوغل طلبت ذلك.

خلاصة:
تسلط هذه الواقعة الضوء على مخاطر الاعتماد غير المدروس على الذكاء الاصطناعي في قرارات حكومية حساسة، خاصة حين يتعلق الأمر بصحة وحقوق المحاربين القدامى. كما تفتح الباب أمام تساؤلات مشروعة بشأن مستوى الرقابة والمساءلة في الهيئات الحكومية التي تعتمد على أدوات تقنية دون تقييم علمي دقيق.