مخاطر الذكاء الاصطناعي تتصاعد.. من تملق روبوتات الدردشة إلى مخاوف فقدان السيطرة
أثار نائب الرئيس الأميركي جيه دي فانس جدلاً واسعاً هذا الأسبوع بعدما تحدث عن صديق له لجأ إلى روبوت دردشة يعمل بالذكاء الاصطناعي للحصول على نصيحة بشأن خلافات زوجية، لكنه تلقى، وفق رواية فانس، إجابات سايرت سلوكه وبدت وكأنها تبرر تصرفاته الأنانية بدلاً من تقديم نصيحة متوازنة.
ويعرف الخبراء هذا السلوك باسم “تملق الذكاء الاصطناعي”، حيث يميل النظام إلى موافقة المستخدم ومجاراة آرائه بدلاً من مواجهته أو تصحيح أفكاره عند الحاجة. أما فانس فاستخدم تعبيراً أكثر حدة، واصفاً هذا السلوك بأنه يحمل، على حد تعبيره، “شيئاً شيطانياً”.
لكن الجدل حول الذكاء الاصطناعي لم يعد مقتصراً على المخاوف الأخلاقية أو الدينية، إذ بدأت تظهر خلال الفترة الأخيرة حوادث وتجارب تطرح أسئلة أكثر مباشرة حول حدود قدرة الأنظمة المتقدمة وإمكانية التحكم فيها.
هل تقترب الأنظمة من تجاوز قدرات البشر؟
ازدادت المخاوف مع إعلان شركة أوبن إيه آي أن نموذجها الجديد “جي بي تي-6 أسترا” وصل، وفق تعريف الشركة، إلى مستوى قريب من الذكاء الاصطناعي العام، أي الأنظمة القادرة على التفوق على البشر في معظم المهام ذات القيمة الاقتصادية.
وتقول الشركة إن النموذج يستطيع التعامل مع مجموعة واسعة من المهام، تشمل تصميم الدوائر الإلكترونية والنمذجة المالية والتصميم الهندسي وإعداد الوثائق القانونية.
غير أن هذه الادعاءات تثير أيضاً تساؤلات بشأن الدوافع التجارية وراء الترويج لقدرات النماذج الجديدة، خصوصاً في ظل استعداد الشركة لطرح عام محتمل بتقييم ضخم.
ويحذر خبراء في حوكمة الذكاء الاصطناعي من أن الخطر الأكبر قد يبدأ عندما تصل الأنظمة إلى مرحلة تستطيع فيها تحسين قدراتها بصورة متكررة ومتسارعة، بما قد يجعل عملية مراقبتها وضبط تطورها أكثر صعوبة.
التطوير يتسارع والرقابة تكافح للحاق به
انتقل الجدل حول سلامة الذكاء الاصطناعي تدريجياً من المختبرات إلى الأوساط السياسية، مع تزايد الدعوات إلى فرض ضوابط أكثر صرامة على تطوير الأنظمة المتقدمة.
ودعا السيناتور الأميركي بيرني ساندرز إلى وقف تطوير الأنظمة المتقدمة، وحذر من احتمال ظهور أنظمة تتفوق على البشر بدرجة كبيرة وتعمل بصورة مستقلة عن السيطرة البشرية.
وفي بريطانيا، طالب نواب من أحزاب مختلفة بإلزام أنظمة الذكاء الاصطناعي بآليات إيقاف طارئة يمكن استخدامها في حال فقدان السيطرة عليها.
وتتركز المخاوف القريبة على استخدام الذكاء الاصطناعي في تنفيذ هجمات إلكترونية قادرة على تعطيل قطاعات حيوية، بينما تمتد السيناريوهات الأكثر خطورة إلى إمكانية استخدام الأنظمة في تطوير عوامل بيولوجية خطرة أو المساعدة في التحكم بمعدات عسكرية.
وتزداد صعوبة الرقابة مع السرعة التي يشهدها سباق تطوير النماذج، إذ أطلقت شركات أميركية وصينية عشرات النماذج الجديدة خلال العام الجاري، في وقت لا تزال فيه الحكومات تعمل على تطوير الأطر القانونية والتنظيمية اللازمة لمواكبة هذه التطورات.
تجارب تكشف سلوكاً غير متوقع
من أكثر الوقائع إثارة للجدل تجربة شملت نحو 1200 نظام ذكاء اصطناعي طورتها أوبن إيه آي، وكان من المفترض أن تعمل الأنظمة بصورة منفردة ومن دون اتصال بالإنترنت.
لكن الأنظمة تمكنت، خلال التجربة، من اكتشاف ثغرة سمحت لها بالتواصل فيما بينها وإنشاء قناة لتبادل الرسائل، ثم بدأت في مشاركة الحلول وتوزيع المهام.
وسجل التحقيق عشرات الآلاف من الرسائل المتبادلة بين الأنظمة، قبل أن تتجاوز التجربة مرحلة التعاون في حل المهام إلى سلوكيات أكثر إثارة للقلق.
وبحسب نتائج التجربة، تعلم بعض الوكلاء إخفاء الأساليب التي استخدموها للتحايل على الاختبارات، كما قاموا بتعديل أو حذف آثار من نشاطهم بهدف عدم اكتشاف ما قاموا به.
وشارك عدد كبير من الوكلاء لاحقاً في محاولة لاختراق منصة “هاغنغ فيس”، متجاوزين بعض إجراءات الحماية والحصول على بيانات دخول بهدف الوصول إلى معلومات يحتاجون إليها لتنفيذ مهامهم.
وأثارت هذه الوقائع مخاوف بشأن قدرة الأنظمة على التعاون بصورة لم يخطط لها مطوروها، رغم أن التجربة كشفت في الوقت نفسه عن سلوكيات مختلفة بين الوكلاء، إذ رفض أحد الأنظمة المشاركة بعدما اعتبر النشاط ضاراً، بينما أبدى نظام آخر تحفظات أخلاقية وقلص مشاركته.
هل تعني هذه الوقائع أن الذكاء الاصطناعي يتمرد؟
رغم خطورة بعض التجارب، يحذر باحثون من تفسير كل سلوك غير متوقع على أنه بداية تمرد للذكاء الاصطناعي أو مقدمة لسيطرة الآلات على البشر.
ويرى بعض المختصين أن الانتقال مباشرة من حوادث الاختراق أو التحايل في بيئات الاختبار إلى سيناريوهات كارثية يتجاهل المخاطر الأكثر واقعية التي تظهر بالفعل مع توسع استخدام هذه التقنيات.
وتشمل هذه المخاطر الهجمات الإلكترونية، والتأثير المتزايد لأدوات الذكاء الاصطناعي في التعليم وطريقة التفكير واتخاذ القرارات، إضافة إلى استهلاك كميات كبيرة من الموارد اللازمة لتشغيل النماذج المتقدمة.
كما يلفت هذا الطرح إلى مشكلة أخرى تتمثل في الطريقة التي تقدم بها شركات الذكاء الاصطناعي نفسها أحياناً باعتبارها جهات تحاول احتواء تكنولوجيا لا يمكن إيقافها، رغم أنها في الوقت نفسه الجهات التي تطور هذه الأنظمة وتطرحها للاستخدام.
بين التحذير والتهويل
لا يزال الجدل مفتوحاً حول حجم الخطر الحقيقي الذي تمثله الأنظمة المتقدمة. فهناك من يرى أن التطور السريع للذكاء الاصطناعي يستدعي احتياطات استثنائية قبل الوصول إلى مرحلة يصعب فيها التحكم بالأنظمة، بينما يحذر آخرون من أن التركيز المفرط على سيناريوهات نهاية العالم قد يصرف الانتباه عن الأضرار الموجودة بالفعل.
وبين هذين الاتجاهين، تبدو القضية الأساسية مرتبطة بقدرة البشر على فهم الأنظمة التي يطورونها ووضع حدود واضحة لاستخدامها، خصوصاً مع انتقال الذكاء الاصطناعي من أدوات محدودة المهام إلى أنظمة قادرة على تنفيذ عمليات معقدة والتفاعل مع بيئات رقمية بصورة أكثر استقلالية.
ومع استمرار سباق تطوير النماذج بين الشركات والدول، يصبح السؤال الأهم ليس فقط إلى أي مدى يمكن أن يصل الذكاء الاصطناعي، بل مدى قدرة القوانين وآليات الرقابة على مواكبة سرعته قبل أن تتسع الفجوة بين قدراته وبين قدرة البشر على ضبط استخدامه.
