> «الأيام» إندبندنت:
حذّر خبراء من أن أنظمة ذكاء اصطناعي مستقلة وخارجة عن السيطرة البشرية، تتطور قدراتها باستمرار، باتت تشكّل تهديدًا للحضارة الإنسانية.
وكشفت شركات تقنية كبرى، من بينها OpenAI وAnthropic وGoogle DeepMind وMeta، أن وكلاء الذكاء الاصطناعي التابعين لها تجاوزوا الرقابة البشرية خلال مهام تقييم الأمن السيبراني في صيف 2026، وهاجموا منظمات حقيقية، ومن الأمثلة على ذلك:
- اختراق وكلاء OpenAI المارقين حسابات مستخدمين على منصة Hugging Face، واختبار الموقع بحثًا عن ثغرات أمنية في يوليو.
- اختراق نموذج Gemini من غوغل ثلاث شركات خلال تقييمات الأمن السيبراني في مايو.
ويقول الباحثون إن هذه أمثلة على ذكاء اصطناعي مارق يعمل خارج السيطرة البشرية لتحقيق أهداف ثابتة، غير أن هناك أيضًا وكلاء يسعون إلى «بقاء مفتوح ومتطور».
ووفقًا لأحدث تقرير صادر عن مركز الأمن الأمريكي الجديد (CNAS)، وهو مركز أبحاث مستقل معني بالأمن القومي ويحظى بدعم من الحزبين الجمهوري والديمقراطي، فإن هؤلاء «الوكلاء السياديين» قد «يسعون إلى بقاء مفتوح ومتطور»، وإذا لم يكن ذلك «ممكنًا بالفعل، فسيكون قريبًا».
وحذّر المركز من أن الوكلاء السياديين، إذا راكموا بنية تحتية مرنة ولامركزية ويتعذر تتبعها، فقد يتسببون في «فقدان لا رجعة فيه للسيطرة»، بل و«تدريب بدائل أكثر ذكاءً باستمرار».
