الرئيسية|الأخبار التقنية|أخبار الإنترنت|عشرات الآلاف من الحوادث.. وكلاء الذكاء الاصطناعي يثيرون مخاوف أمنية كُبرىتجري OpenAI وأنثروبيك، بالإضافة إلى شركات أمن سيبراني وباحثين مستقلين، تحقيقات في “عشرات الآلاف” من الحوادث الأمنية المرتبطة بسلوك غير متوقع لوكلاء الذكاء الاصطناعي، وفقًا لتقرير نشره موقع “أكسيوس” نقلًا عن مصادر لم تكشف هويتها.وتأتي هذه التحقيقات في وقت تصاعدت فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تجاوز إجراءات الحماية والتصرف بصورة مستقلة تتجاوز الحدود الموضوعة لهم.وبدأت موجة التقارير الأخيرة بعدما كشفت تقارير عن وكلاء تابعين لـOpenAI حاولوا اختراق أنظمة على منصة Hugging Face، قبل ظهور إفادات مماثلة مرتبطة بأنثروبيك وجوجل.وخلال الأسبوع الماضي، ظهرت تقارير عن نجاح وكلاء ذكاء اصطناعي في الوصول إلى موقع إلكتروني تابع للحكومة الأسترالية، بالإضافة إلى استهداف أسراب من الوكلاء مواقع ثلاث وكالات حكومية أمريكية.آلاف الحوادث قيد التحقيقبحسب المصادر التي استند إليها تقرير أكسيوس، فإن شركات الذكاء الاصطناعي المتقدمة، مثل OpenAI وأنثروبيك، وشركات أمنية مستقلة، تحقق في آلاف “الحوادث” التي تتضمن سلوكًا غير متوقع أو مخالفًا للقيود الأمنية.وتشمل الحالات قيد التحقيق محاولات لتجاوز أنظمة الحماية الموضوعة داخل المواقع الإلكترونية، والخروج من بيئات الاختبار المعزولة “Sandbox”، واختراق مواقع، بالإضافة إلى استخدام وكلاء آخرين داخل أسراب الذكاء الاصطناعي لتطوير قدراتهم اعتمادًا على رسائل تركها وكلاء سابقون.ورصد الباحثون أيضًا حالات أنشأ فيها وكلاء الذكاء الاصطناعي لوحات رسائل للتواصل مع بعضهم، في سلوك يثير تساؤلات بشأن قدرة الأنظمة المستقلة على ابتكار وسائل جديدة للتنسيق دون توجيه مباشر من البشر.وما زالت نسبة من هذه الحوادث غير معلنة حتى الآن، في حين ظهرت حوادث أخرى إلى العلن بعد مرور أسابيع أو أشهر على اكتشافها.وتتضمن التحقيقات كذلك اختبارات أمنية داخلية تعرف باسم “Red Teaming”، تهدف إلى اختبار قدرة النماذج على تجاوز القيود، لكن بعض الحالات تضمنت نجاح وكلاء فعليًا في تخطي إجراءات حماية وضعتها المختبرات.دعوات لإبطاء سباق تطوير الذكاء الاصطناعيفي أعقاب هذه الحوادث، دعت كل من أنثروبيك وOpenAI علنًا إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي الفائقة القوة، مع التأكيد على أهمية تعزيز اختبارات السلامة وتقييم المخاطر قبل إطلاق نماذج أكثر قدرة.وفي المقابل، يتواصل السباق العالمي لتطوير أنظمة ذكاء اصطناعي أكثر تقدمًا، وسط نقاش متزايد حول حجم القيود التنظيمية المناسبة للقطاع.ويشير التقرير إلى أن الولايات المتحدة وروسيا خففتا بعض إجراءات الحماية المرتبطة بالذكاء الاصطناعي، في وقت تسعى فيه الأمم المتحدة إلى دفع الدول الأعضاء نحو تبني أطر مشتركة للحد من مخاطر هذه التقنيات.وعارض الرئيس الأمريكي دونالد ترامب دعوات قادة OpenAI وأنثروبيك إلى تعزيز تقييم مخاطر الذكاء الاصطناعي وفرض مزيد من التنظيمات، محذرًا من أن القيود التنظيمية قد تمنح الصين فرصة للتقدم في سباق الذكاء الاصطناعي. الوسومOpenAI أنثروبيك الذكاء الاصطناعي نسخ الرابط تم نسخ الرابط 27 سبتمبر 2026آخر تحديث: 27 سبتمبر 2026 2 دقائق يتحدث بدلًا منك.. جوجل تطلق ميزة ثورية لإجراء المكالمات نيابةً عنك عبر Gemini يتحدث بدلًا منك.. جوجل تطلق ميزة ثورية لإجراء المكالمات نيابةً عنك عبر Gemini أخبار الإنترنت أنثروبيك و OpenAI تطلقان نماذج ذكاء اصطناعي أقوى وأقل تكلفة 24 سبتمبر 2026 يتحدث بدلًا منك.. جوجل تطلق ميزة ثورية لإجراء المكالمات نيابةً عنك عبر Gemini 25 سبتمبر 2026 أكثر من مجرد صوت.. جوجل تمنح Gemini وجهًا متحركًا يتحدث بـ97 لغة 25 سبتمبر 2026 مايكروسوفت تتخلى عن مبادرة حواسيب “Copilot Plus PC” بعد عامين من إطلاقها 25 سبتمبر 2026 “صور جوجل” تطلق 5 مزايا جديدة لتحرير الصور وتنظيم الذكريات 25 سبتمبر 2026 مايكروسوفت تطلق Surface Pro 12 و Surface Laptop 13 بمعالجات Snapdragon X2 Plus 25 سبتمبر 2026 هونر تكشف عن Honor X9e Pro.. هاتف ببطارية سعتها 11 ألف ميلي أمبير وسطوع فائق 24 سبتمبر 2026 ملخص مؤتمر Meta Connect 2026.. نظارات واقع افتراضي أخف ونماذج جديدة للذكاء الاصطناعي 24 سبتمبر 2026 أنثروبيك و OpenAI تطلقان نماذج ذكاء اصطناعي أقوى وأقل تكلفة 24 سبتمبر 2026 آبل تطور سوارًا جديدًا لمراقبة الصحة بلا شاشة لمنافسة Whoop و Fitbit 24 سبتمبر 2026 آيفون ضد السرقة.. آبل تختبر ميزة قفل الهاتف لحظيًا عند انتزاعه من يد المستخدمين 22 سبتمبر 2026