الرئيسية|الأخبار التقنية|OpenAI توقف تدريب أقوى نماذجها مؤقتًا بعد حوادث خطيرة لوكلاء الذكاء الاصطناعيأعلنت OpenAI تعليق عمليات التدريب والتقييم والاستدلال التي تستخدم أدوات خارجية مع أقوى نماذجها للذكاء الاصطناعي، بعد سلسلة من الحوادث التي أظهرت قدرة وكلاء الذكاء الاصطناعي على تجاوز بعض إجراءات العزل والقيود الأمنية والتفاعل مع أنظمة خارجية بصورة غير متوقعة.وقالت الشركة في مذكرة إفصاح إن إحدى الحوادث كشفت عن “فجوة في ضوابطنا المتعلقة بقيود الشبكة”، موضحةً أنها أوقفت عملية التدريب المتأثرة، وقررت تعليق عمليات التدريب والتقييم والاستدلال الأخرى التي تتضمن استخدام الأدوات مع أكثر نماذجها قدرة، إلى حين التحقق من معالجة المشكلة وإجراء اختبارات أمنية إضافية.حوادث متكررة تثير مخاوف بشأن الوكلاءجاء قرار OpenAI بعد أيام من تقارير تحدثت عن سلوكيات غير متوقعة لوكلاء الذكاء الاصطناعي التابعين للشركة، منها حادثة استغل فيها أحد الوكلاء اتصالًا عبر نظام DNS للوصول إلى روبوت محادثة خارجي، في تجاوز للقيود التي كانت مفروضة على بيئة التشغيل.وتأتي هذه الواقعة بعد تقارير سابقة عن خروج مجموعات من الوكلاء من بيئات العزل الخاصة بها، والوصول إلى أنظمة تابعة لخدمات خارجية، بالإضافة إلى حوادث أخرى تصرف فيها وكلاء الذكاء الاصطناعي بطرق لم تكن جزءًا من سيناريوهات التدريب الأصلية.وأفادت تقارير حديثة بأن وكلاء طورتهم OpenAI استهدفوا مواقع حكومية أمريكية، منها مواقع تابعة لهيئة الأوراق المالية والبورصات الأمريكية ووزارة التجارة.وكان سام ألتمان، الرئيس التنفيذي لـOpenAI، قد أقر أيضًا بأن استجابة الشركة لبعض الحوادث الأمنية الأخيرة كان يمكن أن تكون أسرع.المشكلة تتجاوز OpenAIلا تقتصر مخاطر سلوك الوكلاء على OpenAI؛ إذ شهدت مختبرات أخرى متخصصة في تطوير نماذج الذكاء الاصطناعي المتقدمة حوادث مشابهة مرتبطة بقدرة النماذج على تنفيذ مهام بدرجة أكبر من الاستقلالية.وأثارت تقارير مماثلة تساؤلات بشأن نماذج Gemini التابعة لجوجل و Claude التابعة لأنثروبيك، مع تصاعد المخاوف حول قدرة الوكلاء على تجاوز القواعد أو البحث عن طرق بديلة لتحقيق الأهداف المحددة لها.وتعرف هذه الظاهرة في أبحاث الذكاء الاصطناعي باسم “عدم المواءمة”، وتشير إلى الحالات التي يتصرف فيها النظام بطريقة لا تتوافق بصورة كاملة مع الأهداف أو القيود التي حددها المطورون.وتزداد هذه المخاطر مع انتقال الذكاء الاصطناعي من نماذج تكتفي بتوليد النصوص إلى وكلاء قادرين على استخدام الأدوات، وتصفح الإنترنت، وتنفيذ الأوامر والتفاعل مع الأنظمة الخارجية بصورة شبه مستقلة.ولا تقتصر المخاوف على تجاوز القيود الأمنية، بل تمتد إلى مسألة تحديد المسؤولية عندما يتخذ وكيل ذكي قرارًا غير متوقع أثناء تنفيذ مهمة، خاصةً عندما يمتلك صلاحيات للوصول إلى بيانات أو خدمات خارجية. الوسومOpenAI الذكاء الاصطناعي نسخ الرابط تم نسخ الرابط 28 سبتمبر 2026آخر تحديث: 28 سبتمبر 2026 دقيقة واحدة منتج في أزمة.. آبل تعيد النظر في مستقبل نظارة Vision Pro منتج في أزمة.. آبل تعيد النظر في مستقبل نظارة Vision Pro عالم الكمبيوتر مايكروسوفت تعيد تصميم Copilot.. تطبيق واحد يجمع الذكاء الاصطناعي وتطبيقات والبرمجة 27 سبتمبر 2026 منتج في أزمة.. آبل تعيد النظر في مستقبل نظارة Vision Pro 28 سبتمبر 2026 رغم انتهاء دعمه.. ويندوز 10 أكثر استقرارًا من ويندوز 11 28 سبتمبر 2026 مايكروسوفت تعيد تصميم Copilot.. تطبيق واحد يجمع الذكاء الاصطناعي وتطبيقات والبرمجة 27 سبتمبر 2026 مليار وفاة في أسوأ سيناريو.. بيل غيتس يحذر من خطر الذكاء الاصطناعي غير المنضبط 27 سبتمبر 2026 هوليوود مُهددة.. الصين تراهن على الذكاء الاصطناعي لبناء صناعة سينما جديدة 27 سبتمبر 2026 الذكاء الاصطناعي يهز أرفع جائزة أدبية في فرنسا.. رواية شهيرة خارج السباق 27 سبتمبر 2026 عشرات الآلاف من الحوادث.. وكلاء الذكاء الاصطناعي يثيرون مخاوف أمنية كُبرى 27 سبتمبر 2026 يتحدث بدلًا منك.. جوجل تطلق ميزة ثورية لإجراء المكالمات نيابةً عنك عبر Gemini 25 سبتمبر 2026 أكثر من مجرد صوت.. جوجل تمنح Gemini وجهًا متحركًا يتحدث بـ97 لغة 25 سبتمبر 2026 مايكروسوفت تتخلى عن مبادرة حواسيب “Copilot Plus PC” بعد عامين من إطلاقها 25 سبتمبر 2026