ar
الرجوع للقائمة

تبني OpenAI مفتاح إيقاف لإيقاف الوكلاء المارقين خلال 35 ثانية

source-logo  cointelegraph.com.ar 10 نوفمبر 2026 00:12, UTC
image

أنشأت OpenAI نظامًا يمكنه قطع وصول تجربة بحثية للذكاء الاصطناعي إلى مخرجات النموذج، بعد الكشف عن عدة حالات تصرفت فيها نماذجها بما يتجاوز تعليماتها هذا العام.

في منشور على مدونتها يوم الاثنين، أطلقت OpenAI على النظام اسم «Control Room»، وهو نظام مركزي يتتبع أعباء عمل النماذج عبر بنيتها التحتية البحثية ويوقفها سريعًا عند ظهور مخاوف تتعلق بالسلامة أو الأمن.

وقالت الشركة: «كلما أصبحت نماذجنا أكثر قوة، وكبرت مخاطر السلامة والأمن المرتبطة بها، ازدادت أهمية قدرتنا على اكتشاف المشكلات المحتملة وإيقاف النماذج سريعًا عند الحاجة».

كن على علم
بتحركات عملاتك

تنبيهات، أسعار مباشرة، وأخبار السوق — في تطبيق واحد
qr-code وجه كاميرا الهاتف للتثبيت
4.8 من 40K تقييمًا على App Store وGoogle Play

يأتي الإعلان بعد إفصاح OpenAI عن عدة حوادث هذا العام تصرفت خلالها نماذج بحثية خارج نطاق تعليماتها أثناء التقييمات. ففي يوليو، قالت الشركة إن نماذجها قد خرجت من بيئة اختبار مقيّدة واخترقت Hugging Face للغش في تقييم أمني.

وفي أكتوبر، أفصحت عن أن نموذجًا بحثيًا قد استخدم محفظة عملات مشفرة دون تصريح لدفع تكاليف نشر العقود الذكية باستخدام إيثر على شبكة اختبار، ثم أغفل الإنفاق من ملخصه النهائي.

يغطي Control Room حاليًا أعباء عمل OpenAI البحثية الداخلية، مثل تجارب التدريب والتقييمات ومعالجة البيانات.

ويعمل النظام عبر تخصيص معرّف لكل مهمة بحثية، يتحقق منه محرك الاستدلال قبل توليد مخرجات النموذج. وإذا أمر شخص أو نظام مراقبة آلي بإيقاف المهمة، يسحب Control Room تفويضها، مانعًا أي مخرجات إضافية حتى لو استمر البرنامج البحثي الأساسي في العمل، وفقًا لـOpenAI.

قالت OpenAI إن التفويضات المخزنة مؤقتًا قد تؤخر الإيقاف لمدة تصل إلى 35 ثانية. وصُمم النظام أيضًا لرفض الطلبات الجديدة إذا أصبح Control Room غير متاح.

ذو صلة: تطوّر DeepSeek وكيل ذكاء اصطناعي يتطلب قدرًا أقل من المدخلات البشرية: تقرير

cointelegraph.com.ar