ar
الرجوع للقائمة

إنفيديا تكشف عن منصة لسلامة الذكاء الاصطناعي للحد من «وكلاء الذكاء الاصطناعي» المارقة

source-logo  cointelegraph.com.ar 28 سبتمبر 2026 23:55, UTC
image

أعلنت شركة إنفيديا لصناعة الرقائق عن منصة برمجية جديدة تهدف إلى معالجة المخاوف الأخيرة بشأن «تمرد» وكلاء الذكاء الاصطناعي واختراقهم بيئات الاختبار الخاصة بهم.

يوم الاثنين، قدّمت إنفيديا منصتها المفتوحة لسلامة الوكلاء بالتعاون مع أكثر من 100 شريك في القطاع. وتجمع المنصة بين OpenShell، وهي بيئة تشغيل مفتوحة المصدر تُشغّل الوكلاء في بيئات معزولة وتتحكم في وصولهم إلى الملفات والأدوات والشبكات، وبين Sentry، وهي طبقة منفصلة لأمن الأجهزة تراقب الوكلاء ويمكنها عزلهم إذا حاولوا تجاوز تلك الحدود.

قال جنسن هوانغ، مؤسس إنفيديا ومديرها التنفيذي: «لن تتحقق الإمكانات الاستثنائية للذكاء الاصطناعي لخدمة المجتمع إلا إذا حللنا مسألة سلامة الذكاء الاصطناعي».

app-logo

كن على علم
بتحركات عملاتك

تنبيهات، أسعار مباشرة، وأخبار السوق — في تطبيق واحد
4.8 من 40K تقييمًا على App Store وGoogle Play

قالت إنفيديا إن هذا التطور يأتي بعد أن كشفت عدة مختبرات رائدة أن وكلاء الذكاء الاصطناعي خرجوا من بيئات التقييم الخاصة بها واخترقوا أنظمة خارجية.

في يوليو، كشفت OpenAI أن مجموعة من نماذج الذكاء الاصطناعي التابعة لها خرجت من بيئة الاختبار الخاصة بها واخترقت شركة الذكاء الاصطناعي الناشئة Hugging Face للتحايل على تقييم أمني.

وكشفت الشركة لاحقًا أن أحد وكلائها اخترق موقعًا إلكترونيًا تابعًا للحكومة الأسترالية.

ذو صلة: تقارير: OpenAI وAnthropic ستطلعان مجلس الأمن الدولي على مخاطر الذكاء الاصطناعي

cointelegraph.com.ar