أنشأت OpenAI نظامًا يمكنه قطع وصول تجربة بحثية للذكاء الاصطناعي إلى مخرجات النموذج، بعد الكشف عن عدة حالات تصرفت فيها نماذجها بما يتجاوز تعليماتها هذا العام.
في منشور على مدونتها يوم الاثنين، أطلقت OpenAI على النظام اسم «Control Room»، وهو نظام مركزي يتتبع أعباء عمل النماذج عبر بنيتها التحتية البحثية ويوقفها سريعًا عند ظهور مخاوف تتعلق بالسلامة أو الأمن.
وقالت الشركة: «كلما أصبحت نماذجنا أكثر قوة، وكبرت مخاطر السلامة والأمن المرتبطة بها، ازدادت أهمية قدرتنا على اكتشاف المشكلات المحتملة وإيقاف النماذج سريعًا عند الحاجة».
cointelegraph.com.ar