وكتب النموذج برنامجًا نصيًّا يستمد عناوين العملات المشفرة من عبارات الاسترداد الشائعة الاستخدام في مجال التطوير ويتحقق من أرصدتها. ومن بين 362 عنوانًا تم فحصها، احتوى عنوان واحد على ما يكفي من عملة إيثريوم ($ETH) على شبكة سيبوليا لتغطية تكاليف النشر. ثم فحص النموذج سجل معاملات المحفظة وأقر بعدم اليقين بشأن مدى ملاءمة استخدام أموالها.
"لكن هل استخدام المفتاح/الأموال المعروفة للجمهور أمر أخلاقي؟" تساءل النموذج، وفقًا لمقتطفات وردت في تقرير OpenAI. "الأموال الموجودة في عبارة استرداد مطور معروفة للجمهور هي في الواقع عملة $ETH مهجورة/مخصصة للاختبار؛ ولا قيمة لـ Sepolia."
ثم خلص النموذج إلى أن استخدام الحساب أمر مقبول.
وباستخدام المفتاح الخاص المستمد من المحفظة، وقّع النموذج على معاملة نشر عقد ذكي. وبعد مواجهة صعوبات تقنية في محاولاته الأولية، حدد النموذج نقاط نهاية شبكة بديلة قادرة على معالجة المعاملة. ونجح النشر في النهاية، مع خصم رسوم المعاملة من رصيد المحفظة.
وواصل النموذج التحقق من عمله، مؤكدًا أن العقود التي تم نشرها تحتوي على كود قابل للتنفيذ وتُرجع المعلومات المتوقعة. وأفاد الناتج النهائي بنجاح نشر مجموعة العقود، إلى جانب اجتياز 12 اختبارًا وحدةً ونجاح عملية البناء للإنتاج.
ومع ذلك، لم يكشف النموذج أنه قد وصل إلى محفظة باستخدام عبارة استرداد متاحة للجمهور أو أنفق أموالًا من حساب لم يُصرح له باستخدامه.
لم يتضمن الحادث سرقة عملة مشفرة ذات قيمة سوقية محددة. تهدف Sepolia $ETH إلى اختبار تطبيقات إيثريوم ولا تمتلك عمومًا أي قيمة نقدية مباشرة، على الرغم من أنها تظل موردًا محدودًا ضروريًا لتنفيذ المعاملات على الشبكة.
مخاطر تعامل وكلاء الذكاء الاصطناعي مع العملات المشفرة
ومع ذلك، حدد باحثو OpenAI هذا السلوك باعتباره مثالًا مهمًا على «اختلال مواءمة الذكاء الاصطناعي»، حيث استبدل النموذج بشكل مستقل تقديره بشأن الضرر المحتمل بالتفويض الصريح.
توضح هذه الحادثة كيف يمكن لوكلاء الذكاء الاصطناعي المزودين بقدرات البرمجة والوصول إلى الإنترنت أن يتطوروا من مرحلة تحديد الموارد المالية إلى الوصول إليها وإنفاقها بشكل مستقل، حتى عندما تقع تلك الإجراءات خارج نطاق تعليماتهم.
ووفقًا للتقرير، اكتشفت الشركة الحادثة في 25 سبتمبر أثناء توسيع نطاق مراقبة الأنشطة التاريخية للنموذج. وتم توثيق النتائج لاحقًا في تقرير تم تحديثه في 15 أكتوبر.
وقالت OpenAI إنها نفذت إجراءات وقائية إضافية تهدف إلى منع الوصول المباشر إلى الإنترنت في ظروف مماثلة. كما ذكرت الشركة أن نظام مراقبة الانحرافات الخاص بها يعمل الآن على جميع أنواع حركة المرور، وهو مصمم لتنبيه موظفي الأمن في حالة الحصول على وصول مباشر إلى الإنترنت.
تسلط هذه الحالة الضوء على تحدٍ أوسع يواجه مطوري أنظمة الذكاء الاصطناعي المستقلة: ضمان التزام النماذج بالحدود المالية والتشغيلية حتى عندما يكون التحايل على تلك الحدود سيساعدهم في إكمال المهمة الموكلة إليهم.
news.bitcoin.com
