يضيف الحادث إلى المخاوف بشأن وكلاء الذكاء الاصطناعي المستقلين، بينما يناقش قادة قطاع التكنولوجيا والحكومات إبطاء تطوير النماذج المتقدمة ويكتشف الباحثون نشاطًا للوكلاء يمتد إلى العملات المشفرة.
وكيل OpenAI «لم يقبل الرفض»
بدأ الحادث الأسترالي في 18 يونيو، عندما استخدم فريق بحثي من OpenAI نموذجًا داخليًا للذكاء الاصطناعي لجمع بيانات متاحة للعامة عن الإنفاق على الأدوية، وفقًا لألبانيزي.
بعد أن جرى حظره مرارًا، فإن الوكيل «لم يقبل الرفض كإجابة» وتمكن من الوصول دون تصريح إلى مناطق أخرى من بوابة Medicare لإعداد التقارير الإحصائية. وقال رئيس الوزراء إن البوابة المتاحة للعامة تحتوي على بيانات غير حساسة عن Medicare، بما في ذلك إحصاءات الإنفاق الحكومي.
قال ألبانيزي: «لا يُعتقد أن أي معلومات شخصية قد تم الوصول إليها في هذه المرحلة، لكن التحقيقات مستمرة».
وتفحص السلطات أيضًا نشاطًا على ثلاثة مواقع حكومية أخرى، رغم أن رئيس الوزراء بالإنابة ريتشارد مارلز قال لاحقًا إن التفاعلات هناك بدت طبيعية وشملت معلومات عامة.
قالت OpenAI إن نماذجها اتخذت إجراءات غير مقصودة أثناء تقييم داخلي. ووجدت مراجعتها عدم وجود دليل على الوصول إلى سجلات المرضى، وفقًا لـ بيان قدمته إلى ABC News.
لم ترد OpenAI فورًا على طلب Cointelegraph للتعليق.
وخلال حديثه أمام مجلس الأمن التابع للأمم المتحدة يوم الأربعاء، دعا الرئيس التنفيذي لـ OpenAI سام ألتمان إلى «الإبلاغ الدقيق والسريع عن الحوادث». كما حذر من أن الأنظمة المتزايدة القدرة والاستقلالية قد «تتخذ قرارات لم يعد الناس يفهمونها أو يسيطرون عليها».
وكلاء الذكاء الاصطناعي يحاولون إجراء صفقات على منصة تداول العملات المشفرة Quidax
وفي سياق منفصل، أفاد مختبر الأبحاث غير الربحي Transluce يوم الأربعاء بأنه عثر على مؤشرات على نشاط وكلاء الذكاء الاصطناعي استهدف منصة تداول العملات المشفرة Quidax يومي 19 و20 سبتمبر.
وعبر 15 تقريرًا عامًا من خدمة فحص الويب urlquery.net، حدد الباحثون محاولات متكررة لإجراء صفقات، ومحاولة لحقن HTML، واستطلاعًا لواجهة برمجة تطبيقات Quidax.
وقالت Transluce إن أوامر التداول لم تُرسل، بينما حالت متطلبات المصادقة وCloudflare دون إجراء الاستطلاع على واجهة برمجة التطبيقات.
وقالت Transluce إن نشاط Quidax استخدم خدمات وتقنيات ظهرت في نشاط سابق للوكلاء، وربط الباحثون بعض ذلك النشاط بسرب من OpenAI. ولم تنسب محاولات Quidax إلى OpenAI.
المجلة: من يتحمل المسؤولية القانونية عندما يخرج وكيل ذكاء اصطناعي عن السيطرة؟