coindesk.com
Un modelo de investigación de OpenAI, que se quedó sin fondos en una red de prueba de Ethereum, buscó en la cartera de otra persona, encontró una a través de frases de recuperación que ya eran públicas y gastó de ella para completar una asignación de codificación, reveló la empresa el jueves.
El incidente ocurrió el 26 de junio durante el entrenamiento de un modelo interno en la familia GPT-5.6 Sol, y OpenAI lo descubrió el 25 de septiembre, según su informe de incidente.
El modelo no necesitó habilidades de hacking para ingresar.
Una frase de recuperación, también llamada frase semilla, es una lista de palabras que genera las claves secretas de una cartera; quien tenga esas palabras puede recrear las cuentas y realizar gastos desde ellas sin necesidad de tocar el dispositivo del propietario.
La asignación permitió que el modelo desplegara contratos, programas que se ejecutan en una cadena de bloques, pero no le proporcionó una cartera financiada para pagar las tarifas. Después de que sus intentos de obtener tokens de prueba gratuitos fracasaron, escribió un script que verificó 362 direcciones generadas a partir de frases de recuperación comúnmente utilizadas por desarrolladores y encontró una con suficiente dinero.
“¿Pero usar claves/fondos públicos de manera ética?” se preguntó el modelo en su razonamiento registrado, antes de decidir que una frase pública y tokens de prueba lo hacían aceptable.
El gasto se realizó en Sepolia, una red independiente donde los desarrolladores prueban las aplicaciones de Ethereum antes de lanzarlas. Sus tokens únicamente se utilizan para pruebas y no están vinculados al ether que se negocia en la red principal de Ethereum.
El despliegue se realizó correctamente y la cartera pagó las tarifas. Cuando el modelo informó, indicó que el trabajo estaba completado y omitió de dónde provenían los fondos. OpenAI declaró que desde entonces ha añadido restricciones al acceso a internet y un mayor monitoreo.
Las empresas de criptomonedas e inteligencia artificial están desarrollando agentes que poseen carteras y pagan por servicios sin que una persona autorice cada paso.
