es
Volver a la lista

Google encuentra herramienta de hacking con IA autónoma y comentarios en ruso en sus archivos

source-logo  coindesk.com 18 m
image

Google afirmó el lunes que ha descubierto una herramienta de hacking que detecta fallos en el software y los explota por sí sola, sin ayuda humana, subrayando los riesgos de los agentes de inteligencia artificial (IA).

El hallazgo, detallado en el informe del tercer trimestre del Grupo de Inteligencia de Amenazas de Google, dijo que la herramienta estaba en un servidor de pruebas expuesto, un equipo que los atacantes utilizan para almacenar y preparar sus herramientas. El servidor había quedado abierto a Internet. Google nombró a la herramienta “exploit_agent.”

La herramienta se conectó a varios modelos de lenguaje de gran tamaño (LLMs), el tipo de IA detrás de los chatbots, incluyendo modelos comerciales líderes y aquellos que Google denomina "locales".

La herramienta luego monitoreó el software web popular en busca de parches, las correcciones que los desarrolladores de software lanzan para solucionar fallas. Cuando se lanzaba uno, comparaba el código del programa antes y después de la corrección para detectar el punto débil. Piense en comparar dos borradores de un documento para ver qué líneas cambió un editor. Los cambios muestran dónde estaba el problema.

Luego elaboró un exploit para aprovechar el punto débil – un fragmento de código que se aprovecha de la falla – y lo ejecutó automáticamente.

"Google afirmó que esta es la primera vez que ha visto a atacantes hacer esto. “En el último trimestre, GTIG identificó actores de amenazas que utilizan marcos de trabajo LLM para automatizar completamente el descubrimiento y la explotación de vulnerabilidades sin intervención humana por primera vez,” señaló el informe.

El hallazgo también se suma a una creciente lista de advertencias sobre agentes autónomos de IA que representan una amenaza para los sistemas heredados. El gobernador de la Reserva Federal, Michael Barr, declaró el lunes que los agentes autónomos de IA podría desencadenar una corrida bancaria en cuestión de minutos. En septiembre, el economista jefe de Apollo, Torsten Slok advirtió que Los asistentes de IA que trasladan el efectivo doméstico a cuentas con rendimientos más altos podrían drenar a los bancos de depósitos baratos.

Una cifra en el informe de Google muestra que la herramienta examinó los controles de acceso de un complemento de WordPress llamado Spectra (Ultimate Addons for Gutenberg), versión 2.19.25. Los controles de acceso son el código que decide quién puede hacer qué. El informe no indica si eso condujo a un ataque.

Mantente al tanto
del movimiento de tus monedas

Alertas, precios en tiempo real y noticias del mercado, todo en una app
qr-code Apunte соn la cámara de su teléfono para instalar
4,8 de 40K valoraciones en la App Store y Google Play
coindesk.com