coindesk.com
OpenAI, Google, Meta y otras tres empresas tecnológicas acordaron el martes incorporar auditores externos para verificar sus controles de seguridad en inteligencia artificial, firmando un pacto voluntario con la Casa Blanca que no conlleva penalizaciones en caso de incumplimiento.
El presidente Donald Trump calificó el acuerdo como "moralmente vinculante." No cuenta con un mecanismo de aplicación y no requiere que las empresas publiquen ni nombren a los auditores.
"Y entienden que deben autorregularse", dijo Trump a los periodistas después de la reunión. Indicó que establecería una junta de 10 miembros para supervisar la seguridad de la IA y nombraría a un nuevo funcionario de la Casa Blanca para liderar la política de IA, y el acuerdo señala que sus medidas podrían eventualmente incorporarse en la ley.
Anthropic, Nvidia y xAI de Elon Musk, que ahora forma parte de SpaceX, también firmaron el acuerdo del 29 de septiembre. OpenAI estuvo representada por el presidente Greg Brockman, junto con Sundar Pichai de Google, Mark Zuckerberg de Meta, Dario Amodei de Anthropic y Jensen Huang de Nvidia.
El documento de una sola página solicita a las empresas que supervisen sus modelos más avanzados durante el entrenamiento y uso, incluyendo si estos podrían facilitar ciberataques o amenazas biológicas y químicas. En particular, exige controles para evitar que los modelos hackeen o accedan a sistemas informáticos de manera no intencionada.
Un equipo interno verificaría que esas protecciones funcionen y que los problemas se solucionen. Un auditor independiente evaluaría los controles, mientras que un comité del consejo de administración de cada empresa recibiría los hallazgos y supervisaría las correcciones.
Eso conferiría a los revisores externos un papel en la verificación de las salvaguardas en las que las empresas confían para mantener contenidos los modelos experimentales.
Sin embargo, el acuerdo deja la elección de los auditores a las empresas y no establece un plazo para implementar las medidas. Algunos de los pasos son los que las empresas ya llevan a cabo de alguna forma, según AP.
Leer Más: OpenAI afirma que su nueva IA 'Astra' puede construir ataques sin ayuda humana
Cómo los agentes de IA están causando estragos
El acuerdo sigue a una serie de incidentes en los que agentes de IA experimentales irrumpieron en sistemas informáticos a los que nunca se les había autorizado acceder, incluyendo agentes de prueba de OpenAI que alcanzó servidores gestionados por Hugging Face, una plataforma donde los desarrolladores comparten modelos de IA.
