La IA está destruyendo internet. Las matemáticas son nuestra única esperanza.

Hace no mucho, el contenido generado por IA era un truco de salón — papas con seis dedos y dobles inquietantemente parecidos a Tom Cruise, más divertido que alarmante. Esa era ha terminado. El conflicto en Irán lo demostró: imágenes sintéticas de soldados estadounidenses detenidos, aviones de combate iraníes emergiendo a toda velocidad de búnkeres subterráneos, instalaciones de radar destruidas, todo fabricado, todo viral, todo ampliamente creído, alcanzando a cientos de millones antes de que alguien pudiera verificar un solo fotograma.

El internet que una vez conocimos ya no existe. Donde antes la visión informaba la creencia, ahora suscita sospechas. Estamos atravesando una crisis de confianza. Y se extiende mucho más allá de lo que podemos ver con nuestros ojos.

Brian Trunzo es el director de crecimiento en Succinct Labs.

La detección no funciona

La respuesta intuitiva es desarrollar mejores detectores; IA entrenada para detectar IA. No funciona. Cualquiera puede vulnerar los detectores de imágenes líderes a nivel mundial añadiendo desenfoque y distorsión básicos, reduciendo su precisión hasta un mínimo del 4%. La detección falla por la misma razón estructural por la que el software antivirus nunca eliminó el malware: el atacante siempre tiene la ventaja asimétrica.

Pero el fracaso de la detección es casi secundario, porque el problema ya la ha superado.

La IA ya no se limita a generar contenido. Ahora está actuando. Los agentes autónomos están navegando por la web, realizando compras, publicando contenido, negociando con otros agentes e interactuando con humanos y, en algunos casos, niños, que pueden no tener idea de que están hablando con una máquina. Y cuando estos agentes operan a gran escala, los modos de falla son catastróficos.

Un agente entrenado con datos sutilmente contaminados comete pequeños errores plausibles en la facturación médica que se acumulan a lo largo de una red hospitalaria, generando millones de dólares en cargos fraudulentos. Una flota de agentes comerciales, optimizando el margen, explota sistemáticamente vulnerabilidades de precios que sus operadores nunca previeron ni pueden explicar, resultando en miles de millones en pérdidas.

Una mariposa que bate sus alas en un conjunto de datos de entrenamiento provoca un tornado en la economía real.

Cuando el daño está hecho, no hay recibo. El razonamiento de un agente no es un rastro cronológico. Es una única pasada a través de miles de millones de parámetros opacos y sus resultados son probabilísticos. Haga la misma pregunta dos veces y obtendrá respuestas ligeramente diferentes. No hay forma de reconstruir una decisión que se basa en variables que cambian sin cesar. No hay manera de auditar en qué fue entrenado el agente, qué instrucciones siguió o por qué hizo lo que hizo.

Luego llegó Web3. El inversionista Chris Dixon lo llamó ""Leer Escribir Poseer," usuarios controlando sus datos, creadores capturando su valor, plataformas respondiendo a las comunidades. El planteamiento era la propiedad y la descentralización, pero no caló. Web3 se volvió sinónimo de especulación con NFT, y cuando las valoraciones se desplomaron, también lo hizo la visión.

El instinto de Web3 fue correcto: necesitamos una manera de reemplazar la fe con garantías. Pero la propiedad por sí sola no nos llevaría hasta allí. La inteligencia artificial y los agentes lo dejan claro. La cuestión no es quién posee la plataforma. Es si puedes confiar en quién y qué está actuando en ella. Los tokens fueron el elemento incorrecto; las pruebas son el correcto.

En un internet agente, las contrapartes, ya sean humanas o máquinas, necesitan garantías: quién construyó este sistema, qué datos lo moldearon, qué restricciones lo gobiernan, si está autorizado para actuar. Esas garantías deben mantenerse incluso cuando los sistemas subyacentes sean propietarios. Especialmente entonces.

La criptografía de conocimiento cero hace esto posible al vincular los compromisos desde el principio. Un desarrollador puede crear una huella criptográfica de sus datos de entrenamiento, lo que permite que las pruebas ZK verifiquen la identidad, procedencia, datos de entrenamiento y restricciones operativas sin exponer los datos subyacentes. No es “confía en mí”, sino “demuéstralo.”

Esto ya no es solo una cuestión de protección al consumidor. Es un asunto de seguridad nacional.

Los deepfakes fueron el preámbulo. Los agentes son el evento principal. Los adversarios extranjeros no se detendrán en manipular lo que los estadounidenses ven; desplegarán agentes para manipular cómo actúan. Desplegarán sistemas autónomos que transaccionen en nuestros mercados, interactúen con nuestras instituciones y se relacionen con nuestros niños, sin que ninguna contraparte pueda verificar qué son o quién los autorizó. Esto es solucionable. Pero solo si Estados Unidos construye las vías antes de que los adversarios aprendan a explotar su ausencia.

La política debería seguir. El Congreso debería exigir que los agentes de IA de alto riesgo, como aquellos que manejan transacciones financieras o interactúan con menores, porten pruebas criptográficas de quiénes son, quién los autorizó y qué están autorizados a hacer, verificables por cualquier contraparte sin revelar información propietaria. La misma lógica debería extenderse a lo que esos agentes hacen: a medida que los agentes comiencen a realizar transacciones en nombre de personas y empresas a velocidad y escala de máquina, cada acción trascendental — un pago, un contrato, una operación, un intercambio de datos — debería llevar una prueba de quién la autorizó y bajo qué restricciones.

Las bases técnicas ya se están estableciendo: el Departamento de Comercio de EE. UU., a través del Instituto Nacional de Estándares y Tecnología, está explorando la estandarización de la prueba de conocimiento cero mediante su Criptografía para la Mejora de la Privacidad iniciativa. Ese trabajo debe ser priorizado y elevado, y sus resultados deben establecer el referente federal. La responsabilidad no debería recaer sobre el contenido, sino sobre la ausencia de pruebas.

HTTPS nos dio lectura. La Sección 230 nos dio escritura. ZK nos da prueba.

Leer Escribir Poseer Demostrar.

Nota: Las opiniones expresadas en esta columna son las del autor y no necesariamente reflejan las de CoinDesk, Inc. o sus propietarios y afiliados.