coindesk.com
La semana pasada, seis de las empresas de inteligencia artificial más poderosas del mundo prometieron a la Casa Blanca que permitirían a terceros revisar su trabajo.
El 29 de septiembre, Nvidia, OpenAI, Anthropic, Google, Meta y xAI firmaron un acuerdo sobre los modelos de IA más avanzados que el presidente de EE. UU., Donald Trump llamado "vinculante moralmente." Cada empresa ha prometido que "colaborará con un auditor o evaluador externo independiente" y que miembros independientes del consejo revisarán los informes de los auditores y se asegurarán de que los problemas sean corregidos.
Las auditorías externas son una buena idea, y me complace ver que están incluidas. Pero el acuerdo no menciona quién selecciona a los auditores, qué pueden examinar ni si algún hallazgo se hace público; no hay ninguna penalización por ignorarlo. Tal como está, cada empresa elige a su propio auditor y decide qué puede revisar ese auditor.
En 2000, Enron pagó a la firma de contabilidad Arthur Andersen — una vez parte de las llamadas “Big Five” de firmas contables internacionales, ahora las “Big Four” tras el colapso de Arthur Andersen — 25 millones de dólares para auditar sus libros y otros 27 millones por trabajo fiscal y de consultoría. En el plazo de dos años, ambas firmas habían colapsado. El Congreso respondió con la Ley Sarbanes-Oxley, que quitó a la gerencia la elección del auditor, impidió que los auditores vendieran la mayoría de otros servicios a las empresas que auditan y estableció una junta pública para inspeccionar a los propios auditores.
Andersen no fracasó debido a una falta de pericia, sino a un incentivo para examinar detenidamente a un cliente que le pagaba 52 millones de dólares en un solo año. Los compromisos voluntarios en la industria de la IA tampoco tienen un buen historial. En 2023, las principales empresas de IA hicieron una serie de compromisos voluntarios con la Casa Blanca, que incluían permitir que expertos externos evaluaran sus sistemas antes de su lanzamiento. Cuando investigadores de Stanford, Harvard y Brown evaluaron a 16 empresas según esos compromisos, el promedio fue del 53%. En cuanto a la promesa de ayudar a terceros a encontrar y reportar problemas, ocho de las 16 obtuvieron cero.
