Seis tecnológicas firmaron en la Casa Blanca el acuerdo sobre superinteligencia, un pacto voluntario para auditar sus modelos de IA. No incluye sanciones ni plazos, y se cuestiona su independencia.
El acuerdo sobre superinteligencia lo firmaron el 29 de septiembre seis de las principales desarrolladoras de Inteligencia Artificial de Estados Unidos, en presencia de Donald Trump. Es un compromiso voluntario para vigilar los riesgos de sus modelos. No incluye sanciones ni plazos, y abrió un debate sobre si la industria puede supervisarse a sí misma.
La firma ocurrió después de un almuerzo en la Casa Blanca con las cabezas del sector. Ese mismo día, Trump firmó la orden ejecutiva ‘Inaugurating the Era of Super Intelligence’. Desde entonces, las agencias federales deben usar “superinteligencia” en lugar de Inteligencia Artificial en sus comunicaciones oficiales.
En este artículo:
¿Quiénes firmaron el acuerdo y quiénes se abstuvieron?
El documento, titulado White House Accord on Super Intelligence, lleva la firma de:
- Sundar Pichai, CEO de Google
- Dario Amodei, CEO de Anthropic
- Mark Zuckerberg, CEO de Meta
- Greg Brockman, presidente de OpenAI (Sam Altman no asistió)
- Elon Musk, por xAI
- Jensen Huang, CEO de Nvidia
Satya Nadella, de Microsoft, y Jeff Bezos, de Amazon, estuvieron en el encuentro, pero sus compañías no firmaron.
“Creo que es moralmente vinculante”, dijo Donald Trump, presidente de Estados Unidos, quien describió el texto como “casi una especie de Constitución“.
¿Qué implica en la práctica este compromiso?
El acuerdo propone cuatro capas de control:
- Controles internos que vigilen las capacidades de los modelos durante su entrenamiento y despliegue, con foco en ciberseguridad, bioseguridad y amenazas químicas.
- Un equipo interno con autonomía para verificar que esos controles funcionen.
- Auditores externos independientes que evalúen los mecanismos de monitoreo.
- Un comité independiente de la junta directiva que reciba los informes internos y externos.
La letra pequeña importa. El texto dice que las empresas “deberían” aplicar estas medidas, no que “deben” hacerlo. Tampoco define estándares técnicos ni fija fechas, y no obliga a publicar los resultados de las auditorías. Cada empresa decide cómo aplicar las salvaguardas. El propio documento reconoce que, “con el tiempo, podría tener sentido codificar estos pasos en leyes y regulaciones“.
“Es una declaración de principios (…) compromisos que son voluntarios por parte de la industria“, explicó Mike Johnson, presidente de la Cámara de Representantes. Trump anunció que nombrará un comité de seguimiento de unas 10 personas.
¿Cómo reaccionaron la industria y la comunidad experta?
Las compañías firmantes celebraron el pacto. Zuckerberg lo calificó como un “paso positivo significativo”, y Pichai dijo que ofrece “una base sólida para avanzar”. Huang aseguró que la declaración tiene mucha fuerza. De acuerdo con las declaraciones de Elon Musk, las empresas acordaron “calificar los deberes de los demás“.
“La tecnología tiene riesgos muy reales. El mecanismo para abordar esos riesgos todavía está en discusión“, señaló Dario Amodei, CEO de Anthropic.
Desde la academia, la lectura fue crítica. “¿Qué otra industria de billones de dólares califica sus propios deberes?”, cuestionó Toby Walsh, del Instituto de IA de la Universidad de Nueva Gales del Sur (UNSW), en declaraciones a Al Jazeera. Alvin Wang Graylin, de Asia Society, advirtió que “las empresas redactaron los principios, contratan al auditor y el compromiso es voluntario“.
En el Congreso, la senadora demócrata Elizabeth Warren cuestionó: “¿Autorregulación? Esa es una receta para el desastre”. David Sacks, exzar de IA del Gobierno Trump, defendió el pacto como “mucho mejor” que los acuerdos internacionales, que según él “probablemente nunca sucederán”.
Al Jazeera también señaló una contradicción. Meses antes, Chris Lehane (OpenAI), Dario Amodei (Anthropic) y Demis Hassabis (Google DeepMind) habían pedido en público reglas obligatorias o una entidad federal de vigilancia.
¿Por qué este pacto importa más allá de Estados Unidos?
El acuerdo confirma que Washington pone la velocidad de desarrollo por encima de la regulación en su competencia con China. Trump ya había rechazado ante la Asamblea General de la ONU “cualquier intento de construir un plan globalista” para controlar esta tecnología.
En América Latina, el camino es otro. Brasil discute en la Cámara de Diputados el proyecto de ley 2338/2023, que plantea obligaciones vinculantes. Colombia tiene desde 2025 el Conpes 4144, su Política Nacional de Inteligencia Artificial. La región construye marcos públicos, pero las empresas que desarrollan los modelos que llegan a sus mercados solo responden ante un pacto que ellas mismas diseñaron.
El reto ahora es la transparencia. Mientras no haya auditorías públicas ni consecuencias por incumplir, la ciudadanía dependerá de la voluntad de las empresas para saber si los controles funcionan. Queda por ver si el Congreso estadounidense convertirá estas promesas en ley o si la autorregulación se volverá la norma.
