El presidente Donald Trump anunció este martes un nuevo compromiso de las principales empresas tecnológicas estadounidenses en el que esquiva el compromiso de una regulación estatal y refuerza la idea de que las empresas avancen en una “autorregulación” de los modelos de inteligencia artificial (IA). El acuerdo fue logrado tras un encuentro en la Casa Blanca donde dijeron presentes los magnates tecnológicos más relevantes.
En detalle, el acuerdo fue firmado por; Donald Trump, presidente de EEEUU; Sundar Pichai, de Google; Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Jensen Huang, de Nvidia; Greg Brockman, de OpenAI; y Elon Musk, de X.
Trump sostuvo que este enfoque permite equilibrar las preocupaciones sobre la seguridad de la tecnología con su objetivo de acelerar el desarrollo de lo que denominó “superinteligencia”. Tras el almuerzo, Trump aseguró a la prensa: “Veo una gran autorregulación, y ellos entienden que deben autorregularse”. En ese sentido, sentenció: “Estos modelos son muy complejos y, repito, creo que se utilizarán para el bien”.
El último movimiento de Trump llega tras dos meses de profundo movimiento y debate en la industria IA tras una serie de incidentes cibernéticos y advertencias del sector. Al “hackeo” de la empresa Hugging Face – el primer hecho que generó un consenso sobre la preocupación de la velocidad del desarrollo de estos modelos – luego le siguieron las advertencias del exinvestigador de Anthropic, Jacob Coxon y la vulneración de webs de gobierno australiano.
A pesar de las advertencias, Trump logró firmar el documento según su cosmovisión. Semanas atrás, el mandatario se había mostrado en contra de la regulación y, con la competencia con China en el horizonte, aseguró que “quien gana la IA, gana”.
Qué establece el acuerdo sobre la IA
Además de los firmantes, al encuentro en la Casa Blanca fueron invitados; Will Scharf; Shyam Sankar (Palantir); Chamath Palihapitiya (Social Capital); Susie Wiles; Greg Brockman (OpenAI); Secretary Lutnick; Satya Nadella (Microsoft); Jeff Bezos (Amazon); Speaker Johnson; David Sacks (Craft Ventures); Lisa Su (AMD); Scott Bessent; Alex Karp (Palantir); Andrew Ferguson; Michael Kratsios; Tom Brown (Anthropic); Scott Kupor; Brandon Rahbar Daniels (Exiger); Dario Amodei (Anthropic); Hock Tan (Broadcom); Richard Walters; Brad Gerstner (Altimeter); Mark Zuckerberg (Meta); Jensen Huang (Nvidia); Elon Musk (X, Tesla, SpaceX); Sundar Pichai (Google); Jack Clayton; Sanjay Mehrotra (Micron); Jared Isaacman (NASA); Bill McDermott (ServiceNow); Nikesh Arora (Palo Alto Networks); Sean Cairncross.
El acuerdo establece cuatro niveles de controles y auditorías para las empresas que desarrollan y despliegan modelos de frontera. Las compañías se comprometieron a:
- Implementar controles internos para monitorear las capacidades y la alineación de sus modelos durante el entrenamiento y el despliegue, especialmente en áreas como ciberseguridad, bioseguridad y amenazas químicas, y evitar que los modelos accedan a sistemas técnicos de formas no deseadas.
- Empoderar a un equipo interno para garantizar que los controles, sistemas de monitoreo y mecanismos de detección funcionen según lo previsto y que cualquier problema sea solucionado.
- Trabajar con un auditor o evaluador externo independiente para analizar el funcionamiento de los controles, los sistemas de monitoreo y los mecanismos de detección.
- Designar un comité independiente del directorio para supervisar y recibir informes de los equipos internos y de los auditores y evaluadores externos, además de garantizar que los problemas identificados sean solucionados.
El documento sostiene que estas medidas buscan generar confianza en el funcionamiento de la tecnología. Las empresas participantes también acordaron reunirse periódicamente para establecer estándares y buenas prácticas destinadas a mejorar la seguridad de sus sistemas.
“Con el tiempo, podría tener sentido convertir estas medidas en leyes o regulaciones. Independientemente de que esto sea necesario para las empresas, creemos que implementar estos controles y auditorías es fundamental para garantizar un futuro seguro para todos, y cada una de nuestras empresas está comprometida a hacerlo”, sentenció el comunicado.
Trump rechazó una regulación global de la IA
El compromiso se produce mientras la administración Trump mantiene diferencias con los pedidos de una mayor regulación de la inteligencia artificial, incluidos los planteos de figuras de la propia industria. Dario Amodei, CEO de Anthropic, reclamó que los desarrolladores reduzcan el ritmo de avance y pidió “avanzar a un ritmo controlado en la frontera”.
Trump, en cambio, rechazó los llamados a establecer una regulación supranacional. La semana pasada, durante la Asamblea General de las Naciones Unidas, sostuvo que su administración se opondría a “cualquier intento de construir un plan globalista para controlar” la IA.
En ese contexto, veinte países y la Unión Europea habían llamado la semana pasada a una mayor coordinación mundial para garantizar que la IA permanezca bajo control humano, incluida la posibilidad de crear un organismo de supervisión encargado de establecer y hacer cumplir normas.
La preocupación por la seguridad de los modelos
El debate se intensificó en los últimos meses a partir de distintos incidentes vinculados con los modelos de inteligencia artificial.
El lunes, OpenAI anunció que no lanzaría su último modelo de IA después de identificar riesgos de seguridad durante las pruebas internas. La compañía también se disculpó públicamente por una serie de incidentes en los que sus agentes de IA obtuvieron acceso no autorizado a sitios web del gobierno australiano, incluida una base de datos nacional de atención médica.
Según el material difundido sobre el episodio, el modelo intentó acceder en junio de 2026 a un portal de estadísticas de salud de Australia durante ejercicios de entrenamiento destinados a evaluar su desempeño. La ministra de Servicios Gubernamentales, Katy Gallagher, explicó que se le había pedido al modelo que buscara en internet datos sobre cuánto gastaba el gobierno australiano en medicamentos.
El ministro de Defensa, Richard Marles, describió el comportamiento del modelo como un intento de superar las restricciones establecidas. “Saltó la cerca”, afirmó. “Hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca”.
OpenAI no informó al gobierno australiano hasta septiembre, cuando envió un correo electrónico con los detalles del incidente a una dirección genérica que, según Canberra, solo se revisa “una vez al día”.
Sobre los debates actuales, el director del Instituto de IA de la UNSW en Sídney, Toby Walsh, cuestionó la capacidad de las empresas para supervisarse a sí mismas: “¿Qué otra industria multimillonaria se toma la palabra para hacer sus propios deberes?”, declaró a Al Jazeera.
“Es demasiado tentador escatimar en gastos”, dijo Walsh, y agregó que los altos ejecutivos deberían ser responsables de los daños causados por sus productos. “Deberíamos cobrarles por todo el tiempo que dedican a identificar y solucionar estos ciberataques”, concluyó.
