Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, pidieron controles internacionales para los sistemas más avanzados. Advirtieron sobre el riesgo de concentrar su poder en pocas manos.
Los directores de dos de las principales empresas de inteligencia artificial advirtieron este miércoles al Consejo de Seguridad de las Naciones Unidas. Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, plantearon que el avance de la tecnología requiere controles para evitar que sus capacidades superen las posibilidades de supervisión humana.
“Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”, sostuvo Amodei durante la reunión. Altman, por su parte, advirtió que la humanidad podría “perder el control del futuro ante la IA”.
Ambos reclamaron salvaguardas internacionales para los sistemas más avanzados y pidieron evitar que el poder asociado con esta tecnología quede concentrado en una sola compañía o en un único país, durante el encuentro celebrado en el marco de una sesión del Consejo dedicada a la relación entre la IA y la seguridad internacional.
Qué riesgos plantearon los líderes tecnológicos
Las intervenciones pusieron el foco en dos preocupaciones, siendo la primera la posibilidad de desarrollar sistemas con capacidades cada vez mayores sin mecanismos suficientes para evaluar su comportamiento y mantenerlos bajo control. La segunda es quién tomaría las decisiones si herramientas de IA comenzaran a intervenir de manera creciente en ámbitos sensibles para la seguridad de las personas y los Estados.
Altman y Amodei señalaron que las medidas de seguridad no deberían quedar exclusivamente en manos de las empresas que construyen esos sistemas. Su pedido ante la ONU apuntó a que los gobiernos participen en la definición de reglas y controles, en un sector cuyo desarrollo también está atravesado por la competencia entre compañías y países.
En los días previos a la reunión, OpenAI había publicado propuestas para evaluar los modelos más avanzados y establecer canales seguros para compartir información sobre amenazas y vulnerabilidades con gobiernos y operadores de infraestructura crítica. Esas propuestas forman parte de la posición pública de la compañía sobre la supervisión de la tecnología.
La ONU debate el uso de IA en decisiones de vida o muerte
La discusión en el Consejo de Seguridad se centró en el impacto que la IA puede tener sobre la paz y la seguridad internacionales. Entre las preguntas planteadas durante el debate aparece una especialmente sensible: hasta dónde pueden intervenir las máquinas en decisiones que afectan vidas humanas y qué control deben conservar las personas.
El secretario general de la ONU, António Guterres, volvió a advertir sobre los riesgos de las armas autónomas, a las que ha llamado “robots asesinos”. Su preocupación se refiere a sistemas capaces de seleccionar y atacar objetivos sin un control humano adecuado.
La reunión no resolvió cómo deberían aplicarse los controles reclamados por los ejecutivos. Dejó planteada, sin embargo, la necesidad de definir quién supervisará a los desarrolladores de IA, cómo se evaluarán los riesgos de sus sistemas y qué decisiones deberán permanecer siempre bajo responsabilidad humana.
