El monarca británico planteó sus preocupaciones durante una cumbre celebrada en Dumfries House, su residencia en Escocia, donde reunió a ejecutivos de algunas de las principales empresas tecnológicas, funcionarios y especialistas en ética.
Entre los participantes estuvieron representantes de OpenAI, Anthropic, Nvidia y Google DeepMind, además del ministro británico de Inteligencia Artificial, Kanishka Narayan, y Paolo Benanti, asesor del Vaticano en cuestiones relacionadas con esta tecnología.
Durante la apertura del encuentro, Carlos III señaló que existe una inquietud creciente entre los propios desarrolladores por las capacidades que podrían adquirir los modelos más avanzados. En ese sentido, reclamó que el crecimiento del sector esté acompañado por medidas de seguridad adecuadas.
El rey sostuvo que las compañías no deberían concentrarse únicamente en aumentar las capacidades de sus sistemas, sino también garantizar que la tecnología permanezca “firmemente al servicio de la humanidad, la comunidad y el mundo natural”.
Los referentes tecnológicos pidieron priorizar la seguridad
Uno de los asistentes fue el director ejecutivo de Nvidia, Jensen Huang, quien afirmó que las empresas deben asumir la seguridad como una prioridad. Además, consideró que una compañía debería postergar el lanzamiento de un producto cuando no tenga garantías suficientes sobre su funcionamiento.
Por su parte, el cofundador de Google DeepMind, Demis Hassabis, aseguró que el desarrollo de una inteligencia artificial general podría concretarse en los próximos años. Según señaló, esa tecnología tendría un impacto hasta “diez veces mayor que el de la Revolución Industrial”, aunque sostuvo que todavía existe margen para reducir sus posibles riesgos.
La directora financiera de OpenAI, Sarah Friar, también reconoció que las nuevas capacidades de los modelos plantean interrogantes sobre su control y seguridad.
La reunión tuvo como objetivo avanzar en la elaboración de principios compartidos que orienten el desarrollo responsable de la inteligencia artificial. Sin embargo, no se anunciaron compromisos vinculantes ni nuevas regulaciones para las empresas participantes.
El encuentro se produjo en medio de una discusión cada vez más intensa dentro de la industria sobre la velocidad con la que avanzan los modelos y la eficacia de los mecanismos de autorregulación. Al mismo tiempo, algunos especialistas cuestionan que el debate se concentre en amenazas futuras y deje en segundo plano problemas actuales, como el consumo energético de los centros de datos y su impacto ambiental.
