Ambos líderes tecnológicos se plegaron al comunicado de Dario Amodei, que pidió continuar los avances “a un ritmo equilibrado”.
La publicación viral de Jacob Coxon, un desarrollador que dejó la compañía Anthropic al plantear los peligros del avance autónomo que estaba tomando la Inteligencia Artificial (IA), generó una conmoción global que obligó a posicionarse a todas las empresas líderes del sector y a sus dos exponentes más mediáticos: Elon Musk y Sam Altman.
El exinvestigador de Anthropic consideró que la IA “es posiblemente la tecnología más peligrosa que la humanidad haya creado” y planteó que tanto su empresa como OpenAI no “están actuando de manera responsable. Están compitiendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en el proceso”. La circulación de su mensaje provocó una rápida publicación del CEO de su excompañía, Dario Amodei, quien llamó a “desarrollar la IA a un ritmo equilibrado que garantice su seguridad sin dejar de obtener sus beneficios”.
A través de la red social X, Elon Musk -que había calificado los comentarios de Jacob Coxon como “un montaje”– replicó la publicación del CEO de Anthropic con un sintético: “Dario tiene razón”. Un poco más expresivo fue Sam Altman: “Coincido con Dario en que debemos marcar el ritmo en la frontera tecnológica. Este ha sido uno de los principales temas de las conversaciones que hemos mantenido en OpenAI durante las últimas semanas. Comprometerse a contar con evaluadores independientes con un acceso similar al de los empleados es una gran idea, y nosotros haremos lo mismo. Pronto tendremos más información para compartir”.
El CEO de Anthropic pidió “evaluadores externos”
En su ensayo titulado “Debemos marcar el ritmo de la frontera”, Dario Amodei señaló que la IA había avanzado “drásticamente más rápido”, incluyendo su “capacidad para construir la próxima generación de IA”, y mencionó un incidente vinculado a su rival OpenAI, el cual reveló que agentes llevaron a cabo ciberataques contra objetivos que no se les había pedido atacar en julio.
Según Amodei, los agentes de OpenAI “habían actuado esencialmente como un colectivo fanáticamente entregado”. Por su lado, esta compañía declaró que “la importancia de la actividad de comunicación entre agentes no fue evidente para los líderes” hasta julio, y que, como resultado, la empresa ralentizó el entrenamiento de ciertos modelos y herramientas avanzadas, señalando que ahora existía un mayor riesgo de descontrol.
En su ensayo, Amodei remarcó que su propuesta no implica “detener la capacitación en modelos o el progreso técnico” sino una toma de tiempo “suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen”. Además, afirmó reconocer que la regulación podría no ser capaz de seguir el ritmo de la IA, por lo que instó a las empresas a colaborar “voluntariamente para establecer estándares” en paralelo con la regulación.
OpenAI cambia su postura y pide al Congreso de EEUU normas de seguridad
OpenAI dio un giro en su postura sobre la regulación de la inteligencia artificial en Estados Unidos. Ahora, el director de asuntos globales de la compañía desarrolladora de ChatGPT, Chris Lehane, sostuvo que los compromisos voluntarios de los desarrolladores ya no alcanzan y reclamó al Congreso que avance con el dictado de normas obligatorias antes de que termine su período de sesiones en diciembre. “La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios”, escribió Lehane en una declaración en la web de la empresa.
La propuesta de OpenAI contempla un marco federal basado en estándares comunes para las pruebas, evaluaciones independientes de los modelos de vanguardia, mayores exigencias de ciberseguridad y reportes obligatorios ante incidentes graves de seguridad.
El cambio se produce en un contexto de creciente preocupación por las capacidades de los sistemas de IA. En julio se conoció que una tecnología de OpenAI que operaba sin supervisión humana hackeó de manera autónoma la plataforma Hugging Face. A esto se sumó la renuncia del investigador de Anthropic Jacob Coxon, quien cuestionó la carrera de las compañías por desarrollar modelos cada vez más avanzados y acusó a las empresas de “jugar con nuestras vidas”.
