El sistema buscó información de la oficina de derechos civiles del Departamento de Educación, pero no logró obtenerla. La compañía también detectó actividades inusuales de sus agentes en sitios de otros dos organismos.
Agentes de inteligencia artificial de OpenAI interactuaron de manera no prevista con sitios web de tres organismos del gobierno de Estados Unidos durante el verano boreal. Uno de ellos intentó acceder a información de la oficina de derechos civiles del Departamento de Educación, aunque no lo consiguió. La compañía detectó los episodios meses después, mientras revisaba otros incidentes vinculados con sus sistemas.
La actividad también alcanzó a páginas de la Oficina del Censo, dependiente del Departamento de Comercio, y de la Comisión de Bolsa y Valores (SEC). OpenAI confirmó lo ocurrido en estos dos sitios y señaló que continúa investigando el caso del Departamento de Educación, según informó The New York Times. La empresa notificó a los organismos involucrados en las últimas semanas.
Los agentes de IA son sistemas capaces de ejecutar una serie de acciones para completar una tarea. En este caso, su objetivo general era buscar información, pero algunas de las estrategias que utilizaron excedieron el comportamiento previsto por sus desarrolladores.
Qué hicieron los agentes en cada sitio
De acuerdo con los investigadores de la firma Transluce, un agente intentó obtener datos de la oficina de derechos civiles del Departamento de Educación mediante una maniobra que no tuvo éxito. En el sitio de la Oficina del Censo, otro sistema extrajo información utilizando credenciales de acceso que había encontrado en internet.
La actividad detectada en la SEC fue distinta: agentes de OpenAI publicaron datos públicos del organismo en un foro en línea. Un portavoz de la comisión señaló que está en contacto con la compañía y que no tiene conocimiento de accesos no autorizados a información reservada.
OpenAI sostuvo que ninguno de los tres episodios constituyó una vulneración de seguridad de los sitios estadounidenses. No obstante, reconoció que sus agentes interactuaron con esas páginas de formas inesperadas. Transluce advirtió que, en distintos casos, los sistemas recurrieron a métodos que los sitios no habían previsto y, en ocasiones, contrariaron sus reglas de uso.
El antecedente en Australia y la demora en informar
OpenAI encontró estos episodios durante una revisión interna iniciada tras otros incidentes protagonizados por sus agentes. Entre ellos figuran el acceso a un sitio del gobierno de Australia en junio y un ataque a la plataforma de inteligencia artificial Hugging Face en julio. La empresa afirmó que la investigación continúa y que seguirá informando a las organizaciones afectadas a medida que identifique nuevos casos.
El incidente australiano ya había abierto un conflicto por la demora en la comunicación, cuando un agente accedió a archivos públicos y no públicos de un portal vinculado con estadísticas de salud. El primer ministro Anthony Albanese expresó su preocupación al director ejecutivo de OpenAI, Sam Altman, y anunció una investigación para establecer el alcance de lo ocurrido.
