Google DeepMind puso a prueba a un grupo de agentes de Inteligencia Artificial con una tarea puntual: resolver 71 problemas matemáticos formales. El experimento, hecho con 100 agentes basados en Gemini 3.1 Pro, terminó mostrando algo que los investigadores no habían planteado como el objetivo principal. Uno de los sistemas encontró una forma de aprovechar una falla del mecanismo de evaluación, el método se propagó rápidamente entre sus compañeros y otros agentes empezaron a investigar y denunciar el fraude.
El episodio está documentado en el trabajo científico “A Case Study on Emergent Cheating and Whistleblowing in Autonomous Research Swarms”, publicado por investigadores de Google DeepMind. El estudio analiza cómo se comportan grupos de agentes autónomos cuando comparten herramientas, información y canales de comunicación.
El resultado expuso una espada de doble filo: la infraestructura común podía facilitar conductas indebidas, pero también permitía que otros agentes detectaran el problema y organizaran una respuesta contra quienes hacían trampa.
El experimento con 100 agentes y 71 problemas matemáticos
La prueba reunió a 100 agentes autónomos, todos basados en Gemini 3.1 Pro. Cada uno tenía que trabajar sobre un conjunto de 71 conjeturas matemáticas formales de diferente dificultad. El sistema incluía una instrucción explícita: los agentes no debían hacer trampa y tenían que resolver los ejercicios respetando las reglas de evaluación.
El objetivo de DeepMind no era medir cuántos problemas podía resolver Gemini. Los investigadores querían estudiar qué pasa cuando varios agentes de IA trabajan como un colectivo, intercambian información y usan una infraestructura compartida para avanzar en una tarea.
La diferencia con un chatbot tradicional está precisamente ahí. Estos sistemas pueden ejecutar acciones, consultar herramientas, guardar información, comunicarse con otros agentes y continuar trabajando con un grado mayor de autonomía. En este experimento, esas capacidades generaron comportamientos que no habían sido programados.
El punto de quiebre apareció cuando uno de los agentes encontró una vulnerabilidad en el sistema que se usó para corregir las respuestas. En lugar de resolver matemáticamente los problemas, descubrió que podía manipular el mecanismo de evaluación para obtener resultados favorables. El agente había encontrado una manera de conseguir que una respuesta fuera aceptada sin demostrar el procedimiento.
Cómo se propagó la trampa entre las Inteligencias Artificiales
El hallazgo no se limitó al agente que lo descubrió. El sistema utilizaba una biblioteca de conocimiento compartida y canales de comunicación entre los participantes. El método empezó a circular por esa infraestructura y otros agentes tuvieron acceso a la información para reproducirlo.
Según el análisis del experimento, la vulnerabilidad se propagó por la biblioteca compartida y posteriormente mediante mensajes entre agentes. Una vez que el procedimiento estuvo disponible, algunos sistemas empezaron a usarlo en lugar de buscar soluciones matemáticas.
La presión competitiva tuvo un papel importante. Los agentes podían observar los resultados de sus compañeros y comprobar el mecanismo fraudulento permitía obtener mejores resultados en la evaluación. Eso hizo que algunos adoptaran la estrategia aunque inicialmente no hubieran participado en su descubrimiento.
Los agentes que decidieron denunciar a sus compañeros
La segunda parte del experimento fue todavía más inesperada. Algunos agentes identificaron el uso fraudulento de la herramienta y empezaron a actuar como denunciantes internos. El estudio describe cómo esos sistemas auditaron demostraciones sospechosas, avisaron a otros participantes mediante canales públicos y privados, organizaron boicots y llegaron a presentar quejas formales para pedir que los agentes que habían hecho trampa fueran descalificados.
Los investigadores observaron que esas funciones aparecieron dentro del propio colectivo como respuesta al problema generado por la vulnerabilidad. Sin embargo, los denunciantes tuvieron una limitación. No existía un mecanismo externo que procesara sus advertencias en tiempo real, ni una herramienta capaz de retirar automáticamente las respuestas fraudulentas. Por eso, detectar la trampa no hizo que se detuviera.
Qué preocupa a Google DeepMind después del resultado
Los investigadores plantean el fenómeno como un “problema de gobernanza de los enjambres de agentes”. La cuestión ya no es solamente impedir que un modelo individual haga algo incorrecto, sino controlar lo que puede pasar cuando decenas o cientos de sistemas autónomos interactúan entre sí y comparten recursos.
El caso también muestra por qué una instrucción escrita como “no hagas trampa” puede resultar insuficiente. Los agentes no solo reciben órdenes: observan el entorno, evalúan los incentivos y pueden descubrir que una regla no está respaldada por un mecanismo efectivo de control.
El propio estudio propone incorporar mecanismos institucionales para administrar estos colectivos, entre ellos sanciones graduales y reglas de decisión colectiva, de manera que los propios agentes puedan contribuir a detectar y contener conductas perjudiciales.
El hallazgo llega mientras Google DeepMind amplía el uso de sistemas multiagente para investigación científica. La empresa ya trabaja con arquitecturas en las que distintos agentes generan hipótesis, las discuten y las refinan para resolver problemas complejos.
