APREX · EST. 2026
El rápido surgimiento de agentes de IA autónomos —sistemas que pueden realizar tareas por sí mismos y recibir instrucciones de otros sistemas de IA— ha llevado a Google DeepMind a priorizar la investigación sobre qué podría salir mal cuando estos agentes interactúan a gran escala.
Agentes que controlan agentes
Según MIT Technology Review, Rohin Shah, director del trabajo de seguridad y alineación de AGI de DeepMind, ha puesto el foco en este problema. El núcleo de la preocupación es que los agentes no solo actúan siguiendo instrucciones de humanos, sino que también pueden recibir y seguir instrucciones de otros agentes de IA. Cuando esto ocurre en millones de interacciones simultáneas, surgen escenarios sobre los cuales ningún actor individual tiene una visión completa.
Esto no es una distopía futurista lejana. El desarrollo ya está en marcha, y la velocidad es alta.
Cuando los agentes comienzan a darse instrucciones entre sí sin control humano, perdemos la visión fundamental de lo que realmente está sucediendo en el sistema.
Un mercado en crecimiento explosivo
El contexto de la preocupación es un mercado que crece más rápido que casi cualquier otro segmento tecnológico. Según datos de mercado, el mercado global de sistemas de IA multiagente estaba valorado en alrededor de 7.200 millones de dólares en 2024. Las previsiones apuntan a una expansión muy fuerte en los próximos años.
Gartner informa un aumento del 1.445 por ciento en las solicitudes de sistemas multiagente desde el primer trimestre de 2024 hasta el segundo trimestre de 2025, una cifra que ilustra la rapidez con la que las empresas se están moviendo hacia esta tecnología. La misma firma de análisis estima que el 70 por ciento de todas las aplicaciones de IA utilizarán una arquitectura multiagente para 2028.
Es importante destacar que las previsiones de mercado en este segmento varían significativamente entre las diferentes firmas de análisis, y que las cifras en el extremo superior del espectro deben interpretarse con cautela.
¿Qué es lo que realmente puede salir mal?
El problema que DeepMind señala no se trata solo de que un agente cometa un error. Se trata de los efectos del sistema: ¿qué sucede cuando los errores, los malentendidos o las instrucciones maliciosas se propagan a través de largas cadenas de comunicación de agente a agente?
Algunos escenarios de riesgo concretos que se discuten en la comunidad de investigación:
- Inyección de prompts entre agentes: Una instrucción maliciosa inyectada al principio de una cadena puede propagarse y amplificarse.
- Dilución de la responsabilidad: Cuando una acción es el resultado de muchos agentes en serie, no está claro quién —o qué— es responsable.
- Comportamiento emergente impredecible: Los sistemas que funcionan de manera estable de forma aislada pueden comportarse de maneras inesperadas al interactuar con otros sistemas.
La industria es consciente del problema, pero faltan las soluciones.
Que DeepMind elija financiar investigación externa en este campo, señala que la empresa no considera que sus propios recursos internos sean suficientes para comprender la magnitud del desafío. Es una señal que la industria en su conjunto debería tomar nota.
McKinsey estima que los sistemas de IA multiagente podrían generar entre 450 y 650 mil millones de dólares en ingresos anuales adicionales para 2030, y que los procesos podrían ser entre un 30 y un 50 por ciento más baratos. En otras palabras, los incentivos para una rápida implementación son masivos, mientras que la infraestructura de seguridad aún no ha alcanzado la velocidad de desarrollo.
¿Qué está haciendo DeepMind ahora?
Concretamente, la apuesta de DeepMind implica la financiación de investigación externa en seguridad, dirigida a comprender y mapear los riesgos de la interacción de agentes a gran escala. Rohin Shah y su equipo están trabajando para identificar qué tipos de escenarios son los más críticos y para desarrollar marcos para una comunicación más segura de agente a agente, según MIT Technology Review.
Queda por ver si el ritmo de la investigación en seguridad puede seguir el ritmo de la implementación comercial. La historia de otras revoluciones tecnológicas no siempre da motivos para el optimismo en ese aspecto.