¿Quién se responsabiliza si los agentes de IA se equivocan?
La primera asamblea anual de The Agentic Advertising Organization (AAO), celebrada bajo el nombre de The Foundry, puso sobre la mesa una de las preguntas más delicadas de la nueva etapa agéntica de la publicidad: si los agentes de IA empiezan a tomar decisiones de marketing, ¿quién responde cuando se equivocan?
Ese fue uno de los temas más repetidos durante el evento, tanto en las presentaciones como en los workshops. Según la crónica, varios participantes advirtieron de que la industria corre el riesgo de automatizar procesos defectuosos en lugar de rediseñarlos. El ex CEO de IAB U.S., Randall Rothenberg, citó incluso previsiones según las cuales el 95% de los pilotos de IA generativa no logra impacto medible en profit and loss, y el 40% de los proyectos de IA agentic podría fracasar antes de 2027. La preocupación no se limita a la operativa. Colleen DeCourcy, CMO de Sonos, criticó una cultura de optimización que, en su opinión, ha priorizado durante años la eficiencia medible por encima de la creatividad real. También advirtió de que la creatividad generada por IA tiende a optimizarse hacia la suficiencia: funcional, escalable y segura para la marca, pero sin la imprevisibilidad ni la resonancia emocional que ayudan a construir marcas duraderas.
Pese a ello, el encuentro no cuestionó la automatización en sí. El foco estuvo más bien en cómo gobernarla. Durante los talleres, celebrados bajo la Chatham House Rule, se repitió una idea central: un agente no debería evaluar su propio trabajo. De ahí la insistencia en la necesidad de construir guardrails, objetivos medibles, auditoría y estructuras claras de responsabilidad legal. Según Ruben Schruers, CEO de Ebiquity, el gran reto ya no es solo técnico, sino jurídico y organizativo: si un buyer o seller agent comete un error, todavía no está claro si responde el modelo, la empresa que lo mantiene o la plataforma donde opera. En paralelo, Brian O’Kelley, CEO de Scope3 y fundador de AAO, defendió que los sistemas agentic podrían ayudar a reducir la dependencia del sector respecto a Big Tech y facilitar una infraestructura más interoperable sobre el open web.
Esa doble tensión recorrió buena parte del evento: por un lado, la industria quiere aprovechar el potencial de los agentes para ganar eficiencia, reducir tareas manuales y conectar mejor media, commerce y medición. Por otro, empieza a asumir que trasladar decisiones a sistemas más autónomos obliga a redefinir responsabilidades que hasta ahora estaban bastante más claras dentro de equipos humanos, agencias y plataformas.
Además, varios asistentes reconocieron que el propio mercado sigue funcionando de forma fragmentada. Creatividad, medios, medición y commerce continúan operando muchas veces como silos separados, mientras la IA tiende precisamente a cruzar esas fronteras. Eso añade otra capa de complejidad: no basta con tener agentes más capaces, también hace falta que las organizaciones estén preparadas para supervisarlos de forma coherente.
La industria ya no solo debate qué puede hacer la IA agentic, sino si tiene la capacidad de control, supervisión y responsabilidad que exige su despliegue real.
Puntos clave:
El primer encuentro anual de The Agentic Advertising Organization puso el foco en la falta de claridad sobre la responsabilidad de los sistemas de IA agentic.
Varios ponentes advirtieron de que la industria corre el riesgo de automatizar procesos defectuosos en lugar de rediseñarlos.
El gran debate ya no es solo tecnológico, sino de gobernanza, auditoría y responsabilidad legal.
Este resumen lo ha creado una herramienta de IA basándose en el texto del artículo, y ha sido chequeado por un editor de PROGRAMMATIC SPAIN.
