En publicidad digital no necesitamos más IA, necesitamos saber quién apagará la máquina cuando falle
En nuestra industria tenemos una relación bastante previsible con cualquier tecnología nueva. Primero la convertimos en promesa, luego en producto, después en un deck y, si todo va bien, en una línea presupuestaria, mucho antes de que alguien se haya preguntado quién se responsabiliza cuando aquello hace exactamente lo que le pedimos, pero no lo que queríamos. Con la inteligencia artificial está pasando precisamente esto mismo, solo que más rápido y con menos margen de error.
El debate visible se ha quedado en lugares relativamente cómodos: creatividad generativa, automatización de tareas, eficiencia en medios, sustitución parcial de perfiles operativos. Todo eso es importante, pero no es el centro del riesgo. ¿Qué ocurre cuando sistemas autónomos empiezan a tomar decisiones comerciales relevantes sin ownership claro, sin umbrales de riesgo definidos y sin una capa de control capaz de detenerlos a tiempo? El gran riesgo de la IA en publicidad no es la herramienta en sí, sino la autonomía sin gobernanza.
En publicidad digital se ha convivido siempre con cierto caos operativo: discrepancias entre plataformas, errores de trafficking, creatividades mal etiquetadas, píxeles duplicados, informes que no cuadran, optimizaciones que nadie termina de entender. La promesa de la IA es limpiar buena parte de ese ruido con menos tareas manuales, menos fricción y menos errores pequeños. ¡Bienvenido sea! Nadie va a llorar por una hoja de Excel menos… pero confundir reducción de fricción con reducción de riesgo es un error peligroso. La IA no solo aumenta el número de decisiones posibles, también aumenta la velocidad, la escala y la autonomía de esas decisiones.
Otros sectores ya han dado señales bastante claras. Air Canada fue condenada a compensar a un pasajero después de que su chatbot le diera información incorrecta sobre una tarifa por duelo; el tribunal rechazó la idea de que el cliente tuviera que contrastar esa respuesta con otra parte de la web y sostuvo que la aerolínea era responsable de la información ofrecida por su chatbot. Zillow cerró Zillow Offers en 2021 tras fuertes pérdidas ligadas a su negocio de compra y venta automatizada de viviendas, con una reducción prevista de aproximadamente el 25% de su plantilla y una admisión pública de que la volatilidad en los modelos de predicción de precios había superado sus expectativas. Microsoft Tay, por su parte, tuvo que ser retirado tras generar contenido ofensivo después de ser manipulado por usuarios pocas horas después de su lanzamiento. Microsoft pidió disculpas públicamente por los mensajes ofensivos y retiró el bot.
Son casos distintos, de industrias distintas, pero todos nos enseñan lo mismo: cuando un sistema automatizado falla, puede fallar rápido, públicamente y con consecuencias que no caben en el informe de “learnings”. La publicidad digital es especialmente vulnerable porque ya opera sobre una cadena de decisiones interconectadas: pricing, pujas, segmentación, frecuencia, brand safety, creatividad dinámica, exclusiones, medición, atribución, optimización de supply paths. En condiciones normales, el sistema ya es difícil de gobernar por lo que añadir agentes autónomos encima de una arquitectura que muchas empresas todavía no entienden del todo no parece precisamente una receta para dormir mejor. El riesgo más obvio es el creativo o reputacional: una pieza ofensiva, ilegal o simplemente absurda generada y distribuida a escala, pero hay riesgos más graves: targeting que alcance audiencias protegidas, incumplimientos de privacidad, contratación automática en condiciones no previstas, decisiones de pricing que nadie aprobó, optimización hacia inventario barato pero tóxico o sistemas que, por maximizar una métrica estrecha, erosionen valor de marca sin que nadie lo vea hasta demasiado tarde.
Hay un escenario particularmente delicado: la coordinación algorítmica de precios. Históricamente, hablar de colusión implicaba buscar reuniones, acuerdos, mensajes e intención humana, pero la IA complica esa lógica. Si varios sistemas independientes aprenden que competir agresivamente en precio reduce el rendimiento económico a largo plazo, podrían adoptar comportamientos que se parezcan a una disciplina coordinada de precios aunque ningún directivo haya escrito “pactemos” en un email, y si los agentes empiezan además a intercambiar señales o ajustar estrategias de forma autónoma, la exposición legal puede aumentar de manera considerable. Los reguladores no tienen por qué aceptar como defensa que “lo hizo el sistema”. En un entorno donde una empresa despliega modelos que toman decisiones económicamente relevantes, la responsabilidad no desaparece porque la decisión se haya automatizado, se desplaza hacia quien diseñó, aprobó, configuró o permitió operar ese sistema y ahí muchas compañías de publicidad digital están menos preparadas de lo que creen.
La conversación actual sobre IA en publicidad se centra demasiado en capacidades y demasiado poco en arquitectura de control. Una capa de control no es una política interna escondida en una carpeta de compliance, es un conjunto de reglas, owners, límites y mecanismos operativos que determinan qué puede hacer un sistema, bajo qué condiciones, con qué trazabilidad y con qué capacidad de reversión.
El primer elemento es la autoridad de configuración: cada proceso impulsado por IA necesita un responsable claro, no “el algoritmo”, ni “la plataforma”, ni siquiera “el modelo”, sino una persona o función accountable, alguien que pueda explicar los límites de puja, la lógica de optimización, los parámetros de targeting, las condiciones de exclusión y los criterios de parada. La responsabilidad no se puede externalizar al software sin convertir la gobernanza en teatro.
El segundo elemento son los umbrales de riesgo: antes de desplegar un sistema, una empresa debería saber qué evento obliga a revisar, pausar, revertir o apagar. ¿Un incremento anómalo de CPM? ¿Un patrón sospechoso de segmentación? ¿Una creatividad generada fuera de guidelines? ¿Una concentración excesiva en determinado inventario? ¿Un comportamiento de pricing difícil de justificar? Desplegar primero e investigar después puede funcionar en una demo, en producción, es otra cosa.
El tercer elemento es auditabilidad y reversibilidad: si un sistema falla, hay que poder entender qué ocurrió, por qué ocurrió y cómo detenerlo. Logs, trazabilidad, versiones, reglas aplicadas, inputs utilizados, decisiones tomadas, cambios de modelo, criterios de optimización. En software tradicional, el rollback es una disciplina relativamente madura, pero en sistemas adaptativos o semi-autónomos, puede ser bastante más difícil. Precisamente por eso hay que planificarlo antes, no después del incendio.
Esto nos lleva a una gran conclusión para algunas empresas: los operadores humanos no se vuelven menos importantes, se vuelven más importantes, pero en otro lugar de la cadena. La IA puede automatizar tareas, lo que no elimina es la necesidad de criterio: alguien tiene que reconocer cuándo un sistema está siendo convincentemente erróneo, alguien tiene que entender los edge cases, también tiene que saber cuándo una optimización aparentemente brillante está comprando un problema regulatorio, reputacional o comercial y muchas empresas están intentando financiar sus iniciativas de IA recortando precisamente las capas de experiencia que necesitarán para supervisarlas. Ese trade-off es peligroso: no se puede construir gobernanza de IA con equipos agotados, juniorizados o sin capacidad real de cuestionar al sistema.
La respuesta correcta no es “moverse despacio” sino separar experimentación de producción. Un carril frontier para pilotos acotados, aprendizaje, supervisión humana y exposición limitada y otro carril productivo donde solo entren sistemas que ya hayan demostrado fiabilidad, trazabilidad y control suficiente. El error será llevar herramientas experimentales directamente al corazón operativo de campañas, pricing, contratación o medición porque alguien necesita demostrar que la compañía “ya está usando IA”. Ese es el tipo de decisión que queda muy bien en un comunicado hasta que aparece la primera factura difícil de explicar…
Las empresas que mejor lo hagan no serán necesariamente las que adopten la IA más rápido sino aqullas que consigan operar a velocidad máquina sin perder control humano, visibilidad operativa y responsabilidad clara. Esto es mucho menos sexy que anunciar un agente autónomo en un evento, pero también es bastante más importante. La publicidad digital lleva años pidiendo automatización y ahora que la automatización empieza a tener autonomía, la pregunta ya no es qué puede hacer la IA sino cuando haga algo que no debería, ¿quién tendrá autoridad real para pararla?
Puntos clave:
La IA puede reducir errores operativos en campañas, reporting y optimización, pero también puede amplificar fallos sistémicos si actúa sin control suficiente.
Casos como los de Air Canada, Zillow Offers o Microsoft Tay muestran que los sistemas automatizados pueden generar responsabilidad legal, pérdidas económicas o daño reputacional cuando fallan a escala.
Para la publicidad digital, la prioridad no debería ser solo adoptar IA más rápido, sino construir capas de control: ownership claro, límites de riesgo, auditabilidad y capacidad real de reversión.
Este resumen lo ha creado una herramienta de IA basándose en el texto del artículo, y ha sido chequeado por un editor de PROGRAMMATIC SPAIN.
