El "teléfono escacharrao" o cuando la IA se habla a sí misma

¿Recordáis el juego del "teléfono escacharrao"? Una frase que se susurra al oído y recorre una fila de personas para llegar al final cuando descubres que el mensaje es irreconocible… y todos se ríen. En el mundo de la inteligencia artificial, ese mismo fenómeno tiene un nombre mucho menos divertido: model collapse.

¿Qué es el model collapse?

El model collapse ocurre cuando los modelos de IA empiezan a entrenarse no con datos reales del mundo, sino con los resultados generados por otros modelos. Es decir, se alimentan de sus propios reflejos, se pierde contacto con la “señal real” y empiezan a amplificar errores, sesgos y distorsiones, algo así como un fenómeno de entropía digital que se disfraza de eficiencia. En la práctica, esto significa que una IA que analiza mercado, propone audiencias o genera contenido está tomando decisiones basadas en... otras decisiones, no en hechos. ¿Te suena? Exacto. El marketing digital lleva años en modo model collapse.

La publicidad ya lo vivió y no aprendió

En programática llevamos años tomando decisiones basadas en señales derivadas: lookalikes de lookalikes, audiencias modeladas sobre otras audiencias, datos de performance que no se validan contra ventas reales. Lo llamamos eficiencia, pero en muchos casos es simplemente “ruido” amplificado. Hemos sustituido la comprensión del consumidor por proxies estadísticos que nos hacen sentir productivos. La IA no es el enemigo, pero cuando la entrenamos sin verdad, sin contexto, sin contradicción, su precisión se convierte en ilusión. Exactamente como cuando un dashboard te dice que tu campaña fue un éxito... pero sin embargo las ventas siguen planas.

¿Datos sintéticos? Son útiles hasta que se convierten en norma

Los defensores de los datos sintéticos (y ojo que en parte tienen razón) apuntan que estos pueden aumentar la diversidad, cubrir vacíos, o servir para entrenamiento ético cuando no hay datos reales disponibles. Y es cierto, pero el riesgo aparece cuando los modelos empiezan a depender únicamente de datos generados artificialmente o, peor aún, de salidas de otros modelos. Es el momento en que el “chef” solo cocina mirando fotos de comida en vez de probar ingredientes reales y el resultado no es otra cosa que modelos que funcionan en pruebas, pero fallan cuando salen a la calle.

La señal real importa, siempre ha importado, pero en la era de la IA, es más crítica que nunca porque ahora, el riesgo ya no es solo gastar mal. Es construir estrategias enteras sobre una base falsa, como la típica agencia que presume de su stack tecnológico pero no sabe cómo interpretar un dato cualitativo o como una marca que automatiza su funnel de compra sin entender por qué el consumidor cambió de categoría. La IA no puede ser excusa para dejar de mirar al consumidor real, no puede sustituir el matiz, la contradicción, el outlier, porque ahí es donde está la verdad.

Lo que debería preocuparnos no es la IA, sino el silencio

Model collapse no es solo un problema técnico, es una metáfora de cómo estamos gestionando el marketing moderno: alejándonos de la realidad para ganar escala, o dicho de otro modo, estamos hablándonos a nosotros mismos, celebrando dashboards que no resisten una conversación con el cliente final. La buena noticia es que aún estamos a tiempo de volver a los datos reales, a hacer preguntas aunque sean incómodas, a contrastar, validar, observar… En definitiva, a poner de nuevo la inteligencia en el centro de la automatización, porque si no lo hacemos nosotros, nuestras IAs seguirán jugando al “teléfono escacharrao” y la próxima vez que alguien nos diga “la IA lo recomendó”, tendremos que responder: “¿Y tú en qué momento dejaste de pensar?”

Puntos clave:

• Model collapse es a la IA lo que el overtargeting fue al marketing digital: una pérdida de señal que compromete la efectividad por exceso de automatización sin supervisión crítica.

• El uso de datos sintéticos o derivados amplifica sesgos y distorsiones, generando resultados aparentemente correctos pero desconectados de la realidad.

• La industria publicitaria debería tomar nota: sin acceso a señales reales, ya sea del consumidor, del contexto o del mercado, la inteligencia artificial dejará de ser una ventaja competitiva y se convertirá en una fábrica de espejismos.

Este resumen lo ha creado una herramienta de IA basándose en el texto del artículo, y ha sido chequeado por un editor de PROGRAMMATIC SPAIN.