¿Qué es el ‘AI poisoning’ y por qué preocupa a las marcas?

A medida que los usuarios recurren cada vez más a los sistemas de IA para buscar información, las marcas han empezado a prestar más atención a cómo aparecen representadas en sus respuestas. Esta nueva vía de visibilidad también se está convirtiendo en un terreno de competencia, en el que las compañías buscan mejorar su propia presencia y protegerse frente a posibles acciones de sus competidores.

En este contexto aparece el concepto de AI poisoning, que hace referencia a una posible práctica de manipulación mediante la introducción de información negativa, engañosa o falsa sobre una marca en fuentes que pueden ser utilizadas posteriormente por los sistemas de IA.

La reputación también está en juego

El interés por este fenómeno está relacionado con la influencia que están adquiriendo las respuestas generadas por IA. Aunque estos sistemas presentan problemas conocidos de alucinaciones y sesgos, los usuarios tienden a percibir sus resultados como neutrales.

Cuando una respuesta ofrece información positiva sobre una marca, puede jugar a favor de esta. En cambio, una respuesta negativa o que incluya información incorrecta puede convertirse en un problema reputacional.

Además, los usuarios no siempre comprueban la información que reciben. Una encuesta de Skyword a 1.000 consumidores apunta en la misma dirección. Cuando la información proporcionada por una IA difiere de la que ofrece una marca, la confianza de los usuarios en esta última se ve afectada. Solo un 29% aseguró que confiaría en la versión del anunciante en caso de discrepancia.

Cómo podría producirse el ‘AI poisoning’

Las marcas llevan tiempo trabajando su presencia en plataformas como Reddit y YouTube, reforzando sus estrategias de contenidos y relaciones públicas y adaptando sus webs para mejorar la información que los sistemas de IA pueden encontrar sobre ellas.

Sin embargo, estas mismas tácticas también podrían utilizarse contra un competidor. El llamado AI poisoning puede pasar por generar o impulsar contenidos en foros, webs de reseñas, páginas de comparación, artículos patrocinados o publicaciones de influencers, entre otros espacios.

El objetivo sería que estos contenidos acabaran siendo rastreados o recuperados por los sistemas de IA y terminaran influyendo en la información que ofrecen sobre una determinada marca.

Entre las posibles prácticas se encuentran desde reseñas negativas publicadas de mala fe hasta información falsa sobre un competidor, con la intención de que estos contenidos sean posteriormente incorporados a las respuestas de los sistemas de IA.

Las marcas refuerzan su presencia digital

Ante este posible riesgo, las marcas están reforzando algunas de las estrategias que ya utilizan para mejorar su visibilidad en los sistemas de IA. Esto pasa por mantener una información coherente y precisa en sus sites y redes sociales, así como por ampliar los contenidos disponibles sobre sus productos y servicios, con especificaciones, guías de uso y otro tipo de recursos. En este sentido, según una estimación de ZeroClick Labs, las guías de productos y servicios representan hasta el 28% de las citas en las búsquedas de IA.

En algunos casos, las marcas también están entrando directamente en conversaciones de Reddit y otros espacios sociales para corregir información que consideran incorrecta. El objetivo es que esa información pueda ser recogida también por los sistemas de IA.

La capacidad de manipulación no está clara

Aunque existe preocupación por el potencial del AI poisoning, no está claro hasta qué punto una acción coordinada puede llegar a cambiar la forma en la que un sistema de IA presenta a una marca.

Los modelos no se apoyan en una única publicación o fuente, sino que combinan información procedente de webs, reseñas, medios de comunicación, redes sociales y otras fuentes. Por eso, influir de manera significativa en la percepción que tienen sobre una marca no parece sencillo y requeriría actuar sobre un volumen amplio y diverso de contenidos.

A esto se suma la dificultad de distinguir entre una acción deliberada para perjudicar a un competidor y errores, críticas legítimas o reseñas negativas reales que forman parte de la información disponible en internet.

El AI poisoning abre un nuevo frente para la gestión de la reputación de las marcas en los entornos de IA, aunque su capacidad real para alterar las respuestas de estos sistemas todavía no está clara. En este escenario, el foco parece estar más en reforzar la presencia digital de las marcas y ofrecer información precisa y consistente que en intentar influir directamente en cómo aparecen sus competidores.