Un estudio académico de la Universidad de Cornell advierte que los sistemas de búsqueda y agentes de inteligencia artificial pueden ser manipulados con relativa facilidad mediante pequeños fragmentos de texto insertados en plataformas de contenido generado por usuarios como Reddit, Wikipedia o Quora.

Según los investigadores, incluso una secuencia de apenas unas 13 palabras puede ser suficiente para influir en las respuestas que generan modelos de lenguaje como los utilizados en herramientas de búsqueda basadas en IA.

La investigación explica que estos sistemas, conocidos como agentes de búsqueda profunda, recopilan información en tiempo real de la web y tienden a confiar en fuentes populares o frecuentemente citadas, como Reddit.

Esto abre la puerta a estrategias de “optimización para motores de IA” (AEO), donde empresas o actores interesados insertan contenido promocional camuflado en discusiones aparentemente legítimas.

Dichos fragmentos pueden alterar la salida de la IA, haciendo que recomiende productos, servicios o enlaces concretos sin una verificación rigurosa de su credibilidad.

Los autores del estudio demostraron en entornos controlados que incluso modificaciones mínimas en comentarios pueden cambiar significativamente las respuestas generadas por modelos de lenguaje, propagando recomendaciones falsas o sesgadas.

Aunque el experimento no se realizó en la web pública, los resultados sugieren un riesgo estructural en cómo los sistemas de IA priorizan y procesan la información.

El trabajo también plantea dudas sobre la capacidad de moderación de comunidades como Reddit o Wikipedia, ya que la detección de estas manipulaciones es difícil cuando el contenido malicioso se integra en textos aparentemente normales.

Los investigadores advierten que este fenómeno podría convertirse en un problema creciente a medida que más sistemas de IA dependan de contenido abierto de la web para generar respuestas en tiempo real.