Manipular IA con Reddit es trivial, según estudio

Una investigación reciente reveló que manipular los resultados de búsqueda de inteligencia artificial usando Reddit es sorprendentemente fácil. Los investigadores demostraron que con solo unas pocas publicaciones y votos coordinados, se puede influir en lo que las IAs consideran relevante o autoritativo.

Para los knowledge workers, esto tiene implicaciones graves. Dependemos de herramientas de IA para investigar, resumir información y tomar decisiones. Si los datos de entrenamiento o las fuentes en tiempo real pueden ser contaminados tan fácilmente, la calidad de nuestro trabajo se ve comprometida. Un informe generado por IA podría estar basado en información sesgada o falsa, sin que lo sepamos.

Además, el estudio señala que las plataformas como Reddit son particularmente vulnerables porque su contenido es generado por usuarios y a menudo se usa como fuente de conocimiento. Los malos actores pueden explotar esta confianza para promover agendas ocultas. Como profesionales, debemos ser más críticos con las fuentes que alimentan nuestras herramientas.

**¿Qué significa para ti?** Revisa de dónde obtiene información tu asistente de IA preferido. Si usa contenido de foros públicos, verifica los resultados con fuentes primarias. Considera usar herramientas que filtren o ponderen fuentes según su reputación. No asumas que todo lo que te devuelve una IA es correcto; la verificación humana sigue siendo esencial.