La avalancha de basura con IA que arruina las redes sociales y nadie la detiene
Imágenes absurdas, viralidad sin control
Un simple post con niños pobres y barbas falsas bajo lluvia torrencial rompe récords de likes en Facebook. La imagen es una chapuza creada con IA, imposible en el mundo real, pero consiguió casi un millón de reacciones. Théodore, un joven francés, quedó perplejo.
Este es solo un ejemplo de cómo la basura generada por IA está invadiendo las redes sociales sin que las plataformas levanten un dedo para frenar el fenómeno.
Meta, YouTube y el negocio de la ‘basura’ generada por IA
Mark Zuckerberg no tiene intención de detener esta avalancha. En su llamada con accionistas, celebró la llamada ‘tercera fase’ de las redes sociales: contenido masivo generado y mezclado por IA, sin filtros.
YouTube admite que el 20% del contenido en cuentas nuevas es video de baja calidad producido por IA. Aunque reconocen el problema, rechazan definir qué contenido es dañino y solo hablan de mejorar detección.
La realidad: las plataformas dependen de este contenido para retener usuarios. La economía del creador premia la cantidad, no la calidad o la verdad.
Consecuencias: manipulación, abuso y pérdida de credibilidad
La proliferación de vídeos perturbadores o falsos, desde monstruos digitales a supuestos rescates dramáticos con mensajes religiosos, es cada vez mayor. Algunos incluso dirigidos a niños, difunden imágenes que manipulan emociones y distorsionan la realidad.
Los sistemas de moderación siguen siendo insuficientes, con recortes en equipos y un enfoque en delegar la vigilancia a los usuarios, que en la práctica no funciona.
La desinformación se aprovecha de esto. Videos falsos sobre eventos internacionales o situaciones políticas generan opiniones públicas manipuladas y riesgos reales para la estabilidad social y política.
¿Qué viene después? Más basura y menos confianza
A medida que la inteligencia artificial mejora, detectar falsificaciones será cada vez más difícil. La tecnología está superando la capacidad humana para discernir y las plataformas no están preparadas para defender la verdad.
La falta de transparencia y responsabilidad de las empresas tecnológicas deja abierta la puerta a que la basura digital se convierta en el nuevo estándar. ¿Estamos ante la crisis más profunda en la historia de la información en línea?
Mientras tanto, usuarios como Théodore se resignan. La ‘contaminación’ en línea ha llegado para quedarse, y las redes sociales se convierten en un ecosistema saturado de engaño y contenido irrelevante, sin opción real de revertir la tendencia.
¿Cuánto tiempo tardaremos en pagar las consecuencias de esta degradación masiva de información?