La IA no inventó la mentira, solo la hizo gratis

Este artículo está inspirado en “The bullshit asymmetry principle was survivable. AI made production of slop almost free”, publicado en UX Collective.

Una frase en un tuit, una ley para gobernarlos a todos

En 2013, un programador italiano llamado Alberto Brandolini estaba viendo uno de esos programas de debate político donde todos gritan y nadie escucha. Hartado, abrió Twitter y escribió algo que, con el tiempo, ha demostrado ser más duradera que la mayoría de las leyes del Congreso:

“La cantidad de energía necesaria para refutar una tontería es un orden de magnitud mayor que la necesaria para producirla.”

Así nació la Ley de Brandolini, también conocida como el Principio de Asimetría del Bullshit. Una observación tan sencilla que duele, y tan precisa que debería enseñarse en secundaria junto a la tabla periódica. Porque describe algo que todos hemos vivido: rebatir un bulo cuesta diez veces más esfuerzo que inventarlo. Y mientras el bulo viaja en zapatillas, la verdad todavía está atándose los cordones.

Durante años, esta asimetría fue un problema grave pero manejable. Como una gotera en el techo: molesta, constante, pero contenida. Los humanos podemos producir basura informativa rápido, sí, pero no tan rápido. Había un límite biológico. La fatiga. El sueño. La necesidad de comer algo.

Luego llegó la IA generativa. Y quitó el contador de la luz.

Cuando el coste marginal cae a cero, el caos se industrializa

Hay un concepto económico que los tecnólogos adoran citar en charlas TED: el coste marginal cero. Es la idea de que, en economías digitales maduras, reproducir una unidad adicional de algo puede no costar prácticamente nada. Una canción en Spotify, un artículo en Medium, una foto en Instagram.

La IA generativa ha aplicado ese principio al slop: ese término anglosajón que describe el contenido basura generado a escala industrial. Artículos que parecen escritos por alguien pero no lo son. Imágenes que parecen fotografías pero no lo son. Vídeos que parecen reales pero no lo son. Opiniones que parecen humanas pero… ya sabéis.

Antes, producir desinformación a escala requería infraestructura, tiempo, personas y cierta coordinación. Las granjas de troleo tenían nóminas. Los sitios de noticias falsas necesitaban redactores. Había fricción. Y la fricción, aunque mínima, era un filtro.

Ahora mismo, con los modelos disponibles, cualquier persona con una conexión a internet puede generar miles de artículos, comentarios, reseñas o perfiles falsos en el tiempo que tardas en preparar un café. La asimetría de Brandolini no ha desaparecido: se ha disparado exponencialmente. Producir basura es gratis. Refutarla sigue costando lo mismo de siempre.

El verificador humano ante una fábrica automatizada

Imaginad a un inspector de calidad en una fábrica del siglo XIX. Revisa cada pieza a mano, con criterio, con experiencia. Es bueno en su trabajo. Pero un día la fábrica instala maquinaria nueva y multiplica su producción por mil. El inspector sigue siendo igual de bueno. La fábrica, simplemente, ya no puede ser supervisada por un solo par de ojos.

Eso es exactamente lo que le está pasando al ecosistema de la información. Los fact-checkers, los periodistas, los moderadores de contenido: siguen siendo igual de capaces, igual de rigurosos. El problema es que ahora se enfrentan a una cadena de producción de desinformación que no duerme, no cobra y no se cansa.

La respuesta instintiva de muchos es decir: “usemos más IA para detectar la IA”. Y tiene cierta lógica poética. Pero es una carrera armamentística donde el atacante siempre lleva ventaja. Cada vez que mejora la detección, mejora también la generación. Es el juego del gato y el ratón, pero el ratón tiene acceso a los mismos laboratorios que el gato.

El problema no es de fact-checking, es de diseño

Aquí está la tesis que más me interesa de todo este debate, y que el artículo original de UX Collective plantea con claridad quirúrgica: esto no se resuelve verificando más rápido, sino diseñando mejor.

La desinformación prospera porque los sistemas donde circula están diseñados para maximizar el engagement, no la veracidad. Los algoritmos no premian lo verdadero, premian lo que genera reacción. Y el slop, por su propia naturaleza, está optimizado para la reacción emocional: la indignación, el miedo, la confirmación de sesgos previos.

Cambiar eso requiere intervenir en la arquitectura de los sistemas de información. En cómo se diseñan los feeds, cómo se jerarquiza el contenido, cómo se presenta la procedencia de una pieza, cómo se introduce fricción deliberada en el momento de compartir algo no verificado. No es censura: es ergonomía cognitiva.

Pensad en cómo los coches modernos tienen mil sistemas diseñados para que sea difícil hacer algo peligroso sin darte cuenta. El cinturón que pita. El sensor de punto ciego. El freno de emergencia automático. Nadie llama a eso “censura de la conducción”. Lo llamamos diseño responsable.

¿Por qué no aplicamos el mismo estándar a los entornos digitales donde consumimos y compartimos información?

La responsabilidad que no queremos asumir

Hay una conversación incómoda que esta crisis obliga a tener: la del rol de las plataformas. Durante años, las grandes tecnológicas se escudaron en la neutralidad para no intervenir en el contenido. “Somos el canal, no el mensaje.” Pero cuando el canal está diseñado para amplificar lo que más engancha, y lo que más engancha resulta ser con frecuencia falso o manipulador, la neutralidad es una ficción conveniente.

La IA generativa ha roto definitivamente esa excusa. Cuando el volumen de contenido potencialmente falso supera cualquier capacidad humana de revisión, la pregunta ya no es si las plataformas deben intervenir, sino cómo y con qué criterios.

Y ahí, reconozcámoslo, tampoco tenemos respuestas claras todavía. Lo que sí tenemos es la certeza de que seguir haciendo lo mismo —más verificadores, más alertas, más campañas de alfabetización mediática que nadie lee— no va a funcionar a la escala que necesitamos.

Brandolini tenía razón. Solo que no imaginó esto

Alberto Brandolini escribió su famosa frase viendo una tertulia política italiana. Un contexto analógico, casi artesanal. La desinformación de 2013 tenía textura humana: torpe, visible, relativamente lenta.

Lo que tenemos hoy es diferente en naturaleza, no solo en escala. El slop generado por IA no tiene las imperfecciones que nos ayudaban a detectar el engaño. No comete los errores gramaticales del phishing de segunda categoría. No tiene la urgencia sospechosa del bulo de WhatsApp. Puede ser elegante, bien estructurado, aparentemente riguroso.

La Ley de Brandolini sigue siendo válida. Pero si antes describía una asimetría incómoda, ahora describe una crisis estructural. Y las crisis estructurales no se resuelven con parches: se resuelven rediseñando los cimientos.

El reto está sobre la mesa. Y es, fundamentalmente, un problema de diseño. De arquitectura de la información. De cómo construimos los espacios digitales donde vivimos cada vez más de nuestras vidas.

La prensa nunca se cansa. El inspector, sí. Es hora de repensar la fábrica.