El riesgo de normalizar lo plausible como lo razonable: cuando la estadística se convierte en norma
En Agamben nos advierte: por qué es peligroso confiar ciegamente en el loro estocástico no me interesaba hacer una crítica técnica de la IA. Me interesaba señalar un desplazamiento cultural: hemos empezado a confundir la respuesta más plausible con una forma de juicio.
La IA no te devuelve lo verdadero. Te devuelve lo que encaja. Y lo que encaja, precisamente por encajar, adquiere un aire de autoridad.
Ese artículo era una advertencia. Este es el desarrollo de la amenaza que se quedaba latente:
Si normalizamos que lo plausible es lo razonable, lo razonable se vuelve norma. Y cuando la norma es estadística, la excepción muere.
No porque desaparezca lo singular, sino porque deja de tener estatuto: se convierte en ruido, en anomalía, en dato malo.
Y aquí aparece el segundo texto como consecuencia lógica: cuando esa lógica de clasificación se convierte en infraestructura, el problema ya no es epistemológico, es político. Es biopolítico.
Porque en el momento en que los sistemas puntúan, perfilan y filtran, lo plausible deja de ser una opinión y se convierte en un umbral: acceso, sospecha, fricción, privilegio, castigo.
Esa era la tesis del otro artículo: La IA como dispositivo biopolítico perfecto: el bucle infinito de la obediencia
Este texto une ambas piezas en una cadena: de la plausibilidad como criterio a la plausibilidad como poder.
En un vistazo: Cuando la plausibilidad se institucionaliza como criterio, lo excepcional no desaparece: pierde estatuto. Se convierte en anomalía técnica, en fricción operativa, en dato a filtrar. Este texto muestra cómo ese desplazamiento —de lo plausible como propiedad estadística a lo plausible como umbral de poder— mata la excepción mediante un bucle: la IA produce lo familiar, lo familiar se consume más, lo consumido se copia, lo copiado se vuelve infraestructura. El resultado es una dictadura de la estadística donde el perdón parece un bug, la responsabilidad se evapora tras cajas negras, y lo humano (interpretar, contextualizar, perdonar) deja de ser virtud y pasa a ser error. No por prohibición, sino porque el mundo deja de tener lenguaje —y derechos— para lo que no encaja.
1. Lo plausible no es lo verdadero: es lo estadísticamente cómodo
Un modelo de lenguaje no "piensa" ni "comprende". Produce continuaciones probables. Eso no es un problema moral por sí mismo: es una propiedad técnica.
El peligro empieza cuando esa propiedad se interpreta socialmente como "sensatez" y, después, como "criterio".
Porque lo plausible tiene una ventaja brutal: suena familiar.
- La frase que encaja tranquiliza
- La idea que ya estaba en circulación parece madura
- La respuesta que no desafía el marco de referencia parece equilibrada
La plausibilidad funciona como un narcótico: reduce conflicto cognitivo. Y ese es su primer poder.
Lo peligroso no es que el modelo funcione así. Lo peligroso es lo que hacemos nosotros con ese resultado. La plausibilidad tiene un efecto político porque explota una debilidad humana: tendemos a atribuir sensatez a lo familiar.
La frase que "encaja" reduce el conflicto cognitivo y baja el umbral de exigencia. En ese punto, la respuesta probable empieza a ocupar el lugar de la verdad. No por malicia del sistema, sino por comodidad del usuario.
2. La excepción cae a la cola y la cola se convierte en sospecha
La excepción es lo que no encaja: el caso raro, el contexto irrepetible, el matiz que exige interpretación.
En el artículo de Agamben ya estaba el núcleo: si la IA opera por plausibilidad, lo excepcional aparece como improbable y, por tanto, queda marginado.
Ahora vamos al punto duro: cuando un sistema está hecho para maximizar acierto promedio, lo raro deja de ser un "caso" y pasa a ser una "anomalía".
Y una anomalía, en la cultura algorítmica, se traduce automáticamente a uno de estos idiomas:
- Ruido que conviene filtrar
- Error que conviene corregir
- Fraude que conviene detectar
- Riesgo que conviene anticipar
La excepción no se discute. Se etiqueta.
Ese es el giro: la excepción deja de ser un lugar para el juicio y se convierte en un indicador técnico.
3. El mecanismo que mata la excepción: la autoperpetuación de lo plausible
Todavía podríamos pensar que esto es solo una tendencia estética: "la IA produce cosas centradas". No. El peligro es estructural, porque hay bucle:
- La IA produce lo plausible
- Lo plausible se consume más (porque se reconoce, porque no hiere, porque encaja)
- Lo consumido se copia más (se cita, se resume, se reescribe, se indexa)
- Lo copiado se convierte en el nuevo suelo informacional
- Lo excepcional queda fuera no por prohibición, sino por baja presencia
La retroalimentación de la mediocridad
Pero el bucle tiene una segunda vuelta todavía más inquietante: la retroalimentación de la mediocridad.
Si lo que más circula es lo que la IA produce —porque es barato, abundante y suficientemente plausible— entonces una parte creciente del ecosistema informacional deja de ser "mundo" para convertirse en "salida de modelo".
Y si los modelos del futuro se entrenan, aunque sea parcialmente, con ese material, el "espacio de lo posible" se encoge.
No solo muere la excepción: el centro se vuelve cada vez más estrecho.
La moda ya no es una preferencia cultural; es un mecanismo de reproducción automática. La diversidad no desaparece por censura directa, sino por endogamia. Una endogamia cultural automatizada: modelos alimentándose de modelos, lenguaje copiándose a sí mismo, el promedio cerrándose como un puño.
El colapso del modelo
Dicho en términos técnicos: cuando el entrenamiento se contamina con datos generados por modelos, aparece un fenómeno descrito como "colapso del modelo". Las colas de la distribución (lo raro, lo diverso, lo que no se repite) se adelgazan y terminan desapareciendo.
No es que alguien "prohíba" la excepción. Es que la excepción deja de estar representada y el sistema, literalmente, deja de tenerla disponible como posibilidad.
La moda se vuelve infraestructura. Y en ese punto, lo improbable no es solo minoritario: es invisible. No tiene superficie de contacto.
4. Aquí es donde se vuelve biopolítico: lo plausible como umbral
En el artículo sobre biopolítica, el eje era este: el poder moderno no necesita siempre mandar; puede administrar. Puede operar con puntuaciones, perfiles y fricciones.
Ahora la conexión se ve con claridad: si el criterio de fondo es plausibilidad, el sistema no distingue entre lo raro y lo peligroso. Solo distingue entre lo que encaja y lo que no.
Y cuando la infraestructura decide "lo que encaja", eso ya no es una opinión: es un mecanismo de distribución.
- Lo plausible entra
- Lo menos plausible se retrasa
- Lo improbable se bloquea
- Lo excepcional se penaliza sin juicio
Ese es el peligro biopolítico concreto: el gobierno del patrón convierte la diferencia en fricción, y la fricción en castigo sin castigo.
5. La coartada institucional: de la burocracia de personas a la burocracia de cajas negras
Max Weber describió la burocracia como una máquina racional: reglas, procedimientos, jerarquías, expedientes. Una forma de poder fría, pero al menos legible.
Podía ser injusta, podía ser ciega, podía ser brutal. Pero tenía una característica decisiva: tenía personas.
La responsabilidad en la burocracia tradicional
En la burocracia tradicional, el funcionario podía decir "cumplo órdenes", sí. Podía esconderse tras el reglamento. Pero seguía siendo un sujeto moral. Había un nombre propio en la cadena, alguien que firmaba, alguien que interpretaba.
Alguien que —aunque fuese a regañadientes— podía elegir entre aplicar la norma con rigidez o admitir un margen.
El salto cualitativo
Con la infraestructura algorítmica ocurre un salto cualitativo: pasamos de una burocracia de personas a una burocracia de cajas negras.
Ya no gobierna la regla escrita, sino el modelo entrenado. Ya no manda el procedimiento explícito, sino la puntuación, el umbral, la recomendación automatizada.
El punto no es solo que el sistema "se equivoque": es que, incluso cuando "acierta", su acierto no es imputable a nadie.
Porque la coartada se perfecciona:
- Antes: "es la norma" (pero la norma la aplica alguien)
- Ahora: "es el modelo" (y el modelo no es nadie)
Y en esa transición ocurre algo brutal: la responsabilidad se evapora.
La brecha de responsabilidad
La "muerte de la excepción" no es solo que el caso singular se vuelva improbable y caiga a la cola. Es que, además, cuando el singular choca con el sistema, no hay ya un sujeto al que exigirle juicio.
No puedes pedir cuentas a una distribución de probabilidad. No puedes interpelar moralmente a una función objetivo. No puedes apelar a la conciencia de un ranking.
La excepción, en el mundo burocrático clásico, era el lugar donde el poder se veía obligado a mostrarse: alguien tenía que decidir. En la burocracia de cajas negras, ese lugar se cierra: la excepción no se decide, se absorbe como anomalía técnica.
Y si todo es técnico, nada es culpable.
Ahí está el peligro político central: el poder ya no se presenta como decisión. Se presenta como resultado. Y un resultado no discute, no justifica, no responde. Simplemente cae sobre ti.
El caso Horizon: el ensayo general
Ese desplazamiento abre una brecha nueva: la brecha de responsabilidad. Si la decisión se presenta como resultado técnico, ¿a quién le pides cuentas?
En la burocracia clásica podías señalar a alguien, aunque se escudara en el procedimiento. En la burocracia de cajas negras, el sujeto moral desaparece tras el modelo.
Por eso el escándalo Horizon en el Reino Unido funciona como advertencia histórica: cuando una institución decide creer más en la robustez del sistema que en el testimonio humano, la excepción se convierte en "dato malo" y la vida de la gente se rompe sin que nadie asuma culpa. No es solo un error técnico: es el ensayo general de un mundo donde el sistema tiene razón por defecto.
6. La amenaza final: un mundo donde el perdón parece un bug
El perdón es una interrupción. No es optimización, no es cálculo, no es regularidad. Es un acto humano que rompe la cadena de consecuencias automáticas.
Y por eso choca con la lógica probabilística: el perdón no encaja en la función objetivo.
Epieikeia: la justicia práctica
Aristóteles tenía una palabra para esa capacidad humana de ajustar la norma al caso concreto: epieikeia. No es arbitrariedad: es justicia práctica.
En un entorno algorítmico, esa flexibilidad se reinterpreta como inconsistencia.
Perdonar, contextualizar, interrumpir el cálculo… empieza a verse como bug.
En un mundo gobernado por umbrales y patrones, el perdón empieza a parecer una anomalía operativa: una excepción injustificable, un riesgo, una incoherencia.
Y esa es la definición política de la muerte de la excepción: cuando lo humano —perdonar, interpretar, comprender el contexto, asumir el riesgo del juicio— deja de ser virtud y pasa a ser error.
Cierre: de la advertencia a la infraestructura
El texto de Agamben era una advertencia sobre el conocimiento: el peligro de confundir plausibilidad con juicio.
El texto biopolítico mostraba la consecuencia cuando ese error se convierte en sistema: el bucle de la obediencia, la fricción, la vida administrada por puntuaciones.
Este artículo une ambos: cuando la plausibilidad se institucionaliza, se convierte en gobierno; y cuando el gobierno se hace por patrones, la excepción muere.
No porque alguien la prohíba. Sino porque el mundo deja de tener lenguaje —y derechos— para lo que no encaja.
Comentarios
Publicar un comentario