Aspero mundo

Por qué la IA cambia lo que ya funciona: la limitación oculta que te obliga a vigilarla todo el tiempo Lo más frustrante de trabajar con IA no son sus errores, sino sus “arreglos” espontáneos: cambios que no pides, formatos que ya había entendido y de repente rompe, variaciones absurdas que te obligan a volver atrás. Ese comportamiento no es un despiste ni un bug: es una limitación estructural de su diseño. Y explica por qué, sin supervisión constante, la IA no puede mantener tareas repetitivas estables. Hay algo más irritante que los errores de la IA: tener que vigilarla para que no cambie lo que ya funciona. Puedes darle la misma tarea repetitiva veinte veces —una tabla, un esquema, un HTML, un formato que ya ha entendido— y tarde o temprano lo deformará. Cambia columnas, altera el tono, reordena elementos, inventa matices que nadie pidió. Durante meses pensé que era un bug. No lo es. Los estudios recien...

Por qué la IA no reconoce sus propios errores, aunque hable como si los evitara Todo el mundo habla de "alucinaciones" en IA. Pero las alucinaciones no son el verdadero problema. El problema profundo es otro: los modelos no pueden detectar que se equivocan, ni corregirse automáticamente, ni activar por sí mismos un modo seguro cuando entran en error. La investigación lo llama: Self-Correction Blind Spot (SCBS) Los LLM corrigen errores ajenos, pero fallan sistemáticamente al corregir los suyos propios. En pruebas con 14 modelos, el SCBS mostró una ceguera del 64,5%. Es un fallo estructural: cuando la IA se equivoca, queda atrapada dentro de su propio razonamiento. 1. La arquitectura que genera la ilusión (explicada sin tecnicismos) Para entender por qué ocurre, basta con ver cómo está construido un modelo generativo. No se trata de redes profundas...