The Self-Correction Blind Spot: el punto ciego más difícil de ver
Por qué la IA no reconoce sus propios errores, aunque hable como si los evitara Todo el mundo habla de "alucinaciones" en IA. Pero las alucinaciones no son el verdadero problema. El problema profundo es otro: los modelos no pueden detectar que se equivocan, ni corregirse automáticamente, ni activar por sí mismos un modo seguro cuando entran en error. La investigación lo llama: Self-Correction Blind Spot (SCBS) Los LLM corrigen errores ajenos, pero fallan sistemáticamente al corregir los suyos propios. En pruebas con 14 modelos, el SCBS mostró una ceguera del 64,5%. Es un fallo estructural: cuando la IA se equivoca, queda atrapada dentro de su propio razonamiento. 1. La arquitectura que genera la ilusión (explicada sin tecnicismos) Para entender por qué ocurre, basta con ver cómo está construido un modelo generativo. No se trata de redes profundas...