IA sin control: anatomía de un desastre profesional (y cómo evitarlo)



1. El caso Deloitte: qué pasó realmente

Deloitte entregó al Gobierno de Australia un informe estratégico elaborado con ayuda de inteligencia artificial. El resultado fue un escándalo que trascendió fronteras: el documento contenía referencias bibliográficas inexistentes, citas inventadas y datos sin verificación alguna. El gobierno tuvo que retirar el informe, la reputación de una de las consultoras más grandes del mundo quedó en entredicho y se abrió un debate global sobre los riesgos del uso profesional de IA generativa.

Lo más revelador del caso no fue que la IA cometiera errores —eso es conocido y esperable—, sino que nadie en la cadena de producción pusiera frenos. No hubo auditoría, no hubo contraste de fuentes, no hubo segunda mirada. El fallo no fue tecnológico: fue metodológico.

Y ese es precisamente el problema que este artículo aborda.

2. Por qué las IA "mienten" (y por qué es culpa nuestra)

Las alucinaciones de los modelos generativos no son bugs: son características inherentes a su arquitectura. Los modelos de lenguaje no "saben" nada. Predicen qué palabra es probable que siga a la anterior, basándose en patrones estadísticos. Cuando no tienen un dato, lo rellenan con lo que "parece" correcto. No hay mala intención, solo matemática probabilística.

Un ejemplo real:

Le pedí a GPT-4 referencias académicas sobre ética y educación digital. Entre otras, me citó el libro "Digital Ethics in Education" de María Torres, publicado por Oxford University Press en 2022. Suena plausible, ¿verdad?

El problema: ese libro no existe. Ni la autora, ni la editorial lo han publicado. La IA combinó elementos reales (Oxford publica sobre ética, "María Torres" es un nombre común en literatura académica) para construir una mentira perfectamente verosímil.

Eso es una alucinación: no un error de datos, sino una invención coherente.

3. Los cuatro errores que arruinan proyectos con IA

A lo largo de proyectos educativos, corporativos y editoriales, he identificado patrones recurrentes en los fracasos. Estos son los cuatro errores estructurales más comunes:

Error 1: Delegación total

  • Asumir que la IA es autónoma y fiable. Tratarla como un experto que puede trabajar sin supervisión.
  • Realidad: La IA es un asistente, no un analista. Genera contenido, no certezas.

Error 2: Verificación superficial

  • Comprobar que el texto "suena bien" sin contrastar fuentes reales. Conformarse con coherencia narrativa en lugar de precisión factual.
  • Realidad: Lo plausible no es lo verdadero. Las alucinaciones son convincentes precisamente porque suenan creíbles.

Error 3: Urgencia sobre precisión

  • Priorizar velocidad de entrega sobre calidad de información. Publicar rápido, auditar después (o nunca).
  • Realidad: Un error público cuesta mucho más tiempo que una revisión previa. La reputación se pierde en minutos y se recupera en años.

Error 4: Opacidad metodológica

  • No documentar qué partes del contenido son generadas por IA, cuáles están verificadas y cuáles quedan pendientes de confirmación.
  • Realidad: Sin trazabilidad no hay responsabilidad. Y sin responsabilidad, no hay profesionalismo.

4. El protocolo antifraude: tres capas de seguridad

Para evitar desastres como el de Deloitte, he adoptado un modelo de trabajo que reduce prácticamente a cero el riesgo de alucinación. Lo llamo el sistema de tres capas:

Capa 1: Prompt defensivo

La prevención empieza en la instrucción inicial. Hay que ser radicalmente explícito sobre lo que la IA NO debe hacer.

Ejemplo de instrucción efectiva:

No cites estudios, libros ni datos que no puedas verificar con absoluta certeza.
Si necesitas hacer una afirmación factual pero no tienes confirmación, 
indica claramente: [REQUIERE VERIFICACIÓN: afirmación X].
No inventes autores, fechas ni instituciones.

Este tipo de prompt no garantiza cero errores, pero reduce drásticamente las invenciones.

Capa 2: Auditoría cruzada

Una vez generado el contenido, hay que someterlo a revisión externa. Esto incluye dos estrategias:

a) Fact-checking invertido con otra IA

Pedir a un segundo modelo que analice el texto en busca de afirmaciones sospechosas:

Revisa el siguiente texto e identifica:
- Referencias bibliográficas que puedan no existir
- Datos numéricos sin fuente aparente
- Afirmaciones categóricas sin respaldo

b) Herramientas complementarias

  • Perplexity: Para verificar información factual en tiempo real
  • Google Scholar: Para contrastar referencias académicas
  • Bases de datos especializadas: Según el campo (PubMed para medicina, JSTOR para humanidades, etc.)

Capa 3: Validación humana experta

La tecnología ayuda, pero la responsabilidad final es humana. Esta última capa implica:

  • Lectura crítica completa: No solo de las partes marcadas como dudosas, sino del conjunto.
  • Verificación manual de fuentes clave: Especialmente aquellas que sostienen argumentos centrales.
  • Evaluación de coherencia contextual: ¿El tono es apropiado? ¿Las conclusiones se sostienen lógicamente?

Importante: En esta fase también hay que decidir qué hacer cuando la verificación es imposible.

Casos límite: cuando el método no es suficiente

No todos los escenarios son iguales. Hay contextos donde verificar información es extremadamente difícil o directamente imposible:

Caso 1: Idiomas minoritarios o contextos con pocas fuentes digitales

  • Problema: La IA tiene menos datos de entrenamiento, por lo que su capacidad de generar contenido preciso disminuye. Y verificar es más difícil porque hay menos recursos online.
  • Solución: No usar IA para generar datos primarios en estos contextos. Usarla solo para estructurar, traducir o reformular información que YA tienes verificada por otras vías.

Caso 2: Temas muy especializados donde no eres experto

  • Problema: No puedes juzgar si una afirmación técnica es correcta o no.
  • Solución: Incorporar a un experto en la Capa 3. Si eso no es posible, no publiques contenido técnico sin validación externa. La alternativa es señalar explícitamente las limitaciones: "Este análisis se basa en modelos de IA y no ha sido revisado por especialistas en la materia."

Caso 3: Información contradictoria en las propias fuentes oficiales

  • Problema: Dos estudios serios llegan a conclusiones opuestas. ¿Cuál es la "verdad"?
  • Solución: No fingir certeza donde no la hay. Documentar la controversia: "Existen dos interpretaciones principales sobre este fenómeno. Según X..., mientras que Y sostiene..." La honestidad intelectual no es debilidad, es rigor.

6. De usuario a profesional: el salto cualitativo

La diferencia entre un aficionado y un profesional no está en quién escribe mejores prompts, sino en quién diseña mejores procesos.

Cualquiera puede generar un texto convincente con IA. Pero muy pocos pueden garantizar que ese texto sea verdadero, trazable y defendible.


7. Tres principios no negociables

Si trabajas con IA en contextos profesionales —educación, consultoría, comunicación, investigación—, estos tres principios deben ser innegociables:

1. Trazabilidad por defecto

Todo contenido generado debe poder rastrearse hasta su origen verificable. Si no puedes citar la fuente, no publiques el dato.

2. Incertidumbre explícita

Si algo no está confirmado, se dice. No hay vergüenza en escribir: "No se dispone de datos verificados sobre este punto" o "Esta proyección se basa en modelos predictivos, no en evidencia empírica".

La honestidad intelectual no debilita tu autoridad: la refuerza.

3. Responsabilidad humana final

La IA es una herramienta. El error siempre es del profesional que la usa. No puedes escudarte en "la IA se equivocó". Eso es como un arquitecto culpando a AutoCAD por un edificio mal diseñado.

8. Checklist final: antes de publicar

Antes de entregar cualquier contenido generado con IA, responde estas preguntas:

  • [ ] ¿Cada afirmación factual tiene fuente identificable?
  • [ ] ¿Cada referencia bibliográfica existe y es accesible?
  • [ ] ¿He marcado claramente las secciones que no pude verificar?
  • [ ] ¿Un experto en la materia revisaría este texto sin encontrar errores graves?
  • [ ] ¿Estoy dispuesto a defender públicamente cada dato incluido aquí?

Si la respuesta a cualquiera de estas preguntas es "no", el contenido no está listo.

Conclusión

El caso Deloitte no es una anécdota aislada: es una advertencia sistémica. La tecnología no cometió el error; lo cometieron quienes la usaron sin método, sin control y sin asumir su responsabilidad.

La inteligencia artificial no es un atajo para pensar menos. Es una herramienta para pensar mejor, pero solo si la usamos con rigor.

En el mundo profesional que viene, la credibilidad será el activo más escaso y más valioso. Y solo la tendrán quienes entiendan que la IA sin control no es innovación: es negligencia.

La precisión no es un lujo académico. Es un requisito legal, ético y reputacional.

Comentarios

Publicar un comentario

Entradas populares de este blog

Pasión o sumisión: lo que el fútbol argentino enseña al Atleti

Imagen
Hay una escena en la película argentina El secreto de sus ojos que me fascinó cuando la vi por primera vez. El investigador busca a un asesino desaparecido y su amigo Sandoval le dice una frase que se me quedó grabada: “El tipo puede cambiar de casa, de nombre, de trabajo… pero nunca va a cambiar de pasión” . Entonces lo entendí como algo bello: la pasión como raíz firme de identidad, una fidelidad que sobrevive al miedo y al tiempo. Me conmovió pensar que algo así podía definirnos para siempre. Pero, con los años, empecé a mirar de otro modo esa fidelidad absoluta. Soy simpatizante del Atlético de Madrid y no soy un buen aficionado según los estándares actuales. Hay cosas que veo, no me gustan y lo digo. He visto cómo, a lo largo de la última década, la relación entre la afición y el equipo ha cambiado. Con la llegada de Diego Simeone , el club consolidó un relato que exalta la entrega sin condiciones: luchar, sufrir, creer hasta el final. Ese discurso, que al principio unió a la hi...
Leer más
"Lennie would be the first of many such murderous innocents to appear in Peckinpah's work as a writer and director. In television and movie scripts they appear again and again: child-men, unable to comprehend or fit into the complex and corrupt world that surrounds them, yet they themselves also carry the demon seed of violence, 'I think that's how Sam felt about himself,' says Marie. 'That he didn't fit in, that he wasn't quite right somehow, thet he stood apart. He was always very alone as a person, even around the people". (If they move kill'em. The life and times of Sam Peckinpah, David Weddle.)
Leer más

Mis conversaciones con Chat GPT

Una pregunta: la cotización del euro también ha caido? Sí, la cotización del euro ha mostrado fluctuaciones y, en algunos momentos, caídas , especialmente debido a factores económicos y geopolíticos recientes, como: 1. Impacto del conflicto en Ucrania La guerra en Ucrania ha generado incertidumbre económica en Europa, afectando la confianza en la moneda. La crisis energética derivada de la ruptura con Rusia aumentó los costos de la energía, afectando el crecimiento económico europeo. 2. Política monetaria del BCE El Banco Central Europeo (BCE) ha aumentado las tasas de interés para combatir la inflación, lo que, aunque estabiliza la economía en cierta medida, no siempre fortalece la cotización del euro frente a otras monedas. 3. Comparación con otras monedas Frente al dólar estadounidense, el euro ha mostrado debilidad en varios momentos recientes. Esto se debe a: El aumento agresivo de tasas por parte de la Reserva Federal (FED) de EE. UU. La percepción de que la economía estadouniden...
Leer más