Esto no es una advertencia teórica. En los últimos meses, consultoras y bufetes de primer nivel tuvieron que devolver dinero, retirar informes y disculparse ante tribunales, todo por el mismo error: usar la respuesta de una IA como si fuera un hecho verificado, sin comprobarla antes.
El error de fondo: tratar la respuesta de la IA como un hecho ya comprobado
Tres ejemplos reales, no hipotéticos:
Deloitte Australia tuvo que devolver parte de su pago por un informe para el gobierno que incluía referencias a estudios académicos que no existen y una cita atribuida a una sentencia judicial que tampoco era real.
EY Canadá retiró por completo un estudio sobre programas de fidelización después de que se descubriera que la mayoría de sus citas eran inventadas — incluyendo una referencia a un informe de McKinsey que nunca existió.
El bufete Sullivan & Cromwell tuvo que disculparse ante un tribunal de Nueva York porque un escrito legal generado con ayuda de IA citaba mal partes del código de bancarrota de EE.UU.
Y esto no es un puñado de casos aislados: un rastreador especializado en Estados Unidos ya documentó más de 1.598 casos judiciales con citas inventadas por IA, y la cifra sube en unos 8 casos nuevos cada día. Un dato que sorprende incluso a quien ya desconfía de la IA: según una investigación de Stanford, incluso las herramientas de investigación legal de pago, hechas específicamente para eso, se equivocan (inventan cosas) entre el 17% y el 34% de las veces.
Por qué pasa esto
La IA no "sabe" que se está equivocando. Genera texto que suena seguro, bien escrito y convincente, esté basado en algo real o no — no hay ninguna señal visible que te avise "esto me lo estoy inventando". Una respuesta inventada tiene exactamente el mismo tono de confianza que una correcta. Por eso el problema no es que la IA "alucine" de vez en cuando (eso va a seguir pasando, en mayor o menor medida, durante bastante tiempo) — el problema real es no comprobar antes de usar lo que te dio por hecho.
Cómo evitarlo sin dejar de usar IA para trabajar
No hace falta desconfiar de todo lo que te dé un asistente de IA — hace falta ser selectivo con qué te tomas al pie de la letra:
Cualquier cifra, cita, nombre de estudio o fuente que la IA te dé, verifícala tú mismo antes de usarla en algo que otra persona vaya a leer. Si te da un dato con un porcentaje concreto o una cita textual, busca la fuente original antes de repetirla como si fuera un hecho.
Usa la IA para la estructura y el primer borrador, no como fuente final de la verdad. Es excelente organizando ideas, redactando y adelantando trabajo — es mucho menos fiable cuando le pides datos concretos de memoria en vez de dejarle buscar y citar en tiempo real.
Cuanto más importante sea el documento (un informe para un cliente, algo legal, algo médico, algo financiero), más obligatorio es verificar cada dato antes de entregarlo— precisamente los casos de Deloitte y EY fueron informes serios, no borradores internos sin importancia.
El otro error, menos hablado: dejar de pensar el problema tú mismo
Hay un riesgo más silencioso que el de las citas inventadas: acostumbrarte tanto a que la IA piense por ti que dejas de ejercitar tu propio criterio. Si cada decisión, cada análisis, cada primer borrador de una idea se lo delegas completo a la IA sin pasar tú mismo por el proceso de pensarlo, con el tiempo pierdes agilidad para hacerlo tú solo cuando de verdad haga falta. La IA funciona mejor como acelerador de tu pensamiento, no como reemplazo de él.
En resumen
La IA te ahorra muchísimo tiempo — eso no cambia. Lo que sí tiene que cambiar es la costumbre de copiar y pegar su respuesta sin pasar por el filtro de "¿esto lo verifiqué de verdad, o solo sonaba convincente?". Esa pregunta, hecha a tiempo, es la diferencia entre ahorrar horas de trabajo y terminar como Deloitte, teniendo que devolver el dinero.