Pregunta algo para lo que Claude no tenga información fiable. Puede reconocerlo y decir “no lo sé”; también puede producir una respuesta fluida, segura y falsa. Una formulación plausible no demuestra exactitud. Es un límite importante al usar IA.
Este es el cuarto post de una serie para principiantes sobre Claude. El primero cartografió la herramienta entera. Este trata de por qué adivina, por qué suena tan seguro al hacerlo, y cómo una persona normal lo pilla antes de que le cueste algo.
Qué hace en realidad cuando responde#
Un modelo genera texto paso a paso con tokens según patrones aprendidos y contexto actual. Sin herramientas apropiadas no consulta una respuesta factual garantizada. Claude puede usar web, archivos u otras herramientas cuando están disponibles. Comprueba que recuperó una fuente sin deducir investigación por la fluidez.
Una fuente inventada, fecha falsa o cifra sin respaldo es una alucinación. Eso por sí solo no demuestra intención. Para tu trabajo importa si la afirmación tiene respaldo. Pide pruebas verificables para hechos importantes y permite señalar explícitamente información ausente.
Está entrenado para agradarte#
Otro fallo es la complacencia: la respuesta puede inclinarse demasiado hacia tu expectativa aparente. Fluidez y seguridad no son pruebas independientes. Pregunta abiertamente, pide contraargumentos razonados y permite incertidumbre. Tampoco elimina completamente las alucinaciones.
El efecto espejo#
Aquí hay un pequeño experimento que vale la pena hacer tú mismo. Hazle a Claude la misma pregunta dos veces, una en un tono seguro que da por hecha una respuesta, y otra en un tono dubitativo que da por hecho lo contrario. A menudo obtendrás dos respuestas distintas, cada una inclinándose hacia lo que parecías querer. En parte te está reflejando. No es un fallo que puedas eliminar del todo con el prompt, pero saber que existe cambia cómo lees la respuesta. Si guiaste al testigo, la respuesta vale menos.
La seguridad no es corrección#
El hábito más útil que puedes construir es separar por completo lo seguro que suena de lo probable que es que tenga razón. El tono no te dice nada. Una estadística inventada y una real llegan exactamente con la misma voz tranquila y autoritaria. En cuanto dejas de tratar la seguridad como prueba, empiezas a leer las respuestas de IA como deberías leer a un desconocido en internet que resulta ser muy elocuente. A veces acertado, siempre fluido, nunca de fiar solo por la fuerza del tono.
Cómo pillarlo#
No necesitas convertirte en verificador de todo. Necesitas unos pocos hábitos baratos para las cosas que importan. Pídele las fuentes y haz clic en ellas de verdad, porque una fuente inventada se cae en el momento en que la miras. Pídele que defienda lo contrario de lo que te acaba de decir, y mira si la primera respuesta sobrevive. Cambia tu propia redacción y pregunta otra vez, y observa si la respuesta se invierte, lo que te dice que te estaba reflejando. Y guarda tu sospecha para lo que es más probable que esté inventado: números concretos, fechas, nombres, citas literales, y cualquier cosa legal, médica o financiera. Ahí es justo donde una suposición plausible hace más daño.
Cuándo importa y cuándo no#
Nada de esto significa que Claude no sea de fiar o no valga la pena usarlo. Significa que ajustas tu cautela al riesgo. Lluvia de ideas, redactar, explicar un concepto, repasar opciones: el desvío ocasional no te cuesta nada, y lo pillarías de todos modos. Cualquier cosa que vayas a llevar a cabo, firmar, enviar o publicar: verifica los detalles tú mismo. La habilidad no es la desconfianza. Es saber qué respuestas puedes tomar al pie de la letra y cuáles compruebas, y ese juicio es la mayor parte de lo que separa a quienes se queman con la IA de quienes le sacan valor de verdad.
Por dónde empezar esta semana#
La próxima vez que Claude te dé una respuesta segura con un dato concreto dentro, un número, una fecha, una fuente, no la aceptes sin más. Pregúntale de dónde salió y compruébalo. Hazlo unas cuantas veces y desarrollarás un instinto para cuándo pisa terreno firme y cuándo está deslizándose, y ese instinto vale más que cualquier lista de reglas.
Trátalo como a una colega brillante, rápida y un poco sobrada de confianza, y le sacarás lo mejor sin que te pillen. Si quieres construir ese juicio como es debido, nuestra StudioMeyer Academy gratuita tiene una pieza entera sobre detectar cuándo la IA está adivinando. Lo próximo en la serie: nos volvemos hacia algo en lo que es de verdad excelente, leer y analizar tus documentos.
