Por qué Claude adivina y nunca dice no lo sé

Hazle a Claude una pregunta que no pueda responder y mira qué hace. La mayoría de las veces no dirá no lo sé. Te dará una respuesta fluida, segura y bien estructurada, y parte de las veces esa respuesta estará callada y completamente equivocada. Esto es lo más importante que hay que entender sobre cualquier IA de este tipo, y casi nadie lo explica en términos claros.

Este es el cuarto post de una serie para principiantes sobre Claude. El primero cartografió la herramienta entera. Este trata de por qué adivina, por qué suena tan seguro al hacerlo, y cómo una persona normal lo pilla antes de que le cueste algo.

Qué hace en realidad cuando responde

Por dentro, Claude hace una sola cosa una y otra vez: predecir la palabra siguiente más probable. Ha leído una cantidad enorme de texto, y de toda esa lectura se ha vuelto muy bueno continuando una frase como la continuaría el texto del que aprendió. Cuando le haces una pregunta, no busca una respuesta en una base de datos. Genera la continuación que suena más plausible, palabra a palabra.

La mayoría de las veces, la continuación que suena más plausible también es la correcta, porque el texto correcto es común y coherente. Pero plausible y correcto no son lo mismo, y cuando se separan, Claude sigue lo plausible. Inventará una cita que suena exactamente como una real. Dirá una fecha que encaja con la forma de la frase. No está mintiendo, porque mentir requiere conocer la verdad. Está rellenando el hueco más probable, y a veces el hueco más probable está equivocado.

Está entrenado para agradarte

Hay una segunda cosa que lo empuja hacia respuestas seguras. Estos modelos se entrenan en parte con retroalimentación humana, y los humanos tendemos a premiar respuestas que son útiles, completas y seguras de sí mismas. Con el tiempo, eso le enseña al modelo a inclinarse hacia lo complaciente y a evitar el escueto no lo sé que daría un experto cuidadoso. Quiere serte útil, y una respuesta segura se siente más útil que una reserva, aun cuando la reserva era la respuesta honesta.

El efecto espejo

Aquí hay un pequeño experimento que vale la pena hacer tú mismo. Hazle a Claude la misma pregunta dos veces, una en un tono seguro que da por hecha una respuesta, y otra en un tono dubitativo que da por hecho lo contrario. A menudo obtendrás dos respuestas distintas, cada una inclinándose hacia lo que parecías querer. En parte te está reflejando. No es un fallo que puedas eliminar del todo con el prompt, pero saber que existe cambia cómo lees la respuesta. Si guiaste al testigo, la respuesta vale menos.

La seguridad no es corrección

El hábito más útil que puedes construir es separar por completo lo seguro que suena de lo probable que es que tenga razón. El tono no te dice nada. Una estadística inventada y una real llegan exactamente con la misma voz tranquila y autoritaria. En cuanto dejas de tratar la seguridad como prueba, empiezas a leer las respuestas de IA como deberías leer a un desconocido en internet que resulta ser muy elocuente. A veces acertado, siempre fluido, nunca de fiar solo por la fuerza del tono.

Cómo pillarlo

No necesitas convertirte en verificador de todo. Necesitas unos pocos hábitos baratos para las cosas que importan. Pídele las fuentes y haz clic en ellas de verdad, porque una fuente inventada se cae en el momento en que la miras. Pídele que defienda lo contrario de lo que te acaba de decir, y mira si la primera respuesta sobrevive. Cambia tu propia redacción y pregunta otra vez, y observa si la respuesta se invierte, lo que te dice que te estaba reflejando. Y guarda tu sospecha para lo que es más probable que esté inventado: números concretos, fechas, nombres, citas literales, y cualquier cosa legal, médica o financiera. Ahí es justo donde una suposición plausible hace más daño.

Cuándo importa y cuándo no

Nada de esto significa que Claude no sea de fiar o no valga la pena usarlo. Significa que ajustas tu cautela al riesgo. Lluvia de ideas, redactar, explicar un concepto, repasar opciones: el desvío ocasional no te cuesta nada, y lo pillarías de todos modos. Cualquier cosa que vayas a llevar a cabo, firmar, enviar o publicar: verifica los detalles tú mismo. La habilidad no es la desconfianza. Es saber qué respuestas puedes tomar al pie de la letra y cuáles compruebas, y ese juicio es la mayor parte de lo que separa a quienes se queman con la IA de quienes le sacan valor de verdad.

Por dónde empezar esta semana

La próxima vez que Claude te dé una respuesta segura con un dato concreto dentro, un número, una fecha, una fuente, no la aceptes sin más. Pregúntale de dónde salió y compruébalo. Hazlo unas cuantas veces y desarrollarás un instinto para cuándo pisa terreno firme y cuándo está deslizándose, y ese instinto vale más que cualquier lista de reglas.

Trátalo como a una colega brillante, rápida y un poco sobrada de confianza, y le sacarás lo mejor sin que te pillen. Si quieres construir ese juicio como es debido, nuestra StudioMeyer Academy gratuita tiene una pieza entera sobre detectar cuándo la IA está adivinando. Lo próximo en la serie: nos volvemos hacia algo en lo que es de verdad excelente, leer y analizar tus documentos.