Cómo verificar una respuesta de IA: cinco controles antes de usarla

La verificación de una respuesta de IA es el trabajo que la herramienta no hace por usted. Un modelo de lenguaje produce un texto verosímil; no tiene ningún medio de saber que se equivoca, y no tiene ninguna razón para detenerse a avisarle. Es usted quien pone en marcha la verificación, y el único momento en que todavía sirve es antes de que la respuesta salga.

Esta guía describe cinco controles, en el orden en que menos cuestan. Ninguno exige competencias técnicas. Juntos bastan para interceptar la gran mayoría de los errores con consecuencias.

¿Por qué una respuesta segura de sí misma no es una respuesta correcta?

El tono de una respuesta no dice nada sobre su veracidad. Un modelo redacta de la misma manera lo que «sabe» y lo que reconstruye. Eso es precisamente lo que hace peligroso el error: no se parece a un error.

El caso mejor documentado es judicial. En junio de 2023, un tribunal federal de Nueva York sancionó a unos abogados que habían presentado un escrito en el que se citaban resoluciones judiciales inexistentes, producidas por una herramienta de IA generativa. El texto estaba perfectamente redactado, las referencias perfectamente formateadas, y nada de aquello existía.

El corolario es contraintuitivo: cuanto más precisa es una respuesta, más merece un control. Un número de artículo, una fecha, un porcentaje, una sentencia con nombre: son los elementos más fáciles de fabricar y los más caros de dejar pasar.

Control 1: abrir cada fuente citada

Una referencia se verifica abriéndola, no leyéndola. Es el control más rápido y el más discriminante: una fuente inventada nunca resiste un clic.

Se presentan tres casos:

• El enlace no existe, o lleva a otro sitio: la referencia se retira, sin más.
• El enlace existe pero no dice lo que se le hace decir: es el caso más frecuente, y el más discreto.
• El enlace existe y confirma el dato: consérvelo en su documento, con la fecha de consulta.

Si la respuesta no cita ninguna fuente verificable, trátela como un borrador, no como un resultado.

Control 2: aislar lo que es preciso

Relea la respuesta subrayando todo lo que se puede verificar: cifras, fechas, nombres propios, títulos de normas, umbrales, obligaciones. El resto (la estructura, el tono, la formulación) no necesita verificarse, solo juzgarse.

Esta separación cambia la naturaleza del trabajo. Ya no relee una página entera con una vigilancia uniforme: controla quince elementos identificados. Es más rápido y, sobre todo, es reproducible.

Ante una cifra que cambia (un umbral reglamentario, una tarifa, un calendario), pida sistemáticamente la fecha y la fuente. Un valor sin fecha no es una información.

Control 3: volver a plantear la pregunta de otra manera

Abra una conversación nueva, sin el historial anterior, y vuelva a plantear la misma pregunta formulada de otra forma. Después compare.

• Lo que se repite de forma idéntica en las dos respuestas suele ser sólido.
• Lo que aparece una sola vez debe verificarse en primer lugar.
• Lo que cambia por completo indica que el modelo reconstruye en lugar de restituir.

La conversación nueva es imprescindible: dentro de un mismo hilo, el modelo ve su respuesta anterior y tiende a confirmarla. Usted no pondría a prueba una hipótesis repitiéndosela al mismo testigo con su declaración escrita delante.

Control 4: pedir qué debilita la respuesta

Los modelos le dan la razón. Pida «confírmame que esta cláusula es correcta» y obtendrá una confirmación. El antídoto se resume en dos gestos.

1. Formular la pregunta en negativo. «¿Qué falla en este texto?», «¿cuáles son los tres riesgos que he pasado por alto?», «¿qué me reprocharía un inspector?».
2. Anunciar lo contrario de lo que usted piensa y observar si la opinión resiste. Si el modelo cambia de postura sin ningún argumento nuevo, su primera respuesta no valía nada.

Regla general: nunca pida a una herramienta que valide una decisión ya tomada. Pídale que la ataque.

Una duda expresada basta a menudo para provocar una corrección: formúlela explícitamente en lugar de empezar de cero.

Control 5: hacerla revisar por alguien que sabe

El último control no es técnico. Una respuesta creíble pero falsa solo la detecta alguien que conoce el tema: y ahí es donde se desplaza el trabajo.

El volumen de producción aumenta; la revisión se convierte en el cuello de botella y en la competencia escasa. Las personas con más experiencia ganan valor, porque solo ellas ven lo que no encaja en un texto impecable. Organícese en consecuencia: fije quién revisa qué antes de que la respuesta salga del equipo.

Lo esencial

• La herramienta no se verifica a sí misma: es usted quien pone en marcha la verificación.
• Abra cada fuente citada. Una referencia inventada no resiste un clic.
• Controle lo que es preciso: cifras, fechas, referencias, umbrales.
• Vuelva a plantear la pregunta en una conversación nueva y compare.
• Pida qué debilita la respuesta, nunca una confirmación.
• Hágala revisar por alguien que conozca realmente el tema.

¿Cuándo es obligatoria la verificación?

Tres situaciones no admiten excepción: lo que sale de la organización, lo que compromete jurídica o económicamente, y lo que afecta a la seguridad de las personas. Una carta a un cliente, un presupuesto, una cláusula contractual, una consigna de seguridad: la revisión humana es el mínimo.

El marco europeo va en la misma dirección. El Reglamento (UE) 2024/1689 sobre inteligencia artificial, publicado en el Diario Oficial de la Unión Europea el 12 de julio de 2024, impone obligaciones de transparencia y de supervisión humana tanto más estrictas cuanto más sensible es el uso. En el terreno de la seguridad de los sistemas, la ANSSI, la agencia nacional francesa de ciberseguridad, publicó en abril de 2024 sus recomendaciones para un sistema de IA generativa. Léalas como un recordatorio: la IA generativa es un componente del sistema de información, no un oráculo colocado al lado.

¿Por dónde empezar en su profesión?

Empiece por las dos nociones que explican la mayoría de los errores, descritas en nuestra guía vocabulario de la IA en cuatro palabras. Continúe con la cuestión de los datos, tratada en la guía qué datos puede confiar a una IA.

Para poner en práctica estos reflejos con casos de su profesión, el curso IA generativa en el trabajo y la temática inteligencia artificial los convierten en ejercicios puntuados.