Caso: la gobernanza que firma. Cómo una operación con agentes de IA decide qué llega a publicarse

Esta casa opera con agentes de IA: una editorial trilingüe y un sistema de investigación de mercado. Eso significa que la capacidad de producir errores también está automatizada: un agente puede generar en una hora más afirmaciones sin fuente, más enlaces rotos y más incoherencias de estilo de las que un humano revisaría en una semana. Y el producto de esta casa es precisamente la confianza: una publicación cuyo sistema de veredictos dice en portada si un robot es real, teleoperado o puesta en escena no puede permitirse que su propio contenido incumpla el rigor que exige a los demás. El método público de esos veredictos está en la metodología.

El riesgo tiene además un nombre externo: los buscadores penalizan el abuso de contenido a escala, y los lectores penalizan antes. La pregunta de diseño no era "cómo evitar que la IA se equivoque" (no se puede) sino: ¿qué sistema hace que ningún error de agente llegue a publicarse sin pasar por reglas ejecutables y por una persona que responde con su nombre? La respuesta útil para cualquier empresa es que la gobernanza no va de frenar la producción: va de decidir, con mecanismos y no con memoria, qué cruza la puerta.

La pieza central es un desplazamiento: las reglas editoriales no viven en un documento que los agentes deberían leer, viven en código que se ejecuta contra cada pieza. Hoy son 34 tests automáticos sobre 417 registros de contenido en tres idiomas, y la publicación está bloqueada mientras uno solo falle. Encima de las puertas automáticas hay dos capas más: verificación en navegador real (la página construida se comprueba en móvil antes de publicar) y la revisión humana final, que decide sobre lo único que los tests no ven: si es verdad, si es útil y si suena a esta casa. La tabla detalla cada puerta con lo que caza; el flujo completo:

Como en todo caso de esta casa, las herramientas importan menos que los porqués. Estas son las cinco decisiones de gobernanza que definieron el sistema, con la alternativa que desplazaron.

La gobernanza automática tiene un coste marginal cercano a cero: los 34 tests corren en segundos en cada construcción del sitio, sin coste de plataforma añadido, y las comprobaciones de navegador añaden un par de minutos por publicación. El coste real es humano y es la revisión final: leer, verificar afirmaciones contra fuentes y firmar, que es la partida de supervisión que domina cualquier operación con agentes (el desglose completo de esa estructura de coste, con calculadora, está en el blueprint de operación de contenido).

La cuenta del otro lado es la que casi nadie hace: lo que la puerta evita. Cada fallo de la tabla de arriba cazado antes de publicar costó minutos de corrección; el único fallo real que cruzó hasta producción (el vídeo, contado abajo) costó horas de diagnóstico, una corrección urgente y la parte de confianza del lector que nunca se mide. En una operación que produce a velocidad de agente, la relación entre esos dos números solo puede crecer a favor de las puertas: es la inversión con mejor rendimiento de todo el sistema.

Tres fallos reales, elegidos porque cada uno enseñó una regla distinta. El primero es fundacional: las reglas de voz de la casa (desde un signo tipográfico prohibido hasta la estructura de la primera frase) se incumplían una y otra vez en borradores mientras fueron instrucciones escritas. Dejaron de incumplirse el día que se convirtieron en tests que impiden publicar. De ahí viene el principio que da título al caso: si tu guía de estilo no puede rechazar una pieza, es una sugerencia.

El segundo cruzó hasta producción y lo encontró un lector: un vídeo incrustado que se veía como una caja negra en el móvil. Ningún test lo veía, porque los tests leen datos y estructura, no píxeles: la causa era una combinación de un formato de vídeo vertical y una regla de estilo que nunca podía aplicarse al elemento creado dinámicamente. La corrección técnica tardó una tarde; la corrección de gobernanza fue añadir la puerta que faltaba, la verificación en navegador real y tamaño móvil antes de cada publicación. Las puertas de este sistema no salieron de un plan maestro: cada una es la cicatriz de un fallo concreto.

El tercero fue de reparto y lo cazó la revisión humana, no un test: la primera versión del perfil del autor le atribuía la verificación de robots, cuando quien verifica es la publicación con su método y la persona construye sistemas. Leída en frío, la frase era falsa, y es exactamente el tipo de error (jurídicamente inocuo, reputacionalmente letal) que ningún test estructural verá jamás. Por eso la última puerta es una persona, y por eso este caso se llama como se llama: la gobernanza que firma.

Este sistema no se diseñó rellenando un marco, pero mapea limpio sobre ellos, y ese mapeo es útil si tienes que defenderlo ante un consejo o un auditor. Contra el marco de gestión de riesgos de IA del NIST: las reglas escritas y la firma nominal son la función de gobierno; el registro de fallos, la de medición; las puertas bloqueantes, la de gestión. Contra el espíritu de ISO/IEC 42001: esto es un sistema de gestión de IA en miniatura, con política, controles operativos, mejora continua alimentada por fallos y responsabilidad asignada. Y contra la dirección del AI Act europeo, que empuja hacia transparencia y supervisión humana de los sistemas que producen contenido: aquí la supervisión humana no es una casilla, es la puerta final con nombre y apellido. La certificación CAIM que firma este lab cubre precisamente ese oficio: alinear sistemas reales con estos marcos sin convertirlos en teatro documental.

La traducción a tu empresa no es copiar estas puertas, es copiar la pregunta que las creó: por cada regla de tu política de IA, ¿qué mecanismo la ejecuta, y qué pasa exactamente cuando se incumple? Donde la respuesta sea "confiamos en que la gente la recuerde", ahí tienes tu próximo fallo esperando fecha.

Seis pasos, en el orden que funciona. El patrón vale igual para contenido, informes financieros, atención al cliente o cualquier otro flujo donde agentes produzcan trabajo que sale al mundo.

Dos curvas se cruzan. La primera: el coste de producir con agentes sigue cayendo, así que la producción deja de ser ventaja para nadie y la diferencia se traslada entera a lo que aquí se ha contado: qué sistema decide qué se publica y quién responde. La segunda: la regulación europea avanza por fases hacia exigir transparencia y supervisión humana demostrable, y la distancia entre "tenemos una política de IA" y "nuestra política puede rechazar trabajo y dejar rastro" se convertirá en distancia auditable. Nuestra apuesta operativa para los próximos trimestres: los propios agentes asumirán más autocomprobación (proponer el test junto con la pieza), la verificación en navegador se automatizará dentro de las puertas, y el registro de fallos ganará estructura de dataset, como todo en esta casa. Lo que no va a cambiar es la última puerta: una persona que firma. Cuanto más produzcan las máquinas, más vale la firma.

El sistema completo de esta casa, con sus otros dos casos en producción y sus respuestas rápidas, está en Sistemas de IA.