Supervisión humana de la IA: cómo diseñarla en ventas y operaciones

Qué es la supervisión humana de la IA

La supervisión humana de la IA es que una persona concreta pueda entender lo que hace un agente, corregirlo y pararlo. Tiene tres partes: ver, decidir y actuar. Si falta una, lo que hay es una persona mirando una pantalla.

En la hibridación de empresas con IA, cada proceso se reparte entre agentes y personas. La supervisión es la costura entre las dos partes, y conviene dibujarla antes de construir el agente. Añadida después, suele acabar en un botón de «aprobar» que nadie mira.

Las cuatro decisiones de diseño

Cada punto de control se define respondiendo a cuatro preguntas:

La cuarta fila es la que más se descuida. Una persona que solo puede aprobar o esperar no supervisa. Tiene que poder corregir y, si hace falta, detener el proceso.

Tres formas de revisar

No todos los procesos piden la misma intensidad de revisión. Hay tres formas, y se puede pasar de una a otra:

• Aprobar antes: la persona ve cada resultado y nada sale sin su visto bueno. Es la forma de empezar siempre y la que se mantiene cuando un error es caro.
• Revisar por muestra: el agente trabaja y la persona revisa una parte, elegida sin mirar. Sirve cuando el proceso es estable y un error se corrige sin daño.
• Revisar excepciones: el agente aparta lo que sus reglas no cubren y la persona ve solo eso. Exige reglas que digan con claridad cuándo apartar.

Se pasa de la primera a las otras cuando las correcciones se vuelven raras y siempre por el mismo motivo. En ese momento, el motivo ya es una regla y se escribe. Si las correcciones vuelven a subir, se regresa a aprobar antes.

Cómo se diseña en ventas

En ventas, el resultado del agente llega a alguien de fuera, así que el punto de control va antes del envío. El reparto habitual es este:

• El agente busca empresas que encajan con el cliente ideal. La persona revisa la lista y quita las que no quiere contactar.
• El agente prepara el primer mensaje. La persona lo lee, lo cambia si hace falta y decide si sale.
• El agente avisa cuando alguien responde. La persona lleva la conversación y la reunión.
• Precios, condiciones y promesas no se delegan: los da siempre una persona.

Así funciona la plataforma Legathum: una persona revisa cada mensaje antes de enviarlo, y el correo nunca sale en frío.

Cómo se diseña en operaciones

En operaciones, el resultado se queda dentro de la empresa, pero a menudo cuenta: una factura registrada, un pedido confirmado, un informe que alguien usará para decidir. El punto de control va antes de ese momento.

Sirva el ejemplo de una gestoría, inventado para este artículo. El agente clasifica las facturas que mandan los clientes y aparta las que llegan sin NIF. La responsable de administración confirma el lote antes de que pase a contabilidad y resuelve las apartadas. Durante las primeras semanas lo revisa todo. Después, solo las apartadas y una muestra del resto.

En los informes para la dirección la lógica es la misma. El agente prepara los datos y señala lo que se sale de lo previsto. Qué hacer con cada aviso lo decide una persona.

Lo que hace fracasar la supervisión

Cuando la supervisión no funciona, casi siempre es por uno de estos cinco motivos:

• El supervisor no tiene tiempo. La revisión se añadió a su jornada sin quitarle nada.
• No tiene autoridad. Ve el error y no puede cambiar la regla ni parar al agente.
• Aprueba por costumbre. Después de cien resultados correctos, el siguiente se aprueba sin leer. El Reglamento europeo de IA lo llama sesgo de automatización.
• No ve la regla. Sin saber con qué criterio decidió el agente, solo puede opinar sobre el resultado.
• Las correcciones no se anotan. El mismo error se arregla a mano una y otra vez.

Los dos primeros se resuelven al asignar el trabajo. Los tres últimos, al diseñar la pantalla en la que la persona revisa.

Qué pide el Reglamento europeo de IA

Para los sistemas de alto riesgo, el Reglamento europeo de IA dice dos cosas sobre la supervisión. El artículo 26 pide que se encargue a personas con la competencia, la formación y la autoridad necesarias. El artículo 14 pide que el sistema les permita entender sus capacidades y sus límites, ser conscientes del sesgo de automatización, descartar o revertir lo que produce e interrumpirlo de forma segura.

Esas obligaciones se refieren a los usos del anexo III, como la selección de personal, y aplican desde el 2 de diciembre de 2027. Como lista de comprobación sirven para cualquier agente.

Cómo saber si la supervisión funciona

Cuatro cifras, anotadas desde el primer día, dicen si un punto de control hace su trabajo:

• Cuántos resultados se corrigen y por qué motivo.
• Cuánto tarda la revisión de cada caso.
• Cuántos casos aparta el agente y cuántos de ellos estaban bien apartados.
• Cuántas veces se ha parado el proceso y qué se cambió después.

Si nadie corrige nunca nada, o el agente es perfecto o nadie está leyendo. Lo segundo es más frecuente. Estas cifras se comparan con la línea base del proceso, que explicamos en cómo medir un proceso antes de automatizarlo.

Por dónde empezar

Por escribir, para un solo agente, quién revisa, qué revisa, cuándo y qué puede hacer. Si alguna de las cuatro respuestas está en blanco, el agente todavía no debería trabajar solo. El reparto por áreas está en agentes de IA para pymes.

En el Método Legathum de Hibridación AI-First, cada agente tiene una especificación con su criterio, sus límites y su supervisión humana, y nada se construye sin ella. Es parte de la Consultoría de hibridación AI-First. En una empresa AI-First, cada punto de control tiene una persona responsable, con formación y autoridad para corregir al agente.

Sigue leyendo

• Agentes de IA para pymes: qué hacen, qué no hacen y quién los supervisa
• ¿Qué es la hibridación de empresas con IA?
• Cómo medir un proceso antes de automatizarlo: la línea base que nadie hace