Confianza en la IA y juicio humano: conservar la responsabilidad de una decisión

Qué nos pueden decir las investigaciones sobre la confianza

Un estudio CHI 2025 realizado por Microsoft Research y Carnegie Mellon encuestó a 319 trabajadores que describieron 936 usos de la IA. Una mayor confianza en la IA se asoció con un menor pensamiento crítico autoinformado. Estas son asociaciones de encuestas, no pruebas de que la IA provoque una disminución de la inteligencia. Lee et al., CHI 2025

Un metanálisis de 2024 publicado en Nature Human Behaviour abarcó 106 experimentos y 370 efectos de estudios de 2020–2023. Las combinaciones de humanos e IA rindieron peor, de media, que el mejor de los dos por separado: g de Hedges = −0.23, IC del 95% de −0.39 a −0.07. Este efecto estandarizado no significa una pérdida de precisión del 23%. Vaccaro et al., Nature Human Behaviour, 2024

Nuestra recomendación es darle a la supervisión humana un trabajo específico. Una persona debe definir el objetivo, elegir los criterios, comprobar la evidencia decisiva y explicar por qué se acepta la conclusión. Simplemente releer una respuesta pulida y aprobarla es un procedimiento demasiado vago para evaluarlo. La presencia de una persona es menos informativa que las comprobaciones que esa persona realmente realiza.

Escriba su criterio antes de leer la respuesta

Antes de solicitar un análisis, registre lo que está eligiendo, qué restricciones son obligatorias y qué cambiaría su punto de vista. Para la elección de software, eso podría significar una integración requerida, un período de aprendizaje aceptable y la capacidad de exportar sus datos. Esta breve nota no necesita contener la respuesta correcta. Su finalidad es preservar su criterio antes de que llegue un encuadre externo atractivo.

Después de la discusión, compare su conclusión con la nota. Si aparece un nuevo criterio, identifique de dónde proviene: ¿un requisito real, una limitación recién descubierta o una descripción atractiva? Revisar los criterios es razonable cuando se puede explicar el motivo. El registro ayuda a distinguir el aprendizaje de la adopción silenciosa de la opinión segura más reciente.

Ejemplo resuelto: una tabla que parece más completa de lo que es

Imagínese un equipo ficticio seleccionando software para informes semanales. Compare tres opciones con cinco criterios. Una respuesta de IA asigna puntuaciones y anuncia un ganador. Sin embargo, no se han verificado dos criterios: el formato de exportación requerido y una integración específica. La tabla parece terminada, aunque aún se desconocen los valores de entrada decisivos.

Marque esas celdas como desconocidas en lugar de asignar una puntuación neutral. Solicite a la discusión que pruebe la decisión bajo valores alternativos: ¿qué pasa si la exportación no está disponible? ¿Cambiaría el ganador si la configuración demora una semana? Esas preguntas producen un breve plan de verificación del producto. Las tres opciones y los cinco criterios son parte de este ejemplo de enseñanza, no hallazgos sobre los clientes de Colay.

Luego, una persona prueba la exportación con un archivo de muestra y la integración con un flujo de trabajo real antes de actualizar la tabla. Si la elección cambia, la razón importa: llegaron nuevas observaciones. Si sigue igual, el control sigue creando una explicación defendible para los colegas. El objetivo es mejorar la base de elección, no maximizar el número de veces que los humanos anulan la IA.

Una solicitud de Consensus que deja visible el juicio

Colay Consensus hace que los participantes discutan una solicitud y un coordinador sintetice el resultado. Pruebe esta instrucción: "Primero verifique los criterios. Identifique entradas desconocidas. Muestre qué incógnita podría cambiar la elección. Proponga la verificación útil más pequeña". También se puede pedir la respuesta final para preservar una alternativa que siga siendo razonable bajo diferentes supuestos. Esta es una práctica sugerida, no una garantía medida del producto.

No le pida al coordinador que cierre la pregunta simplemente porque la mayoría de las respuestas coinciden. Solicite la conexión entre la evidencia y la conclusión y mantenga visible la incertidumbre relevante. Luego explique la decisión con sus propias palabras sin copiar el resumen. Si esa explicación depende enteramente de decir que los modelos coincidieron, vuelva a los datos de entrada que deberían justificarlo.

Mida la utilidad de su propio trabajo

Elija varias tareas recurrentes y defina un error antes de comparar métodos. Realice una ejecución de un solo modelo y una discusión sobre la misma tarea y material de apoyo. Inspeccione defectos concretos, como una afirmación de característica no respaldada, un cálculo incorrecto o una restricción obligatoria omitida. Registre el tiempo de revisión y el uso del crédito también. Mantenga estas observaciones separadas de la impresión de que la respuesta suena más profunda.

Cuando sea posible, pida a un colega que evalúe resultados anonimizados sin saber qué modo produjo cada uno. Una muestra interna pequeña no demuestra la superioridad universal de un producto, pero puede revelar cuándo la discusión justifica el tiempo adicional en su flujo de trabajo. Preste especial atención a los errores unánimes: revelan limitaciones que una demostración exitosa podría ocultar.

Conservar la opción de detenerse sin un ganador

Permita concluir que la evidencia es insuficiente. Si un formato exige un ganador en cada condición, alienta a llenar los vacíos. Para una pequeña tarea reversible, puede aceptar una suposición y comprobarla más tarde. Para una decisión de consecuencias importantes, registre la observación requerida antes de continuar. La persona responsable de la tarea debe establecer ese umbral en lugar de inferirlo del tono de la respuesta.

Para su próxima decisión laboral, escriba criterios, solicite una discusión, verifique un hecho decisivo y explique el resultado usted mismo. Esto hace que el papel humano sea observable. Consensus puede proporcionar un lugar organizado para diferentes argumentos, mientras que la persona que toma la decisión sigue siendo responsable de los criterios, las comprobaciones de los hechos y la acción final.