Introducción de un marco para la colaboración humana e IA en tareas de toma de decisiones

En un esfuerzo por potenciar la colaboración entre humanos e inteligencia artificial en predicciones y decisiones, se presenta un nuevo marco que utiliza el juicio humano para distinguir insumos que son, de otra manera, indistinguibles por los algoritmos. Se argumenta que los expertos a menudo disponen de información adicional no contenida en los datos de entrenamiento de algoritmos, información que este marco busca incorporar sistemáticamente.

Aplicación en Triaje en Urgencias

Este método ha sido probado en un estudio de triaje en la sala de urgencias, donde se compararon los juicios médicos con puntuaciones de riesgo calculadas algorítmicamente para pacientes con hemorragia gastrointestinal aguda. Aunque los algoritmos proporcionan puntuaciones competitivas, los médicos aportan señales adicionales no replicables algorítmicamente.

Historia y Contexto

Históricamente, desde 1954, ha sido evidente que las predicciones ‘actuariales’ hechas por algoritmos superan a menudo aquellas realizadas por expertos humanos. Sin embargo, el juicio humano sigue siendo esencial en tareas de predicción de alto riesgo debido a su acceso a información que los algoritmos no pueden capturar adecuadamente.

Evidencia de Mejora

Nuestro estudio en pacientes con hemorragia gastrointestinal aguda mostró que, aunque las puntuaciones de riesgo algorítmicas son útiles, los juicios médicos impulsados por diversas modalidades de información aportaron valor añadido que ninguna puntuación algorítmica podría igualar. Estos resultados subrayan cómo los juicios humanos pueden enriquecer las predicciones algorítmicas cuando existen datos observacionalmente indistinguibles.

Mecanismos Propuestos

El método propuesto integra juicios humanos sólo cuando mejora de manera demostrable el modelo predictivo algorítmico más factible. Se han desarrollado reglas de decisión para incorporar de manera complementaria la experiencia humana y algoritmos predictivos.

Casos de Estudio y Resultados

En el caso de pacientes de la sala de urgencias, los médicos pudieron identificar pacientes de alto riesgo que los algoritmos trataban como indistinguibles del resto. Se demostró que las decisiones de hospitalización de los médicos eran informativas sobre los verdaderos riesgos del paciente, mejorando las predicciones iniciales.

Conclusiones

El marco presentado representa un avance significativo en la colaboración humano-IA, al explicar no solo las circunstancias en que el juicio humano mejora las predicciones, sino también cómo implementar tales mejoras de manera sistemática. Estos resultados tienen el potencial de redefinir las políticas de incorporación de juicios humanos a procesos algorítmicos, especialmente en contextos donde los datos estructurados sean insuficientes.