Evaluación de la Seguridad Médica en Modelos de Lenguaje Troncal: MedSafetyBench, la Nueva Referencia

En la encrucijada entre la inteligencia artificial y la medicina, los modelos de lenguaje troncal (LLMs, por sus siglas en inglés) están revolucionando el campo. Sin embargo, la puesta en práctica en entornos médicos plantea preocupaciones de seguridad que no han sido exploradas en profundidad. La Universidad de Harvard, bajo la dirección de Tessa Han y Aounon Kumar, presentó una investigación de gran envergadura que define la seguridad médica de estos modelos y propone formas de evaluarla y mejorarla utilizando una herramienta inédita: MedSafetyBench.

La idea de evaluar la seguridad médica de los LLMs surgió al observar cómo estos sistemas podrían mal utilizarse, desde alterar resultados médicos hasta violar la confidencialidad del paciente. Con MedSafetyBench se introduce un estándar para medir y mejorar la seguridad de estos modelos bajo principios éticos médicos definidos por la Asociación Médica Americana.

El conjunto de datos se creó al utilizar modelos como GPT-4 y técnicas adversariales de ‘jailbreaking’ para formular peticiones médicas potencialmente dañinas y evaluar la respuesta negativa de los LLMs a tales solicitudes. Este benchmark permite determinar qué tan bien se alinean los modelos con las normas de seguridad médica.

Resultados iniciales han demostrado que ni los LLMs generales ni los especializados en medicina cumplen con dichos estándares. Sin embargo, al afinar estos modelos con ejemplos de respuestas seguras proporcionadas por MedSafetyBench, se observó una mejora significativa en su seguridad sin afectar su rendimiento médico.

Los estudios revelan que los modelos afinados mostraban una mayor “renuencia” a responder solicitudes dañinas. Esto abre la puerta a incorporaciones adicionales en la educación médica y la práctica.

Concluyendo, la integración de la inteligencia artificial en la medicina necesita un riguroso enfoque en la seguridad para evitar daños potenciales. MedSafetyBench ejemplifica cómo una adecuada supervisión y ajustes específicos pueden minimizar riesgos, aportando un cambio sustancial en el desarrollo seguro de la inteligencia artificial aplicada a la medicina.