En un entorno dinámico y lleno de desafíos, el desarrollo de vehículos autónomos (AVs) plantea importantes retos en materia de seguridad y fiabilidad en el transporte. Ante la creciente sofisticación de los modelos de Inteligencia Artificial (IA) y las explicaciones o interpretaciones de estos, surge la necesidad de hacer estos modelos más comprensibles y seguros.

Recientemente, un estudio liderado por investigadores de la Universidad de Purdue ha propuesto un enfoque innovador basado en la integración de múltiples métodos de Inteligencia Artificial Explicable (XAI) para mejorar la detección de anomalías en los sistemas de conducción autónomos. A través de una ingeniosa combinación de métodos XAI como SHAP, LIME y DALEX, en conjunción con seis modelos de IA diferentes, el marco desarrollado ofrece una detección de anomalías más precisa y comprensible.

El equipo de investigación aplicó su modelo a dos conjuntos de datos populares en conducción autónoma: VeReMi, que se centra en el comportamiento vehicular en tres dimensiones, y Sensor, que utiliza múltiples entradas de diferentes sensores. A través de su técnica de ensamblado de características, el modelo evidencia una notable mejora en precisión y robustez, alcanzando una precisión del 82% en detección de anomalías al emplear el clasificador CatBoost.

La utilización de un enfoque integrado de múltiples modelos IA permite capturar distintas facetas de la interpretación de datos. Esto resulta esencial, ya que se han visto evidentes beneficios al combinar las fortalezas de múltiples métodos XAI que han proporcionado un conjunto de características explicativas más robusto, esencial para la detección precisa de anomalías y la mejora del nivel de confianza.

En su evaluación, el equipo de investigación demostró que el enfoque basado en XAI no solo iguala, sino que en ocasiones supera los métodos individuales de XAI. Esto es una clara señal de que la metodología incrementa la confianza en el sistema, haciendo que las decisiones de los modelos de detección de anomalías sean más transparentes para los usuarios y las regulaciones gubernamentales.

Conclusivamente, este enfoque representa un paso significativo hacia sistemas de conducción autónomos más confiables y seguros, marcando un camino hacia el uso de inteligencia artificial confiable en aplicaciones críticas para la seguridad.