La ciencia está avanzando a pasos agigantados en el ámbito de la inteligencia artificial y la robótica, con un enfoque particular en la explicabilidad de las redes neuronales aplicadas a datos de nubes de puntos. Estas técnicas son cruciales no solo para el desarrollo sino también para la confianza y la seguridad en sistemas autónomos en el mundo real.
Recientemente, se ha presentado un estudio sobre el método SMILE, una técnica que busca hacer más interpretable la toma de decisiones en modelos de nubes de puntos, un avance significativo considerando que la falta de transparencia puede conllevar riesgos severos. SMILE surge como una evolución del método LIME, mejorando la interpretación incorporando distancias estadísticas basadas en funciones de distribución empírica acumulativa (ECDF), mostrando un desempeño superior en términos de pérdida de fidelidad, puntuaciones de R² y robustez.
En el terreno de la clasificación de objetos, la técnica SMILE busca establecer un nuevo estándar, proporcionando mapas de saliencia que destacan características esenciales para la predicción de modelos complejos, como los bordes y esquinas de los objetos. Un análisis detallado reveló que para una adecuada interpretación, es esencial variar parámetros como el número de perturbaciones o el número de clústeres para mantener la precisión y fiabilidad del modelo.
Este trabajo no solo ilumina las posibilidades que ofrece SMILE en el ámbito de los datos tridimensionales sino que también detecta sesgos en conjuntos de datos, ejemplificado con la clasificación errónea de la categoría “persona”. Este sesgo subraya la necesidad de conjuntos de datos más amplios y completos, especialmente relevantes para aplicaciones críticas como la conducción autónoma.
El análisis concluye que, aunque LIME resulte más eficiente en términos computacionales, las variantes de SMILE como SMILE-AD presentan una estabilidad y fidelidad superiores, incluso sin necesidad de ajustes exhaustivos de parámetros. Se da un paso firme hacia la interpretabilidad de modelos en data de nubes de puntos, abriendo un camino a futuras investigaciones con nuevas técnicas explicativas y mejoras en los conjuntos de datos para una interpretación de modelos más robusta.