El ámbito de la inteligencia artificial (IA) continúa enfrentando desafíos sustanciales para mejorar la equidad y reducir los sesgos existentes al generar y analizar información. En esta búsqueda de equidad, los modelos de difusión, herramientas emergentes de la IA, están tomando un papel protagónico al generar datos sintéticos que perfeccionan la imparcialidad y el rendimiento general de las clasificaciones automatizadas.
Uno de los desarrollos más prometedores es el Modelo Probabilístico de Difusión Denoising Tabular (Tab-DDPM), mostrado como una herramienta clave para aumentar los datos de entrenamiento sin preocupaciones de privacidad. Este modelo aborda las limitaciones de tamaño en los conjuntos de datos tabulares generando directamente nuevos datos sintéticos de alta calidad. Los experimentos recientes han demostrado su utilidad al mitigar sesgos en modelos de aprendizaje automático comunes como Árbol de Decisión, Naive Bayes Gaussiano, Vecino Más Cercano, Regresión Logística y Bosques Aleatorios.
Los datos generados por Tab-DDPM se incorporaron en diversos incrementos —20,000, 100,000 y 150,000 samples— para evaluar su impacto en la equidad y el rendimiento de las clasificaciones binarias. Resultados preliminares indican que esta innovación no sólo amplía el volumen de datos disponibles, sino que, crucialmente, mejora la equidad específica de las clasificaciones correspondientes a atributos protegidos, como etnia y género.
Para complementar el uso de datos sintéticos, se emplea una técnica de reponderación de muestras utilizando herramientas del AIF360, un completo conjunto de métricas de equidad y algoritmos destinados a reducir el sesgo en datos y modelos. Este enfoque permite ajustar la importancia de las muestras dentro de un conjunto de entrenamiento, garantizando una distribución más uniforme entre grupos demográficos.
Evaluar el impacto de estas soluciones implica analizar su desempeño usando métricas como el Impacto Dispar y la Diferencia de Oportunidad Igual, entre otras. Dichas métricas han mostrado un fortalecimiento general de la equidad en la clasificación sin afectar significativamente el rendimiento en la exactitud equilibrada de los modelos, especialmente al considerar incrementos de datos generados.
En conclusión, mientras las técnicas como Tab-DDPM y la ponderación de muestras se establecen como prometedoras en la promoción de la justicia IA, reflejan un enfoque en evolución hacia la optimización de la transparencia y la equidad en los modelos de IA. El futuro del desarrollo en IA prevé la incorporación de métodos cada vez más sofisticados y adaptables para fomentar un entorno digital más equitativo para todos.