Investigadores de Sony AI y la Universidad de Stanford han dado un paso significativo en la aplicación de modelos de difusión discreta para resolver problemas de imagen inversa. Tradicionalmente, estos modelos de difusión se limitaban a espacios continuos, debido a su naturaleza no diferenciable. Sin embargo, el nuevo método propuesto, guiado por un proceso de ruido en forma de estrella, optimiza la distribución de variables categóricas mediante técnicas de relajación continua, superando así los inconvenientes de los modelos de difusión discreta estándar.
Los modelos de difusión han demostrado previamente su eficacia en la generación de imágenes, videos y datos de movimiento. Estos modelos operan corrompiendo datos iterativamente y aprenden a revertir dicho proceso de corrupción. Sin embargo, su aplicación a problemas inversos en espacios continuos era limitada. La innovación más reciente logra aproximar la distribución posterior verdadera a través de la forma relaxada de una distribución de variación, permitiendo así su uso en problemas lineales inversos.
Además, el estudio demuestra que los modelos de difusión discreta, cuando se usan como priors en la generación de imágenes, ofrecen un rendimiento comparable a los modelos de difusión continua. Aprovechando la poderosa capacidad generativa, estos modelos de difusión pueden resolver problemas complejos de manera eficaz, manteniendo intactos los parámetros originales con los que fueron entrenados.
Hasta la fecha, no existía trabajo previo que utilizara modelos de difusión discreta como prior para problemas inversos de imagen y datos de movimiento. El enfoque desarrolló un proceso de ruido que es independiente en cada paso del tiempo, lo que elimina la dependencia entre pasos consecutivos de muestreo y expande el espacio de soluciones explorables.
El nuevo método, denominado ‘Difusión Discreta Guiada por Gradiente’ o G2D2, ha sido evaluado mediante experimentos comparativos. En estas pruebas, el G2D2 mostró un rendimiento prometedor en la resolución de problemas inversos complejos al aprovechar los modelos de difusión discreta preentrenados. Este enfoque abre la puerta a un rango más amplio de aplicaciones que antes estaban restringidas a modelos continuos, ofreciendo un abismo para entrenar-free métodos en varias tareas, sin necesidad de entrenamiento adicional sobre los modelos originales.
En conclusión, la innovación de G2D2 representa un avance significativo en el uso de modelos de difusión discreta para resolver problemas inversos. Si bien todavía hay retos a superar, incluyendo la optimización de la velocidad y el rendimiento computacional, así como su aplicación a problemas no lineales y en otros dominios como audio y video, G2D2 abre la puerta a nuevas posibilidades en generativos modelos, permitiendo su aplicación en escenarios antes no considerados.