En un entorno marcado por avances tecnológicos vertiginosos, la Inteligencia Artificial (IA) ha comenzado a dejar su huella en el ámbito militar, influyendo en la seguridad global y la política geopolítica. Sin embargo, existe preocupación de que estas tecnologías no solo protejan, sino que también incrementen peligros, como lo demuestran los drones kamikaze y los “robots asesinos”. Desde que el Consejo de Seguridad de las Naciones Unidas adoptó la Resolución 1540 en 2004 para reducir la proliferación de armas de destrucción masiva (ADM), el tema de la IA no estaba en el radar.
A través de debates recientes, el Consejo de Seguridad ha reconocido que las tecnologías emergentes aumentan la complejidad y posibles riesgos en la implementación de dicha resolución. Estos peligros potenciales alcanzaron un nuevo nivel de atención en el primer debate sobre IA, paz y seguridad promovido por las Naciones Unidas, donde se destacó la inquietud frente a la combinación de IA con armas nucleares, biotecnología y robótica.
No obstante, el mundo carece de un marco de gobernanza internacional para el uso de la IA en lo militar. Las dudas éticas acerca de la interacción de la IA con la Resolución 1540 se centran en cómo estas tecnologías pueden intensificar los riesgos, así como crear nuevos peligros en torno a las ADM, socavando los esfuerzos por mantener la seguridad global. A pesar de las significativas capacidades beneficiosas de la IA, su uso malintencionado podría desatar consecuencias devastadoras.
La IA también se enfrenta a un serio dilema en cuanto a su dualidad de uso, donde cada aplicación se balancea entre el potencial positivo y el daño negativo. Un ejemplo destacado es la IA generativa, que en teoría puede manipular información a una escala sin precedentes, afectando tanto a individuos como a sistemas de información cruciales, y potencialmente subvirtiendo la democracia.
A su vez, las tecnologías IA podrían reducir barreras técnicas tradicionales para la proliferación de ADM, pero la magnitud del peligro que representan no ha sido plenamente entendida o reflejada en marcos regulativos actuales. Informes recientes indican riesgos, y aunque el riesgo de IA en la creación de ADM es considerado bajo, se mantiene bajo constante revisión debido a la rápida evolución tecnológica.
Finalmente, la ausencia de control humano en los sistemas autónomos, como aquellos que otorgan a la IA la capacidad de tomar decisiones militares, agrava las preocupaciones en términos técnicos, éticos y legales. Pese a esfuerzos por garantizar que estas tecnologías actúen de manera ética, la palabra final, cada vez más, recae en máquinas, no en humanos.
La conclusión lógica es firme: los líderes mundiales deben reconsiderar la extensión de la Resolución 1540 para incluir la influencia de la IA en la distribución y desarrollo de ADM para garantizar un control y regulación efectivos. Las recomendaciones también pasan por el establecimiento de directrices para la implementación efectiva de dichas disposiciones, pues solo así se maximizarán las oportunidades tecnológicas minimizando riesgos inherentes.