OpenAI ha realizado cambios notables en sus prácticas de seguridad y protección, estableciendo un nuevo comité de supervisión independiente. El antiguo CEO de la compañía, Sam Altman, ya no forma parte de este nuevo comité, un cambio que parece versar sobre la necesidad de evitar posibles conflictos de interés en las decisiones de seguridad.
El recién formado Comité de Seguridad y Protección estará presidido por Zico Kolter, director del Departamento de Machine Learning en la Universidad Carnegie Mellon. Junto a Kolter, destacan miembros influyentes como el CEO de Quora, Adam D’Angelo, el general retirado del Ejército de EE.UU. Paul Nakasone, y Nicole Seligman, ex vicepresidenta ejecutiva de Sony Corporation. Este cambio estratégico es percibido como una respuesta a las críticas recientes sobre el compromiso de OpenAI con la seguridad en inteligencia artificial.
Los asesinados de esta nueva comisión van más allá de las recomendaciones genéricas, abarcando la supervisión directa de las evaluaciones de seguridad para las grandes presentaciones de modelos y la posibilidad de frenar lanzamientos si surgen preocupaciones sobre seguridad. El comité dispone ahora de la autoridad para retrasar una implementación hasta que se resuelvan de manera adecuada estas inquietudes.
El entorno de OpenAI ha estado bajo la lupa tras la disolución de su equipo de superalineación y la salida de personal clave enfocado en la seguridad. La restructuración puede considerarse un esfuerzo por reconstruir la confianza y responder a los cuestionamientos sobre su seriedad en el ámbito de la seguridad.
Además del cambio estructural, OpenAI tiene planes de intensificar las medidas de seguridad, aumentar la transparencia y colaborar con entidades externas. Han formado acuerdos con los Institutos de Seguridad en IA de EE.UU. y Reino Unido para co-investigar riesgos emergentes en IA y establecer estándares para una inteligencia artificial confiable.
En conclusión, la creación del nuevo comité y la exclusión de Altman reflejan un paso crucial hacia un esquema de seguridad más riguroso y transparente. Esto no sólo demuestra un compromiso renovado con el bienestar en el ámbito del desarrollo de la IA, sino que también es un esfuerzo por recuperar la confianza de sus críticos. OpenAI parece decidido a establecer un balance entre la innovación y la seguridad de una tecnología que evoluciona constantemente.