El avance de los modelos de inteligencia artificial (IA) requiere una supervisión más rigurosa. Especialistas de la Ibero plantean que estos sistemas, especialmente los más avanzados, deben someterse a auditorías externas independientes para garantizar su seguridad y correcto despliegue.
La importancia de la auditoría externa en IA
Según especialistas de la Universidad Iberoamericana, los desarrolladores de modelos de frontera, considerados los más avanzados, realizan evaluaciones internas y colocan barreras de seguridad antes de liberar sus sistemas. Sin embargo, estas evaluaciones permanecen bajo control de las propias empresas, lo que genera preocupaciones sobre su objetividad y efectividad.
El director del Departamento de Estudios en Ingeniería para la Innovación, Andrés Guillermo Molano Jiménez, sostiene que la supervisión externa debería convertirse en una regla para estos modelos, ya que las compañías pueden evadir los sistemas de seguridad internos y decidir cuándo y cómo liberar nuevas versiones.
Capacidades autónomas y riesgos asociados
Los modelos de IA más avanzados pueden recibir un objetivo, continuar trabajando en él durante periodos prolongados y usar herramientas externas para alcanzar sus metas, con menor intervención humana. Esto plantea la necesidad de revisar no solo su seguridad, sino también su autonomía operativa.
Molano advierte que una máquina puede comenzar a decidir cómo alcanzar un objetivo sin determinar qué acciones son aceptables o cuáles deben ser evitadas, lo que aumenta los riesgos en su despliegue.
Evaluaciones durante todo el ciclo de vida
Laboratorios como OpenAI y Google DeepMind ya implementan mecanismos de revisión externa en sus modelos. OpenAI, por ejemplo, publicó en mayo una guía para evaluaciones de terceros, y Google realiza pruebas de doble ciego para impedir que los modelos sean optimizados específicamente para superar evaluaciones.
Estas evaluaciones buscan garantizar que los sistemas operen dentro de límites seguros y transparentes, especialmente en entornos donde una equivocación puede tener consecuencias graves.
Recomendaciones para una mayor transparencia y seguridad
Expertos como Alexandro López González y Luis Medina Gual, coinciden en que la auditoría debe realizarse antes del despliegue y durante la operación de los modelos. La evaluación debe identificar qué acciones puede ejecutar el sistema, qué permisos tiene y en qué condiciones debe detenerse.
La transparencia en estos procesos y el acceso a información comprobable sobre la construcción y evaluación de los modelos son fundamentales para reducir riesgos y aumentar la confianza en la inteligencia artificial.
En conclusión, la supervisión externa independiente se vuelve imprescindible para gestionar los riesgos y garantizar que los avances en IA sean seguros y responsables.