El presidente de Microsoft, Brad Smith, hizo un llamado a la adopción de medidas de seguridad “reales y eficaces” para la inteligencia artificial. Su petición llega en medio de una creciente preocupación por los riesgos asociados a esta tecnología y la necesidad de regulaciones claras.
Contexto y antecedentes
Smith destacó que, al igual que en otras áreas de nuestra vida, la inteligencia artificial requiere normas de seguridad en las que el público pueda confiar. Este llamado se realiza en vísperas de una cumbre internacional sobre IA organizada en Dublín.
Propuestas de Microsoft para reforzar la seguridad en IA
Entre las medidas propuestas por Microsoft, Smith mencionó la implementación de “frenos de emergencia” en los sistemas de IA, especialmente en aquellos que controlan infraestructuras críticas o sistemas automatizados. Estos frenos permitirían apagar o ralentizar los sistemas en caso de pérdida de control.
Responsabilidad y transparencia en incidentes
Smith también abogó por que los proveedores de IA tengan la obligación de notificar incidentes de seguridad, similar a la obligación que tienen las empresas en casos de filtraciones de datos. Esto busca garantizar mayor responsabilidad y protección para los usuarios.
Evaluaciones previas al lanzamiento
Finalmente, el directivo hizo énfasis en la importancia de reforzar las pruebas y evaluaciones de los modelos de IA antes de que sean comercializados. La rapidez en la evolución del sector requiere que las acciones sean tomadas con urgencia para evitar riesgos mayores.
Varios líderes del sector, como Dario Amodei de Anthropic, han expresado la necesidad de desacelerar el desarrollo de la IA cuando sea necesario para garantizar su seguridad. La regulación y la vigilancia son temas que toman cada vez más fuerza en la industria tecnológica.