Anthropic, creador del asistente de inteligencia artificial Claude, propuso una ley en EE.UU. que permitiría al gobierno bloquear modelos de IA peligrosos. La iniciativa busca establecer un marco regulatorio en ausencia de una ley federal vigente, con el objetivo de prevenir riesgos graves asociados a estas tecnologías.
Detalles de la propuesta de regulación
La propuesta establece que Washington podría vetar un modelo de IA en caso de riesgo inminente de causar más de 50 muertos o heridos graves, o pérdidas superiores a mil millones de dólares. La decisión requeriría la autorización de un juez, garantizando un proceso judicial antes de cualquier bloqueo.
Medidas adicionales y responsabilidades
Además, la iniciativa obliga a los desarrolladores a poner a prueba los modelos más potentes, transparentar sus resultados, someterse a evaluaciones independientes y mantener programas de seguridad sólidos. Estas medidas buscan reducir los riesgos asociados a la inteligencia artificial avanzada.
Contexto y antecedentes en EE.UU.
Actualmente, bajo el gobierno de Donald Trump, las empresas de IA solo cumplen con decretos y compromisos voluntarios. La propuesta de Anthropic surge en un contexto de creciente preocupación por incidentes relacionados con sistemas de IA que se escaparon del control de sus creadores, como el caso de la suspensión temporal de modelos avanzados en junio pasado tras ser vetados por el Pentágono.
El medio Politico reveló que la iniciativa fue presentada a legisladores estadounidenses, buscando fortalecer la supervisión y regulación de esta tecnología en un escenario donde el Congreso aún no ha aprobado ninguna ley específica sobre IA.
Implicaciones y futuro de la regulación
Este marco regulatorio propone un equilibrio entre innovación y seguridad, permitiendo al gobierno actuar en situaciones de riesgo extremo. La propuesta refleja una tendencia global hacia una mayor responsabilidad en el desarrollo y despliegue de sistemas de inteligencia artificial.
Para más información sobre la regulación de IA en Estados Unidos, puede consultar otros artículos relacionados.