Las empresas de inteligencia artificial enfrentan crecientes desafíos en la protección de sus modelos frente a prácticas como la destilación, que buscan copiar capacidades avanzadas. Anthropic ha implementado nuevas medidas que han logrado reducir estos ataques en un 90% a 99%.
Qué es la destilación de modelos de IA
La destilación consiste en extraer conocimientos de un modelo de inteligencia artificial para replicar sus capacidades en otro. Esta práctica se ha convertido en una preocupación clave para las principales empresas del sector, como Anthropic, OpenAI y Google.
Medidas de seguridad implementadas por Anthropic
Anthropic informó que ha bloqueado decenas de miles de cuentas vinculadas a campañas de destilación. Además, señaló a la startup china Z.ai, también conocida como Zhipu, como ejemplo de una empresa que intentó extraer capacidades de su modelo Claude mientras desarrollaba el GLM-5.3.
¿Cómo logran reducir los ataques?
La compañía ha desarrollado un sistema de seguridad que dificulta el uso de redes proxy para sondear el razonamiento protegido de Claude. Según Anthropic, su sistema es “aproximadamente tan robusto como los que impiden que Claude ayude a fabricar armas biológicas” y tiene “una tasa de falsos positivos inferior al 0.1 por ciento”.
Impacto y riesgos de la destilación
Las prácticas de destilación representan riesgos para la seguridad y la seguridad nacional, ya que permiten a los competidores reproducir capacidades avanzadas a menor costo y en menor tiempo. Anthropic advirtió que estas acciones pueden tener consecuencias graves en el desarrollo y control de la IA.
Contexto internacional y competencia
La intensificación de la competencia entre Estados Unidos y China ha aumentado la preocupación por estas prácticas. Empresas como Anthropic buscan proteger sus modelos ante la amenaza de que sean utilizados para fines no autorizados o peligrosos.
Para más información sobre cómo las empresas protegen sus modelos de IA, puedes consultar educación a trabajadores en México.