Anthropic dice que las nuevas medidas de seguridad reducen los ataques de "destilación" de la IA

Anthropic dijo el lunes que las nuevas medidas diseñadas para impedir que sus competidores copien las capacidades de sus modelos de inteligencia artificial Claude han reducido los datos recopilados en los denominados "ataques de destilación" entre un 90% y un 99 por ciento.

La destilación de modelos se ha convertido en una preocupación clave para las principales empresas de IA debido a la intensificación de la competencia entre EU y China, y empresas como Anthropic, OpenAI y Google sostienen que esta práctica permite a los competidores reproducir capacidades avanzadas más rápidamente y a un menor costo

Anthropic dijo que las medidas de seguridad que restringen el acceso al razonamiento de Claude redujeron drásticamente los intentos de extracción, y que el número de tókenes de razonamiento extraídos por los "destiladores" es ahora entre 10 y 100 veces menor que antes.

La empresa, con sede en California, ha señalado que ha dificultado el uso de redes "proxy" para sondear repetidamente el razonamiento protegido de Claude, bloqueando así los intentos de extracción y obstaculizando los esfuerzos de destilación a gran escala.

Anthropic dijo que su sistema de seguridad es "aproximadamente tan robusto como los que impiden que Claude ayude a fabricar armas biológicas" y tiene "una tasa de falsos positivos inferior al 0.1 por ciento".

Anthropic ha bloqueado decenas de miles de cuentas vinculadas a campañas de "destilación" y ha señalado a la "startup" china de IA Z.ai  —también conocida como Zhipu— como ejemplo de una empresa que intentó extraer capacidades de Claude mientras desarrollaba su modelo GLM-5.3, advirtiendo de que tales prácticas suponen riesgos para la seguridad y la seguridad nacional.

Z.AI no respondió de inmediato a una solicitud de comentarios.