Cisco lanzó una herramienta de código abierto para rastrear el origen de los modelos de IA y comparar similitudes de modelos para obtener una alta visibilidad de la cadena de suministro de IA. El Model Provenance Kit, anunciado el jueves, es un conjunto de herramientas de Python y una interfaz de línea de comandos (CLI) que analiza señales como metadatos y pesos para crear una «huella digital» para modelos de IA que luego se puede comparar con otros modelos de huellas digitales. «Provenance Kit como prueba de ADN para modelos de IA», escribieron los investigadores de Cisco. «(…) Así como una prueba de ADN revela orígenes biológicos, el Model Provenance Kit examina tanto los metadatos como los parámetros reales aprendidos de un modelo (como un genoma único que comprende un modelo) para evaluar si los modelos comparten un origen común e identificar signos de modificación». cargado con documentación incompleta o engañosa, proporciona una manera para que las organizaciones verifiquen las afirmaciones sobre la procedencia de un modelo, como afirmaciones de que un modelo se entrena desde cero, cuando en realidad puede copiarse de otro modelo, dijo Cisco, lo que pone a las organizaciones en riesgo de usar modelos con sesgos, vulnerabilidades o manipulaciones desconocidas. Funciona en dos fases y tiene dos modos diferentes: en el modo de comparación, un usuario puede seleccionar dos modelos para comparar y recibir un desglose de puntuaciones de similitud, incluidos metadatos, estructura de tokenizador y señales de nivel de peso; si esta puntuación final está por encima de un cierto umbral, los modelos se comparan con una base de datos de huellas dactilares conocidas en más de 45 familias y 20 editores, incluidos Meta, Google, Alibaba, Microsoft, DeepSeek y OpenAI. Metadatos y configuraciones de modelos que pueden determinar rápidamente si dos modelos comparten una arquitectura idéntica. Cisco señaló que esta fase por sí sola puede resolver una «gran proporción» de casos. La segunda fase implica observar cinco señales específicas: incorporación de distribución de normas (END), huellas dactilares de capa de normas (LEP) y. coseno de valor de peso (WVC). Estas señales pueden ayudar a identificar modelos que tienen la misma plantilla arquitectónica pero fueron entrenados por separado, Cisco descubrió que el Model Provenance Kit identificó derivados de modelos estándar, como el mismo modelo base con diferentes ajustes o ajustes, el 100% de las veces, y también tuvo un 100% de recuperación para derivados entre organizaciones donde un modelo es ajustado por una organización diferente y un modelo es ajustado por un modelo entrenado de forma independiente pero comparte el mismo tokenizador. se identificaron con un 100% de especificidad, y entre 111 modelos analizados, solo cuatro fueron clasificados erróneamente, lo que según Cisco involucraba modelos con «transformaciones arquitectónicas extremas». Un modelo que utilizan desde su origen, dijo Cisco, se vuelve más difícil de rastrear y más fácil de ocultar, y responder a la pregunta de «¿cuál es el origen de este modelo requiere enfoques más matizados?»
Cisco lanza una ‘prueba de ADN para modelos de IA’ de código abierto | noticias
