Analyseur tiers : Protect AI

Intéressé à rejoindre notre partenariat sécurité / à fournir des informations de scan sur le Hub ? Veuillez nous contacter à security@huggingface.co.*

Protect AI’s Guardian détecte les exploits pickle, Keras et autres, comme décrit sur leur page Knowledge Base. Guardian bénéficie également des signalements envoyés par sa communauté de Huntrs.

Exemple de rapport pour danger.dat

Nous avons noué un partenariat avec Protect AI pour fournir un balayage afin de rendre le Hub plus sûr. De la même manière que les fichiers sont analysés par notre système de balayage interne, les fichiers des dépôts publics sont analysés par Guardian.

Notre interface a été redessinée spécifiquement à cet effet, afin de prendre en charge de nouveaux scanners :

Voici un exemple de dépôt que vous pouvez consulter pour voir la fonctionnalité en action : mcpotato/42-eicar-street.

Rappel sur la sécurité des modèles

Pour partager des modèles, nous sérialisons les structures de données utilisées pour interagir avec eux, afin de faciliter le stockage et le transport. Certains formats de sérialisation sont vulnérables à des exploits malveillants, tels que l’exécution de code arbitraire (je te regarde, pickle), ce qui rend le partage de modèles potentiellement dangereux.

Avec le succès de Hugging Face en tant que plateforme de partage de modèles, nous souhaitons protéger la communauté contre ce type de menace, c’est pourquoi nous avons développé des outils comme picklescan et pourquoi nous intégrons des scanners tiers.

Pickle n’est pas le seul format exploitable, voir par exemple comment exploiter les couches Lambda de Keras pour exécuter du code arbitraire.

Update on GitHub