.png)
Microsoft et Mitre ont récemment développé un plug-in qui combine un certain nombre d'outils logiciels libres pour aider à protéger les systèmes d'apprentissage machine (ML) contre les cyberattaques. Baptisé Arsenal, l'outil est un plug-in pour le cadre ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) de MITRE, une base de connaissances sur les tactiques, les techniques et les études de cas des adversaires.
MITRE est un organisme à but non lucratif qui met en œuvre des centres de recherche et de développement financés par le gouvernement fédéral américain. Il s'efforce généralement de répondre aux préoccupations du gouvernement américain et de l'industrie de la cybersécurité au sens large.
La collaboration avec Microsoft sur Arsenal n'est qu'un exemple des efforts déployés par MITRE pour développer une famille d'outils traitant de questions telles que la confiance, la transparence et l'équité, afin de mieux permettre l'utilisation de systèmes d'apprentissage automatique et d'IA pour des applications critiques dans des domaines allant des soins de santé à la sécurité nationale. Selon Microsoft, “l'IA et l'apprentissage automatique pourraient représenter les avancées technologiques les plus importantes de notre époque, offrant d'immenses possibilités de construire, de découvrir et de créer un monde meilleur”.
L'objectif est de permettre aux praticiens de la sécurité d'utiliser Arsenal, qui a été conjointement dérivé de Counterfeit de Microsoft (un outil open-source pour aider les développeurs à évaluer la sécurité de leurs systèmes d'apprentissage automatique) comme une bibliothèque d'attaques adverses automatisées pour simuler des attaques sur les systèmes d'apprentissage automatique, même s'ils n'ont pas d'expérience en apprentissage automatique ou en IA.
Arsenal aide les chercheurs en cybersécurité à stocker et à créer des tactiques, des techniques et des procédures adverses définies pour s'interfacer avec les systèmes d'apprentissage automatique. Plate-forme de cybersécurité Caldera de MITRE pour l'exécution d'évaluations des risques de sécurité par l'IA en tant que bibliothèque d'attaques adverses automatisées.
L'intégration d'Arsenal dans Caldera devrait aider les chercheurs à identifier de nouvelles vulnérabilités dans les éléments constitutifs des flux de travail de l'Intelligence artificielle et à produire des mesures de protection pour empêcher l'exploitation des systèmes d'intelligence artificielle.
Arsenal comprend un nombre limité de profils d'adversaires, basés sur des informations publiquement disponibles. Microsoft et MITRE prévoient d'ajouter de nouvelles techniques et de nouveaux profils d'adversaires au fur et à mesure que les chercheurs documentent de nouvelles attaques sur les systèmes de ML. Pour l'instant, Arsenal peut être utilisé sur des systèmes fonctionnant sous Ubuntu 18.04 ou 20.04 et nécessite les versions 3.7 ou plus de Python pour fonctionner. L'outil comprend actuellement un nombre limité de profils d'adversaires basés sur des informations publiquement disponibles.
Au fur et à mesure que les chercheurs en sécurité documentent de nouvelles attaques sur les systèmes de ML, Microsoft et MITRE prévoient de faire évoluer continuellement les outils afin d'ajouter de nouvelles techniques et de nouveaux profils d'adversaires. “Alors que le monde se tourne vers l'IA pour changer positivement la façon dont les organisations fonctionnent, il est essentiel que des mesures soient prises pour aider à garantir la sécurité de ces modèles d'IA et d'apprentissage automatique qui permettront à la main-d'œuvre d'en faire plus avec moins de contraintes de temps, de budget et de ressources”, a déclaré le responsable de programme de Microsoft. Ram Shankar a déclaré.
Outre sa collaboration avec Mitre, Microsoft a également travaillé avec la société de référentiels d'apprentissage automatique Un visage qui s'étreint sur la création d'un scanner de sécurité pour l'IA. “La raison pour laquelle nous investissons dans la recherche, les outils et les partenariats industriels comme ceux que nous annonçons aujourd'hui est que nous pouvons comprendre la nature de ces attaques, faire de notre mieux pour les devancer et aider les autres membres de la communauté de la sécurité à faire de même… Il y a encore beaucoup à apprendre sur l'IA, et nous investissons continuellement dans nos plateformes et dans des recherches de type “red-team” afin d'en apprendre davantage sur cette technologie et d'aider à déterminer comment elle sera intégrée dans notre plateforme et nos produits”, déclare Microsoft.
La collaboration avec Microsoft sur Arsenal est un exemple des efforts de MITRE pour développer une famille d'outils abordant des questions telles que la confiance, la transparence et l'équité afin de mieux permettre l'utilisation de systèmes de ML et d'IA pour des applications critiques dans des domaines allant des soins de santé à la sécurité nationale.
Microsoft : MITRE : Alerte MSSP : Redmond Mag : Security Week : Business Wire : Silicon : ITPro :
A lire également :
Les dernières technologies d'intelligence artificielle:
___________________________________________________________________________________________
Si tu aimes ce site web et que tu utilises l'annuaire complet des fournisseurs de services (plus de 6 500), tu peux obtenir un accès illimité, y compris la série exclusive de rapports approfondis sur les directeurs, en souscrivant à un abonnement Premium.
- Individuel : £5 par mois ou £50 par an. S'inscrire
- Comptes multi-utilisateurs, d'entreprise et de bibliothèque disponibles sur demande
Renseignements sur la cybersécurité : Capturé, organisé et accessible
