Cybersécurité : L’Anssi émet plusieurs recommandations pour sécuriser les systèmes d’IA
« Favoriser l’usage des systèmes d’IA de confiance » : c’est l’objectif que s’est fixé l’Agence nationale de la sécurité des systèmes d’information (Anssi) face aux menaces cyber croissantes qui pèsent sur les systèmes d’IA. Dans le cadre du Sommet pour l’Action sur l’IA, qui a lieu cette semaine à Paris, l’agence a publié un rapport présentant les principaux scénarios de compromission de ces systèmes et les conseils pour atténuer les risques. Le document a été cosigné par les agences nationales de cybersécurité de 16 pays, dont celles du Royaume-Uni, du Canada, de l’Allemagne et de la Corée du Sud.
L’Anssi explique que les systèmes d’IA sont exposés à trois types d’attaques. Les attaques par « empoisonnement » consistent à altérer les données du modèle ou d’entraînement pour modifier la réponse du système, tandis que les attaques par « extraction » visent à reconstruire ou récupérer des données sensibles internes au modèle après la phase d’apprentissage. Viennent enfin les tentatives d’évasion, qui permettent à un attaquant de modifier le comportement du système en transformant les données d’entrée.
Disponible sur: usine-digitale.fr