Les 7 principaux risques et menaces de sécurité de l’IA
L’IA a le potentiel de révolutionner de nombreux secteurs, y compris la cybersécurité. Cependant, la puissance de l’IA s’accompagne également de risques de sécurité importants.
#1. Violations de données
Les modèles d’IA sont entraînés sur de grands volumes de données. Ces données comprennent des instances étiquetées des types d’événements que l’IA est conçue pour détecter. Par exemple, l’IA entraînée à identifier les menaces dans le trafic réseau a besoin de données d’entraînement contenant des exemples de trafic normal et malveillant. Ces collections de données d’entraînement peuvent contenir des informations sensibles sur les clients d’une organisation et l’entreprise. Le stockage et l’utilisation de ces données pour former l’IA courent le risque d’être violées par un attaquant.
#2. Attaques contradictoires
Les systèmes d’IA sont formés pour développer des modèles utiles pour atteindre des objectifs particuliers. Par exemple, un système d’IA peut apprendre à faire la différence entre les fichiers inoffensifs et les logiciels malveillants potentiels dans le trafic réseau.
Les cyberattaquants peuvent tenter d’entraîner leurs propres systèmes d’IA à apprendre les modèles des systèmes défensifs. Cela peut permettre aux attaquants d’identifier des moyens de faire passer les attaques au-delà du système d’IA en découvrant des lacunes dans son modèle.
#3. Manipulation et empoisonnement des données
Les attaques de manipulation de données et d’empoisonnement ciblent les données étiquetées utilisées pour former les modèles d’IA. Les attaquants introduiront des instances supplémentaires mal étiquetées dans cette collection de données. L’objectif de ces attaques est d’entraîner le modèle de l’IA de manière incorrecte. Si le jeu de données d’entraînement a un trafic d’attaque étiqueté comme bénin, le modèle d’IA ne reconnaîtra pas ces attaques. Cela offre à l’attaquant la possibilité de passer outre le système d’IA une fois qu’il a été déployé.
#4. Préjugés et discrimination
La qualité d’un modèle d’IA dépend de ses données d’entraînement. Les modèles d’IA sont entraînés en leur présentant de nombreuses entrées étiquetées et en leur permettant de construire des modèles qui produisent les résultats souhaités. Le problème avec cette approche est que des données d’entraînement biaisées produisent des modèles d’IA biaisés. L’exemple le plus courant est le fait que les systèmes de reconnaissance faciale sont principalement entraînés sur des images de personnes de certains groupes démographiques. Souvent, ces systèmes ont un taux d’erreur beaucoup plus élevé pour les personnes en dehors des groupes démographiques représentés par leur ensemble de données d’entraînement.
#5. Manque de transparence
L’IA est bien adaptée pour identifier les modèles, les tendances et les relations dans les données. Après avoir entraîné l’IA, son modèle reflétera ces tendances et sera capable de prendre des décisions et des identifications en fonction de ces modèles. Cependant, les modèles utilisés par les systèmes d’IA ne sont ni transparents ni interprétables. Il est donc impossible de déterminer si le modèle de l’IA contient des biais ou des erreurs, tels que ceux introduits par un ensemble de données d’entraînement corrompu.
#6. Génération de logiciels malveillants automatisés
ChatGPT et des outils similaires ont déjà démontré un certain niveau de compétence en programmation. Bien que le code écrit par GenAI puisse comporter des erreurs, il peut accélérer le processus de développement de code et développer des applications sophistiquées. Les outils GenAI ont des protections contre l’écriture de logiciels malveillants; cependant, ces garde-corps ont souvent des échappatoires qui permettent de les contourner. GenAI peut permettre à des acteurs malveillants moins sophistiqués de développer des logiciels malveillants avancés, et ses capacités ne feront que croître à l’avenir.
#7. Modéliser les attaques de la chaîne d’approvisionnement
L’entraînement d’un modèle d’IA est un défi complexe. Une organisation doit collecter un grand corpus de données étiquetées et l’utiliser pour former un modèle d’IA. Cela nécessite l’accès à la fois aux données et à l’expertise en apprentissage machine et en science des données. Par conséquent, de nombreuses organisations utiliseront des modèles d’IA développés et entraînés par des tiers. Cependant, cela introduit le risque que les attaquants ciblent les organisations qui développent le modèle, injectent des données d’entraînement malveillantes ou prennent d’autres mesures pour corrompre le modèle.
Comment se protéger des risques liés à l’IA
La plupart des risques de sécurité de l’IA se résument à la sécurité et à la qualité des données. Si une organisation peut protéger les données d’entraînement de ses modèles d’IA contre l’exposition et peut s’assurer que les données d’entraînement sont complètes et correctes, alors les modèles entraînés sur ces données doivent être exacts.
Cependant, de nombreuses organisations manquent de ressources, d’expertise ou de désir pour former leurs propres modèles d’IA. Dans ces cas, l’approvisionnement en solutions d’IA auprès d’un fournisseur réputé doté d’une solide posture de sécurité est le meilleur moyen de garantir la qualité, l’exactitude et la sécurité de ces solutions.
Commentaires