Europol[1], l’Institut interrégional de recherche des Nations unies sur la criminalité et la justice (UNICRI)[2] et Trend Micro[3] ont récemment élaboré un nouveau rapport portant sur les menaces actuelles et futures de l’intelligence artificielle et leur utilisation criminelle.
Ce rapport vise à fournir aux décideurs politiques des informations sur les cyberattaques exploitant les IA. Son objectif est d’anticiper d’éventuelles utilisations abusives des systèmes d’IA et de prévoir des recommandations sur la manière d’atténuer les risques.
Le rapport cite notamment des exemples pour lesquels l’IA pourrait être utilisée :
- Des logiciels malveillants de détournement de documents ;
- Le détournement de la reconnaissance d’images et de la biométrie vocale ;
- Les attaques de ransomwares ;
- La pollution des données en identifiant les failles dans les règles de détection.
Le rapport alerte également sur le fait que des systèmes d’IA sont en cours de développement afin améliorer l’efficacité des logiciels malveillants et de perturber les systèmes anti-malware.
Le rapport prévoit également un certain nombre de recommandation, dont notamment :
- Exploiter le potentiel de l’IA en tant qu’outil de lutte contre la criminalité et de développement de la cybersécurité ;
- Poursuivre la recherche pour stimuler le développement de technologies défensives ;
- Promouvoir le développement de structures de conception d’IA sécurisées ;
- Favoriser les partenariats public-privé et créer des groupes d’experts multidisciplinaires.
Le rapport conclut que les cybercriminels utiliseront l’IA à la fois comme vecteur d’attaque[4] et comme surface d’attaque[5]. A l’heure actuelle, l’utilisation la plus connue de l’IA comme vecteur d’attaque est le deep fake.
En outre, ce que le rapport mets en avant est l’accroissement de menaces de plus en plus sophistiquées et s’appuyant sur l’IA.
Les hackers peuvent également utiliser des logiciels malveillants et imiter le comportement normal d’un réseau afin de se propager à un plus grand nombre de machines, tout en évitant d’être détecté. Les logiciels malveillants utilisant l’IA peuvent alors infester rapidement les systèmes d’information et peuvent adapter leur comportement en fonction de leur environnement.
Si les logiciels malveillants peuvent utiliser l’IA pour déterminer de manière autonome comment imiter un comportement, ils deviennent beaucoup plus difficiles à détecter.
La menace existe également pour les dispositifs médicaux ayant recours à des objets connectés. Ceux-ci sont souvent la cible de cyberattaques du fait de leurs systèmes d’exploitation obsolètes. Dès lors, une multitude de données sensibles peuvent être piratés et exposés sur le Dark Web.
Ainsi, en matière de cybercriminalité, les techniques d’IA comme le deep fake deviennent de plus en plus dangereuses. Parallèlement, les techniques d’IA telles que le machine learning permettent aux acteurs de la cybersécurité d’être plus réactifs et d’adapter leur défense en fonction de la forme d’attaque.
Le rapport d’Europol, de l’UNICRI et de Trend Micro avait pour ambition d’appréhender la question de l’utilisation de l’IA par les cybercriminels. Le rapport démontre que le monde de la cybersécurité n’est pas suffisamment conscient des risques que représente l’IA entre les mains de cyber hackers.
Les entreprises ayant recours à l’IA et aux objets connectés doivent être en mesure de trouver les solutions adéquates pour éviter tout piratage. Un tel scénario pouvant avoir des conséquences désastreuses en interne, pour l’entreprise, mais également pour le reste de la société.
Article réalisé en collaboration avec Noor ZAIM
[1] Europol est une agence européenne de police criminelle qui facilite l’échange de renseignements entre polices nationales en matière de stupéfiants, de terrorisme, de criminalité internationale et de pédophilie au sein de l’Union européenne. En 2013, elle a créé le Centre européen de la cybercriminalité pour renforcer la réponse des services répressifs à la cybercriminalité dans l’UE.
[2] L’UNICRI est une organisation dépendant des Nations unies a été créée en 1968 par le Conseil économique et social des Nations unies. L’Institut contribue à la mise en œuvre de politiques dans le domaine de la prévention du crime, de la justice et des menaces émergentes pour la sécurité.
[3] Trend Micro est une société spécialisée dans le développement de logiciels de sécurité. Elle représente un leader mondial de la cybersécurité.
[4] Un vecteur correspond au moyen utilisé par un code malveillant pour se propager d’ordinateur à ordinateur afin de les infecter. Il permet aux pirates d’exploiter les failles des systèmes, notamment humaines.
[5] La surface d’attaque correspond à la somme des différents vecteurs d’attaque par lesquels un pirate peut s’introduire dans un environnement logiciel et en soutirer des données
