Le Federal Bureau of Investigation (FBI) des États-Unis met en garde contre une augmentation des campagnes d’extorsion dans lesquelles des personnes malveillantes utilisent des outils d’intelligence artificielle (IA) facilement accessibles pour créer des deepfakes sexuellement explicites à partir de photos innocentes de personnes, puis les harcèlent ou les font chanter.
Selon son récent message d’intérêt public, le Bureau a reçu un nombre croissant de rapports de victimes « dont les photos ou les vidéos ont été modifiées en contenu explicite » Les vidéos, mettant en scène des adultes et des mineurs, sont diffusées sur les médias sociaux ou les sites pornographiques.
Il est inquiétant de constater que les nouvelles technologies permettent à presque n’importe qui de créer des contenus explicites falsifiés qui semblent mettre en scène des adultes non consentants, voire des enfants. Cela conduit ensuite au harcèlement, au chantage et à la sextorsion en particulier.
Parfois, la victime trouve le contenu elle-même, parfois elle en est informée par quelqu’un d’autre, et parfois elle est contactée directement par l’acteur malveillant. Il se passe alors deux choses :
- L’acteur malveillant exige un paiement, faute de quoi il partagera le contenu avec ses amis et sa famille
- Il demande des images ou des vidéos authentiques à caractère sexuel
Dans ce dernier cas, il peut s’agir de sextorsion, une forme de chantage où l’auteur de la menace incite ou contraint la victime à partager des images sexuellement explicites d’elle-même, puis menace de les divulguer si la victime ne le paie pas ou n’envoie pas d’autres images/vidéos. Il s’agit d’une autre tendance en plein essor à propos de laquelle le FBI a été contraint de lancer des avertissements publics au cours de l’année écoulée.
En général, dans les cas de sextorsion, la victime se lie d’amitié en ligne avec un individu qui prétend être quelqu’un d’autre. Il la fait marcher jusqu’à ce qu’elle reçoive les images/vidéos explicites. Dans le cas de l’extorsion par deepfake, les fausses images sont le moyen par lequel les victimes sont rançonnées – il n’est pas nécessaire de se lier d’amitié avec quelqu’un d’autre.
