Les fraudes qui utilisent l'intelligence artificielle que vous devez connaître
L’intelligence artificielle transforme plusieurs sphères de nos sociétés et son utilisation soulève autant d’opportunités que de préoccupations. L’un des usages les plus préoccupants concerne malheureusement la fraude. Des pirates informatiques ne se gênent pas pour utiliser les outils d'IA afin d'arnaquer les gens. On vous explique les tactiques populaires, comment les reconnaître et comment mieux s'en protéger.
ChatGPT, Gemini, Claude, LLaMa, Midjourney, Dall-E, voilà autant d'outils qu'on peut utiliser pour générer du contenu ou des images avec l'IA.
En collaboration avec Desjardins, on vous a concocté un super dossier sur le sujet. Le tout est divisé en trois sections que vous pouvez facilement consulter à l'aide de ces liens.
- Comment l'IA est-elle utilisée pour confectionner des fraudes?
- Quelles sont les fraudes les plus courantes liées à l'IA?
- Comment se protéger des fraudes créées avec l'IA?
Comment est utilisée l'IA par les fraudeurs?
Avant d'aborder quelles sont les fraudes les plus courantes liées à l'IA, voyons d'abord comment l'IA est mise au service des fraudeurs pour les aider à perfectionner leurs stratagèmes.
Personnalisation des fraudes
Dans un premier temps, l'IA peut être utilisée pour collecter des informations à notre sujet, notamment en effectuant du balayage (scannage) de nos profils publics. On parle ici des réseaux sociaux ou de toutes empreintes numériques qu'on a laissées sur des sites.
Il est alors facile pour quelqu'un de connaître, par exemple nos habitudes de vie, les voyages qu'on a faits, si on a des enfants, nos relations personnelles et professionnelles, notre personnalité, etc.
«L'information que l'on partage sur les réseaux sociaux est une mine d'or pour les fraudeurs qui servent à mettre en place des stratagèmes de fraude personnalisés. Il est important de se questionner avant de publier des informations sur les réseaux sociaux» selon Karl Lapointe Legault conseiller spécialisé en Sécurité chez Desjardins.
Création de supercheries
Ensuite, l'IA peut être utilisée pour créer des supercheries. On fait allusion à tout ce qui est « hypertrucage » (« deepfake ») et à la création de contenus frauduleux.
C'est-à-dire la création d'articles bidons, le clonage de la voix, les photos truquées ou bien les vidéos hypertruquées utilisant des personnalités connues.
Ces contenus ultraréalistes rendent difficile de distinguer le vrai du faux et sont utilisés dans des tactiques qui visent un large bassin d'individus. À nouveau, l'objectif est de créer un sentiment de confiance envers le contenu en question pour mieux nous berner. On va vous présenter les différents cas de figure dans la section ci-dessous pour vous aider à mieux les repérer.
Quelles sont les fraudes les plus courantes liées à l'IA?
OK, mais concrètement, à quoi ça peut ressembler les fraudes générées par l'IA?
Voici stratagèmes et cas de fraudes conçus avec l'IA qui sont parmi les plus répandus.
En connaissant le modus operandi, on a alors moins de chance de se faire piéger si on est confronté à l'un d'entre eux.
Courriels et textos d'hameçonnage (phishing / smishing)
Pourquoi faire soi-même ce qu'on peut sous-traiter à l'IA?
Voilà sûrement le mode de pensée des pirates lorsqu'ils délèguent la tâche à l'IA pour créer des courriels ou des textos d'hameçonnage.
On l'a mentionné plus haut, c'est facile pour une IA de collecter des informations précises à notre sujet. Informations qui peuvent ensuite être utilisées pour générer des messages très ciblés et convaincants.
Les pirates peuvent ensuite faire des envois automatiques à n'importe quel moment de la journée en utilisant une simple liste de courriels ou de numéros de téléphone.
Mais l'esprit demeure toujours le même, que le message d'hameçonnage soit rédigé par l’IA ou par un humain : le message va vouloir susciter un sentiment d'urgence nous incitant à poser une action rapidement en cliquant sur un lien ou une pièce jointe. Il peut cacher un logiciel malveillant ou chercher à nous soutirer de l'argent via un site frauduleux.
Rédaction de faux articles
C'est la fonction pour laquelle on connaît et utilise peut-être le plus l'IA dans nos vies personnelles.
On l'utilise pour rédiger un texte, un courriel ou bien pour rédiger un résumé d'un long document.
Cette capacité d'analyse, de synthétisation et de rédaction de l'IA peut être facilement utilisée par des acteurs malveillants.
Ces derniers peuvent demander à l'IA de rédiger un article sensationnaliste ou rocambolesque dans le but d'attirer du trafic sur un site web.
Ces sites peuvent ensuite cacher des liens malveillants avec pour but de nous infecter ou nous voler notre argent.
Manipulations d'images
La capacité de l'intelligence artificielle à générer des images réalistes s'améliore constamment.
Celle-ci peut notamment être utilisée pour générer de fausses bannières publicitaires ou carrément pour truquer des photos.
Les pirates peuvent alors chercher à générer de la désinformation ou nous inciter à aller sur un site malveillant. Ils peuvent aussi utiliser des images générées par IA pour créer de faux profils sur les médias sociaux ou des sites de rencontres, pour mieux tromper leurs victimes potentielles.
Imaginez. Des images truquées de nous-même peuvent servir à soutirer de l'argent à nos proches, par exemple en prétextant un problème nécessitant une aide financière urgente.
Fraude vocale (Voice Cloning)
La fraude vocale, c'est un type de fraude qui implique des appels téléphoniques où le fraudeur se fait passer pour une personne de confiance pour soutirer de l'argent ou des renseignements personnels à sa victime. La fraude de type « grands-parents », par exemple, fait partie de cette catégorie.
Là où ça se corse, c'est que l'intelligence artificielle se met de la partie. Et comme l'IA abandonne de plus en plus son ton robotique au profit d'un ton humain, ça peut la rendre plus difficile à détecter. Non seulement l'intelligence artificielle adopte un ton humain, elle peut aussi cloner la voix d'un proche.
En ayant amassé des informations personnelles à notre sujet, le fraudeur pourrait alors appeler un de nos proches en utilisant notre voix et en racontant une histoire crédible, pour tenter de lui soutirer de l'argent.
Hypertrucage (deepfake)
Le "deepfake" c’est le principe de prendre des images réelles et d'utiliser l'IA pour remplacer le visage et/ou la voix de la personne dans la vidéo.
Les algorithmes de l'intelligence artificielle peuvent analyser des milliers d'images et de vidéos d'une personne, capturer chaque détail de son apparence, de ses expressions faciales et de sa voix. Ils peuvent ensuite générer une vidéo complètement bluffante.
Nous-mêmes à francoischarron.com avons testé un outil nous permettant de traduire nos vidéos dans d'autres langues. C'était stupéfiant de voir la facilité à faire parler François en anglais, en espagnol ou en allemand.
On voit de plus en plus de célébrités être victimes de ces fausses vidéos qui utilisent leur identité : on peut par exemple penser à cette chanteuse populaire faisant la prétendue promotion de pilules pour maigrir.
Tout comme la manipulation d'image mentionnée plus haut, des vidéos truquées qui nous mettent en scène peuvent être utilisées pour frauder certains de nos proches.
Comment se protéger des fraudes créées avec l'IA?
Pour se protéger, on va devoir aiguiser nos réflexes afin de reconnaître les fraudes créées avec l'IA.
Certes, c'est un défi tant ce monde évolue vite, mais ce n'est pas pour autant une raison pour baisser les bras et s'avouer vaincu. Il y a des moyens de se protéger et reconnaître le vrai du faux.
Décupler sa vigilance
Ultimement, tout va toujours démarrer par notre vigilance et ce que j'aime appeler notre "bullshitomètre".
«Face à l'évolution des technologies utilisées par le fraudeur, il est important de faire preuve de vigilance en tout temps avant de prendre action et de faire des vérifications. Laissons nous le droit de nous poser des questions avant d'agir», selon Karl Lapointe Legault conseiller spécialisé en Sécurité chez Desjardins.
Quand on reçoit un courriel suspect, on a tout intérêt à se souvenir des trucs pour détecter les courriels d'hameçonnage et à vérifier l’adresse courriel de l'expéditeur.adresse courriel de l'expéditeur.
Si on voit sur Facebook ou Instagram un soi-disant article reprenant le look d'un journal populaire, on doit se rappeler que les médias canadiens n'ont malheureusement plus le droit de publier sur ces plateformes. Dès lors, l'article a de bonnes chances d'avoir bénéficié de l'IA pour la création du texte et des images.
Pour ce qui est des vidéos « deepfake », il y a souvent des défaillances (« glitchs ») dans l'image ou alors les lèvres ne suivent pas tout à fait la voix. C'est important de bien regarder les expressions faciales pour déceler l'arnaque.
C'est sensiblement les mêmes trucs pour détecter des images générées par l'IA. C'est en entraînant notre œil qu'on pourra mieux déceler les fausses images et fausses vidéos.
Finalement, il y a le propos. Est-ce vraisemblable? Il faut vérifier l'information via des sources crédibles.
Faire ses vérifications
On le mentionnait, il est possible d'utiliser l'IA pour synthétiser la voix et créer de fausses vidéos de nous ou de nos proches.
Dans un cas où un de nos soi-disant proches nous contacte, oui, on doit user de notre vigilance si ses propos semblent étranges, mais il faut aussi user de ruse.
D'abord, on va regarder si c'est bel et bien son numéro de téléphone (en se rappelant qu’un afficheur peut-être facilement truqué), sa vraie adresse courriel, son vrai compte Messenger, etc.
«Si la personne au bout du fil se fait passer pour un de vos proches, un truc que vous pouvez mettre en place facilement est de se doter d'un code de sécurité (code secret) qui serait partagé seulement avec eux. Vous recevez un appel inattendu d'un de vos proches qui demande qui a un besoin d'argent urgent, demandez le code en question,» selon Karl Lapointe Legault conseiller spécialisé en Sécurité chez Desjardins.
On peut également passer par un autre canal de communication pour vérifier avec cette personne si c'est bel et bien elle qui vient de nous contacter. Utilisez toujours les coordonnées que vous avez à vos dossiers, et non celles que la personne qui vous parle vous donnerait.
Limiter et faire effacer nos données en ligne
Pour créer ces fraudes, les outils d’intelligence artificielle ont besoin de données. Mieux : de données personnelles.
À mesure qu'on partage des moments de notre vie sur les réseaux sociaux ou qu'on ouvre des comptes sur des sites ou applications à gauche et à droite, on éparpille nos fameuses données.
Certaines organisations vont collecter ces données dans le but de les revendre à des compagnies ou des annonceurs. On les appelle les courtiers de données.
Dans certains cas, il existe des solutions (comme des logiciels spécialisés) pour exiger des courtiers de données qu'ils suppriment les renseignements personnels qu'ils détiennent à notre sujet. Ça peut valoir la peine de s'y pencher!.
Cependant, on a aussi un petit travail de ménage à faire, notamment en supprimant d'anciennes publications ou des comptes inutilisés. Nous vous invitons à consulter les paramètres de confidentialité de vos comptes de réseaux. La plupart d'entres eux permettent de limiter l'information visibles aux personnes qui ne font pas parties de vos contacts.
On peut même aller un peu plus loin en désactivant la géolocalisation et en masquant la liste d'amis sur les plateformes qui le permettent, pour limiter la quantité d'information accessible publiquement.
Prendre l’habitude de se questionner sur la pertinence de publier ce qu'on avait l'intention de partager sur une plateforme est aussi un réflexe à adopter.
Enfin, il faut se méfier de tout ce qui est des jeux-questionnaires de personnalité en ligne ou les tendances, comme le « starter pack », où l'on donne volontairement des informations personnelles à des IA.
On doit garder en tête que ce qu'on partage comme information, c'est stocké quelque part et que ça peut malheureusement se revirer contre nous.
Utiliser l'IA pour lutter contre l'IA
Ça peut sembler ironique, mais l'IA va aussi pouvoir jouer un grand rôle pour identifier et empêcher les fraudes.
Effectivement, il existe des outils qui sont spécialement conçus pour reconnaître ce qui a été généré par l'IA. On est en mesure de détecter les textes écrits par ChatGPT.
En somme, on peut rendre la vie plus difficile aux fraudeurs si on applique ce cocktail de trucs pour déceler leurs stratagèmes.
Quoi faire si vous êtes victime de fraude?
Comme on l’a vu, même en étant vigilant, les pièges sont nombreux et on peut malheureusement être victime d’une fraude. Quoi faire dans cette situation?
On vous donne des ressources dans une chronique sur le sujet rempli des trucs, outils et liens pour passer à l’action afin de :
- Se calmer et respirer un bon coup
- Prévenir ses institutions financières
- Changer ses mots de passe
- Activer l'authentification à deux facteurs (2FA)
- Faire un scan avec son antivirus
- Prévenir la police (si nécessaire!)
- Signaler auCentre antifraude du Canada
- Vérifier son assurance pour vol d'identité
- Aviser Équifax ou TransUnion
Vous trouverez également une foule de bons conseils sur la prévention de la fraude sur le site web de Desjardins.
Visiter la page Sécurité de Desjardins
