Les “deepfakes” sont une menace croissante

Les deepfakes sont de plus en plus utilisés dans les cyberattaques, la menace de cette technologie passant de préjudices hypothétiques à des préjudices réels. Les “deepfakes”, un nouveau type de menace qui s'inscrit dans le cadre plus large et plus omniprésent des médias synthétiques, utilisent une forme d'intelligence artificielle/apprentissage machine (IA/ML) pour créer des vidéos, des images, des sons et des textes crédibles et réalistes, qui sont des “deepfakes”. des événements qui n'ont jamais eu lieu“, selon le Département américain de la sécurité intérieure (DHS).

À l'heure actuelle, les artefacts deepfake sont des IA qui utilisent des quantités massives d'infos et de données pour reproduire quelque chose d'humain, comme avoir une conversation, comme ChatGPTou créer une image ou une illustration, comme Dall-E. L'IA peut être utilisée pour modifier des contenus audio ou audiovisuels existants ou en créer de nouveaux.

Les deepfakes sont utilisés pour créer un faux récit provenant apparemment de sources fiables. Les deux principales menaces sont contre la société civile (diffusion de désinformation pour manipuler l'opinion vers un effet désiré, comme un résultat électoral particulier) ; et contre les individus ou les entreprises pour obtenir un retour financier.

La menace est que, laissée sans réglementation, des populations entières pourraient voir leurs points de vue et leurs opinions influencés. par des campagnes de désinformation délivrées par deepfake et déformant la vérité des événements. Les gens ne seront plus en mesure de distinguer le vrai du faux.

Europol &amp ; Rapports Deepfake de l'Université UCL

“Aujourd'hui, les acteurs de la menace utilisent des campagnes de désinformation et des contenus deepfake pour désinformer le public sur des événements, pour influencer la politique et les élections, pour contribuer à la fraude et pour manipuler les actionnaires dans le contexte d'une entreprise”, indique… Europol. “De nombreuses organisations ont maintenant commencé à considérer les deepfakes comme un risque potentiel encore plus important que le vol d'identité (pour lequel les deepfakes peuvent également être utilisés), en particulier maintenant que la plupart des interactions se sont déplacées en ligne depuis la pandémie de COVID-19.

Cette inquiétude est relayée par un récent rapport de l'University College London (UCL) qui classe la technologie des deepfakes comme l'une des plus grandes menaces auxquelles la société est confrontée aujourd'hui.

Auteur principal Professeur Lewis Griffin (UCL Computer Science) a déclaré : “À mesure que les capacités des technologies basées sur l'IA se développent, leur potentiel d'exploitation criminelle s'accroît également. Pour se préparer correctement aux éventuelles menaces de l'IA, nous devons identifier ce que ces menaces pourraient être, et comment elles pourraient avoir un impact sur nos vies.”

As-tu déjà regardé une vidéo deepfake, où les visages et parfois les voix de célébrités sont mis dans des situations bizarres ou amusantes ? Cette technologie peut être un jeu amusant utilisé pour les mèmes et ou les farces, mais imagine que tu reçoives un appel téléphonique de quelqu'un qui ressemble exactement à un membre de ta famille et qui t'implore de l'aide. Comment peux-tu savoir s'il s'agit d'une vraie personne ?

Selon Dr Matthew Caldwell (UCL Computer Science) “Les gens mènent désormais une grande partie de leur vie en ligne et leur activité en ligne peut faire et défaire les réputations. Un tel environnement en ligne, où les données sont la propriété et le pouvoir de l'information, convient parfaitement à l'exploitation par des activités criminelles basées sur l'IA.”

Deux développements actuels ont amélioré et augmenté la qualité et la menace que représentent les deepfakes. Le premier est l'adaptation et l'utilisation des réseaux adversaires génératifs (GAN).

• Un GAN fonctionne avec deux modèles : un modèle génératif et un modèle discriminant. Le modèle discriminant teste à plusieurs reprises le modèle génératif par rapport à l'ensemble de données d'origine.

• La seconde menace provient de la bande passante 5G et de la puissance informatique du cloud, permettant de manipuler les flux vidéo en temps réel. “Les technologies Deepfake peuvent donc être appliquées dans les contextes de vidéoconférence, les services vidéo de streaming en direct et la télévision”, écrit Europol.

Europol a également produit un rapport intitulé “Law Enforcement &amp ; The Challenge of Deepfakes” qui indique que “…Les modèles s'améliorent continuellement jusqu'à ce que le contenu généré soit tout aussi susceptible de provenir du modèle génératif que des données d'entraînement.” Le résultat est une fausse image qui ne peut pas être détectée par l'œil humain mais qui est sous le contrôle d'un attaquant.

Certains experts affirment que la technologie deepfake a progressé à un point tel qu'elle peut être utilisée en temps réel, ce qui permet d'utiliser le visage, la voix et même les mouvements de quelqu'un lors d'un appel ou d'une réunion virtuelle. Cette technologie est déjà largement disponible et relativement facile à utiliser,et ne fera que s'améliorer.

Europol : UCL : DHS : I-HLS : Security Week : CNet : SentinelOne : Nouvelles de l'intelligence artificielle :

Tu pourrais aussi lire :

Les Deepfakes aggravent la compromission des courriels d'entreprise:

___________________________________________________________________________________________

Si tu aimes ce site Web et que tu utilises l'annuaire complet des fournisseurs de services (plus de 6 500), tu peux obtenir un accès illimité, y compris la série exclusive de rapports approfondis sur les directeurs, en souscrivant à un abonnement Premium.

• Individuel 5€ par mois ou 50€ par an. S'inscrire

• Multi-utilisateurs, entreprises &amp ; comptes de bibliothèque disponibles sur demande

Renseignements sur la cybersécurité : Capturé Organisé & ; Accessible