Les équipes du McAfee Labs ont développé des modèles d’IA capables de détecter les deepfakes audios et les cheapfakes avec plus de 90% de taux de réussite.
McAfee s’attaque à la détection des deepfakes audio. En prélude du CES de Las Vegas qui débute cette semaine, l’éditeur américain de solutions de cybersécurité a dévoilé les contours de son Projet Mockingbird. L’objectif, mettre un frein d’arrêt aux deepfakes audio et aux cheapkakes (remplacement automatiques de l’audio sur une vidéo existante) qui pullulent de plus en plus grâce aux IA génératives.
Les équipes du McAfee Labs, la branche de McAfee spécialisée dans l’innovation et l’étude des menaces ont ainsi développé des modèles d’IA de plusieurs natures. Le Projet Mockingbird s’appuie ainsi sur des modèles de détection contextuels, comportementaux et catégoriels alimentés par l’IA pour déterminer si le son d’une vidéo est bien celui d’origine. Aujourd’hui, la solution qui n’est encore qu’à l’état de projet affiche un taux de détection de plus de 90%. Reste à savoir comment la solution sera proposée, et quand.
Le Projet Mockingbird doit apporter une réponse aux inquiétudes de plus en plus fortes des consommateurs quant aux “fake” sur internet. Fin 2023, ces arnaques avaient pris de plus en plus d’ampleur avec des acteurs malveillants utilisant l’IA pour imiter et contrefaire plusieurs célébrités dont Tom Hanks et MrBeast. Le but de ces arnaques peuvent être de promouvoir des produits en utilisant l’image des personnes usurpées ou directement de soutirer de l’argent aux utilisateurs. Dans la même veine que le Projet Mockingbird de McAfee, BitDefender avait lancé en décembre dernier Scamio, une solution IA dédiée à l’identification des textes frauduleux (mail, messages, sites, etc.) sur internet.