Attention aux « deepfakes » de médecins célèbres, au service d’arnaques commerciales

Des médecins connus et respectés vantent des remèdes « miracles » contre le diabète ou l’hypertension artérielle ? De fausses publicités utilisant l’image de figures d’autorité du domaine de la santé, manipulées par l’intelligence artificielle, inondent les réseaux sociaux, une vague très difficile à contenir selon les experts.

Sur Facebook et Instagram, ils promettent de guérir le diabète sans metformine, médicament prescrit en première intention, incitant même les patients à abandonner leur traitement qui « les tuera », au profit d’obscurs sirops dits « naturels ».

Ces escroqueries confinent à la mise en danger de la vie d’autrui et sont d’autant plus pernicieuses qu’elles s’appuient sur l’image de médecins stars, comme le Dr Michel Cymes en France ou le Dr Michael Mosley au Royaume-Uni, victimes de ces « deepfakes », des contenus en ligne générés ou modifiés grâce à l’intelligence artificielle.

“Les gens font confiance à ces vidéos parce que ces médecins ont passé du temps à se construire une image de crédibilité, donc on les croit, même quand ils font des allégations complètement farfelues”, déplore auprès de l’AFP le Dr John Cormack, un généraliste britannique qui collabore avec le British Medical Journal (BMJ) sur ce sujet.

Ces « deepfakes » ont « vraiment pris leur envol cette année », observe Henry Adjer, spécialiste de l’intelligence artificielle, notant que les publicités visent surtout un public « un peu plus âgé », en détournant l’image des « médecins de télévision ».

Contacté par l’AFP en mai, Michel Cymes avait indiqué avoir déjà assigné Meta en justice pour dénoncer ces “arnaques”.

La Britannique Hilary Jones, qui apparaît dans des vidéos générées par l’IA vendant un faux remède contre l’hypertension artérielle ainsi que des bonbons au chanvre, a engagé un expert pour traquer les publicités.

« Mais même lorsqu’ils sont supprimés, ils réapparaissent le lendemain sous un autre nom », déplore-t-il dans le BMJ.

– « Cercles de conspiration » –

Ces escroqueries « ont pris de l’ampleur grâce aux progrès du ‘deep learning’ (technologie permettant à une machine d’apprendre par elle-même), explique Frédéric Jurie, enseignant-chercheur en informatique à l’université de Caen.

La qualité des images, audios et vidéos « deepfake » a fait d’énormes progrès, note le spécialiste : « aujourd’hui nous avons accès à des dizaines de milliards d’images et nous sommes capables de construire des algorithmes qui peuvent modéliser tout ce qui peut apparaître dans les images et régénérer les images. C’est ce que nous appelons l’IA générative. »

Plus récemment, des personnalités controversées, comme le professeur Didier Raoult en France, ont été victimes de « deepfake ».

Barbara O’Neill, une naturopathe australienne considérée comme “dangereuse pour la santé” par les autorités de son pays après avoir fait la promotion du bicarbonate de soude contre le cancer, est devenue une star de TikTok grâce à des photos “deepfake” d’elle vendant des pilules pour “nettoyer les vaisseaux sanguins” notamment.

Joint par l’AFP, son mari, qui codirige la société O’Neill, déplore que « de nombreuses personnes utilisent la réputation de Barbara pour vendre des produits qu’elle ne recommande pas ».

Ce phénomène n’étonne pas Henry Adjer pour qui « ces personnes sont des modèles pour certains cercles complotistes ».

Parmi les fausses vidéos utilisant Barbara O’Neill, certaines tombent également dans les théories du complot, assurant que la naturopathe serait morte – ce qui est faux – après avoir découvert une huile miraculeuse, vendue sur Amazon.

Face à ces « deepfakes », les experts ne sont pas très optimistes quant au succès des outils de détection : « C’est un jeu du chat et de la souris, explique Frédéric Jurie. En principe, la détection ne peut pas trop s’améliorer, car si quelqu’un trouvait quelque chose pour améliorer la détection, alors la personne qui veut faire de fausses images utiliserait ce moyen pour le contourner. »

Le chercheur met plutôt en avant « des techniques qui permettent de garantir que le contenu n’a pas été altéré, comme pour la messagerie, grâce à des logiciels qui produisent des signatures numériques, comme un certificat ».

bur-jp/spe/arc