Sur Google, les photos de champignons générées par l’IA présentent de réels dangers

Les amateurs de champignons prendront probablement le risque de chercher sur Google si leur choix quotidien peut être mangé ou non. “Google propose des images de champignons générées par l’intelligence artificielle (IA) lorsque les utilisateurs recherchent certaines espèces”expliquer 404 Médias.

Le modérateur de la communauté Reddit r/mycology, dédiée à « j’adore les champignons », « j’ai découvert qu’en tapant Coprinus comatus, le nom scientifique du cochon poilu, dans la barre de recherche, la première photo affichée par Google en haut de la page, avant les résultats, était une image générée par l’IA, très différente de la vraie Coprinus comatus», poursuit le média spécialisé américain.

Le problème est que Google met en ligne cette image de champignon générée par l’IA sans préciser qu’elle l’est, alors que la banque d’images Freepik dont elle provient, “l’indique clairement comme tel”.

Elan Trybuch de la New York Mycological Society déclare :

« Le problème, c’est que ces photos semblent assez proches de la réalité. Non seulement cela peut avoir des conséquences désastreuses, mais, plus important encore, cela ne fera qu’ajouter à la confusion : qu’est-ce qui est réel ?

Google ne parvient pas à trier

Lorsqu’on lui a demandé, Google a déclaré qu’il s’efforçait de «mettre en place des mesures de protection» et« apporter des améliorations systématiques » lorsque les utilisateurs signalent un problème. L’image en question est pourtant revenue en tête des requêtes ce jeudi 26 septembre, deux jours après la publication de l’article dans 404 Médias.

“Le fait que Google présente une image d’un champignon générée par l’IA comme s’il s’agissait de celle d’une espèce réelle met en évidence deux problèmes liés au contenu généré par l’IA.” juge le site spécialisé. Le géant du numérique présente « des informations potentiellement fausses et dangereuses en tant que faits » et est situé dans “l’incapacité de trier tout le contenu généré par l’IA qui inonde Internet”. Le moteur de recherche numéro un est donc incapable de « dire aux utilisateurs ce qui est réel et ce qui ne l’est pas ».