AAlors que les géants de l’intelligence artificielle (IA) promettent des assistants virtuels toujours plus sophistiqués, l’un des risques posés par l’expansion de cette technologie est peu souligné : l’IA ouvre aussi les portes de la surveillance. Si le numérique permet déjà d’analyser et de détecter les comportements humains à des fins policières, professionnelles ou commerciales, les progrès récents dans le traitement des textes, du son et des images pourraient étendre ces capacités.
L’application la plus évidente est la vidéosurveillance « intelligente », qui propose d’utiliser l’IA pour analyser le contenu des images des caméras, notamment pour identifier les personnes grâce à la reconnaissance faciale – une technique assez répandue en Chine. Le récent règlement AI Act interdisait, dans l’Union européenne, de tels « identification biométrique à distance en temps réel dans les espaces accessibles au public ». Tout en autorisant son utilisation par les forces de l’ordre, sous certaines conditions, à des fins « la prévention des menaces réelles, actuelles ou prévisibles, telles que les attentats terroristes et la recherche des personnes soupçonnées des crimes les plus graves ». Utiliser a posteriori est possible, sous conditions.
L’ONG Amnesty International a regretté « opportunité manquée » d’une interdiction totale. L’association La Quadrature du Net déplore les premiers tests en France de vidéosurveillance algorithmique, autorisés par la loi sur les JO adoptée en mars 2023 : sans reconnaissance faciale, ceux-ci visaient à détecter des mouvements jugés problématiques, dans les transports en commun, lors d’un concert ou un match de football. L’association craint une percée « à petits pas ». Pour ses partisans, l’IA lève un obstacle majeur à la vidéosurveillance : la difficulté de faire analyser de très grandes quantités d’images par des humains. Pour ses détracteurs, elle est liberticide mais aussi source d’erreurs et de biais.
Les possibilités ne s’arrêtent pas à ces domaines très controversés. En apparence anodine, l’une des fonctionnalités présentées le 14 mai par Google a fait réagir les défenseurs de la vie privée : elle propose d’envoyer une alerte à l’utilisateur d’un téléphone Android s’il reçoit un appel sensible, selon l’IA, comme étant une arnaque. « C’est incroyablement dangereux », a tweeté Meredith Whittaker, directrice générale de la messagerie cryptée Signal. Selon elle, l’analyse des conversations téléphoniques pourrait, à terme, être utilisée par les États pour détecter tous types de comportements jugés illégaux. Pour rassurer, Google a rappelé que les conversations étaient analysées sur le téléphone de l’utilisateur et que ce dernier devait donner son consentement – « s’inscrire » – pour utiliser ce service.
Il vous reste 35,14% de cet article à lire. Le reste est réservé aux abonnés.
LLe jury de la Mostra de Venise a dévoilé son palmarès ce samedi 7 septembre. L'Espagnol Pedro Almodovar a reçu…
Pedro Almodovar reçoit le Lion d'Or de la Mostra de Venise pour son film "The Room Next Door", à Venise…
Au Kenya, plusieurs voix s'élèvent pour réclamer une enquête sur les circonstances de l'incendie qui s'est déclaré dans la nuit…
"Les équipes reprennent les activités et les tests nécessaires pour préparer le couplage", c'est-à-dire le raccordement au réseau électrique, a…
Le patron de X, Elon Musk, le 13 avril 2024 à Los Angeles (à gauche) et le juge de la…
Un dernier éclair de Frédéric Villeroux, et puis l'explosion de joie. Devant un public en délire, les Bleus ont écrit…