Le gouverneur de Californie oppose son veto à la loi sur la sécurité de l’IA

Jusqu’à la dernière minute, les deux camps ont fait campagne dans la Silicon Valley. Dimanche 29 septembre au soir, le gouverneur Gavin Newsom a pris sa décision : il a opposé son veto à un projet de loi qui visait à imposer les garde-fous les plus stricts aux grands modèles d’intelligence artificielle aux Etats-Unis.

Le texte SB 1047, ou « Safe Innovation in Pioneering AI Models Act », avait divisé le monde des technologies, ainsi que la classe politique californienne. Même si elle n’était pas aussi exigeante que la réglementation européenne, elle rendait légalement les sociétés d’intelligence artificielle responsables des dommages causés par leurs modèles.

Il a exigé qu’ils incluent un « interrupteur d’arrêt » (coupe-circuit) de désactiver leurs systèmes s’ils deviennent incontrôlables et provoquent des dommages importants, tels que des pertes massives de vies humaines ou des dommages matériels dépassant 500 millions de dollars (448 millions d’euros). Elon Musk s’y est déclaré favorable, contrairement à Mark Zuckerberg (Meta), Sam Altman (OpenAI) ou au capital-risqueur pro-Trump Marc Andreessen.

Crainte d’un « effet dissuasif sur l’industrie »

Comme M. Musk, plusieurs figures historiques d’IA, comme Geoffrey Hinton et Yoshua Bengio, ont approuvé le texte. « Nous pensons que les modèles d’IA les plus puissants pourraient bientôt présenter de sérieux risques, tels qu’un accès accru aux armes biologiques et des cyberattaques contre les infrastructures critiques. »» a écrit M. Hinton dans une lettre adressée au gouverneur et cosignée par des dizaines d’anciens et actuels employés du secteur de l’IA.

Lors de la conférence annuelle du géant du logiciel Salesforce, le 24 septembre à San Francisco, M. Newsom a affiché son scepticisme. Habituellement prompt à vanter les initiatives avant-gardistes prises par la Californie, notamment sur le climat ou la protection des consommateurs, il a regretté que le projet sur la sécurité de l’IA remplace le débat fédéral sur la question.

Il avait également exprimé sa crainte d’avoir « un effet dissuasif sur l’industrie ». « Nous dominons ce domaine et je ne veux pas perdre cet avantage. » » a-t-il déclaré, soulignant que trente-deux des plus grandes sociétés d’intelligence artificielle au monde étaient situées en Californie. En ce qui concerne les risques posés par l’IA, il a déclaré qu’il essayait de s’en tenir à ceux qui sont démontrables plutôt qu’à ceux qui sont hypothétiques. Le projet de loi visait des systèmes nécessitant plus de 100 millions de dollars pour être construits. Aucun modèle n’a atteint ce seuil, mais les pessimistes estiment qu’il pourrait être atteint rapidement.

Il vous reste 44,64% de cet article à lire. Le reste est réservé aux abonnés.