Les nerds de la côte ouest se battent pour l’avenir de l’IA après le retrait de Sam Altman

Le succès de ce modèle de startup dans le domaine des technologies grand public a conduit à son adoption pour des technologies plus sensibles – y compris celles ayant des applications de sécurité nationale – et au développement de visions du monde idiosyncratiques et centrées sur la technologie au sein de la Silicon Valley. Cette semaine, cela a créé un contraste dramatique avec les préoccupations plus prosaïques des gens qui tentent de le comprendre et de le réglementer.

La critique typique de Washington est que ses différends politiques masquent souvent des motivations plus vénales comme l’argent et le pouvoir. La fracture entre OpenAI semble presque exactement le contraire : même si les détails du licenciement restent flous, les premiers rapports indiquent que ce qui ressemble à un argument commercial est en réalité enveloppé dans un schisme idéologique.

D’un côté, la majorité des membres du conseil d’administration d’OpenAI étaient favorables au mouvement altruiste efficace – une vision du monde rendue tristement célèbre par Sam Bankman-Fried – dont les partisans, guidés par une pensée utilitariste à long terme, s’inquiètent beaucoup des risques existentiels potentiels d’une IA super intelligente.

Altman, quant à lui, a exprimé des opinions plus optimistes sur la trajectoire de l’IA et a continué à publier des versions plus puissantes de sa plate-forme d’IA. Les pressions concurrentielles d’une course aux armements technologiques ont conduit à des tensions internes sur les compromis entre rapidité et prudence.

Le fossé a été exacerbé par la structure d’entreprise inhabituelle d’OpenAI, dans laquelle le conseil d’administration d’une organisation faîtière à but non lucratif exerce une influence sur une filiale à but lucratif soumise à des pressions commerciales.

Ce licenciement a fait d’Altman, du moins pour le moment, un héros d’un autre mouvement intellectuel de la Silicon Valley : les accélérationnistes efficaces. Ils veulent accélérer les changements perturbateurs sur la base de la théorie selon laquelle, pour citer l’un de leurs manifestes, « la force du progrès technocapitaliste est inévitable ».

Bien sûr, tout le monde n’est pas d’accord sur le fait que les fondateurs et les dirigeants des entreprises technologiques sont aussi importants pour l’avenir de l’humanité que ces idéologies rivales de la Silicon Valley le prétendent.

Mais il n’est pas nécessaire d’adhérer à ces idéologies pour reconnaître que leurs divisions peuvent être importantes – surtout si les personnes impliquées disposent de budgets et d’une influence considérables. Il y a un siècle, les mencheviks et les bolcheviks ressemblaient, de loin, à une grande masse de marxistes, pour ensuite voir leurs luttes intestines entre factions déterminer le sort des nations.

Altman est arrivé à OpenAI en tant que jeune figure brillante et classique de la Silicon Valley, dans le cadre de son rôle de PDG de Y Combinator, un accélérateur de startups célèbre pour sa capacité à générer des succès technologiques à la manière de Facebook. La société a lancé des produits de consommation bien connus tels que Reddit, Airbnb et DoorDash, ainsi que des sociétés moins connues telles que 9Gag, une plateforme de publication de mèmes Internet.

Lundi, le conseil d’administration d’OpenAI a annoncé qu’il remplaçait Altman par Emmett Shear, qui jusqu’au début de cette année était PDG de Twitch, une plateforme en ligne qui permet aux gens de regarder d’autres personnes jouer à des jeux vidéo.

Dans le monde de l’altruisme efficace, Shear est également connu pour son apparition en tant que sorcier dans une longue fanfiction de Harry Potter, « Harry Potter et les méthodes de la rationalité », écrite entre 2010 et 2015 par Eliezer Yudkowsky, un penseur influent parmi ceux-là. préoccupés par les risques de l’IA.

On peut affirmer sans se tromper que rien de tout cela n’a été évoqué en mai, lorsque Altman a effectué sa tournée à Washington. Il s’est exprimé devant le Sénat sur les risques et les avantages de l’IA, proposant – ce qui est inhabituel pour un PDG – de jouer avec des réglementations raisonnables, voire même d’octroyer des licences pour les versions les plus puissantes de la technologie.

Il a fait quelque chose de similaire en Europe, devenant le visage amical d’une entreprise par ailleurs profondément opaque aux yeux des gens qui tentent de la gouverner de l’extérieur.

La véritable raison pour laquelle Altman occupait cette place d’influence, bien sûr, était qu’OpenAI valait déjà des dizaines de milliards de dollars et disposait d’un produit qu’Altman lui-même avait réussi à qualifier de transformateur.

Le fait que ce genre d’arguments baroques, presque de science-fiction, bouillonnent en même temps sous la surface ne fait qu’illustrer les risques qu’il y a à laisser les icônes autoproclamées de la Silicon Valley s’enfuir avec la conversation. À Washington, les grands débats ont tendance à se concentrer sur des questions publiques claires comme l’équité et la sécurité nationale. Dans le monde de l’IA, les grands débats peuvent être difficiles à distinguer de la littérature fantastique.

Pour l’instant, Altman est en train de remporter la rupture – du moins sur le plan commercial. De larges segments du monde de la technologie se sont ralliés à ses côtés, de l’ancien PDG de Google Eric Schmidt aux entrepreneurs les plus modestes, tandis que la plupart des employés d’OpenAI sont ouvertement révoltés contre son licenciement. Et Microsoft, copropriétaire d’OpenAI qui aurait été aveuglé par le licenciement, a déjà engagé Altman pour diriger une division interne d’IA.

Ironiquement, ce coup d’État bâclé pourrait aider les altruistes efficaces et soucieux de la sécurité à gagner un débat plus large, en mettant en évidence les conditions curieuses dans lesquelles se déroule actuellement le développement de l’IA.

La nouvelle a frappé Washington pendant une accalmie avant les vacances, et les initiés sont restés muets sur le chaos autour de ce qui était, jusqu’à vendredi, la principale société d’IA. Mais il est juste de dire que la prochaine fois qu’Altman, ou un autre prodige de l’IA, visitera Washington, il sera probablement confronté à un peu moins de déférence et à quelques questions plus pointues.