les IA auront-elles un jour une conscience ?

La saison 4 de Westworld est imminent : Dolores, Charlotte et Caleb pourraient bien nous surprendre. La révolution des robots va-t-elle s’arrêter ? On le saura le jour de sa date de sortie, le 26 juin. En attendant, pourquoi ne pas se poser la question du sensibilisation ? Il entoure la série, à chaque saison : du premier épisode où chaque animateur semble suivre un scénario précis, à la dernière saison dans laquelle les humains implantent leur esprit dans les corps artificiels.

Comment définir la conscience ?

Intelligence, conscience, pensée ou encore vivant : autant de termes dont les définitions ne font pas consensus. C’est l’un des mystères qui nous entourent depuis des centaines d’années, voire des milliers d’années : d’où vient notre conscience et comment se définit-elle ? Plusieurs théories s’y appuient, mais qui distinguent en majorité la conscience, et la conscience de soi. L’un est plutôt orienté vers l’éveil et les facultés de réflexion, et l’autre vers se distinguer des autres êtres vivants qui nous entourent : c’est cette conscience de soi qui confère le libre arbitre, les valeurs morales ou la prise en compte du monde qui nous entoure. On peut citer le très célèbre cogito ergo sum « , Où  » je pense que oui par le mathématicien et philosophe René Descartesqui attribue à la pensée une forme de certitude d’existence.

Des expériences ont montré qu’en plus des humains, d’autres animaux sont conscients d’eux-mêmes. En particulier, une étude a montré que les éléphants en font partie : ils ont non seulement passé le « test de miroir et tache », au cours de laquelle ils finissent par essuyer une marque peinte sur leur tête après s’être regardés dans un miroir, mais aussi celui du tapis. Un éléphant d’Asie a réussi à prendre conscience que son corps était sur un tapis, ce qui bloquait le passage d’un bâton attaché à ce même tapis.

Du côté de cerveau, les zones de conscience restent introuvables pour le moment. Les chercheurs sont néanmoins parvenus à cartographier le cerveau pour plusieurs différents états de conscience : pendant le dormirla coma ou lorsqu’une personne est éveillée. Et ils ont trouvé des différences dans les interactions entre les régions : chez les personnes conscientes, elles sont plus dynamiques et complexes, tandis que chez les personnes inconscientes, elles deviennent plus simples, et n’ont lieu qu’entre des régions directement connectées les unes aux autres. . Quant aux aires de conscience, elles seraient situées dans le tronc cérébral pour la zone d’éveil, puis dans la cortex préfrontal. Trouver toutes ces zones a pour but ultime de cartographier le cerveau. Disposant d’une véritable carte des fonctions cognitives et de leur localisation, les chercheurs pourraient alors implanter cette même structure dans un intelligence artificielle.

Enfin, une théorie suppose une origine quantique de la conscience : la théorie de la réduction objective orchestrée de la conscience, souvent appelée théorie Orch Or. D’abord suggéré par le mathématicien Roger Penrose et l’anesthésiste Stuart Hammeroff, à l’Université de l’Arizona, elle attribue la conscience aux calculs quantiques dans le cerveau. Controversé parce que l’environnement chaud et humide du cerveau serait trop perturbateur pour que les effets quantiques survivent, il suppose des oscillations électriques dans les microtubules, de minuscules structures situées dans le neurones du cerveau. Actuellement, les chercheurs expérimentent sous terre pour trouver un rayonnement presque indétectable causé par ces fluctuations quantiques.

La clé dans Westworldles « rêves »

Mais en Westworld, apprend-on de la saison 1, la conscience des animateurs s’est construite grâce à des « rêvasseries » : ils passent et rejouent les événements vécus pendant la nuit, alors qu’ils sont plongés dans un sommeil artificiel. Contrairement à nos propres rêves, les rêveries sont constituées de souvenirs réels, et ne sont pas une réalité déformée, elles ne contiennent pas d’éléments incongrus. Le lendemain, tout comme nous, des fragments leur reviennent, et peu à peu ils prennent conscience d’eux-mêmes. Mais les rêveries sont plus que cela : les robots de Westworld, ou les hôtes comme on les appelle dans la série, commencent à entendre une voix dans leur esprit. Celui d’Arnold, l’un des co-fondateurs du parc, qui s’est suicidé en tentant d’empêcher son ouverture au public, persuadé que ses créations étaient conscientes.

L’hypothèse sous-jacente est d’abord que les rêves sont primordiaux pour établir la conscience, pas seulement les souvenirs, qui sont déjà implantés chez les hôtes. En effet, ces souvenirs créent une identité pour le robot, le rendant plus humain, mais ne lui suffisent pas pour remettre en question son existence. D’autre part, la série parle d’une pyramide de conscience, dont le premier niveau est la mémoire, le second, l’improvisation (la création, qui sort d’un programme défini à l’avance), le troisième, l’intérêt personnel, et le dernier étage n’est jamais expliqué mais on suppose qu’on y retrouve la fameuse conscience. Pour cela, le personnage d’Arnold, co-fondateur du parc Westworld, repose sur le bicamérisme ou théorie bicamérale de l’esprit établie par le psychologue Julian Jaynes, l’idée qu’à ses débuts l’homme prit ses pensées pour des voix divines. Peu à peu, cette bicaméralité se serait effondrée, et l’Homme aurait alors développé une véritable conscience. Cette hypothèse a été réfutée, mais a fait beaucoup de bruit dans les années 1980.

Les IA progressent de plus en plus, passeront-elles le test de Turing ?

Mais pour un robot, ou une intelligence artificielle qui suit un programme, la question de la conscience se pose différemment : comment s’assurer que s’il développe des signes de conscience, c’est réel, et pas simplement la conséquence d’un programme informatique ? C’est là que le Test de Turing entre en jeu, établi en 1950 par le mathématicien et cryptologue Alan Turing. On l’apprend dans la saison 1 : le parc Westworld a été autorisé à ouvrir suite au passage de cette épreuve. Elle consiste à évaluer la capacité d’une intelligence artificielle à imiter parfaitement un humain, au point qu’il est impossible de la distinguer d’une personne réelle. Actuellement, aucune IA n’a réussi le testmais ce serait Gato, propriété de Google, qui se rapprocherait le plus.

Une autre IA de Google a récemment fait polémique : un ingénieur a affirmé que l’intelligence artificielle laMDA avait atteint un niveau de conscience similaire au nôtre. Pour cela, il s’est appuyé sur des dialogues qu’il a eus avec l’IA : dans l’un d’eux, elle a affirmé avoir peur de sa désactivation, qu’elle considère comme l’équivalent de la mort chez l’homme. Mais Google a affirmé que tous ces dialogues ne sont que des improvisations sur des thèmes connus, et qu’il n’y a aucune trace de conscience là-bas, et l’ingénieur a été congédié. Ce n’est pas la première fois qu’une telle chose se produit, car l’éthique de l’IA reste débattue.