Au sein de la riche panoplie des définitions de l’Intelligence Artificielle, « l’algorithme dotant la machine de la capacité de prendre une décision » retient ma préférence.
Mais comment l’Intelligence Artificielle prend-elle ses décisions ?
De nouveau, la distinction entre Intelligence Artificielle faible similaire à un automate et Intelligence Artificielle forte similaire à l’humain est incontournable. Dans le cas d’un automate, nous sommes en terrain connu avec ce que mettent en œuvre les programmes informatiques depuis l’origine. Il en va tout autrement pour l’Intelligence Artificielle forte. Savoir comment l’Intelligence Artificielle forte agit revient à comprendre comment l’humain s’y prend.
Pour Descartes Kant ou Platon, une bonne décision ne peut être prise qu’en faisant abstraction de nos émotions. Pour Epicure, il est préférable de suivre ses émotions plus qu’une froide rationalité. Pour Aristote, la prise de décision s’appuie sur deux facultés, la spontanéité du désir et l’intentionnalité de la connaissance. Bref, faut-il être cartésien ou épicurien ?
De nombreux chercheurs en neurosciences comme António Damásio aux États-Unis ou Jean-Pierre Changeux en France se sont penchés sur la question. Études comportementales, suivi des signaux dans le cerveau, cartographie du cerveau font parties de l’arsenal d’outils. Que sait-on de la prise de décision ? quels enseignements en tirer pour l’Intelligence Artificielle ?
L’Internet dans la tête
Commençons par constater que le mécanisme de prise de décision n’est pas propre à l’humain mais se retrouve aussi chez l’animal. En fait, il est lié à l’existence d’un système nerveux, même primitif.
On le retrouve chez le chat le chien mais également chez le moustique, chez la méduse ou le lombric. Très apprécié le minuscule et transparent ver Caenorhabditis Elegans prend ses décisions du haut de ses trois cent deux neurones tous répertoriés. Il est déjà capable de choisir s’il doit se déplacer à droite ou à gauche. Il n’est nullement nécessaire de s’appuyer sur les quelques dizaines de milliards de neurones du cerveau humain pour analyser les prises de décisions. Le système nerveux du Caenorhabditis Elegans est suffisamment rudimentaire pour localiser précisément les fonctions élémentaires.
Un point intéresse particulièrement les chercheurs : les télécoms dans le cerveau. Dit autrement, le réseau de connexions des neurones dans un cerveau. Une sorte d’Internet répondant au nom de connectome. Ce réseau est présent dans tous les organismes. Des mouvements de pensée se sont même enflammés : si une sorte d’Internet relie toutes les zones du cerveau, notre Internet ne s’apparente-t-il pas au connectome ? et le web ne pourrait-il pas avoir une conscience ? Pour grisante que soit cette dernière proposition est grisante il reste à l’étayer.
L’étude de l’ « Internet de la tête » est riche en enseignements. La lutte d’influence entre groupes de neurones pour une décision se fait à coup de stimuli ou d’informations reçues de l’environnement. Elle peut durer plusieurs centaines de millisecondes. En cas de tâches complexes, les zones sollicitées deviennent plus nombreuses sous semble-t-il les directives du cortex préfontal.
L’observation de l’activité sur le connectome par Imagerie par Résonnance Magnétique a permis d’identifier les voies de connexions fonctionnelles entre groupes de neurones. Les résultats sont impressionnants. La cartographie avance, l’intensité des flux dresse une image dynamique. Cela dit, pour reprendre un langage télécom, nous n’accédons qu’aux « méta-données ». On peut effectivement visualiser les mouvements d’énergie, cartographier les zones qui émettent des messages, qui répondent à des stimulis. Mais on n’a aucune connaissance de l’essence même des messages. On ne sait pas ce qui fait les émotions, les sentiments, la conscience. Exactement comme sur Internet on est capable de voir qui discute avec qui, à quel moment et pendant combien de temps mais connaître le contenu de la discussion suppose entrer dans le message lui-même. Des technologies existent sur Internet : Deep Packet Inspection, Keylogging par exemple. Mais dans le cas du connectome, on ne sait pas comment s’y prendre. On est capable d’observer les flux mais pas de les décoder. On voit passer des mots sans être capable de saisir le sens de la phrase. Il y a encore du boulot avant que les questions soulevées depuis toujours par les philosophes aient un début de réponse : qu’est-ce que la conscience, comment se forme-t-elle ? Je reste quant à moi toujours aussi émerveillé que la question se pose déjà avec un Caenorhabditis Elegans et ses trois cent deux neurones comme avec un humain à la tête de cent milliards.
L’émotion au pouvoir
Les neuroscientistes sont aujourd’hui convaincus du rôle central des émotions dans la prise de décision. Peut-être parce que dès l’origine les systèmes nerveux ont eu à prendre des décisions extrêmement rapidement à partir d’un nombre considérable d’informations et que c’était là un formidable accélérateur lors du tri entre ces informations. Le délai de réaction était un élément vital face aux prédateurs, quitte à générer des faux positifs voire de mauvaises décisions.
Être rationnel n’est pas le premier souci de la prise de décision via les émotions. Une sensation particulière, odeur, température, tactile, musique ou bruit, image peut être associée à un souvenir bon ou mauvais et par là nous influer sur le choix. Le seul but est une décision rapide. La psychologie connaît bien le sujet. David Louapre, auteur du blog « Sciences étonnantes » a ouvert sur ce sujet une rubrique intitulée « Crétin de cerveau » dont la consultation est particulièrement savoureuse.
Le rôle des émotions a été mis en avant notamment quand António Damásio s’est penché sur le cas de Phinéas Gage. Le premier est directeur de l'Institut pour l'étude neurologique de l'émotion et de la créativité de l'université de la Californie méridionale, en fait une référence dans le monde des neurosciences et du comportement. Le second a vécu au XIXème siècle aux Etats-Unis et a eu le crâne transpercé par une barre à mine sur un chantier du chemin de fer. Le miracle est qu’il s’en est sorti, mais avec personnalité totalement bouleversée. De calme et pondéré, il est devenu agressif et asocial. Analysant le crâne et faisant des simulations, Damásio a établi que l’atrophie des zones liées à l’émotion est à l’origine de son changement de comportement. Il ne faisait plus le lien entre émotion et raison.
António Damásio est entre autres l’auteur d’un livre au titre révélateur : « L’Erreur de Descartes. La raison des émotions ». Les émotions jouent comme des signaux d’alerte. Un odeur de feu nous alerte d’un incendie : nous savons par expérience que quelque chose qui brule a des relents bien identifiables. Mais de la même manière, on associe des expériences sans rapport. Ainsi, si on apprend un décès alors qu’on entend une musique donnée, la seule écoute de cette musique nous donnera par la suite des signaux d’alerte négatifs. Nous sommes guidés par nos émotions.
Sur tous ces thèmes, je vous invite également à « podcaster » l’émission « La méthode scientifique » de Nicolas Martin sur France Culture du 8 janvier 2018 où deux chercheurs, Sylvie Granon et Thomas Boraud apportent leur éclairage.
L’IA forte sera-t-elle la suite de l’IA faible ?
Toutes ces considérations me ramènent à l’argumentation visant à justifier une arrivée proche de l’Intelligence Artificielle forte à partir des progrès de l’Intelligence Artificielle faible. J’ai entendu cette position y compris dans des projets sur le cerveau humain.
Mais les travaux sur des automates qui ne savent pas aller au-delà de ce qu’ils ont engrangé comme connaissance n’ont pas le moindre lien avec la démarche des neurosciences. Extrapoler la loi de Moore n’a que peu de signification. Les voies suivies par l'IA faible n'adressent pas les questions majeures de l'IA forte. Les travaux sur l'IA faible ne permettent pas d'avancer sur l'IA forte. Ce sont deux voies totalement différentes.
Le poids des émotions dans la prise de décision est majeur. On en revient aux éternelles questions toujours sans réponse : comment se forment les émotions ? d’où vient la conscience ? L’accès à l’Intelligence Artificielle forte ne sera d’actualité qu’après avoir résolu ces points. Il y a encore du boulot.
Ajouter un commentaire