La question de savoir si la responsabilité morale nécessite le libre arbitre dépend de la définition avec laquelle vous travaillez. Une façon de définir le libre arbitre, utilisée par les compatibilistes, est comme la capacité de délibérer, de sélectionner un choix, puis de fixer votre désir en fonction du résultat de votre délibération. C’est une idée significative ; vous n’avez pas de libre arbitre dans ce sens lorsque vous ne percevez aucune incertitude quant à vos décisions (ceci est tiré d’Aristote dans l’Éthique à Nicomaque) :
L’objet de la délibération et l’objet du choix sont les mêmes, sauf que lorsqu’une chose est choisie, elle a déjà été déterminée, puisque c’est la chose déjà sélectionnée comme résultat de notre délibération qui est choisie. L’homme cesse en effet de se demander comment il doit agir dès qu’il a ramené l’origine de l’action à lui-même et à la partie dominante de lui-même, car c’est elle qui choisit. Ceci peut être illustré par les anciennes constitutions représentées dans Homère : les rois avaient l’habitude de proclamer au peuple les mesures qu’ils avaient choisi d’adopter.
Comme donc l’objet du choix est une chose en notre pouvoir qu’après délibération nous désirons, le choix sera un désir délibéré des choses en notre pouvoir ; car nous délibérons d’abord, puis nous choisissons, et enfin nous fixons notre désir selon le résultat de notre délibération.
Une deuxième manière de définir le libre arbitre est dans le fait d’être la source ultime de votre volonté. C’est la définition utilisée par les incompatibilistes. Les libertariens pensent que nous avons le libre arbitre dans ce sens et donc que le déterminisme est faux, mais ils sont confus car il est impossible d’avoir ce genre de libre arbitre indépendamment du fait que les lois de la physique soient déterministes. C’est compréhensible parce que le temps et la causalité sont des idées confuses avec lesquelles travailler.
Ces deux définitions sont à peu près équivalentes aux deux mentionnées dans l’article sur le libre arbitre de la Stanford Encyclopedia of Philosophy:
Une solution suggérée à cette énigme commence par reconsidérer la relation de deux fils dans la (beaucoup) de réflexion sur la liberté de la volonté : être capable de faire autrement et être la source ultime de sa volonté. Les discussions contemporaines sur le libre arbitre soulignent souvent l’importance de la possibilité de faire autrement. Pourtant, il est plausible (Kane 1996) que la caractéristique métaphysique centrale de la liberté soit d’être la source ultime, ou l’initiateur, de ses choix, et que le fait de pouvoir faire autrement soit étroitement lié à cette caractéristique.
La première définition est celle qu’exige la responsabilité morale. C’est aussi la définition utile à des fins juridiques. Dans son récent ouvrage, Judea Pearl souligne que c’est aussi la définition qui se rapproche le plus des raisons que l’évolution aurait pu avoir pour nous donner une sensation de libre arbitre et qu’elle pourrait être utile pour créer une IA forte :
Toute discussion sur l’intention conduit à un autre problème majeur pour l’IA forte : le libre arbitre. Si nous demandons à une machine d’avoir l’intention de faire X = x, d’en prendre conscience et de choisir de faire X = x′ à la place, nous semblons lui demander d’avoir le libre arbitre. Mais comment un robot peut-il avoir le libre arbitre s’il ne fait que suivre les instructions stockées dans son programme ?
Le philosophe John Searle, de Berkeley, a qualifié le problème du libre arbitre de » scandale en philosophie « , en partie à cause de l’absence de progrès réalisés sur le problème depuis l’Antiquité et en partie parce que nous ne pouvons pas le balayer comme une illusion d’optique. Toute notre conception du « soi » présuppose que nous avons des choix. Par exemple, il semble qu’il n’y ait aucun moyen de concilier ma sensation vive et indubitable d’avoir une option (disons, toucher ou ne pas toucher mon nez) avec ma compréhension de la réalité qui présuppose un déterminisme causal : toutes nos actions sont déclenchées par des signaux neuronaux électriques émanant du cerveau.
Alors que de nombreux problèmes philosophiques ont disparu au fil du temps à la lumière des progrès scientifiques, le libre arbitre reste obstinément énigmatique, aussi frais qu’il apparaissait à Aristote et à Maïmonide. En outre, si le libre arbitre humain a parfois été justifié par des raisons spirituelles ou théologiques, ces explications ne s’appliqueraient pas à une machine programmée. Ainsi, toute apparence de libre arbitre robotique doit être un gadget – c’est du moins le dogme conventionnel.
Tous les philosophes ne sont pas convaincus qu’il existe réellement un conflit entre le libre arbitre et le déterminisme. Un groupe appelé « compatibilistes », dont je fais partie, considère qu’il ne s’agit que d’un conflit apparent entre deux niveaux de description : le niveau neuronal auquel les processus semblent déterministes (sauf indéterminisme quantique) et le niveau cognitif auquel nous avons une sensation vive d’options. De tels conflits apparents ne sont pas rares en science. Par exemple, les équations de la physique sont réversibles dans le temps à un niveau microscopique, mais semblent irréversibles au niveau macroscopique de la description ; la fumée ne retourne jamais dans la cheminée. Mais cela ouvre de nouvelles questions : Si l’on admet que le libre arbitre est (ou peut être) une illusion, pourquoi est-il si important pour nous, les humains, d’avoir cette illusion ? Pourquoi l’évolution a-t-elle travaillé pour nous doter de cette conception ? Truc ou pas, devrions-nous programmer la prochaine génération d’ordinateurs pour qu’ils aient cette illusion ? Dans quel but ? Quels avantages computationnels cela entraîne-t-il ?
Je pense que comprendre les avantages de l’illusion du libre arbitre est la clé du problème obstinément énigmatique de sa réconciliation avec le déterminisme. Le problème se dissoudra sous nos yeux une fois que nous aurons doté une machine déterministe des mêmes avantages.
En plus de cette question fonctionnelle, nous devons également faire face aux questions de simulation. Si les signaux neuronaux du cerveau déclenchent toutes nos actions, alors nos cerveaux doivent être assez occupés à décorer certaines actions avec le titre « voulu » ou « intentionnel » et d’autres avec « non intentionnel ».
Quel est précisément ce processus d’étiquetage ? Quel chemin neuronal permettrait à un signal donné de recevoir l’étiquette « voulu » ?Dans de nombreux cas, les actions volontaires sont reconnues par une trace qu’elles laissent dans la mémoire à court terme, cette trace reflétant un but ou une motivation. Par exemple, « Pourquoi as-tu fait cela ? » « Parce que je voulais t’impressionner » ou, comme Eve l’a répondu innocemment, « Le serpent m’a trompée, et j’ai mangé ». Mais dans de nombreux autres cas, une action intentionnelle est entreprise, et pourtant aucune raison ou motivation ne vient à l’esprit. La rationalisation des actions peut être un processus reconstructif, postérieur à l’action. Par exemple, un joueur de football peut expliquer pourquoi il a décidé de passer le ballon à Joe plutôt qu’à Charlie, mais il est rare que ces raisons aient consciemment déclenché l’action. Dans le feu de l’action, des milliers de signaux d’entrée se disputent l’attention du joueur. La décision cruciale est de savoir quels signaux privilégier, et les raisons peuvent difficilement être rappelées et articulées.
Les chercheurs en IA tentent donc de répondre à deux questions †» sur la fonction et la simulation †» la première entraînant la seconde. Une fois que nous aurons compris la fonction computationnelle du libre arbitre dans nos vies, nous pourrons nous occuper d’équiper les machines de telles fonctions. Cela devient un problème d’ingénierie, bien qu’il soit difficile.
Pour moi, certains aspects de la question fonctionnelle ressortent clairement. L’illusion du libre arbitre nous donne la capacité de parler de nos intentions et de les soumettre à une réflexion rationnelle, éventuellement en utilisant la logique contrefactuelle. Lorsque l’entraîneur nous retire d’un match de football et nous dit : « Tu aurais dû passer le ballon à Charlie », il faut tenir compte de toutes les significations complexes contenues dans ces huit mots.
Tout d’abord, le but d’une telle instruction « aurait dû » est de transmettre rapidement une information précieuse de l’entraîneur au joueur : à l’avenir, lorsqu’il sera confronté à une situation similaire, il devra choisir l’action B plutôt que l’action A. Mais les « situations similaires » sont beaucoup trop nombreuses pour être énumérées et sont à peine connues, même de l’entraîneur lui-même. Au lieu d’énumérer les caractéristiques de ces « situations similaires », l’entraîneur pointe du doigt l’action du joueur, qui est représentative de son intention au moment de la décision. En proclamant que l’action est inadéquate, l’entraîneur demande au joueur d’identifier les logiciels qui ont conduit à sa décision, puis de redéfinir les priorités parmi ces logiciels afin que « passer à Charlie » devienne l’action préférée. Il y a une profonde sagesse dans cette instruction car qui, si ce n’est le joueur lui-même, connaîtrait l’identité de ces logiciels ? Ce sont des chemins neuronaux sans nom qui ne peuvent être référencés par l’entraîneur ou tout autre observateur externe. Demander au joueur de faire une action différente de celle qu’il a faite revient à encourager une analyse spécifique de l’intention, comme celle que nous avons mentionnée plus haut. Penser en termes d’intentions nous offre donc un raccourci pour convertir des instructions causales compliquées en instructions simples.
J’imagine donc qu’une équipe de robots jouerait mieux au football si elle était programmée pour communiquer comme si elle avait un libre arbitre. Quelle que soit la compétence technique des robots individuels au football, les performances de leur équipe s’amélioreront lorsqu’ils pourront se parler comme s’ils n’étaient pas des robots préprogrammés mais des agents autonomes croyant avoir des options.
Bien qu’il reste à voir si l’illusion du libre arbitre améliore la communication entre robots, il y a beaucoup moins d’incertitude concernant la communication entre robots et humains. Afin de communiquer naturellement avec les humains, les IA fortes devront certainement comprendre le vocabulaire des options et des intentions, et donc elles devront émuler l’illusion du libre arbitre. Comme je l’ai expliqué plus haut, elles peuvent aussi trouver avantageux de » croire » elles-mêmes à leur libre arbitre, au point de pouvoir observer leur intention et agir différemment.
