Certains commentaires sur le blog on touchés la question de pourquoi on doit chercher la vérité. (Heureusement peu on demandé ce qu’Est la vérité.) Ce qui nous a poussé à reconfigurer nos pensées vers la rationalité, qui détermine aussi si une configuration est «bonne» ou «mauvaise», viens de la raison pour laquelle on a voulu trouver la vérité.
Il est écrit : «La première Virtue est la curiosité.» Curiosité est une raison de chercher la vérité, et elle peut ne pas être la seule, mais elle a une pureté spéciale et admirable. Si ton motif est la curiosité, tu vas assigner de la priorité aux questions selon comment les questions, elle-même, titillent ton sens esthétique personnel. Un défi plus ardu, avec une plus grande probabilité d’échec, peut valoir plus d’effort qu’un plus simple, juste parce que c’est plus plaisant.
Certaines personnes, je le suspecte, peuvent objecter que la curiosité est un émotion and qu’elle est alors non-rationnelle. Je considère une émotion comme non-rationnelle si elle repose sur des croyances fautives, or plutôt, sur une conduite épistémique irrationnelle : «Si le fer approche ton visage, et tu crois qu’il est chaud, et qu’il est froid, le Chemin oppose ta peur. Si le fer approche ton visage, et tu crois qu’il est froid, et qu’il est chaud, le Chemin oppose ton calme.» Inversement, alors, une émotion qui est évoquée par des croyances correctes ou de la pensée rationnelle épistémique est une «émotion rationnelle»; et ça a l’avantage de nous laisser regarder le calme comme un état émotionnel au lieu d’un état défaut privilégié. Quand les gens pense qu’une «émotion» et la «rationalité» sont opposés, je suspecte qu’il sont en fait en train de penser au Système 1 et Système 2 – jugements perceptuels rapides versus jugements délibératifs lents. Les jugements délibératifs ne sont pas toujours vrais, et les jugements perceptuels ne sont pas toujours faux; alors il est très important de distinguer cette dichotomie de la «rationalité». Les deux systèmes peuvent servir l’objectif de la vérité, ou le vaincre, accordement à comment ils sont utilisés.
À part de la pure curiosité émotionnelle, quels sont les autres motifs pour désirer la vérité? Eh bien, tu peut vouloir accomplir un objectif spécifique de la vraie-vie, comme construire un avion, and donc tu dois savoir certaines vérités spécifiques à-propos l’aérodynamique. Ou plus mondainement, tu veux du lait au chocolat, and donc tu veux savoir si le supermarché local a du lait au chocolat, alors tu peux choisir de marcher jusqu’à là ou ailleurs. Si c’est la raison pour laquelle tu veux la vérité, alors la priorité que tu assignes à tes questions va réfléchir l’utilité réfléchie de leur information – comment les réponses possibles influencent tes choix, combien tes choix comptent, et combien tu t’attends de trouver une réponse qui change ton choix de son défaut.
Chercher la vérité seulement pour sa valeur instrumentale peut sembler impur – devrions-nous pas désirer la vérité pour elle-même? – mais de telles investigations sont extrêmement importantes car elles créent un critière extérieur de vérification : si ton avion tombe du ciel, ou si tu vas au supermarché et trouve aucun lait au chocolat, c’est un indice que tu as mal fait quelque chose. Tu expériences quels modes de pensées fonctionnent et lesquels ne fonctionnent pas. De la pure curiosité est une chose magnifique, mais ça peut ne pas rester assez longuement pour vérifier ses réponses, une fois que le mystère attractif est parti. La curiosité, comme une émotion humaine, a été aux alentours bien avant les Grecs anciens. Mais ce qui met fermement l’humanité sur le chemin de la Science a été de s’apercevoir que certains modes de pensées découvraient des croyances qui nous permet de manipuler le monde. Aussi loin que la pure curiosité aille, conter des contes de dieux et héros satisfait ce désir aussi bien, et personne réalisa qu’il y avait quelque chose d’erroné avec ça.
Il y a-t-il des mofits pour chercher la vérité à part la curiosité et le pragmatisme? La troisième raison que je peux penser c’est la moralité. Tu crois que chercher la vérité est noble et important and que ça vaut la peine. Ainsi un tel idéal attache un valeur intresèque à la vérité, c’est un état de pensée très différent de la curiosité. Être curieux de ce qu’il y a derrière le voile ne se sent pas comme croire que c’est un devoir moral de regarder là. Dans le dernier état de pensée, tu es plus enclin à penser que quelqu’un d’autre devrait regarder derrière le voile aussi ou les châtier si ils ferment déliberement leurs yeux. Pour cette raison, je marquerais «moralité» la croyance que rechercher la verité est pragmatiquement important à la société, et que c’est donc le devoir incombant tout le monde. Tes priorités, sous cette motivation, seront déterminées par tes idéaux à propos des vérités les plus importantes (non pas les plus utiles ou plus intriguantes); ou tes idéaux moraux quand, sous quel circonstance, le devoir de chercher la vérité à son plus fort.
Je tend à être suspicieux de la moralité comme une motivation pour la rationalité, non car je rejette l’idéal moral, mais parce que ça invite un certain type de problème. C’est facile à acquérir, comme des devoirs moraux, des modes de pensées qui sont un terrible faux-pas dans la danse. Considère Mr. Spock de Star Trek, un archétype naïf de la rationalité. L’état émotionel de Spock est toujours «calme», même quand c’est excessivement inapproprié. Il donne souvent plusieurs chiffres significatifs pour des probabilités qui sont grossièrement mal calibrées. (E.g : «Capitaine, si tu diriges l’Enterprise directement dans ce trou noir, notre probabilité de survivre est seulement 2.234%» Or neuf fois sur dix l’Enterprise n’est pas détruit. Quel sorte d’idiot tragique donne quatre chiffres significatifs pour une figure qui est faussé par deux ordres de magnitudes?) Or cette image populaire est comment plusieurs personnes conçoivent le devoir d’être «rationnel» – on comprend alors pourquoi ils ne l’embrassent pas de plein cœur. Pour rendre la rationalité en un devoir moral c’est lui donner tout les terribles degrés de liberté d’une coutume tribale. Des gens arrivent à la mauvaise réponse, et alors proteste indignement qu’ils ont agis avec rectitude , au lieu d’apprendre de leur erreur.
Et encore, si on était pour améliorer nos habiletés de rationalité, aller au-delà des performances standards mis en place par les chasseurs-cueilleurs, on aura besoin de croyances délibérées sur comment penser avec justesse. Quand on écrit des nouveaux programmes mentaux pour nous-mêmes, ils commencent dans notre Système 2, dans le système délibéré, et sont seulement lentement – si jamais – entrainés dans notre circuit neuronal qui supporte le Système 1. Alors si il y a certaines sortes de pensées que nous nous trouvons à vouloir éviter – comme, des biais – ça finir représenter, dans le Système 2, comme un injonction de ne pas penser par là; un devoir professé d’évitemment.
Si nous voulons la vérité, nous pouvons plus efficacement l’obtenir en pensant par certains chemins, au lieu d’autres; and ces derniers sont les techniques de rationalité. Certaines techniques de rationalité demandent de vaincre une certaine classe d’obstacle, les biais…
J’utilise souvent la métaphore que la rationalité est l’art martial de l’esprit. On n’a pas besoin d’énormes muscles saillants pour apprendre les arts martiaux; si les personnes sportives sont plus susceptibles d’apprendre ces arts, cela peut être surtout une question de plaisir plutôt qu’autre chose. Certains êtres humains sont plus vites ou plus forts que les autres; mais un art martial n’entraîne pas la variance entre les humains. Un art martial entraîne seulement les muscles: si vous avez la machinerie complexe d’une main, universelle parmi les humains, avec des tendons et des muscles dans les endroits appropriés, alors vous pouvez apprendre à faire un poing.
Comment peut-on entraîner une variance? Que signifie-t-il entraîner deux écart-types de muscle? On ne sait pas non plus ce que voudrait dire entraîner un QI de 132.
Mais si vous avez un cerveau, avec des régions corticales et sous-corticales dans les endroits appropriés, vous pourriez être en mesure d’apprendre à l’utiliser correctement. Si vous êtes un étudiant rapide, vous pouvez apprendre plus vite – mais l’art de la rationalité ne concerne pas cela; il concerne l’entraînement de cette machinerie cérébrale que nous avons tous en commun.
Hélas, nos esprits répondent moins facilement à notre volonté que nos mains. Les muscles sont des sujets de règlement neural évolutivement anciens, tandis que la réflectivité cognitive est une innovation relativement récente. On ne devrait pas s’étonner que les muscles soient plus faciles à utiliser que les cerveaux. Mais il ne serait pas sage de négliger ce dernier type de formation à cause de sa plus grande difficulté. Ce n’est pas par des muscles plus grands que l’espèce humaine s’est fait connaître sur la terre.
Si vous habitez dans une zone urbaine, vous n’avez probablement pas besoin d’aller très loin pour trouver un dojo d’arts martiaux. Pourquoi n’y a-t-il pas de dojos qui enseignent la rationalité? L’une des raisons, peut-être, est qu’il est plus difficile de vérifier des compétences. Pour relever un niveau de Tae Kwon Do, vous pourriez avoir besoin de casser une planche d’une certaine largeur. Si vous y réussissez, tous les spectateurs peuvent voir et applaudir. Si vous échouez, votre maître peut suivre la façon dont vous mettez en forme un poing, et vérifier si vous lui donnez forme correctement. Sinon, l’enseignant tend la main et fait un poing correctement, afin que vous puissiez observer comment le faire. Dans les écoles d’arts martiaux, les techniques de muscle ont été affinés et développés au fil des générations. Les techniques de la rationalité sont plus difficiles à transmettre, même à l’étudiant le plus prêt. Il est également difficile de donner d’impressionantes expositions publiques de rationalité. Cela peut expliquer en partie pourquoi il n’y a pas de dojos de rationalité pour le moment.
Très récemment — dans les dernières décennies seulement — l’espèce humaine a acquis beaucoup de nouvelles connaissances sur la rationalité humaine. L’exemple le plus saillant serait le programme d’heuristiques et biais cognitifs dans la psychologie expérimentale. Il y a aussi la systématisation bayesienne de la théorie des probabilités et de la statistique; la psychologie évolutionniste; la psychologie sociale. Des études expérimentales de la psychologie empirique de l’homme; et la théorie des probabilités pour intérpreter ce que nos expériences nous disent, et la théorie évolutionnaire pour expliquer les conclusions. Ces domaines nous offrent de nouvelles lentilles de focalisation à travers lesquelles voir le paysage de nos propres esprits. Avec leur aide, nous pouvons être en mesure de voir plus clairement les muscles de nos cerveaux, les doigts de la pensée, au mouvement. Nous avons un vocabulaire commun pour décrire les problèmes et les solutions. L’humanité peut finalement être prête à synthétiser l’art martial de l’esprit: d’affiner, de partager, de systématiser, et de transmettre les techniques de la rationalité personnelle.
Quant à ma propre compréhension — telle qu’elle soit — de la rationalité, je l’ai acquise dans le cadre de mes prises avec le défi de l’Intelligence Générale Artificielle (effort qui, pour effectivement réussir, exigerait une maîtrise de la rationalité suffisante pour construire un rationaliste complet et fonctionnant à partir de cure-dents et bandes de caoutchouc). Dans la plupart des façons le problème de l’IA est beaucoup plus exigeant que la technique personelle de la rationalité, mais à certains égards, il est effectivement plus facile. Dans l’art martial de l’esprit, nous devons développer la capacité procédurale de pouvoir tirer, en temps réel, les bons leviers au bon moment sur une grande machine à penser pré-existante dont les entrailles ne sont pas modifiables par l’utilisateur final. Certaines parties de cette machinerie sont optimisées par des pressions de séléction évolutionnaires qui sont directement à l’encontre de nos buts déclarés. Au niveau délibératif, nous décidons que nous voulons chercher la vérité seulement; mais nos cerveaux possèdent des mécanismes innés pour rationaliser les mensonges. Nous pouvons essayer de compenser ce que nous choisissons de considérer comme des défauts de la machine, mais nous ne pouvons pas réellement recâbler les circuits neuronaux. Un artiste martial ne peut non plus blinder ses os en titane — pas aujourd’hui, du moins.
Essayer de synthétiser un art personnel de la rationalité, à l’aide de la science de la rationalité, peut s’avérer difficile: on imagine d’essayer d’inventer un art martial en utilisant une théorie abstraite de la physique, la théorie des jeux, et l’anatomie humaine. Mais les humains ne sont pas aveugles à la pensée: nous avons un instinct natif pour l’introspection. L’oeil intérieur n’est pas privé de la vue, mais il voit indistinctement, avec des distorsions systématiques. Nous devons donc appliquer la science à nos intuitions, utiliser les connaissances abstraites pour corriger nos mouvements mentaux et augmenter nos compétences métacognitives. Nous n’écrivons pas un programme informatique pour faire exécuter à une marionnette à fil des formes d’arts martiaux; ce sont nos propres membres mentaux que nous devons mouvoir. C’est pourquoi il faut relier la théorie à la pratique. Nous devons arriver à voir ce que signifie cette science pour nous, pour notre vie intérieure quotidienne.
Et nous devons, avant tout, trouver une façon de communiquer cette technique; ce qui peut bien être plus qu’une question d’énoncés déclaratifs. Les artistes martiaux se battent, exécutent des formes classiques, et sont observés tout le temps par leurs maîtres. Les étudiants de calcul infintésimal font des devoirs, et vérifient leurs solutions. Les coureurs olympiques essayent sans cesse de battre leurs meilleurs temps précédents, tels que mesurés par un chronomètre. Comment communiquer les techniques procédurales de la rationalité, ou de les mesurer, est sans doute la plus importante question ouverte qui s’interpose entre l’humanité et d’éventuels dojos de rationalité — c’est du moins la partie du problème qui me laisse perplexe le plus. En attendant, je donne des cours. Alors, quelqu’un a-t-il des idées?
Les «Séries» de Less Wrong 