Centre d'Étude du Futur

La théologie des machines et le transhumanisme

Bruno Marchal

IRIDIA-ULB

Le 29 février 2016

Remerciement

Je remercie Vincent Prouvé et Pravin Ertz de leur accueil ainsi que l'aimable écoute de l'assemblée du CEF pour ma présentation sur la théologie de la machine universelle en regard de la problématique du transhumanisme. Le texte qui suit le résume et l'étend en espérant clarifier et répondre aux questions qui furent posées après la présentation.

 

0. Introduction

Dans ce petit texte je tente d'expliquer brièvement l'essentiel de la théologie des machines digitales. Je commence par expliquer que dans un certain sens, nous sommes immatériels, et ensuite que cette immatérialité se propage à tous nos environnements possibles. Nous retrouvons alors déjà une partie de la philosophie néopythagoricienne et néoplatoniste. Nous avons traduit cette argumentation dans l'arithmétique, et ceci rend la théologie des machines testable, car, comme la théologie originale des Néoplatonistes, elle contient la physique, ce que l'on peut tester. Jusqu'à présent on retrouve bien la mécanique quantique de Hugh Everett (c-à-d sans le postulat de réduction de l'onde), tout en expliquant sans magie superfétatoire, les bizarreries quantiques bien fameuses. Qui plus est la théorie permet de distinguer les qualias des quantas, et de façon générale la différence entre ce qui est prouvable (le rationnel) de ce qui est vrai sans être prouvable, et que j'appelle le "surrationnel", qu'il faudra bien ne pas confondre avec l'irrationnel, qui est simplement le faux (réfutable ou non). Ceci nous permettra de montrer que le transhumanisme est vain, bien qu'inévitable. J'expliquerai aussi que le transhumanisme est une position théologique, ce qui est cohérent avec son aspect théotechnologique.

J'utilise le mot "théologie" dans le sens général des théologiens grecques, notamment Platon: c'est l'étude de la vérité au sujet de nous (notre origine, notre subjectivité, notre nature, notre identité, notre destin, etc.), par définition. Cela est justifiable dans le cadre du mécanisme digital, car la vérité sur une machine peut être démontrée comme étant nécessairement transcendante du point de vue de la machine, et même justifiée comme telle par celle-ci. La théologie des machines est très proche de la ligne Pythagore-Parménide-Socrate-Platon-Moderatus de Gadès-Plotin-Porphyre-Proclus-Damascius, et s'éloigne très fort d'Aristote et du matérialisme contemporain. Beaucoup pensent que le Matérialisme (dans le sens faible de la doctrine qui affirme l'existence d'une matière primaire) se marie bien avec le Mécanisme (la doctrine selon laquelle le cerveau ou le corps humain est simulable par un ordinateur), mais en fait nous avons montré que ces doctrines ne sont pas (épistémologiquement) compatibles, ce que je vais expliquer de façon esquissée.

1. Nous avons une âme immatérielle

L'hypothèse du Mécanisme Digital, ou Computationalisme, est l'hypothèse selon laquelle je peux survivre avec un corps, ou un cerveau digitalisé, et ceci en vertu de son respect des procédures naturelles adéquates supposées simulables parfaitement (dans ce cas on dit émulables) à un certain niveau de description. C'est donc la croyance ou l'espoir qu'il existe un niveau tel que mon état de personne consciente soit décrite de façon relativement finie, à ce niveau, et que cette conscience qui m'est propre demeure invariante à travers sa réimplementation dans une machine digitale physique appropriée.

Ceci est une hypothèse, et on peut justifier qu'aucune machine n'est capable de prouver le succès d'une telle entreprise, qui dès lors requiert une sorte d'acte de foi. Il s'agit après tout d'une croyance/théorie/hypothèse en une forme de réincarnation technologique. La grande majorité des transhumanistes sont, je pense, mécaniste dans ce sens-là. La biologie moléculaire et la découverte du code génétique peuvent-être utilisées comme une évidence que la nature a, d'une certaine façon, déjà misé sur le mécanisme digital.

L'hypothèse postule seulement l'existence de ce niveau de description, et ne doit pas être confondue avec l'utilisation métaphorique du mécanisme dans les sciences neurologiques qui présupposent généralement un niveau de description assez élevé (neurones, cellules gliales, concentrations moléculaires). Le raisonnement que je vais esquisser ne dépend pas du choix du niveau. Un niveau *bas* exigerait de simuler le cerveau et peut-être une partie de l'environnement, peut-être même tout l'univers observable, ou non, au niveau des particules élémentaires, avec la mécanique quantique par exemple; un niveau haut exigerait de simuler seulement les réponses des neurones et cellules gliales, sur base d'une théorie à leur sujet---ceci est est la solution techniquement accessible dans un avenir proche et sur laquelle comptent, par exemple, les transhumanistes, implicitement ou explicitement.

À présent, si vous avez survécu, au sens clinique usuel, à une substitution de votre cerveau/corps par un ordinateur (la machine digitale universelle au sens mathématique d'Emil Post, Alonzo Church, Alan Turing, et autres) alors vous avez la possibilité de faire un backup de votre esprit/logiciel+data sur un disque dur, et de vous réimplémenter vous-même, avec un libre choix de tel ou tel corps, tous les matins.

Ceci donne déjà un sens concret à la conception pythagoricienne et immatérialiste de l'âme, selon laquelle l'âme est un nombre qui se meut lui-même (attribué à Xénocrates, parfois à Pythagore). C'est une entité immatérielle, qui parvient à utiliser de la matière pour s'incarner de façons diverses. Elle sauve son âme sur une disquette, ayant préalablement bien programmé son "réveil-matin" qui activera sa ré-implémentation dans le corps souhaité. Savoir changer de corps tous les jours illustre que dans l'optique de l'hypothèse mécaniste, le corps matériel est une chose que l'on possède, et auquel on ne doit pas s'identifier. Le corps permet à notre âme de se manifester, mais l'âme elle-même n'est pas matérielle. À ce stade, l'âme admet encore une description à la troisième personne, ce qui sera raffiné et corrigé plus loin.

Un autre avantage technologique est que cette immatérialité permet la communication à la vitesse de la lumière, y compris de soi-même, c'est-à-dire qu'elle permet l'usage de la téléportation classique, où on est scanné, puis annihilé, et l'information recueillie, qui contient la description du corps au niveau supposé existant et adéquat, est transmise sur une autre planète, disons, où le corps adéquat est reconstitué. Nul doute qu'il s'agit de la voie des futurs où l'humanité s'étendra dans le système solaire, puis la galaxie, et au delà.

2. La physique est une branche de la théologie des machines

Cette hypothèse mécaniste semble se heurter à un sérieux problème conceptuel cependant. Finalement nous verrons que la difficulté réside dans la conception aristotélicienne de la réalité, et la difficulté semble rendre indispensable, si on veut maintenir le Mécanisme, un retour à la conception platoniste de la réalité, où la réalité physique est un mode ou une apparence qui émerge ou émane d'une réalité plus simple et plus profonde (la réalité arithmétique, ou une quelconque réalité mathématique Turing équivalente).

Quelle est cette difficulté?

D'abord constatons que si vous vous téléportez classiquement de cette façon de la Terre sur Mars, et que sur Mars, la machine qui doit vous reconstituer défaille, et mets dix fois plus de temps, la reconstitution une fois complétée, correctement par hypothèse, ne vous permet pas de votre propre point de vue, de constater la moindre différence de temps, d'autant que sur Mars, vous n'aurez pas d'indice extérieur (un arbre qui aurait poussé) pour vous aider.

Ceci est juste un petit préalable, le problème ne vient pas de là.

Le problème est que si vous êtes téléportable de cette façon, vous êtes aussi *duplicable*. Vous pouvez ainsi reconstituer, ou plutôt ré-implémenter ou ré-incarner, votre âme sur deux corps différents, simultanément, ou avec des délais dont vous savez qu'ils ne vous sont pas accessibles par simple introspection.

Je définis la première personne, ou vécu subjectif, par le contenu d'un carnet que le téléporteur prend avec lui dans ses "déplacements" ou ses duplications, et dans lequel le téléporteur reporte son vécu. Le point clé est que le carnet est dupliqué avec la personne. Le discours de la troisième personne, ici, peut être défini par le contenu d'un carnet d'une personne qui observe l'expérience de téléportation, et la décrit ainsi de l'extérieur, et n'est donc lui-même pas dupliqué lors de l'expérience.

Proposition: le dupliqué ne dispose d'aucun moyen de prédire son futur vécu subjectif.

Preuve: Si l'expérienceur est dupliqué sur Phobos et Deimos, deux satellites de Mars, à partir de la Terre, la prédiction "(P ou D)" écrite avant la duplication dans son carnet personnel, et où D (resp. P) désigne la proposition "j'observe Deimos (resp. Phobos) après avoir ouvert la cabine de reconstitution, est l'unique prédiction précise constatée par les deux copies, comme correcte dans les carnets des deux reconstitués. "(P et D)" n'est jamais vérifiée. "(P)" et "(D)" sont chacune vérifiées *et* démenties par au moins une des personnes reconstituées. Ceci montre l'existence d'un indéterminisme à la première personne, qui résulte paradoxalement du caractère hautement déterministe (mécaniste) de la situation. On voit ici que le déterminisme mécaniste à la troisième personne entraîne un indéterminisme du point de vue de la première personne (Marchal 1988).

Si on admet la thèse de Church, qui identifie le calculable avec le calculable par une machine (mathématique) de Turing, et tout le monde admet la thèse de Church (parfois sans le savoir), la notion de calculable est universelle, et cette universalité devient constructive: il existe des machines universelles. Les cerveaux, même les cellules, tout comme les ordinateurs, et de multiples réalisations physiques, en sont des exemples. Les interpréteurs de haut niveau, en informatique, sont des exemples mathématiques, capables d'être émulés par des sous-systèmes physiques, et de fait capable d'être dupliqués et transmis par une onde radio.

Une conséquence de cette universalité constructive est l'existence d'un programme générant, et exécutant, petits bouts par petits bouts à fin de ne pas se perdre dans un calcul qui ne termine pas (le prix de l'universalité) tous les programmes, ce qui comprend toutes les machineries universelles possibles). J'appelle un tel programme un déployeur universel.

Remarquons aussi qu'aucun sujet ne peut distinguer, à la première personne, s'il est émulé directement par un ordinateur physique, ou par un ordinateur virtuel, c-à-d lui-même émulé par un ordinateur physique. Ceci est une version moderne de l'argument du rêve bien connu des philosophes chinois et indien, et bien sûr des mystiques rationalistes grecques comme Platon.

Notons aussi que toutes les machines universelles digitales, de Turing ou non, savent s'émuler les unes les autres, et que l'arithmétique élémentaire a été démontrée être Turing universelle, et en fait la vérité arithmétique (même un très petit segment de cette vérité) émule arithmétiquement tous les calculs ou computation possibles. La vérité arithmétique contient un déployeur universel et son éxécution---le déploiement universel.

Gardons bien tout ceci à l'esprit, et imaginons à présent que notre univers physique, à supposé qu'il existe sous quelques formes primaires, soit capable d'exécuter, et donc sans jamais s'arrêter, un déployeur universel. Dans ce cas, vu l'impossibilité de connaître les délais de reconstitution ainsi que la nature réelle ou virtuelle du calcul qui nous supporte, si je dois prédire mon vécu subjectif face à n'importe-quelle expérience de physique, je dois, vu l'indéterminisme à la première personne, tenir compte de toutes les histories computationelles qui passent par mon état actuel, au départ de l'expérience physique, apparaissant (nécessairement) dans le déploiement universel (ici encore physique), et la prédiction de la suite de l'expérience doit être donnée par une mesure de probabilité sur toutes les extensions consistantes de mon état, générées dans le déploiement universel. Déjà dans ce cas, la physique est réduite à un calcul de probabilité sur l'indétermination computationelle à la première personne. Dans ce cas, malgré la supposition d'un univers physique ontologiquement primaire, la physique pratique est conceptuellement réduite aux mathématiques, et même, par la thèse de Church, à l'arithmétique, dont on a montré le caractère Turing-Universel. Une application du rasoir d'Occam pourrait être invoquée pour éliminer dès à présent l'hypothèse de l'univers primaire, sauf que l'extraction de la physique par ce calcul des probabilités, n'étant pas suffisamment avancée, elle requiert à ce stade une foi en le mécanisme que nous ne partageons pas nécessairement.

De fait, un matérialiste ou physicaliste convaincu, qui veut conserver l'hypothèse du mécanisme, peut encore argumenter que cela montre seulement que la conscience nécessite un petit univers physique, ou par petit on signifie incapable de calculer aucune portion pertinente---capable de changer le déterminisme/indéterminisme à la première personne---du déploiement universel.

Mais ceci est une échappatoire que l'on peut critiquer de plusieurs façons.

1) il utilise un engagement ontologique, quand il ne s'agit pas d'une réification de la notion d'existence, pour réfuter une théorie plus simple (C'est la critique du "God of the Gap", en l'occurence ici: Matter-of-the-Gap),

2) il attribue à l'esprit et la matière une capacité non Turing-émulable (différente de ce que l'on peut recouvrir par l'indéterminisme à la première personne),

3) en utilisant un raisonnement plus circonstancié qui dépasse le cadre de ce papier. Il s'agit de l'argument du graphe filmé. On peut consulter mes travaux, ou ceci est développé en détail. L'argument du graphe filmé montre explicitement la nécessité de rendre l'esprit non Turing émulable pour rendre le mécanisme et le matérialisme epistémologiquement compatible. (Marchal 1988, Marchal 2013).

3. L'interview de la machine universelle

Le raisonnement esquissé plus haut peut être formalisé en grande partie, et cela permet de montrer qu'il est accessible aux machines qui peuvent le trouver par elle-même, et qui de fait le trouvent dans tous les cas où elles s'introspectent suffisamment longtemps sur la question. Il n'est pas vraiment possible de détailler ceci sans considérations assez techniques, mais je vais tenter d'expliquer certains points clés.

Je dis qu'une machine croit à une proposition p si cette machine affirme p, dans son langage. J'écris "[]p" pour dire, dans le langage de la machine, que la machine affirme p. On sait depuis Gödel que l'arithmétique formelle est un langage Turing Universel, et donc " prouvable dans telle ou telle théorie arithmétique" est traduisible dans le langage de l'arithmétique---un fait bien connu mais qui requiert un gros travail pour être démontré proprement.

Je me limite à des machines rationnelles et consistantes (elles n'affirment pas le faux; dans son langage:

~[]f, ou <>t, avec <> abréviant

"~[]~", "~" symbolisant la négation, et "t" abréviant "~f", et bien sûr, "f" abrévie une proposition fausse, comme "0=1" dans le langage de l'arithmétique, par exemple. Comme la machine est rationnelle: affirmer est ici synonyme de prouver, croire, et même savoir (bien que la machine ne saura pas cela comme j'explique plus loin).

La croyance de la machine est dite rationnelle si elle valide la règle d'inférence MODUS PONENS, c'est-à-dire: lorsque la machine croit à A et croit à A->B, elle croit à B tôt ou tard, ou potentiellement, et que si, de surcroit, elle croit à toutes les tautologies du calcul propositionnel classique ainsi qu'à suffisamment de propositions de l'arithmétique élémentaire que pour être Turing universel, et donc à même de simuler tout ordinateur. Elle est platoniste en ce sens qu'elle croit à A v ~A (A ou non-A, quelque soit A proposition de l'arithmétique ou de son langage qui est supposé assez riche, comme l'arithmétique, pour se décrire elle-même ---à la troisième personne, notons).

On dira de plus que:

1) Elle est normale si elle croit qu'elle croit A quand elle croit A. Lorsqu'elle croit A elle croit ou va croire qu'elle croit A.

2) Elle est stable si elle croit A quand elle croit qu'elle croit A (l'inverse de la normalité).

3) Elle sait ou croit qu'elle est normale, c'est-à-dire qu'elle croit à []A -> [][]A, pour toute proposition A de son langage (elle croit que lorsqu'elle croit A elle va croire qu'elle croit A). "1)" dit que []A -> [][]A est vraie au sujet de la machine, et "3)" dit que non seulement c'est vrai, mais la machine va le croire et sait le justifier rationnellement.

La machine est supposée aussi savoir ou croire qu'elle est rationnelle, et donc elle croit à

[](A -> B) & []A) -> []B), ou, de façon équivalente, elle croit à

[](A -> B) -> ([]A -> []B), en vertu du caractère tautologique de l'équivalence entre

(A -> (B -> C) et (A & B) -> C, que le lecteur peut vérifier avec la méthode des tables de vérité.

(Savoir p) est définit, à la façon de Théétète, par ((croire p) & p), soit, dans son langage, pour chaque p particulier: []p & p. Cette notion de savoir va nous permettre de distinguer le "soi-même" à la troisième personne du "soi-même" à la première personne, comme promis plus haut pour le raffinement de la notion d'âme.

Nous avons que si la machine croit à (A -> B) alors elle croit à ([]A -> []B).

Preuve: si elle croit à (A -> B), alors elle croit à

[](A -> B) car elle est normale, mais elle croit aussi à

[](A -> B) -> ([]A -> []B), vu qu'elle croit qu'elle est rationnelle, donc

par la règle du modus ponens elle va croire à ([]A -> []B).

Imaginons à présent que la machine, pour une raison momentanément inconnue, se met à croire à une proposition du style:

K <-> ([]K -> St-Nicolas existe).

K affirme, ou est équivalente à: (si tu crois en moi, alors St-Nicolas existe). Dans ce cas on peut montrer que si la machine croit (hypothèse principale) à []St-Nicolas existe -> St-Nicolas existe, alors la machine va croire que St-Nicolas existe.

Preuve:

La machine va croire à K -> ([]K -> St-Nicolas-existe) (car A -> B est une conséquence logique de A <-> B).

Donc elle va croire []K -> []([]K -> []St-Nicolas-existe) (car elle est rationnelle et elle le sait), donc

elle va croire []K -> ([][]K -> []St-Nicolas-existe)

Par ailleurs la machine sait qu'elle est normale et donc elle croit à toutes les propositions de la forme

[]p -> [][]p, en particulier:

elle croit à []K -> [][]K, du coup (par normalité et calcul propositionnel)

elle croit à []K -> []St-Nicolas-existe (elle croit que si elle croit à K alors elle va croire à l'existence de St-Nicolas).

OK, mais elle croit aussi que si elle croit à l'existence de St-Nicolas, alors St-Nicolas existe, par l'hypothèse principale, du coup

elle croit à []K -> St-Nicolas existe (par simple calcul propositionnel),

OK, mais çà, c'est exactement ce que K affirme, donc elle croit à K, et donc

elle croit à []K, vu qu'elle est normale et croit en K, et comme on vient de voir qu'elle croit []K -> St-Nicolas existe,

elle croit que St-Nicolas existe, par la règle du modus ponens.

À présent, la proposition "St-Nicolas existe" n' aucun rôle particulier, et on peut faire le raisonnement identique avec n'importe quelle proposition à la place, par exemple le faux f:

Cela donne comme conséquence directe le second théorème d'incomplétude de Gödel: si une telle machine croit à une proposition K' <->([]K' -> f), alors si elle croit à []f -> f (qui est équivalente à ~[]f, ou encore <>t, la consistance de la machine), alors elle croit f. Autrement dit, si elle croit en sa consistance, elle est inconsistante.

Ceci montre que si une machine en vient à croire une proposition de type K', alors <>t -> ~[]<>t est vraie sur la machine.

Je dirai que la machine est modeste au sujet de p si elle croit p quant elle croit []p -> p. Si elle croit p, elle croit d'office à

q -> p, quelle que soit q, car (p -> (q -> p)) est une tautologie classique, donc on a toujours []p -> []([]p -> p).

Mais la machine est dite modeste si la réciproque est vraie. On dira que la machine sait qu'elle est modeste au sujet de p si elle croit à cette réciproque: c-à-d elle croit que []([]p -> p) -> []p au sujet de p. On dira qu'elle est modeste généralement, ou simplement modeste, si elle est modeste sur toute proposition p. Elle est "modeste" en ce sens qu'elle ne croit que sa prouvabilité ([]p) entraîne la vérité (p) seulement quand elle prouve p tôt ou tard.

Un raisonnement similaire montre que non seulement une telle machine va croire p dès lors qu'elle croit []p -> p, mais en fait la machine va croire à []([]p -> p) -> []p, et en particulier, avec f à la place de p, elle va croire à <>t -> ~[]<>t, et donc va croire que sa propre consistance entraîne sa propre incomplétude. Si on suppose la machine correcte, elle va savoir sa propre incomplétude, bien qu'elle ne saura même pas l'exprimer.

Un faiblesse dans la démonstration plus haut est qu'on exige que la machine croit à des propositions farfelues du type

K <-> ([]K -> p), avec p arbitraire, entraînant sa modestie générale. Mais en fait, Gödel (1931) a démontré que tel est bien le cas: toutes les machines capables d'addition et de multiplication, et croyant aux formules d'induction (voir ci-dessous) croient à de telles propositions auto-référentielles. Ce résultat est connu sous le nom de lemme de diagonalisation de Gödel. Elles savent prouver/croire au fait que leur consistance entraîne leur incomplétude.

Les axiomes d'induction déclarent que si F(x) est vrai pour le nombre 0, F(0), et si le fait que F(x) soit vrai pour n implique que F(x) soit vrai pour son successeur F(x+1), alors, à la façon d'une rangée infinie de domino tombant les uns sur les autres, la vérité de F(x) se propage sur tous les nombres naturels:

( F(0) & Pour-tout x (F(x) -> F(s(x)) ) -> Pour-tout x F(x),

où 0 est supposé dénoté au niveau intuitif le nombre zéro, et s(x) représente le successeur de x: le nombre x + 1. F(x) est n'importe quel formule avec une variable, comme être-premier(x), être-pair(x), ou autre propriété arithmétique utilisant les symboles non logique 0, +, *, et s. (Par exemple, être-pair(x) = il-existe y tel que x = s(s(0)) * y)

Le lemme de diagonalisation énonce que pour toute propriété (prédicat à une variable) P(x), on peut trouver une proposition K telle que la machine croit à K <-> P('K').

Si machine est correcte, c-à-d dire si []p -> p est vrai, ce que *nous* pouvons admettre pour des petites machines arithmétiques, elle peut *savoir*, au sens théététique donné plus haut, qu'elle est sujette à l'incomplétude dès lors qu'elle est consistante.

Notons que l'adéquation à la vérité, la correctitude, []p -> p, entraîne en particulier la consistance []f -> f, c-à-d ~[]f, c-à-d <>t. mais la réciproque n'est plus vraie, car si la consistance entraîne la non prouvabilité de la consistance, la consistance entraîne la consistance de l'inconsistance. Si la machine savait prouver/croire que []f -> f, par le fait qu'elle sous le joug de la diagonalisation, et ce qu'on a montré plus haut, elle croirait f. Donc ajouter []f comme nouvelle croyance pour la machine, ne lui permet ni de démontrer f, seulement []f. Elle devient incorrecte, vis-à-vis de l'interprétation standard de l'arithmétique, mais reste néanmoins toujours consistante.

<>t est vrai sur la machine, mais la machine ne sait pas le prouver. Et si elle croit aux axiomes d'induction, elle sait se justifier: elle croit <>t -> ~[]<>t.

On découvre que la vérité sur la machine dépasse la prouvabilité par la machine. Sa vérité est plus large que sa raison.

Notons que le lemme de diagonalisation de Gödel permet de prouver rapidement que la machine ne dispose même pas d'une définition de la vérité à son sujet, c-à-d sa correctitude. On exigerait bien sûr que la machine croit à Vrai(p) <-> p, mais alors la diagonalisation de Gödel sur ~V(x) donnerait une proposition k tel que la machine peut croire à k <-> ~V(k), mais comme elle croit aussi à k <-> V(k), elle serait menée à croire k et ~k, c'est-à-dire à f. La correctitude de la machine correcte est donc aussi de type vraie mais non prouvable, mais en plus elle est non expressible par la machine. De même que la machine sait prouver sa propre incomplétude, elle sait indirectement exprimer le caractère inexpressible, ineffable serions-nous tenter de dire, de la vérité, qui va de fait jouer le rôle de "Dieu" de la machine, ce qui est cohérent avec la notion de Dieu de Platon. Cela fera de la modestie la qualité de base de la science de la machine, science comprenant la théologie, que l'on peut définir par la vérité (prouvable ou non par la machine) sur la machine.

Depuis Gödel et Löb, de nombreux progrès ont été effectués, et deux théorèmes dus à Solovay ont montré l'existence de deux systèmes de logique modale capturant, l'un toute la logique (propositionnelle) de la prouvabilité de la machine que la machine est capable de justifier rationnellement sur elle-même, la logique G, et toute la logique (propositionnelle) des propositions modales *vraies* sur la logique de la prouvabilité de la machine: la logique G*. G et G* sont aussi appelée GL et GLS (pour Gödel, Löb, Solovay) dans la littérature. L'incomplétude est reflétée et précisée par le fait que que G* étend proprement la logique G. Elle justifie pour la machine le caractère transcendant de la vérité. La vérité autoréférentielle (G*) étend proprement la science autoréférentielle (G) de la machine.

La formule de modestie []([]p -> p) -> []p, qui résulte de la formalisation d'un méta-théorème due à Löb, qui généralise le théorème d'incomplétude de Gödel comme on a vu plus haut, est l'axiome modal principal des théories G et G*. G est une logique elle-même stable et normale, mais ne disposant pas de la formule de correctitude []p -> p. G* n'est pas une logique normale, ce qui s'explique par le fait que G* parle de la croyance-rationnelle/prouvabilité de la machine (et de G, en fait) et non pas de sa propre (à G*) prouvabilité. G* prouve <>t (la machine est consistante), mais G* ne prouve pas

[]<>t, vu que G* est consistant et prouve <>t -> ~[]<>t.

Cette distinction entre le croyable-rationnellement (prouvable) et le vrai est le trait distinctif de la machine auto-référentiellement correcte, c'est-à-dire correcte sur sa propre prouvabilité, consistance, etc.

Mais, et ceci est capital, cette distinction entre vrai et prouvable entraîne toute une série d'autres distinctions modales ou intentionnelles très importantes dans la théologie de la machine.

En effet, vu la modestie, on ne peut pas avoir []p -> p dans G, bien qu'on l'ait dans G*. []p -> p est vraie, mais la machine ne peut pas croire rationnellement à cette vérité. G* va prouver que []p est équivalent à []p & p, mais la machine est incapable de justifier rationnellement cette équivalence. Du coup, la définition de la connaissance de Théétète---connaître p = prouver p et p est vraie---fonctionne pour la machine: la logique de []p & p est différente de la logique de []p. Par exemple, ([]p & p) -> p est trivialement vraie et prouvable, par calcul propositionnel, mais []p n'implique pas p, par sa modestie. Cela permet d'associer à une machine auto-référentiellement correcte une logique de la connaissance ou de l'âme ou de la première personne (au stade présent ces notions sont identifiables). De fait la logique de []p & p obéit à une logique modale typique de la logique de la connaissance S4, et même à une logique plus particulière S4Grz, c-à-d S4 + l'axiome Grz, où Grz désigne une formule due à Grzegorczyk:

[]([](p -> []p) -> p)) -> p,

qui en fait ajoute une dimension temporelle (antisymétrique) dans la suite des états de connaissance de la machine. De même, on peut montrer que le connaisseur hérite du caractère de non définissabilité de la vérité: le sujet connaissant associé ainsi à la machine n'est pas définissable par la machine, ce qui est cohérent avec le fait que la machine ne peut pas connaître quelle machine elle est. On retrouve une notion d'âme très proche de celle des néoplatonistes (mais aussi des néopythagoriciens, de intuitionnisterouwer, du moine Zen Dogen, etc.).

Quid de la probabilité sur les extensions computationnelles consistantes (<>t) , dont on a besoin pour dériver les lois de la physique?

La physique est donné par les extensions calculables, que l'on peut modéliser dans l'arithmétique par des propositions arithmétiques dite sigma_1. Elles sont de la forme ExP(x) avec P décidable. Elles vérifient p -> []p, et de fait les résultat de complétude arithmétique de Solovay s'étendent sur G + p->[]p = G1 (1 désigne la formule p -> []p, 1 pour sigma_1), et G1*. Le lecteur peut se convaincre que si la proposition ExP(x) est vraie, avec p décidable (mécaniquement testable), alors il peut la prouver: il suffit de tester p sur 0, 1, 2, ... jusqu'au moment on on trouve un nombre qui vérifie la proposition, et si la proposition est vraie, tôt ou tard il le saura. En fait être à même de prouver les propositions sigma_1 vraies est suffisant pour être Turing universel.

Donc les trois nuances intentionnelles (modales) suivantes, font aussi sens grâce à l'incomplétude:

[]p & p (déjà rencontrée),

[]p & <>t,

[]p & <>t & p,

La consistance <>t rajoute la condition nécessaire pour avoir une notion de probabilité. On dit que la probabilité d'avoir 6 en lançant un dé est de 1/6 seulement parce qu'on présuppose l'existence d'une réalité ou le résultat sera obtenu, et l'existence d'une réalité peut être montrée équivalente à la consistance (un résultat aussi obtenu par Gödel pour une large classe de machines et théories formelles).

Et de fait les trois nuances donnent une logique quantique lorsqu'on restreint l'interprétation de la variable propositionnelle p à des propositions sigma_1, c-à-d calculable et accessible par le déployeur universel. Je rappelle que j'écris G1 pour la logique

G + p -> []p, et G1* pour sa logique de la vérité à ce sujet. On peut montrer que G1* = G* + p -> []p

Cela nous donne en tout cinq nuances intentionnelles, dont 3 héritent du saut théologique entre G et G*:

p (la vérité 'brute"):

[]p (la prouvabilité, croyance rationnelle) qui splitte en 2 (G1 et G1*)

[]p & p (la connaissance, l'âme, la première personne) ne splitte pas (S4Grz1 =S4Grz1*)

[]p & <>t (la probabilité, la prédictibilité, l'observable) (splitte en Z1 et Z1*)

[]p & <>t & p (la sensibilité) (splitte en X1 et X1*)

Ces logiques donnent une façon d'interpréter dans la langage de la machine, ou dans l'arithmétique, les 5 hypothèses positives du Parménide, et de retrouver l'interprétation intuitive suggérée par les néopythagoriciens (Moderatus de Gadès)

G* \ G, (c-à-d les théorèmes de G* non prouvable par G: lire G* moins G) et plus généralement les logiques Z1* \ Z1, X1* \ X1, représentent le surrationnel. Ce sont des propositions vraies, concernant la prouvabilité, ou l'observabilité ou le sensible qui ne sont pas prouvables ou justifiables par la machine rationnelle, mais néanmoins sont accessibles par la machine, en ce sens que G* est décidable (Solovay 1976). Au delà c'est l'irrationnel, le faux, et la machine universelle distingue le rationnel du surrationnel, dès qu'on lui donne une habilité minimale d'inférence inductive/induction.

Le surrationnel peut se référer à des propositions théologiques, mais aussi psychologiques. En fait les logiques X1* \ X1 donnent une notion de qualia (la qualité incommunicable du vécu subjectif), et en fait donne une logique quantique, faisant des quantas une notion à la première personne, confirmant en large part les conclusions de l'argument du déploiement universel (mais aussi de la mécanique quantique de H. Everett (sans réduction de l'onde).

On retrouve les cinq hypothèses affirmatives du Parménide de Platon, en tout cas sous l'interprétation qu'en donne les néopythagoriciens (Moderatus de Gadès) ou néoplatoniste (Plotin):

UN/DIEU

INTELLIGIBLE/Noùs (2)

ÂME

MATIÈRE INTELLIGIBLE (2)

MATIÈRE SENSIBLE (2)

Les nombres se réfère au splitting du prouvable/vrai, expliquée plus haut. Cela fait huit modes d'appréhension de soi correspondant aux notions:

LA VERITE

LA PREUVE RELATIVE (CROYANCE, justifiable + non justifiable, intellect terrestre, intellect divin)

LA CONNAISSANCE (PERSONNELLE, PRIVEE)

L'OBSERVABLE (justifiable + non justifiable)

LE SENSIBLE (justifiable + non justifiable)

L'incomplétude force la machine à distinguer de son point de vue, non seulement ces cinq nuances de la vérité auquel elle peut accéder, mais elle sépare trois d'entre elles, l'INTELLIGIBLE, la MATIÈRE INTELLIGIBLE et la MATIÈRE SENSIBLE, en deux: elles contiennent des vérités non justifiables rationnellement par la machine), ce qui donne en tout huit théories mathématiques, équivalentes pour DIEU ou l'intellect divin, mais prouvablement non équivalentes pour la machine elle-même sauf à conditionner le raisonnement par des (méta)-hypothèses de consistance, de Mécanisme ou de réflexion.

Tout comme la machine consistante, qui est incapable de justifier sa consistance, sait quand même justifier que SI elle est consistante ALORS elle ne sait pas justifier sa consistance, elle peut aussi expliquer que si elle est consistante, l'observabilité de la vérité est injustifiable. C'est déjà un début de justification par la machine de l'antique argument du rêve des indiens et des platoniciens.

Ces sauts entre vérité et prouvabilité ne sont pas étonnants, ce qui est étonnant est que l'ÂME ne saute pas là-dessus. L'INTELLECT DIVIN est en harmonie avec L'INTELLECT TERRESTRE (le raisonneur discursif de Plotin) sur la logique de l'âme qui se connaît elle-même. Cette âme est incapable de se donner un nom ou une quelconque description à la troisième personne d'elle-même. L'âme de la machine est une machine seulement du point de vue de Dieu, la machine est correcte de ne pas croire qu'elle est une machine, de son point de vue à la première personne.

Le théorème de Gödel (<>t -> ~[]<>t) est souvent utilisé par des philosophes (comme Lucas) ou même des physiciens (comme Penrose) pour affirmer que nous ne sommes pas des machines, mais en fait, comme Emile Post l'avait déjà réalisé, tout ce que le théorème de Gödel permet de conclure est que si nous sommes des machines digitales ou digitalisable, alors nous ne pouvons pas connaître (donc de façon rationnelle) la machine que nous sommes, et a fortiori quelles computations, et machines universelles, nous supportent. On retrouve formellement un indéterminisme à la première personne, et la probabilité (le calcul bâtard du Timée de Platon, ou de la matière de Plotin qui corrige la théorie d'Aristote) peut être définie de cette façon en adjoignant la consistance <>t. Cela justifie que la logique de la probabilité UN, la quasi-certitude en matière de prédiction sur les extensions computationellement accessibles, soit donnée par la logique de la variante intentionnelle []p & <>t. Ceci est aussi justifié, comme annoncé plus haut, par le théorème de complétude de Gödel (1930) qui relie la consistance (<>t) avec l'existence d'un modèle, ou d'une extension consistante de la machine.

La machine ne sait pas savoir quelle machine elle est, en fait elle ne peut pas savoir qu'elle est une machine, mais elle peut savoir que SI elle est une machine alors elle ne peut pas savoir quelle machine elle est, ni quelle machine universelle la supporte parmi les infinités qui existent dans l'arithmétique. Comme elle ne sait pas prouver sa consistance, la logique de []p & <>t sur les propositions accessibles par le déployeur universel, c-à-d les propositions sigma_1 est bien différente de la logique de la connaissance ou de la prouvabilité.

Le raisonnement cité plus haut peut être donc être abstrait et formellement décrit dans l'arithmétique, et en terme de l'arithmétique, si bien que la logique modale de la probabilité UN dans les expériences d'automultiplication est donnée par []p & <>t, avec p sigma_1. Ceci donne effectivement une logique quantique, avec une quantisation raisonnable, qui généralise en fait la formulation d'Everett de la mécanique quantique: on obtient ainsi une interprétation canonique des "mondes multiples" de la physique quantique, sous la forme d'interprétation interne de l'arithmétique en terme de "rêves multiples", où un rêve est un calcul ou computation vue à la première personne donnée par une des trois nuances décrites plus haut.

Immortalité quantique et immortalité computationelle. De même que dans la physique de Hugues Everett, il n'est plus possible de mourir à la première personne: en effet parmi l'infinité de calculs qui nous supportent, il en existe toujours qui nous prolonge, et la sélection faite par la nuance modale []p & <>t, ou même []p & p, avec p sigma_1, élimine les mondes ou calculs ou nous n'existons plus, ce qui annonce le caractère vain de l'immortalité technologique.

4. Transhumanisme: inévitable, mais théologiquement vain

J'aborde à présent quelque réflexions générales sur le transhumanisme à la lueur des conséquences de l'hypothèse mécaniste digitale.

L'obligation du droit de dire NON au docteur. Cette éthique est justifiée par le fait que s'il existe un niveau de substitution mécaniste auquel on peut survivre à la substitution fonctionnelle digitale, personne ne peut garantir l'adéquation d'un tel niveau, et si le docteur utilise un argument du genre "la science a démontré que vous allez survivre à tel niveau", le docteur est prouvablement inconsistant. Dire oui au docteur requiert un acte de foi et la théotechnologie transhumaniste est authentiquement et proprement théologique, son discours, si explicité, appartient à G* \ G, que l'on peut communiquer scientifiquement mais seulement sur base d'un méta-principe ou acte de foi d'auto-consistance ou d'auto-correctitude mécaniste, qui n'appartient à personne d'imposer à quiconque. Ceci est d'autant plus vrai que le mécanisme lui-même, ou même rien que la thèse de Church, n'est pas scientifiquement prouvable, même si cela est scientifiquement pariable, mais rien de plus. En ce sens le mécanisme est semblable à l'auto-consistance: vrai (par définition ici) mais non prouvable, pas même axiomatisable ou assertable. Le mécanisme est ainsi un droit personnel, pieds et poings liés au droit à croire sa négation. On a le droit de refuser la proposition du docteur digitaliste.

Dangers inhérents, et devoir du docteur d'en faire part et de prévenir des risques possibles. Il existe déjà à l'heure actuelle des sociétés, comme ALCOR, qui, moyennant une certaines somme d'argent s'engagent à cryogéniser le corps, ou seulement la tête (c'est moins cher ...) et cela jusqu'à ce qu'une technique de réimplémentation, physiquement réelle ou virtuelle, soit au point. Outre qu'on peut craindre ici une supercherie, cela est assez dangereux. Cela revient à dire oui à tous les docteurs du ou des futurs, indépendamment de l'éventuelle qualité technique du produit. Tout est laissé dans la main du docteur qui peut être tenté, pour sa recherche personnelle de commencer par des très hauts niveaux de substitution. Survivre peut sembler souhaitable a priori, mais peut-être pas au prix de perdre des qualités essentielles que l'on attribue à notre conscience et mémoire. Un docteur digitaliste pourrait ne pas tenir compte des cellules gliales, qui semblent aujourd'hui jouer un rôle dans les douleurs chroniques.

Un autre danger et que l'information n'est pas a priori cryptée, et si un docteur est sans scrupules et/ou a des gros problèmes financiers, il pourrait vendre des copies à des sadiques ou Dieu sait quoi. Personnellement je n'utiliserais pas ce genre de technique sans garantie d'un très sérieux cryptage (quantique) de mon "nombre de Gödel" afin de prévenir la possibilité de copiage de l'information qui me constitue.

Vain mais inéluctable. Imaginez que je vous donne le choix entre deux pilules, une rouge et une bleue. La pilule rouge vous rend immortel. La pilule bleue élimine la peur de la mort. Que choisisseriez-vous? Beaucoup choisissent la pilule rouge, mais change d'avis lorsqu'ils réalisent que bien qu'immortel, ils ne pourront pas le savoir, et avoir peur de la mort pendant un temps infini n'est peut-être pas vraiment désirable. De plus, la présente théorie suggère que la machine universelle est vierge, non encore programmée, est maximalement consciente et intelligente, notamment par absence ou minimisation des préjugés. Plus un cerveau est gros, plus il est à même de proférer des sottises. Une immortalité technologique nécessite un cerveau grossissant à l'infini (une machine digitale finie de taille bornée ne peut accéder qu'à un nombre fini d'états et donc finira par boucler si elle travaille pendant un temps illimité), et donc elle sera à même de développer une infinité de préjugés et énoncer une infinité de sottises. La singularité dont parlent souvent les transhumanistes, n'est pas le moment où la machine sera plus intelligente que l'homme (elle l'est déjà) mais lorsque la machine sera aussi stupide que l'homme. Seul un animal avec un gros cortex est capable de médire sur ses compagnons, ou de les lyncher.

En fait si quelqu'un dispose d'un cerveau artificiel, il aura probablement plus de plaisir à éliminer de la mémoire qu'à en rajouter. Les reports d'expérience faite avec la salvinorine (le composé psycho-actif de la plante mexicaine Salvia divinorum) suggère que l'on peut rester conscient en perdant toute mémoire déclarative, y compris la mémoire sur le temps et l'espace, et même sur la notion de personne, cette conscience semble même être agréable: il s'agit d'une expérience de type OBE (out-of-body experience; expérience de sortie hors du corps) sauf qu'il s'agit d'une sortie de l'univers-espace-temps, (réelle ou vécue comme telle) dans laquelle on réalise qu'on peut être conscient hors temps (ce qui dit en passant pourrait poser un problème au Mécanisme Digital, même s'il s'agit d'une hallucination (!) qui à l'instar de la philosophie de Brouwer associe la conscience au temps.

La théorie décrite plus haut, qui n'est que la théorie que la machine universelle (platoniste) découvre en s'introspectant et en restant auto-référentiellement correcte, suggère que notre identité personnelle est une illusion, et que la nature nous a déjà rendu immortel, par la reproduction naturelle (de la duplication de l'amibe à la reproduction sexuelle), mais en utilisant le rafraîchissement de l'amnésie et de la mort naturelle. Vraisemblablement, nos extensions consistantes dans les calculs parallèles implémentent de même des amnésies et vraisemblablement de sauts qualitatifs vers des états alternés de conscience. Les reports de NDE, les reports d'expérience mystiques, comme un certain nombre de reports d'expériences avec la plante Salvia divinorum, suggèrent l'existence de sauts entre des réalités numériquement semblables mais qualitativement différentes, accompagnées d'amnésie temporaire, ou de dissociations temporaires. L'informatique théorique suggère de tel "sauts" aussi, et il se pourrait que la réalité arithmétique, nécessairement transcendante pour les créatures localement finies, nous laisse présager un bardot-thodol arithmétique passablement compliqué.

Le transhumanisme est cependant inéluctable, car il est naturel, et résulte de notre instinct de survie programmé ou engrammé par des millions d'années d'évolution biologique. La théotechnologie est une limite "naturelle" de la biotechnologie. Nous accepterons un cerveau artificiel digital, non pas dans le but de nous immortaliser, mais pour voir, plus prosaïquement la prochaine coupe de football. À terme cela nous permettra de nous étendre dans notre voisinage cosmique.

Le Mécanisme Digital entraîne de toute façon l'immortalité (immortalité intuitive avec le déployeur universel, ou formel avec la théologie de la machine universelle). En terme bouddhiste, on voit que l'immortalité technologique ne fait que prolonger et étendre le Samsâra (pour utiliser le vocabulaire bouddhiste), et postpose, à l'infini (en principe) l'accession possible au Nirvana. Elle prolonge à l'infini le développement du "petit ego" dont pourtant la sagesse nous invite à nous débarrasser, ce qui conduit à une forme d'immortalité "ici et maintenant", qui est bien moins vaine. Ce "petit-ego" est vain, le produit de la vanité humaine, et la source de la souffrance humaine que la théotechnologie risque de prolonger.

En réalité, la théologie mathématique (arithmétique) de la machine universelle de Turing permet de montrer de façon précise que la capacité cognitive à entrevoir la possibilité de survivre avec un cerveau digital artificiel est la même que celle qui permet de comprendre que l'on est déjà immortel, que l'ego est une illusion, etc. mais comme je le dis plus haut, nos descendants accepteront le cerveau artificiel, partiel puis complet, seulement pour voir une coupe de football de plus ou pour voir grandir leurs arrière-arrière-arrière petits-enfants, ou pour accepter un travail sur une planète lointaine.

Finalement, je pense que le transhumanisme, et l'humanisme en général, bénéficieront de la théologie des machines principalement sur un autre niveau: le retour à la rigueur et à la modestie dans le domaine théologique, et la non prétention à la vérité, incluant l'important droit de refuser l'opération du docteur.

Un arrêt de la séparation artificielle entre théologie et science en découlera, ainsi qu'un retour de la théologie non confessionnelle à la faculté des sciences. Cela favorisera l'affaiblissement de l'exploitation de la crédulité et de la peur, en religion mais aussi dans le domaine de la santé, où la prohibition des médicaments montrent l'importance du problème (voir mon texte "Mensonge et traumatisme").

Même si la physique réfute la théologie des machines, celle-ci donne une théologie étalon permettant de mesurer le non computationalisme, et peut être un outil utile en théologie comparative.

Il se peut que l'attitude scientifique *soit* l'attitude religieuse (mais cette équivalence serait dans G* \ G, et donc ne peut être pris pour axiome sans "blasphémer" (le blasphème ici peut-être défini comme une confusion entre G et G*). C'est bien le Dieu de la machine (la vérité arithmétique) qui force la modestie de la machine quand à sa relation avec cette vérité.

Croire au Mécanisme Digital est une croyance religieuse (aux sens de la théologie des machines, l'acte de foi mécaniste appartient à G* \ G. Cela implique l'éthique du droit de dire "non" au docteur digitaliste. Le transhumanisme est un droit fondamental, mais il ne peut être imposé par personne, ni individu, ni état ou autre collectivité, sous peine d'inconsistance.

Bibliographie

Il existe un livre récréatif introduisant à la logique G:
R. Smullyan. Forever Undecided. Knopf, New York, 1987.

L'usage incorrect du théorème de Gödel en philosophie de l'esprit:
J. R. Lucas , 1961, Minds, Machines and Gödel, Philosophy, vol. 36, pp. 112-127.

On peut consulter le très bon livre de Torkel Franzèn sur ces utilisations incorrectes (ce qui ne veut pas dire qu'elles sont nécessairement inintéressantes):
T. Franzèn. Gödel’s Theorem, An Incomplete Guide to its Use and Abuse. A. K. Peters, Natick, Massachusetts, 2005.

Notons que ces subtilités ont été déjà comprises par Emile Post, qui avait aussi anticipé la thèse de Church-Turing, et le théorème de Gödel.
E. Post. Absolutely unsolvable problems and relatively undecidable propositions : Account of an anticipation.
In Davis [below], pages 338–433, 1922.
M. Davis, editor. The Undecidable. Raven Press, Hewlett, New York, 1965.

Un excellent traité sur G, G* et S4Grz est le livre de George Boolos, l'édition 1979 suivi par une bien plus volumineuse extension en 1993.
G. Boolos. The Unprovability of Consistency, an Essay in Modal Logic, Cambridge University Press,1979.

Le papier clé:
R. M. Solovay. Provability Interpretation of Modal Logic. Israel Journal of Mathematics, 25 :287–304, 1976.

Sur la mécanique quantique sans réduction de l'onde:
H. Everett, III. The Theory of the Universal Wave Functions, dans DeWitt & Graham 1973, pp. 3-140.
H. Everett, III. "Relative State" Formulation of Quantum Mechanics, Review of Modern Physics, Vol. 9, N° 3, pp. 454-462.(also in DeWitt and Graham, 1973), 1957.
B. S. Dewitt and N. Graham (Eds) The Many-Worlds Interpretation of Quantum Mechanics, Princeton Series in Physics NJ, 1973.

Une version de l'argument du Déployeur Universel se trouve ici (SANE 2004, Amsterdam 2004).:
http://iridia.ulb.ac.be/~marchal/publications/SANE2004MARCHALAbstract.html

Le problème du graphe filmé est dans
B. Marchal. Informatique théorique et Philosophie de l'Esprit. Acte du congrès de l'Association pour la Recherche en Sciences Cognitives ARC, Toulouse, 1988.

ainsi que
B. Marchal. The computationalist reformulation of the mind-body problem, Progress in Biophysics and Molecular Biology 113 (2013), pp. 127-140
B. Marchal. Calculabilité, Physique et Cognition. Thèse de doctorat en Sciences Informatiques, Université de Lille,
Département d’informatique, Lille, France, 1998. Publié aux Éditions Universitaires Européennes, 2010.

Pour l'aspect théologique:
B. Marchal. La Machine Mystique. Logique et Analyse, 218 :165–183, 2012.

Ou mon papier sur Plotin accessible sur ma page web: http://iridia.ulb.ac.be/~marchal/

Le PDF est ici http://iridia.ulb.ac.be/~marchal/publications/CiE2007/SIENA.pdf

Dont la référence est:
B. Marchal. A Purely Arithmetical, yet Empirically Falsifiable, Interpretation of Plotinus’ Theory of Matter. In Barry Cooper S. Löwe B., Kent T. F. and Sorbi A., editors, Computation and Logic in the Real World, Third Conference on Computability in Europe June 18-23, pages 263–273. Universita degli studi di Sienna, Dipartimento di Roberto Magari, 2007.

Un papier plus technique exposant des problèmes ouverts, mais abordant la question théologique:
B. Marchal. The Universal Numbers. From Biology to Physics, Progress in Biophysics and Molecular Biology, 2015, Vol. 119, Issue 3, 368-381.

Une présentation en ligne à la seconde conférence virtuel de Dialogue entre Sciences et Théologie: DIALOGO, 2015:
http://www.dialogo-conf.com/archive/?vid=1&aid=2&kid=170201-30

Sur la prohibition qui illustre l'inconsistance criminogène de la politique mondiale de la santé et le manque de rigueur en science humaine:
B. Marchal. Mensonge et traumatisme. Les carnets du CEPSYa, Université Libre de Bruxelles, à paraître 2016.