Le dépassement « sur-humain » par amélioration et augmentation génétique, qu’on vient d’évoquer dans un billet récent (« Dépasser l’humain »), garde encore un certain lien avec la « nature humaine », telle qu’elle est définie par l’ADN. Mais voilà qu’une autre forme de dépassement fait irruption: le dépassement « post-humain »; le remplacement de l’homme par ce que d’aucuns ont appelé le « Successeur », à base d’IA et de silicium, et le dépassement des capacités de la pensée humaine, par des formes impensables d’IA…

Je dis ‘impensable’ car l’apprentissage machine (‘machine learning’), le traitement statistique de très grandes bases de données (Big Data), et nombre de programmes d’IA ‘fonctionnent’ et produisent des ‘résultats’ sans qu’on puisse expliquer pourquoi (effet ‘boite noire’).

La raison humaine est ainsi, pour partie, dépossédée par ses propres créations. Elle se voit effectivement ‘dépassée’ par des algorithmes et des ‘programmes’, dont on ne peut pas dominer rationnellement a priori tous leurs cheminements, ni toutes leurs dérives possibles. On peut seulement constater qu’ils ont de meilleurs résultats que les experts humains confrontés aux mêmes problèmes.

Ce ‘dépassement’ (même partiel) de la pensée humaine par quelque IA future influera-t-il l’avenir même de la pensée humaine, son jugement sur sa propre essence?

La pensée humaine est-elle aujourd’hui capable de penser la nature et la complexité des futures interactions avec les formes d’IA qui pourraient émerger à l’avenir, dans un but de ‘prévention’ ou de calcul des risques?

Elle est déjà obligée de se doter de programmes que l’on pourrait appeler de méta-IA pour tenter de suivre et décrypter les cheminements des arbres de décision des apprentissages-machines.

Il en résulte des formes troublantes de métissage ou d’hybridation entre raison humaine et post-humaine, où les deux parties jouent un rôle propre, et dont les interactions à long terme sont paraissent indécidables.

Les neurosciences éclairent ce débat d’une lumière particulière.

Marvin Minsky, pionnier de l’IA a conclu, après des années de recherche et d’expérimentation, à l’inexistence chez l’Homme d’un Soi unifié : il parle d’une « société de l’esprit », composée de millions d’unités diversifiées.

Francisco Varela, spécialiste des neurosciences cognitives et théoricien de la vie artificielle, se veut plus radical encore.« L‘esprit n’est pas une machine», et il est fragmenté, divisé, pluriel…« La vie créesans cesse ses propres formes, par auto-poièse. Une cellule n’existe que parce qu’elle fabriqueen permanence les conditions de son identité et de son autonomie : elle garantit l’invariance de son organisation interne dans un flux constant de perturbations. Elle appréhende le réel qui l’entoure à travers sa propre cohérence interne, qui n’est pas matérielle mais systémique.»ⁱ

Varela voit là une forme élémentaire de ‘conscience de soi’, basée sur la reconnaissance entre le dedans et le dehors. De là, on peut induire d’autres formes ‘émergentes’ de conscience aux divers niveaux systémiques composant un organisme complexe… Nous sommes composés de « consciences » plurielles…

Comment penser la coexistence et la cohérence de ces multiples formes de conscience ? Se hiérarchisent-elles ? Y a-t-il un fondement unifié de ces consciences, les ‘dépassant‘ toutes?

Peut-on garantir l’unité transcendantale du sujet ?

Ou faut-il se résigner à concevoir une conscience éclatée, une multiplicité de points de vue hétérogènes, labiles, autonomes ?

Varela affirme que les sciences cognitives n’ont trouvé qu’une conscience divisée, fragmentée, plurielle, alors qu’elles étaient parties à la recherche d’un Soi fondamental, d’une conscience du soi, fondant l’unité de l’esprit.

Il se dit en conséquence adepte de l’approche bouddhiste – il n’existe pas de Soi unifié, pas de fondement ultime de la conscience, c’est la pensée qui nous pense, et nous sommes victimes de l’illusion de la souveraineté de la conscience et la raison.

Mais si ‘la pensée me pense’, si je ‘suis pensé’ par des processus internes dont ma conscience ne représente qu’une pellicule extérieure, le sentiment de dépassement n’est-il qu’une illusion ? Cette illusion est-elle nécessaire pour affirmer une autre illusion, celle de la souveraineté du Soi, alors que d’autres phénomènes inconscients restent à l’œuvre, plus en profondeur?

Quels sont ces autres phénomènes inconscients, toujours à l’oeuvre?

Varela a expliqué comment il en avait réalisé la permanence: « Ce fut un coup de foudre. Je me suis dit: « Qu’est-ce que tu peux être con ! Tu travailles sur l’esprit, et tu es passé à côté de ton propre esprit ! (…) Observez un cafard, il court sur le sol, puis, sans transition, monte un mur et se retrouve au plafond. Les notions d’horizontale, de verticale, d’envers, n’ont absolument pas le même sens pour lui que pour nous. Son monde mental n’a rien à voir avec le nôtre. Peut-être l’imagine-t-il plat ? Cette différence ne vient pas de son minuscule cerveau. Pour le comprendre, il vaut mieux regarder ses pattes. Pendant des années, j’ai étudié les deux mille cinquante-trois senseurs de la deuxième patte du milieu d’un cafard ! L’insecte agit dans le monde sans aucune prévision sur l’environnement. Il le fabrique, il le construit, et s’y adapte depuis la nuit des temps. Aujourd’hui, dans le cadre de la vie artificielle, on construit des robots sur le modèle de l’insecte, sans cerveau central mais avec des senseurs.»ⁱⁱ

La métaphore du cafard s’applique à l’esprit, selon Varela.

L’esprit est comme un cafard mental, doté de millions de pattes, ou bien comme une myriade de cafards indépendants qui courent, montent, volent et descendent non sur des ‘murs’ et des ‘plafonds’ mais dans diverses représentations ‘immanentes’ du monde… Ces cafards mentaux et multiples contribuent ce faisant à créer de nouveaux murs, de nouveaux plafonds, ou bien creusent des tunnels inattendus dans des représentations mouvantes sans réel cerveau central.

« L’organisme et l’environnement s’enveloppent et se dévoilent mutuellement dans la circularité fondamentale qu’est la vie même. » résume Varela.

Mondes et créatures, environnements et organismes, sont co-dépendants, ils ne cessent de co-évoluer. La réalité est ‘dépassée’ par le jeu libre des créatures qui évoluent en son sein, et qui ‘s’y dépassent’, comme résultat d’une auto-invention, d’un auto-dévoilement, en constant couplage épigénétique avec l’environnement.

« On n’apprend ça nulle part dans la philosophie occidentale, dit Varela. Seul le bouddhisme n’a jamais cherché à trouver un fondement ultime à l’esprit, qui serait le rationalisme. Le bouddhisme ne croit ni en Dieu, ni en un absolu de la pensée humaine. L’expérience bouddhiste de la méditation nous enseigne au contraire que l’ego, le soi, peuvent se désinvestir de leur arrogance et de leur hantise du fondement et du savoir absolu, et qu’ainsi nous vivrons mieux. »ⁱⁱⁱ

Le ‘post-humain’ tel que préfiguré par l’IA, la Vie Artificielle et les neurosciences cognitives, à la façon de Varela, semble conduire à favoriser la métaphore bouddhiste.

Il y a d’autres métaphores possibles.

Par exemple, le mouvement transhumaniste, avec l’appui de moyens médiatiques, techniques et financiers considérables, semble rêver d’une nouvelle conception de l’homme, d’une nouvelle religion, et d’une nouvelle eschatologie…

Google a créé une société de biotechnologies nommée Calico (California Life Company), qui vise explicitement à en finir avec la mort elle-même…

S’il faut en croire Google, les sciences et les technologies seraientsur le point de permettre à l’espèce humaine de « dépasser » la mort, soit en rendant le corps invulnérable (l’homme bionique, la manipulation génomique), soit en s’en débarrassant (cyborg, dématérialisation et téléchargement de la « conscience »).

Les corps humains seraient en sursis, déjà obsolètes : ce ne sont que des carcasses dont il faudra se débarrasser à terme. Ray Kurzweil prédit les débuts de cette épopée pour 2030.

Jean-Michel Besnier, dans son livre Demain les post-humains^iv rappelle que ce type de matérialisme et de réductionnisme n’est pas nouveau. Pour les matérialistes du 18è siècle, « le dualisme âme/corps était une absurdité dont il fallait se débarrasser, la conscience étant selon eux produite exclusivement par la matière. Spontanément les neurobiologistes contemporains rejoignent cette opinion. Il existe une matière cervicale, neuronale, productrice de la conscience, c’est pour eux une donnée positive qui n’amène plus de débat philosophique. » 

« Les transhumanistes souhaitent purement et simplement la disparition de l’humain. Ils sont dans l’attente de quelque chose d’autre, de quelque chose de radicalement nouveau, qu’ils appellent la singularité, un posthumanisme qui succédera à une humanité révolue. Il n’y a plus de place pour une position médiane et une séparation de plus en plus large et irréductible est en train de se faire jour entre d’un côté les technoprogessistes qui attendent le posthumain, et de l’autre les bioconservateurs qui entendent sauver l’humain. »

Besnier conclut qu’il ne faut plus chercher à « dépasser » l’humain. Il prône au contraire une « sagesse ordinaire », « faite de comportements de sobriété, de simplicité, et de méfiance à l’égard des gadgets dont on inonde le marché. »

« Je ne vois de remède que dans une réconciliation de l’homme avec lui-même, dans le fait d’accepter notre fragilité, notre vulnérabilité. L’homme ne peut évidemment rivaliser avec la puissance de calcul informatique mais il jouit d’autres formes d’intelligence. Je pense que nous ne devons pas fuir notre fragilité mais en faire la source-même de notre privilège. »

Cette « sagesse ordinaire » peut-elle l’emporter face aux déchaînements du post-humanisme et du trans-humanisme? Avons-nous besoin de pensées ordinaires ou extraordinaires?

Varela invoquait Bouddha. Les trans-humanistes convoquent Teilhard de Chardin en appui à leurs idées… mais en détournant sa pensée…

Jean-Michel Truong, dont le livre Totalement inhumaine emprunte son titre à une expression de Teilhard de Chardin (en en prenant l’exact contre-pied)^v, annonce le proche avènement du ‘Successeur’, un être artificiel doté d’un cerveau planétaire capable de se dupliquer à l’infini et de dépasser l’Homme.

Le ‘Successeur’ sera capable d’embarquer sur « un nouvel esquif »^vi intergalactique. «Commencée avec l’homme, son odyssée bientôt se poursuivra sans lui.» La vie a été fondée sur la chimie du carbone, mais rien ne dit qu’elle doive continuer d’être enchaînée à l’ADN. L’intelligence n’a pas nécessairement besoin d’organismes biologiques, pensent les transhumanistes. Pourquoi ne serait-il pas possible de créer d’autres réceptacles pour la recevoir et la propager?

« Je ne dis pas que le Successeur provoquera notre fin, mais seulement qu’il nous « survivra » précise Truong. Mais surtout, l’avènement de ce Successeur est une bonne nouvelle pour l’humanité, qui garde ainsi l’espoir que quelque chose d’humain survive en cette chose totalement inhumaine ».

Teilhard pensait certes que la conscience, une fois apparue dans le Cosmos, devait nécessairement survivre, envers et contre tout, mais pensait-il que l’’évolution devrait continuer la « cosmogénèse » et la formation de la Noosphère  grâce au ‘téléchargement’ de la conscience humaine sur des puces de silicium ? …

Peut-on ‘penser’ que de l’humain puisse survivre et se dépasser dans de l’inhumain?

iFrancisco Varela définit ainsi l’autopoïèse : « Un système autopoïétique est organisé comme un réseau de processus de production de composants qui (a) régénèrent continuellement par leurs transformations et leurs interactions le réseau qui les a produits, et qui (b) constituent le système en tant qu’unité concrète dans l’espace où il existe, en spécifiant le domaine topologique où il se réalise comme réseau. Il s’ensuit qu’une machine autopoïétique engendre et spécifie continuellement sa propre organisation. Elle accomplit ce processus incessant de remplacement de ses composants, parce qu’elle est continuellement soumise à des perturbations externes, et constamment forcée de compenser ces perturbations. Ainsi, une machine autopoïétique est un système à relations stables dont l’invariant fondamental est sa propre organisation (le réseau de relations qui la définit). » Autonomie et connaissance. Essai sur le vivant. Seuil, 1889, p. 45

iihttp://fredericjoignot.blog.lemonde.fr/2007/09/19/lesprit-nest-pas-une-machine-rencontre-avec-le-neurobiologiste-francisco-varela-un-des-peres-de-la-recherche-cognitive/

iiiFrancisco Varela. Ibid.

ivGrasset, 1993

vPierre Teilhard de Chardin. Le milieu divin. Œuvres complètes, Tome IV. Seuil. p. 199. « L’attente du Ciel ne saurait vivre que si elle est incarnée. Quel corps donnerons-nous à la nôtre aujourd’hui ? Celui d’une immense espérance totalement humaine. »

viJ.M. Truong cite à ce propos Teilhard de Chardin. « Sauf à supposer le monde absurde, il est nécessaire que la conscience échappe, d’une manière ou d’une autre, à la décomposition dont rien ne saurait préserver, en fin de compte, la tige corporelle ou planétaire qui la porte. » Pierre Teilhard de Chardin. Le phénomène humain. Seuil, 1955