Le dépassement « sur-humain » par amélioration et augmentation génétique, qu’on vient d’évoquer dans un billet récent (« Dépasser l’humain »), garde encore un certain lien avec la « nature humaine », telle qu’elle est définie par l’ADN. Mais voilà qu’une autre forme de dépassement fait irruption: le dépassement « post-humain »; le remplacement de l’homme par ce que d’aucuns ont appelé le « Successeur », à base d’IA et de silicium, et le dépassement des capacités de la pensée humaine, par des formes impensables d’IA…
Je
dis ‘impensable’ car l’apprentissage
machine (‘machine
learning’),
le
traitement statistique de très grandes bases de données (Big
Data),
et nombre
de
programmes d’IA ‘fonctionnent’
et
produisent des ‘résultats’ sans
qu’on puisse expliquer
pourquoi (effet
‘boite
noire’).
La
raison
humaine est
ainsi,
pour partie, dépossédée
par ses propres créations.
Elle
se voit
effectivement
‘dépassée’
par des algorithmes et
des ‘programmes’,
dont on ne peut
pas dominer rationnellement a
priori
tous
leurs
cheminements, ni toutes
leurs
dérives possibles. On
peut
seulement
constater qu’ils
ont
de meilleurs résultats
que les experts
humains
confrontés
aux mêmes problèmes.
Ce
‘dépassement’ (même
partiel) de
la pensée humaine par
quelque
IA
future
influera-t-il
l’avenir
même
de
la pensée humaine, son
jugement sur sa propre essence?
La
pensée humaine
est-elle
aujourd’hui
capable de
penser la
nature et la complexité
des
futures
interactions
avec
les
formes
d’IA
qui
pourraient émerger à l’avenir, dans un but de ‘prévention’
ou de calcul des risques?
Elle
est
déjà
obligée de se
doter de programmes
que
l’on pourrait appeler de
méta-IA pour
tenter de
suivre et décrypter les
cheminements des
arbres de décision des
apprentissages-machines.
Il
en résulte
des
formes troublantes de métissage ou d’hybridation entre
raison humaine et post-humaine,
où les deux parties jouent un rôle propre, et
dont
les interactions à
long terme sont
paraissent
indécidables.
Les
neurosciences éclairent ce débat d’une lumière particulière.
Marvin
Minsky, pionnier
de l’IA a
conclu,
après des années de recherche et d’expérimentation, à
l’inexistence chez
l’Homme d’un Soi unifié : il parle
d’une « société de l’esprit », composée de
millions d’unités diversifiées.
Francisco
Varela,
spécialiste
des neurosciences
cognitives et
théoricien de la vie artificielle,
se
veut plus radical
encore.« L‘esprit
n’est pas une machine»,
et il
est fragmenté, divisé, pluriel…« La
vie créesans
cesse ses
propres formes, par
auto-poièse.
Une
cellule n’existe
que parce qu’elle fabriqueen
permanence les
conditions de son
identité
et de son autonomie :
elle
garantit l’invariance de son organisation interne dans un flux
constant de perturbations.
Elle appréhende le réel qui
l’entoure à
travers sa
propre
cohérence interne, qui
n’est pas matérielle mais systémique.»i
Varela
voit
là une forme élémentaire
de
‘conscience de
soi’, basée sur la reconnaissance entre le dedans et le dehors.
De
là,
on
peut induire
d’autres
formes
‘émergentes’ de conscience aux
divers
niveaux systémiques
composant un
organisme complexe…
Nous
sommes composés de
« consciences »
plurielles…
Comment
penser
la
coexistence et
la cohérence de
ces
multiples formes de conscience ? Se hiérarchisent-elles ?
Y
a-t-il un fondement
unifié de ces
consciences,
les
‘dépassant‘
toutes?
Peut-on
garantir
l’unité
transcendantale du
sujet ?
Ou
faut-il
se
résigner à concevoir
une
conscience éclatée,
une
multiplicité de points de vue
hétérogènes,
labiles, autonomes ?
Varela
affirme que les
sciences cognitives n’ont trouvé qu’une conscience divisée,
fragmentée, plurielle, alors qu’elles étaient
parties
à la recherche d’un Soi fondamental, d’une
conscience
du
soi, fondant
l’unité
de l’esprit.
Il
se dit en conséquence adepte
de l’approche bouddhiste – il
n’existe pas de Soi unifié, pas de fondement ultime de la
conscience, c’est la pensée qui
nous pense, et
nous sommes victimes de l’illusion de
la souveraineté de la conscience et la raison.
Mais
si
‘la pensée me pense’, si je ‘suis pensé’ par des
processus internes
dont
ma conscience ne
représente
qu’une pellicule extérieure,
le
sentiment de dépassement n’est-il
qu’une
illusion
?
Cette
illusion
est-elle
nécessaire pour
affirmer une
autre illusion, celle de la
souveraineté du Soi, alors que
d’autres phénomènes inconscients
restent à l’œuvre, plus
en profondeur?
Quels
sont ces autres phénomènes inconscients, toujours à l’oeuvre?
Varela a
expliqué comment
il en avait réalisé la permanence:
« Ce
fut un coup de foudre. Je me suis dit: « Qu’est-ce que tu
peux être con ! Tu travailles sur l’esprit, et tu es passé à
côté de ton propre esprit ! (…)
Observez
un cafard, il court sur le sol, puis, sans transition, monte un mur
et se retrouve au plafond.
Les notions d’horizontale, de verticale, d’envers, n’ont
absolument pas le même sens pour lui que pour nous. Son monde mental
n’a rien à voir avec le nôtre. Peut-être l’imagine-t-il plat ?
Cette différence ne vient pas de son minuscule cerveau. Pour le
comprendre, il vaut mieux regarder ses pattes. Pendant des années,
j’ai étudié les deux mille cinquante-trois senseurs de la
deuxième patte du milieu d’un cafard ! L’insecte agit dans le
monde sans aucune prévision sur l’environnement. Il le fabrique,
il le construit, et s’y adapte depuis la nuit des temps.
Aujourd’hui, dans le cadre de la vie artificielle, on construit des
robots sur le modèle de l’insecte, sans cerveau central mais avec
des senseurs.»ii
La
métaphore du cafard s’applique à l’esprit, selon Varela.
L’esprit
est comme un cafard mental, doté de millions de pattes, ou bien
comme une myriade de cafards indépendants qui courent, montent,
volent et descendent non sur des ‘murs’ et des ‘plafonds’
mais dans diverses représentations ‘immanentes’ du monde… Ces
cafards mentaux et multiples contribuent ce faisant à créer de
nouveaux murs, de nouveaux plafonds, ou bien creusent des tunnels
inattendus dans des représentations mouvantes sans réel cerveau
central.
« L’organisme
et l’environnement s’enveloppent et se dévoilent mutuellement
dans la circularité fondamentale qu’est la vie même. » résume
Varela.
Mondes
et créatures, environnements et organismes, sont co-dépendants, ils
ne cessent de co-évoluer. La réalité est ‘dépassée’ par le
jeu libre des créatures qui évoluent en son sein, et qui ‘s’y
dépassent’, comme résultat d’une auto-invention, d’un
auto-dévoilement, en constant couplage épigénétique avec
l’environnement.
« On
n’apprend ça nulle part dans la philosophie occidentale, dit
Varela. Seul le bouddhisme n’a jamais cherché à trouver un
fondement ultime à l’esprit, qui serait le rationalisme. Le
bouddhisme ne croit ni en Dieu, ni en un absolu de la pensée
humaine. L’expérience bouddhiste de la méditation nous enseigne
au contraire que l’ego, le soi, peuvent se désinvestir de leur
arrogance et de leur hantise du fondement et du savoir absolu, et
qu’ainsi nous vivrons mieux. »iii
Le
‘post-humain’ tel que préfiguré par l’IA, la Vie Artificielle
et les neurosciences cognitives, à la façon de Varela, semble
conduire à favoriser la métaphore bouddhiste.
Il
y a d’autres métaphores possibles.
Par
exemple, le mouvement transhumaniste, avec l’appui de moyens
médiatiques, techniques et financiers considérables, semble rêver
d’une nouvelle conception de l’homme, d’une nouvelle religion, et
d’une nouvelle eschatologie…
Google
a
créé une société de biotechnologies nommée Calico
(California Life Company),
qui vise explicitement
à en finir avec la mort
elle-même…
S’il
faut en croire Google, les
sciences et les technologies seraientsur
le point de permettre à l’espèce humaine
de « dépasser » la
mort,
soit en
rendant
le corps
invulnérable
(l’homme
bionique, la
manipulation
génomique),
soit en
s’en
débarrassant
(cyborg,
dématérialisation et
téléchargement de
la « conscience »).
Les
corps humains
seraient
en sursis, déjà obsolètes
:
ce ne sont que des
carcasses
dont il faudra
se
débarrasser
à terme.
Ray Kurzweil prédit les débuts de cette épopée pour 2030.
Jean-Michel
Besnier, dans son livre Demain
les post-humainsiv
rappelle
que ce type de matérialisme et de réductionnisme n’est pas nouveau.
Pour les matérialistes
du 18è siècle,
« le
dualisme âme/corps était une absurdité dont il fallait se
débarrasser, la conscience étant selon eux produite exclusivement
par la matière. Spontanément les neurobiologistes contemporains
rejoignent cette opinion. Il existe une matière cervicale,
neuronale, productrice de la conscience, c’est pour eux une donnée
positive qui n’amène plus de débat philosophique. »
« Les
transhumanistes souhaitent purement et simplement la disparition de
l’humain. Ils sont dans l’attente de quelque chose d’autre, de
quelque chose de radicalement nouveau, qu’ils appellent la
singularité,
un posthumanisme
qui
succédera
à une
humanité révolue. Il n’y a plus de place pour une position
médiane et une séparation de plus en plus large et irréductible
est en train de se faire jour entre d’un côté
les technoprogessistes qui
attendent le posthumain, et de l’autre les bioconservateurs qui
entendent sauver l’humain. »
Besnier
conclut qu’il ne faut plus chercher à « dépasser »
l’humain. Il prône au contraire une « sagesse ordinaire »,
« faite de comportements de sobriété, de simplicité, et de
méfiance à l’égard des gadgets dont on inonde le marché. »
« Je
ne vois de remède que dans une réconciliation de l’homme avec
lui-même, dans le fait d’accepter notre fragilité, notre
vulnérabilité. L’homme ne peut évidemment rivaliser avec la
puissance de calcul informatique mais il jouit d’autres formes
d’intelligence. Je pense que nous ne devons pas fuir notre
fragilité mais en faire la source-même de notre privilège. »
Cette
« sagesse ordinaire » peut-elle l’emporter face aux
déchaînements du post-humanisme et du trans-humanisme? Avons-nous
besoin de pensées ordinaires ou extraordinaires?
Varela
invoquait Bouddha. Les trans-humanistes convoquent Teilhard de
Chardin en appui à leurs idées… mais en détournant sa pensée…
Jean-Michel
Truong, dont le livre Totalement inhumaine emprunte son titre
à une expression de Teilhard de Chardin (en en prenant l’exact
contre-pied)v,
annonce le proche avènement du ‘Successeur’, un être artificiel
doté d’un cerveau planétaire capable de se dupliquer à l’infini et
de dépasser l’Homme.
Le
‘Successeur’ sera capable d’embarquer sur « un nouvel esquif »vi
intergalactique. «Commencée avec l’homme, son odyssée bientôt
se poursuivra sans lui.» La vie a été fondée sur la chimie du
carbone, mais rien ne dit qu’elle doive continuer d’être enchaînée
à l’ADN. L’intelligence n’a pas nécessairement besoin
d’organismes biologiques, pensent les transhumanistes. Pourquoi ne
serait-il pas possible de créer d’autres réceptacles pour la
recevoir et la propager?
« Je
ne dis pas que le Successeur provoquera notre fin, mais seulement
qu’il nous « survivra » précise Truong. Mais surtout,
l’avènement de ce Successeur est une bonne nouvelle pour l’humanité,
qui garde ainsi l’espoir que quelque chose d’humain survive en cette
chose totalement inhumaine ».
Teilhard pensait certes que la conscience, une fois apparue dans le Cosmos, devait nécessairement survivre, envers et contre tout, mais pensait-il que l’’évolution devrait continuer la « cosmogénèse » et la formation de la Noosphère grâce au ‘téléchargement’ de la conscience humaine sur des puces de silicium ? …
Peut-on
‘penser’ que de l’humain puisse survivre et se dépasser dans de
l’inhumain?
iFrancisco
Varela définit
ainsi
l’autopoïèse : « Un système autopoïétique est
organisé comme un réseau de processus de production de composants
qui (a) régénèrent continuellement par leurs transformations et
leurs interactions le réseau qui les a produits, et qui (b)
constituent le système en tant qu’unité concrète dans l’espace
où il existe, en spécifiant le domaine topologique où il se
réalise comme réseau. Il s’ensuit qu’une machine autopoïétique
engendre et spécifie continuellement sa propre organisation. Elle
accomplit ce processus incessant de remplacement de ses composants,
parce qu’elle est continuellement soumise à des perturbations
externes, et constamment forcée de compenser ces perturbations.
Ainsi, une machine autopoïétique est un système à relations
stables dont l’invariant fondamental est sa propre organisation
(le réseau de relations qui la définit). »
Autonomie
et connaissance. Essai
sur le vivant.
Seuil, 1889, p. 45
iihttp://fredericjoignot.blog.lemonde.fr/2007/09/19/lesprit-nest-pas-une-machine-rencontre-avec-le-neurobiologiste-francisco-varela-un-des-peres-de-la-recherche-cognitive/
iiiFrancisco
Varela. Ibid.
ivGrasset,
1993
vPierre
Teilhard de Chardin. Le milieu divin. Œuvres complètes,
Tome IV. Seuil. p. 199. « L’attente du Ciel ne saurait vivre que
si elle est incarnée. Quel corps donnerons-nous à la nôtre
aujourd’hui ? Celui d’une immense espérance totalement
humaine. »
viJ.M.
Truong cite à ce
propos Teilhard de
Chardin. « Sauf à supposer le monde absurde, il est
nécessaire que la conscience échappe, d’une manière ou d’une
autre, à la décomposition dont rien ne saurait préserver, en fin
de compte, la tige corporelle ou planétaire qui la porte. »
Pierre Teilhard de
Chardin. Le
phénomène humain.
Seuil, 1955
Partage (et 'agitprop' ...) :
WordPress:
J’aime chargement…