S’il est un terme qui revient systématiquement à l’évocation des promesses technologiques actuelles, c’est celui de transhumanisme – à savoir, cette idéologie du dépassement de la nature humaine par la technologie. Celui-ci fait désormais florès, que ce soit en fin d’éditorial sur l’intelligence artificielle, lors d’un reportage sur la médecine réparatrice ou dans un rapport sur l’ingénierie génétique.
Toujours, la perspective de la fin de l’humanité sinon celle du travail, le mirage de l’immortalité ou encore l’espoir d’une fusion salutaire entre l’Homme et la machine alimentent tous types d’appels à la régulation et d’admonestations éthiques, repris en cœur dans le paysage médiatique français comme autant de litanies post-modernes. Or, pour dénoncer les vraies erreurs scientifiques de ceux qui profitent de ce business du mythe, il s’agit de ne pas se tromper de procès.
Une humanité à deux vitesses ?
Le transhumanisme subit le tir croisé de bons et de mauvais procès. Dans cette dernière catégorie, le plus courant consiste à dire que seuls les plus riches auront accès aux technologies augmentatives (implants neuronaux, prothèses bioniques voire modifications génétiques), leur conférant un avantage concurrentiel indéniable sur le reste de la population. Faux procès puisque les technologies sur lesquelles les transhumanistes portent leurs espoirs, regroupées sous l’acronyme NBIC, (nanotechnologies, biotechnologies, informatique et sciences cognitives) progressent à un rythme exponentiel proportionnel à l’effondrement de leur coût. L’exemple le plus marquant est celui du coût du séquençage de l’ADN – le premier de ce genre ayant été finalisé en 2003 après quinze ans de recherches pour une dépense de deux milliards d’euros. Ce même exercice se réalise aujourd’hui en quelques heures pour moins de 750 €.
Le coût des technologies de pointe s’effondre en effet grâce à plusieurs phénomènes. En raison, d’abord, d’économies d’échelles dues à une augmentation de la production technologique procédant de celle de la demande. De même, les innovations croisées dans les méthodes de productions – terme qui désigne le fait que les progrès dans un domaine permettent des innovations dans un autre – donnent lieu à des observations remarquables : citons par exemple la réalisation, par Joel Gibbard, d’une prothèse de main grâce à une imprimante 3D. Imprimable en une quarantaine d’heures seulement, cette prothèse coûte un peu moins de 1 370 € contre des tarifs habituellement compris entre 41 000 à 82 000 €.
Dans le même ordre d’idée, on associe souvent l’eugénisme – cette volonté de modifier le patrimoine génétique humain – transhumaniste à celui d’autres idéologies totalitaires. La sélection des embryons ou la modification de son propre génome ne serait pourtant pas l’apanage des régimes inégalitaires : Luc Ferry considère au contraire, dans La Révolution transhumaniste, qu’elle permettrait la réalisation de l’utopie égalitaire. Après avoir gommé autant que possible les sources d’inégalités socialement construites, l’ultime bastion de l’inégalité entre les individus demeure, puisque l’on ne choisit pas son génome. « From Chance to Choice » serait alors le slogan tout désigné d’une société où la liberté des individus à s’autodéterminer ferait office de valeur universelle.
L’intelligence humaine bientôt dépassée ?
Le Professeur Laurent Alexandre, très entendu sur le thème de l’intelligence artificielle (IA), invoque régulièrement le risque d’une humanité dépassée dans tous les domaines par la puissance technologique.
Kevin Kelly, essayiste et co-fondateur du magasine Wired, s’attaque à cette idée dans un article publié en avril 2017. Il y démontre que l’idée de l’avènement d’une intelligence technologique supérieure en tout point à la nôtre n’est que le produit d’une série d’erreurs scientifiques pourtant largement répandues dans la Silicon Valley. En réalité, les erreurs attachées à l’intelligence artificielle trahissent une incompréhension de ce qu’est l’intelligence d’une manière générale. Par exemple, la vision unidimensionnelle de l’intelligence, pourtant reprise par Nick Bostrom, transhumaniste et auteur de Superintelligence, s’avère poser problème. Il n’existe pas d’échelle d’évolution sur laquelle puisse se situer de successives formes d’intelligences. L’intelligence, au contraire, est pluridimensionnelle et non linéaire, c’est-à-dire que chaque type de cognition répond à un besoin spécifique (lié à l’adaptation d’un système biologique à son environnement).
Certes, des programmes d’IA sont d’ores et déjà imbattables en calcul, aux échecs ou au jeu de Go. Il est à admettre qu’aucun être humain n’a la mémoire nécessaire pour retenir tout Wikipédia, comme l’a fait le superordinateur Watson d’IBM pour vaincre le champion du monde de Jeopardy! dans une séquence largement relayée par les médias. Mais l’intelligence humaine est-elle réellement mesurable à cette aune ? Un écureuil peut retenir la localisation exacte d’un millier de cachettes à noisettes pendant toute sa vie : cet animal est-il pour autant plus intelligent que notre voisin qui n’a de cesse d’égarer ses clés ? Kevin Kelly revendique l’idée qu’il ne saurait exister d’intelligence absolue, dite de general purpose. La question du sens, ou de la fonction de l’intelligence, est primordiale.
En effet, chaque type de cognition a une fonction au sens physiologique comme cela a été démontré par les neuroscientifiques modernes (Antonio Damasio par exemple). La question du support (corps carboné versus puces en silicium) conditionne et « donne un sens » à la nature profonde d’une intelligence. Sans corps biologique, l’intelligence artificielle ne peut se comparer à la nôtre. Il en découle que le type de cognition attaché au corps biologique humain ne permet pas de retenir des terra octets de données par cœur. En revanche, lui seul sait donner un sens à chacune des phrases d’un livre, sens qui résulte des liaisons neuronales complexes ramenant chaque concept à une sensation de plaisir ou de déplaisir inhérente à la neurophysiologie humaine.
L’intelligence humaine restera ainsi toujours la seule adaptée à un contexte proprement humain. Si elle peut avoir utilité des applications dérivées du machine learning, celles-ci ne sauraient rester que des outils mis à notre disposition. Bien que leur complexité donne à ces outils les formes de certains types de cognitions avancées (calcul, déduction, analyse, synthèse, etc.), l’intelligence humaine sera toujours nécessaire pour redonner un sens proprement humain à leurs produits.
Le nouveau business du mythe : entre marketing de la peur et logique d’escalade
Il conviendrait dès lors de relayer les prophéties d’une super-intelligence artificielle au rang de mythes fondés sur nombre de biais et d’erreurs scientifiques. Il se trouve pourtant que derrière les discours apocalyptiques qui s’en nourrissent peuvent se cacher d’importants intérêts économiques.
Entretenus par Hollywood et renforcés par l’entremise de tribunes, ces mythes permettent de faire monter l’anxiété dans l’opinion, à grand renfort de tweets annonciateurs de l’extinction prochaine de l’humanité. Encore récemment (4 septembre 2017), le très populaire dirigeant de Tesla, Elon Musk, annonçait que la compétition pour créer une IA supérieure déclenchera une troisième guerre mondiale.
Des propos qui font écho à ceux de nos techno-prophètes hexagonaux qui déplorent le retard et les valeurs conservatrices d’une Europe, en retard sur le terrain des technologies NBIC. Ici, on agite le spectre de la supériorité chinoise et américaine pour justifier la course à l’armement technologique. « Nous ne les convaincrons pas de devenir conservateurs, alors que fait-on ? Acceptons-nous d’être déclassés, de devenir les Amish du XXème siècle, en défendant nos valeurs ? […] Il est urgent de prendre la mesure de l’ampleur de cette révolution » écrit ainsi Laurent Alexandre, dont le dernier livre s’intitule La Guerre des Intelligences.
L’horizon indépassable de ce conflit annoncé a pour effet paradoxal de nous précipiter dans une logique d’escalade pour la dominance technologique. Pour pallier l’absence de concertation internationale à un niveau étatique sur ces enjeux, certains intérêts privés s’allient. En septembre 2016, Amazon, Facebook, Google, Deepmind, Microsoft, IBM, s’unissaient dans un consortium technologique nommé Partnership on AI. Bientôt rejoints par Apple, ces géants du digital affichent vouloir s’entendre sur une utilisation éthique de l’IA.
Insuffisant pour Elon Musk, qui a fait savoir par tweets interposés aux patrons de Google et de Facebook qu’ils ne prenaient pas la perspective de l’avènement d’une super-intelligence à sa juste mesure. Un an auparavant, il créait lui-même une association à but non lucratif destinée à promouvoir la recherche favorisant « une IA à visage humain » nommée Open AI. Après deux ans de recherche, la conclusion de l’industriel est sans appel : « Il est urgent d’hybrider nos cerveaux avec des micro-processeurs, avant que l’intelligence artificielle nous transforme en animaux domestiques ».
Il est fort à parier qu’avec de tels discours, les sommes investies dans Open AI trouveront la voie de la rentabilité : Neuralink, nouvelle start-up dévoilée par Elon Musk le 28 mars 2017, propose à ses clients de rester dans la course à l’intelligence grâce à ses implants intracérébraux connectés (disponibles d’ici cinq ans selon les dernières annonces).
Une nécessaire prise de recul
Il est nécessaire de prendre un certain recul épistémologique ainsi que d’être conscients de nos biais culturels si nous voulons faire le tri entre les effets d’annonce, les promesses démiurgiques et la réalité des avancées scientifiques, entre les questionnements légitimes et le marketing de l’anxiété.
Les avancées technologiques des NBIC portent en effet des promesses importantes dont il ne sera possible de profiter qu’une fois nos imaginaires débarrassés de nombre de fantasmes qui y sont rattachés. Il ne s’agit pas de refuser d’emblée les implants intracérébraux, la thérapie génique, les prothèses bioniques ou la sélection des cellules souches, mais de rester vigilants quant au rôle systémique des usages qui en sera fait. Dans un récent rapport, les Vendredis de la Colline énoncent un principe thérapeutique selon lequel doit se refuser le dopage et la mutilation d’un corps sain qui souhaiterait s’augmenter : prenons le cas d’un athlète qui demanderait à se sectionner les jambes pour pouvoir porter des prothèses en carbone, plus performantes. Le principe thérapeutique est une boussole importante pour éviter de nombreuses dérives, mais il doit être intégré à une vision systémique plus large. En effet il importe également que ne soit pas banalisé le recours à la thérapeutique quand cette dernière ne fait que pallier les carences d’une démarche préventive efficiente. Par exemple, le recours aux implants pancréatiques ne doit pas se substituer à une prévention globale contre le diabète de type II, dont on connaît les liens avec le mode de vie et l’environnement social.
Prendre du recul, discuter de la fonction et des usages, tel pourrait être le rôle d’une Convention of Parties (COP) digitale autour des sujets du numérique et de l’humain, idée pour laquelle milite notamment le Professeur Guy Vallancien. Sans doute est-ce un moyen d’éviter la logique d’escalade dans laquelle nous précipitent les businessmen du techno-frisson.
Crédit photo : Jessie Hodge
