Dans les craintes et réticences causées par les évolutions technologiques de plus en plus rapides, se distingue celle d’aller trop loin dans la fabrication de l’intelligence artificielle, et de ne plus maîtriser nos propres créations.

 

Il suffit de se pencher sur les œuvres littéraires et cinématographiques dites de science-fiction depuis l’apparition du genre pour se rendre compte qu’en règle générale, une leçon se détache du discours des leurs créateurs, celle qu’à force de vouloir « jouer à Dieu », l’Homme risque d’outrepasser son pouvoir.
Ainsi, nombre de ces œuvres font l’exposé d’inventions qui échappent à leurs créateurs, que ce soit dans Le Cycle des robots roman culte de Isaac Asimov dans lequel les robots finissent par régir la Terre sans même que les humains ne s’en aperçoivent réellement , ou dans 2001 L’odyssée de l’espace de Stanley Kubrick.

De la même façon, la plus récente série télévisée Black mirrors est construite autour de saisons composées d’épisodes narrativement indépendants, mais présentant un point commun thématique : celui d’une vision assez sombre des différents aspects de la technologie, et des risques potentiels de son développement.

L’Homme tente d’aller toujours plus loin dans le développement technologique à son service mais aussi de l’intelligence artificielle donc, mais en a dans un même temps une certaine crainte.

A l’inverse, le transhumanisme est un courant qui propose d’utiliser la technologie pour augmenter et optimiser les capacités de l’Homme, plutôt que de développer celles des machines.

Dans une ère où nous nous faisons de plus en plus assister par la technologie, certains réfléchissent ainsi à tous les moyens pour l’Homme de dépasser sa condition et ses failles biologiques. Pour, peut-être, ne pas ainsi se laisser distancer par une robotique qui devient de plus en plus humaine, en accélérant l’évolution des corps humains par la robotique.
Pour mieux appréhender cette course à l’évolution, il faut donc se pencher sur ces deux concepts, celui de l’intelligence artificielle et celui du transhumanisme, sur leurs promesses et leurs dérives potentielles.

 

 

L’intelligence artificielle

 

• – Créer le robot à son image

Le terme même d’intelligence artificielle apparaît dans les années 50, imaginé par l’un des principaux pionniers des recherches la concernant, John McCarthy. Souvent abrégée IA ou AI en anglais, l’intelligence artificielle est un concept qui permettrait aux robots, et plus généralement aux systèmes informatiques, de jouir de capacités intellectuelles égales voire supérieures à celles des êtres humains, y compris de l’ordre des sentiments.
Marvin Lee Minsky, contemporain de McCarthy, la définit ainsi :

« la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisante par des êtres humains car elles demandent des processus mentaux de haut niveau tels que : l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique », et des tests utilisant des standards ont été développés à la même époque par Alan Turing pour déterminer le degré de « conscience » d’une machine.

Depuis les années 50, la recherche dans ce domaine n’a jamais ralenti, et a effectué des progrès considérables, ainsi qu’elle a fait naître un grand nombre de réfléxions philosophiques et d’œuvres créatives.

Cinquante ans après la naissance de la discipline donc, des projets tels que Blue Brain en 2005, qui vise à simuler le cerveau des mammifères, sont en pleine expansion. Ce projet, qui a vu le jour à L’Ecole Polytechnique Fédérale de Lausanne et est animé par une équipe de trente-cinq chercheurs en informatique, mathématiques, biologie et chimie, a pour but de fabriquer de toutes pièces un cerveau électronique reprenant les structures et le fonctionnement du cerveau humain. En 2008, une première étape fondamentale a été réalisée, avec la modélisation de 10 000 neurones virtuels connectés entre eux par 30 millions de syapses et quelques kilomètres de fibre. Le laboratoire a même annoncé que le premier cerveau artificiel serait disponible d’ici à trois ans.

Le but de cette opération est surtout de pouvoir demander à terme à ce super-ordinateur qui possédera plus de puissance que n’importe quelle intelligence à ce jour, de recouper toutes les publications concernant les avancées scientifiques notamment en neurosciences, afin de faire avancer les recherches beaucoup plus rapidement.

 

• – L’élève dépassant le maître

Les risques du développement d’une telle intelligence sont aisément imaginables, et ont été maintes fois traitées dans les réflexions philosophiques des deux derniers siècles, nourrissant comme nous l’avons évoqué de nombreuses œuvres cinématigraphiques et littéraires.

La crainte principale exposée par ces penseurs est celle de la perte de contrôle des robots ainsi créés. En effet, si l’Homme parvenait à donner une « âme » et surtout une intelligence qui ne tarderait pas à dépasser la sienne propre, à des organismes ne dépendant pas de sa condition physique précaire, de quel droit pourrait-il ensuite prétendre à lui donner des ordres, alors qu’il lui serait nettement inférieur ?

 

Le statisticien Irving John Good décrit ainsi un avenir potentiellement imaginable : « supposons qu’existe une machine surpassant en intelligence tout ce dont est capable un homme, aussi brillant soit-il. La conception de telles machines faisant partie des activités intellectuelles, cette machine pourrait à son tour créer des machines meilleures qu’elle-même ; cela aurait sans nul doute pour effet une réaction en chaîne de développement de l’intelligence, pendant que l’intelligence humaine resterait presque sur place. Il en résulte que la machine ultra intelligente sera la dernière invention que l’homme aura besoin de faire, à condition que ladite machine soit assez docile pour constamment lui obéir. »

 

C’est cette docilité qui est régulièrement remise en question dès les prémices des recherches sur l’intelligence artificielle : dans son cycle de romans Les robot, Isaac Asimov imagine pour pallier à cela trois règles mises en place dans n’importe quel système informatique pour que l’Homme puisse conserver sa suprématie :

– Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.

– Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.

– Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi.

Ces trois règles, appelées « lois de la robotiques », et reprises par la suite dans d’autres œuvres comme le film I.A., intelligence artificielle de Steven Spielberg, sont même intégrées à une charte sur l’éthique des robots visant à fixer des normes pour les utilisateurs et les fabricants, et mise en place en 2007 par le gouvernement sud-coréen.

 

• Miroir, mon beau miroir…

Au-delà des intérêts scientifiques évoqués par le projet Blue Brain, l’on peut évidemment se demander où se situe l’intérêt de créer un robot à l’image de l’Homme et au fonctionnement identique. En construisant le robot à son image, avec ses failles, l’humain semble jouer au créateur narcissique, cherchant à comprendre son propre fonctionnement, et pas toujours conscient des risques encourus.

Il est cependant très tentant d’imaginer des créatures avec qui l’on pourrait communiquer, capables de comprendre nos sentiments, qui seraient dociles, le propre de l’Homme se situant aussi dans sa volonté de tout domestiquer et sa soif de pouvoir.

D’autres systèmes sont cependant imaginables pour pallier à ce besoin de reconnaissance et d’obéissance : dans Interstellar de Christopher Nolan, sont par exemple pour la première fois imaginés des robots capables de dialoguer et de tenir compagnie à une équipe de chercheurs, mais donc le degré d’empathie et d’humour serait totalement paramétrable. Bien sûr, ceux-ci ne seraient donc pas réellement capables de tels sentiments, mais programmés ; mais ceci résoudrait le problème du conflit identitaire tout en donnant à l’Homme l’objet auquel s’attacher dont il a besoin. Car au final, l’impression d’avoir un égal contrôlable pourrait suffire aux désirs de l’Homme.
Le transhumanisme

 

• – Plus forts que la mort

Le transhumanisme prend aussi racine dans la volonté de l’Homme d’aller plus loin dans la création et la technologie. C’est ici l’objet qui change : l’on ne parle plus de construire des sujets interagissant avec l’humain, mais d’utiliser les moyens technologiques exisants pour sublimer la condition humaine même.

Le transhumanisme n’est pas une création récente, qui pourrait être datée. En effet, si l’accélération des découvertes technologiques ont déterré des envies d’immortalité, l’idée n’est pas neuve, puisque les philosophes considèrent qu’elle prend racine dès l’Antiquité. L’Homme aurait toujours tenté de prolonger sa vie, d’améliorer sa condition physique, d’ainsi défier la mort et la diminution de lui-même. Les moyens technologiques actuels et ayant fait leur apparition ces dernières décennies accentuent seulement un tel phénomène, en permettant la réalisation de beaucoup de fantasmes.

Le transhumanisme a plusieurs raisons d’être, et bien évidemment plusieurs degrés. Si dans la série télévisée Real humans, une communauté transhumanisme se crée autour d’individus appréciant à ce point les robots qu’ils souhaitent à la fois leur ressembler physiquement et les aider à devenir l’égal des hommes, il s’agit bien plus généralement d’une volonté au contraire de dépasser le robot, de rendre l’humain plus puissant, de ne pas garder la technologie pour la robotique.

Dans Real Humans toujours, d’autres individus se regroupent avec la volonté contraire de détruire les robots qui selon eux commencent à prendre trop de place dans la société, et à prendre surtout celle de l’Homme, en constituant une main-d’œuvre peu chère et plus efficace. C’est cette peur des limites biologiques de l’Homme qui fait naître l’envie de les dépasser. Nous parlons ici des limites physiques, mais le risque est aussi au niveau de l’intellectualité : si le robot créé dépasse son créateur, à quoi sert encore ce dernier ?

Que ce soit en réaction aux progrès de la robotique ou dans une volonté de combattre le côté mortel inhérent à l’humain et ses limites, l’Homme a donc développé des théories transhumanistes dans lesquelles, pour le journaliste Stéphane Le Méné, « ce n’est plus l’erreur qui est humaine mais l’humain qui est une erreur. », une erreur à supprimer.

L’association transhumaniste mondiale par exemple, promeut « l’utilisation éthique de la technologie pour augmenter les capacités humaines », déclarant soutenir « le dévelopement et l’accès aux nouvelles technologies qui permettront à tous de jouir de meilleurs esprits, de meilleurs corps et de meilleurs vies. », afin que « les gens atteignent un état au-delà du bien-être. ».

Apparaît ici le fantasme du mutant volontaire, utopie post-humaine récurrente dans les œuvres de fiction. Si les X-Men de Marvel présentent des mutants naturels et les problématiques que l’apparition de tels sur-hommes créerait, nous parlons ici de mutants réels qui ont choisi de développer certaines capacités. La « déclaration des premiers mutants » et le « mode d’emploi du mutant » présents sur le site internet de l’association vont ainsi bien au-delà des mutations génétiques existantes et observées chez certains individus, comme Slaviša Pajkic, le serbe capable d’accumuler, d’assimiler et de restituer l’électricité : ici sont évoquées des mutations provoquées, qui peuvent être d’ordre biologique, ou plus accessible pour le moment, technologiques avec l’utilisation de prothèses et autres artifices permettant de décupler la force, l’agilité, les sens etc.

C’est déjà dans notre quotidien et dans une certaine mesure un principe largement répandu avec l’utilisation des objets connectés, qui nous permettent d’optimiser nos vies et nos capacités physiques grâce à un assistanat parfois de tous les instants.
Mais ceci est encore bien loin des rêves des transhumanistes…

 

• – Et la Nature reprend ses droits

Si le transhumanisme semble provenir d’une volonté légitime et respectable, le principe peut bien évidemment donner lieu à des dérives, et les perspectives qu’il offre sont rarement réjouissantes lorsque le sujet est traité dans les œuvres de fiction.

Ainsi, dans le film de Wally Pfister Transcendance, des chercheurs parviennent à transférer l’esprit d’un homme dans une machine, afin que son « cerveau » continue à fonctionner, ou du moins que son contenu ne disparaisse pas avec son corps. Mais, ayant accès à des connaissances de plus en plus nombreuses, l’homme en question développe un complexe de pouvoir néfaste et devient destructeur, perdant quasiment le contrôle de ce qui fait son esprit humain.

C’est la perte de l’humanité qui d’une manière générale est prédite lorsque l’on parle des risques du transhumanisme ; c’est aussi le cas dans Robocop, le film culte de Paul Verhoeven qui tisse sa narration autour d’un policier qui, ayant perdu beaucoup de ses capacités physiques lors d’une agression, accepte qu’on lui greffe des parties mécaniques qui le rendront sur-puissant, mais qui voit dans le même temps ses capacités émotionnelles et propres à l’humain diminuer durant un temps.

La vision négativiste du transhumaniste rapporte aussi les dangers d’un éloignement de la nature d’Homme, mais aussi de la nature tout simplement, et les critiques d’un progrès faisant perdre ses capacités à l’Homme, le « ramollissant », ressortent dans des films tels que Les temps modernes de Charlie Chaplin, Metropolis de Fritz Lang ou encore des essais tels que La France contre les robots de Georges Bernanos. George Orwell en 1937 écrivait ainsi à propos des progrès techniques de son époque « Il faut bien avouer que le passage du cheval à l’automobile se traduit par un amollissement de l’être humain ».

L’idéologie du retour à la terre, la volonté de retrouver de vraies valeurs et surtout de redonner la sienne à l’existence humaine en lui laissant une fin, prend le contrepied des adeptes de la technologie, et ses défenseurs arguent que nous nous retrouverions bien en peine en cas de disparition totale de l’électricité par exemple, situation décrite dans Ravage de Barjavel. Devenus dépendants de nos créations, nous pourrions être bien incapables de survivre, ou du moins de nous réaclimater sans, d’accepter de retrouver un rythme plus lent et naturel dans toutes nos activités.

Cette idée est très bien décrite dans Interstellar, film qui se déroule dans un futur indéfiniment proche mais dans lequel, à force d’épuisement des ressouces, la planète n’est plus apte ni à nourrir la totalité de ses habitants, ni à leur fournir un air suffisamment respirable, de leur propre faute : les Hommes ont pillé ses réserves, préférant se concentrer sur la technologie que sur l’essentiel qui leur assurerait un avenir.
C’est ainsi que Christopher Nolan fait dire à l’un de ses personnages : « When I was kid, it felt like they made something new every day. Some gadget or idea. Like every day was Christmas. But we made a lot of mistakes. Six billion people. Just try to imagine that. Every last one of them trying to have it all. », et qui résume très bien cette crainte de la perte des valeurs fondamentales au profit d’une course au progrès.

(« quand j’étais petit on inventait un truc par jour. Un gadget, une idée, c’était Noël tous les jours. Mais nous avons fait beaucoup d’erreurs. Six billions de personnes. Essaie juste d’imaginer ça. Chacun d’eux essayant d’avoir tout cela »)

 

Entre intelligence artificielle et transhumanisme, l’Homme a donc engagé un combat contre sa propre nature au risque de s’en éloigner trop radicalement ; c’est ce que dénonceront toujours les penseurs qui craignent pour l’avenir et la mauvaise utilisation du potentiel technologique que nous possédons.

 

Sources, pour aller plus loin : 

• http://transhumanistes.com/
• http://www.lemonde.fr/sciences/article/2013/04/18/google-et-les-transhumanistes_3162104_1650684.html
• La déclaration transhumaniste :  http://transhumanism.org/index.php/WTA/languages/C46
• http://www.rfi.fr/emission/20150101-intelligence-artificielle/
• “Le grand scientifique Stephen Hawking estime que l’intelligence artificielle pourrait anéantir l’humanité” : http://dailygeekshow.com/2015/01/01/intelligence-artificielle/

Références littéraires et bibliographiques : 

• Le cycle des robots, Isaac Asimov (roman)
• 2001 L’odyssée de l’espace, Stanley Kubrick (film)
• Black mirrors, Charlie Brooker (série télévisée)
• I.A., intelligence artificielle, Steven Spielberg (film)
• Interstellar, Christopher Nolan (film)
• Real Humans,Lars Lundström (série télévisée)
• X-Men, Sten Lee (bande dessinée adaptée en films)
• Transcendance, Wally Pfister (film)
• Robocop, Paul Verhoeven (film)
• Les Temps modernes, Charlie Chaplin (film)
• La France contre les robots, Georges Bernanos (essai)
• Metropolis, Fritz Lang (film)
• Ravage, rené Barjavel (roman)

Bonus  : les nouveaux mutants…