Affichage des articles dont le libellé est robots. Afficher tous les articles
Affichage des articles dont le libellé est robots. Afficher tous les articles

mercredi 23 novembre 2022

Isaac Asimov : mes divergences

Excellent documentaire d'Arte sur Isaac Asimov et le message qu'il laisse au monde. Moi qui pensais le connaître au travers de ses écrits l'ai découvert différemment. Et je me suis rendu compte que mon opinion est différente de la sienne sur certains points.

Je recommande de regarder cette vidéo au sujet d'Isaac Asimov sur YouTube pour mieux comprendre ce dont il va être question dans l'article.

Faut-il être un saint pour être en mesure de délivrer un message relatif au futur de l'humanité? Sans doute que non. Pour l'anecdote, Asimov n'en était pas un. Je connais une romancière de SF qui l'a côtoyé à plusieurs reprises à l'occasion de salons littéraires de son vivant, et m'a révélé qu'il était un "serial groper". Il aimait palper, mais pas seulement l'argent, et pas toujours avec consentement mutuel, loin de là.

En dédicace, il cherchait à mettre à profit sa célébrité pour obtenir certaines faveurs de la gent féminine.

A l'époque, ça passait encore. De nos jours, Asimov serait accusé de harcèlement sexuel, et sa parole aurait sans doute moins de poids. 

Il n'empêche que les romans d'Asimov sont géniaux, excellents. J'ai adoré Fondation, notamment. Le reportage sur Arte met bien en valeur l'impressionnante bibliographie de l'auteur. 

J'ai toujours eu le sentiment qu'Asimov était un optimiste. Presque un positiviste. De ce fait, il a été une grande inspiration pour moi, et l'est toujours. J'adorais dans ses romans le fait qu'ils ne soient que rarement post-apocalyptiques, mais qu'ils mettent en scène un futur de l'humanité en prenant souvent l'option du développement, voire du rayonnement de celle-ci dans l'univers. 

C'est pourtant sur un passage en particulier de la vidéo que je voudrais revenir. Une interview dans laquelle Asimov dit qu'il est certain que des robots pourront un jour éprouver des émotions. Pour lui, notre cerveau est constitué d'atomes et de molécules, et toutes les fonctions de ces atomes et molécules pourront non seulement être copiées mais améliorées à l'avenir. 

Asimov voit d'autant plus volontiers un avenir où l'homme sera supplanté par sa création qu'il exprime dans cette interview son aversion pour une humanité qui pollue, détruit son environnement et massacre les espèces animales. Cette version future, améliorée de l'homme, ne pourrait finalement être qu'un bienfait selon lui.

Asimov est tout à fait conscient du rôle ambivalent des scientifiques au sujet de la pollution et du bien-être animal, même si dans son œuvre, il s'est écarté de l'image de docteurs Frankenstein ou Mabuse, de scientifiques déments et inconscients qui menacent le futur de l'humanité souvent utilisée dans les pulps des années 40. Néanmoins, il estime en définitive qu'il faut écouter les scientifiques. Il n'est pas sûr que le côté lumineux de la force l'emportera, mais il l'espère. 

Difficile d'avoir une réflexion sur le futur scientifique et technologique de l'humanité sans se remémorer deux citations qui sonnent comme des mise en garde :

- science sans conscience n'est que ruine de l'âme (Rabelais)

- le progrès technique est comme une hache dans les mains d'un psychopathe (Einstein)

L'un de mes points de divergence avec Asimov vient de l'idée selon laquelle l'homme sera un jour capable de créer technologiquement des êtres aussi évolués émotionnellement et psychiquement que lui-même.

Vous allez me dire, moi-même en tant qu'auteur, ou en tout cas des confrères plus doués que moi, sont capables de créer des personnages plus vrais que nature, qui évoluent au fil des romans, ressentent des émotions, réagissent de manière autonome, vont même jusqu'à suggérer à l'auteur leurs prochaines actions. Qui sait si après ma mort, des réseaux neuronaux ne seront pas capables de reprendre en charge le développement de mes personnages? Qui sait si l'on ne sera pas capable de prolonger la vie d'une personne disparue en enregistrant de son vivant toutes ses réactions et actions, en les faisant interpréter par des réseaux neuronaux, et en simulant leurs actes futurs? 

Peut-être. Mais on ne saura jamais si ces réseaux neuronaux sont réellement fidèles aux personnages vivants ou fictifs, on pourra juste indiquer un niveau de vraisemblance. 

Asimov parle de molécules et d'atomes au sujet du cerveau humain. On sait que c'est plus complexe que ça. On sait, en fait que la complexité du cerveau est effarante, à tel point qu'on ne peut être sûr dans pénétrer un jour tous les mystères. Il y a probablement des réactions quantiques à l'œuvre dans le cerveau humain, et on sait à quel point le domaine du quantique pose des difficultés, des défis incroyables à la science.

On sait aussi que ce n'est pas seulement une question d'atomes et de molécules, et de neurones, ou même de réactions chimiques. On sait qu'il y a des interactions entre le cerveau et les organes humains, et qu'en ne voulant que récupérer un cerveau flottant à l'image du professeur Simon dans Capitaine Future, adapté en dessin animé sous le nom de Capitaine Flam en France (porté par Grag dans la version d'origine d'Edmond Hamilton), on priverait ledit cerveau d'une partie sans doute essentielle de son humanité. 

Je suis, par choix, agnostique. Il en va de même de mon agnosticisme envers la science qu'il en va de mon agnosticisme envers Dieu: j'attends que la science me démontre qu'elle est capable de recréer la vie sans la dénaturer, de la même manière que je ne me prononcerai pas sur l'existence de Dieu avant d'en avoir eu la preuve. Peut-être que la science poussée à son paroxysme est l'équivalent de Dieu. Mais dans ce cas, est-ce que ça ne veut pas dire que la créature capable de pousser la science à son paroxysme est elle-même au moins l'équivalent de Dieu? J'ai des doutes à ce sujet. 

Autre point de divergence, l'idée selon laquelle l'homme, finalement, est mauvais. J'ai été extrêmement surpris de découvrir ça dans l'interview d'un Asimov sans doute vieillissant et désenchanté, qui estime qu'un robot ne pourra finalement qu'être meilleur que l'être humain. 

C'est vrai que ça ressortait notamment dans la série des Robots d'Asimov. Mais j'avais sans doute fait une projection, en me disant qu'Asimov était optimiste par rapport à l'homme, puisqu'après tout, c'est l'homme qui créé ces robots supérieurs. Et j'étais jeune quand j'ai lu la série.

Il apparaît en fait que chez Asimov, les robots sont une version sublimée de l'homme. Et là, franchement, j'ai des doutes. N'est-ce pas reporter un idéal quasiment religieux sur les robots? 

Les hommes, d'ailleurs, sont-ils foncièrement mauvais? Si on donnait l'intelligence à des lions, est-ce que pour autant, les lions seraient capables d'éliminer beaucoup plus vite que nous nos instincts de prédateur et d'agression? Des instincts qui rappelons-le, sont indispensables à la survie dans une nature sauvage, mais qui peuvent se retourner contre chaque espèce en cas de surpopulation, de déséquilibre écologique. 

Des instincts agressifs qui sont sans doute indispensables à la naissance de la science, car celle-ci ne viole-t-elle pas souvent les lois de la nature pour en percer les secrets? L'accès à la connaissance n'est pas toujours tendre. Il est souvent violent en fait, comme l'ont démontré les progrès liés aux guerres. 

S'il y avait des lions plus intelligents, dotés de membres préhensiles, qu'ils aient causé un déséquilibre écologique en raison de leur ingéniosité, qu'ils se voient au bord de l'extinction, il y a fort à parier qu'ils se mettraient eux-mêmes à se détester pour ne pas avoir eu la sagesse d'éviter leur propre anéantissement. Rien ne dit que les lions dotés d'une intelligence équivalente aux humains évolueraient différemment par rapport à ces derniers.

Quand l'homme déteste l'homme, pour moi, il remet en cause ce don d'intelligence et de connaissance qui lui a été fait, puisque c'est par ce don qu'il a créé les déséquilibres écologiques. Il fait alors le choix, en se détestant lui-même, de régresser pour revenir vers un état de sauvagerie lui permettant de se réinsérer en tant qu'acteur aveugle de l'écologie. Ou bien, comme Asimov, il s'en remet à des robots plus intelligents que lui-même, parce qu'il trouve que nous avons trop de défauts. Asimov donne là l'impression d'essayer d'évoluer vers le transhumanisme. Il estime que cette évolution fait partie de l'évolution naturelle.

Pour moi, ni l'une ni l'autre des solutions n'est la bonne. Ces dons qui nous ont été faits ne sont sans doute pas là par hasard. Il faut donc les embrasser et en tirer le meilleur parti. Oui, il y a différents stades. Il y a un stade où nous sommes des borgnes ayant réussi à percer certains secrets de la nature sans découvrir immédiatement les nouveaux secrets qui permettront de contrebalancer l'impact des premiers. 

Il y a de nombreuses périodes où l'impact des technologies fait naître l'idée qu'on ne cesse de se créer de nouveaux problèmes avec ces nouvelles technologies, qui vont nous obliger à en découvrir d'autres pour compenser, qui vont à leur tour déclencher des problèmes, etc. Tout cela peut nous donner l'impression d'être des Shadoks poursuivant une fuite en avant sans fin. Il y a des moments où la recherche de repères et de stabilité, y compris en réaction à des progrès sociétaux comme le wokisme, peut donner envie de se raccrocher aux traditions, de ne surtout pas évoluer. De dire stop.

Action-réaction. Barack Obama, président noir est élu, le président suivant est Donald Trump. Le mur de Berlin tombe et la Russie devient (ou fait semblant de devenir) démocratique, le président russe suivant est un dictateur sanglant nommé Poutine.

Mais pour moi, il y a au moins un but à tout cela, un sens, qui est petit à petit de mieux connaître l'univers, et de mieux se connaître soi-même. Un sens sans doute pas si éloigné de la psychohistoire inventée dans Fondation. Au travers de ce documentaire, j'ai donc été surpris de me découvrir plus optimiste et plus humaniste qu'Asimov, finalement.

vendredi 5 avril 2019

Les radars en infraction

Les radars routiers contreviennent aux deux premières lois de la robotique d'Asimov. Ils nous font entrer dans une société plus proche d'une société dystopique, orwellienne.



En matière de sécurité routière, il y a eu un glissement progressif vers de plus en plus d'autoritarisme. Au début, il n'y avait pas de poteaux indicateurs de vitesse. Ensuite, il y en a eu, mais qui n'étaient là qu'à titre indicatif. Dans une troisième phase, ces signalisations de vitesse sont devenues impératives, et sanctionnées par la loi si on les dépassait. Première indication que l'on ne faisait plus confiance au jugement humain. 

Mais si l'on a basculé vers une société de type dystopique orwellienne, c'est parce que, en prenant ce raccourci dangereux des radars, en les investissant d'autant d'autorité sur l'homme, on a bafoué les deux premières lois de la robotique d'Asimov:

1) un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger 
2 ) un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi 


On a laissé les robots porter atteinte aux êtres humains, en jugeant les humains, en les sanctionnant, en leur retirant leur permis s'ils n'ont plus de points. En leur privant de leur métier si leur source de revenus est liée à leur voiture. En faisant d'eux des hors-la-loi s'ils n'ont pas les moyens de suivre des stages pour récupérer leurs points, et s'ils n'ont plus leur permis. 

Ces robots, ces radars, sont sous simple supervision humaine. Ce sont les machines qui décident, et les hommes n'interviennent que dans les rares cas où il y a contestation.

Comme dans tout système sur-répressif, l'effet à terme sera l'inverse de celui recherché: la déresponsabilisation de l'être humain. 

Les morts sur les routes sont liés à des gens qui n'ont pas été éduqués à respecter la vie. La véritable cause n'est pas la vitesse, mais le fait qu'ils ont été distraits à un moment crucial - souvent à cause des smartphones.

Donc, quand on va vers le répressif, on réduit l'aspect éducatif. Pour moi, la solution aux morts sur les routes, c'est une meilleure éducation, une meilleure responsabilisation des gens, un meilleur entretien des routes, et une meilleure sécurité des véhicules.


Si l'on enchaîne avec la répression, en mettant les gens en prison à tour de bras, en faisant en sorte de faire gérer les prisons par le privé pour les rentabiliser, on va en fait vers toujours plus de répression et d'infantilisation du peuple. 

C'est dangereux de se laisser priver de ses droits. Dangereux pour notre futur.


Lien: les nouveaux types de radars, toujours plus performants, arrivent