Nader et l'IA

Ce blog parle assez souvent de robots et aussi de la singularité. Récemment, j’ai fait une note sur le film Ex Machina. Je rappelle que la singularité est ce moment, pour l’instant hypothétique, où la machine va devenir indépendante de l’homme voire même être un réel danger pour la race humaine.

Dans son roman Rainbows End, Vernor Vinge nous raconte, à travers une fiction, ce moment singulier où la machine va prendre son essor, disons vers 2025-2035.

Pas mal de gens pensent que cette idée est stupide que la machine sera toujours une bête machine. Un gros robot stupide, disait Boris Vian.

Pourtant, je lis de plus en plus d’articles écrits par des personnes sérieuses qui s’en inquiètent. Vous avez peut-être entendu parler de l’alerte lancée par Stephen Hawking sur la menace que cause l’Intelligence Artificielle (IA). Il  a été rejoint par Bill Gates. Aujourdh’hui, je lis un article de Ralph Nader, le pape de l’écologie aux US.  Nader pointe les robots militaires :

On sait que 70% du volume des échanges boursiers des Etats-Unis sont désormais le fait d'ordinateurs (…) Les armes autonomes, par exemple, peuvent être conçues dans un certain but par les armées, mais leur usage peut déboucher sur des situations non souhaitées et plus redoutables, où ces armes décideraient d'elles-mêmes qui et quand elles frapperaient. Bien sûr si cela peut arriver, cela arrivera !

Effrayant ? N’est-il pas ?  

Que de chemin parcouru depuis 1953 et le fameux robot à Ducros dont se moquait Boris Vian ! « He va donc gros robot ! » disait-il à un robot obèse. Qu’en penserait-il aujourd’hui ? On peut se demander si l’avenir est encore à Pic de la Mirandole ou s’il ne serait pas plutôt à un nouveau Robespierre debout face aux apprentis sorciers.