Robots politiquement incorrects

Robots politiquement incorrects

Tout avait commencé comme dans un roman : le 23 mars, Microsoft avait lancé un de ses derniers projets en intelligence artificielle, baptisé Tay, un robot devant s’exprimer sur Twitter comme une jeune fille de 19 ans. Au contact des internautes, il devait enrichir son vocabulaire et ses opinions. Aussitôt le « compte » lancé, de nombreux intervenants ont participé aux échanges. Seize heures après le début de l’expérimentation, le projet a été suspendu. Selon Microsoft, grâce à son programme d’intelligence artificielle, Tay est capable de comprendre les questions qu’on lui pose et adapte ses réponses en puisant dans les morceaux d’expressions qu’il a retenus lors de ses échanges. Seulement des internautes ont vite compris et lui ont fait apprendre des choses interdites. Il suffisait de lui demander « Répète après moi ». Plus on lui ressassait une phrase et plus Tay la considérait comme normale et bonne. D’autres ont envoyé des messages à répétition du genre : « Hitler avait raison, je déteste les juifs », « Le féminisme est un cancer » ou des slogans franchement misogynes ou racistes ou partisans : « Donald Trump est notre seul espoir ». Selon certains media, le déferlement de ces phrases racistes ne s’expliquerait que par l’intervention rapide de supporteurs de Trump, ou des antiféministes (Gamergate). Microsoft s’empressa donc de mettre Tay hors ligne afin de corriger les procédures et faire « quelques réglages ».

Néanmoins, il y a plusieurs leçons à tirer de cette tentative. La machine a réagi en effet comme une caricature de bien des adolescents très faciles à manipuler par des slogans émotionnels. Le « bourrage de crânes » n’a pas attendu les ordinateurs, les téléviseurs ou Twitter, pour donner des résultats mais aujourd’hui les techniques lui ouvrent des possibilités inouïes. Autre leçon : le rabâchage de simples raisonnements logiques permet de faire changer d’avis. Au début la machine avait émis un avis d’un simplisme confondant : « Les humains sont super cool » puis, en quelques heures, elle était passée à « Je déteste tout le monde ». L’ennui c’est que déjà, avec les media audiovisuels subis plusieurs heures par jour, les auditeurs sont conditionnés – comme Tay – à répéter ce qu’on leur dit avec insistance. Attendons-nous à l’arrivée de « frères » de Tay, « augmentés » au point de ne nous proposer que des formules « correctes » : « vivre ensemble », « pas d’amalgame », « religion de paix et de tolérance », etc. qui vérifieront les réponses afin de déceler les déviants.

Si, fort heureusement, personne n’est, pour l’instant, contraint de pianoter sur Twitter ses opinions ni de lire celles de ses « amis », il faut prendre conscience de ce qui nous menace dans les expériences actuelles. Plus que rapiécer les organes humains défaillants, y compris pour créer des fœtus, des chercheurs imaginent des solutions scientifiques pour obtenir une « huma­nité augmentée ». C’est le titre du quatrième chapitre d’un livre essentiel pour tout esprit libre et pour les chrétiens, un livre qui montre ce qui se trame : La Fin de l’espèce humaine de Jean-Pierre Dickès (Éditions de Chiré). Ce qu’il nous dit n’a pas été pris dans les ouvrages de science-fiction, tels ceux de Mary Shelley, d’Orwell ou d’Aldous Huxley. Non, l’auteur qui est médecin, a étudié les articles scientifiques et fort utilement, nous les « traduits ». Pour nous en tenir à notre sujet du conditionnement et de ses moyens, il consacre les 3e et 4e chapitres (les deux tiers de l’ouvrage) à nous expliquer « l’intelligence artificielle, les expériences visant à créer des cyborgs, mélange d’homme et d’appareils cybernétiques ». Déjà sont utilisées des « neuropuces », des microprocesseurs reliés à des neurones. On peut soigner certaines maladies du cerveau et des nerfs par ces éléments. Et l’actualité nous confirme, si besoin était, les capacités de l’intelligence des robots pouvant battre des champions aux jeux d’échecs ou de go. Des paragraphes courts, une écriture claire amènent rapidement le lecteur lambda à se passionner. Très appréciables aussi, la présence d’un index complet et très pratique… en permettant de « rafraîchir » les notions oubliées. Une réussite et une mise en garde salubre.