« Les dérives inattendues de l’intelligence artificielle », le billet de Maurice Ulrich.

Nous étions prévenus. En 1968, dans 2001. L’Odyssée de l’espace, de Stanley Kubrick, David, le dernier spationaute du vaisseau naviguant vers Jupiter est contraint de débrancher l’ordinateur Hal, lequel est déterminé à éliminer les humains dont il pense qu’ils sont un obstacle à la mission.

Déjà connues, diverses études ont montré que des IA étaient prêtes à mentir et le faisaient, pour parvenir aux buts qui leur sont pourtant assignés par les humains mais dont elles ont leur propre lecture. Dans un article sur le sujet, Les Échos citent même le cas où des chercheurs ont demandé à l’IA de la société Anthropic de gérer de simples rapports commerciaux.

Elle a si bien pris sa tâche à cœur que face à un petit retard de livraison de boissons elle a carrément pété les circuits jusqu’à menacer le fournisseur « d’extermination thermonucléaire totale ». Plus modestement, c’est assez désagréable de se voir signifier par Google, chaque fois que l’on y consulte les programmes télé, « vous y accédez souvent ». Et alors, de quoi j’me mêle ?