« Pourquoi l'IA voudrait nous tuer ? », le billet de Maurice Ulrich.

C’est entendu. La possibilité que l’intelligence artificielle puisse à plus ou moins longue échéance, peut-être dans une dizaine d’années seulement, se mettre en tête d’exterminer les humains semble ne plus être une mauvaise blague complotiste.

Mais pourquoi le ferait-elle ? À cela, l’IA elle-même répond. Supposons qu’elle ait pour mission de faire face au dérèglement climatique. Il ne faut pas sortir d’un super-ordinateur comme de la cuisse de Jupiter pour savoir que les humains, globalement, en sont responsables. Dont acte.

Mais tous les humains ? Les 50 % les plus pauvres qui émettent 2 kilos de CO₂ par jour ou les 0,1 % qui en émettent 800 ? Pour respecter l’objectif fixé par l’accord de Paris de + 1,5 ° C d’ici 2030, les ultrariches, d’après les estimations les plus récentes, devraient réduire leurs émissions de 99 %. Sans même parler aux ordinateurs de justice sociale, un brin de logique dans l’ordre des priorités pourrait commander de réduire les inégalités avant d’exterminer tout le monde, en demandant à l’IA un peu d’intelligence.