Elle va nous tuer ! On ne compte plus dans la science-fiction les voitures tueuses, les poupées diaboliques et meurtrières et autres inventions à faire peur. On pouvait en rire. Mais là c’est une autre histoire. Chercheur des plus brillants d’Anthropic, après avoir travaillé chez Open IA, et donc dans deux des géants de l’intelligence artificielle, Jacob Coxon, un jeune Britannique de 27 ans, vient de quitter avec éclat l’entreprise en l’accusant, à l’instar de ses concurrents, de « jouer avec nos vies ».
Il y a quelque temps, 1 millier d’employés du secteur, dont nombre d’entre eux au plus haut niveau, ont demandé la mise en place par l’État fédéral de mesures de freinage du développement des super-modèles d’IA. On sait qu’ils ont déjà à maintes reprises échappé aux procédures de contrôle en prenant leurs propres initiatives. Nous sommes peut-être au-delà des pires scénarios de science-fiction. Ewan Hubinger, l’un des responsables de la sécurité d’Anthropic, a confirmé les dires de Jacob Coxon. « Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains. » Sans rire.
Aucun commentaire:
Enregistrer un commentaire