Elon Musk estime que le développement rapide de l’Intelligence Artificielle pourrait conduire à une situation dans laquelle l’humanité ne serait plus en position dominante face à la technologie qu’elle a créée.
Lors d’un entretien avec The Economist en juillet, le CEO de Tesla et SpaceX a déclaré que l’IA pourrait dépasser l’intelligence combinée de l’humanité dans environ cinq ans.
Les humains resteront-ils aux commandes ?
Zanny Minton Beddoes, rédactrice en chef de The Economist, lui a demandé si cela signifiait que les humains ne seraient plus aux commandes dans dix ans.
Musk a répondu qu’il jugeait improbable qu’ils conservent cette position.
Il a comparé l’écart potentiel d’intelligence entre une IA avancée et les humains à celui existant entre les humains et les chimpanzés.
La position de Musk a évolué
Musk avertit depuis des années des risques liés aux systèmes d’IA avancés.
Lire plus
Sa position semble toutefois être passée d’une volonté de ralentir leur développement à l’acceptation du fait que cette dynamique pourrait être impossible à arrêter.
Il affirme ne voir aucun moyen réaliste d’arrêter l’incroyable élan de l’IA et des robots.
Des avertissements à l’acceptation
Musk s’est précédemment inquiété d’une amélioration récursive rapide des systèmes d’IA.
Il figurait également parmi les signataires d’une lettre ouverte de 2023 demandant une pause temporaire dans le développement des systèmes les plus puissants.
Il estime toujours que les risques liés à l’IA et aux robots ne sont pas nuls.
OpenAI et Google
Musk explique qu’OpenAI avait initialement été créé pour contrebalancer l’avance de Google dans l’IA.
Il faisait partie des cofondateurs d’OpenAI en 2015.
Selon lui, la compétition qui a suivi a cependant contribué à accélérer involontairement le développement de l’IA.
Dépasser l’intelligence collective humaine
La prédiction de Musk ne concerne pas seulement la capacité de l’IA à surpasser une personne dans certaines tâches.
Il estime qu’elle pourrait dépasser l’intelligence collective de l’humanité dans environ cinq ans.
Qui contrôlera une IA avancée ?
Les systèmes actuels dépendent toujours d’infrastructures informatiques, de logiciels, d’énergie et de Data Centers conçus par des humains.
Des systèmes beaucoup plus autonomes pourraient modifier cette relation.
La question fondamentale est de savoir si les humains pourront superviser de manière fiable des systèmes dont les capacités de raisonnement dépasseraient les leurs.
