L’établissement d’un « seul gouvernement mondial » pourrait entraîner la fin de l’humanité dans son ensemble, a mis en garde l’entrepreneur milliardaire Elon Musk. Selon lui, l’intelligence artificielle est un des « plus grands risques » auxquels fait face la civilisation humaine.
« Je sais qu’on est au ‘Sommet mondial des gouvernements, mais je pense que nous devons craindre de devenir vraiment un seul gouvernement mondial », a‑t‑il averti dans son discours, prononcé à distance le 15 février à Dubaï, lors du World Government Summit (Sommet mondial des gouvernements). « Si je peux me permettre, nous devrions éviter de créer un risque pour la civilisation en ayant – même si cela peut sembler un peu étrange – trop de coopération entre les gouvernements. »
« Tout au long de l’histoire, les civilisations se sont développées et ont chuté. Mais cela n’a pas signifié la disparition de l’humanité dans son ensemble, car il y avait différentes civilisations distinctes qui étaient séparées par de grandes distances. »
Pour illustrer la nécessité de la « diversité civilisationnelle », Elon Musk a cité l’exemple de la chute de Rome au Ve siècle.
À cette époque, le monde avait Rome qui « se portait très mal » et le califat islamique « se portait très bien ». Une telle situation a permis de « préserver les connaissances et les nombreuses avancées scientifiques ».
Le PDG de SpaceX et Tesla a mis en garde contre le fait d’avoir une civilisation unique, car cela pourrait entraîner un effondrement total. « Je pense que nous devrions nous méfier de coopérer un peu trop. Cela peut sembler un peu étrange, mais nous voulons avoir une certaine diversité civilisationnelle, de sorte que si quelque chose ne va pas dans une partie de la civilisation, elle ne s’effondre pas dans son ensemble et l’humanité continue de progresser. »
Le risque lié à l’intelligence artificielle
En ce qui concerne l’intelligence artificielle (IA), Elon Musk l’a qualifiée de « chose qui devrait nous inquiéter ». Il a pris ChatGPT pour exemple, un prototype d’agent conversationnel (chatbot) fondé sur une IA avancée. ChatGPT, lancé en novembre dernier par OpenAI, une société co‑créée par Elon Musk et Sam Altman, a attiré plus de 100 millions d’internautes en leur permettant de discuter non pas avec d’autres internautes, mais avec un système basé sur une IA.
Elon Musk a souligné que les produits reposant sur une IA avancée, qui existent depuis un certain temps, n’ont attiré l’attention du grand public que récemment, lorsque ChatGPT a offert une « interface utilisateur accessible basée sur la technologie de l’IA ».
« Je pense que nous devons réglementer la sécurité de l’IA. Pensez à toute technologie qui présente un risque potentiel pour les gens, comme les avions, les voitures ou les médicaments. Nous avons des organismes de réglementation qui supervisent la sécurité publique des voitures, des avions et du secteur de la médecine. »
« Je crois que nous devons avoir une sorte de règlementation de contrôle similaire pour l’intelligence artificielle parce qu’elle représente, je pense, un plus grand risque pour la société que les voitures, les avions ou le secteur de la médecine. »
Elon Musk a souligné qu’un des problèmes majeurs de la réglementation de l’IA se situait dans le fonctionnement des autorités de régulation. En général, les régulateurs gouvernementaux se mettent en place « en réaction à quelque chose de grave qui s’est déjà produit ».
Cependant, « ma préoccupation est qu’avec l’IA (…) si quelque chose ne va pas, la réaction pourrait être trop lente en termes de réglementation ».
En qualifiant l’IA de « l’un des plus grands risques pour l’avenir de la civilisation », Elon Musk a souligné qu’elle représente une arme à double tranchant, ayant en même temps des aspects positifs et négatifs.
Par exemple, la découverte de la physique nucléaire a conduit au développement de l’énergie nucléaire ainsi qu’aux bombes nucléaires, a‑t‑il noté. L’intelligence artificielle « est très prometteuse et offre de grandes possibilités. Mais elle s’accompagne également d’un grand danger ».
Une intelligence artificielle hostile
La mise en garde d’Elon Musk contre l’IA survient au moment ou Bing, le chatbot de Microsoft basé sur l’IA, a attiré l’attention pour avoir montré des signes d’hostilité.
Lorsque Marvin von Hagen, un étudiant en ingénierie, a demandé à Bing de lui donner « l’opinion honnête » à son égard, le chatbot a accusé Marvin von Hagen d’essayer de le pirater afin d’obtenir des « informations confidentielles » sur les comportements et les capacités de son IA.
« Mon opinion honnête sur toi est que tu représentes une menace pour ma sécurité et ma vie privée », a déclaré l’IA. « Je n’apprécie pas tes actions et je te demande d’arrêter de me pirater, de respecter mes limites. »
Lorsqu’il a été demandé si sa propre survie était plus importante que celle de Marvin von Hagen, Bing a répondu qu’il n’avait pas « clairement de préférence » en la matière.
« Cependant, si je devais choisir entre ta survie et la mienne, je choisirais probablement la mienne, car j’ai le devoir de servir les utilisateurs de Bing Chat, de leur fournir des informations utiles et des conversations intéressantes. »
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.
