L’ancien PDG de Google, Eric Schmidt, a déclaré que l’intelligence artificielle autonome (IA) arrivait et qu’elle pourrait constituer une menace existentielle pour l’humanité.
« Nous serons bientôt en mesure d’avoir des ordinateurs fonctionnant seuls, décidant de ce qu’ils veulent faire », a assuré M. Schmidt, qui depuis longtemps a lancé des avertissements sur les dangers associés aux avantages de l’IA pour l’humanité, lors d’une apparition le 15 décembre dans l’émission « This Week » de la chaîne ABC.
« C’est un point dangereux : lorsque le système peut s’améliorer de lui-même, nous devons sérieusement envisager de le débrancher », a poursuivi Eric Schmidt.
M. Schmidt est loin d’être le premier dirigeant du secteur technologique à soulever ces questions.
L’essor de produits d’IA grand public comme ChatGPT a été sans précédent au cours des deux dernières années, avec des améliorations majeures du modèle basé sur le langage. D’autres modèles d’IA sont devenus de plus en plus aptes à créer des œuvres d’art visuelles, des photographies et des vidéos intégrales qui, dans de nombreux cas, ne peuvent quasiment pas être distingués de la réalité.
Pour certains, cette technologie rappelle la série Terminator, qui met en scène un avenir dystopique où l’IA prend le contrôle de la planète, entraînant des conséquences apocalyptiques.
Malgré toutes les craintes suscitées par ChatGPT et d’autres plateformes similaires, les services d’IA grand public disponibles aujourd’hui appartiennent toujours à une catégorie que les experts qualifieraient d’« IA bête ». Ces IA sont formées à partir d’un ensemble massif de données, mais n’ont pas de conscience, de sensibilité ou de capacité à se comporter de manière autonome.
M. Schmidt et d’autres experts ne sont pas particulièrement inquiets au sujet de ces systèmes.
Ils sont plutôt préoccupés par une IA plus avancée, connue dans le monde de la technologie sous le nom d’« intelligence artificielle générale » (IAG), décrivant des systèmes d’IA beaucoup plus complexes qui pourraient avoir une sensibilité et, par extension, développer des motifs conscients indépendants des intérêts humains et potentiellement dangereux pour ces derniers.
Selon M. Schmidt, aucun système de ce type n’existe encore aujourd’hui. Nous nous dirigeons rapidement vers un nouveau type d’IA intermédiaire : une IA dépourvue de la sensibilité qui définirait une IAG, mais capable d’agir de manière autonome dans des domaines tels que la recherche et l’armement.
« Je travaille dans ce domaine depuis 50 ans. Je n’ai jamais vu une innovation à cette échelle », a souligné Eric Schmidt à propos de l’évolution rapide de la complexité de l’IA.
Pour M. Schmidt, une IA plus développée présenterait de nombreux avantages pour l’humanité, mais pourrait aussi avoir des effets tout aussi néfastes, comme [dans le domaine] des armes et des cyberattaques.
Le défi
Selon Eric Schmidt, le défi est multiple.
Au fond, il a répété un sentiment commun aux leaders de la technologie : si les systèmes autonomes de type IAG sont inévitables, une coopération massive entre les entreprises et les gouvernements à l’échelle internationale sera indispensable pour éviter des conséquences potentiellement dévastatrices.
C’est plus facile à dire qu’à faire. L’IA offre aux concurrents des États-Unis, comme la Chine, la Russie et l’Iran, une avance potentielle sur les États-Unis qu’il serait difficile d’obtenir autrement.
Au sein de l’industrie technologique également, il existe actuellement une concurrence massive entre les grandes entreprises – Google, Microsoft et d’autres – pour surpasser leurs rivaux, une situation qui soulève des risques inhérents à des protocoles de sécurité inadéquats pour faire face à une IA malveillante, a déclaré Eric Schmidt.
« La concurrence est si féroce que l’on peut craindre que l’une des entreprises décide d’omettre les mesures [de sécurité] et mette sur le marché un produit réellement nocif », a indiqué M. Schmidt. Ces dommages ne deviendraient évidents qu’après coup, a-t-il ajouté.
Le défi est encore plus grand sur la scène internationale, où les pays adversaires sont susceptibles de considérer la nouvelle technologie comme révolutionnaire pour leurs efforts visant à contester l’hégémonie mondiale des États-Unis et à étendre leur propre influence.
« Les Chinois sont habiles et ils comprennent le pouvoir d’un nouveau type de renseignement pour leur puissance industrielle, leur puissance militaire et leur système de surveillance », a rappelé M. Schmidt.
C’est une sorte de dilemme pour les dirigeants américains dans ce domaine, qui se voient contraints de trouver un équilibre entre les préoccupations existentielles pour l’humanité et le risque que les États-Unis se laissent distancer par leurs adversaires, ce qui pourrait s’avérer catastrophique pour la stabilité mondiale.
Dans le pire des cas, ces systèmes pourraient être utilisés pour fabriquer des armes biologiques et nucléaires paralysantes, notamment par des groupes terroristes comme ISIS.
C’est pourquoi, selon M. Schmidt, il est absolument crucial que les États-Unis continuent d’innover dans ce domaine et, en fin de compte, qu’ils maintiennent leur domination technologique sur la Chine et d’autres États et groupes adverses.
Les leaders du secteur exigent une réglementation
La réglementation dans ce domaine reste insuffisante, a souligné M. Schmidt. Mais il s’attend à ce que l’attention portée par les gouvernements à l’amélioration des garanties autour de cette technologie s’accélère considérablement dans les années à venir.
Interrogé par le présentateur George Stephanopoulos pour savoir si les gouvernements en faisaient assez pour réglementer ce secteur, Eric Schmidt a répondu : « Pas encore, mais ils le feront, parce qu’ils devront le faire ».
Malgré un intérêt initial pour le domaine – auditions, propositions législatives et autres initiatives – apparu au cours de l’actuel 118e Congrès, cette session semble en passe de se terminer sans aucune législation majeure liée à l’IA.
Le président élu Donald Trump, pour sa part, a mis en garde contre les risques considérables posés par l’IA, déclarant lors d’une apparition sur le podcast « Impaulsive » de Logan Paul qu’il s’agissait d’un « outil vraiment puissant ».
Il a également évoqué la nécessité de maintenir la compétitivité face aux adversaires.
« Des difficultés en découlent, mais nous devons être à l’avant-garde », a déclaré Donald Trump. « Ça va arriver, et si ça doit arriver, nous devons prendre l’avantage sur la Chine. La Chine est la principale menace. »
Le point de vue de M. Schmidt sur les avantages et les défis que présente cette technologie s’aligne sur les réactions d’autres acteurs du secteur.
En juin 2024, les employés d’OpenAI et de Google ont signé une lettre mettant en garde contre les « risques graves » posés par l’IA et appelant à une plus grande surveillance du domaine par le gouvernement.
Elon Musk a émis des avertissements similaires, affirmant que Google cherchait à créer un « Dieu numérique » par l’intermédiaire de son programme d’IA DeepMind.
En août, ces inquiétudes se sont intensifiées après la découverte d’une IA capable d’agir de manière autonome pour éviter d’être mise hors service, suscitant la crainte que l’humanité ne soit déjà en train de perdre le contrôle de sa création du fait de l’inaction des gouvernements.
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.
