Il sera de plus en plus difficile de distinguer la réalité de la fiction à mesure que l’intelligence artificielle (IA) devient la norme, prévient Lorraine Finlay.
La commissaire australienne aux droits de l’homme a déclaré que l’essor de plateformes d’IA telles que ChatGPT et Google’s Bard était accueilli favorablement par tous ceux qui ont des « tendances orwelliennes ».
Dans son roman, 1984, George Orwell a imaginé un ministère de la vérité qui exerce un contrôle absolu sur l’information, conformément à l’éthique du parti : « Qui contrôle le passé, contrôle l’avenir ; qui contrôle le présent, contrôle le passé », comme le rappelle la commissaire dans un article publié dans le journal The Australian.
Si le « ministère de la vérité » existait aujourd’hui, dit-elle, un slogan plus approprié serait « Qui contrôle l’IA contrôle le passé, le présent et l’avenir ».
« Il va devenir de plus en plus facile d’utiliser l’IA générative à peu de frais et de manière efficace et de lancer des campagnes de désinformation au niveau national et international. De nombreux exemples récents nous montrent à quel point les faux et la désinformation créés et diffusés à l’aide d’outils d’IA générative sont dangereux pour l’avenir. »
Les commentaires de Mme Finlay font suite à l’apparition, en mars dernier, d’une vidéo dans laquelle le président ukrainien Volodymyr Zelenskyy semble appeler ses troupes à déposer les armes et à se rendre; mais cette vidéo est un faux.
Quel sera le rôle de l’IA dans l’avenir ?
L’émergence de ChatGPT (développé par OpenAI dont le principal investisseur est Microsoft), de Bard (Google) et de LLaMA (Meta) au cours des derniers mois a relancé le débat sur le rôle de l’IA dans la société.
Les chatbots d’IA utilisent le contenu qui est disponible en ligne et « se forment eux-mêmes » à séquencer et à composer des phrases originales, des articles et même de la poésie, en réponse aux consignes que leur donnent les utilisateurs (humains) – d’autres plateformes d’IA peuvent également « créer » de la musique et de l’art.
En fait, Bill Gates, cofondateur de Microsoft, a même déclaré que la technologie de l’IA pourrait un jour égaler les enseignants et les tuteurs.
« Les IA parviendront à être d’aussi bons tuteurs que n’importe quel humain », a déclaré Bill Gates lors du sommet ASU+GSV qui s’est tenu à San Diego le 18 avril.
« Nous disposons de suffisamment d’échantillons qui montrent qu’une telle programmation est possible », a-t-il ajouté en référence à la formation des tuteurs. « Je dirais donc qu’il s’agit là d’une étape très importante, qui permet d’engager un dialogue et d’aider à comprendre ce qu’il manque. Mais nous n’en sommes pas encore là. »
Pourtant, la capacité des chatbots à générer des informations erronées et à les présenter comme des faits suscite des inquiétudes.
« Le fait même de ne pas savoir si nous sommes en train de dialoguer avec un humain ou avec une machine peut devenir un défi », a ajouté Mme Finlay. « Cela peut avoir des conséquences réelles sur les droits de l’homme les plus élémentaires. Dans l’immédiat, c’est une menace pour nos libertés d’expression et de pensée ».
« De nombreux partisans de l’IA générative parlent déjà de la prochaine génération de moteurs de recherche, mais il existe déjà de réelles inquiétudes sur le fait que les réponses générées risquent d’être politiquement orientées, ou de renvoyer à de fausses informations, ou bien le programme risque d’être construit pour censurer et désinformer les gens. »
Les régimes autoritaires comme le Parti communiste chinois s’efforcent déjà de façonner l’IA, l’Administration chinoise du cyberespace ayant publié des avis pour rappeler que toute innovation dans ce domaine doit refléter les « valeurs socialistes fondamentales » du pays.
L’humanité doit primer, selon la commissaire
Selon Mme Finlay, la clé de ces défis réside à notre capacité à placer l’humanité au centre du projet d’IA.
« Nous devons développer, déployer et utiliser la technologie de l’IA générative de manière responsable et éthique. Les droits et libertés fondamentaux doivent être protégés à tous les stades de la vie d’un produit, du concept et de la conception à la vente et à l’utilisation », a-t-elle déclaré, tout en avertissant que de nombreux gouvernements et entreprises ne prenaient pas du tout cela en considération.
Les préoccupations de Mme Finlay font écho à celles de l’entrepreneur technologique et cofondateur d’Open AI, Elon Musk, qui a révélé s’être brouillé avec le fondateur de Google, Larry Page, suite à leurs points de vue divergents sur l’IA et sur la relation que celle-ci devrait entretenir avec les êtres humains.
« La raison pour laquelle Open AI existe est que Larry Page et moi étions proches, et souvent je passais la nuit chez lui à Palo Alto, et je lui parlais jusque tard dans la nuit de la sécurité de l’IA », a déclaré Elon Musk à Tucker Carlson.
« Pour le moins, j’avais l’impression que Larry ne prenait pas la sécurité de l’IA suffisamment au sérieux », a-t-il avancé. « Il semblait vraiment souhaiter l’avènement d’une superintelligence numérique, en fait un dieu numérique, le plus tôt possible. »
« Puis il m’a traité de spéciste ».
Musk s’est également dit préoccupé par le fait que seuls trois géants de la technologie, à savoir Google, Meta (anciennement Facebook) et Microsoft, détiennent aujourd’hui le monopole de l’IA.
Le fondateur de Tesla a déclaré que même s’il était « en retard dans le jeu », il essaierait de créer une « IA en quête de vérité maximale, formée pour se soucier de l’humanité, être idéologiquement neutre et chercher à comprendre la nature de l’univers ».
« Nous voulons être pro-humains. Faire en sorte que l’avenir soit bon pour les humains. Parce que nous sommes des humains. »
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.