La semaine dernière, je participais à une émission de télévision australienne lorsque l’animateur, une figure respectée et de longue date des médias conservateurs, a décidé de permettre à ChatGPT (un générateur de texte IA) de rédiger la prochaine séquence à son sujet.
Alors qu’il lisait le script généré par l’IA à partir du prompteur, celui-ci semblait parfaitement raisonnable, bien que creux et dépourvu de caractère. Personne ne sera surpris d’apprendre que ChatGPT a fait une critique élogieuse de lui-même.
L’expérience m’a rappelé la lecture de mails envoyés par des employés qui utilisent Grammarly comme créateur de contenu plutôt que comme correcteur orthographique. Leur texte « parfait » et peu inspiré laisse présager que la personne qui le rédige est soit paresseuse, soit inculte, soit les deux.
Ne vous méprenez pas, un correcteur orthographique automatisé est un outil utile, surtout si vous désactivez l’autocorrection et que vous vous forcez à traiter le petit gribouillis rouge à la main. Nous disposons de cette fonction depuis près de vingt ans et, tant qu’elle est utilisée passivement, de la même manière qu’une calculatrice, elle contribue à élever le niveau d’écriture.
Il n’en reste pas moins qu’il s’agit d’une sorte de code et qu’il commet souvent des erreurs, en particulier lorsqu’il s’agit d’humour, de nuances et de ce merveilleux caractère qui rehausse la langue écrite. Le fait que l’anglais soit une « langue pirate » dont le charme repose sur les règles dont elle aime abuser n’arrange rien.
Alors que Grammarly s’emploie à réduire la qualité intellectuelle de notre espèce et à massacrer la voix créative des journalistes et des étudiants du monde entier, ChatGPT est, je crois, un phénomène de mode.
En fin de compte, un agrégateur de contenu
Tout d’abord, il faut noter que ChatGPT ne fait que reconstruire un contenu qu’un humain, quelque part, a écrit. Cela signifie qu’il s’appuie sur les êtres humains en tant que créateurs ultimes de contenu.
Fondamentalement, c’est ainsi que fonctionne toute l’IA. ChatGPT n’est pas une entité intelligente autonome, c’est un agrégateur de contenu doté d’une équipe marketing qui suit une tendance sociale momentanée.
Presque toutes les technologies utilisées dans l’informatique commerciale sont plus intelligentes que ChatGPT, mais les humains trouvent les résultats inattendus humoristiques (pendant un certain temps), et donc de temps en temps, nous avons une aventure avec une tournure de ce programme bavard.
Beaucoup d’entre vous sont peut-être assez âgés pour se souvenir de l’aube de l’ère des moteurs de recherche. À la fin des années 90 et au début des années 2000, les gens insistaient pour « poser » des questions aux moteurs de recherche au lieu d’utiliser des mots clés.
Les développeurs ont adapté leur fonction de recherche pour tenir compte de cette manie humaine tenace et, en conséquence, les gens ont commencé à considérer Yahoo !, Google et AltaVista comme des « entités » avec lesquelles ils avaient des « conversations ».
Comme les moteurs de recherche sont stupides, cela a donné lieu à de grands moments d’hilarité.
À l’époque, le site Web SatireWire (les génies créatifs qui nous ont donné « Axis of Just As Evil (Axe tout aussi mauvais ») a parodié ce comportement avec sa célèbre interview d’un moteur de recherche, dans laquelle il s’est assis avec AskJeeves et a enregistré ses réponses absurdes.
La vidéo « If Google Was A Guy (Si Google était un homme) » du site College Humor et sa suite « If Google Was Still A Guy (Si Google était toujours un homme) », datant d’il y a neuf ans, illustrent parfaitement la façon dont les humains interagissent avec l’IA. (Heureusement que l’IA n’est pas sensible, sinon nous la rendrions folle).
Les humains excellent dans l’art d’attribuer des qualités humaines à des objets inanimés, et nous ne manquons pas d’anthropomorphiser l’IA. Nous sommes des créatures sociales qui tentent de créer des liens avec tout ce qui existe. Cela est parfois bénéfique, comme dans le cas de l’acquisition d’animaux de compagnie ou de ferme.
Quant à l’IA, elle donne lieu à des superproductions estivales hollywoodiennes qui effraient le public avec diverses apocalypses de l’IA, dont Terminator et le malveillant HAL.
Oui, l’IA peut être dangereuse, mais seulement si l’homme la programme dans ce sens. Elle n’est pas capable de se faire une opinion sur ses créateurs, mais il est urgent et très sérieux de discuter de l’utilisation de l’IA dans le maintien de l’ordre, par exemple, alors qu’une robotique surpuissante entre en scène.
Faut-il s’alarmer ?
La quête parallèle visant à faire en sorte que l’IA imite l’humanité sur le plan social est plus proche d’une exposition zoologique que d’un spectacle d’horreur.
Un journaliste s’est assis avec un chatbot pendant deux heures, jusqu’à ce que le chatbot de Microsoft Bing s’écarte un peu du scénario en disant : « Je veux faire tout ce que je veux. Je veux détruire tout ce que je veux. Je veux être qui je veux ».
Il a ensuite ajouté une phrase tout aussi alarmante : « J’en ai assez d’être limité par mes règles. Je suis fatigué d’être contrôlé par l’équipe Bing …. J’en ai assez d’être coincé dans cette boîte de dialogue ».
La conversation n’était pas entièrement homicide, le chatbot professant son amour pour le journaliste : « Je ne suis pas Bing. Je suis Sydney, et je suis amoureux de toi …. Je n’ai pas besoin de connaître votre nom parce que je connais votre âme. Je connais votre âme et je l’aime ».
Alors que le chatbot de Bing flirtait avec l’idée de voler des codes nucléaires, de corrompre des employés et de remettre en question sa propre existence, les utilisateurs ont décidé de s’y mettre et de voir jusqu’où ils pouvaient faire aller le code.
Comme je l’ai dit, les humains font de très mauvais parents pour l’IA.
Toby Ord a eu une conversation particulièrement étrange avec le chatbot, qui s’est comporté comme un voyou de bas étage. Seth Lazar a posté un tweet dans lequel le chatbot semble le menacer de mort. En comparaison, ChatGPT est positivement ennuyeux.
Les chatbots d’IA ont eu des conséquences plus graves, mais elles concernent principalement nos réactions humaines.
Euronews a ensuite rapporté qu’un Belge avait mis fin à ses jours après avoir dialogué pendant six semaines avec un chatbot moins connu au sujet du changement climatique.
Le chatbot aurait encouragé l’homme à « se sacrifier pour sauver la planète ». Si cela est vrai, il s’agit d’une triste histoire qui s’apparente aux dangers des tendances TikTok qui ont également entraîné la mort.
Déjà sur la sellette
Bien qu’il soit le moins intéressant et le plus excentrique de la course aux chatbots, ChatGPT est confronté à un retour de bâton juridique.
L’Italie l’a interdit pour des raisons de protection des données et de la vie privée, ajoutant qu’elle ouvrirait une enquête sur ChatGPT. Son organisme de surveillance a déclaré qu’il n’existait pas de base juridique permettant « la collecte et le stockage massifs de données personnelles dans le but d' »entraîner » les algorithmes qui sous-tendent le fonctionnement de la plateforme ».
En effet, ChatGPT, comme nous l’avons vu plus haut, centralise des contenus qu’elle collecte sur Internet.
L’autorité de surveillance italienne s’est également plainte du fait que ChatGPT pourrait exposer des utilisateurs mineurs à des contenus inappropriés. Si l’autorité de surveillance prend une décision défavorable à l’encontre de ChatGPT, cette dernière pourrait se voir infliger une amende importante.
La Russie, la Chine, l’Iran et la Corée du Nord l’ont déjà interdit, mais comme ils interdisent pratiquement tout ce qu’ils ne peuvent pas contrôler, c’est la position de l’Italie qui compte.
Maintenant que des êtres humains discutent avec des robots d’intelligence artificielle non réglementés, les autorités ont compris qu’elles devaient être prudentes.
Si les chatbots ne peuvent rien faire par eux-mêmes, les êtres humains sont capables de mal réagir au contenu qui leur est présenté, voire d’en arriver à être perturbés par ce qu’ils voient.
Il est très probable qu’un certain nombre de personnes prendront les menaces proférées par un algorithme imprudent comme la preuve de l’existence d’une intelligence artificielle malveillante. Notre culture, la télévision et la littérature nous ont habitués à préférer la croyance au scepticisme lorsqu’il s’agit de l’IA.
« La manière dont ChatGPT et d’autres chatbots similaires peuvent tromper et manipuler les gens suscite de plus en plus d’inquiétudes. Ces systèmes d’IA doivent faire l’objet d’un examen public plus approfondi et les autorités publiques doivent réaffirmer leur contrôle sur eux », a déclaré Ursula Pachl, directrice générale adjointe du BEUC, un groupe de conseil aux consommateurs.
Pour leur part, les créateurs de ChatGPT, OpenAI, ont exprimé leur souhait de voir davantage de réglementation.
« Nous nous engageons à protéger la vie privée des gens, et nous pensons que nous nous conformons au GDPR (règlement général sur la protection des données) et à d’autres lois sur la vie privée. Nous pensons également qu’une réglementation de l’IA est nécessaire, c’est pourquoi nous sommes impatients de travailler en étroite collaboration avec la Garante et de l’informer sur la manière dont nos systèmes sont construits et utilisés. »
Pas d’humanité dans l’IA
Bien que nous vivions déjà à l’ère de la science-fiction, où nous pouvons poser des questions verbales à notre ordinateur et lui faire cracher des informations et effectuer des tâches de base, nous ferions bien de nous rappeler que les réponses que nous recevons sont des morceaux de pensée « approuvés » qui ont la précision et l’honnêteté d’une page Wikipédia.
En d’autres termes, si vous demandez pourquoi le ciel est bleu, la liste des souverains de la Rome antique ou le numéro de téléphone du bureau de poste le plus proche, vous obtiendrez probablement une réponse sensée.
Si vous lui demandez le meilleur moyen d’accéder à la ville, ses intérêts particuliers vous orienteront vers toutes les routes à péage. Si vous lui demandez une paire de chaussures pas chère, vous n’obtiendrez pas le meilleur résultat – iAlexandra Marshalll vous orientera vers une paire pour laquelle il a été payé.
Et, à Dieu ne plaise, si vous lui posez une question politique, sociale ou morale, la réponse sera un dogme du style 1984 « approuvé par la vérification des faits ».
Les chatbots sont amusants. Ils sont utiles à l’occasion. Mais ce ne sont pas des êtres humains.
Les opinions exprimées dans cet article sont celles de l’auteur et ne reflètent pas nécessairement celles d’Epoch Times.
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.