Le deepfake ou l’hypertrucage ne concerne pas que les célébrités et autres personnalités publiques, et n’importe quel individu peut être visé. C’est l’avertissement qu’a lancé une commission canadienne de la Chambre des communes qui s’est penché sur l’utilisation de matériel explicite en ligne.
Six universitaires et juristes se sont exprimés lors de cette réunion du 13 juin 2024. Ils ont fait part de leurs inquiétudes sur l’accessibilité d’outils permettant de créer de faux fichiers d’intelligence artificielle (IA) dans le cadre du projet de loi canadien sur la criminalisation des préjudices en ligne (C-63).
« Les recherches montrent que ce phénomène est en train de prendre de l’ampleur et qu’il est en train de devenir un problème dans les écoles », a déclaré Shona Moreau, diplômée de la faculté de droit de l’Université McGill de Montréal, au comité. « En décembre, dans la ville de Winnipeg, nous avons appris que près de 40 jeunes filles avaient été victimes de deepfakes dans une seule et même école. C’est un chiffre énorme. Il s’agit donc d’un véritable enjeu. Et je suis sûre qu’il y a beaucoup d’autres situations de ce genre ailleurs ».
Chloe Rourke, une de ses collègues de la faculté de droit de McGill, estime que les plateformes numériques doivent être tenues pour responsables de la circulation de ces contenus.
« Les plateformes technologiques telles que Google et les sites pornographiques ont déjà mis en place des procédures permettant aux utilisateurs de demander que les images non consensuelles d’eux-mêmes soient supprimées et retirées de leurs sites web. Cette solution n’est pas parfaite. Une fois que le contenu est diffusé publiquement, il ne peut jamais être totalement supprimé de l’internet, mais il est possible de le rendre moins visible et donc moins nocif. »
Mme Rourke s’est toutefois inquiétée de la facilité avec laquelle il est possible de créer de faux contenus grâce à l’essor des outils d’intelligence artificielle.
« Si vous tapez ‘deep nude’ dans Google, les premiers résultats vous donneront 10 sites web différents accessibles en quelques minutes. Il est possible de rendre cela moins visible et moins accessible que ça ne l’est maintenant », dit-elle.
Selon elle, la facilité avec laquelle les deepfakes peuvent être créés de manière anonyme signifie que les changements proposés au droit pénal ne seront pas efficaces.
« Je pense qu’il est assez déconcertant de voir à quel point c’est facile et accessible », déplore-t-elle. « Je pense que c’est la raison pour laquelle des adolescents l’utilisent, et c’est la raison pour laquelle un recours pénal est simplement inadéquat, ou même des recours civils, compte tenu de l’accessibilité à ce type de contenu ».
Elle estime donc que ce sont les plateformes numériques qui devraient avoir la charge de rendre ces contenus moins accessibles.
Selon elle, les législateurs devraient réfléchir à la manière dont la technologie pourrait évoluer à l’avenir et à la question de savoir si les lois mises en place aujourd’hui seront efficaces demain.
« L’IA n’est pas près de disparaître et d’autres évolutions vont suivre », a-t-elle déclaré. « Lorsque nous légiférons aujourd’hui, nous devons en fait nous projeter dans cinq à dix ans, voire même dans vingt-cinq ans. »
L’avocate générale du Centre canadien de protection de l’enfance, Monique St. Germain, a affirmé devant la commission que le droit pénal ne pouvait être le seul outil de lutte contre le problème, et elle a décrit l’impact de ce type de contenu sur les enfants qui y sont exposés.
« Cela peut normaliser des actes sexuels préjudiciables, conduire à des croyances déformées sur la disponibilité sexuelle des enfants et augmenter les comportements agressifs », déplore-t-elle. « De plus en plus de violences sexuelles sont commises par des enfants, et de plus en plus d’enfants imitent le comportement prédateur des adultes, ce qui les amène dans le système de justice pénale. »
Projet de loi C-63
Le projet de loi canadien, C-63, a été présenté par le gouvernement en février afin de réglementer les contenus Internet impliquant l’exploitation sexuelle, l’intimidation, les « deepfakes » et les « comportements haineux ».
Outre les dispositions visant à protéger les enfants, comme l’imposition de lourdes amendes aux plateformes qui ne bloquent pas l’accès aux contenus exploitant les enfants, le projet de loi comporte d’autres éléments, notamment l’ajout d’une infraction indépendante de crime de haine s’appliquant à toutes les infractions existantes, l’ajout d’une disposition relative à la « crainte » qu’une personne puisse commettre un crime de haine à l’avenir, et l’augmentation des peines pour les crimes de haine. Le projet de loi permet également de porter plainte contre toute personne diffusant des « discours de haine » en ligne.
Selon le gouvernement libéral, le projet de loi est nécessaire pour protéger les enfants et lutter contre les préjudices causés par les contenus en ligne.
Les conservateurs se sont montrés critiques à l’égard de certaines dispositions du projet de loi qui, selon eux, pourraient porter atteinte aux droits les plus fondamentaux. Le Bloc Québécois a, quant à lui, proposé de scinder le projet de loi en deux, pour, d’une part, accélérer les parties relatives à la pornographie infantile et à la publication de matériel pornographique non consensuel, et, d’autre part, permettre d’organiser davantage de débats sur certains des aspects les plus controversés de cette loi.
Selon, le NPD (Nouveau parti démocratique), le projet de loi aurait dû être proposé plus tôt, et certaines de ses dispositions doivent aller plus loin.
Le ministre de la Justice canadien, Arif Virani, a déclaré qu’il était prêt à amender le projet de loi.
Matthew Horwood a contribué à cet article.
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.