Un organisme de surveillance d’Internet a mis en garde contre le fait que des contenus d’abus sexuels sur des enfants générés par l’IA se retrouvent de plus en plus souvent dans des zones d’accès public de l’internet, précisant que ce phénomène n’est pas limité au dark web.
L’Internet Watch Foundation (IWF), une organisation caritative au Royaume-Uni qui détecte et supprime les contenus pédopornographiques sur Internet, demande une mise à jour de la législation pour faire face au nouveau phénomène de l’utilisation de l’imagerie dite « deep fake ()».
La dernière analyse de l’IWF révèle qu’au cours des six derniers mois seulement, l’association a reçu plus de signalements de contenus abusifs générés par l’IA qu’au cours des douze mois précédents.
Les images générées par l’IA peuvent être extrêmement réalistes et difficiles à différencier des images d’enfants réels, a déclaré l’organisation. Ce type de contenu est considéré comme un délit par la législation britannique.
Tomber sur de telles images déstabilise
L’IWF a trouvé 99 % de ces contenus dans des zones d’Internet accessibles au public, et l’organisme de surveillance a mis en garde contre la nature pénible de la rencontre avec de telles images.
Dans ses données, l’IWF a révélé que la majorité des rapports qu’elle a reçus (78 %) provenaient de membres du public peu méfiants qui étaient tombés sur les images sur des sites tels que des forums ou des galeries d’IA. Les autres ont été découverts par les analystes de l’IWF grâce à des recherches proactives.
L’organisation a constaté que plus de la moitié des contenus générés par l’IA, qu’elle a découverts au cours des six derniers mois, étaient hébergés sur des serveurs situés dans deux pays seulement : la Russie et les États-Unis.
Un analyste de contenu Internet travaillant pour l’IWF, identifié uniquement sous le nom de Jeff, a expliqué : « Je trouve cela vraiment effrayant, car j’ai l’impression que nous sommes à un point de basculement et que les organisations comme nous et la police risquent d’être submergées par des centaines et des centaines de nouvelles images, sans jamais savoir s’il s’agit d’un véritable enfant qui a besoin d’aide ».
Derek Ray-Hill, directeur général par intérim de l’IWF, estime que les gens ne devraient pas confondre l’utilisation de fausses images provenant d’avec un crime sans victime.
« Les gens ne doivent pas se faire d’illusion : les images d’abus sexuels d’enfants générées par l’IA causent d’horribles préjudices, non seulement à ceux qui pourraient les voir, mais aussi aux survivants qui sont victimes à chaque fois que les images et les vidéos de leurs abus sont exploitées sans pitié pour le plaisir tordu des prédateurs en ligne.
« Pour atteindre le niveau de sophistication des images d’IA, le logiciel utilisé a dû être entraîné à partir d’images et de vidéos d’abus sexuels d’enfants réellement victimes, partagées et diffusées sur Internet », a-t-il déclaré dans un communiqué.
Il a ajouté que la protection des enfants et la prévention de l’imagerie d’abus d’IA devaient être prioritaires pour les législateurs et l’industrie technologique « avant toute idée de profit ».
Derek Ray-Hill a appelé à l’adoption d’une nouvelle législation pour « adapter la loi à l’ère numérique et mettre en place des mesures tangibles pour faire face aux risques potentiels ».
De nombreux militants ont demandé une réglementation plus stricte concernant la formation et le développement des modèles d’IA, afin de s’assurer qu’ils ne génèrent pas de contenus nuisibles ou dangereux, et que les plateformes d’IA refusent de répondre à toute demande ou requête susceptible de donner lieu à la création de tels contenus.
Une menace réelle
L’agent principal adjoint Becky Riggs, responsable des enquêtes sur la protection des enfants et les abus au sein du Conseil national des chefs de police, a prévenu les pédophiles qu’ils ne pourront pas se soustraire à la loi en utilisant des images générées par l’IA.
Elle a déclaré dans un communiqué : « L’ampleur des abus sexuels et des images d’enfants en ligne est effrayante, et nous savons que l’utilisation accrue de l’intelligence artificielle pour générer des images abusives constitue une menace réelle pour les enfants. »
« La police continue de travailler de manière proactive pour poursuivre les délinquants, notamment par l’intermédiaire de nos unités d’infiltration spécialisées, qui démantèlent chaque jour les abuseurs d’enfants en ligne, et ce n’est pas différent pour les images générées par l’intelligence artificielle. »
Becky Riggs a appelé les grandes entreprises technologiques à assumer une plus grande responsabilité en ce qui concerne la création et le partage de ces images.
« Nous continuerons à poursuivre sans relâche ces prédateurs et à protéger les victimes, mais nous devons voir les entreprises technologiques agir davantage dans le cadre de la loi sur la sécurité en ligne pour faire de leurs plateformes des lieux sûrs pour les enfants et les jeunes. »
« Cela inclut et met en évidence les entreprises responsables du développement de l’utilisation de l’IA et des garanties nécessaires pour empêcher son utilisation à grande échelle, comme nous le voyons maintenant. »
Elle a ajouté que la police continuerait à travailler en étroite collaboration avec l’Agence nationale de lutte contre la criminalité, le gouvernement et l’industrie afin d’exploiter la technologie pour lutter contre l’abus et l’exploitation des enfants en ligne.
Les lois existantes ont déjà été mises à jour pour garantir que l’imagerie pornographique non photographique ou l’imagerie représentant la maltraitance des enfants soit illégale au Royaume-Uni.
La loi de 1978 sur la protection des enfants a été modifiée par la loi de 1994 sur la justice pénale et l’ordre public (Criminal Justice and Public Order Act) pour ériger en infraction pénale la prise, la distribution et la possession d’une « photographie ou pseudo-photographie indécente d’un enfant ».
La loi de 2009 sur les coroners et la justice (Coroners and Justice Act 2009) criminalise la possession d’une « image interdite d’un enfant », c’est-à-dire d’une image non photographique, telle qu’une caricature, un dessin ou une animation.
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.
