Quatre nouvelles lois viseront à lutter contre la menace des images d’abus sexuels sur mineurs générées par l’intelligence artificielle (IA), a annoncé le gouvernement.
Le ministère de l’Intérieur a déclaré que le Royaume-Uni serait le premier pays au monde à rendre illégale la possession, la création ou la distribution d’outils d’IA conçus pour créer du matériel d’abus sexuel sur mineur (CSAM), avec une peine pouvant aller jusqu’à cinq ans de prison.
La possession de manuels pédophiles basés sur l’IA – qui enseignent aux gens comment utiliser l’IA pour commettre des abus sexuels – sera également rendue illégale, et les contrevenants seront passibles d’une peine allant jusqu’à trois ans de prison.
« Ce que nous constatons, c’est que l’IA dope désormais la maltraitance des enfants en ligne », a déclaré la ministre de l’Intérieur Yvette Cooper à l’émission Sunday with Laura Kuenssberg de la BBC.
Cooper a déclaré que l’intelligence artificielle « industrialisait l’ampleur » des abus sexuels contre les enfants et que les mesures gouvernementales « pourraient devoir aller plus loin ».
D’autres lois devraient être introduites, notamment celle qui rendrait punissable la gestion de sites Internet sur lesquels des pédophiles peuvent partager des contenus pédophiles ou donner des conseils sur la manière de manipuler les enfants. Cette infraction serait passible d’une peine pouvant aller jusqu’à 10 ans de prison.
La police des frontières sera également habilitée à ordonner aux personnes soupçonnées de présenter un risque sexuel pour les enfants de déverrouiller leurs appareils numériques pour inspection lorsqu’elles tentent d’entrer au Royaume-Uni, car les images d’abus sexuels sur mineurs sont souvent filmées à l’étranger. Selon la gravité des images, cette infraction sera passible d’une peine pouvant aller jusqu’à trois ans de prison.
Les images d’abus sexuels sur mineurs générées artificiellement sont des images générées en partie ou entièrement par ordinateur. Un logiciel peut « rendre inutilisables » les images réelles et remplacer le visage d’un enfant par celui d’un autre, créant ainsi une image réaliste.
Dans certains cas, les voix réelles d’enfants sont également utilisées, ce qui signifie que des survivants innocents d’abus sont à nouveau victimisés.
De fausses images sont également utilisées pour faire chanter les enfants et forcer les victimes à subir de nouveaux abus.
L’Agence nationale de lutte contre la criminalité (NCA) a déclaré que 800 arrestations étaient effectuées chaque mois en lien avec des menaces proférées contre des enfants en ligne. Elle a déclaré que 840 000 adultes constituent une menace pour les enfants à l’échelle nationale – en ligne et hors ligne – ce qui représente 1,6 % de la population adulte.
Cooper a déclaré : « Il y a des auteurs qui utilisent l’IA pour les aider à mieux préparer ou faire chanter des adolescents et des enfants, en déformant les images et en les utilisant pour inciter les jeunes à subir d’autres abus, ce qui provoque des choses encore plus horribles et devient également plus sadique. »
Elle a poursuivi : « C’est un domaine dans lequel la technologie ne s’arrête pas et notre réponse ne peut pas s’arrêter pour assurer la sécurité des enfants. »
Certains experts estiment cependant que le gouvernement aurait pu aller plus loin.
La professeure Clare McGlynn, experte en matière de réglementation juridique de la pornographie, de la violence sexuelle et des abus en ligne, a déclaré que les changements étaient « bienvenus » mais qu’il existait « des lacunes importantes ».
Le gouvernement devrait interdire les applications de « nudification » et s’attaquer à la « normalisation de l’activité sexuelle avec des filles d’apparence jeune sur les sites pornographiques grand public », a-t-elle déclaré, décrivant ces vidéos comme des « vidéos simulées d’abus sexuels sur des enfants ».
Ces vidéos « impliquent des acteurs adultes mais ils ont l’air très jeunes et sont montrées dans des chambres d’enfants, avec des jouets, des nattes, des appareils dentaires et d’autres signes de l’enfance », a-t-elle déclaré. « Ce matériel peut être trouvé avec les termes de recherche les plus évidents et légitime et normalise les abus sexuels sur mineurs. Contrairement à de nombreux autres pays, ce matériel reste légal au Royaume-Uni. »
L’Internet Watch Foundation (IWF) prévient que de plus en plus d’images d’abus sexuels sur des enfants sont produites par l’IA, et qu’elles deviennent de plus en plus courantes sur le Web ouvert.
Les dernières données de l’association montrent que les signalements de CSAM générés par l’IA ont augmenté de 380 %, avec 245 signalements confirmés en 2024 contre 51 en 2023. Chaque rapport peut contenir des milliers d’images.
L’année dernière, une étude a révélé que sur une période d’un mois, 3 512 images d’abus et d’exploitation sexuelle d’enfants ont été découvertes sur un site Web sombre. Par rapport au mois de l’année précédente, le nombre d’images de la catégorie la plus grave (catégorie A) a augmenté de 10 %.
Les experts affirment que les images CSAM générées par l’IA peuvent souvent paraître incroyablement réalistes, ce qui rend difficile de distinguer le vrai du faux.
Le directeur général par intérim de l’ IWF, Derek Ray-Hill, a déclaré : « La disponibilité de ce contenu d’IA alimente davantage la violence sexuelle contre les enfants.
« Cela encourage les agresseurs et rend les enfants plus vulnérables. Il reste certainement beaucoup à faire pour empêcher l’exploitation de la technologie de l’IA, mais nous saluons cette annonce et pensons que ces mesures constituent un point de départ essentiel. »
Lynn Perry, directrice générale de l’association caritative pour les enfants Barnardo’s, a salué l’action du gouvernement pour lutter contre le matériel d’abus d’enfants produit par l’IA, « qui normalise les abus envers les enfants, mettant davantage d’entre eux en danger, en ligne et hors ligne ».
« Il est essentiel que la législation suive le rythme des avancées technologiques pour prévenir ces crimes horribles », a-t-elle ajouté.
« Les entreprises technologiques doivent s’assurer que leurs plateformes sont sûres pour les enfants. Elles doivent prendre des mesures pour introduire des mesures de protection plus strictes, et l’Ofcom doit veiller à ce que la loi sur la sécurité en ligne soit mise en œuvre de manière efficace et rigoureuse. »
Les nouvelles mesures annoncées seront introduites dans le cadre du projet de loi sur la criminalité et la police lorsqu’il sera présenté au Parlement dans les prochaines semaines.
Voir l’article original cliquez ci-dessous :
THE BLACK SUN 
Laisser un commentaire