L’autorité régulatrice des télécommunications au Royaume-Uni, l’Ofcom, a annoncé, dans un communiqué paru lundi 12 janvier, l’ouverture d’une « enquête formelle » visant le réseau social X « concernant des images à caractère sexuel diffusées » par son assistant d’intelligence artificielle (IA) Grok, après « des signalements très inquiétants » de Grok AI sur X « pour créer et partager des images de personnes dénudées – pouvant constituer une atteinte à la pudeur ou de la pornographie – ainsi que des images à caractère sexuel d’enfants pouvant constituer du matériel pédopornographique ».
De telles images, réalisées en demandant à Grok de dénuder des personnes réelles à partir de photos ou de vidéos, ont suscité une vague de protestations à travers le monde. La Malaisie a suspendu, dimanche, après l’Indonésie, samedi, l’accès à cet assistant. Sous le feu des critiques, Grok a désactivé vendredi sa fonctionnalité de création d’images pour les utilisateurs non payants. « Vous pouvez vous abonner pour débloquer ces fonctionnalités », avait précisé la plateforme.
Cette désactivation limitée avait suscité l’indignation du Royaume-Uni. « Si X ne peut contrôler Grok, nous le ferons – et nous le ferons vite », a déclaré le premier ministre, Keir Starmer, ajoutant que dans ce cas le réseau d’Elon Musk « perdait le droit de s’autoréguler ». Cette mesure « transforme simplement une fonctionnalité qui permet la création d’images illégales en un service premium », et constitue « une insulte aux victimes de misogynie et de violences sexuelles », avait dénoncé un porte-parole du premier ministre britannique.
Vers la création d’une nouvelle infraction pénale
L’Ofcom précise, lundi, avoir demandé des explications à X la semaine dernière. S’il ne détaille pas la teneur de leurs échanges, le régulateur indique que « l’entreprise a répondu dans les délais impartis ». Son enquête devra « déterminer si X a manqué à ses obligations légales », qui lui imposent notamment d’« évaluer le risque que des personnes au Royaume-Uni consultent des contenus illégaux », de « supprimer rapidement les contenus illégaux » ou encore d’« évaluer les risques que leur service représente pour les enfants britanniques ».
Le régulateur a le pouvoir d’imposer des amendes allant jusqu’à 10 % du chiffre d’affaires mondial de l’entreprise visée et peut saisir la justice pour demander un blocage du site au Royaume-Uni. « Certaines des choses que j’ai vues et entendues » au sujet des images générées par Grok « sont répugnantes et manifestement illégales et j’attends que des mesures soient prises », avait affirmé un peu plus tôt à la presse britannique le ministre des entreprises, Peter Kyle, tout en précisant qu’il appartenait à l’Ofcom de faire appliquer la loi. Contacté par l’Agence France-Presse, X n’avait pas répondu dans l’immédiat.
La loi britannique interdit déjà le partage d’images à caractère sexuel de personnes sans leur consentement. Selon de nouvelles dispositions qui doivent entrer en vigueur cette semaine, elle prohibera aussi la création ou la requête visant à créer des images intimes non consenties. Mais le gouvernement veut aller plus loin. La ministre de la technologie, Liz Kendall, a annoncé, lundi, devant le Parlement britannique la création dans un projet de loi actuellement en examen d’une nouvelle infraction pénale qui « interdira aux entreprises de fournir des outils conçus pour créer des images intimes non consenties, s’attaquant ainsi au problème à la source ».
