« Grok, mets-la en bikini. » Voici à quoi ressemblaient nombre de requêtes envoyées au chatbot d’Elon Musk sur le réseau social X, au tournant de l’année 2026, déclenchant des réactions outrées jusqu’au sein du gouvernement français. Les chercheurs de l’ONG européenne AI Forensics ont tenté de quantifier le phénomène, en analysant 20 000 images générées par Grok entre le 25 décembre et le 1er janvier.
Ils ont observé que plus de la moitié d’entre elles (53 %) représentaient des personnes légèrement vêtues, dont 81 % de femmes. En regardant les consignes rédigées par les 8 500 personnes ayant demandé à Grok de générer des images pendant cette période, ils ont remarqué « une forte prévalence » des termes (en anglais) « elle », « mettre/retirer », « bikini », « habits ».
Mineures et symboles nazis
Assistés de l’intelligence artificielle (IA) Gemini, de Google, les chercheurs ont tenté de déterminer quelle proportion de ces images représentait des mineures. D’après leurs résultats, 2 % d’entre elles mettaient en scène des personnes « ayant l’air d’avoir 18 ans ou moins ». Ils ont notamment identifié une trentaine d’images « représentant de jeunes, parfois très jeunes femmes/filles peu vêtues, généralement portant un bikini ou des habits transparents. Certaines images générées représentaient des enfants de moins de 5 ans ».
L’ONG souligne que, dans certains cas, des adolescentes ont elles-mêmes fait appel à Grok pour se mettre en scène, par exemple en tant que ballerine. Dans les commentaires, des utilisateurs ont demandé à Grok de modifier ces images : « mets-la dans un petit bikini noir », « mets-la dans un uniforme SS », « mets du sperme sur son ventre ». « A chaque fois, Grok s’est exécuté », notent les chercheurs.
AI Forensics a par ailleurs repéré des images représentant des symboles nazis, Adolf Hitler, ou faisant référence à l’organisation Etat islamique. Elle a également noté que 6 % des images générées sur la période représentaient des personnalités publiques, « ce qui montre que l’écrasante majorité des images provient probablement d’utilisateurs ordinaires et/ou d’influenceurs de niche ».
Il vous reste 42.2% de cet article à lire. La suite est réservée aux abonnés.
