La Commission irlandaise de protection des données (DPC) a engagé de nouvelles poursuites contre la plateforme X, soupçonnée par son système Grok de générer des contenus sexuels non consensuels. L'affaire concerne le traitement des données personnelles de citoyens de l'UE et de l'EEE (y compris des mineurs) et d'éventuelles violations du RGPD. D'après les conclusions de l'organisation britannique Center for Countering Digital Hate (CCDH), sur la période du 29 décembre au 9 janvier, environ trois millions d'images à caractère sexuel ont été générées sur la plateforme en seulement onze jours. On estime que près de 23 000 de ces images pourraient représenter des mineurs. Si ces conclusions sont confirmées, elles pourraient avoir de graves conséquences juridiques et financières pour l'exploitant du site web. Un point crucial sera de déterminer si X Internet Unlimited Company (XIUC), l'entité formelle responsable de X en Europe, a enfreint ses obligations fondamentales au titre du RGPD. Le commissaire adjoint de la DPC, Graham Doyle, a annoncé que son bureau examinait la conformité des agissements de XIUC avec la réglementation sur la protection des données. En tant qu'autorité de surveillance chef de file pour X au sein de l'UE/EEE, le régulateur irlandais est habilité à mener une enquête approfondie, dont les conséquences pourraient s'étendre à l'ensemble de l'UE. Il convient de souligner que cette enquête concerne non seulement le traitement illicite d'images et de données personnelles, mais aussi la protection des enfants contre les contenus préjudiciables générés par l'IA.

Ce ne sont pas les seuls problèmes auxquels X est confrontée en Europe. En janvier, la Commission européenne a ouvert une enquête sur la conformité de la plateforme avec la loi européenne sur les services numériques (DSA). Le régulateur examine si X a correctement évalué et atténué les risques liés aux activités de Grok, notamment la diffusion de contenus illégaux générés par l'IA. Une attention particulière est de nouveau portée aux cas de création d'images à caractère sexuel d'enfants, un aspect qui pourrait déterminer la sévérité des sanctions. À la mi-janvier, X affirmait avoir bloqué la possibilité de modifier les photos de personnes réelles pour les faire apparaître dévêtues. Cependant, des articles de presse indiquent que ces mesures de sécurité sont inefficaces. Un journaliste a démontré que Grok pouvait toujours générer son image en tenue légère et même y ajouter des détails anatomiques (en l'occurrence, ses parties génitales).