No woman or child should live in fear of having their image sexually manipulated by technology. Yet that is what many have faced in recent days with Grok. What we have seen has been absolutely appalling. Women and children targeted with manipulated intimate images. Their photos stolen. Their dignity attacked. Their safety compromised. Let me be crystal clear: sexually manipulating images of women and children is despicable and abhorrent. These are not harmless images – they are weapons of abuse, disproportionately aimed at women and girls. That Grok continues to allow this kind of content to be created by those willing to pay for it is an insult to victims. No business model should be built on the exploitation and abuse of women and children. This is not the path technology and AI should take – and we cannot stand by as it veers towards harm. We are at a defining moment, a tipping point that will shape the future of our digital world. Now is the time to speak with one voice about what we expect from chatbots and AI systems: tools that protect, not violate; that empower, not exploit. That’s why I back Ofcom, as the online safety regulator, to use the full legal powers that Parliament has given them to address this appalling material generated by X’s AI. This is a moment for MPs on all sides of the House to stand up for decency and call out platforms which allow explicit, degrading and illegal content. It’s time to choose a side. They can either support the action we are taking under the Online Safety Act or they can ally with those who think the creation and publication of sexually manipulated images of women and children is acceptable.

Nessuna donna o bambino dovrebbe vivere nella paura di vedere la propria immagine manipolata sessualmente dalla tecnologia. Eppure è quello che molti hanno dovuto affrontare negli ultimi giorni con Grok. Ciò che abbiamo visto è stato assolutamente spaventoso. Donne e bambini presi di mira con immagini intime manipolate. Le loro foto rubate. La loro dignità attaccata. La loro sicurezza è compromessa. Vorrei essere chiarissimo: la manipolazione sessuale delle immagini di donne e bambini è spregevole e ripugnante. Queste non sono immagini innocue: sono armi di abuso, rivolte in modo sproporzionato a donne e ragazze. Che Grok continui a consentire la creazione di questo tipo di contenuti da parte di coloro che sono disposti a pagare per averli è un insulto alle vittime. Nessun modello di business dovrebbe basarsi sullo sfruttamento e sull’abuso di donne e bambini. Questo non è il percorso che la tecnologia e l’intelligenza artificiale dovrebbero intraprendere – e non possiamo restare a guardare mentre vira verso il danno. Siamo in un momento cruciale, un punto di svolta che plasmerà il futuro del nostro mondo digitale. Ora è il momento di parlare con una sola voce di ciò che ci aspettiamo dai chatbot e dai sistemi di intelligenza artificiale: strumenti che proteggono, non violano; che danno potere, non sfruttamento. Ecco perché sostengo Ofcom, in qualità di regolatore della sicurezza online, affinché utilizzi tutti i poteri legali che il Parlamento ha concesso loro per affrontare questo materiale spaventoso generato dall’intelligenza artificiale di X. Questo è il momento per i parlamentari di tutti i lati della Camera di difendere la decenza e denunciare le piattaforme che consentono contenuti espliciti, degradanti e illegali.È ora di scegliere da che parte stare. Possono sostenere l’azione che stiamo intraprendendo ai sensi dell’Online Safety Act oppure possono allearsi con coloro che ritengono accettabile la creazione e la pubblicazione di immagini manipolate sessualmente di donne e bambini.