Teknologivirksomheder vil kun have 48 timer til at fjerne ikke-samtykkende intime billeder (herunder deepfake nøgenbilleder), ellers risikerer de at blive bødet millioner og potentielt blokeret i Storbritannien, har premierminister Keir Starmer sagt.
Starmer beskrev online misogyni som en "national nødsituation" og annoncerede ændringer til Crime and Policing Bill, der vil tvinge platforme til at handle hurtigt, når krænkende indhold bliver markeret. Virksomheder, der ikke overholder reglerne, kan risikere bøder på op til 10 % af den globale omsætning eller få deres tjenester begrænset under Ofcoms håndhævelse.
Foranstaltningerne vil også gælde for AI-genereret indhold, herunder billeder skabt gennem værktøjer som Grok, udviklet af xAI, som tidligere i år mødte modstand for at generere seksualiserede billeder af kvinder. Ministrene havde advaret om, at stærkere tiltag kunne følge, hvis der ikke blev indført sikkerhedsforanstaltninger.
Ofre vil kunne rapportere krænkende materiale enten direkte til platforme eller til Ofcom, hvilket udløser advarsler på flere sider for at forhindre gentagne uploads. Regulatoren forventes også at undersøge digitale vandmærknings- og hash-matchningssystemer for automatisk at opdage og blokere genpostet indhold.
Ændringerne vil klassificere skabelse eller deling af ikke-samtykkende intime billeder som en "prioriteret forbrydelse" under Online Safety Act og placere det side om side med lovovertrædelser som materiale om seksuelt misbrug af børn og indhold relateret til terrorisme.
Starmer sagde, at ansvaret for at bekæmpe misbrug må flyttes væk fra ofrene og videre til gerningsmændene og de virksomheder, der hoster skadeligt materiale. "Alt for ofte tvinges ofrene til at jagte indhold på tværs af platforme, mens det fortsætter med at sprede sig," skrev han. "Det er ikke retfærdighed, det er fiasko."