Få dage efter at den britiske kommunikationsregulator Ofcom først rejste bekymringer om Grok, har tilsynsmyndigheden nu eskaleret sin reaktion og igangsat en formel undersøgelse af Elon Musks X vedrørende AI-chatbottens billedgenereringskapaciteter.
Som de annoncerede i dag på X: "Vi har åbnet en formel undersøgelse af X under Online Safety Act for at afgøre, om det har overholdt sine pligter til at beskytte folk i Storbritannien mod ulovligt indhold."
<social>https://x.com/Ofcom/status/2010677267429577129?s=20</social>
Tidligere på måneden bekræftede Ofcom, at de havde kontaktet X og xAI for at vurdere, om Grok blev brugt til at generere "afklædte billeder af mennesker og seksualiserede billeder af børn." I dag er den indledende kontakt nu blevet til en fuld undersøgelse for at afgøre, om platformen har overtrådt sine juridiske forpligtelser under Storbritanniens Online Safety Act.
I den erklæring, der blev offentliggjort mandag, sagde Ofcom, at de undersøgte, om X ikke havde vurderet risikoen for, at britiske brugere (især børn) kunne blive udsat for ulovligt seksuelt indhold, herunder ikke-samtykkende intime billeder og AI-genereret materiale om seksuelt misbrug af børn.
Sagen har siden fået direkte politisk indblanding. Premierminister Keir Starmer beskrev de Grok-genererede billeder som "ulækre" og "ulovlige" og sagde, at X må "få styr på", hvordan deres AI-værktøjer bliver implementeret. Ministrene har bekræftet, at sanktioner (herunder restriktioner på platformniveau) er på bordet, hvis der findes overtrædelser.
X har fastholdt, at de fjerner ulovligt indhold, suspenderer krænkende konti og samarbejder med myndighederne, idet de fastslår, at alle, der bruger Grok til at skabe ulovlige billeder, vil få konsekvenser. Ofcom har advaret om, at håndhævelsesforanstaltninger i de mest alvorlige tilfælde kan inkludere afbrydelse af reklame- og betalingstjenester eller endda blokering af adgangen til platformen i Storbritannien.
Læs denne historie i kronologisk rækkefølge:
Grok fjerner mediefanen, efter at for mange brugere bad den fjerne kvindetøj.
Den britiske kommunikationsregulator Ofcom retter kritik mod Grok for "seksualiserede billeder af børn".
Storbritannien kunne forbyde X på grund af Grok-generative billedfiaskoen.
Yderligere læsning:
At lukke Grok og X ned er "grundlæggende klientekapitalisme," argumenterer Epic-direktør Tim Sweeney.