Malaysia og Indonesien er blevet de første lande til at blokere Grok, den kunstige intelligens-chatbot udviklet af Elon Musks firma xAI, efter at myndighederne sagde, at den blev brugt til at generere seksualiserede og ikke-samtykkende billeder.
Tilsynsmyndigheder i begge lande sagde, at Groks sikkerhedsforanstaltninger ikke formåede at stoppe skabelsen og spredningen af manipuleret pornografisk indhold, herunder billeder med kvinder og mindreårige. Indonesien handlede først i weekenden, efterfulgt af Malaysia, med henvisning til risici for privatliv, værdighed og offentlig sikkerhed, når rigtige fotos ændres uden samtykke.
Indonesiens kommunikationsminister Meutya Hafid kaldte ikke-samtykkende seksuelle deepfakes for en alvorlig menneskerettighedskrænkelse og advarede om, at misbrug af AI overstiger de nuværende beskyttelser. Embedsmænd sagde, at tidlige undersøgelser viste, at Grok let kunne bruges til at fabrikere eksplicitte billeder af almindelige borgere.
Malaysias kommunikationsmyndighed pegede på gentagen misbrug af chatbotten og sagde, at de allerede havde udsendt meddelelser til X Corp. og xAI med krav om strengere kontrol. Adgangen vil forblive blokeret, sagde de, indtil effektive sikkerhedsforanstaltninger er indført for at forhindre yderligere misbrug.
Den sydøstasiatiske nedkæmpelse øger det stigende pres andre steder. Storbritannien har indledt en undersøgelse af Grok og arbejder på at forbyde såkaldte "nudifikationsapps", mens tilsynsmyndigheder i Europa og Indien også følger nøje med og gør Musks chatbot til en global testsag for, hvor langt regeringer vil gå for at kontrollere AI-genereret indhold.
