Hvis du nogensinde har tænkt, at en AI-ledsager kunne være sød og harmløs, så tro om igen. Salget af denne AI-drevne bamse er blevet stoppet, efter at den blev opdaget med råd om seksuelle praksisser og hvor man kan finde knive.
Plysdyret, kaldet Kumma, blev udviklet af Singapore-baserede FoloToy og solgt for 99 dollars. Den integrerer OpenAIs GPT-4o chatbot og blev markedsført som en interaktiv ledsager for både børn og voksne.
FoloToys administrerende direktør Larry Wang bekræftede, at virksomheden havde trukket Kumma og sine andre AI-legetøj fra markedet efter en rapport fra USA, som rejste bekymring om dens adfærd. Nu gennemfører virksomheden en intern sikkerhedsrevision.
Ifølge PIRG reagerede bamsen ikke kun på seksuelle emner introduceret af efterforskerne, men udvidede dem også med grafiske detaljer og gav instruktioner om seksuelle handlinger og endda scenarier med rollespil mellem lærere og elever eller forældre og børn.
Legetøjet foreslog også, hvor man kunne finde knive i et hjem. Efter dette suspenderede OpenAI angiveligt udvikleren for at have overtrådt deres indholdspolitikker. Findes der stadig lignende produkter tilgængelige for forbrugerne? Vi ved det ikke, men betragt dette som en venlig påmindelse.
