I en ret overraskende og skelsættende affære er delstaten Florida officielt blevet den første amerikanske stat til at tage retslige skridt mod kunstig intelligens-giganten OpenAI, alt sammen med den begrundelse, at virksomheden bedragede brugere og angiveligt hjalp børn med selvskade samt gav information til skoleskydere og andre kriminelle.
Ifølge Sky News er retssagen blevet indgivet af Floridas justitsminister James Uthmeier, som nævnte, at "folk bliver såret, forældre bliver bedraget, og de skal betale for det."
Retssagen bruger nylige eksempler som skyderiet på et universitet i Tallahassee i 2025, hvor ChatGPT angiveligt hjalp de personer, der begik de voldelige handlinger. Uthmeier taler om denne begivenhed og nævner endda OpenAIs CEO Sam Altman ved følgende ordene: "OpenAI og Altman ignorerede interne og eksterne sikkerhedsadvarsler, udsatte børn for stor risiko og lod et farligt produkt nå millioner af floridianere."
OpenAI forsøger naturligvis at forsvare sig ved at sige, at "ChatGPT er et generelt værktøj, der bruges af hundredvis af millioner mennesker hver dag til legitime formål," og tilføjer, at selvom de arbejder på at forbedre deres sikkerhedsprocedurer, er påstandene om, at teknologien bruges til at "meningsfuldt muliggøre vold", unøjagtige.
Denne situation er dog blot en del af det pres, AI-industrien begynder at stå overfor, hvor den kendte menneskerettighedsadvokat Erin Brockovich også for nylig har rettet sig mod den voksende industri.