Grok, den kunstige intelligens, der bruges på Elon Musks X, tidligere Twitter, er blevet taget i at "lyve" flere gange om billeder af underernærede børn i Gaza. Det er ifølge en rapport fra faktatjekkerne RTVE, der peger på mindst tre gange, hvor brugere spurgte Grok om rigtigheden af billeder af sultende børn i Gaza, med meget synlige virkninger af underernæring og sygdom, og X's AI sagde, fejlagtigt, at billederne ikke var fra Gaza... når de faktisk var det.
"@grok, hvilket år er disse billeder fra?", spurgte Kristy4TRUMP som svar på et indlæg fra den amerikanske senator Bernie Sanders, 28. juli sidste år. "Disse billeder er fra 2016 og viser underernærede børn på et hospital i Houdieda, Yemen, midt i borgerkrigen der. De skildrer ikke aktuelle begivenheder i Gaza", sagde Grok.
<social>https://x.com/Shayan86/status/1950590940764393815</social>
Bortset fra, at de ikke var det: Det er billeder taget i Gaza den 23. juli, verificeret af Associated Press, som delt af Shayan Sardarizadeh, BBC-reporter med speciale i AI og desinformation.
Ved en anden lejlighed siger Grok, at billedet af en mor, der bærer en baby med en plastikpose som ble og intet andet end knogler under huden, er fra Yemens hungersnød i 2017, mens det i virkeligheden er et billede taget af Ahmed al-Arini den 21. juli, hvor BBC endda interviewer hans mor, Hedaya al-Muta.
<social>https://x.com/grok/status/1948374632937185397</social>
Gentagne gange har faktatjekkere fundet ud af, at Grok lyver om billedernes sandhed, selv når de kategorisk hævder at være sande. Dette viser faren ved at bruge AI som et verifikationsværktøj, hvilket kan forårsage endnu mere misinformation. Nogle eksperter mener, at det i Groks tilfælde skyldes, at AI'en bruger prompter trænet på X, et socialt netværk, hvor falske nyheder og misinformation løber frit.
Eksperter spurgt af RTVE anbefaler, at hvis vi sigter mod at bruge AI til at bekæmpe misinformation, skal vi bruge mere end én AI-model og ikke begrænse os til Grok, en model, der bevidst blev lavet til at have "ufiltrerede svar" og trænet "ikke at være politisk korrekt", hvilket i mange tilfælde har vist sig at være kontroversielt for at læne sig op ad Musks egne politiske synspunkter, giver næring til konspirationsteorier, herunder "hvidt folkedrab" og bruger en "kantet" og "vittig" tone.