Ifølge Financial Times er der afholdt et hastemøde hos Amazon, efter at virksomheden - der sidste år afskedigede 30.000 medarbejdere - nu står over for de alvorlige konsekvenser af at bruge AI til kompleks kodning. Avisen har fået indsigt i en intern note, der afslører omfattende problemer, samt e-mailkorrespondance fra Dave Treadwell, Senior VP. Heri anmodes senioringeniører om fremover personligt at føre tilsyn med og godkende alle kodeændringer foretaget af AI.
Amazon indkaldte til mødet for at undersøge årsagen til en række systemnedbrud, eller "afbrydelser" som de kaldes internt. Generativ AI får en stor del af skylden, og i en direkte e-mail til medarbejderne indrømmes det, at der har været kritiske problemer med "sidens tilgængelighed og den tilhørende infrastruktur". Dette resulterede blandt andet i, at over 10.000 kunder ikke kunne gennemføre køb, mens appen gentagne gange crashede. Amazon Web Services (AWS) har angiveligt sporet deres eget 13-timer lange nedbrud til brugen af AI-kodning - og det var ikke det eneste tilfælde. Ifølge Financial Times peger pilen direkte på Amazons egen kodningsbot, Kiro. Amazon har dog udsendt en erklæring, hvori de pure benægter dette og i stedet lægger skylden på simple menneskelige fejl.
Brancheanalytikere påpeger, at problemerne opstår, fordi AI ikke længere blot fungerer som et hjælpeværktøj, men nu aktivt foretager ændringer i systemerne. Det koster virksomheder som Amazon enorme beløb og kræver massiv menneskelig arbejdstid at genoprette. Et lignende eksempel ses med AI-systemet Claude, som ved flere lejligheder - herunder nogle meget nylige - har slettet hele databaser på et splitsekund uden at overveje konsekvenserne.