Amerikanske embedsmænd har indkaldt topbankledere til Washington midt i voksende bekymringer om cybersikkerhedsrisici forbundet med den nye AI-model udviklet af Anthropic. Mødet, angiveligt ledet af finansminister Scott Bessent, finder sted kort efter præsentationen af virksomhedens nyeste system, Claude Mythos.
Blandt deltagerne er Jerome Powell sammen med ledere fra store finansielle institutioner som Goldman Sachs, Bank of America og Citigroup. Samlingen fokuserer på de potentielle risici, som avancerede AI-værktøjer udgør, der kan identificere og udnytte softwaresårbarheder på et niveau, der kan sammenlignes med eller overgå menneskelige eksperter.
Anthropic advarede for nylig om, at deres model havde afdækket tusindvis af hidtil uopdagede svagheder i udbredte systemer, hvilket har vakt frygt for, at sådan teknologi kunne misbruges af hackere. En lækage af modellens kode tidligere på måneden forstærkede bekymringerne, hvor virksomheden anerkendte, at den bredere indvirkning på økonomier og national sikkerhed kan blive betydelig.
Som svar har Anthropic begrænset adgangen til modellen til en begrænset gruppe selskaber, herunder store teknologivirksomheder og infrastrukturorganisationer. Dette markerer første gang, virksomheden har begrænset en produktlancering.
