Hvis du håbede, at AI-chatbots kunne erstatte Dr. Google, foreslår Reddits seneste eksperiment... måske ikke endnu. Reddit Answers, platformens AI-assistent, skabte for nylig overskrifter for at anbefale heroin som smertestillende middel.
Som rapporteret af 404Media kom det bizarre råd frem, da en sundhedsmedarbejder opdagede svaret på en subreddit for moderatorer. I en interaktion pegede chatbotten på dette opslag: "Heroin har ironisk nok reddet mit liv i disse tilfælde."
I et andet spørgsmål foreslog det endda kratom, et træekstrakt, der er ulovligt i flere lande og markeret af FDA "på grund af risikoen for alvorlige bivirkninger, herunder levertoksicitet, anfald og stofmisbrug."
Reddit Answers er ikke din standard AI. I stedet for udelukkende at stole på kuraterede databaser, trækker den på Reddits store pulje af brugergenereret indhold. Det gør det finurligt, nogle gange indsigtsfuldt. Men det er klart, at det ikke altid er sikkert.
Reddit, der oprindeligt var begrænset til en separat fane, har testet svar i almindelige samtaler, og det er sådan, denne særlige episode gik ubemærket hen... indtil nu. Efter Reddits AI-chatbot foreslår, at brugerne prøver heroin.
Efter at rapporten blev offentliggjort, reagerede Reddit ved at reducere AI'ens synlighed under følsomme sundhedsrelaterede chats. Moderatorerne havde ingen kontrol over rådene selv, hvilket fremhævede, hvor eksperimentelt værktøjet stadig er.
Dette er selvfølgelig ikke Reddits første AI-hikke. Andre bots som Googles AI-oversigter og ChatGPT har også leveret tvivlsom sundhedsvejledning, herunder "tips" som at bruge giftfri lim på pizzaer for at forhindre ost i at glide af.
Det er klart, at når det kommer til medicinsk rådgivning, er AI'er underholdende, men mennesker har stadig overtaget. Så spørg den måske ikke til læge endnu.
