Patienten berättade för läkarna att han hade letat efter sätt att minska sitt intag av salt (natriumklorid). Han hade läst om dess skadliga effekter och hittat tips om hur man minskar natriumintaget, men kunde inte hitta några publikationer om hur man minskar kloridintaget.
Med utgångspunkt i sina högskolestudier i dietetik bestämde sig mannen för att genomföra ett eget experiment för att eliminera klorider från sin kost. För att få råd vände han sig till en AI-chatbot. Enligt patienten föreslog chatboten att man skulle ersätta natriumklorid med natriumbromid – utan att varna honom om de potentiella hälsoriskerna med en sådan substitution.
Forskarna kunde inte komma åt patientens chatthistorik, men baserat på tidpunkten för hans förgiftningssymtom hade han använt antingen ChatGPT 3.5 eller ChatGPT 4.0. I sina egna tester fick läkare samma rekommendation om natriumbromid när de använde ChatGPT 3.5 – troligen den version som patienten hade konsulterat.
Efter tre månaders användning av natriumbromid istället för bordssalt utvecklade mannen bromism – ett syndrom orsakat av kronisk överexponering för bromid eller brom. Detta sällsynta tillstånd uppstår när toxinet ansamlas i kroppen, vilket potentiellt utlöser neuropsykiatriska symtom.
Patienten uppsökte akutmottagningen av rädsla för att hans granne hade förgiftat honom – paranoia var ett av tecknen på bromism. Andra symtom inkluderade hallucinationer, sömnlöshet, akne, dålig koordination och extrem törst. Tester visade förhöjda bromidnivåer i hans blod. Efter att ha försökt fly från sjukhuset överfördes han till psykiatrisk vård.
När hans mentala tillstånd förbättrades med antipsykotisk behandling kunde han berätta för läkarna om de råd han hade fått från ChatGPT.
Vid långvarig exponering ackumuleras bromid i kroppen och stör nervcellernas funktion. Under 1800- och 1900-talen användes bromid i receptbelagda och receptfria läkemedel, inklusive lugnande medel och sömnmedel. Men på 1970- och 1980-talen tog tillsynsmyndigheterna bort bromider från receptfria läkemedel efter att ha upptäckt deras toxiska effekter.
I en kommentar till fallet erkände representanter för OpenAI tjänstens begränsningar. ChatGPT:s användarvillkor anger att den inte är avsedd för att diagnostisera eller behandla medicinska tillstånd, och användare bör inte förlita sig på dess svar som enda källa till medicinsk information eller som en ersättning för professionell rådgivning.
