Forskare varnar för Chat GPT:s nya hälsotjänst

En ny studie slår larm om säkerheten i Open AI:s hälsotjänst Chat GPT Health, rapporterar The Guardian. Studien, som publicerats i tidskriften Nature Medicine, visar att tjänsten i många fall missar att rekommendera akut vård när det faktiskt behövs.

Forskarna testade Chat GPT Health med 60 realistiska patientscenarier, från milda besvär till akuta medicinska tillstånd. Tre läkare bedömde i förväg vilken vårdnivå som krävdes, och resultaten jämfördes därefter med AI:ns rekommendationer. I mer än hälften av fallen där patienten borde ha skickats till sjukhus omedelbart gav systemet istället rådet att stanna hemma eller boka en vanlig läkartid.

Enligt studien presterade AI:n bättre vid tydliga nödsituationer, som stroke eller svåra allergiska reaktioner, men hade svårare att hantera mer komplexa eller tvetydiga symptom. Forskarna pekar också på brister i hur systemet hanterade självmordsrisk, där varningsfunktioner ibland försvann beroende på vilken extra information som lades till i scenariot.

Open AI uppger enligt The Guardian att studien inte speglar hur tjänsten vanligtvis används i praktiken och att modellen kontinuerligt uppdateras.