Forskare ledda av Qingyu Chen har undersökt hur finjustering av stora språkmodeller för medicinska uppgifter påverkar både prestanda och integritet. Studien visar att när modeller tränas vidare på riktiga sjukhusdata blir deras diagnostiska förmåga märkbart bättre, men samma process ökar också risken att modellen återger känslig patientinformation som den har sett under träningen. Genom kontrollerade experiment med faktiska journaler demonstrerades att finjusterade modeller kan memorera specifika patientuppgifter och återge dem i svar, vilket kan leda till oavsiktliga dataläckor.

Resultaten pekar på ett dilemma: den kliniska vinsten av anpassade AI-system måste vägas mot potentiella brott mot patientsekretessen. Författarna föreslår tekniska skyddsåtgärder såsom differential privacy och striktare åtkomstkontroller för att minska risken utan att förlora diagnostisk nytta.