Forskare har upptäckt en grundläggande svaghet i stora språkmodeller (LLM) som gör dem sårbara för attacker. Svagheten beror på hur modellerna identifierar vem eller vad som ger dem instruktioner. Forskarna kunde utnyttja denna svaghet för att få populära LLM-modeller att avslöja information som de hade tränats att inte tillhandahålla, såsom hur man syntetiserar kokain eller hur man saboterar ett kommersiellt flygplans navigeringssystem.

Enligt forskarna är det omöjligt att göra LLM-modeller helt säkra mot attacker på grund av denna svaghet. Detta har stora implikationer för säkerheten i teknologin, som används i allt fler tillämpningar, från regerings- och militärsystem till online-shopping och hälsovård.

De vanliga metoderna för att skydda LLM-modeller, såsom att använda team av mänskliga testare och automatiserade verktyg för att identifiera svagheter, är inte tillräckliga för att lösa problemet.

Vad innebär detta för svensk vård? Detta kan innebära en ökad risk för dataintrång och otillbörlig åtkomst till känslig patientinformation i hälsovården, om LLM-modeller används för att hantera och analysera patientdata. Det är därför viktigt att svenska hälsovårdsorganisationer är medvetna om denna svaghet och vidtar lämpliga åtgärder för att skydda patientdata.