En grupp klättrare använde Googles AI‑tjänst Gemini för att planera en tur till toppen av Mount Shasta i USA. Chatboten uppskattade vandringen till åtta timmar, men den faktiska tiden för att nå toppen blev dubbelt så lång. På grund av den felaktiga tidsuppskattningen och bristande hänsyn till väder och terräng hamnade gruppen i en kritisk situation och tvingades vänta på räddning. Skogsvakter och polis kunde till slut hjälpa dem ner från berget.

Händelsen belyser riskerna med att förlita sig på generella AI‑modeller för specifika, livsviktiga uppgifter utan mänsklig granskning. Även om Gemini kan leverera detaljerade svar, saknar den ofta den kontextuella kunskap som krävs för att bedöma säkerhetsaspekter i komplexa miljöer som fjäll.

För vården innebär detta en påminnelse om att AI‑stöd i kliniska beslut måste kombineras med professionell expertis och lokala riktlinjer för att undvika farliga felbedömningar.

Vad innebär detta för svensk vård?

AI‑system som Gemini kan ge snabba svar, men utan noggrann validering kan de leda till felaktiga tids- eller behandlingsplaner. Vårdpersonal bör därför alltid dubbelkolla AI‑genererade rekommendationer mot evidensbaserade protokoll och lokala förhållanden innan de implementeras i patientvården.