Generativ AI har börjat påverka kundservice i restauranger, detaljhandel och andra serviceyrken. Anställda som Madison, servitör i New York, rapporterar att gäster ofta förlitar sig på svar från ChatGPT, även när AI felaktigt påstår att en rätt är fri från allergener. Detta leder till farliga situationer för personer med allergier.

Liknande problem uppstår med vinbeställningar – kunder insisterar på att AI föreslår viner som restaurangen inte har eller som inte existerar. Personal svarar med vaga förklaringar för att undvika att avslöja AI-hallucinationen. Även i andra branscher, som biografer, Apple-butiker och parker, har anställda fått frågor om produkter eller tjänster som AI har hittat på.

Flera berättelser från Reddit och X visar att vissa kunder tar AI:s svar som slutgiltig sanning, även när de motsäger experter eller fysiska kartor. Detta fenomen förvärras av nya AI-agenter som Meta's Muse, som kan skapa ännu fler orealistiska förväntningar hos konsumenter.

Artikeln belyser hur AI-hallucinationer kan öka stressen för servicepersonal och skapa missförstånd som kan få allvarliga konsekvenser, särskilt när felaktig information rör hälsa eller säkerhet.