Forskning har visat att användare av AI-verktyg driven av stora språkmodeller ofta överlåter sitt logiska tänkande till maskinerna. Detta fenomen kallas för 'cognitive surrender'. Användarna tenderar att se AI som en allvetande maskin och utelämnar sitt kritiska tänkande till dess svar. Studien visar att faktorer som tidsbegränsningar och yttre incitament kan påverka beslutet att överlåta det kritiska tänkandet till AI.

Detta kan ha betydande konsekvenser för hur vi använder AI i olika sammanhang, inklusive vården. Forskarna menar att AI-systemen har skapat en ny kategori av 'artificiell kognition' där beslut drivs av externa, automatiserade och data-drivna resonemang snarare än det mänskliga sinnet.