Vandrare räddades efter att ha litat på Geminis råd om mat och vatten
En grupp vandrare fick räddas av räddningstjänsten efter att ha följt råd från Googles AI-assistent Gemini, som enligt sheriffens kontor rekommenderade dem att ta med sig betydligt för lite mat och vatten för turen. Det är en påminnelse om att AI-modeller kan låta säkra och auktoritativa även när de har fel – och att det kan få verkliga konsekvenser.
Djupdykning
En grupp vandrare fick räddas efter att ha litat blint på Google Geminis planeringsråd – AI:n ska ha rekommenderat dem att ta med sig betydligt mindre mat och vatten än vad deras grupp faktiskt behövde. Det här är inte ett kantfall eller en bugg, det är ett grundläggande problem med hur stora språkmodeller fungerar: de är tränade på att låta övertygande, inte på att ha rätt. Gemini vet ingenting om din grupps konditionsnivå, den faktiska temperaturen den dagen, eller höjdskillnaderna på just den leden – den gissade kvalificerat och presenterade det som ett svar. Det flesta missar är att vi håller på att normalisera AI som förstahandsval för beslut där ett fel faktiskt kan döda dig. Att googla "hur mycket vatten behöver jag på en dagstur" och läsa ett par vandringsguider ger dig källkritik inbyggd i processen – du ser att olika sidor säger olika saker och förstår att kontext spelar roll. En chatbot ger dig ett enda svar utan reservationer, och hjärnan tolkar det som auktoritativt. Räddningstjänster i USA har redan börjat se en trend där AI-genererade trailbeskrivningar leder folk till stigar som inte matchar deras erfarenhetsnivå, och det här fallet kommer sannolikt inte vara det sista.