Klättrare räddades efter att ha litat på Geminis bergsplanerare
En grupp klättrare planerade bestigning av Mount Shasta med hjälp av Googles AI-tjänst Gemini – och fick betala priset. Chatboten lovade en åtta timmars vandring, men verkligheten bjöd på det dubbla bara upp till toppen, och gruppen fick till slut räddas av skogsvakter och polis. En påminnelse om att AI-tjänster fortfarande är dåliga på att förstå skillnaden mellan karta och terräng.
Djupdykning
Klättrare räddades från Mount Shasta efter att ha följt en AI-genererad plan som visade sig vara katastrofalt felaktig – och det här är egentligen ett symptom på något större än en dålig bergsplanering. Googles Gemini är tränad på text från internet, inte på att förstå vad det faktiskt innebär att ta sig upp för ett 4 300 meter högt stratovolkano med is och teknisk terräng. AI-modeller som dessa är dåliga på att väga in saker som höjdsjuka, väderfönster, konditionsnivå och den typ av marginaler erfarna bergsguider alltid bygger in – de optimerar för att låta trovärdiga, inte för att ha rätt. Det gruppen missade är att en chatbot inte har något sätt att veta om den har fel, den presenterar en felaktig tidsuppskattning med exakt samma självförtroende som en korrekt en. Räddningstjänster börjar nu prata öppet om att AI-planering för friluftsliv är på väg att bli ett återkommande problem – ungefär som när GPS-navigering på 00-talet ledde bilister rakt ut i sjöar och ökenvägar, fast med högre insatser.