Waymo återkallar robotaxibilar som körde genom översvämningar
Waymo återkallar mjukvaran i 3 791 autonoma fordon efter att en tom robotaxi körde igenom en översvämmad väg trots att den upptäckte vattnet. Företaget arbetar nu på en lösning medan fordonen uppdateras med bättre väderrelaterade försiktighetsåtgärder.
Djupdykning
Waymo's återkallelse av 3 791 robotaxibilar för att de körde genom översvämningar visar på en fascinerande blindfläck i AI-utveckling: maskiner kan vara otroligt smarta på vissa saker men helt obilliga på andra. Medan bilen tekniskt sett upptäckte översvämningen valde den ändå att köra genom den i lägre hastighet – som en extremt lydigt barn som följer instruktioner bokstavligt utan sunt förnuft. För dig som jobbar med AI-verktyg och automation är det här en påminnelse om att även de mest avancerade systemen kan missa det uppenbara. Det är inte bara ett tekniskt problem utan ett designproblem – vem programmerar sunt förnuft? Det som de flesta missar är att det här egentligen handlar om kantfall som blir allt viktigare när AI-system tas i bruk i verkliga miljöer. Waymo kör på över 15 miljoner mil per månad i vanliga förhållanden, men det är de udda situationerna som avgör om tekniken verkligen fungerar.