AI-branschen upprepar mönstren bakom Challenger och Boeing 737 MAX

arXiv cs.AI

En ny forskningsartikel varnar för att AI-företag uppvisar samma organisatoriska mönster som föregick stora teknologiska katastrofer — däribland Challengerexplosionen och Boeing 737 MAX-krascherna. Problemet är inte nödvändigtvis att AI-systemen är för kraftfulla, utan att institutionerna som bygger dem kan följa alla säkerhetsrutiner till punkt och pricka och ändå driva mot haveri. Det intressanta här är vinkeln: säkerhetsprocesser kan se bra ut på pappret och fortfarande vara meningslösa.