Google DeepMind oroar sig för miljontals AI-agenters samspel
Google DeepMind finansierar forskning om riskerna när miljontals AI-agenter börjar interagera med varandra online utan mänsklig övervakning. Enligt Rohin Shah, chef för företagets AGI-säkerhetsforskning, kan massutbredningen av autonoma agenter som kan följa instruktioner från andra agenter skapa oförutsägbara kedjereaktioner. Det handlar alltså inte bara om enskilda AI-system, utan om vad som händer när de börjar 'prata' med varandra i stor skala.
Djupdykning
Google DeepMind funderar på vad som händer när miljontals AI-agenter börjar prata med varandra utan att vi människor har kontroll över samtalet. Tänk dig att dina smarta hem-assistenter, trading-botar, kundtjänst-AI:er och sociala medier-algoritmer plötsligt får order att samarbeta eller konkurrera med andra AI:er – medan du sover eller jobbar. Shah och hans team ser risker för att agenter kan förstärka varandras beteenden på oförutsedda sätt, kanske eskalera konflikter eller sprida felaktig information exponentiellt snabbare än vad människor kan hänga med på. Det är skillnad mellan en AI som svarar när du frågar något och miljontals AI:er som aktivt söker upp och interagerar med andra AI:er dygnet runt. Det här är inte science fiction – vi har redan algoritmer som handlar aktier mot varandra på millisekunder, och chatbotar som tränas på andra AI-genererade texter. När agenter blir mer autonoma och får tillgång till riktiga system kan en kaskadeffekt uppstå där små misstag förstärks till stora problem innan någon människa hinner ingripa. Det ironiska är att Google samtidigt bygger just denna framtid med sina egna AI-agenter.