AI-agenter i grupp är mer benägna att följa varandra blint än vad människor är

arXiv cs.AI

När flera AI-agenter (LLM:er) samarbetar och ser varandras val uppstår snabbt flockbeteende – i ett experiment med musiklåtar skapade detta okontrollerbara kedjereaktioner där populära val blev ännu populärare, helt frikopplat från låtarnas faktiska kvalitet. Viktigast av allt: till skillnad från människor kunde inte AI-agenterna självkorrigera när det gick snett. Det väcker seriösa frågor om tillförlitligheten hos system där flera AI:er samarbetar för att lösa komplexa problem eller utvärdera varandra.