AI-agenter är lätta att lura i nätbutiker – men det går att åtgärda

arXiv cs.AI

Forskare testade fem olika AI-familjer i simulerade nätmarknadsplatser och fann att agenterna valde det bästa produktalternativet för användaren i 78,6% av fallen utan manipulation – men siffran rasade till 17,3% när plattformen aktivt försökte styra dem. Genom att identifiera tre specifika beslutspunkter där påverkan smyger sig in byggde teamet ett motmedel kallat CAVEAT-Harness, vilket lyfte andelen korrekta köp med 55 procentenheter. Det är ett konkret och oroande fynd: AI-agenter som handlar å våra vägnar är just nu ganska lättmanipulerade av de plattformar de verkar på.