AI klarar inte de outtalade reglerna som människor använder när de samarbetar

arXiv cs.AI

Forskare har mätt hur bra AI-agenter är på att tolka outtalade överenskommelser i mänskligt samarbete – och resultaten är tydliga. I kortspelet Hanabi använde människor implicit kommunikation för att minska misslyckandefrekvensen med 26 procentenheter utöver vad den bokstavliga informationen borde räcka till, medan AI-par visade nästan ingen sådan effekt (-0,7 pp). Det intressanta är att det inte är AI:ns poäng i spelet som avgör hur bra den samarbetar med människor, utan just förmågan att dela outtalade konventioner.