Hur man bygger tillförlitliga AI-agenter som hämtar information via kunskapsgrafer

arXiv cs.AI

Forskare har analyserat en växande typ av AI-system som kombinerar kunskapsgrafer (strukturerade nätverk av fakta och relationer) med autonoma agenter för att hitta och resonera kring information. Problemet är att fel tidigt i kedjan – exempelvis dålig datakvalitet i grafen – kan sprida sig och påverka slutsatser på oväntade sätt. Artikeln föreslår ett ramverk med fem tydliga kontraktsgränser i systemet för att göra spårbarhet, behörigheter och osäkerhet explicita, särskilt i samhällsnyttiga tillämpningar.