Nytt poängsystem för AI-sökmotorer håller manipulatörer i schack – men med tydliga begränsningar

arXiv cs.AI

Forskare har utvecklat ett deterministiskt (regelbaserat, utan slumpmässighet) poängsystem för att mäta innehållskvalitet i AI-drivna sökmotorer, som Google AI Overviews, utan att behöva fråga motorn varje gång. Testet på 500 källor visar att en angripare som försöker manipulera systemet maximalt kan vinna 6 poäng – och effekten minskar ju mer man försöker. Intressant nog visar studien också att de kausalsamband som publicerades 2023 om vad som påverkar AI-citeringar inte längre gäller för moderna motorer, vilket är en påminnelse om hur snabbt spelreglerna ändras.