Hugging Face: AI-benchmarks är inte så tillförlitliga som branschen påstår
AI-företag lutar sig tungt mot benchmarks – standardiserade tester som ska avgöra vilket AI-system som är bäst – men metoderna bakom dem är fortfarande omogna och problematiska, enligt Irene Solaiman, policy-chef på Hugging Face. Det intressanta här är att kritiken kommer inifrån branschen själv: de inbyggda utvärderingsverktygen som ska lösa problemet är ingen enkel fix.
Djupdykning
Tanken på inbyggda AI-granskare låter elegant på pappret: sätt in en oberoende part inne i laboratorierna och låt dem hålla koll. Men Hugging Faces policychef pekar på ett fundamentalt problem som de flesta missar i debatten – neutralitet är extremt svårt att upprätthålla när du sitter i samma byggnad, äter samma lunch och kanske till och med får din lön indirekt via samma organisation du ska granska. Det är lite som att be en revisor att flytta in hos klienten och sedan förvänta sig att ingenting förändras. Embedded evaluators, alltså granskare som är fysiskt och organisatoriskt inbäddade i AI-bolagen snarare än externa, riskerar att drabbas av samma institutionella blindhet som de är tänkta att motverka – ett fenomen som inom forskning kallas regulatory capture, när den som ska reglera börjar identifiera sig mer med den reglerade än med allmänintresset. Det verkliga problemet är att AI-branschen just nu experimenterar med tillsynsmodeller i realtid, samtidigt som systemen de bygger redan är ute i världen.