OECD frågar: är investerare redo att ta ansvar för pålitlig AI?
OECD:s AI-observatorium undersöker om investerare verkligen är beredda att prioritera så kallad trustworthy AI – alltså AI-system som är transparenta, säkra och ansvarsfulla. Frågan är relevant eftersom kapitalflöden i hög grad styr vilka AI-projekt som faktiskt byggs, och just nu vet vi inte om pengarna följer de etiska riktlinjerna eller inte.
Djupdykning
Artikeln ställer en fråga som ofta hamnar i skymundan när vi pratar om AI-säkerhet: vad gör de som faktiskt kontrollerar pengaflödena? Investerare – riskkapitalister, pensionsfonder, storbanker – har ett enormt inflytande över vilka AI-bolag som överlever och vilka värderingar som belönas, men de behandlas sällan som aktörer med ansvar för hur tekniken utvecklas. De flesta diskussioner om "trustworthy AI" (alltså AI som är pålitlig, transparent och inte skadar folk) kretsar kring ingenjörer och policymakers, men det är en blind fläck eftersom ett bolag kan ha hur bra etiska riktlinjer som helst på pappret – om investerarna premierar tillväxt framför säkerhet så är det tillväxt man får. Problemet är att få investerare har verktygen, mandatet eller kunskapen att faktiskt utvärdera AI-risker på ett meningsfullt sätt, på samma sätt som de lärde sig att prissätta klimatrisker efter år av tryck från aktivister och reglerare. Den verkliga frågan är inte om investerare *vill* ha ansvarsfull AI – de flesta säger att de vill – utan om marknaden någonsin kommer att bestraffa dem tillräckligt hårt för att de ska tvingas ändra beteende innan något går riktigt fel.