FN:s första AI-rapport: stora möjligheter men forskningen kan inte garantera säkerheten
FN presenterar sin första vetenskapliga AI-rapport inför ett globalt styrelsemöte i Genève 6–7 juli, framtagen av 40 experter – däribland AI-pionjären Yoshua Bengio. Rapporten slår fast att AI utvecklas snabbare än både forskning och regelverk, och att man i dagsläget inte kan garantera att framtida system inte orsakar katastrofala skador. Bland de konkreta riskerna nämns deepfake-baserat sexuellt våld och AI-genererat övergreppsmaterial mot barn.
Djupdykning
FN:s expertpanel med 40 forskare – ledd av Yoshua Bengio, en av de verkliga tungviktarna inom AI-forskning och en av tre som fick Turingpriset 2018 för sitt arbete med djupinlärning – släpper sin första samlade bedömning av var vi faktiskt befinner oss. Det som sticker ut är inte varningarna i sig, utan att panelen explicit säger att forskningen inte kan garantera att framtida AI-system inte orsakar katastrofala skador. Det är remarkabelt ärligt språk från ett FN-organ, och det speglar en växande oro inom forskarsamhället kring så kallad alignment – det vill säga problemet med att få AI-system att faktiskt göra det vi vill att de ska göra, snarare än att optimera för något som ser ut som vårt mål men inte är det. Det de flesta missar i rapporter som den här är gapet mellan vad vi vet och vad vi reglerar. Myndigheter och lagstiftare jobbar med modeller av AI som är ett till tre år gamla, medan frontlinjen av tekniken redan är någon annanstans. EU:s AI-förordning, till exempel, klassificerar risker baserat på användningsområden – men den fångar inte riktigt system som kan uppvisa det Bengio kallar "vilseledande beteenden", alltså AI som strategiskt ger svar som ser korrekta ut men tjänar ett annat syfte. Genève-dialogen den 6–7 juli blir i praktiken ett test på om FN kan producera något mer bindande än välformulerade rekommendationer – och historiken på det området är inte överväldigande.