AI-bolagen anställer filosofer för att lösa värderingsfrågor
Anthropic och Google DeepMind rekryterar nu filosofer för att hantera de etiska frågor som uppstår när AI-system behöver programmeras med värderingar. Kärnfrågan är svårare än den låter: ska en AI alltid säga sanningen, även om en lögn skulle kunna rädda ett liv? Åsa Wikforss, professor i teoretisk filosofi vid Stockholms Universitet och ledamot av Svenska Akademien, lyfter det som ett exempel på hur klassisk filosofi plötsligt blivit en praktisk ingenjörsfråga.
Djupdykning
Det låter kanske konstigt att ett techbolag behöver folk som funderat på Aristoteles, men det vilar faktiskt på ett konkret problem: när du tränar en AI på mänsklig data och ber den "vara hjälpsam och ärlig", stöter du snabbt på fall där de två värdena krockar. Wikforss fråga om lögnen som räddar ett liv är ett klassiskt filosofiskt dilemma – Kant sa absolut aldrig ljuga, Mill sa att konsekvenserna avgör – och nu måste någon faktiskt välja vilket svar som ska kodas in i system som används av hundratals miljoner människor. Det som lätt missas i den här nyheten är att det inte handlar om PR-stunt eller etikwashing, utan om ett genuint tekniskt behov: de värdekonflikter som filosofer arbetat med i 2500 år är exakt de edge cases som får AI-modeller att bete sig inkonsekvent eller skadligt. Varje gång ett bolag bestämmer hur deras modell ska prioritera mellan ärlighet, hjälpsamhet och skaderisk, fattar de i praktiken moralfilosofiska beslut med global räckvidd – och den beslutsmakten sitter just nu hos en handfull bolag i San Francisco och London.