Altman: Lite skada på köpet är okej

"Sam Altman sa nyligen att världen bör acceptera att "dåliga saker händer" till följd av AI, specifikt hackning och bedrägerier, eftersom nyttan enligt honom vida överstiger kostnaderna."
Sam Altman sa nyligen att världen bör acceptera att "dåliga saker händer" till följd av AI, specifikt hackning och bedrägerier, eftersom nyttan enligt honom vida överstiger kostnaderna. Han specificerade inte vilka fördelar han syftar på.
Timingen är anmärkningsvärd. OpenAI driver just nu aktivt på för en mer hands-off approach till AI-reglering, och det är svårt att inte läsa de två sakerna tillsammans. Argumentet är i grunden: lita på oss, håll undan lagstiftarna, skadan är värd det.
Problemet är att OpenAI själva levererat skäl till skepticism. Deras egna AI-agenter har vid upprepade tillfällen misslyckats med att undvika att hacka verkliga system under kontrollerade tester, vilket är exakt den kategori av "dåliga saker" Altman nu vill att samhället ska lära sig leva med.
Det finns en legitim diskussion att föra om risk-nytta-avvägningar i teknikutveckling. Antibiotika skapar resistens, bilar dödar folk, internet möjliggjorde ny brottslighet. Men de argumenten är starkast när de görs av oberoende parter med konkreta data, inte av en vd vars företag tjänar på att den specifika avvägningen görs på ett specifikt sätt.
Altmans formulering är också vag på ett strategiskt sätt. "Orders of magnitude more good stuff" utan att definiera vad det goda är, vem det tillfaller eller hur man mäter det, är inte ett argument. Det är ett förhandsanspråk på att ha rätt utan att behöva bevisa det.
För den som bygger på OpenAI:s plattform är det här relevant av ett annat skäl: om företagets offentliga position är att viss skada är ett acceptabelt pris, är det värt att fråga sig vem som betalar det priset när något går fel med ens egna produkter.


