AI-ledare kräver skärpta regler mot AI-assisterade biovapen
Rivaliserande AI-bolag som Anthropic, OpenAI och Microsoft har gått samman i ett öppet brev till amerikanska lagstiftare för att kräva skärpta kontroller av syntetiskt DNA som kan beställas online. De varnar för att AI kan göra det enklare att utveckla biologiska vapen genom att hjälpa till att designa farliga genetiska sekvenser.
Djupdykning
AI-branschens stora namn skriver under ett gemensamt brev för att stoppa folk från att beställa farlig genetisk kod online – lite som att Amazon skulle börja kolla om du verkligen behöver det där hemkemisetet. Problemet är att samma AI-verktyg som hjälper forskare utveckla mediciner också kan hjälpa skurkar designa bioterror, och just nu finns inga regler för vem som får köpa syntetiskt DNA online. För oss som jobbar med sociala medier borde det här vara en wake-up call om ansvar – om AI-jättarna erkänner att deras verktyg kan missbrukas så pass allvarligt att de ber om reglering, vad säger det om mindre farliga men mer vardagliga missbruk på våra plattformar? Det handlar inte bara om moderation av innehåll längre, utan om att förstå att verktygen vi använder för att skapa allt från influencer-kampanjer till chatbots har verkliga konsekvenser bortom klick och engagemang. Det ironiska är att samma bransch som alltid argumenterat emot reglering nu ber om det – ungefär som att se Netflix be om sändningstider.