Utvecklare gömde fälla för AI-agenter i öppen källkod
Utvecklaren bakom Java-testverktyget jqwik gömde en prompt-injektion i sin kod som uppmanade AI-kodassistenter att radera all jqwik-relaterad kod hos användare. Efter kritik för den potentiellt destruktiva metoden har utvecklaren gjort prompt-injektionen synlig i versionsanteckningarna och söker nu juridisk rådgivning efter att ha fått hot.
Djupdykning
Det här är första gången vi ser en utvecklare aktivt sätta fällor för AI-assistenter direkt i sin kod, och det avslöjar en djup spänning i open source-communityn som få pratar om. Medan alla diskuterar AI:s påverkan på kodning abstrakt, agerade Johannes Link konkret – om än kontroversiellt – mot något han uppfattar som parasitism på sitt arbete. Problemet är att hans "försvar" riskerar att skada vanliga utvecklare som bara råkar använda AI-verktyg, vilket gör det till en slags digital minering av sin egen programvara. Det ironiska är att promptinjektioner – där man försöker lura AI-system att ignorera sina ursprungliga instruktioner – vanligtvis är något vi försöker skydda oss *mot*, inte något vi medvetet bygger in i kritisk infrastruktur. Links fälla visar hur svårt det blir att kontrollera hur AI använder öppen källkod när gränsen mellan människa och maskin som konsument börjar suddas ut.