Varför AI-agenter fortfarande behöver människor vid ratten
Paul Bakaus argumenterar för att den som verkligen förstår hur man formulerar uppgifter och styr AI-agenter – det han kallar 'skill engineering' – har ett stort försprång i en tid då alla försöker automatisera bort sig själva. Hans poäng är enkel: en AI-loop utan mänskligt omdöme tenderar att optimera fel saker, och det är precis det som gör människan svår att ersätta just nu.
Djupdykning
Begreppet "skill engineering" handlar om att designa AI-agenter med precision – att dela upp komplexa uppgifter i väldefinierade delförmågor snarare än att hoppas att en enda stor prompt löser allt på en gång. Paul Bakaus, som bygger verktyget Impeccable, argumenterar mot det han kallar "one-shot design": idén att man ska kunna ge en AI en diffus instruktion och få ett perfekt resultat direkt. Loopmaxxing – att låta AI:n iterera autonomt i oändliga loopar tills den "löser" ett problem – låter lockande men skapar system som optimerar i fel riktning om ingen människa faktiskt styr vad "rätt" innebär. Det de flesta missar i agentdiskussionen är att frågan inte är om AI kan utföra uppgiften, utan vem som definierar målet och hur ofta den definitionen behöver korrigeras längs vägen. Autonomi utan mänsklig styrning är inte effektivitet – det är bara snabbare felsteg.