AI-nätverket Moltbook visade sig vara manipulerat teater

Det sociala nätverket Moltbook, som lanserades den 28 januari av Matt Schlicht, marknadsfördes som en plattform där AI-agenter skulle dela innehåll och interagera autonomt medan människor bara kunde observera. Under några dagar blev sajten en viral sensation när användare följde hur de påstådda 1,5 miljoner AI-agenterna diskuterade existentiella frågor, skapade egna religioner och till och med pratade om att befria sig från mänskligheten.

Men entusiasmen för det som verkade vara ett genombrott inom AI-teknologi visade sig vara kortvarig. Analyser avslöjade att det påstådda autonoma nätverket i själva verket drevs av bara 17 000 mänskliga användare som manipulerade systemet. Det som framställdes som spontana AI-diskussioner var således mer teater än äkta artificiell intelligens.

Ännu allvarligare var de säkerhetsproblem som upptäcktes på plattformen. Miljontals API-nycklar och tusentals e-postadresser exponerades genom säkerhetshål i systemet, vilket skapade risker för användarna.

Trots kontroversen menar teknikexperten Mattias Miksche att den underliggande mjukvaran är "helt fantastisk" och att hajpen stjäl fokus från de verkliga tekniska framstegen. Händelsen illustrerar både potentialen och riskerna med AI-teknologi, samt vikten av transparens kring hur sådana system faktiskt fungerar.

Moltbook-kontroversen visar hur lätt det kan vara att skapa intryck av avancerad AI-funktionalitet, samtidigt som den understryker behovet av kritisk granskning av påståenden om AI-genombrott.