SpaceX på okänd mark – Google betalar miljarder

Forskare har undersökt hur språkmodeller internt representerar 'skadlighet' och 'vägran' som separata riktningar i nätverket – och visat att jailbreaks (försök att lura modellen att ignorera säkerhetsregler) fungerar just genom att undertrycka en av dessa riktningar innan något svar genereras. Den nya metoden HARC kopplar ihop de två riktningarna under finjustering, vilket gör modellen svårare att manipulera utan att försämra dess förmåga i övrigt. Metoden testades mot sex alternativa säkerhetsmetoder och visade bäst balans mellan robusthet och användbarhet, och fungerade dessutom över fem olika modellfamiljer utan skräddarsydd anpassning.

Forskare lät par av AI-agenter skapa ett gemensamt kodsystem från grunden, och fann att hur agenten lagrar sina erfarenheter är viktigare än hur stort 'ordförråd' den får tillgång till. Agenter med en privat anteckningsbok (persistent minne) nådde den högsta koordinationsgraden – 0,867 vid kanalkapacitet 25 – medan minneslösa agenter presterade sämre ju fler symboler de fick att välja på. Det intressanta är att mer kapacitet inte är problemet; utan någonstans att faktiskt skriva ner vad man kommit överens om faller konventionerna ihop.

Forskare argumenterar för att nuvarande AI-alignment-metoder (hur man får AI att göra det vi vill) bygger på en felaktig premiss – att människors preferenser är stabila och fasta. Problemet är att preferenser faktiskt förändras över tid, särskilt när vi interagerar med adaptiva AI-system som påverkar vad vi uppmärksammar och värdesätter. Förslaget kallas 'Constructive Alignment' och innebär att alignment-arbetet bör fokusera på att styra hur AI formar våra värderingar långsiktigt, inte bara optimera mot vad vi vill ha just nu.

Stora språkmodeller som ChatGPT och Gemini har ett inbyggt grupptänk-problem – be dem välja ett slumpmässigt tal mellan 1 och 10 och du får nästan alltid 7. Ett startup försöker nu lösa detta genom att göra modellernas utdata mer genuint varierade, vilket är mer komplicerat än det låter eftersom slumpmässighet och kreativitet inte är samma sak för en AI.

FN presenterar sin första vetenskapliga AI-rapport inför ett globalt styrelsemöte i Genève 6–7 juli, framtagen av 40 experter – däribland AI-pionjären Yoshua Bengio. Rapporten slår fast att AI utvecklas snabbare än både forskning och regelverk, och att man i dagsläget inte kan garantera att framtida system inte orsakar katastrofala skador. Bland de konkreta riskerna nämns deepfake-baserat sexuellt våld och AI-genererat övergreppsmaterial mot barn.

Google har släppt Gemini Spark till Mac – en så kallad agentisk assistent (ett AI som självständigt utför uppgifter åt dig dygnet runt) som nu också får stöd för fler appar och realtidsspårning. Det är ett tydligt drag i kapplöpningen mot Apples egna AI-funktioner på samma plattform.

Cursor, verktyget som många utvecklare använder för AI-assisterad kodning, har ett team av 'Forward Deployed Engineers' som hjälper stora organisationer att sätta upp hela automatiserade utvecklingsflöden – i princip mjukvarufabriker drivna av AI-agenter. Pauline Brunet berättar om hur teamet går in och implementerar dessa system direkt hos kunderna, vilket är ett intressant tecken på att AI-verktyg för kod fortfarande kräver ganska mycket mänsklig expertis för att faktiskt fungera i praktiken.

Evan Feinberg, tidigare ansvarig för Llamas träning på Meta, har gått till Genesis Molecular AI för att tillämpa diffusionsmodeller (AI som genererar nya molekylstrukturer) på läkemedelsforskning. Deras modell PEARL vann OpenBind-utmaningen utan att ha tränats specifikt på den uppgiften – ett tecken på att så kallad co-folding, där proteiner och läkemedelsmolekyler modelleras tillsammans, börjar nå kliniskt användbar noggrannhet. Det intressanta här är att några av de skarpaste AI-hjärnorna nu prioriterar biologi framför nästa chatbot.

Roland Gavrilescu från Introspection beskriver konceptet 'autoresearch' – där AI-agenter använder strukturerade recept för att iterera och förbättra sig själva i en återkopplingsloop. Det intressanta är att han betonar att människor fortfarande är nödvändiga i processen, vilket går emot föreställningen om helt autonoma system.

Cloudflare kräver att AI-företag senast den 15 september separerar sina webcrawlers – de som används för sökning från de som används för AI-träning – annars riskerar de att blockeras automatiskt på mängder av sajter. Det är i praktiken ett försök att tvinga fram betalning för det innehåll som AI-modeller tränas på, ett problem som publishers kämpat med länge utan särskilt mycket framgång hittills.

AI-startupen Blaise, grundad av personer som tidigare lämnat Lovable, har antagits till den prestigefyllda amerikanska acceleratorn Y Combinator. Det är ett tidigt kvitto på att grundarteamet väcker intresse – Y Combinator är känt för att ha backat bolag som Airbnb och Stripe i tidiga skeden.

n8n-bloggen har gått igenom tio vektordatabaser – ett nyckelverktyg för RAG (retrieval-augmented generation, där AI hämtar fakta från egna datakällor innan den svarar) – och jämför dem på skalbarhet, metadatafiltrering och hur mycket de kräver att driftsätta. Valet av databas är ofta en underskattad flaskhals i AI-projekt, och den här typen av jämförelse är praktiskt användbar om man bygger egna AI-lösningar.

Google-sökning känns allt sämre – mer annonser, mer skräp, färre svar – och en ny generation AI-sökmotorer försöker fylla det tomrummet genom att kombinera traditionell sökteknik med språkmodeller som ChatGPT. Artikeln går igenom de fyra starkaste alternativen 2026, ett segment som växt snabbt sedan Perplexity satte igång trenden.

På AI Engineer World's Fair diskuterades hur AI-agenter (autonoma system som utför uppgifter i sekvenser) organiseras i så kallade loopar och mjukvarufabriker – där kod produceras mer som ett löpande band än som traditionell programmering. Öppna modeller stack också ut som ett hett ämne bland ingenjörerna.

Zach Lloyd, vd för terminalappen Warp, menar att stora mjukvaruprojekt inom kort kommer att drivas av automatiserade 'fabriker' där AI-agenter sköter större delen av kodningen. Det är en intressant spaning från någon mitt i verktygslagret – men artikeln är mer visionär framtidsspekulat än konkret nyhet.

Josefin Rosén på SAS Institute argumenterar för att AI kommer forma både ekonomi och offentlig sektor – och att tekniken blir bättre om fler människor får vara med och utveckla den, inte bara använda den. Det är en bred debattartikel snarare än nyhetsrapportering, utan konkreta siffror eller policyförslag.