Finska AI-labbet QuTwo värderat till 3,3 miljarder

Forskare har upptäckt att även harmlösa träningsdata gradvis kan undergräva en AI-modells säkerhetsbeteenden genom att parametrarna långsamt driftar mot farliga riktningar. De föreslår en ny metod (SQSD) som kan ge varje träningsexempel en riskscore från 0-1 för att förutsäga vilka data som är mest sannolika att skada modellens säkerhet.

Nya studien visar att AI-agenter som reparerar kod får helt olika rankningar beroende på hur de utvärderas - ett problem som påverkar 55-74% av positioneringarna på resultattavlor. Forskarna släpper AuditRepairBench, en databas med 576 000 testfall, för att hjälpa andra identifiera när AI-system fattar beslut baserat på felaktig feedback från utvärderingssystem.

Svenska AI-bolaget Endra har precis fyllt kassan med närmare 500 miljoner kronor i en ny finansieringsrunda, bara fem månader efter sin senaste jätterunda strax före jul. Bolaget värderas nu till över 2 miljarder kronor, vilket gör detta till en av Sveriges största såddrundor någonsin – imponerande tempo för ett AI-bolag som tydligt har investornas uppmärksamhet.

Simon Willison livebloggar från Anthropics utvecklarkonferens där Claude AI-modellerna diskuteras. Konferensen fokuserar på AI-utvecklingsverktyg och framtida möjligheter för kodning med Claude-modeller. Detaljer om specifika funktioner och förbättringar presenteras under evenemanget.

Apple planerar att låta användare välja mellan olika AI-modeller som Gemini, ChatGPT och Claude när de använder Siri och Apple Intelligence i iOS 27. Enligt Bloomberg kommer alla AI-tjänster att installeras via App Store så Apple kan ta del av eventuella avgifter, och användare kan enkelt lägga till eller ta bort AI-tjänster från en meny i Siri.

Google utvecklar en intern AI-agent som heter Remy och som kan utföra uppgifter åt användare, enligt Business Insider. Agenten testas för närvarande internt och är integrerad med flera av Googles egna tjänster – ytterligare ett steg mot AI som faktiskt gör saker åt dig istället för bara att svara på frågor.

Google Chrome laddar nu ner en 4 GB stor AI-modell (Gemini Nano) direkt till din dator för funktioner som skrivhjälp och bedrägeriskydd. Modellen körs lokalt istället för i molnet, vilket ger bättre integritet men äter upp rejält med lagringsutrymme – något du kan stänga av i inställningarna om du hellre vill ha tillbaka gigabytarna.

Anthropic lanserar tio nya AI-agenter specifikt designade för banker och försäkringsbolag som ska automatisera arbetsuppgifter och potentiellt minska behovet av traditionell mjukvara. Satsningen visar hur AI-jättarna nu siktar in sig på specifika brancher för att ta marknadsandelar från etablerade mjukvaruleverantörer.

vLLM, ett populärt verktyg för att köra stora språkmodeller, har uppdaterats från version 0 till 1 med fokus på att förbättra korrekthet i förstärkningsinlärning (reinforcement learning). Uppdateringen prioriterar att få rätt svar från början istället för att förlita sig på efterkorrigeringar, vilket kan ge mer tillförlitliga AI-system.

Google har lagt ner Project Mariner, det experimentella verktyget som kunde utföra webuppgifter åt användare, efter drygt ett år i drift. Tekniken lever dock vidare i andra Google-produkter som Gemini Agent, vilket visar hur företaget integrerar lyckade AI-experiment i sina större verktyg.

Genesis AI, som tagit in 105 miljoner dollar i såddfinansiering, har lanserat sin första AI-modell GENE-26.5 tillsammans med en demo där robothandskar utför komplexa uppgifter. Företaget satsar på att bygga grundläggande AI för robotik och visar nu att de kan kombinera mjukvara med hårdvara. Det här är intressant eftersom det visar hur AI-startups börjar gå från bara algoritmer till kompletta robotsystem.

En tidigare jurist har byggt en öppen version av den 50 miljarder kronor värderade Legoras AI-plattform på bara två veckor – med hjälp av Claude. Nu ger han bort koden gratis, vilket sätter fingret på en het fråga för legaltech-sektorn: hur mycket är dessa tjänster egentligen värda?

NVIDIA presenterar Spectrum-X, en Ethernet-baserad nätverkslösning specifikt designad för AI-datacenter som behöver hantera massiva AI-beräkningar. Tekniken ska hjälpa företag bygga så kallade 'AI-fabriker' där tusentals processorer arbetar tillsammans för att träna stora AI-modeller. Det är ännu ett tecken på hur AI-boom driver fram specialiserad hårdvara utöver bara processorer.

Google har börjat inkludera svar från Reddit och andra webbforum direkt i sin AI-sökfunktion för att hjälpa användare hitta information om mer nischade ämnen. Förändringen kan göra att användare får mer relevanta svar på specifika frågor, men risken är också att felaktig eller vilseledande information från forum sprids vidare som 'expertråd'.

David Sacks, Trumps AI- och kryptoansvarige, fick lämna sin post efter att Vita huset övervägde att låta regeringen granska AI-modeller innan lansering. Detta markerade en tydlig vändning från Trumps tidigare linje att låta AI-utveckling ske utan statlig inblandning.

Amazon har utvecklat nya AI-verktyg som hjälper deras leveransnätverk att anpassa sig i realtid när oväntade störningar uppstår. Systemet använder maskininlärning för att kontinuerligt optimera leveransrutter och hantera osäkerhet utan att leveranserna påverkas negativt.

Det svenska AI-bolaget Endra tar in en ny investeringsrunda som värderar företaget till över 2 miljarder kronor, bara ett och ett halvt år efter starten. Enligt dokument som Di tagit del av visar det på fortsatt stark tilltro till svenska AI-bolag bland investerare.

AI-policythinktanken AI Now Institute söker tre nya medarbetare för att skala upp organisationen inför nästa fas. Institutets fokus ligger på att forma AI:s framtida roll i samhället genom policyforskning och påverkansarbete.

KD i region Stockholm vill göra Stockholmsregionen till ett globalt centrum för drönarteknologi och autonoma system. Partiet föreslår satsningar på elektrifierad luftfart och hållbara logistiklösningar för att accelerera utvecklingen inom området.