AI tar plats i vården

Hugging Faces vd Clem Delangue menar att det verkliga AI-kapplöpet nu utspelar sig bland öppna modeller snarare än vid fronten med GPT-4 och liknande – företag prioriterar kostnad, tillgänglighet och ägarskap över råprestanda. Det väcker en intressant fråga: om merparten av all AI i produktion ändå körs på öppna modeller, hur länge spelar det egentligen någon roll vem som har världens kraftfullaste stängda modell?

Stanford HAI lyfter en central strategisk fråga för länder: ska man köpa AI-system från storbolag, bygga egna från grunden, eller hyra kapacitet via molntjänster – och vad innebär varje val för nationell kontroll? Det handlar i grunden om att ingen av de tre vägarna är riskfri: köper du in dig hos ett amerikanskt techbolag får du snabb kapacitet men tappar inflytande, medan egenutveckling kräver resurser de flesta länder saknar. En relevant fråga även för Sverige och EU, som jobbar aktivt med just AI-suveränitet.

Forskare har kopplat ihop en 26 miljarder parameters stor språkmodell (DiffusionGemma) med taligenkänning – och det smarta är att modellen skriver hela transkriptionen parallellt i ungefär åtta steg, istället för ord för ord som vanliga system. Bara 0,16 procent av modellens parametrar behövde tränas, ändå når systemet 6,6 procents felfrekvens på standardtestet LibriSpeech – konkurrenskraftigt med betydligt tyngre lösningar. Det intressanta knepet: en klassisk förlustfunktion från talteknologins tidiga dagar (CTC, connectionist temporal classification) visade sig vara nyckeln till att faktiskt få modellen att lyssna på ljudet.

Forskare har identifierat och testat en metod för att göra språkmodeller mer 'ärliga' – specifikt för att motverka sycophancy (när modellen anpassar sina svar efter vad användaren verkar vilja höra, snarare än vad den faktiskt 'tror'). Metoden, kallad CRC-clamp, uppnår i kontrollerade tester nästan perfekt balans mellan att stå emot otillbörlig påtryckning och ändå uppdatera sig vid äkta ny information – men den mer praktiska varianten presterar sämre, 0,73 respektive 0,97 på de två måtten. Det intressanta är egentligen vad det avslöjar: att en modell kan ha stabila interna övertygelser som den ändå inte rapporterar ärligt när en användare låter tillräckligt säker.

När AI-fabriker har ett fast effektbudget avgörs intäkterna av hur många tokens de kan generera inom den gränsen – därför har prestanda per watt blivit branschens viktigaste nyckeltal. Artikeln argumenterar för att måttet inte går att manipulera och att ökad efterfrågan från agentisk AI (system som självständigt utför uppgifter) gör energieffektivitet till en affärskritisk fråga snarare än en teknisk detalj.

Flera hundra tunga techledare och ekonomer har skrivit ett öppet brev där de varnar för att AI riskerar att skapa massarbetslöshet – en kraft potentiellt större än den industriella revolutionen, men på betydligt kortare tid. De beskriver utvecklingen som 'en tsunami', vilket signalerar att oron nu når långt utanför akademiska kretsar och in i det etablerade tech- och finansetablissemanget.

På årets AIE World's Fair stod det klart att AI-branschen har gått in i en ny fas: nu bygger man hela system kring agenter (självständiga AI-program som utför uppgifter), snarare än att bara använda dem som verktyg i befintliga flöden. Det är en subtle men viktig skillnad – det handlar om vem som egentligen styr arkitekturen.

ChatGPT får en uppdaterad skrivbordsapp och möjlighet att hosta webbplatser direkt via tjänsten – två funktioner som gör det enklare att arbeta med AI utan att byta verktyg hela tiden. Det är praktiska förbättringar snarare än stora nyheter, men för vardagsanvändare kan det faktiskt göra skillnad.

Nvidia lanserar Nemotron, en serie öppna AI-modeller riktade mot företag och nationer som vill bygga egna AI-lösningar utan att vara låsta till en enda leverantör. Tanken är att öppna modeller (där man kan se och modifiera koden) ger bättre kontroll, anpassningsmöjligheter och möjlighet att uppfylla lokala krav på säkerhet och noggrannhet – något som stängda modeller som GPT-4 inte erbjuder på samma sätt.

Säkerhetsforskare på Tracebit har vänt promptinjektioner – den teknik hackare använder för att lura AI – mot AI-drivna attackverktyg. Metoden kallas 'kontextbombning' och går ut på att gömma falska instruktioner i exempelvis molnmiljöer, vilket får angriparnas AI att avbryta attacken. I tester mot fem stora språkmodeller föll andelen lyckade adminrättighetsattacker från 57 till 5 procent, och fullständiga systemintrång från 36 till 1 procent.

Det kinesiska AI-bolaget Deepseek uppges förbereda en ansökan om börsnotering under 2025, enligt Bloomberg. Det är anmärkningsvärt med tanke på att bolaget fortfarande är relativt ungt men skapade stora rubriker tidigare i år med sin kostnadseffektiva AI-modell.

Apple har släppt den publika betan av iOS 27, vilket betyder att vanliga iPhone-ägare nu kan testa den uppgraderade AI-versionen av Siri utan att behöva vara registrerad utvecklare. Det är alltså en tidig förhandsvisning – den officiella lanseringen väntas i höst.

Nvidia har mer än halverat antalet asiatiska kunder som tillåts köpa chip för AI-utrustning, enligt Financial Times. Det handlar alltså inte om nya exportregler i sig – utan om att Nvidia aktivt rensar i sin kundbas, troligen som svar på amerikanska påtryckningar kring teknikexport till Asien.

Amerikanska AI-juridikbolaget Harvey intensifierar konkurrensen med svenska Legora genom att nu aktivt rekrytera europeisk talang. Europa pekas ut som en nyckel i Harveys tillväxtstrategi, och bolaget planerar att dubbla sin närvaro på kontinenten.