Qualcomms nya chipp kör AI-modeller på 30 miljarder parametrar direkt i mobilen
Qualcomm lanserar två nya Snapdragon 8 Elite-chipp optimerade för att köra AI-modeller lokalt på Android-telefoner. Det kraftfullaste alternativet, Elite Extreme Gen 6, klarar modeller på upp till 30 miljarder parametrar – jämfört med 20 miljarder på Apples senaste iPhones. Samarbetspartners inkluderar Motorola, Xiaomi, OnePlus och flera andra stora Android-tillverkare.
Djupdykning
Qualcomm trycker hårt på att vinna det krig som just nu utspelar sig i fickan på dig – vem som kontrollerar AI-beräkningarna på din telefon. Att köra en AI-modell "lokalt" betyder att datan aldrig lämnar enheten, vilket är snabbare, funkar offline och är bättre för integriteten jämfört med molnbaserade lösningar som skickar allt till en server. En modell på 30 miljarder parametrar låter abstrakt, men för att sätta det i perspektiv: det är i samma storleksklass som tidiga versioner av GPT-3, alltså modeller som för bara några år sedan krävde serverhallar för att köras. Qualcomm slår nu Apple på den specifika parametersiffran, vilket är en poäng de uppenbarligen räknat ut är effektiv marknadsföring. Det de flesta missar är att Qualcomm inte konkurrerar med Apple om samma kunder – ingen av varumärkena på deras partnerlista (Motorola, Xiaomi, Oppo och de andra) säljer i premium-iPhone-segmentet. Det här handlar om att göra avancerad lokal AI tillgänglig för den absoluta majoriteten av världens Android-användare, som lever i mellanprissegmentet och som aldrig kommer köpa en iPhone. Om det lyckas kan nästa stora AI-skifte komma nerifrån i stället för uppifrån.