WebGPU
WebGPU är ett webbläsar-API som ger webbsidor direkt tillgång till grafikkortet, både för grafik och för allmänna beräkningar. Det är det som gör det praktiskt möjligt att köra en språkmodell inuti en vanlig webbläsarflik, utan plugin, drivrutin eller lokal installation.
Vad det ersätter
WebGPU är efterföljaren till WebGL, och skillnaden handlar inte främst om hastighet. WebGL var ett grafik-API som folk missbrukade för att räkna: för att multiplicera två matriser kodade man dem som texturer, ritade en triangel och läste tillbaka pixlarna. WebGPU exponerar grafikkortet så som inbyggda API:er som Vulkan, Metal och Direct3D 12 gör, med uttalade compute-shaders, buffertar och kommandoköer. Numeriskt arbete blir en förstaklassoperation i stället för ett trick.
Shaders skrivs i WGSL, ett språk som definieras av specifikationen i stället för att lånas från OpenGL. I praktiken ser de flesta det aldrig: man använder ett bibliotek som tar med sina egna kärnor.
Var du faktiskt möter det
Funktionskontrollen är en rad, och allt annat hänger på den:
if (!navigator.gpu) {
// Inget WebGPU. Det finns ingen mjukvarureserv värd namnet.
return;
}
Den synliga tillämpningen är maskininlärning på enheten. Körtider som web-llm, ONNX Runtime Web och transformers.js kompilerar modeller till WebGPU-kärnor så att inferensen sker på besökarens egen hårdvara. NorthernGo använder det för sitt lokala läge: en kvantiserad modell laddas ner till webbläsaren en gång och körs därefter på ditt grafikkort, utan att något skickas från enheten.
Vad du bör se upp med
- Det är inte ett kompatibilitetslager för CUDA. Det mogna Python-ekosystemet för GPU följer inte med. Du får det din körtid har hunnit porta.
- Stödet är ojämnt, inte universellt. Chromium på dator har haft det längst; andra motorer och plattformar har landat vid olika tidpunkter och bakom olika flaggor. Gör alltid en funktionskontroll och erbjud en verklig reservväg i stället för en trasig sida.
- Tillgängligt grafikminne är det verkliga taket. En modell som behöver mer VRAM än maskinen har blir inte långsam, den kraschar — ofta med ett felmeddelande som inte säger något.
- Det är långsammare än inbyggd kod. Räkna med en bråkdel av vad samma grafikkort gör via en nativ körtid. Det är oftast ett rimligt pris för att slippa all installation.
Mobilstöd finns på pappret. Att ladda ner flera gigabyte vikter över mobilnätet och sedan hålla dem i minnet är en annan fråga än om API:et finns.
Vanliga frågor
Behöver jag ett dedikerat grafikkort för WebGPU?
Nej. WebGPU fungerar på integrerad grafik, och enklare beräkningar och rendering går bra där. Språkmodeller är undantaget: de behöver flera gigabyte grafikminne, och integrerade kretsar som delar systemminnet blir antingen mycket långsamma eller får minnet att ta slut.
Är WebGPU samma sak som att köra AI offline?
Nej. WebGPU avgör bara var beräkningen sker. Modellvikterna måste ändå laddas ner över nätet första gången, och resten av sidan kan fortfarande göra serveranrop. Körning på enheten och offlinefunktion är två skilda egenskaper som ofta, men inte alltid, hänger ihop.
Bygg det själv
NorthernGo förvandlar en beskrivning i ren text till en fungerande webbapp med databas, inloggning och en live-adress. Lokal AI-generering körs på ditt eget grafikkort, är obegränsad och ingår gratis i alla prisplaner.