WebGPU

WebGPU är ett webbläsar-API som ger webbsidor direkt tillgång till grafikkortet, både för grafik och för allmänna beräkningar. Det är det som gör det praktiskt möjligt att köra en språkmodell inuti en vanlig webbläsarflik, utan plugin, drivrutin eller lokal installation.

Vad det ersätter

WebGPU är efterföljaren till WebGL, och skillnaden handlar inte främst om hastighet. WebGL var ett grafik-API som folk missbrukade för att räkna: för att multiplicera två matriser kodade man dem som texturer, ritade en triangel och läste tillbaka pixlarna. WebGPU exponerar grafikkortet så som inbyggda API:er som Vulkan, Metal och Direct3D 12 gör, med uttalade compute-shaders, buffertar och kommandoköer. Numeriskt arbete blir en förstaklassoperation i stället för ett trick.

Shaders skrivs i WGSL, ett språk som definieras av specifikationen i stället för att lånas från OpenGL. I praktiken ser de flesta det aldrig: man använder ett bibliotek som tar med sina egna kärnor.

Var du faktiskt möter det

Funktionskontrollen är en rad, och allt annat hänger på den:

if (!navigator.gpu) {
  // Inget WebGPU. Det finns ingen mjukvarureserv värd namnet.
  return;
}

Den synliga tillämpningen är maskininlärning på enheten. Körtider som web-llm, ONNX Runtime Web och transformers.js kompilerar modeller till WebGPU-kärnor så att inferensen sker på besökarens egen hårdvara. NorthernGo använder det för sitt lokala läge: en kvantiserad modell laddas ner till webbläsaren en gång och körs därefter på ditt grafikkort, utan att något skickas från enheten.

Vad du bör se upp med

Mobilstöd finns på pappret. Att ladda ner flera gigabyte vikter över mobilnätet och sedan hålla dem i minnet är en annan fråga än om API:et finns.

Vanliga frågor

Behöver jag ett dedikerat grafikkort för WebGPU?

Nej. WebGPU fungerar på integrerad grafik, och enklare beräkningar och rendering går bra där. Språkmodeller är undantaget: de behöver flera gigabyte grafikminne, och integrerade kretsar som delar systemminnet blir antingen mycket långsamma eller får minnet att ta slut.

Är WebGPU samma sak som att köra AI offline?

Nej. WebGPU avgör bara var beräkningen sker. Modellvikterna måste ändå laddas ner över nätet första gången, och resten av sidan kan fortfarande göra serveranrop. Körning på enheten och offlinefunktion är två skilda egenskaper som ofta, men inte alltid, hänger ihop.

Bygg det själv

NorthernGo förvandlar en beskrivning i ren text till en fungerande webbapp med databas, inloggning och en live-adress. Lokal AI-generering körs på ditt eget grafikkort, är obegränsad och ingår gratis i alla prisplaner.

Börja bygga gratis