BLOGG

Tekniska anteckningar.

Anteckningar ur de system vi bygger: lokala modeller och serving-lagret, RAG-arkitektur och åtkomstkontroll, datahemvist, integration i verksamheten. Fältanteckningar, inte marknadsföringstext.

Vad vi publicerar

Vi driver inte den här bloggen för att fylla en innehållskalender. Vi skriver om de frågor vi stött på när vi byggt ett system och inte hittat svar på någon annanstans.

Varje publicerat inlägg kommer ur en verklig installation, och där det står siffror beskriver vi hur de har mätts. Inga kundnamn, inga igenkännbara falldetaljer, i något inlägg.

ARKITEKTUR

Serving-lagret för lokala LLM: vLLM, SGLang, llama.cpp och Ollama

När modellen är vald är det första arkitekturbeslutet vilket serving-lager som ska köra den. Det här inlägget skiljer fyra lager åt, inte med funktionslistor utan med deras arkitektoniska angreppssätt för schemaläggning, minne, återanvändning och paketering. ARKITEKTUR

NES i webbläsaren: inte 60 bildrutor, 60,0988

NES-hårdvaran producerar 60,0988 bildrutor i sekunden; webbläsaren ritar i skärmens egen takt. Besluten vi tog mellan de två klockorna när vi byggde Kaset: att hålla kärnan utbytbar, att flytta renderingen ut ur huvudtråden och att behandla kompositsignalen som det medium spelen utformades för. GUIDE

Vad en MCP-server är och vad den inte är

MCP standardiserar protokollagret mellan en språkmodell och de system den ska nå. Den här texten går igenom arkitekturen, serverns primitiver och var auktoriseringen faktiskt sker — plus fyra saker som MCP inte är. ARKITEKTUR

Åtkomstkontroll i RAG: vem ser vad

När företagets dokument lämnas över till ett RAG-system följer den befintliga behörighetsmodellen i de flesta installationer inte med. En praktisk anteckning om vilket lager som upprätthåller åtkomsten, hur identiteten når fram till frågan och när en ändrad behörighet faktiskt landar i indexet.

Vänta inte på inlägget. Fråga oss direkt.

Fråga oss +90 222 606 0200

No deck needed. 20 minutes. The rest is up to you.