14 min lezen
Hoe een taalmodel werkt: van token tot agent
Een uitleg van hoe taalmodellen werken: van tokens en trainen tot hallucinaties en agents, zonder wiskunde.
Welkom op mijn persoonlijke website. Ik schrijf hier over wat me bezighoudt, opvalt of nieuwsgierig maakt. Zonder vast onderwerp of planning, vooral als notities aan mezelf.
Bekijk waar ik nu mee bezig ben, lees meer over mij of neem contact met me op. Je vindt me ook op LinkedIn.
Artikelen
Kort
-
Alles leek goed te gaan. In het café was Harrie de gebraden haan.
— Ik hou van mij, de biografie van Harrie Jekkers
Die uitdrukking kende ik niet. De gebraden haan uithangen betekent dat je iedereen wilt laten zien hoe rijk en belangrijk je bent. Waar het vandaan komt weten we niet zeker.
-
There are certain situations where AI can do superhuman things, but so can forklifts.
Zo snel code kloppen als AI kan geen mens. Maar bepalen welk probleem opgelost moet worden en welke afwegingen belangrijk zijn, is nog steeds mensenwerk. Dat zal nog wel een tijd zo blijven, al ben ik benieuwd wanneer die conclusie achterhaald blijkt.
-
Als spaties in een stuk tekst toevallig onder elkaar vallen, ontstaan er verticale witrivieren door de alinea heen. Die rivieren van wit komen vooral voor bij uitgevulde tekst in smalle kolommen.
-
Het woord mayday is niet geïnspireerd door een mooie dag in mei, maar een verbastering van het Franse m’aider (‘help mij’), verkort uit venez m’aider.
-
The emptiness you’re feeling deep down inside
May never go away, at least it’s gonna take time
You gotta learn where to put it, it’s a part of life
Don’t let it wreak havoc on the rest of your time -
Alibaba kondigde zondag Qwen3.8 aan en gaat de gewichten vrijgeven. Het is straks dus open-weight en je kunt het model op je eigen hardware draaien. Open-weight is wat anders dan open source, want je krijgt niet te zien wat er in de trainingsdata zit en hoe het model precies getraind is. (Er bestaan trouwens wel open source modellen, zie bijvoorbeeld Olmo van Ai2.)
In de praktijk maakt het verschil tussen open-weight en open source weinig uit. Een model dat iedereen kan downloaden en hosten is vervangbaar, en vervangbaar betekent in theorie goedkoop. Zodra dit soort open-weight modellen (bijna) net zo goed worden als de gesloten modellen van bijvoorbeeld Anthropic en OpenAI komt de hele markt onder druk te staan. In Who’s Afraid of Chinese Models? gaat Ben Thompson hier verder op in.
-
How Docker Works Under the Hood
blog.bytebytego.com
Honderden containers opgestart, en toch nooit helemaal begrepen hoe Docker nu eigenlijk werkt. Dit stuk legt het helder uit, en de nieuwsbrief van ByteByteGo is sowieso een aanrader.
-
“The best thing for being sad,” replied Merlin, beginning to puff and blow, “is to learn something. That’s the only thing that never fails. You may grow old and trembling in your anatomies, you may lie awake at night listening to the disorder of your veins, you may miss your only love, you may see the world about you devastated by evil lunatics, or know your honour trampled in the sewers of baser minds. There is only one thing for it then — to learn. Learn why the world wags and what wags it. That is the only thing which the mind can never exhaust, never alienate, never be tortured by, never fear or distrust, and never dream of regretting. Learning is the only thing for you. Look what a lot of things there are to learn.”
— T.H. White, The Once and Future King