categorie

> ai & automation

Artikelen en nieuws over AI & Automation, nieuwste eerst.

Hoe een plaatje uit ruis ontstaat

Beeldgeneratoren beginnen met pure ruis en halen die er stap voor stap weer uit. Volg op een raster van 32×32 hoe diffusie werkt, wat het model eigenlijk leert, en schuif zelf het ruisniveau op en neer.

Attention: waar een taalmodel naar kijkt

Eén vector per woord weet niet of 'bank' een zitbank of een geldbank is. Attention lost dat op: elk woord stelt een vraag aan de woorden ervoor. Volg de rekensom stap voor stap en klik zelf door de gewichten.

Embeddings: woorden als punten in een ruimte

Een token-id is alleen een rijnummer. De betekenis zit in de rij getallen die erbij hoort: een punt in een ruimte waar kat dicht bij hond ligt. Met echte vectoren zie je waarom king − man + woman bij queen uitkomt, en waarom dat minder netjes is dan het lijkt.